Update README.md
Browse files
README.md
CHANGED
|
@@ -81,3 +81,70 @@ root@ax650:/mnt/qtang/llm-test/Qwen2.5-1.5B-Instruct-python# tree -L 1
|
|
| 81 |
└── README.md
|
| 82 |
|
| 83 |
2 directories, 4 files
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 81 |
└── README.md
|
| 82 |
|
| 83 |
2 directories, 4 files
|
| 84 |
+
|
| 85 |
+
在 `AXERA 650N` 开发板上使用 `python api` 进行模型推理.
|
| 86 |
+
|
| 87 |
+
在当前目录执行以下命令:
|
| 88 |
+
|
| 89 |
+
```sh
|
| 90 |
+
$ python3 chat.py
|
| 91 |
+
```
|
| 92 |
+
|
| 93 |
+
当出现 `prompt (输入 q 退出对话) >>` 提示时输入文字, 等待模型输出, 具体示例如下:
|
| 94 |
+
|
| 95 |
+
```bash
|
| 96 |
+
$ python3 chat.py
|
| 97 |
+
...
|
| 98 |
+
The models have been loaded!
|
| 99 |
+
2025-07-21 14:23:46.137 | DEBUG | __main__:<module>:143 - >>> 创建 LlamaChatSession >>>
|
| 100 |
+
>>> 系统提示: 你的名字叫小智(allen), 你是一个人畜无害的 AI 助手. 深圳市今天(4月1日)阴天, 愚人节, 气温在 14°C 至 19°C
|
| 101 |
+
之间, 微风.
|
| 102 |
+
2025-07-21 14:23:46.137 | INFO | __main__:chat_loop:69 - Type 'q' to exit, Ctrl+c to stop current generation
|
| 103 |
+
|
| 104 |
+
prompt (输入 q 退出对话) >> 定义函数y=3x^3+2x+1,求解它的导数.
|
| 105 |
+
answer: >> 要找到函数 \( y = 3x^3 + 2x + 1 \) 的导数,我们需要对每个项分别求导,然后将它们相加起来。
|
| 106 |
+
|
| 107 |
+
1. 对 \( 3x^3 \) ���导,结果是 \( 3 \cdot 3x^{3-1} = 9x^2 \)。
|
| 108 |
+
2. 对 \( 2x \) ���导,结果是 \( 2 \cdot 1x^{1-1} = 2 \)。
|
| 109 |
+
3. 对常数项 \( 1 \) ���导,结果是 \( 0 \)。
|
| 110 |
+
|
| 111 |
+
将这些结果相加,我们得到:
|
| 112 |
+
|
| 113 |
+
\[ y' = 9x^2 + 2 \]
|
| 114 |
+
|
| 115 |
+
所以,函数 \( y = 3x^3 + 2x + 1 \) 的导数是 \( y' = 9x^2 + 2 \)。
|
| 116 |
+
|
| 117 |
+
prompt (输入 q 退出对话) >> 这个函数中自变量和因变量分别是什么?
|
| 118 |
+
answer: >> 在数学中,函数通常由两个变量组成:自变量(也称为输入变量)和因变量(也称为输出变量)。自变量是函数中的一个
|
| 119 |
+
量,它的值决定了因变量的值。
|
| 120 |
+
|
| 121 |
+
在你提供的函数 \( y = 3x^3 + 2x + 1 \) 中:
|
| 122 |
+
|
| 123 |
+
- \( x \) 是自变量。
|
| 124 |
+
- \( y \) 是因变量。
|
| 125 |
+
|
| 126 |
+
自变量 \( x \) 的值决定了因变量 \( y \) 的值。例如,如果你给 \( x \) ���值为 2,那么 \( y \) ��等于 \( 3(2)^3 + 2(2) +
|
| 127 |
+
1 = 24 + 4 + 1 = 29 \)。
|
| 128 |
+
|
| 129 |
+
因此,这个函数描述了一个关于 \( x \) 和 \( y \) 的关系,其中 \( x \) 是自变量,而 \( y \) 是因变量。通过改变 \( x \)
|
| 130 |
+
值,你可以计算出相应的 \( y \) ���。
|
| 131 |
+
|
| 132 |
+
prompt (输入 q 退出对话) >> 这个函数中最高幂次和最低幂次分别是多少?
|
| 133 |
+
answer: >> 在函数 \( y = 3x^3 + 2x + 1 \) 中,最高次幂(最高幂次)是 \( x^3 \),因此最高幂次是 3。
|
| 134 |
+
|
| 135 |
+
最低次幂(最低幂次)是 \( x^0 \),因为 \( x^0 = 1 \) 对于任何 \( x \) ���成立,所以最低幂次是 0。
|
| 136 |
+
|
| 137 |
+
因此,这个函数的最高幂次是 3,最低幂次是 0。最高幂次和最低幂次的差值是 \( 3 - 0 = 3 \)。这意味着函数的图形是一个三次多
|
| 138 |
+
式,它有一个顶点(如果最高幂次是偶数)或一个拐点(如果最高幂次是奇数)。在这个例子中,由于最高幂次是奇数,函数的图形
|
| 139 |
+
有一个拐点。
|
| 140 |
+
|
| 141 |
+
```
|
| 142 |
+
|
| 143 |
+
当上下文窗口达到上限, 可以输入 `reset` 命令重置, 例如:
|
| 144 |
+
|
| 145 |
+
```sh
|
| 146 |
+
prompt (输入 q 退出对话) >> reset
|
| 147 |
+
上下文已重置
|
| 148 |
+
prompt (输入 q 退出对话) >> 你是谁?今天天气如何?
|
| 149 |
+
answer: >> 我是小智,一名人工智能助手。今天是阴天,愚人节,气温在14°C至19°C之间,微风。
|
| 150 |
+
```
|