optimize README
Browse files
README.md
CHANGED
|
@@ -25,9 +25,9 @@ OS_model使用了云大数存场景历史性能调优语料进行微调,在大
|
|
| 25 |
| 部署平台 | prefill吞吐(tokens/s) | decode吞吐(tokens/s) | 推理过程吞吐(tokens/s) | 相对基线性能提升(%) |
|
| 26 |
| :---: | :---: | :---: | :---: | :---: |
|
| 27 |
| 鲲鹏920 | 115.73 | 4.62 | **16.50** | / |
|
| 28 |
-
| 鲲鹏920优化后 | 81.68 | 7.35 | **
|
| 29 |
| 鲲鹏920B | 74.28 | 42.54 | **62.60** | / |
|
| 30 |
-
| 鲲鹏920B优化后 | 325.23 | 36.39 | **
|
| 31 |
|
| 32 |
|
| 33 |
### 获取模型
|
|
|
|
| 25 |
| 部署平台 | prefill吞吐(tokens/s) | decode吞吐(tokens/s) | 推理过程吞吐(tokens/s) | 相对基线性能提升(%) |
|
| 26 |
| :---: | :---: | :---: | :---: | :---: |
|
| 27 |
| 鲲鹏920 | 115.73 | 4.62 | **16.50** | / |
|
| 28 |
+
| 鲲鹏920优化后 | 81.68 | 7.35 | **23.15** | **40.28** |
|
| 29 |
| 鲲鹏920B | 74.28 | 42.54 | **62.60** | / |
|
| 30 |
+
| 鲲鹏920B优化后 | 325.23 | 36.39 | **108.98** | **74.08** |
|
| 31 |
|
| 32 |
|
| 33 |
### 获取模型
|