Update README.md
Browse files
README.md
CHANGED
|
@@ -10,6 +10,12 @@ base_model:
|
|
| 10 |
# 介绍
|
| 11 |
本模型是基于[deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B](https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B)转换成rkllm格式的模型的，已在香橙派5的RK3588S平台上成功运行。
|
| 12 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 13 |
# 运行环境
|
| 14 |
RKNPU Version: 0.9.8
|
| 15 |
|
|
|
|
| 10 |
# 介绍
|
| 11 |
本模型是基于[deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B](https://huggingface.co/deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B)转换成rkllm格式的模型的，已在香橙派5的RK3588S平台上成功运行。
|
| 12 |
|
| 13 |
+
在香橙派5上的部署教程：[RKLLM部署语言大模型教程](https://wiki.vrxiaojie.top/Deepseek-R1-RK3588-OrangePi5/)
|
| 14 |
+
|
| 15 |
+
|模型|内存占用|NPU占用|模型大小|
|
| 16 |
+
|---|---|---|---|
|
| 17 |
+
|DeepSeek-R1-Distill-Qwen-1.5B-RK3588S-RKLLM1.1.4|2.5GB|3核 63%|1.89GB|
|
| 18 |
+
|
| 19 |
# 运行环境
|
| 20 |
RKNPU Version: 0.9.8
|
| 21 |
|