| language: | |
| - zh | |
| base_model: | |
| - Qwen/Qwen2.5-3B-Instruct | |
| 本模型使用RKLLM转换而来,部署教程见:[RKLLM部署语言大模型教程](https://wiki.vrxiaojie.top/Deepseek-R1-RK3588-OrangePi5/) | |
| |模型|内存占用|NPU占用|模型大小| | |
| |---|---|---|---| | |
| |Qwen2.5-3B-Instruct-RKLLM1.1.4|3.7GB|3核 67%|3.48GB| |
| language: | |
| - zh | |
| base_model: | |
| - Qwen/Qwen2.5-3B-Instruct | |
| 本模型使用RKLLM转换而来,部署教程见:[RKLLM部署语言大模型教程](https://wiki.vrxiaojie.top/Deepseek-R1-RK3588-OrangePi5/) | |
| |模型|内存占用|NPU占用|模型大小| | |
| |---|---|---|---| | |
| |Qwen2.5-3B-Instruct-RKLLM1.1.4|3.7GB|3核 67%|3.48GB| |