--- language: - zh base_model: - Qwen/Qwen2.5-3B-Instruct --- 本模型使用RKLLM转换而来,部署教程见:[RKLLM部署语言大模型教程](https://wiki.vrxiaojie.top/Deepseek-R1-RK3588-OrangePi5/) |模型|内存占用|NPU占用|模型大小| |---|---|---|---| |Qwen2.5-3B-Instruct-RKLLM1.1.4|3.7GB|3核 67%|3.48GB|