File size: 671 Bytes
ba64102 19186aa ba64102 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 |
---
language:
- zh
base_model:
- Qwen/Qwen3-4B-Instruct-2507
- Qwen/Qwen3-1.7B
- Qwen/Qwen3-0.6B
pipeline_tag: text-generation
---

# 用于Nano电子鹦鹉端上部署的Qwen3语言模型
本仓库是对Qwen3系列的3个开源模型的二次封装和量化,仅适用于[Nano电子鹦鹉](https://github.com/bd4sur/Nano)。包括以下3个模型:
- Qwen3-0.6B
- Qwen3-1.7B
- Qwen3-4B-Instruct-2507
有FP32(原始精度强制转换到FP32)和Q80(W8A32)两个量化规格。
推理引擎的主线实现只支持Q80量化规格。
具体用例请转到[GitHub](https://github.com/bd4sur/Nano),查看视频或在线体验。
|