File size: 671 Bytes
ba64102
 
 
 
 
 
 
 
 
 
19186aa
 
ba64102
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
---
language:
- zh
base_model:
- Qwen/Qwen3-4B-Instruct-2507
- Qwen/Qwen3-1.7B
- Qwen/Qwen3-0.6B
pipeline_tag: text-generation
---

![ ](./qwen3-nano-raspi.jpg)

# 用于Nano电子鹦鹉端上部署的Qwen3语言模型

本仓库是对Qwen3系列的3个开源模型的二次封装和量化,仅适用于[Nano电子鹦鹉](https://github.com/bd4sur/Nano)。包括以下3个模型:

- Qwen3-0.6B
- Qwen3-1.7B
- Qwen3-4B-Instruct-2507

有FP32(原始精度强制转换到FP32)和Q80(W8A32)两个量化规格。

推理引擎的主线实现只支持Q80量化规格。

具体用例请转到[GitHub](https://github.com/bd4sur/Nano),查看视频或在线体验。