Hugging Face's logo

FunAudioLLM
/
Fun-ASR-Nano-2512-vllm

Automatic Speech Recognition
Safetensors
Chinese
English
Japanese
vllm
qwen3
funasr
speech-recognition
openai-compatible
Model card Files
xet
 Community
Fun-ASR-Nano-2512-vllm
File size: 3,330 Bytes
a4362c9
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
---
license: apache-2.0
library_name: vllm
pipeline_tag: automatic-speech-recognition
base_model: FunAudioLLM/Fun-ASR-Nano-2512
language:
  - zh
  - en
  - ja
tags:
  - funasr
  - vllm
  - speech-recognition
  - automatic-speech-recognition
  - openai-compatible
  - qwen3
---

# Fun-ASR-Nano-2512 vLLM 官方转换包

这是
[`FunAudioLLM/Fun-ASR-Nano-2512`](https://huggingface.co/FunAudioLLM/Fun-ASR-Nano-2512)
的官方 vLLM 原生布局。它保留官方 checkpoint 的张量，只补充 vLLM
`FunASRForConditionalGeneration` 所需的文件结构。

这个仓库不是一个新模型，也没有增加 LoRA 权重。`model.safetensors`
中的 1,261 个张量与官方源 revision
`272c57b82523ada6fd87095e955f8e29100979ab` 的 `model.pt` 逐张量 bitwise
相同。

## 使用 vLLM 部署

已验证路径使用 float32，以保持最高转写准确度：

```bash
python -m pip install "vllm==0.27.1"

vllm serve FunAudioLLM/Fun-ASR-Nano-2512-vllm \
  --revision vllm-0.27.1-20260830 \
  --served-model-name fun-asr-nano \
  --dtype float32 \
  --gpu-memory-utilization 0.40 \
  --enforce-eager
```

发送 OpenAI-compatible 转写请求：

```bash
curl -fL \
  https://huggingface.co/FunAudioLLM/Fun-ASR-Nano-2512-vllm/resolve/vllm-0.27.1-20260830/example/zh.mp3 \
  -o zh.mp3

curl -sS http://127.0.0.1:8000/v1/audio/transcriptions \
  -F file=@zh.mp3 \
  -F model=fun-asr-nano \
  -F language=zh \
  -F temperature=0 \
  -F response_format=json
```

固定样例的预期文字：

```text
开饭时间早上九点至下午五点。
```

## 来源与完整性

| 项目 | 值 |
| --- | --- |
| 官方来源 | `FunAudioLLM/Fun-ASR-Nano-2512` |
| 源 revision | `272c57b82523ada6fd87095e955f8e29100979ab` |
| 源 `model.pt` SHA-256 | `55ae0d2fee369f0f11cce0795f6927934ad17cf11b278a7e56a51272074160bb` |
| 张量数 | 1,261 |
| LoRA 张量数 | 0 |
| 转换后 `model.safetensors` SHA-256 | `96dfbec48282dd24d3334369a01e9e909f321ee39a1b0003c528c5379f68c1a6` |
| 样例 `example/zh.mp3` SHA-256 | `0e64de19e4ff9a02e682955c9112f32d2317cfdbb5bc2f3504664044c993f195` |

完整机器可读记录见
[`MODEL_PROVENANCE.json`](./MODEL_PROVENANCE.json)，可通过
[`convert_from_official.py`](./convert_from_official.py) 复现转换。

vLLM 原生布局最初来自社区仓
[`allendou/Fun-ASR-Nano-2512-vllm`](https://huggingface.co/allendou/Fun-ASR-Nano-2512-vllm)
和 vLLM [#33247](https://github.com/vllm-project/vllm/pull/33247)，后续格式与初始化修复见
[#36108](https://github.com/vllm-project/vllm/pull/36108) 与
[#44215](https://github.com/vllm-project/vllm/pull/44215)。本官方转换包保留这些贡献的署名，
同时把权重来源锚定到 FunAudioLLM 官方 checkpoint。

## 验证边界

当前证据覆盖 vLLM 0.27.1、PyTorch 2.13.0+cu129、Transformers 5.15.0
和单张 NVIDIA H100 80 GB。固定中文样例连续三次确定性请求均返回预期结果。
其他 vLLM 版本、加速卡、量化格式和更广泛数据集上的质量需要单独验证。

常规 FunASR Python 推理、时间戳、说话人识别和流式服务仍以
[`modelscope/FunASR`](https://github.com/modelscope/FunASR) 与原始 checkpoint
为 canonical 入口。

## 许可证

官方源模型声明 Apache License 2.0，详见 [`LICENSE`](./LICENSE)。vLLM
等第三方软件仍适用各自许可证。