license: apache-2.0
library_name: vllm
pipeline_tag: automatic-speech-recognition
base_model: FunAudioLLM/Fun-ASR-Nano-2512
language:
- zh
- en
- ja
tags:
- funasr
- vllm
- speech-recognition
- automatic-speech-recognition
- openai-compatible
- qwen3
Fun-ASR-Nano-2512 vLLM 官方转换包
这是
FunAudioLLM/Fun-ASR-Nano-2512
的官方 vLLM 原生布局。它保留官方 checkpoint 的张量，只补充 vLLM
FunASRForConditionalGeneration 所需的文件结构。
这个仓库不是一个新模型，也没有增加 LoRA 权重。model.safetensors
中的 1,261 个张量与官方源 revision
272c57b82523ada6fd87095e955f8e29100979ab 的 model.pt 逐张量 bitwise
相同。
使用 vLLM 部署
已验证路径使用 float32，以保持最高转写准确度：
python -m pip install "vllm==0.27.1"
vllm serve FunAudioLLM/Fun-ASR-Nano-2512-vllm \
--revision vllm-0.27.1-20260830 \
--served-model-name fun-asr-nano \
--dtype float32 \
--gpu-memory-utilization 0.40 \
--enforce-eager
发送 OpenAI-compatible 转写请求：
curl -fL \
https://huggingface.co/FunAudioLLM/Fun-ASR-Nano-2512-vllm/resolve/vllm-0.27.1-20260830/example/zh.mp3 \
-o zh.mp3
curl -sS http://127.0.0.1:8000/v1/audio/transcriptions \
-F file=@zh.mp3 \
-F model=fun-asr-nano \
-F language=zh \
-F temperature=0 \
-F response_format=json
固定样例的预期文字：
开饭时间早上九点至下午五点。
来源与完整性
| 项目 | 值 |
|---|---|
| 官方来源 | FunAudioLLM/Fun-ASR-Nano-2512 |
| 源 revision | 272c57b82523ada6fd87095e955f8e29100979ab |
源 model.pt SHA-256 |
55ae0d2fee369f0f11cce0795f6927934ad17cf11b278a7e56a51272074160bb |
| 张量数 | 1,261 |
| LoRA 张量数 | 0 |
转换后 model.safetensors SHA-256 |
96dfbec48282dd24d3334369a01e9e909f321ee39a1b0003c528c5379f68c1a6 |
样例 example/zh.mp3 SHA-256 |
0e64de19e4ff9a02e682955c9112f32d2317cfdbb5bc2f3504664044c993f195 |
完整机器可读记录见
MODEL_PROVENANCE.json，可通过
convert_from_official.py 复现转换。
vLLM 原生布局最初来自社区仓
allendou/Fun-ASR-Nano-2512-vllm
和 vLLM #33247，后续格式与初始化修复见
#36108 与
#44215。本官方转换包保留这些贡献的署名，
同时把权重来源锚定到 FunAudioLLM 官方 checkpoint。
验证边界
当前证据覆盖 vLLM 0.27.1、PyTorch 2.13.0+cu129、Transformers 5.15.0 和单张 NVIDIA H100 80 GB。固定中文样例连续三次确定性请求均返回预期结果。 其他 vLLM 版本、加速卡、量化格式和更广泛数据集上的质量需要单独验证。
常规 FunASR Python 推理、时间戳、说话人识别和流式服务仍以
modelscope/FunASR 与原始 checkpoint
为 canonical 入口。
许可证
官方源模型声明 Apache License 2.0，详见 LICENSE。vLLM
等第三方软件仍适用各自许可证。