File size: 2,873 Bytes
ffb9f53 64eb4f0 01719d6 64eb4f0 01719d6 64eb4f0 01719d6 64eb4f0 01719d6 64eb4f0 01719d6 64eb4f0 01719d6 64eb4f0 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 | ---
license: mit
---
# Tmp_Models
临时模型仓（量化产物中转）。
## sensevoice_ax650_npu2
AX650N 的 SenseVoice NPU2（双核）量化部署包，含**离线 + 流式**两版模型、可执行文件、
示例音频与一键脚本，U16 激活 / S8 权重。
### 目录
```
sensevoice_ax650_npu2/
├── run.sh # 一键识别（默认 example/zh.mp3；-s 流式）
├── bin/
│ ├── test_sensevoice # aarch64 命令行（离线 / -s 流式）
│ └── asr_server # aarch64 HTTP ASR 服务（可选）
├── lib/ # AX 运行时 .so（libax_engine/interpreter/sys）
├── example/ # zh/en/ja/ko/yue 示例音频
├── am.mvn / tokens.txt / chn_jpn_yue_eng_ko_spectok.bpe.model
├── sensevoice.axmodel # 非流式（offline，max_seq_len=256）
├── streaming_sensevoice.axmodel# 流式（26 帧滚动窗口，每 10 帧一推）
└── sensevoice/ # 与官方 AXERA-TECH/SenseVoice 相同的加载布局
├── am.mvn / tokens.txt / chn_jpn_yue_eng_ko_spectok.bpe.model
├── sensevoice.axmodel
└── streaming_sensevoice.axmodel
```
> `test_sensevoice` / `asr_server` 已**静态链接** AX 运行时（`AX_ENGINE_*` 为二进制内部
> 符号），实际只依赖板端标准系统库（glibc / libstdc++ / libgcc_s）。`lib/` 中的
> `libax_*.so` 为同版本 BSP 运行时，供自行编译的动态链接程序或调试使用。
### 快速开始（板端，aarch64 Linux + AX650N 驱动）
```bash
# 下载本目录后（含 model 文件）：
cd sensevoice_ax650_npu2
chmod +x run.sh bin/test_sensevoice
./run.sh # 离线识别 example/zh.mp3
./run.sh example/en.mp3 -l en # 指定音频/语言
./run.sh example/zh.mp3 -s # 流式识别（每 100ms 喂音频，打印增量结果）
```
直接调用二进制（等价）：
```bash
export LD_LIBRARY_PATH=$PWD/lib:/soc/lib:$LD_LIBRARY_PATH
./bin/test_sensevoice -a example/zh.mp3 -t sensevoice -p "$PWD" # 离线
./bin/test_sensevoice -a example/zh.mp3 -t sensevoice -p "$PWD" -s # 流式
```
Python 工程使用（[sensevoice.axera](https://github.com/AXERA-TECH/sensevoice.axera)）：
把本目录放到工程 `models/sensevoice_ax650/` 下，`python main.py -i xx.wav --streaming --chip ax650`。
### 板端验证（AX650N，AISHELL-S0764 96 句）
| 模型 | CER | zh 示例 RTF |
|---|---|---|
| NPU3 官方 streaming（参考） | 15.58% | 0.0267 |
| **NPU2 streaming（本包）** | **16.48%** | 0.0285 |
- 逐算子精度：streaming min cosine 0.890 / mean 0.9984；非流式 min 0.835 / mean 0.9974
- NPU2 与 NPU3 流式逐句字符一致率 97.12%（221 条有效样本）
- 编译配置与复现步骤见 sensevoice.axera 的 `model_convert/README.md`
|