FunASR-bmodel

1. 简介

FunASR是一个流行的语音识别框架，本目录将常用的几个模型移植到算丰平台。

该例程支持在V23.09LTS SP3及以上的BM1684X SOPHONSDK, 或在v1.7.0及以上的BM1688 SOPHONSDK上运行，支持在插有1684X加速卡(SC7系列)的x86主机上运行，也可以在1684X SoC设备（如SE7、SM7、Airbox等）上运行，也支持在BM1688 Soc设备（如SE9-16）上运行。

2.特性

支持BM1684X(x86 PCIe、SoC)，BM1688(SoC)
支持FP32(BM1684X/BM1688)模型编译和推理

3. 准备模型

该模型目前支持在BM1684X和BM1688上运行，已提供编译好的bmodel。

3.1 使用提供的模型

本例程在各个模型的目录内scripts目录下提供了下载脚本download.sh

# 安装unzip，若已安装请跳过，非ubuntu系统视情况使用yum或其他方式安装
sudo apt-get update
sudo apt install unzip
chmod -R +x scripts/
./scripts/download.sh

支持的模型

模型名称	Python	C++
speech_paraformer-large-contextual_asr_nat-zh-cn-16k-common-vocab8404	支持	支持
speech_paraformer-large_asr_nat-zh-cn-16k-common-vocab8404-online	支持	支持
speech_seaco_paraformer_large_asr_nat-zh-cn-16k-common-vocab8404	支持	不支持
speech_fsmn_vad_zh-cn-16k-common	支持	支持
punc_ct-transformer_zh-cn-common-vocab272727	支持	支持
speech_campplus_sv_zh-cn_16k-common	支持	不支持

3.2 编译模型

请参考模型目录内的readme.md编译

4. 运行测试

4.1 环境准备

Python需要先安装tpu_perf, 在x86平台使用算能计算卡（PCIE模式）时执行

pip3 install tpu_perf-1.2.35-py3-none-manylinux2014_x86_64.whl

在算能边缘计算盒子（SOC模式）上执行

pip3 install tpu_perf-1.2.35-py3-none-manylinux2014_aarch64.whl

另外还需要安装外部依赖库

pip3 install -r requirements.txt

ml-resources
/

FunASR-bmodel