dlxj commited on
Commit ·
ab1cfde
1
Parent(s): b1f5190
那这样推理起来是不是很麻烦,现实表现怎么样
Browse files- readme.txt +39 -0
readme.txt
CHANGED
|
@@ -449,3 +449,42 @@ python examples/asr/asr_cache_aware_streaming/speech_to_text_cache_aware_streami
|
|
| 449 |
> **提示:** NeMo 官方在这个脚本注释里也提到了一个辅助文件 `nemo/collections/asr/data/audio_to_eou_label_lhotse.py`,你可以参考 NeMo 源码中的这个文件,它内部包含了如何构建这类 EOU 标签数据的逻辑。
|
| 450 |
|
| 451 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 449 |
> **提示:** NeMo 官方在这个脚本注释里也提到了一个辅助文件 `nemo/collections/asr/data/audio_to_eou_label_lhotse.py`,你可以参考 NeMo 源码中的这个文件,它内部包含了如何构建这类 EOU 标签数据的逻辑。
|
| 450 |
|
| 451 |
|
| 452 |
+
|
| 453 |
+
|
| 454 |
+
|
| 455 |
+
那这样推理起来是不是很麻烦,现实表现怎么样
|
| 456 |
+
|
| 457 |
+
恰恰相反!**训练的时候准备数据确实麻烦了一点,但推理(部署)的时候反而变得极其简单,而且现实表现是目前工业界的天花板。**
|
| 458 |
+
|
| 459 |
+
这也是为什么现在主流的大厂(比如 OpenAI 的实时语音、各种智能音箱和车机)都在往这种架构转。我们可以从以下两个方面来看:
|
| 460 |
+
|
| 461 |
+
1. 推理为什么反而更简单了?(端到端 vs 拼凑的流水线)
|
| 462 |
+
|
| 463 |
+
**传统 CTC 的推理流水线(极其臃肿):**
|
| 464 |
+
以前你要做一个能聊天的语音助手,不仅需要 ASR 模型,还需要外挂一堆东西:
|
| 465 |
+
1. **VAD 模型(静音检测)**:先听声音,判断有没有人说话。
|
| 466 |
+
2. **打断逻辑**:如果 VAD 发现静音超过 800 毫秒,程序才敢判定用户说完了。
|
| 467 |
+
3. **ASR 识别**:把切下来的音频送给 CTC 模型识别。
|
| 468 |
+
> *痛点:你要维护多个模型,还要自己写复杂的时序逻辑来回传数据,很容易出 Bug。*
|
| 469 |
+
|
| 470 |
+
**RNNT-EOU 的推理流水线(极简):**
|
| 471 |
+
1. 麦克风收音,直接源源不断地(流式)喂给这一个模型。
|
| 472 |
+
2. 模型边听边吐字:`今` -> `天` -> `天` -> `气` -> `真` -> `好` -> `<EOU>`。
|
| 473 |
+
3. 代码里只需要写一个极简的判断:**只要模型输出了 `<EOU>` 这个 Token,立刻掐断录音,开始回答!**
|
| 474 |
+
> *优势:不需要 VAD,不需要写复杂的静音倒计时逻辑。模型自己告诉你“他说完了”。*
|
| 475 |
+
|
| 476 |
+
2. 现实表现怎么样?(降维打击)
|
| 477 |
+
|
| 478 |
+
在现实的语音交互场景中,带有 EOU 的 RNNT 模型表现出了极强的“类人”交互感,主要体现在两个方面:
|
| 479 |
+
|
| 480 |
+
* **极低的延迟(接话极快)**
|
| 481 |
+
* 传统 VAD 必须**死等**一段绝对的静音(比如 0.8 秒)才敢认为你闭嘴了,导致机器总是慢半拍。
|
| 482 |
+
* EOU 模型是**结合了“语义”和“声学”**来判断的。它听懂了“天气真好”这句话在语法上已经结束了,而且语调也在下降,所以它在你说完最后一个字的瞬间(延迟通常在 100~300 毫秒内)就能立刻吐出 `<EOU>`。**给人的感觉就是机器“秒接”你的话,非常丝滑。**
|
| 483 |
+
* **不会随便打断你(懂语义)**
|
| 484 |
+
* 传统 VAD 很傻:如果你说话大喘气,或者思考了一下(“我要吃……呃……苹果”),中间停顿了 1 秒,VAD 就会直接把你的话切断,机器就开始抢答“你要吃什么?”。
|
| 485 |
+
* EOU 模型很聪明:它知道“我要吃”在语法上是不完整的,所以哪怕你停顿了 2 秒钟,它也不会吐出 `<EOU>`,它会耐心地等你把“苹果”说出来。
|
| 486 |
+
|
| 487 |
+
总结
|
| 488 |
+
|
| 489 |
+
这是一种**“把复杂留给训练,把简单留给推理”**的优雅设计。
|
| 490 |
+
虽然你前期需要花点功夫把 CTC 的数据集洗出 `sou_time` 和 `eou_time`,但一旦模型训练出来,你的部署代码会变得非常清爽,而且用户体验会从“智障机器”瞬间升级为“像真人在跟你对话”。
|