dlxj commited on
Commit
b3349d9
·
1 Parent(s): 4a0b6ba

对比之前的 CTC 训练出来的模型有什么好处吗 ,rnnt 代表什么 eou 又代表什么

Browse files
Files changed (1) hide show
  1. readme.txt +28 -0
readme.txt CHANGED
@@ -369,6 +369,34 @@ python examples/asr/asr_cache_aware_streaming/speech_to_text_cache_aware_streami
369
 
370
 
371
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
372
 
373
 
374
 
 
369
 
370
 
371
 
372
+ 对比之前的 CTC 训练出来的模型有什么好处吗 ,rnnt 代表什么 eou 又代表什么 `examples\asr\asr_eou\speech_to_text_rnnt_eou_train.py`
373
+
374
+ 这个脚本 (`speech_to_text_rnnt_eou_train.py`) 用于训练一个结合了 **RNNT** 架构和 **EOU** 检测的端到端语音识别模型。
375
+
376
+ 相比于传统的 CTC(Connectionist Temporal Classification)模型,这个模型在**准确率**和**实时交互体验**上都有非常大的提升。
377
+
378
+ 以下是具体的概念解释和优势对比:
379
+
380
+ 1. RNNT 和 EOU 代表什么?
381
+
382
+ * **RNNT (Recurrent Neural Network Transducer)**:递归神经网络转换器(通常简称为 Transducer)。它是一种端到端的语音识别架构,由三个核心部分组成:**编码器 (Encoder)**(提取音频特征)、**预测网络 (Predictor/Decoder)**(类似语言模型,基于已输出的文字预测下一个字)和 **联合网络 (Joint Network)**(将两者的信息结合输出)。
383
+ * **EOU (End of Utterance)**:语音结束标志(句尾/端点检测)。在语音交互中,系统需要知道用户什么时候“说完了”。
384
+
385
+ 2. 相比之前 CTC 模型的巨大优势
386
+
387
+ 优势一:突破 CTC 的“条件独立性”假设,准确率更高(RNNT 的优势)
388
+ * **CTC 的局限**:CTC 模型假设每一个时刻的输出(每个字)是相互独立的,它缺乏内置的语言学上下文理解能力。要达到好效果,通常需要在解码时外挂一个庞大的语言模型(N-gram)。
389
+ * **RNNT 的提升**:RNNT 内部自带了一个“预测网络(Predictor)”,它可以根据之前已经识别出的文字,自回归地预测下一个字。这使得模型天生具备了语言模型的能力,在连读、长句、口音等复杂场景下的**识别准确率显著高于 CTC**。
390
+
391
+ 优势二:将“语音识别”与“断句检测”合二为一,极大地降低延迟(EOU 的优势)
392
+ * **传统 CTC 的痛点**:过去使用 CTC 模型时,系统不知道用户什么时候说完。通常需要外挂一个 VAD(静音检测)模块:当用户停止说话后,系统需要等待一段静音时间(比如 500ms 到 1000ms),确认用户真的不说了,才敢把结果返回。这会导致语音助手给人感觉反应很慢、“慢半拍”。
393
+ * **EOU 机制的革命性**:这个脚本训练的模型,会在字典中加入一个特殊的 `<EOU>` Token(见脚本注释提到的 `add_special_tokens_to_sentencepiece.py`)。模型在听音频的同时,不仅在预测文字,还在预测用户是否表达完毕。一旦模型预测出 `<EOU>` 标记,系统就可以**瞬间掐断并响应**,无需等待几百毫秒的静音。这对于流式语音助手(如类似 ChatGPT 的语音对话)是至关重要的特性。
394
+
395
+ 优势三:专为流式 (Streaming) 场景设计
396
+ * 从脚本中使用的默认配置名 `fastconformer_transducer_bpe_streaming` 可以看出,这是一个流式模型。配合 RNNT 架构和 EOU 特性,它可以做到“边听边翻”,并在话音刚落的瞬间完成交互闭环,非常适合对延迟要求极高的实时语音应用。
397
+
398
+ **总结**:如果你正在做一个需要**实时对话**、**快速响应**的语音助手,这套 RNNT + EOU 的模型方案会比传统的 CTC 方案带来质的飞跃(更高的准确率 + 几乎无感的交互延迟)。
399
+
400
 
401
 
402