dlxj commited on
Commit
b1f5190
·
1 Parent(s): b3349d9

rnnt_eou 的数据集能复用前面 CTC 的吗

Browse files
Files changed (1) hide show
  1. readme.txt +49 -0
readme.txt CHANGED
@@ -400,3 +400,52 @@ python examples/asr/asr_cache_aware_streaming/speech_to_text_cache_aware_streami
400
 
401
 
402
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
400
 
401
 
402
 
403
+
404
+ 这的数据集能复用前面 CTC 的吗 `examples\asr\asr_eou\speech_to_text_rnnt_eou_train.py`
405
+
406
+ **不能直接原样复用**,你需要对之前的 CTC 数据集(通常是 JSONL 格式的 manifest 文件)进行一定的**加工和字段补充**。
407
+
408
+ 为什么不能直接复用?
409
+
410
+ 传统的 CTC 模型只关心“这段音频里说了什么”,所以它的 manifest 文件通常只需要以下几个基本字段:
411
+ * `audio_filepath`: 音频路径
412
+ * `duration`: 音频总长度
413
+ * `text`: 音频对应的文本
414
+
415
+ 但 `speech_to_text_rnnt_eou_train.py` 是用来训练 **EOU(端点检测)** 模型的。模型为了学习什么时候该“掐断”语音,必须要知道这句话具体是**几秒开始**、**几秒结束**的。因此,脚本注释中明确指出了数据集必须包含两个额外字段:
416
+ * `sou_time`: Start of utterance time(语音开始时间,单位秒)
417
+ * `eou_time`: End of utterance time(语音结束时间,单位秒)
418
+
419
+ 如何改造之前的 CTC 数据集来复用?
420
+
421
+ 你可以写一个简单的 Python 脚本遍历你之前的 JSONL 文件,并为每一行加上 `sou_time` 和 `eou_time`。
422
+
423
+ 这里有两种情况:
424
+
425
+ 情况一:你的 CTC 音频切分得很干净(头尾几乎没有静音)
426
+ 如果你之前的音频文件已经切得很紧凑了,你可以直接做个粗略的近似:
427
+ * `sou_time` 直接设为 `0.0`(或者 `0.1`)
428
+ * `eou_time` 直接设为音频的 `duration`(或者 `duration - 0.1`)
429
+
430
+ **改造后的数据格式示例:**
431
+ ```json
432
+ {
433
+ "audio_filepath": "/path/to/audio.wav",
434
+ "text": "你好",
435
+ "offset": 0.0,
436
+ "duration": 3.0,
437
+ "sou_time": 0.0, // 新增:认为从头开始说
438
+ "eou_time": 3.0 // 新增:认为说到结尾结束
439
+ }
440
+ ```
441
+
442
+ 情况二:你的 CTC 音频头尾包含较长、不固定的静音(推荐做法)
443
+ 如果头尾有几秒钟的静音,直接用 `duration` 做 `eou_time` 会导致模型学到错误的断句时机(反应迟钝)。
444
+ 这时候你需要:
445
+ 1. 使用 VAD(Voice Activity Detection,如 WebRTC VAD 或 NeMo 自带的 VAD 模型)扫一遍你的音频。
446
+ 2. 提取出真正有声音的起止时间。
447
+ 3. 把提取出的起始时间填入 `sou_time`,结束时间填入 `eou_time`。
448
+
449
+ > **提示:** NeMo 官方在这个脚本注释里也提到了一个辅助文件 `nemo/collections/asr/data/audio_to_eou_label_lhotse.py`,你可以参考 NeMo 源码中的这个文件,它内部包含了如何构建这类 EOU 标签数据的逻辑。
450
+
451
+