dlxj commited on
Commit ·
b1f5190
1
Parent(s): b3349d9
rnnt_eou 的数据集能复用前面 CTC 的吗
Browse files- readme.txt +49 -0
readme.txt
CHANGED
|
@@ -400,3 +400,52 @@ python examples/asr/asr_cache_aware_streaming/speech_to_text_cache_aware_streami
|
|
| 400 |
|
| 401 |
|
| 402 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 400 |
|
| 401 |
|
| 402 |
|
| 403 |
+
|
| 404 |
+
这的数据集能复用前面 CTC 的吗 `examples\asr\asr_eou\speech_to_text_rnnt_eou_train.py`
|
| 405 |
+
|
| 406 |
+
**不能直接原样复用**,你需要对之前的 CTC 数据集(通常是 JSONL 格式的 manifest 文件)进行一定的**加工和字段补充**。
|
| 407 |
+
|
| 408 |
+
为什么不能直接复用?
|
| 409 |
+
|
| 410 |
+
传统的 CTC 模型只关心“这段音频里说了什么”,所以它的 manifest 文件通常只需要以下几个基本字段:
|
| 411 |
+
* `audio_filepath`: 音频路径
|
| 412 |
+
* `duration`: 音频总长度
|
| 413 |
+
* `text`: 音频对应的文本
|
| 414 |
+
|
| 415 |
+
但 `speech_to_text_rnnt_eou_train.py` 是用来训练 **EOU(端点检测)** 模型的。模型为了学习什么时候该“掐断”语音,必须要知道这句话具体是**几秒开始**、**几秒结束**的。因此,脚本注释中明确指出了数据集必须包含两个额外字段:
|
| 416 |
+
* `sou_time`: Start of utterance time(语音开始时间,单位秒)
|
| 417 |
+
* `eou_time`: End of utterance time(语音结束时间,单位秒)
|
| 418 |
+
|
| 419 |
+
如何改造之前的 CTC 数据集来复用?
|
| 420 |
+
|
| 421 |
+
你可以写一个简单的 Python 脚本遍历你之前的 JSONL 文件,并为每一行加上 `sou_time` 和 `eou_time`。
|
| 422 |
+
|
| 423 |
+
这里有两种情况:
|
| 424 |
+
|
| 425 |
+
情况一:你的 CTC 音频切分得很干净(头尾几乎没有静音)
|
| 426 |
+
如果你之前的音频文件已经切得很紧凑了,你可以直接做个粗略的近似:
|
| 427 |
+
* `sou_time` 直接设为 `0.0`(或者 `0.1`)
|
| 428 |
+
* `eou_time` 直接设为音频的 `duration`(或者 `duration - 0.1`)
|
| 429 |
+
|
| 430 |
+
**改造后的数据格式示例:**
|
| 431 |
+
```json
|
| 432 |
+
{
|
| 433 |
+
"audio_filepath": "/path/to/audio.wav",
|
| 434 |
+
"text": "你好",
|
| 435 |
+
"offset": 0.0,
|
| 436 |
+
"duration": 3.0,
|
| 437 |
+
"sou_time": 0.0, // 新增:认为从头开始说
|
| 438 |
+
"eou_time": 3.0 // 新增:认为说到结尾结束
|
| 439 |
+
}
|
| 440 |
+
```
|
| 441 |
+
|
| 442 |
+
情况二:你的 CTC 音频头尾包含较长、不固定的静音(推荐做法)
|
| 443 |
+
如果头尾有几秒钟的静音,直接用 `duration` 做 `eou_time` 会导致模型学到错误的断句时机(反应迟钝)。
|
| 444 |
+
这时候你需要:
|
| 445 |
+
1. 使用 VAD(Voice Activity Detection,如 WebRTC VAD 或 NeMo 自带的 VAD 模型)扫一遍你的音频。
|
| 446 |
+
2. 提取出真正有声音的起止时间。
|
| 447 |
+
3. 把提取出的起始时间填入 `sou_time`,结束时间填入 `eou_time`。
|
| 448 |
+
|
| 449 |
+
> **提示:** NeMo 官方在这个脚本注释里也提到了一个辅助文件 `nemo/collections/asr/data/audio_to_eou_label_lhotse.py`,你可以参考 NeMo 源码中的这个文件,它内部包含了如何构建这类 EOU 标签数据的逻辑。
|
| 450 |
+
|
| 451 |
+
|