正常训练

examples/asr/asr_ctc/speech_to_text_ctc_bpe.py

@@ -103,7 +103,7 @@ if __name__ == '__main__':
         'exp_manager.resume_ignore_no_checkpoint=true',
         'exp_manager.exp_dir=results/',
         'exp_manager.checkpoint_callback_params.save_top_k=1',
-        'exp_manager.checkpoint_callback_params.every_n_epochs=100',
+        '+exp_manager.checkpoint_callback_params.every_n_epochs=100',
         '++model.encoder.conv_norm_type=layer_norm',
         'model.tokenizer.dir=data/common_voice_11_0/ja/tokenizers/tokenizer_spe_bpe_v2491',
         'model.train_ds.tarred_audio_filepaths=data/common_voice_11_0/ja/train_tarred_1bk/audio__OP_0..1023_CL_.tar',
@@ -113,7 +113,7 @@ if __name__ == '__main__':
         'model.train_ds.manifest_filepath=data/common_voice_11_0/ja/train_tarred_1bk/tarred_audio_manifest.json',
         'model.validation_ds.manifest_filepath=data/common_voice_11_0/ja/validation/validation_common_voice_11_0_manifest.json',
         'model.test_ds.manifest_filepath=data/common_voice_11_0/ja/test/test_common_voice_11_0_manifest.json',
-        'trainer.max_epochs=1000',
+        'trainer.max_epochs=100',
         'trainer.devices=1',
         'trainer.accelerator=gpu',
         'trainer.strategy=auto',

readme.txt

@@ -37,6 +37,36 @@ offset_list = self.collection.mapping[file_id]
 
 
 
+`examples\asr\asr_ctc\speech_to_text_ctc_bpe.py#L118-120` 这几个参数是作什么用的
+
+这几个参数是用来配置 **PyTorch DataLoader 的工作进程数（Worker Processes）** 的。
+
+```python
+'model.train_ds.num_workers=0',      # 训练集的数据加载进程数
+'model.validation_ds.num_workers=0', # 验证集的数据加载进程数
+'model.test_ds.num_workers=0',       # 测试集的数据加载进程数
+```
+
+### 为什么设置为 0？
+
+在 PyTorch 中，`num_workers` 控制着有多少个子进程用于同时（并行）从磁盘加载和预处理数据。
+- **`num_workers > 0`**：主进程会派生出多个子进程来预读取数据，这样在 GPU 计算时，CPU 也能同时准备下一批数据，从而加快整体训练速度。
+- **`num_workers = 0`**：表示**关闭多进程数据加载**，所有数据的读取和预处理都在主进程（当前运行的单一线程）中串行同步完成。
+
+### 为什么你在 Windows 下需要把它们设为 0？
+
+在 Linux 下，创建多进程使用的是 `fork`，非常高效且不易出错，通常会将 `num_workers` 设为大于 0 的数（比如等于 CPU 核心数）。
+但是在 **Windows** 下，创建多进程使用的是 `spawn` 机制，这种机制要求被传递到子进程中的所有对象都必须是**可以被 pickle 序列化**的。
+
+由于 NeMo 的数据预处理管道（特别是带有 `WebDataset` / `TarredDataset` 或者某些复杂的闭包函数、生成器时）中存在很多**无法被 pickle 序列化的对象**，如果在此环境下将 `num_workers` 设置为大于 0，就会直接触发类似 `PicklingError`、`AttributeError` 或卡死报错。
+
+**总结来说：**
+将它们设置为 `0` 是一种在 **Windows 环境下安全运行的“妥协方案”**，能有效避免多进程数据加载带来的序列化报错（Pickle Error），代价是数据加载速度可能会比多进程慢一些。
+
+
+
+
+
 conda create -n NeMo python==3.12 pip
 conda activate NeMo
 pip install -r requirements.txt
@@ -137,3 +167,7 @@ python examples/asr/asr_ctc/speech_to_text_ctc_bpe.py \
   model.test_ds.manifest_filepath=$TEST_MANIFEST
 
 
+  python examples\asr\asr_ctc\speech_to_text_ctc_bpe.py
+    开始训练
+
+