text stringclasses 3
values |
|---|
torch |
torchaudio |
transformers |
运行顺序
只执行 bash run.sh。脚本按下面的顺序走。某一步打印 STOP 时,进程以非 0 退出,后面的步骤不会开始。
0. 环境
bash run.sh
依赖由脚本安装:torch、torchaudio、transformers。不需要指定 GPU。有 CUDA 时特征提取会用到全部可见卡;没有 CUDA 时仍会跑,只是更慢。
1. 下载
脚本第一次读数据时自动下载,不要改保存位置。
- Speech Commands v0.02,约 2.3 GB
http://download.tensorflow.org/data/speech_commands_v0.02.tar.gz
目录:data/speech_commands_v0.02/ - 编码器
openai/whisper-base,从 Hugging Face 拉取。该模型是公开权重,不需要令牌。
2. 冒烟(256 条训练,128 条测试,1 个 epoch)
输出目录:results_smoke/。
继续做第 3 步的条件:results_smoke/results.json 里 with_calibration.choice_acc >= 0.30。脚本此时打印 CONTINUE。
停止的条件:准确率低于 0.30,或这一步报错。脚本打印 STOP smoke choice_acc<0.30 并退出。不要开始全量。0.30 只说明特征和标签没有接反,不是论文数字。
3. 全量(最多 20000 条训练,4000 条测试,8 个 epoch)
只有第 2 步为 CONTINUE 才执行。输出目录:results/。
训练两个头:带校准项,和不带校准项。然后测延迟和选项词。
4. 全量结束后的门槛
全部满足才打印 CONTINUE,并留下 results/GATE.txt:
| 检查 | 继续 | 停止 |
|---|---|---|
| 命令准确率 | >= 0.50 |
STOP choice_acc<0.50 |
| 历史长度 | 重编码 T=16 的毫秒数 / 因果一步的毫秒数 >= 3 |
STOP T16/causal<3 |
| 问题个数 | timing.speedup_K32 >= 4 |
STOP speedup_K32<4 |
| 校准 | 带校准的 ECE 小于不带校准的 ECE | STOP ece did not drop |
| 拒答 | 覆盖率 0.73 时,置信度的风险不高于最大 softmax | STOP confidence risk worse than max-softmax |
| 选项词 | yes 的 AUC 减去 no 的 AUC,大于 A 与 B 的 AUC 之差再加 0.05 |
STOP yes/no swap did not exceed A/B gap |
任一条件失败:results/GATE.txt 第一行是 STOP,后面是原因,run.sh 退出码为 2。已经写好的 results/results.json 和 results/results_table.tex 保留,供核对,不要为了过门槛改测试结果。
5. 要交回的文件
results_smoke/results.jsonresults/results.jsonresults/results_table.texresults/GATE.txt
results_table.tex 里的数字是实测,用黑色写进论文。论文里的紫色数字是目标,不要改成接近紫色。
- Downloads last month
- 36