Dataset Viewer
Auto-converted to Parquet Duplicate
text
stringclasses
3 values
torch
torchaudio
transformers

运行顺序

只执行 bash run.sh。脚本按下面的顺序走。某一步打印 STOP 时,进程以非 0 退出,后面的步骤不会开始。

0. 环境

bash run.sh

依赖由脚本安装:torch、torchaudio、transformers。不需要指定 GPU。有 CUDA 时特征提取会用到全部可见卡;没有 CUDA 时仍会跑,只是更慢。

1. 下载

脚本第一次读数据时自动下载,不要改保存位置。

  • Speech Commands v0.02,约 2.3 GB
    http://download.tensorflow.org/data/speech_commands_v0.02.tar.gz
    目录:data/speech_commands_v0.02/
  • 编码器 openai/whisper-base,从 Hugging Face 拉取。该模型是公开权重,不需要令牌。

2. 冒烟(256 条训练,128 条测试,1 个 epoch)

输出目录:results_smoke/。

继续做第 3 步的条件:results_smoke/results.json 里 with_calibration.choice_acc >= 0.30。脚本此时打印 CONTINUE。

停止的条件:准确率低于 0.30,或这一步报错。脚本打印 STOP smoke choice_acc<0.30 并退出。不要开始全量。0.30 只说明特征和标签没有接反,不是论文数字。

3. 全量(最多 20000 条训练,4000 条测试,8 个 epoch)

只有第 2 步为 CONTINUE 才执行。输出目录:results/。

训练两个头:带校准项,和不带校准项。然后测延迟和选项词。

4. 全量结束后的门槛

全部满足才打印 CONTINUE,并留下 results/GATE.txt:

检查 继续 停止
命令准确率 >= 0.50 STOP choice_acc<0.50
历史长度 重编码 T=16 的毫秒数 / 因果一步的毫秒数 >= 3 STOP T16/causal<3
问题个数 timing.speedup_K32 >= 4 STOP speedup_K32<4
校准 带校准的 ECE 小于不带校准的 ECE STOP ece did not drop
拒答 覆盖率 0.73 时,置信度的风险不高于最大 softmax STOP confidence risk worse than max-softmax
选项词 yes 的 AUC 减去 no 的 AUC,大于 A 与 B 的 AUC 之差再加 0.05 STOP yes/no swap did not exceed A/B gap

任一条件失败:results/GATE.txt 第一行是 STOP,后面是原因,run.sh 退出码为 2。已经写好的 results/results.json 和 results/results_table.tex 保留,供核对,不要为了过门槛改测试结果。

5. 要交回的文件

  • results_smoke/results.json
  • results/results.json
  • results/results_table.tex
  • results/GATE.txt

results_table.tex 里的数字是实测,用黑色写进论文。论文里的紫色数字是目标,不要改成接近紫色。

Downloads last month
36