Download reports/additional-benchmarks/final_report.md from chenruishuo/roll-data: direct link, hf CLI and curl.
- Browser
- Download file 2.42 kB
-
https://huggingface.co/datasets/chenruishuo/roll-data/resolve/main/reports/additional-benchmarks/final_report.md
- Command line
-
hf download hf://datasets/chenruishuo/roll-data/reports/additional-benchmarks/final_report.md
-
curl -L -o final_report.md https://huggingface.co/datasets/chenruishuo/roll-data/resolve/main/reports/additional-benchmarks/final_report.md
新增纯视觉测试结果
checkpoint-62 / 原 f64 agent / 温度 0.7 / 每题 8 seed。只使用视频像素,无 ASR、音频或外部 caption。
| 来源 | 完成/计划题数 | 有效 rollout 次数 | 可判分题数 | 已完成子集严格正确率 | 0–3/8 题数 |
|---|---|---|---|---|---|
| TimeScope | 1050/1050 | 8400 | 1050 | 78.77% | 170 |
| SceneBench | 4803/4808 | 38424 | 4802 | 45.96% | 2471 |
SceneBench 有 5 题、40 次计划 rollout 因源媒体异常阻塞,保留原计划分母,不按 0/8 计入。详情见 SceneBench-blocked-media.json。
本报告包含尚未全量完成的来源。正确率只针对八次有效且可判分的已完成题目,不能称为完整 benchmark 成绩。
| 来源 | 0/8 | 1/8 | 2/8 | 3/8 | 4/8 | 5/8 | 6/8 | 7/8 | 8/8 |
|---|---|---|---|---|---|---|---|---|---|
| TimeScope | 41 | 48 | 48 | 33 | 34 | 40 | 82 | 246 | 478 |
| SceneBench | 1049 | 615 | 437 | 370 | 325 | 363 | 384 | 435 | 824 |
TimeScope 是 Apollo 的 1–30 分钟子集,不是论文 2509.26360 的 ToTG-Bench。SceneBench 只含指定五个视觉子集,17 条 GT 首尾空白规范化,1 条无法匹配选项的 GT 不计正确率。
共修复 6 个媒体容器的末尾非显示包计数问题;仅移除标记为 discard 的终端包,每次修复均核对全部解码帧的像素哈希、时间戳和帧数。原始及修复 SHA256、命令和证明记录见 media_preparation_provenance.json,模型设置未改动。
LongVidSearch、SportsTime 由用户明确暂缓;旧 Video-Holmes test 未恢复。这些测试记录不加入训练候选。 SceneBench 如使用 GPU 6/7,其仅改变媒体分片和服务副本路由,推理 fingerprint 不变;详细路由脚本哈希见 gpu67_provenance.json。
每条有效轨迹均核验 seed、模型配置、实际 64 帧、输入无 GT、判分和 token。基础设施失败未计入模型错误;模型自身格式/工具/预算失败计为不成功尝试。
仅按原 harness 接受的最终答案计分。部分输出存在未闭合 think 标签等格式错误;严格协议成功次数同时反映视觉推理与 agent 协议遵循能力。格式失败样例保留在 format_failure_review.json 和原始轨迹中。
结果:results/additional-benchmarks/<source>/;完整轨迹和可重建媒体缓存位于 ignored artifacts/。未 commit/push。