chenruishuo's picture
Upload audited checkpoint-62 results for six video benchmarks
7145877 verified
|
Raw History Blame Contribute Delete
2.42 kB

新增纯视觉测试结果

checkpoint-62 / 原 f64 agent / 温度 0.7 / 每题 8 seed。只使用视频像素,无 ASR、音频或外部 caption。

来源 完成/计划题数 有效 rollout 次数 可判分题数 已完成子集严格正确率 0–3/8 题数
TimeScope 1050/1050 8400 1050 78.77% 170
SceneBench 4803/4808 38424 4802 45.96% 2471

SceneBench 有 5 题、40 次计划 rollout 因源媒体异常阻塞,保留原计划分母,不按 0/8 计入。详情见 SceneBench-blocked-media.json。

本报告包含尚未全量完成的来源。正确率只针对八次有效且可判分的已完成题目,不能称为完整 benchmark 成绩。

来源 0/8 1/8 2/8 3/8 4/8 5/8 6/8 7/8 8/8
TimeScope 41 48 48 33 34 40 82 246 478
SceneBench 1049 615 437 370 325 363 384 435 824

TimeScope 是 Apollo 的 1–30 分钟子集,不是论文 2509.26360 的 ToTG-Bench。SceneBench 只含指定五个视觉子集,17 条 GT 首尾空白规范化,1 条无法匹配选项的 GT 不计正确率。

共修复 6 个媒体容器的末尾非显示包计数问题;仅移除标记为 discard 的终端包,每次修复均核对全部解码帧的像素哈希、时间戳和帧数。原始及修复 SHA256、命令和证明记录见 media_preparation_provenance.json,模型设置未改动。

LongVidSearch、SportsTime 由用户明确暂缓;旧 Video-Holmes test 未恢复。这些测试记录不加入训练候选。 SceneBench 如使用 GPU 6/7,其仅改变媒体分片和服务副本路由,推理 fingerprint 不变;详细路由脚本哈希见 gpu67_provenance.json。

每条有效轨迹均核验 seed、模型配置、实际 64 帧、输入无 GT、判分和 token。基础设施失败未计入模型错误;模型自身格式/工具/预算失败计为不成功尝试。

仅按原 harness 接受的最终答案计分。部分输出存在未闭合 think 标签等格式错误;严格协议成功次数同时反映视觉推理与 agent 协议遵循能力。格式失败样例保留在 format_failure_review.json 和原始轨迹中。

结果:results/additional-benchmarks/<source>/;完整轨迹和可重建媒体缓存位于 ignored artifacts/。未 commit/push。