roll-data / README.md
chenruishuo's picture
Upload audited checkpoint-62 results for six video benchmarks
7145877 verified
|
Raw History Blame Contribute Delete
1.99 kB
metadata
pretty_name: Thyme checkpoint-62 video benchmark result handoff
language:
  - en
  - zh
tags:
  - video-question-answering
  - evaluation-results

checkpoint-62 视频实验结果交接

入口:按数据集查看结果。

六个独立文件夹:LongVideo-Reason、ReWatch、Video-HopChain、Video-R2、TimeScope、SceneBench。 每个文件夹包含 all_questions.jsonl、summary.json、0–3/8 分桶、未完成/不可计分题、trajectory_index.jsonl 和 manifest.json。 四个训练来源另外包含 quality-filtered/ 和检索对照归属。

完成范围

  • 四个训练来源的检索子集:2,814 题、22,512 次有效 rollout;原始困难候选 1,187,质量筛后 1,151。
  • TimeScope:1,050 题、8,400 次,本次选定范围完成。
  • SceneBench:4,803/4,808 题、38,424 次;五题源媒体损坏,另有一题 GT 无效。
  • Conan-91K、StoryVideoQA 未解决的源数据限制见 reports/new-candidates/source_audit.json。
  • 不包含教师合成、RL 训练或独立涨分证明;测试题不得当成训练候选。

校验和实际包含的内容

下载后使用 Python 3.11+ 执行 python verify_handoff.py。 请按上传完成后的具体 commit SHA 下载,使内容与该次交接完全一致。

这是结果包:包含题目、选项、GT、每次答案、状态、token/工具调用数和轨迹路径索引。 不包含原始视频、checkpoint、运行环境或完整 trajectory.json/turns.json。 trajectory_path、turns_path、video_path 中的路径是原机器上的来源信息;仅下载此包不会获得这些文件。 学长若需要完整推理与工具调用,应另行交付索引所指向的原始轨迹及必要图像,不能把索引当作轨迹。

同一问题可能出现在全部清单、分桶和推荐清单中;这些是不同视图,不应拼接后重复计数。 此包没有为上游题目或媒体重新授予统一许可;来源信息与审计保留在各目录。