test200 / README.md
lupele's picture
Publish verified original 200-clip StatePlay test archive
7ade124 verified
|
Raw History Blame Contribute Delete
3.51 kB
metadata
pretty_name: StatePlay 200-clip World Model Evaluation Set
language:
  - en
  - zh
tags:
  - stateplay
  - world-model
  - video-generation
  - evaluation
  - gaming
size_categories:
  - n<1K

StatePlay 200 条世界模型测试集

本仓库发布原始 StatePlay_test_200_train_ratio.zip,保持 ZIP 内容、文件名和内部目录结构不变。 该数据集用于 StatePlay 世界模型的条件生成与性能评测,全部 200 条均属于 test;本仓库没有训练或验证划分。 它与 StatePlay-Reward-2280 内部用于奖励模型评估的留出集不同。

机制类别 条数
normal 120
macro_success 20
macro_fail 20
result_win 20
result_lose 20

每条样本包含真实参考视频 video.mp4、首图 first_frame.png、动作及采集状态 actions.parquet,以及 NPC 描述和机制标签。 原始视频为 5 秒、20 FPS、100 帧。游戏为 Street Fighter III: New Generation,Ryu(白衣)与 Ibuki(红衣)。 distribution 是机制类别,category 是 NPC 策略,两者不能互换。

下载与使用

from huggingface_hub import hf_hub_download
import zipfile

archive = hf_hub_download(
    repo_id="lupele/test200",
    filename="StatePlay_test_200_train_ratio.zip",
    repo_type="dataset",
)
with zipfile.ZipFile(archive) as z:
    z.extractall("./stateplay_tests")

解压后,以 stateplay_test_200_train_ratio/ 为数据根目录;完整推理输入索引是 metadata_state_polish.csv。 mechanics_ground_truth.csv、selection_manifest.csv、qa/、provenance/、reproduction/ 和已有辅助 evaluation/ 内容均保留在原包中。 仓库的 metadata/test_index.csv 是原 CSV 的逐字节副本,其中路径相对 ZIP 解压后的数据根目录,不是仓库根目录。 原始使用说明另见 docs/README_ZH.md。

身份与历史评测

  • ZIP 大小:141,783,094 字节。
  • SHA256:62ee337b5d308bdbf5d9cd16e45affa4f0af1124af7e84fd4712b64b72f2de23;见 SHA256SUMS。
  • 已将全部 200 条的参考视频、动作/状态 Parquet、首图(共 600 个文件)与先前模型评测实际使用的文件逐一核对,内容全部相同;输入 CSV 也完全一致。
  • 原始发布记录报告了与 10,000 条训练动作的精确去重;检查的具体边界见 metadata/original_validation_report.json,不能据此宣称任意近似片段或所有对局完全独立。

与另一个测试集的关系

另一个测试集为 lupele/test100。 test100 的 100 条样本是 test200 的子集,对应视频及动作/状态文件相同,两个仓库不能合并视为 300 条独立测试样本。 原始 ID 映射保留在 ZIP 内的来源记录中。

评测含义与来源说明

macro_fail 保留原包的低能量 D 输入未发动定义,纯视觉裁判可能将其识别为 normal。 胜利片段包含已经 KO 或接近 KO 的延续,不能将其解释为任意未来胜负预测。 模型生成的视频和模型权重不包含在本发布中;评测模型需使用这些条件另外生成预测视频。 ROM、模拟器 DLL、存档和 API 凭据不在原 ZIP 中。原始数据、游戏素材及第三方代码适用各自权利和许可;本次上传不另行变更其许可。 本仓库不虚构新论文、人工标注结果或新的模型评测结果。