--- pretty_name: StatePlay 100-clip World Model Evaluation Set language: - en - zh tags: - stateplay - world-model - video-generation - evaluation - gaming size_categories: - n<1K --- # StatePlay 100 条世界模型测试集 本仓库发布原始 `StatePlay_test_100_train_ratio_v2_wins.zip`,保持 ZIP 内容、文件名和内部目录结构不变。 该数据集用于 StatePlay 世界模型的条件生成与性能评测,全部 100 条均属于 **test**;本仓库没有训练或验证划分。 它与 [StatePlay-Reward-2280](https://huggingface.co/datasets/lupele/StatePlay-Reward-2280) 内部用于奖励模型评估的留出集不同。 | 机制类别 | 条数 | |---|---:| | normal | 60 | | macro_success | 10 | | macro_fail | 10 | | result_win | 10 | | result_lose | 10 | 每条样本包含真实参考视频 `video.mp4`、首图 `first_frame.png`、动作及采集状态 `actions.parquet`,以及 NPC 描述和机制标签。 原始视频为 5 秒、20 FPS、100 帧。游戏为 Street Fighter III: New Generation,Ryu(白衣)与 Ibuki(红衣)。 `distribution` 是机制类别,`category` 是 NPC 策略,两者不能互换。 ## 下载与使用 ```python from huggingface_hub import hf_hub_download import zipfile archive = hf_hub_download( repo_id="lupele/test100", filename="StatePlay_test_100_train_ratio_v2_wins.zip", repo_type="dataset", ) with zipfile.ZipFile(archive) as z: z.extractall("./stateplay_tests") ``` 解压后,以 `stateplay_test_100_train_ratio_v2_wins/` 为数据根目录;完整推理输入索引是 `metadata_state_polish.csv`。 `mechanics_ground_truth.csv`、`selection_manifest.csv`、`qa/`、`provenance/`、`reproduction/` 和已有辅助 `evaluation/` 内容均保留在原包中。 仓库的 `metadata/test_index.csv` 是原 CSV 的逐字节副本,其中路径相对 ZIP 解压后的数据根目录,不是仓库根目录。 原始使用说明另见 [docs/README_ZH.md](docs/README_ZH.md)。 ## 身份与历史评测 - ZIP 大小:85,816,219 字节。 - SHA256:`a30d76855d6bafe36028862fe8f2146cafb41eeeeec25c4adb044cdb0413c4b2`;见 `SHA256SUMS`。 - 已将全部 100 条的参考视频、动作/状态 Parquet、首图(共 300 个文件)与先前模型评测实际使用的文件逐一核对,内容全部相同;输入 CSV 也完全一致。 - 原始发布记录报告了与 10,000 条训练动作的精确去重;检查的具体边界见 `metadata/original_validation_report.json`,不能据此宣称任意近似片段或所有对局完全独立。 ## 与另一个测试集的关系 另一个测试集为 [lupele/test200](https://huggingface.co/datasets/lupele/test200)。 **test100 的 100 条样本是 test200 的子集**,对应视频及动作/状态文件相同,两个仓库不能合并视为 300 条独立测试样本。 原始 ID 映射保留在 ZIP 内的来源记录中。 ## 评测含义与来源说明 `macro_fail` 保留原包的低能量 D 输入未发动定义,纯视觉裁判可能将其识别为 normal。 胜利片段包含已经 KO 或接近 KO 的延续,不能将其解释为任意未来胜负预测。 模型生成的视频和模型权重不包含在本发布中;评测模型需使用这些条件另外生成预测视频。 ROM、模拟器 DLL、存档和 API 凭据不在原 ZIP 中。原始数据、游戏素材及第三方代码适用各自权利和许可;本次上传不另行变更其许可。 本仓库不虚构新论文、人工标注结果或新的模型评测结果。