test100 / README.md
lupele's picture
Publish verified original 100-clip StatePlay test archive
d2df174 verified
|
Raw History Blame Contribute Delete
3.53 kB
---
pretty_name: StatePlay 100-clip World Model Evaluation Set
language:
- en
- zh
tags:
- stateplay
- world-model
- video-generation
- evaluation
- gaming
size_categories:
- n<1K
---
# StatePlay 100 条世界模型测试集
本仓库发布原始 `StatePlay_test_100_train_ratio_v2_wins.zip`,保持 ZIP 内容、文件名和内部目录结构不变。
该数据集用于 StatePlay 世界模型的条件生成与性能评测,全部 100 条均属于 **test**;本仓库没有训练或验证划分。
它与 [StatePlay-Reward-2280](https://huggingface.co/datasets/lupele/StatePlay-Reward-2280) 内部用于奖励模型评估的留出集不同。
| 机制类别 | 条数 |
|---|---:|
| normal | 60 |
| macro_success | 10 |
| macro_fail | 10 |
| result_win | 10 |
| result_lose | 10 |
每条样本包含真实参考视频 `video.mp4`、首图 `first_frame.png`、动作及采集状态 `actions.parquet`,以及 NPC 描述和机制标签。
原始视频为 5 秒、20 FPS、100 帧。游戏为 Street Fighter III: New Generation,Ryu(白衣)与 Ibuki(红衣)。
`distribution` 是机制类别,`category` 是 NPC 策略,两者不能互换。
## 下载与使用
```python
from huggingface_hub import hf_hub_download
import zipfile
archive = hf_hub_download(
repo_id="lupele/test100",
filename="StatePlay_test_100_train_ratio_v2_wins.zip",
repo_type="dataset",
)
with zipfile.ZipFile(archive) as z:
z.extractall("./stateplay_tests")
```
解压后,以 `stateplay_test_100_train_ratio_v2_wins/` 为数据根目录;完整推理输入索引是 `metadata_state_polish.csv`。
`mechanics_ground_truth.csv`、`selection_manifest.csv`、`qa/`、`provenance/`、`reproduction/` 和已有辅助 `evaluation/` 内容均保留在原包中。
仓库的 `metadata/test_index.csv` 是原 CSV 的逐字节副本,其中路径相对 ZIP 解压后的数据根目录,不是仓库根目录。
原始使用说明另见 [docs/README_ZH.md](docs/README_ZH.md)。
## 身份与历史评测
- ZIP 大小:85,816,219 字节。
- SHA256:`a30d76855d6bafe36028862fe8f2146cafb41eeeeec25c4adb044cdb0413c4b2`;见 `SHA256SUMS`。
- 已将全部 100 条的参考视频、动作/状态 Parquet、首图(共 300 个文件)与先前模型评测实际使用的文件逐一核对,内容全部相同;输入 CSV 也完全一致。
- 原始发布记录报告了与 10,000 条训练动作的精确去重;检查的具体边界见 `metadata/original_validation_report.json`,不能据此宣称任意近似片段或所有对局完全独立。
## 与另一个测试集的关系
另一个测试集为 [lupele/test200](https://huggingface.co/datasets/lupele/test200)。
**test100 的 100 条样本是 test200 的子集**,对应视频及动作/状态文件相同,两个仓库不能合并视为 300 条独立测试样本。
原始 ID 映射保留在 ZIP 内的来源记录中。
## 评测含义与来源说明
`macro_fail` 保留原包的低能量 D 输入未发动定义,纯视觉裁判可能将其识别为 normal。
胜利片段包含已经 KO 或接近 KO 的延续,不能将其解释为任意未来胜负预测。
模型生成的视频和模型权重不包含在本发布中;评测模型需使用这些条件另外生成预测视频。
ROM、模拟器 DLL、存档和 API 凭据不在原 ZIP 中。原始数据、游戏素材及第三方代码适用各自权利和许可;本次上传不另行变更其许可。
本仓库不虚构新论文、人工标注结果或新的模型评测结果。