Datasets:
| license: cc-by-4.0 | |
| task_categories: | |
| - visual-question-answering | |
| tags: | |
| - fire | |
| - physics | |
| size_categories: | |
| - n<1K | |
| # FireWorldBench v2: independent I50 and S50 | |
| 本仓库是可独立运行的 FireWorldBench v2。I 轨和 S 轨分别筛选 50 道逻辑题，**不按编号配对**。每道逻辑题包含 choice 和 open 两条输入，共 200 条 question 与逐一对应的 200 条原始 gold。题干、选项、gold 均保留源记录；I 轨补充原切片图、变量/时间/区域/色标元数据与无结构场数值。S 轨只保留经过原切片核对的任务变量。 | |
| - 数据：[main_synthetic/full_test_A/questions.jsonl](main_synthetic/full_test_A/questions.jsonl)、[gold.jsonl](main_synthetic/full_test_A/gold.jsonl)、[selection_manifest.jsonl](main_synthetic/full_test_A/selection_manifest.jsonl)。 | |
| - 68 张 I 轨输入图统一采用暗蓝紫 RGB (0,0,128) 的低端与轻柔色带过渡，位于 `main_synthetic/assets/final_optimized/`，均按最终视觉标准从原切片绘制为全场图，无文字和图例。`material.assets[*].image_index` 指向实际附件顺序，路径相对 `main_synthetic/`。 | |
| - 推理与六项指标评分代码、schema、冻结合同及代码许可位于 `evaluation/FireWorldBench-ICLR/`。 | |
| - 格式见 [DATA_FORMAT.md](DATA_FORMAT.md)，数据许可见 [DATA_LICENSE.md](DATA_LICENSE.md)，数据卡见 [dataset_card_public.md](dataset_card_public.md)。 | |
| - 完整包：[FireWorldBench-v2-I50-S50.zip](FireWorldBench-v2-I50-S50.zip)。 | |
| ## 运行 | |
| 需要 Python 3.8+；从本仓库根目录运行： | |
| ```powershell | |
| python -m pip install -r evaluation/FireWorldBench-ICLR/requirements.txt | |
| $env:OPENAI_BASE_URL = "你的 OpenAI 兼容接口地址" | |
| $env:OPENAI_API_KEY = "你的接口密钥" | |
| $env:OPENAI_MODEL = "模型名称" | |
| python evaluation/FireWorldBench-ICLR/scripts/run_eval.py --split main_synthetic --data-dir . | |
| ``` | |
| 纯文本模型加 `--track S`；视觉模型可选 I 轨或两轨。可用 `--max-requests 2` 做小规模连通检查。runner 只读 questions 和引用图片；评分器单独读取 gold。模型输入包含 query_context、区域与变量规则、每张附件编号、时间、切片和色标范围。正式题包不需要原始私有 `.sf` 才能运行。 | |
| 本轮筛选覆盖 I 轨 L1-2（20）、L2-2（5）、L3-1（25），S 轨 L1-2（25）、L3-1（25）。没有宣称覆盖原题库的全部任务类型。推理代码源于 FireWorldBench-ICLR 提交 `c2ed1d2c82084337cc88c901e25e27296e993233`，复制后仅为 v2 输入协议调整；代码保留 Apache 2.0 许可证。 | |