Datasets:
| # FireWorldBench v2 数据格式 | |
| ## 文件 | |
| `main_synthetic/full_test_A/questions.jsonl`：200 行模型输入；`gold.jsonl`：相同 `qa_id` 的 200 行源标准答案；`selection_manifest.jsonl`：独立筛选的 I50、S50 索引、来源和图片哈希。I/S **没有一对一对应关系**。所有 JSONL 为 UTF-8，每行一个 JSON 对象。 | |
| 同一道逻辑题共享 `logical_id`，有 `choice` 与 `open` 两行。`track` 为 I 或 S。`question` 是原英文题干，choice 的 `options` 保留原选项。`query_context` 给出起点时刻、预测时距及目标区域。open 的 `answer_fields` 精确列出应输出的 `prediction` 字段；点分路径表示嵌套 JSON。 | |
| ## 模型材料 | |
| I 轨 `material.assets` 顺序就是图像附件顺序；每项有 `image_index`、`field`、目标 `time_s`、实际 `actual_time_s`、固定 y 的 x-z 切面几何、`color_scale` 和相对于 `main_synthetic/` 的 `path`。R1–R8 在 `region_layout.bins` 给出沿 x 的等宽边界，x 从左至右，z 从下至上。`numeric_observations` 保存没有可见结构、因此未附图的原始切片统计值，按变量和观测时刻列出 R1–R8。模型无需从图片猜变量或色标。`task_rules` 写明区域统计、全域聚合、趋势死区或风险校准。 | |
| S 轨 `material.observations` 是按时刻排序的 R1–R8 温度 P95、烟炱 P95、能见度 P10。原源文件的速度相关三字段与原始切片多处不一致，而本版所选任务仅使用上述三变量，所以从 v2 **输入**中移除了速度三字段，原源 gold 不变。S 轨同样给出 `region_geometry`、`observation_geometry` 和 `task_rules`。 | |
| **时间隔离：**模型材料只含题目起点及之前的观测。未来原始切片只用于离线核验 gold，不能进入模型输入。Gold 只供评分器读取。 | |
| ## 输出 | |
| Choice 返回 `{"choices":["A"],"confidence":0.8}`；多选题须选出全部且仅选正确声明，完整假设题恰选一个标签。Open 返回 `conclusion`、`prediction`、`evidence`、`mechanism`、`confidence`，其中 `prediction` 只填 `answer_fields` 规定的路径。运行代码从本仓库根目录调用 `evaluation/FireWorldBench-ICLR/scripts/run_eval.py --split main_synthetic --data-dir .`。完整参数见仓库 README。 | |