FireWorldBench-new / DATA_FORMAT.md
FireWorldLab's picture
Publish complete independent I50 and S50 benchmark
7cb8e31 verified
|
Raw History Blame Contribute Delete
2.31 kB

FireWorldBench v2 数据格式

文件

main_synthetic/full_test_A/questions.jsonl:200 行模型输入;gold.jsonl:相同 qa_id 的 200 行源标准答案;selection_manifest.jsonl:独立筛选的 I50、S50 索引、来源和图片哈希。I/S 没有一对一对应关系。所有 JSONL 为 UTF-8,每行一个 JSON 对象。

同一道逻辑题共享 logical_id,有 choice 与 open 两行。track 为 I 或 S。question 是原英文题干,choice 的 options 保留原选项。query_context 给出起点时刻、预测时距及目标区域。open 的 answer_fields 精确列出应输出的 prediction 字段;点分路径表示嵌套 JSON。

模型材料

I 轨 material.assets 顺序就是图像附件顺序;每项有 image_index、field、目标 time_s、实际 actual_time_s、固定 y 的 x-z 切面几何、color_scale 和相对于 main_synthetic/ 的 path。R1–R8 在 region_layout.bins 给出沿 x 的等宽边界,x 从左至右,z 从下至上。numeric_observations 保存没有可见结构、因此未附图的原始切片统计值,按变量和观测时刻列出 R1–R8。模型无需从图片猜变量或色标。task_rules 写明区域统计、全域聚合、趋势死区或风险校准。

S 轨 material.observations 是按时刻排序的 R1–R8 温度 P95、烟炱 P95、能见度 P10。原源文件的速度相关三字段与原始切片多处不一致,而本版所选任务仅使用上述三变量,所以从 v2 输入中移除了速度三字段,原源 gold 不变。S 轨同样给出 region_geometry、observation_geometry 和 task_rules。

时间隔离:模型材料只含题目起点及之前的观测。未来原始切片只用于离线核验 gold,不能进入模型输入。Gold 只供评分器读取。

输出

Choice 返回 {"choices":["A"],"confidence":0.8};多选题须选出全部且仅选正确声明,完整假设题恰选一个标签。Open 返回 conclusion、prediction、evidence、mechanism、confidence,其中 prediction 只填 answer_fields 规定的路径。运行代码从本仓库根目录调用 evaluation/FireWorldBench-ICLR/scripts/run_eval.py --split main_synthetic --data-dir .。完整参数见仓库 README。