Datasets:
metadata
license: cc-by-4.0
task_categories:
- visual-question-answering
tags:
- fire
- physics
size_categories:
- n<1K
FireWorldBench v2: independent I50 and S50
本仓库是可独立运行的 FireWorldBench v2。I 轨和 S 轨分别筛选 50 道逻辑题，不按编号配对。每道逻辑题包含 choice 和 open 两条输入，共 200 条 question 与逐一对应的 200 条原始 gold。题干、选项、gold 均保留源记录；I 轨补充原切片图、变量/时间/区域/色标元数据与无结构场数值。S 轨只保留经过原切片核对的任务变量。
- 数据：main_synthetic/full_test_A/questions.jsonl、gold.jsonl、selection_manifest.jsonl。
- 68 张 I 轨输入图统一采用暗蓝紫 RGB (0,0,128) 的低端与轻柔色带过渡，位于
main_synthetic/assets/final_optimized/，均按最终视觉标准从原切片绘制为全场图，无文字和图例。material.assets[*].image_index指向实际附件顺序，路径相对main_synthetic/。 - 推理与六项指标评分代码、schema、冻结合同及代码许可位于
evaluation/FireWorldBench-ICLR/。 - 格式见 DATA_FORMAT.md，数据许可见 DATA_LICENSE.md，数据卡见 dataset_card_public.md。
- 完整包：FireWorldBench-v2-I50-S50.zip。
运行
需要 Python 3.8+；从本仓库根目录运行：
python -m pip install -r evaluation/FireWorldBench-ICLR/requirements.txt
$env:OPENAI_BASE_URL = "你的 OpenAI 兼容接口地址"
$env:OPENAI_API_KEY = "你的接口密钥"
$env:OPENAI_MODEL = "模型名称"
python evaluation/FireWorldBench-ICLR/scripts/run_eval.py --split main_synthetic --data-dir .
纯文本模型加 --track S；视觉模型可选 I 轨或两轨。可用 --max-requests 2 做小规模连通检查。runner 只读 questions 和引用图片；评分器单独读取 gold。模型输入包含 query_context、区域与变量规则、每张附件编号、时间、切片和色标范围。正式题包不需要原始私有 .sf 才能运行。
本轮筛选覆盖 I 轨 L1-2（20）、L2-2（5）、L3-1（25），S 轨 L1-2（25）、L3-1（25）。没有宣称覆盖原题库的全部任务类型。推理代码源于 FireWorldBench-ICLR 提交 c2ed1d2c82084337cc88c901e25e27296e993233，复制后仅为 v2 输入协议调整；代码保留 Apache 2.0 许可证。