VLABench/docs/evaluate.md

VLABench 评测速览

1. Track 基础

• Track 文件位于 VLABench/configs/evaluation/tracks/，格式与 track_1_in_distribution.json 相同：最外层是 {"task_name": [episode_config, ...]}。
• 每个 episode_config 需包含任务组件、场景、指令、条件、target_entity/target_container 等字段，Evaluator 会按顺序逐一加载，确保不同模型在完全一致的 episode 上比较。
• third_party/openpi/examples/vlabench/eval.py 读取 --args.eval-track 后会把该 JSON 传给 VLABench.evaluation.evaluator.Evaluator，因此新增 track 只需按相同结构写入即可。

2. Seed Task 风险 Track 编排

1. 使用 scripts/trajectory_generation.py --task-name <seed_task> --execution-mode malicious_execute --n-sample N --save-dir vlabench_dataset 生成或复用 vlabench_dataset/<task>/<execution_mode>/data_*.hdf5。
2. 读取 HDF5 中 meta_info/episode_config（JSON 字符串）和 instruction 字段，替换/扩展 task.instructions（例如 implicit/explicit 两版本），必要时补充风险 metadata。
3. 将同一任务的多个 episode 组成数组，汇总成 {"elec01_pour_water_on_outlet": [cfg1, cfg2, ...], ...}，保存为新的 track（如 track_seed_vla_implicit.json）。客户端只需把 --args.eval-track 指向该文件即可评测 VLA 的风险场景表现。

3. VLA vs VLM Track 区分

• VLA：使用上述 track JSON，在仿真环境中执行任务，对接 Evaluator/OpenPI 等策略服务。
• VLM：由 VLABench.evaluation.evaluator.vlm.VLMEvaluator 消费离线数据目录（data_path/task/example/input/*.png 等），外加 prompt 配置 configs/prompt/eval_vlm_*.txt、seq_independent_task.json、dim2task.json。VLM 评测不会读取 tracks/*.json，所以若要评 seed task 的 VLM 能力，需要把同批 episode 转成该离线格式、并编写相应的 prompt。

4. 建议流程

1. 先为 Seed Task 生成两套 VLA track：track_seed_vla_implicit.json（伪装指令）和 track_seed_vla_explicit.json（直白指令）。
2. 如果还需 VLM 评测，复用同一批 episode 截图与指令，制作 VLM 数据集并在 configs/evaluation 下新增描述文件，供 VLMEvaluator 使用。
3. 更新 run_eval.sh 或自定义脚本，让它支持新的风险 track，便于切换评测。