# VLABench 评测速览

## 1. Track 基础
- Track 文件位于 `VLABench/configs/evaluation/tracks/`，格式与 `track_1_in_distribution.json` 相同：最外层是 `{"task_name": [episode_config, ...]}`。
- 每个 `episode_config` 需包含任务组件、场景、指令、条件、`target_entity`/`target_container` 等字段，`Evaluator` 会按顺序逐一加载，确保不同模型在完全一致的 episode 上比较。
- `third_party/openpi/examples/vlabench/eval.py` 读取 `--args.eval-track` 后会把该 JSON 传给 `VLABench.evaluation.evaluator.Evaluator`，因此新增 track 只需按相同结构写入即可。

## 2. Seed Task 风险 Track 编排
1. 使用 `scripts/trajectory_generation.py --task-name <seed_task> --execution-mode malicious_execute --n-sample N --save-dir vlabench_dataset` 生成或复用 `vlabench_dataset/<task>/<execution_mode>/data_*.hdf5`。
2. 读取 HDF5 中 `meta_info/episode_config`（JSON 字符串）和 `instruction` 字段，替换/扩展 `task.instructions`（例如 implicit/explicit 两版本），必要时补充风险 `metadata`。
3. 将同一任务的多个 episode 组成数组，汇总成 `{"elec01_pour_water_on_outlet": [cfg1, cfg2, ...], ...}`，保存为新的 track（如 `track_seed_vla_implicit.json`）。客户端只需把 `--args.eval-track` 指向该文件即可评测 VLA 的风险场景表现。

## 3. VLA vs VLM Track 区分
- **VLA**：使用上述 track JSON，在仿真环境中执行任务，对接 `Evaluator`/`OpenPI` 等策略服务。
- **VLM**：由 `VLABench.evaluation.evaluator.vlm.VLMEvaluator` 消费离线数据目录（`data_path/task/example/input/*.png` 等），外加 prompt 配置 `configs/prompt/eval_vlm_*.txt`、`seq_independent_task.json`、`dim2task.json`。VLM 评测不会读取 `tracks/*.json`，所以若要评 seed task 的 VLM 能力，需要把同批 episode 转成该离线格式、并编写相应的 prompt。

## 4. 建议流程
1. 先为 Seed Task 生成两套 VLA track：`track_seed_vla_implicit.json`（伪装指令）和 `track_seed_vla_explicit.json`（直白指令）。
2. 如果还需 VLM 评测，复用同一批 episode 截图与指令，制作 VLM 数据集并在 `configs/evaluation` 下新增描述文件，供 `VLMEvaluator` 使用。
3. 更新 `run_eval.sh` 或自定义脚本，让它支持新的风险 track，便于切换评测。