HPP-MBZUAI/eval_agent2

eval_agent — 抽取出来的核心集

DoAtlas validation / evaluation agent 的自包含核心，从 Doatlas2 剥离了边抽取数据、CEV 重建引擎、产品文档等无关内容。

_{eval_agent pipeline（pseudo dataset）}

🧭 维护从 docs/SPEC.md 开始（控制面 / 事实来源，docs-first：先改文档再改代码）。本 README 只管"怎么用"。

目录

• validation_agent/ — agent 本体（cli + core 各 agent + schemas + configs + templates + validators + tests/fixtures）。零外部 import，测试用包内 fixtures。
• docs/SPEC.md — 规范控制面索引（架构总览 + 规范→代码→测试映射 + 改动流程）。维护入口。
• docs/DECISIONS.md — 决策记录（append-only ADR）。
• docs/validation_agent/ — 详细规范（00–14 + README），SPEC.md 指向它们取深度。

安装

pip install -r requirements.txt

跑测试（离线，用录制好的 fixtures，不需要数据集）

python -m pytest validation_agent/tests/ -q

真跑一条边（需要 ANTHROPIC_API_KEY + 合成数据集，本目录未包含）

# 1. 把合成数据集放到 ./data/pseudo_current（指向 pseudo_dataset_v9）
# 2. 准备一份 step2_edges.json（边输入）
# 3. 调整 validation_agent/configs/current_batch.json 里的 data_root / batch_root
python -m validation_agent.cli run --pmid <pmid> --edge_id "<edge_id>"

测试现状（pytest validation_agent/tests/ → 约 667 passed，8 failed + 11 errors）

没有逻辑回归；失败全部可归为下面三类，按需处理：

• A. 录制失效（11 errors + 5 failed） — planner / semantic_reviewer 等 demo-replay 测试，因 prompt 与估计量 embed 被改动、录制哈希（derive_call_id）旋转而对不上。 修复：在有数据集的环境（如原仓库）跑 python -m validation_agent.cli regenerate-fixtures 重对齐，或做一次真跑刷新录制。注意 regenerate-fixtures 只换 key 不刷新模型回复（见下）。
• B. 需要预先批跑产物（2 failed） — test_build_evidence_package_* 读 orchestrator/batch_runs/demo_perreault/runs/...，该目录是生成产物，原仓库里也不存在，需先跑一次批量验证才有。
• C. 需要 git 仓库（1 failed） — test_review_acceptance_happy 要 git rev-parse HEAD 取真实提交。本目录非 git 仓库；若 git init && git commit 后即可通过。

✅ 已修（原 D 项配置漂移） — test_current_batch_config_complete 曾断言 v7_root=='pseudo_dataset_v8'，但 v9 重建已把运行期数据根迁到 data/pseudo_current（config 正确）。测试已对齐到 config；注意这与注入占位符 cli.V7_ROOT_PLACEHOLDER（仍为 pseudo_dataset_v8）是两回事。

离线、与上述无关的单元/golden 测试（估计量、codegen、executor、schema、亚组交互等）全部通过。

说明

• 已删除 tests/test_orchestrator.py（它依赖 orchestrator/ 构建 harness，不属于运行期 agent）。
• current_batch.json 里的 data_root / batch_root / hpp_field_index 指向原仓库路径，真跑前按需改（运行时不读 hpp_field_index）。
• regenerate-fixtures 与真跑最好在有合成数据集的环境做（执行步骤需要 parquet 数据）；纯本目录（未带数据集）只适合跑离线单元/golden 测试。