README.md

# eval_agent — 抽取出来的核心集

DoAtlas validation / evaluation agent 的**自包含**核心，从 Doatlas2 剥离了边抽取数据、CEV 重建引擎、产品文档等无关内容。

<p align="center">
  <img src="eval_agent_pipeline_pseudo_dataset.svg" alt="eval_agent pipeline — pseudo dataset" width="70%">
</p>
<p align="center"><sub>eval_agent pipeline（pseudo dataset）</sub></p>

> 🧭 **维护从 [`docs/SPEC.md`](docs/SPEC.md) 开始**（控制面 / 事实来源，docs-first：先改文档再改代码）。本 README 只管"怎么用"。

## 目录
- `validation_agent/` — agent 本体（cli + core 各 agent + schemas + configs + templates + validators + tests/fixtures）。零外部 import，测试用包内 fixtures。
- `docs/SPEC.md` — **规范控制面索引**（架构总览 + 规范→代码→测试映射 + 改动流程）。维护入口。
- `docs/DECISIONS.md` — 决策记录（append-only ADR）。
- `docs/validation_agent/` — 详细规范（00–14 + README），`SPEC.md` 指向它们取深度。

## 安装
```bash
pip install -r requirements.txt
```

## 跑测试（离线，用录制好的 fixtures，**不需要数据集**）
```bash
python -m pytest validation_agent/tests/ -q
```

## 真跑一条边（需要 ANTHROPIC_API_KEY + 合成数据集，本目录未包含）
```bash
# 1. 把合成数据集放到 ./data/pseudo_current（指向 pseudo_dataset_v9）
# 2. 准备一份 step2_edges.json（边输入）
# 3. 调整 validation_agent/configs/current_batch.json 里的 data_root / batch_root
python -m validation_agent.cli run --pmid <pmid> --edge_id "<edge_id>"
```

## 测试现状（`pytest validation_agent/tests/` → 约 667 passed，8 failed + 11 errors）
**没有逻辑回归**；失败全部可归为下面三类，按需处理：

- **A. 录制失效（11 errors + 5 failed）** — planner / semantic_reviewer 等 demo-replay 测试，因 prompt 与估计量 embed 被改动、录制哈希（`derive_call_id`）旋转而对不上。
  修复：在**有数据集的环境**（如原仓库）跑 `python -m validation_agent.cli regenerate-fixtures` 重对齐，或做一次真跑刷新录制。注意 `regenerate-fixtures` 只换 key 不刷新模型回复（见下）。
- **B. 需要预先批跑产物（2 failed）** — `test_build_evidence_package_*` 读 `orchestrator/batch_runs/demo_perreault/runs/...`，该目录是生成产物，原仓库里也不存在，需先跑一次批量验证才有。
- **C. 需要 git 仓库（1 failed）** — `test_review_acceptance_happy` 要 `git rev-parse HEAD` 取真实提交。本目录非 git 仓库；若 `git init && git commit` 后即可通过。

> ✅ **已修（原 D 项配置漂移）** — `test_current_batch_config_complete` 曾断言 `v7_root=='pseudo_dataset_v8'`，但 v9 重建已把运行期数据根迁到 `data/pseudo_current`（config 正确）。测试已对齐到 config；注意这与注入占位符 `cli.V7_ROOT_PLACEHOLDER`（仍为 `pseudo_dataset_v8`）是两回事。

> 离线、与上述无关的单元/golden 测试（估计量、codegen、executor、schema、亚组交互等）全部通过。

## 说明
- 已删除 `tests/test_orchestrator.py`（它依赖 `orchestrator/` 构建 harness，不属于运行期 agent）。
- `current_batch.json` 里的 `data_root` / `batch_root` / `hpp_field_index` 指向原仓库路径，真跑前按需改（运行时不读 hpp_field_index）。
- `regenerate-fixtures` 与真跑最好在**有合成数据集**的环境做（执行步骤需要 parquet 数据）；纯本目录（未带数据集）只适合跑离线单元/golden 测试。