023 r5: upload data/train-r5/README.md
Browse files- data/train-r5/README.md +48 -0
data/train-r5/README.md
ADDED
|
@@ -0,0 +1,48 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# engram Planner — r5 训练数据（023 冻结版本）
|
| 2 |
+
|
| 3 |
+
spec `023-local-trained-evidence-compiler` 的正式训练数据资产。冻结于 2026-08-04。
|
| 4 |
+
|
| 5 |
+
## 版本
|
| 6 |
+
|
| 7 |
+
- **build-version**: `023-b20260803-r5`
|
| 8 |
+
- **Train Examples**: 607（train 510 / validation 97）
|
| 9 |
+
- **gap / keep**: 317 / 290
|
| 10 |
+
- **T011 门**: PASS — 199/200 (99.5%), Wilson 95% CI [97.22%, 99.91%]（rate≥95% 且 CI 下界≥90%）
|
| 11 |
+
- **T012 audit**: 全干净（provenance/license/schema/split/near-dup/contamination/privacy; blocking=false）
|
| 12 |
+
- **T013 FR-010**: 确定性重建 100%（train-r5 vs rebuild-r5 逐字节一致）
|
| 13 |
+
- **sha256**:
|
| 14 |
+
- `train-r5.jsonl`: `7234588d4a6a01c27ad97cd0fa2ae985c9d1c4e4042d931214eda40110cff859`
|
| 15 |
+
- `candidates.jsonl`: `3d791267ccf3292c22a72ee17a402716b1d90a55b3ecdd1cbc775c0d1939cab8`
|
| 16 |
+
|
| 17 |
+
## 数据来源（FR-013：无付费 teacher）
|
| 18 |
+
|
| 19 |
+
- **candidates**: `cmd/planner-build`（022 Evidence Compiler 合同，r1 冻结 799 行 → 空候选剔除后 607）
|
| 20 |
+
- **标注**: 外部 AI 全量语义标注（`all-607-labeled.jsonl`；KEEP 仅当候选直接携带 gold_answer 关键事实）
|
| 21 |
+
- **复审**: `gap-recheck.jsonl`（48 条可疑 gap：gold 关键日期 verbatim 在候选却标 gap）→ `gap-recheck-labeled.jsonl`（外部 AI 复核，修正 3 条：0-00001-q2 / 0-00026-q1 / 0-00026-q2）
|
| 22 |
+
- **合并**: `all-607-labeled-r5.jsonl`
|
| 23 |
+
- **组装**: `assemble_external.py --build-version 023-b20260803-r5 --seed 0`
|
| 24 |
+
- **T011 审查**: `review-r5-023-b20260803-r5-reviewed.csv`（200 条分层抽样；外部 AI 独立判定）
|
| 25 |
+
|
| 26 |
+
## 复现步骤
|
| 27 |
+
|
| 28 |
+
```bash
|
| 29 |
+
# 1. 从冻结 candidates 组装训练集（确定性，FR-010）
|
| 30 |
+
python3 assemble_external.py \
|
| 31 |
+
--candidates data/candidates.jsonl \
|
| 32 |
+
--labels data/all-607-labeled-r5.jsonl \
|
| 33 |
+
--out data/train-r5.jsonl \
|
| 34 |
+
--build-version 023-b20260803-r5 --seed 0
|
| 35 |
+
|
| 36 |
+
# 2. 门（T012/T013）—— audit + rebuild_check 见 repo specs/023
|
| 37 |
+
# 3. 训练
|
| 38 |
+
python3 train_lora.py --data data/train-r5.jsonl \
|
| 39 |
+
--base-model Qwen2.5-7B-Instruct \
|
| 40 |
+
--out models/planner-lora \
|
| 41 |
+
--config train.yaml --seed 0
|
| 42 |
+
```
|
| 43 |
+
|
| 44 |
+
## 许可
|
| 45 |
+
|
| 46 |
+
- 数据：`cc-by-4.0-synthetic`（合成数据；许可 allowlist 见 023 audit）
|
| 47 |
+
- 底模：Qwen2.5-7B-Instruct（Apache-2.0）
|
| 48 |
+
- 训练产物 adapter：Apache-2.0（见模型 repo 的 model card）
|