Merge RELEASE_TRAINING_DATA.md into README; simplify data provenance

README.md

@@ -22,11 +22,10 @@ size_categories:
 
 ```
 dataset/
-  wapic-cws-data-1.{jsonl,txt}.gz    Stage-1 训练: 12M LTP 语料，9,501,182 句
-  wapic-cws-data-2.{jsonl,txt}.gz    Stage-2 训练: name-rich / 现代 mix，4,388,498 句
+  wapic-cws-data-1.{jsonl,txt}.gz    Stage-1 训练:蒸馏数据，9,501,182 句
+  wapic-cws-data-2.{jsonl,txt}.gz    Stage-2 训练:针对 badcase 的增强数据，4,388,498 句
   wapic-cws-data-test-1.{jsonl,txt}  12M 泛化评测，95,397 句
   wapic-cws-data-test-2.{jsonl,txt}  PD-1998 (modern+punct) 主评测，18,430 句
-RELEASE_TRAINING_DATA.md             完整训练配方
 ```
 
 ## 两种格式
@@ -55,6 +54,28 @@ ds = load_dataset("Ismantic/wapic-cws-data", data_files={
 模型在 `wapic-cws-data-test-2`（PD-1998）/ `wapic-cws-data-test-1`（12M）上的
 F1 = **97.70 / 97.48**。
 
+## 训练
+
+发布模型 `Ismantic/wapic-cws` 采用两阶段 warm-start：
+
+- **Stage 1**（`wapic-cws-data-1`，蒸馏数据）→ 训练出 base 模型 `wapic-cws-base.wac`。
+- **Stage 2**（`wapic-cws-data-2`，针对 badcase 的增强数据）→ 在 base 上 `--init-from` 精修。
+
+复现命令（示意，`.gz` 解压为 `.txt` 后使用）：
+
+```bash
+# Stage 1 base（蒸馏数据训练出 wapic-cws-base.wac，一般直接复用，不重训）
+# Stage 2:
+./build/wapic fit -p data/pattern.txt --init-from data/wapic-cws-base.wac \
+    -a l-bfgs -i 50 -1 0.005 -2 0.0001 -t 12 --histsz 5 --save-binary \
+    data/wapic-cws-data-2.txt data/stage2-a.wac
+./build/wapic fit -p data/pattern.txt --init-from data/stage2-a.wac \
+    -a l-bfgs -i 50 -1 0.005 -2 0.0001 -t 12 --histsz 5 --save-binary \
+    data/wapic-cws-data-2.txt data/stage2-b.wac
+./build/wapic convert -m data/stage2-b.wac --save-binary --save-prune \
+    --prune-threshold 0.02 data/wapic-cws.wac
+```
+
 ## 来源与许可
 
 数据卡与打包脚本为 MIT。底层语料源自人民日报 1998、LTP/base1 自动标注及公开新闻语料

RELEASE_TRAINING_DATA.md

@@ -1,89 +0,0 @@
-# Release 训练数据（精简后）
-
-当前 release 模型 `wapic-20260605.wac`（48M，bcv3 413，names 15/15）
-的**完整训练数据只有两份**（HF 上位于 `dataset/`，为 `.gz` 压缩，解压后使用）：
-
-| 阶段 | 数据集文件名 | 上游原文件 | 句数 | 大小 | 作用 |
-|---|---|---|---|---|---|
-| Stage 1 | `wapic-cws-data-1.txt` | `all12m_train_retag2.txt` | 9,501,182 | 1.19 GB | 12M LTP 语料（retag2 字符类型边界），产出 Stage-1 base |
-| Stage 2 | `wapic-cws-data-2.txt` | `h24_2.txt` | 4,388,498 | 986 MB | 人名/标点/数字精修 mix，warm-start fine-tune 用 |
-
-## 训练链（两阶段 warm-start）
-
-```
-wapic-cws-data-1.txt  --fit-->  v5_p0.01.wac        (Stage-1 base, L1 剪枝到 p=0.01)
-                                    │  --init-from (锁定特征)
-                                    ▼
-wapic-cws-data-2.txt  --fit i50-->  h25_29
-                                    │  --init-from (continue，同一份数据)
-                                    ▼
-wapic-cws-data-2.txt  --fit i50-->  h25_30
-                                    │  convert --save-prune --prune-threshold 0.02
-                                    ▼
-                          wapic-20260605.wac   ← RELEASE（= exp_h25_30_p0.02.wac，字节相同）
-```
-
-- Stage 2 是 i=100 拆成链式 50+50（中途 checkpoint），两段训练数据相同。
-- `wapic-cws-data-2.txt` = 早期 retag2 mix (`h24_1.txt`) 的**精确前缀** + 追加 147,042 句 NER 挖掘 aug。
-
-## Stage 2 mix (`h24_2.txt`) 的来源构成
-
-`h24_1.txt`（前缀，960 MB）由这些 retag2 文件 cat 而成，末尾再追加 NER 挖掘 aug：
-- `opennews_nh_2m_train_retag2.txt`（2.0M 句）
-- `threechar_zh_1m_train_retag2.txt`（1.0M 句）
-- `clean_aug_train_retag2.txt`（56k 句）
-- `pd_mp_train_retag2.txt`（90k 句）
-- `anchor_1m_retag2.txt` / `antimerge_train_retag2.txt`（F1_12m + 抗合并保险）
-- +（tail）NER 挖掘 aug 147,042 句
-
-> 注：`h24_1.txt` 内部的精确 cat 顺序/倍数由已删除的驱动脚本决定，但 `wapic-cws-data-2.txt`
-> 已是烘焙好的成品单文件，**复现 release 只需这一份**，无需重新 cat。
-
-## 复现命令（示意）
-
-```bash
-# Stage 1 base（已有 v5_p0.01.wac，一般直接复用，不重训）
-# Stage 2:
-./build/wapic fit -p data/pattern.txt --init-from data/v5_p0.01.wac \
-    -a l-bfgs -i 50 -1 0.005 -2 0.0001 -t 12 --histsz 5 --save-binary \
-    data/wapic-cws-data-2.txt data/h25_29.wac
-./build/wapic fit -p data/pattern.txt --init-from data/h25_29.wac \
-    -a l-bfgs -i 50 -1 0.005 -2 0.0001 -t 12 --histsz 5 --save-binary \
-    data/wapic-cws-data-2.txt data/h25_30.wac
-./build/wapic convert -m data/h25_30.wac --save-binary --save-prune \
-    --prune-threshold 0.02 data/wapic-20260605.wac
-```
-
----
-
-# Release 测试数据（精简后）
-
-评估同一个 release 模型的**两份测试集**（retag2 gold，与训练/模型的 char-type 约定一致）。
-已实跑验证（在归一化清洗后的 gold 上）：release 模型得到
-PD-1998 `F1=97.70` / 12m `F1=97.48`。
-
-| 对应 | gold 数据集文件名 | 上游原文件 | 句数 |
-|---|---|---|---|
-| PD-1998 主评测 | `wapic-cws-data-test-2.txt` | `pd_mp_test_retag2.txt` | 18,430 |
-| 12M 泛化评测 | `wapic-cws-data-test-1.txt` | `all12m_test_retag2.txt` | 95,397 |
-
-- `*.txt`（gold）= BMES 列式，评估基准；gold 各转了一份空格切分 JSON
-  （`wapic-cws-data-test-2.jsonl` / `wapic-cws-data-test-1.jsonl`）。
-- 喂给 `wapic test` 的**纯字符输入**不单独存，直接从 gold 去掉标签列生成：
-  `awk '{print $1}' wapic-cws-data-test-2.txt > pdmp_nolabel.txt`（保留空行分句）。
-
-## 评估命令
-
-```bash
-# 从 gold 生成纯字符输入
-awk '{print $1}' data/wapic-cws-data-test-2.txt > /tmp/pdmp_nolabel.txt
-awk '{print $1}' data/wapic-cws-data-test-1.txt > /tmp/12m_nolabel.txt
-
-# 复现 release 指标（F1 应为 PD-1998 97.70 / 12m 97.48）
-./build/wapic test -m data/wapic-20260605.wac /tmp/pdmp_nolabel.txt /tmp/pred_pdmp.txt
-./build/wapic test -m data/wapic-20260605.wac /tmp/12m_nolabel.txt  /tmp/pred_12m.txt
-# 再用 span-F1 对比 gold（逻辑见 scripts/eval_both.sh）
-```
-
-> 注：`scripts/eval_both.sh` 里硬编码的是**非-retag2** 测试文件，评估 retag2 release 模型时
-> 必须换成上面的 `wapic-cws-data-test-*` 文件，否则字符类型列不匹配、F1 会偏低。