Reorg data into dataset/ with wapic-cws-data-* names; drop nolabel

.gitattributes

@@ -60,3 +60,5 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
 *.webm filter=lfs diff=lfs merge=lfs -text
 test/12m_test.txt filter=lfs diff=lfs merge=lfs -text
 test/12m_test.jsonl filter=lfs diff=lfs merge=lfs -text
+dataset/wapic-cws-data-test-1.txt filter=lfs diff=lfs merge=lfs -text
+dataset/wapic-cws-data-test-1.jsonl filter=lfs diff=lfs merge=lfs -text

README.md

@@ -21,22 +21,22 @@ size_categories:
 ## 结构
 
 ```
-train/
-  stage1_train.{jsonl,txt}   Stage-1: 12M LTP 语料，9,501,182 句
-  stage2_train.{jsonl,txt}   Stage-2: name-rich / 现代 mix，4,388,498 句
-test/
-  pdmp_test.{jsonl,txt}      PD-1998 (modern+punct) 主评测，18,430 句
-  pdmp_test_nolabel.txt      纯字符输入
-  12m_test.{jsonl,txt}       12M 泛化评测，95,397 句
-  12m_test_nolabel.txt       纯字符输入
-RELEASE_TRAINING_DATA.md     完整训练配方
+dataset/
+  wapic-cws-data-1.{jsonl,txt}.gz    Stage-1 训练: 12M LTP 语料，9,501,182 句
+  wapic-cws-data-2.{jsonl,txt}.gz    Stage-2 训练: name-rich / 现代 mix，4,388,498 句
+  wapic-cws-data-test-1.{jsonl,txt}  12M 泛化评测，95,397 句
+  wapic-cws-data-test-2.{jsonl,txt}  PD-1998 (modern+punct) 主评测，18,430 句
+RELEASE_TRAINING_DATA.md             完整训练配方
 ```
 
 ## 两种格式
 
 - **`.jsonl`** — 每行 `{"source": "原句", "cut": "词 词 词"}`，词间空格分隔，通用可读。
 - **`.txt`** — BMES 列式（`<字> <BMES标签>`，空行分句），wapic 训练/评估的原生输入格式。
-  `_nolabel.txt` 是去标签的纯字符输入，喂给 `wapic test`。
+
+训练数据（`-1` / `-2`）为 `.gz` 压缩，测试数据（`-test-1` / `-test-2`）未压缩。
+评测时喂给 `wapic test` 的"纯字符输入"可从 gold `.txt` 去掉标签列生成：
+`awk '{print $1}' wapic-cws-data-test-2.txt`。
 
 ```json
 {"source": "李镇全今天接受了记者的采访", "cut": "李镇全 今天 接受 了 记者 的 采访"}
@@ -47,12 +47,13 @@ RELEASE_TRAINING_DATA.md     完整训练配方
 ```python
 from datasets import load_dataset
 ds = load_dataset("Ismantic/wapic-cws-data", data_files={
-    "stage2": "train/stage2_train.jsonl",
-    "pdmp_test": "test/pdmp_test.jsonl",
+    "stage2":    "dataset/wapic-cws-data-2.jsonl.gz",
+    "test_pdmp": "dataset/wapic-cws-data-test-2.jsonl",
 })
 ```
 
-模型在 `pdmp_test` / `12m_test` 上的 F1 = **97.71 / 97.49**。
+模型在 `wapic-cws-data-test-2`（PD-1998）/ `wapic-cws-data-test-1`（12M）上的
+F1 = **97.71 / 97.49**。
 
 ## 来源与许可
 

RELEASE_TRAINING_DATA.md

@@ -1,30 +1,30 @@
 # Release 训练数据（精简后）
 
-当前 release 模型 `data/wapic-20260605-h25_30.wac`（48M，bcv3 413，names 15/15）
-的**完整训练数据只有两份**。已用硬链接给出规范名（零拷贝，与原文件共享 inode）：
+当前 release 模型 `wapic-20260605.wac`（48M，bcv3 413，names 15/15）
+的**完整训练数据只有两份**（HF 上位于 `dataset/`，为 `.gz` 压缩，解压后使用）：
 
-| 阶段 | 规范名 | 原文件 | 句数 | 大小 | 作用 |
+| 阶段 | 数据集文件名 | 上游原文件 | 句数 | 大小 | 作用 |
 |---|---|---|---|---|---|
-| Stage 1 | `release_stage1_train.txt` | `all12m_train_retag2.txt` | 9,501,182 | 1.19 GB | 12M LTP 语料（retag2 字符类型边界），产出 Stage-1 base |
-| Stage 2 | `release_stage2_train.txt` | `h24_2.txt` | 4,388,498 | 986 MB | 人名/标点/数字精修 mix，warm-start fine-tune 用 |
+| Stage 1 | `wapic-cws-data-1.txt` | `all12m_train_retag2.txt` | 9,501,182 | 1.19 GB | 12M LTP 语料（retag2 字符类型边界），产出 Stage-1 base |
+| Stage 2 | `wapic-cws-data-2.txt` | `h24_2.txt` | 4,388,498 | 986 MB | 人名/标点/数字精修 mix，warm-start fine-tune 用 |
 
 ## 训练链（两阶段 warm-start）
 
 ```
-release_stage1_train.txt  --fit-->  v5_p0.01.wac        (Stage-1 base, L1 剪枝到 p=0.01)
-                                        │  --init-from (锁定特征)
-                                        ▼
-release_stage2_train.txt  --fit i50-->  h25_29
-                                        │  --init-from (continue，同一份数据)
-                                        ▼
-release_stage2_train.txt  --fit i50-->  h25_30
-                                        │  convert --save-prune --prune-threshold 0.02
-                                        ▼
-                              wapic-20260605-h25_30.wac   ← RELEASE（= exp_h25_30_p0.02.wac，字节相同）
+wapic-cws-data-1.txt  --fit-->  v5_p0.01.wac        (Stage-1 base, L1 剪枝到 p=0.01)
+                                    │  --init-from (锁定特征)
+                                    ▼
+wapic-cws-data-2.txt  --fit i50-->  h25_29
+                                    │  --init-from (continue，同一份数据)
+                                    ▼
+wapic-cws-data-2.txt  --fit i50-->  h25_30
+                                    │  convert --save-prune --prune-threshold 0.02
+                                    ▼
+                          wapic-20260605.wac   ← RELEASE（= exp_h25_30_p0.02.wac，字节相同）
 ```
 
 - Stage 2 是 i=100 拆成链式 50+50（中途 checkpoint），两段训练数据相同。
-- `release_stage2_train.txt` = 早期 retag2 mix (`h24_1.txt`) 的**精确前缀** + 追加 147,042 句 NER 挖掘 aug。
+- `wapic-cws-data-2.txt` = 早期 retag2 mix (`h24_1.txt`) 的**精确前缀** + 追加 147,042 句 NER 挖掘 aug。
 
 ## Stage 2 mix (`h24_2.txt`) 的来源构成
 
@@ -36,7 +36,7 @@ release_stage2_train.txt  --fit i50-->  h25_30
 - `anchor_1m_retag2.txt` / `antimerge_train_retag2.txt`（F1_12m + 抗合并保险）
 - +（tail）NER 挖掘 aug 147,042 句
 
-> 注：`h24_1.txt` 内部的精确 cat 顺序/倍数由已删除的驱动脚本决定，但 `release_stage2_train.txt`
+> 注：`h24_1.txt` 内部的精确 cat 顺序/倍数由已删除的驱动脚本决定，但 `wapic-cws-data-2.txt`
 > 已是烘焙好的成品单文件，**复现 release 只需这一份**，无需重新 cat。
 
 ## 复现命令（示意）
@@ -46,12 +46,12 @@ release_stage2_train.txt  --fit i50-->  h25_30
 # Stage 2:
 ./build/wapic fit -p data/pattern.txt --init-from data/v5_p0.01.wac \
     -a l-bfgs -i 50 -1 0.005 -2 0.0001 -t 12 --histsz 5 --save-binary \
-    data/release_stage2_train.txt data/h25_29.wac
+    data/wapic-cws-data-2.txt data/h25_29.wac
 ./build/wapic fit -p data/pattern.txt --init-from data/h25_29.wac \
     -a l-bfgs -i 50 -1 0.005 -2 0.0001 -t 12 --histsz 5 --save-binary \
-    data/release_stage2_train.txt data/h25_30.wac
+    data/wapic-cws-data-2.txt data/h25_30.wac
 ./build/wapic convert -m data/h25_30.wac --save-binary --save-prune \
-    --prune-threshold 0.02 data/wapic-20260605-h25_30.wac
+    --prune-threshold 0.02 data/wapic-20260605.wac
 ```
 
 ---
@@ -60,27 +60,30 @@ release_stage2_train.txt  --fit i50-->  h25_30
 
 评估同一个 release 模型的**两份测试集**（retag2 gold，与训练/模型的 char-type 约定一致）。
 已实跑验证：release 模型在这两份上得到的 F1 与 RELEASES.md 记录**逐位匹配**
-（pd_mp `F1=97.71`，12m `F1=97.49`）。规范名同样用硬链接（零拷贝）。
+（PD-1998 `F1=97.71`，12m `F1=97.49`）。
 
-| 对应 | gold 规范名 | nolabel 输入 | 原文件 | 句数 |
-|---|---|---|---|---|
-| PD-1998 主评测 | `release_test_pdmp.txt` | `release_test_pdmp_nolabel.txt` | `pd_mp_test_retag2.txt` | 18,430 |
-| 12M 泛化评测 | `release_test_12m.txt` | `release_test_12m_nolabel.txt` | `all12m_test_retag2.txt` | 95,397 |
+| 对应 | gold 数据集文件名 | 上游原文件 | 句数 |
+|---|---|---|---|
+| PD-1998 主评测 | `wapic-cws-data-test-2.txt` | `pd_mp_test_retag2.txt` | 18,430 |
+| 12M 泛化评测 | `wapic-cws-data-test-1.txt` | `all12m_test_retag2.txt` | 95,397 |
 
-- `*.txt`（gold）= BMES 列式，评估基准；`*_nolabel.txt` = 纯字符输入，喂给 `wapic test`。
-- gold 也各转了一份空格切分 JSON：`release_test_pdmp.jsonl` / `release_test_12m.jsonl`。
+- `*.txt`（gold）= BMES 列式，评估基准；gold 各转了一份空格切分 JSON
+  （`wapic-cws-data-test-2.jsonl` / `wapic-cws-data-test-1.jsonl`）。
+- 喂给 `wapic test` 的**纯字符输入**不单独存，直接从 gold 去掉标签列生成：
+  `awk '{print $1}' wapic-cws-data-test-2.txt > pdmp_nolabel.txt`（保留空行分句）。
 
 ## 评估命令
 
 ```bash
-# 复现 release 指标（F1 应为 pd_mp 97.71 / 12m 97.49）
-./build/wapic test -m data/wapic-20260605-h25_30.wac \
-    data/release_test_pdmp_nolabel.txt /tmp/pred_pdmp.txt
-./build/wapic test -m data/wapic-20260605-h25_30.wac \
-    data/release_test_12m_nolabel.txt  /tmp/pred_12m.txt
+# 从 gold 生成纯字符输入
+awk '{print $1}' data/wapic-cws-data-test-2.txt > /tmp/pdmp_nolabel.txt
+awk '{print $1}' data/wapic-cws-data-test-1.txt > /tmp/12m_nolabel.txt
+
+# 复现 release 指标（F1 应为 PD-1998 97.71 / 12m 97.49）
+./build/wapic test -m data/wapic-20260605.wac /tmp/pdmp_nolabel.txt /tmp/pred_pdmp.txt
+./build/wapic test -m data/wapic-20260605.wac /tmp/12m_nolabel.txt  /tmp/pred_12m.txt
 # 再用 span-F1 对比 gold（逻辑见 scripts/eval_both.sh）
 ```
 
-> 注：`scripts/eval_both.sh` 里硬编码的是**非-retag2** 测试文件
-> （`pd_mp_test.txt` / `all12m_test.txt`），评估 retag2 release 模型时必须换成
-> 上面的 `*_retag2` / `release_test_*` 文件，否则字符类型列不匹配、F1 会偏低。
+> 注：`scripts/eval_both.sh` 里硬编码的是**非-retag2** 测试文件，评估 retag2 release 模型时
+> 必须换成上面的 `wapic-cws-data-test-*` 文件，否则字符类型列不匹配、F1 会偏低。