Add files using upload-large-folder tool

.gitattributes

@@ -58,3 +58,5 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
 # Video files - compressed
 *.mp4 filter=lfs diff=lfs merge=lfs -text
 *.webm filter=lfs diff=lfs merge=lfs -text
+test/12m_test.txt filter=lfs diff=lfs merge=lfs -text
+test/12m_test.jsonl filter=lfs diff=lfs merge=lfs -text

README.md

@@ -0,0 +1,61 @@
+---
+language: zh
+license: mit
+task_categories:
+  - token-classification
+tags:
+  - chinese-word-segmentation
+  - crf
+  - sequence-labeling
+pretty_name: Wapic CWS Data
+size_categories:
+  - 10M<n<100M
+---
+
+# Wapic 中文分词数据 (wapic-cws-data)
+
+训练 / 评估 `Ismantic/wapic-cws` 分词模型所用的固化数据集。
+现代中文标准：人名整体、标点独立、数字/英文按字符类型边界（"retag2" 约定，
+如 `2015年` → `2015 年`）。
+
+## 结构
+
+```
+train/
+  stage1_train.{jsonl,txt}   Stage-1: 12M LTP 语料，9,501,182 句
+  stage2_train.{jsonl,txt}   Stage-2: name-rich / 现代 mix，4,388,498 句
+test/
+  pdmp_test.{jsonl,txt}      PD-1998 (modern+punct) 主评测，18,430 句
+  pdmp_test_nolabel.txt      纯字符输入
+  12m_test.{jsonl,txt}       12M 泛化评测，95,397 句
+  12m_test_nolabel.txt       纯字符输入
+RELEASE_TRAINING_DATA.md     完整训练配方
+```
+
+## 两种格式
+
+- **`.jsonl`** — 每行 `{"source": "原句", "cut": "词 词 词"}`，词间空格分隔，通用可读。
+- **`.txt`** — BMES 列式（`<字> <BMES标签>`，空行分句），wapic 训练/评估的原生输入格式。
+  `_nolabel.txt` 是去标签的纯字符输入，喂给 `wapic test`。
+
+```json
+{"source": "李镇全今天接受了记者的采访", "cut": "李镇全 今天 接受 了 记者 的 采访"}
+```
+
+## 用法
+
+```python
+from datasets import load_dataset
+ds = load_dataset("Ismantic/wapic-cws-data", data_files={
+    "stage2": "train/stage2_train.jsonl",
+    "pdmp_test": "test/pdmp_test.jsonl",
+})
+```
+
+模型在 `pdmp_test` / `12m_test` 上的 F1 = **97.71 / 97.49**。
+
+## 来源与许可
+
+数据卡与打包脚本为 MIT。底层语料源自人民日报 1998、LTP/base1 自动标注及公开新闻语料
+（OpenNews / PeopleDaily），**原始语料版权归各自所有者**，此处仅提供分词标注衍生形式，
+供研究复现使用。

RELEASE_TRAINING_DATA.md

@@ -0,0 +1,86 @@
+# Release 训练数据（精简后）
+
+当前 release 模型 `data/wapic-20260605-h25_30.wac`（48M，bcv3 413，names 15/15）
+的**完整训练数据只有两份**。已用硬链接给出规范名（零拷贝，与原文件共享 inode）：
+
+| 阶段 | 规范名 | 原文件 | 句数 | 大小 | 作用 |
+|---|---|---|---|---|---|
+| Stage 1 | `release_stage1_train.txt` | `all12m_train_retag2.txt` | 9,501,182 | 1.19 GB | 12M LTP 语料（retag2 字符类型边界），产出 Stage-1 base |
+| Stage 2 | `release_stage2_train.txt` | `h24_2.txt` | 4,388,498 | 986 MB | 人名/标点/数字精修 mix，warm-start fine-tune 用 |
+
+## 训练链（两阶段 warm-start）
+
+```
+release_stage1_train.txt  --fit-->  v5_p0.01.wac        (Stage-1 base, L1 剪枝到 p=0.01)
+                                        │  --init-from (锁定特征)
+                                        ▼
+release_stage2_train.txt  --fit i50-->  h25_29
+                                        │  --init-from (continue，同一份数据)
+                                        ▼
+release_stage2_train.txt  --fit i50-->  h25_30
+                                        │  convert --save-prune --prune-threshold 0.02
+                                        ▼
+                              wapic-20260605-h25_30.wac   ← RELEASE（= exp_h25_30_p0.02.wac，字节相同）
+```
+
+- Stage 2 是 i=100 拆成链式 50+50（中途 checkpoint），两段训练数据相同。
+- `release_stage2_train.txt` = 早期 retag2 mix (`h24_1.txt`) 的**精确前缀** + 追加 147,042 句 NER 挖掘 aug。
+
+## Stage 2 mix (`h24_2.txt`) 的来源构成
+
+`h24_1.txt`（前缀，960 MB）由这些 retag2 文件 cat 而成，末尾再追加 NER 挖掘 aug：
+- `opennews_nh_2m_train_retag2.txt`（2.0M 句）
+- `threechar_zh_1m_train_retag2.txt`（1.0M 句）
+- `clean_aug_train_retag2.txt`（56k 句）
+- `pd_mp_train_retag2.txt`（90k 句）
+- `anchor_1m_retag2.txt` / `antimerge_train_retag2.txt`（F1_12m + 抗合并保险）
+- +（tail）NER 挖掘 aug 147,042 句
+
+> 注：`h24_1.txt` 内部的精确 cat 顺序/倍数由已删除的驱动脚本决定，但 `release_stage2_train.txt`
+> 已是烘焙好的成品单文件，**复现 release 只需这一份**，无需重新 cat。
+
+## 复现命令（示意）
+
+```bash
+# Stage 1 base（已有 v5_p0.01.wac，一般直接复用，不重训）
+# Stage 2:
+./build/wapic fit -p data/pattern.txt --init-from data/v5_p0.01.wac \
+    -a l-bfgs -i 50 -1 0.005 -2 0.0001 -t 12 --histsz 5 --save-binary \
+    data/release_stage2_train.txt data/h25_29.wac
+./build/wapic fit -p data/pattern.txt --init-from data/h25_29.wac \
+    -a l-bfgs -i 50 -1 0.005 -2 0.0001 -t 12 --histsz 5 --save-binary \
+    data/release_stage2_train.txt data/h25_30.wac
+./build/wapic convert -m data/h25_30.wac --save-binary --save-prune \
+    --prune-threshold 0.02 data/wapic-20260605-h25_30.wac
+```
+
+---
+
+# Release 测试数据（精简后）
+
+评估同一个 release 模型的**两份测试集**（retag2 gold，与训练/模型的 char-type 约定一致）。
+已实跑验证：release 模型在这两份上得到的 F1 与 RELEASES.md 记录**逐位匹配**
+（pd_mp `F1=97.71`，12m `F1=97.49`）。规范名同样用硬链接（零拷贝）。
+
+| 对应 | gold 规范名 | nolabel 输入 | 原文件 | 句数 |
+|---|---|---|---|---|
+| PD-1998 主评测 | `release_test_pdmp.txt` | `release_test_pdmp_nolabel.txt` | `pd_mp_test_retag2.txt` | 18,430 |
+| 12M 泛化评测 | `release_test_12m.txt` | `release_test_12m_nolabel.txt` | `all12m_test_retag2.txt` | 95,397 |
+
+- `*.txt`（gold）= BMES 列式，评估基准；`*_nolabel.txt` = 纯字符输入，喂给 `wapic test`。
+- gold 也各转了一份空格切分 JSON：`release_test_pdmp.jsonl` / `release_test_12m.jsonl`。
+
+## 评估命令
+
+```bash
+# 复现 release 指标（F1 应为 pd_mp 97.71 / 12m 97.49）
+./build/wapic test -m data/wapic-20260605-h25_30.wac \
+    data/release_test_pdmp_nolabel.txt /tmp/pred_pdmp.txt
+./build/wapic test -m data/wapic-20260605-h25_30.wac \
+    data/release_test_12m_nolabel.txt  /tmp/pred_12m.txt
+# 再用 span-F1 对比 gold（逻辑见 scripts/eval_both.sh）
+```
+
+> 注：`scripts/eval_both.sh` 里硬编码的是**非-retag2** 测试文件
+> （`pd_mp_test.txt` / `all12m_test.txt`），评估 retag2 release 模型时必须换成
+> 上面的 `*_retag2` / `release_test_*` 文件，否则字符类型列不匹配、F1 会偏低。

test/12m_test.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:a1fd5e96dff01bf6747bdd9f3d06d489e4c04c54f07527ff6970c0d0e9a9da5d
+size 15419087

test/12m_test.txt

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:448e0fe6d422ab8bfdd2483a1bd0b2a5da023084781772057fd48af17600817b
+size 11966809

train/stage1_train.jsonl.gz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:484dfdff4ffffd8214bcbaf86b4f69d7144750388b678d7704b70380312df6df
+size 547771221

train/stage1_train.txt.gz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:692a737008dd168a280edb63dcbef9952fe8af8e0f8af59edcc61d2a66bd3d4b
+size 341580539

train/stage2_train.jsonl.gz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:6ccd1469396adf9d345d1b2a4b9de06a514fbfc0a3b9889e9aa50c91f2ab56b8
+size 476789295

train/stage2_train.txt.gz

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:10212f0ac6530bb446ee4df75c420b59c90a5458f4b1b0b53acf08f7d7af543b
+size 314132038