README.md

---
language: zh
license: mit
task_categories:
  - token-classification
tags:
  - chinese-word-segmentation
  - crf
  - sequence-labeling
pretty_name: Wapic CWS Data
size_categories:
  - 10M<n<100M
---

# Wapic 中文分词数据 (wapic-cws-data)

训练 / 评估 `Ismantic/wapic-cws` 分词模型所用的固化数据集。
现代中文标准：人名整体、标点独立、数字/英文按字符类型边界（"retag2" 约定，
如 `2015年` → `2015 年`）。

## 结构

```
dataset/
  wapic-cws-data-1.{jsonl,txt}.gz    Stage-1 训练:蒸馏数据，9,501,182 句
  wapic-cws-data-2.{jsonl,txt}.gz    Stage-2 训练:针对 badcase 的增强数据，4,388,498 句
  wapic-cws-data-test-1.{jsonl,txt}  12M 泛化评测，79,703 句（已去污染）
  wapic-cws-data-test-2.{jsonl,txt}  PD-1998 (modern+punct) 主评测，17,265 句（已去污染）
```

## 两种格式

- **`.jsonl`** — 每行 `{"source": "原句", "cut": "词 词 词"}`，词间空格分隔，通用可读。
- **`.txt`** — BMES 列式（`<字> <BMES标签>`，空行分句），wapic 训练/评估的原生输入格式。

训练数据（`-1` / `-2`）为 `.gz` 压缩，测试数据（`-test-1` / `-test-2`）未压缩。
评测时喂给 `wapic test` 的"纯字符输入"可从 gold `.txt` 去掉标签列生成：
`awk '{print $1}' wapic-cws-data-test-2.txt`。

```json
{"source": "李镇全今天接受了记者的采访", "cut": "李镇全 今天 接受 了 记者 的 采访"}
```

## 用法

```python
from datasets import load_dataset
ds = load_dataset("Ismantic/wapic-cws-data", data_files={
    "stage2":    "dataset/wapic-cws-data-2.jsonl.gz",
    "test_pdmp": "dataset/wapic-cws-data-test-2.jsonl",
})
```

模型在 `wapic-cws-data-test-2`（PD-1998）/ `wapic-cws-data-test-1`（12M）上的
F1 = **98.01 / 97.95**。

> **去污染说明**：测试集已剔除与训练数据（data-1/data-2）逐字重合的句子
> （PD-1998 剔除 6.3%，12M 剔除 16.5%——12M 与 Stage-1 语料同源，重合较多）。
> 留下的句子模型在训练中从未见过，F1 反映真实泛化能力。

## 训练

发布模型 `Ismantic/wapic-cws` 采用两阶段 warm-start：

- **Stage 1**（`wapic-cws-data-1`，蒸馏数据）→ 训练出 base 模型 `wapic-cws-base.wac`。
- **Stage 2**（`wapic-cws-data-2`，针对 badcase 的增强数据）→ 在 base 上 `--init-from` 精修。

复现命令（`.gz` 解压为 `.txt` 后使用；Stage-2 共 60 迭代 = 3×20 链式、
禁用早停，为迭代-F1 曲线的峰值区间；100 迭代起过拟合）：

```bash
# Stage 1 base（蒸馏数据训练出 wapic-cws-base.wac，一般直接复用，不重训）
# Stage 2（ck20 → ck40 → ck60 链式三段）:
./build/wapic fit -p data/pattern.txt --init-from data/wapic-cws-base.wac \
    -a l-bfgs -i 20 -e 0.0000001 -1 0.005 -2 0.0001 -t 8 --histsz 5 --save-binary \
    data/wapic-cws-data-2.txt data/ck20.wac
# 同参数 --init-from data/ck20.wac → ck40.wac，再 --init-from ck40 → ck60.wac，然后：
./build/wapic convert -m data/ck60.wac --save-binary --save-prune \
    --prune-threshold 0.04 data/wapic-cws.wac
```

## 来源与许可

数据卡与打包脚本为 MIT。底层语料源自人民日报 1998、LTP/base1 自动标注及公开新闻语料
（OpenNews / PeopleDaily），**原始语料版权归各自所有者**，此处仅提供分词标注衍生形式，
供研究复现使用。