Datasets:
Tasks:
Token Classification
Modalities:
Text
Formats:
json
Languages:
Chinese
Size:
10K - 100K
License:
Update training recipe (60 iters, prune 0.04) and F1 to 98.00/98.06
Browse files
README.md
CHANGED
|
@@ -52,7 +52,7 @@ ds = load_dataset("Ismantic/wapic-cws-data", data_files={
|
|
| 52 |
```
|
| 53 |
|
| 54 |
模型在 `wapic-cws-data-test-2`(PD-1998)/ `wapic-cws-data-test-1`(12M)上的
|
| 55 |
-
F1 = **
|
| 56 |
|
| 57 |
## 训练
|
| 58 |
|
|
@@ -61,19 +61,18 @@ F1 = **97.70 / 97.48**。
|
|
| 61 |
- **Stage 1**(`wapic-cws-data-1`,蒸馏数据)→ 训练出 base 模型 `wapic-cws-base.wac`。
|
| 62 |
- **Stage 2**(`wapic-cws-data-2`,针对 badcase 的增强数据)→ 在 base 上 `--init-from` 精修。
|
| 63 |
|
| 64 |
-
复现命令(
|
|
|
|
| 65 |
|
| 66 |
```bash
|
| 67 |
# Stage 1 base(蒸馏数据训练出 wapic-cws-base.wac,一般直接复用,不重训)
|
| 68 |
-
# Stage 2:
|
| 69 |
./build/wapic fit -p data/pattern.txt --init-from data/wapic-cws-base.wac \
|
| 70 |
-
-a l-bfgs -i
|
| 71 |
-
data/wapic-cws-data-2.txt data/
|
| 72 |
-
|
| 73 |
-
|
| 74 |
-
|
| 75 |
-
./build/wapic convert -m data/stage2-b.wac --save-binary --save-prune \
|
| 76 |
-
--prune-threshold 0.02 data/wapic-cws.wac
|
| 77 |
```
|
| 78 |
|
| 79 |
## 来源与许可
|
|
|
|
| 52 |
```
|
| 53 |
|
| 54 |
模型在 `wapic-cws-data-test-2`(PD-1998)/ `wapic-cws-data-test-1`(12M)上的
|
| 55 |
+
F1 = **98.00 / 98.06**。
|
| 56 |
|
| 57 |
## 训练
|
| 58 |
|
|
|
|
| 61 |
- **Stage 1**(`wapic-cws-data-1`,蒸馏数据)→ 训练出 base 模型 `wapic-cws-base.wac`。
|
| 62 |
- **Stage 2**(`wapic-cws-data-2`,针对 badcase 的增强数据)→ 在 base 上 `--init-from` 精修。
|
| 63 |
|
| 64 |
+
复现命令(`.gz` 解压为 `.txt` 后使用;Stage-2 共 60 迭代 = 3×20 链式、
|
| 65 |
+
禁用早停,为迭代-F1 曲线的峰值区间;100 迭代起过拟合):
|
| 66 |
|
| 67 |
```bash
|
| 68 |
# Stage 1 base(蒸馏数据训练出 wapic-cws-base.wac,一般直接复用,不重训)
|
| 69 |
+
# Stage 2(ck20 → ck40 → ck60 链式三段):
|
| 70 |
./build/wapic fit -p data/pattern.txt --init-from data/wapic-cws-base.wac \
|
| 71 |
+
-a l-bfgs -i 20 -e 0.0000001 -1 0.005 -2 0.0001 -t 8 --histsz 5 --save-binary \
|
| 72 |
+
data/wapic-cws-data-2.txt data/ck20.wac
|
| 73 |
+
# 同参数 --init-from data/ck20.wac → ck40.wac,再 --init-from ck40 → ck60.wac,然后:
|
| 74 |
+
./build/wapic convert -m data/ck60.wac --save-binary --save-prune \
|
| 75 |
+
--prune-threshold 0.04 data/wapic-cws.wac
|
|
|
|
|
|
|
| 76 |
```
|
| 77 |
|
| 78 |
## 来源与许可
|