tf-bao commited on
Commit
90a4c39
·
verified ·
1 Parent(s): 7a914da

Update training recipe (60 iters, prune 0.04) and F1 to 98.00/98.06

Browse files
Files changed (1) hide show
  1. README.md +9 -10
README.md CHANGED
@@ -52,7 +52,7 @@ ds = load_dataset("Ismantic/wapic-cws-data", data_files={
52
  ```
53
 
54
  模型在 `wapic-cws-data-test-2`(PD-1998)/ `wapic-cws-data-test-1`(12M)上的
55
- F1 = **97.70 / 97.48**。
56
 
57
  ## 训练
58
 
@@ -61,19 +61,18 @@ F1 = **97.70 / 97.48**。
61
  - **Stage 1**(`wapic-cws-data-1`,蒸馏数据)→ 训练出 base 模型 `wapic-cws-base.wac`。
62
  - **Stage 2**(`wapic-cws-data-2`,针对 badcase 的增强数据)→ 在 base 上 `--init-from` 精修。
63
 
64
- 复现命令(示意,`.gz` 解压为 `.txt` 后使用):
 
65
 
66
  ```bash
67
  # Stage 1 base(蒸馏数据训练出 wapic-cws-base.wac,一般直接复用,不重训)
68
- # Stage 2:
69
  ./build/wapic fit -p data/pattern.txt --init-from data/wapic-cws-base.wac \
70
- -a l-bfgs -i 50 -1 0.005 -2 0.0001 -t 12 --histsz 5 --save-binary \
71
- data/wapic-cws-data-2.txt data/stage2-a.wac
72
- ./build/wapic fit -p data/pattern.txt --init-from data/stage2-a.wac \
73
- -a l-bfgs -i 50 -1 0.005 -2 0.0001 -t 12 --histsz 5 --save-binary \
74
- data/wapic-cws-data-2.txt data/stage2-b.wac
75
- ./build/wapic convert -m data/stage2-b.wac --save-binary --save-prune \
76
- --prune-threshold 0.02 data/wapic-cws.wac
77
  ```
78
 
79
  ## 来源与许可
 
52
  ```
53
 
54
  模型在 `wapic-cws-data-test-2`(PD-1998)/ `wapic-cws-data-test-1`(12M)上的
55
+ F1 = **98.00 / 98.06**。
56
 
57
  ## 训练
58
 
 
61
  - **Stage 1**(`wapic-cws-data-1`,蒸馏数据)→ 训练出 base 模型 `wapic-cws-base.wac`。
62
  - **Stage 2**(`wapic-cws-data-2`,针对 badcase 的增强数据)→ 在 base 上 `--init-from` 精修。
63
 
64
+ 复现命令(`.gz` 解压为 `.txt` 后使用;Stage-2 共 60 迭代 = 3×20 链式、
65
+ 禁用早停,为迭代-F1 曲线的峰值区间;100 迭代起过拟合):
66
 
67
  ```bash
68
  # Stage 1 base(蒸馏数据训练出 wapic-cws-base.wac,一般直接复用,不重训)
69
+ # Stage 2(ck20 → ck40 → ck60 链式三段):
70
  ./build/wapic fit -p data/pattern.txt --init-from data/wapic-cws-base.wac \
71
+ -a l-bfgs -i 20 -e 0.0000001 -1 0.005 -2 0.0001 -t 8 --histsz 5 --save-binary \
72
+ data/wapic-cws-data-2.txt data/ck20.wac
73
+ # 同参数 --init-from data/ck20.wac → ck40.wac,再 --init-from ck40 → ck60.wac,然后:
74
+ ./build/wapic convert -m data/ck60.wac --save-binary --save-prune \
75
+ --prune-threshold 0.04 data/wapic-cws.wac
 
 
76
  ```
77
 
78
  ## 来源与许可