Decontaminate test sets: drop sentences that appear verbatim in training data (pdmp -6.3%, 12m -16.5%)

README.md

@@ -24,8 +24,8 @@ size_categories:
 dataset/
   wapic-cws-data-1.{jsonl,txt}.gz    Stage-1 训练:蒸馏数据，9,501,182 句
   wapic-cws-data-2.{jsonl,txt}.gz    Stage-2 训练:针对 badcase 的增强数据，4,388,498 句
-  wapic-cws-data-test-1.{jsonl,txt}  12M 泛化评测，95,397 句
-  wapic-cws-data-test-2.{jsonl,txt}  PD-1998 (modern+punct) 主评测，18,430 句
+  wapic-cws-data-test-1.{jsonl,txt}  12M 泛化评测，79,703 句（已去污染）
+  wapic-cws-data-test-2.{jsonl,txt}  PD-1998 (modern+punct) 主评测，17,265 句（已去污染）
 ```
 
 ## 两种格式
@@ -52,7 +52,11 @@ ds = load_dataset("Ismantic/wapic-cws-data", data_files={
 ```
 
 模型在 `wapic-cws-data-test-2`（PD-1998）/ `wapic-cws-data-test-1`（12M）上的
-F1 = **98.00 / 98.06**。
+F1 = **98.01 / 97.95**。
+
+> **去污染说明**：测试集已剔除与训练数据（data-1/data-2）逐字重合的句子
+> （PD-1998 剔除 6.3%，12M 剔除 16.5%——12M 与 Stage-1 语料同源，重合较多）。
+> 留下的句子模型在训练中从未见过，F1 反映真实泛化能力。
 
 ## 训练
 

dataset/wapic-cws-data-test-1.jsonl

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:b2e45b97c25a640f3774c8546e283c6a5d9d48624bf6e647f5e7bf870e24cb10
-size 15418461
+oid sha256:4d5ab0a19b4bcff4671ced496e5d42e6d52fe4f6aa53b19fcb3cdbf69683b4bc
+size 13627404

dataset/wapic-cws-data-test-1.txt

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:d466e8445ae2b6cfa558236c4aace1ca1e5d221f39fa4fbf3b5600b10845ea4d
-size 11966809
+oid sha256:9c785f67f14369fd4ebb1e67e73c661fc1340ca7e3a2444671fa51d223459b91
+size 10665826