Mandotosh commited on
Commit
e67bc45
·
verified ·
1 Parent(s): 6ea2c82

Add DOMAIN_DISTRIBUTION.md

Browse files
Files changed (1) hide show
  1. DOMAIN_DISTRIBUTION.md +106 -0
DOMAIN_DISTRIBUTION.md ADDED
@@ -0,0 +1,106 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # CPT_MASTER — Domain Distribution Report
2
+
3
+ Bu rapor yeni bir domain sınıflandırması çalıştırmaz; daha önce mevcut olan domain etiketlerini ve B için önceden üretilmiş exact block→record→domain raporunu kullanır. `Etiketsiz` ve `UNRESOLVED` kayıtlar aynen korunur.
4
+
5
+ ## Paket özeti
6
+
7
+ - NDSRF004 vocab SHA256: `72412d981dac65a29d1767bc98821fc2bcffc2de53c534e7c719598515bfb600`
8
+ - Packing context: **8192**
9
+ - Master oluştururken yeniden tokenize/repack: **hayır**
10
+ - İndirilebilir üç bileşenin tüm splitlerde toplam source tokenı: **8,669,093,965**
11
+ - Underlying union TRAIN source tokenı: **8,620,031,310**
12
+ - Gerçek B + C training exposure source tokenı: **6,437,138,130**
13
+ - B actual training: exact `balanced_50_50` schedule (all core + seçilmiş eski TR Dizin).
14
+ - C actual continuation: delta train blocklarının tamamı bir kez.
15
+
16
+ ## Gerçek B + C training exposure — ilk 25 domain
17
+
18
+ | Domain (mevcut etiket) | Source token | Pay |
19
+ |---|---:|---:|
20
+ | `10_teknoloji_muhendislik` | 666,514,250 | 10.354% |
21
+ | `Dünya ve Genel Bilgi` | 556,854,427 | 8.651% |
22
+ | `Kültür, Sanat ve Beşerî Bilimler` | 529,517,946 | 8.226% |
23
+ | `14_kultur_sanat_beseri` | 506,563,479 | 7.869% |
24
+ | `04_saglik_insan` | 480,839,363 | 7.470% |
25
+ | `Sosyal Bilimler` | 471,835,908 | 7.330% |
26
+ | `12_tarim_gida_cevre` | 428,223,439 | 6.652% |
27
+ | `Türkiye Bilgisi` | 387,823,037 | 6.025% |
28
+ | `08_egitim_ders_bilgisi` | 337,964,597 | 5.250% |
29
+ | `06_ekonomi_finans_is` | 317,166,357 | 4.927% |
30
+ | `Referans ve Yapılandırılmış Bilgi` | 232,228,469 | 3.608% |
31
+ | `03_fen_doga_bilimleri` | 227,549,299 | 3.535% |
32
+ | `Eğitim` | 187,452,127 | 2.912% |
33
+ | `07_hukuk_kamu` | 176,470,504 | 2.741% |
34
+ | `09_turkce_dil_edebiyat` | 169,465,474 | 2.633% |
35
+ | `Fen ve Doğa Bilimleri` | 137,932,100 | 2.143% |
36
+ | `02_dunya_genel_bilgi` | 132,533,685 | 2.059% |
37
+ | `Teknoloji ve Mühendislik` | 129,775,376 | 2.016% |
38
+ | `Sağlık ve İnsan` | 63,159,187 | 0.981% |
39
+ | `Türkçe, Dil ve Edebiyat` | 59,851,457 | 0.930% |
40
+ | `Etiketsiz` | 57,930,479 | 0.900% |
41
+ | `11_matematik_nicel` | 48,719,555 | 0.757% |
42
+ | `Ekonomi, Finans ve İş Hayatı` | 41,567,598 | 0.646% |
43
+ | `Hukuk ve Kamu` | 22,998,323 | 0.357% |
44
+ | `Pratik Yaşam ve Common Sense` | 22,544,607 | 0.350% |
45
+
46
+ ## Underlying downloadable union TRAIN — ilk 25 domain
47
+
48
+ | Domain (mevcut etiket) | Source token | Pay |
49
+ |---|---:|---:|
50
+ | `04_saglik_insan` | 902,440,974 | 10.469% |
51
+ | `Sosyal Bilimler` | 807,908,377 | 9.372% |
52
+ | `10_teknoloji_muhendislik` | 806,826,276 | 9.360% |
53
+ | `08_egitim_ders_bilgisi` | 631,492,228 | 7.326% |
54
+ | `06_ekonomi_finans_is` | 596,541,285 | 6.920% |
55
+ | `Dünya ve Genel Bilgi` | 556,854,427 | 6.460% |
56
+ | `14_kultur_sanat_beseri` | 540,674,505 | 6.272% |
57
+ | `Kültür, Sanat ve Beşerî Bilimler` | 529,517,946 | 6.143% |
58
+ | `Türkiye Bilgisi` | 449,541,359 | 5.215% |
59
+ | `12_tarim_gida_cevre` | 428,223,439 | 4.968% |
60
+ | `03_fen_doga_bilimleri` | 425,198,108 | 4.933% |
61
+ | `07_hukuk_kamu` | 329,759,283 | 3.825% |
62
+ | `09_turkce_dil_edebiyat` | 317,864,811 | 3.688% |
63
+ | `02_dunya_genel_bilgi` | 249,371,927 | 2.893% |
64
+ | `Referans ve Yapılandırılmış Bilgi` | 232,228,469 | 2.694% |
65
+ | `Eğitim` | 187,452,127 | 2.175% |
66
+ | `Fen ve Doğa Bilimleri` | 137,932,100 | 1.600% |
67
+ | `Teknoloji ve Mühendislik` | 129,775,376 | 1.506% |
68
+ | `Sağlık ve İnsan` | 63,159,187 | 0.733% |
69
+ | `Türkçe, Dil ve Edebiyat` | 59,851,457 | 0.694% |
70
+ | `Etiketsiz` | 57,930,479 | 0.672% |
71
+ | `11_matematik_nicel` | 48,719,555 | 0.565% |
72
+ | `Ekonomi, Finans ve İş Hayatı` | 41,567,598 | 0.482% |
73
+ | `Hukuk ve Kamu` | 22,998,323 | 0.267% |
74
+ | `Pratik Yaşam ve Common Sense` | 22,544,607 | 0.262% |
75
+
76
+ ## C delta TRAIN — exact
77
+
78
+ | Domain (mevcut etiket) | Source token | Pay |
79
+ |---|---:|---:|
80
+ | `10_teknoloji_muhendislik` | 505,157,278 | 34.834% |
81
+ | `11_matematik_nicel` | 48,719,555 | 3.359% |
82
+ | `12_tarim_gida_cevre` | 428,223,439 | 29.529% |
83
+ | `14_kultur_sanat_beseri` | 468,103,009 | 32.278% |
84
+
85
+ ## Cross-component exact dedup kontrolü
86
+
87
+ - `core_cpt__trdizin_base` ortak `dedup_sha256`: **0**
88
+ - `core_cpt__trdizin_delta` ortak `dedup_sha256`: **0**
89
+ - `trdizin_base__trdizin_delta` ortak `dedup_sha256`: **0**
90
+
91
+ ## Dosya yapısı
92
+
93
+ ```text
94
+ CPT_MASTER/
95
+ ├── data/
96
+ │ ├── core_cpt_8k_packed/
97
+ │ ├── trdizin_base_8k_packed/
98
+ │ └── trdizin_delta_8k_packed/
99
+ ├── B_TRAINING_PROFILE/
100
+ ├── C_TRAINING_PROFILE/
101
+ ├── MASTER_MANIFEST.json
102
+ ├── DOMAIN_DISTRIBUTION.json
103
+ └── DOMAIN_DISTRIBUTION.md
104
+ ```
105
+
106
+ JSON raporu tüm raw domain etiketlerini içerir; Markdown okunabilirlik için ilk 25’i gösterir.