Add DOMAIN_DISTRIBUTION.md
Browse files- DOMAIN_DISTRIBUTION.md +106 -0
DOMAIN_DISTRIBUTION.md
ADDED
|
@@ -0,0 +1,106 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# CPT_MASTER — Domain Distribution Report
|
| 2 |
+
|
| 3 |
+
Bu rapor yeni bir domain sınıflandırması çalıştırmaz; daha önce mevcut olan domain etiketlerini ve B için önceden üretilmiş exact block→record→domain raporunu kullanır. `Etiketsiz` ve `UNRESOLVED` kayıtlar aynen korunur.
|
| 4 |
+
|
| 5 |
+
## Paket özeti
|
| 6 |
+
|
| 7 |
+
- NDSRF004 vocab SHA256: `72412d981dac65a29d1767bc98821fc2bcffc2de53c534e7c719598515bfb600`
|
| 8 |
+
- Packing context: **8192**
|
| 9 |
+
- Master oluştururken yeniden tokenize/repack: **hayır**
|
| 10 |
+
- İndirilebilir üç bileşenin tüm splitlerde toplam source tokenı: **8,669,093,965**
|
| 11 |
+
- Underlying union TRAIN source tokenı: **8,620,031,310**
|
| 12 |
+
- Gerçek B + C training exposure source tokenı: **6,437,138,130**
|
| 13 |
+
- B actual training: exact `balanced_50_50` schedule (all core + seçilmiş eski TR Dizin).
|
| 14 |
+
- C actual continuation: delta train blocklarının tamamı bir kez.
|
| 15 |
+
|
| 16 |
+
## Gerçek B + C training exposure — ilk 25 domain
|
| 17 |
+
|
| 18 |
+
| Domain (mevcut etiket) | Source token | Pay |
|
| 19 |
+
|---|---:|---:|
|
| 20 |
+
| `10_teknoloji_muhendislik` | 666,514,250 | 10.354% |
|
| 21 |
+
| `Dünya ve Genel Bilgi` | 556,854,427 | 8.651% |
|
| 22 |
+
| `Kültür, Sanat ve Beşerî Bilimler` | 529,517,946 | 8.226% |
|
| 23 |
+
| `14_kultur_sanat_beseri` | 506,563,479 | 7.869% |
|
| 24 |
+
| `04_saglik_insan` | 480,839,363 | 7.470% |
|
| 25 |
+
| `Sosyal Bilimler` | 471,835,908 | 7.330% |
|
| 26 |
+
| `12_tarim_gida_cevre` | 428,223,439 | 6.652% |
|
| 27 |
+
| `Türkiye Bilgisi` | 387,823,037 | 6.025% |
|
| 28 |
+
| `08_egitim_ders_bilgisi` | 337,964,597 | 5.250% |
|
| 29 |
+
| `06_ekonomi_finans_is` | 317,166,357 | 4.927% |
|
| 30 |
+
| `Referans ve Yapılandırılmış Bilgi` | 232,228,469 | 3.608% |
|
| 31 |
+
| `03_fen_doga_bilimleri` | 227,549,299 | 3.535% |
|
| 32 |
+
| `Eğitim` | 187,452,127 | 2.912% |
|
| 33 |
+
| `07_hukuk_kamu` | 176,470,504 | 2.741% |
|
| 34 |
+
| `09_turkce_dil_edebiyat` | 169,465,474 | 2.633% |
|
| 35 |
+
| `Fen ve Doğa Bilimleri` | 137,932,100 | 2.143% |
|
| 36 |
+
| `02_dunya_genel_bilgi` | 132,533,685 | 2.059% |
|
| 37 |
+
| `Teknoloji ve Mühendislik` | 129,775,376 | 2.016% |
|
| 38 |
+
| `Sağlık ve İnsan` | 63,159,187 | 0.981% |
|
| 39 |
+
| `Türkçe, Dil ve Edebiyat` | 59,851,457 | 0.930% |
|
| 40 |
+
| `Etiketsiz` | 57,930,479 | 0.900% |
|
| 41 |
+
| `11_matematik_nicel` | 48,719,555 | 0.757% |
|
| 42 |
+
| `Ekonomi, Finans ve İş Hayatı` | 41,567,598 | 0.646% |
|
| 43 |
+
| `Hukuk ve Kamu` | 22,998,323 | 0.357% |
|
| 44 |
+
| `Pratik Yaşam ve Common Sense` | 22,544,607 | 0.350% |
|
| 45 |
+
|
| 46 |
+
## Underlying downloadable union TRAIN — ilk 25 domain
|
| 47 |
+
|
| 48 |
+
| Domain (mevcut etiket) | Source token | Pay |
|
| 49 |
+
|---|---:|---:|
|
| 50 |
+
| `04_saglik_insan` | 902,440,974 | 10.469% |
|
| 51 |
+
| `Sosyal Bilimler` | 807,908,377 | 9.372% |
|
| 52 |
+
| `10_teknoloji_muhendislik` | 806,826,276 | 9.360% |
|
| 53 |
+
| `08_egitim_ders_bilgisi` | 631,492,228 | 7.326% |
|
| 54 |
+
| `06_ekonomi_finans_is` | 596,541,285 | 6.920% |
|
| 55 |
+
| `Dünya ve Genel Bilgi` | 556,854,427 | 6.460% |
|
| 56 |
+
| `14_kultur_sanat_beseri` | 540,674,505 | 6.272% |
|
| 57 |
+
| `Kültür, Sanat ve Beşerî Bilimler` | 529,517,946 | 6.143% |
|
| 58 |
+
| `Türkiye Bilgisi` | 449,541,359 | 5.215% |
|
| 59 |
+
| `12_tarim_gida_cevre` | 428,223,439 | 4.968% |
|
| 60 |
+
| `03_fen_doga_bilimleri` | 425,198,108 | 4.933% |
|
| 61 |
+
| `07_hukuk_kamu` | 329,759,283 | 3.825% |
|
| 62 |
+
| `09_turkce_dil_edebiyat` | 317,864,811 | 3.688% |
|
| 63 |
+
| `02_dunya_genel_bilgi` | 249,371,927 | 2.893% |
|
| 64 |
+
| `Referans ve Yapılandırılmış Bilgi` | 232,228,469 | 2.694% |
|
| 65 |
+
| `Eğitim` | 187,452,127 | 2.175% |
|
| 66 |
+
| `Fen ve Doğa Bilimleri` | 137,932,100 | 1.600% |
|
| 67 |
+
| `Teknoloji ve Mühendislik` | 129,775,376 | 1.506% |
|
| 68 |
+
| `Sağlık ve İnsan` | 63,159,187 | 0.733% |
|
| 69 |
+
| `Türkçe, Dil ve Edebiyat` | 59,851,457 | 0.694% |
|
| 70 |
+
| `Etiketsiz` | 57,930,479 | 0.672% |
|
| 71 |
+
| `11_matematik_nicel` | 48,719,555 | 0.565% |
|
| 72 |
+
| `Ekonomi, Finans ve İş Hayatı` | 41,567,598 | 0.482% |
|
| 73 |
+
| `Hukuk ve Kamu` | 22,998,323 | 0.267% |
|
| 74 |
+
| `Pratik Yaşam ve Common Sense` | 22,544,607 | 0.262% |
|
| 75 |
+
|
| 76 |
+
## C delta TRAIN — exact
|
| 77 |
+
|
| 78 |
+
| Domain (mevcut etiket) | Source token | Pay |
|
| 79 |
+
|---|---:|---:|
|
| 80 |
+
| `10_teknoloji_muhendislik` | 505,157,278 | 34.834% |
|
| 81 |
+
| `11_matematik_nicel` | 48,719,555 | 3.359% |
|
| 82 |
+
| `12_tarim_gida_cevre` | 428,223,439 | 29.529% |
|
| 83 |
+
| `14_kultur_sanat_beseri` | 468,103,009 | 32.278% |
|
| 84 |
+
|
| 85 |
+
## Cross-component exact dedup kontrolü
|
| 86 |
+
|
| 87 |
+
- `core_cpt__trdizin_base` ortak `dedup_sha256`: **0**
|
| 88 |
+
- `core_cpt__trdizin_delta` ortak `dedup_sha256`: **0**
|
| 89 |
+
- `trdizin_base__trdizin_delta` ortak `dedup_sha256`: **0**
|
| 90 |
+
|
| 91 |
+
## Dosya yapısı
|
| 92 |
+
|
| 93 |
+
```text
|
| 94 |
+
CPT_MASTER/
|
| 95 |
+
├── data/
|
| 96 |
+
│ ├── core_cpt_8k_packed/
|
| 97 |
+
│ ├── trdizin_base_8k_packed/
|
| 98 |
+
│ └── trdizin_delta_8k_packed/
|
| 99 |
+
├── B_TRAINING_PROFILE/
|
| 100 |
+
├── C_TRAINING_PROFILE/
|
| 101 |
+
├── MASTER_MANIFEST.json
|
| 102 |
+
├── DOMAIN_DISTRIBUTION.json
|
| 103 |
+
└── DOMAIN_DISTRIBUTION.md
|
| 104 |
+
```
|
| 105 |
+
|
| 106 |
+
JSON raporu tüm raw domain etiketlerini içerir; Markdown okunabilirlik için ilk 25’i gösterir.
|