Ahmetemiiii2 commited on
Commit
4986015
·
verified ·
1 Parent(s): 8f02dcb

README: English/Türkçe dataset card

Browse files
Files changed (1) hide show
  1. README.md +52 -23
README.md CHANGED
@@ -17,12 +17,12 @@ configs:
17
  path: data/train-*.parquet
18
  ---
19
 
20
- # Türkçe Kodlama Verisi (v0.2)
21
 
22
- Türkçe anlatımlı, kod içeren ham metin dokümanları (pretraining / mid-training için).
23
 
24
- - Doküman sayısı: **28**
25
- - Toplam token: **317,427** (`Qwen/Qwen3-0.6B` tokenizer'ı ile)
26
 
27
  ```python
28
  from datasets import load_dataset
@@ -30,14 +30,41 @@ from datasets import load_dataset
30
  ds = load_dataset("TozAI/TR-coding-data", split="train")
31
  ```
32
 
33
- ## Nasıl üretildi
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
34
 
35
  Dokümanlar yapay zeka modelleri (Qwen, GLM, Claude, ChatGPT, Gemini) yardımıyla üretilmiş, ardından elle
36
  gözden geçirilip düzenlenmiştir (sohbet ifadeleri ve araç artıkları temizlenmiştir).
37
  Kodların tamamı çalıştırılarak doğrulanmamıştır; kullanmadan önce kendi
38
  kontrollerinizi yapmanız önerilir.
39
 
40
- ## Sürüm notları
41
 
42
  - **v0.2**: Her doküman tek satır (v0.1'deki CSV kaynaklı bozuk parquet düzeltildi);
43
  `id`, `konu`, `ana_dil`, `diller`, `token_count` gibi metadata kolonları eklendi;
@@ -45,24 +72,26 @@ kontrollerinizi yapmanız önerilir.
45
  yeni dokümanlar eklendi (~80K → ~318K token).
46
  - **v0.1**: İlk sürüm (~80K token). `revision="v0.1"` ile erişilebilir.
47
 
48
- ## Kolonlar
49
 
50
- | Kolon | Açıklama |
51
- |---|---|
52
- | `id` | Doküman kimliği |
53
- | `konu` | Dokümanın konusu |
54
- | `ana_dil` | Baskın programlama dili |
55
- | `diller` | Dokümanda geçen tüm diller |
56
- | `etiketler` | Serbest etiketler |
57
- | `lang` | Doğal dil (FineWeb-2 formatında) |
58
- | `token_count` | Token sayısı |
59
- | `karakter` | Karakter sayısı |
60
- | `kod_orani` | Metnin kod bloklarından oluşan oranı |
61
- | `text` | Ham metin |
62
-
63
- ## Ana dil dağılımı (token ağırlıklı)
64
-
65
- | Dil | Pay |
 
 
66
  |---|---|
67
  | python | 25.2% |
68
  | html | 20.8% |
 
17
  path: data/train-*.parquet
18
  ---
19
 
20
+ # TR Coding Data (v0.2)
21
 
22
+ **[English](#english) | [Türkçe](#türkçe)**
23
 
24
+ - Documents / Doküman: **28**
25
+ - Tokens / Token: **317,427** (`Qwen/Qwen3-0.6B` tokenizer)
26
 
27
  ```python
28
  from datasets import load_dataset
 
30
  ds = load_dataset("TozAI/TR-coding-data", split="train")
31
  ```
32
 
33
+ ## English
34
+
35
+ Raw-text documents that explain programming in **Turkish** with embedded code,
36
+ intended for pretraining / mid-training of language models. Each row is one
37
+ self-contained document (tutorial, project walkthrough, debugging session, ...).
38
+
39
+ ### How it was made
40
+
41
+ Documents were generated with the help of AI models (Qwen, GLM, Claude, ChatGPT, Gemini), then manually
42
+ reviewed and edited (chat artifacts such as greetings and citation markers were
43
+ removed). Not every code sample has been executed and verified; please run your
44
+ own checks before relying on them.
45
+
46
+ ### Changelog
47
+
48
+ - **v0.2**: One document per row (fixes the broken CSV-derived parquet in v0.1);
49
+ added metadata columns (`id`, `konu`, `ana_dil`, `diller`, `token_count`, ...);
50
+ removed chat artifacts (greetings, filler openers, search citation markers);
51
+ added new documents (~80K → ~318K tokens).
52
+ - **v0.1**: Initial release (~80K tokens). Available via `revision="v0.1"`.
53
+
54
+ ## Türkçe
55
+
56
+ Türkçe anlatımlı, kod içeren ham metin dokümanları. Dil modellerinin pretraining /
57
+ mid-training aşaması için hazırlanmıştır. Her satır kendi başına bir dokümandır
58
+ (rehber, proje anlatımı, hata ayıklama vb.).
59
+
60
+ ### Nasıl üretildi
61
 
62
  Dokümanlar yapay zeka modelleri (Qwen, GLM, Claude, ChatGPT, Gemini) yardımıyla üretilmiş, ardından elle
63
  gözden geçirilip düzenlenmiştir (sohbet ifadeleri ve araç artıkları temizlenmiştir).
64
  Kodların tamamı çalıştırılarak doğrulanmamıştır; kullanmadan önce kendi
65
  kontrollerinizi yapmanız önerilir.
66
 
67
+ ### Sürüm notları
68
 
69
  - **v0.2**: Her doküman tek satır (v0.1'deki CSV kaynaklı bozuk parquet düzeltildi);
70
  `id`, `konu`, `ana_dil`, `diller`, `token_count` gibi metadata kolonları eklendi;
 
72
  yeni dokümanlar eklendi (~80K → ~318K token).
73
  - **v0.1**: İlk sürüm (~80K token). `revision="v0.1"` ile erişilebilir.
74
 
75
+ ## Columns / Kolonlar
76
 
77
+ | Column | Description | Açıklama |
78
+ |---|---|---|
79
+ | `id` | Document ID | Doküman kimliği |
80
+ | `konu` | Topic | Konu |
81
+ | `ana_dil` | Dominant programming language | Baskın programlama dili |
82
+ | `diller` | All languages in the document | Dokümanda geçen tüm diller |
83
+ | `etiketler` | Free-form tags | Serbest etiketler |
84
+ | `lang` | Natural language (FineWeb-2 code) | Doğal dil (FineWeb-2 kodu) |
85
+ | `token_count` | Token count | Token sayısı |
86
+ | `karakter` | Character count | Karakter sayısı |
87
+ | `kod_orani` | Share of text inside code blocks | Kod bloklarının metne oranı |
88
+ | `text` | Raw text | Ham metin |
89
+
90
+ ## Language distribution / Dil dağılımı
91
+
92
+ Token-weighted, by dominant language / Token ağırlıklı, ana dile göre.
93
+
94
+ | Language / Dil | Share / Pay |
95
  |---|---|
96
  | python | 25.2% |
97
  | html | 20.8% |