| --- |
| license: mit |
| language: |
| - tr |
| task_categories: |
| - text-generation |
| tags: |
| - code |
| - turkish |
| - pretraining |
| size_categories: |
| - n<1K |
| configs: |
| - config_name: default |
| data_files: |
| - split: train |
| path: data/train-*.parquet |
| --- |
| |
| # TR Coding Data (v0.2) |
|
|
| **[English](#english) | [Türkçe](#türkçe)** |
|
|
| - Documents / Doküman: **28** |
| - Tokens / Token: **317,427** (`Qwen/Qwen3-0.6B` tokenizer) |
|
|
| ```python |
| from datasets import load_dataset |
| |
| ds = load_dataset("TozAI/TR-coding-data", split="train") |
| ``` |
|
|
| ## English |
|
|
| Raw-text documents that explain programming in **Turkish** with embedded code, |
| intended for pretraining / mid-training of language models. Each row is one |
| self-contained document (tutorial, project walkthrough, debugging session, ...). |
|
|
| ### How it was made |
|
|
| Documents were generated with the help of AI models (Qwen, GLM, Claude, ChatGPT, Gemini), then manually |
| reviewed and edited (chat artifacts such as greetings and citation markers were |
| removed). Not every code sample has been executed and verified; please run your |
| own checks before relying on them. |
|
|
| ### Changelog |
|
|
| - **v0.2**: One document per row (fixes the broken CSV-derived parquet in v0.1); |
| added metadata columns (`id`, `konu`, `ana_dil`, `diller`, `token_count`, ...); |
| removed chat artifacts (greetings, filler openers, search citation markers); |
| added new documents (~80K → ~318K tokens). |
| - **v0.1**: Initial release (~80K tokens). Available via `revision="v0.1"`. |
|
|
| ## Türkçe |
|
|
| Türkçe anlatımlı, kod içeren ham metin dokümanları. Dil modellerinin pretraining / |
| mid-training aşaması için hazırlanmıştır. Her satır kendi başına bir dokümandır |
| (rehber, proje anlatımı, hata ayıklama vb.). |
|
|
| ### Nasıl üretildi |
|
|
| Dokümanlar yapay zeka modelleri (Qwen, GLM, Claude, ChatGPT, Gemini) yardımıyla üretilmiş, ardından elle |
| gözden geçirilip düzenlenmiştir (sohbet ifadeleri ve araç artıkları temizlenmiştir). |
| Kodların tamamı çalıştırılarak doğrulanmamıştır; kullanmadan önce kendi |
| kontrollerinizi yapmanız önerilir. |
|
|
| ### Sürüm notları |
|
|
| - **v0.2**: Her doküman tek satır (v0.1'deki CSV kaynaklı bozuk parquet düzeltildi); |
| `id`, `konu`, `ana_dil`, `diller`, `token_count` gibi metadata kolonları eklendi; |
| sohbet artıkları (hitaplar, "Tamam/Harika" açılışları, arama atıfları) temizlendi; |
| yeni dokümanlar eklendi (~80K → ~318K token). |
| - **v0.1**: İlk sürüm (~80K token). `revision="v0.1"` ile erişilebilir. |
|
|
| ## Columns / Kolonlar |
|
|
| | Column | Description | Açıklama | |
| |---|---|---| |
| | `id` | Document ID | Doküman kimliği | |
| | `konu` | Topic | Konu | |
| | `ana_dil` | Dominant programming language | Baskın programlama dili | |
| | `diller` | All languages in the document | Dokümanda geçen tüm diller | |
| | `etiketler` | Free-form tags | Serbest etiketler | |
| | `lang` | Natural language (FineWeb-2 code) | Doğal dil (FineWeb-2 kodu) | |
| | `token_count` | Token count | Token sayısı | |
| | `karakter` | Character count | Karakter sayısı | |
| | `kod_orani` | Share of text inside code blocks | Kod bloklarının metne oranı | |
| | `text` | Raw text | Ham metin | |
|
|
| ## Language distribution / Dil dağılımı |
|
|
| Token-weighted, by dominant language / Token ağırlıklı, ana dile göre. |
|
|
| | Language / Dil | Share / Pay | |
| |---|---| |
| | python | 25.2% | |
| | html | 20.8% | |
| | rust | 19.1% | |
| | java | 17.3% | |
| | cpp | 10.8% | |
| | css | 2.8% | |
| | javascript | 1.3% | |
| | typescript | 0.9% | |
| | bash | 0.9% | |
| | go | 0.9% | |
|
|
