Бұл репозиторийге қолжетімділік өтінім бойынша беріледі. Өзіңіз туралы және деректерді қалай қолданатыңыз туралы жазыңыз — өтінімді TilQazyna командасы қарайды. · Доступ к репозиторию выдаётся по заявке. Расскажите о себе и о том, как собираетесь использовать данные — заявку рассматривает команда TilQazyna. · Access to this repository is granted on request. Tell us who you are and how you plan to use the material; the TilQazyna team reviews each application.

Til-Corpus

Қазақ тілі басым мәтін корпусы · Текстовый корпус с преобладанием казахского языка · Text corpus centered on Kazakh

Қазақша · Русский · English

Қазақша

Til-Corpus — тілдік модельдерді алдын ала оқытуға арналған 58 850 639 құжаттан тұратын, көлемі 204.20 ГБ мәтін корпусы. Негізгі бөлігі қазақ тілінде, сонымен бірге ағылшын, орыс және аралас мәтіндер бар.

Құрамы

Құжаттарды модель-сарапшы бағалап, сапа деңгейлеріне бөлген. premium, clean және all конфигурациялары жүктелетін қабаттарды таңдауға мүмкіндік береді.

Деңгей	Жол саны
`premium`	54 674 404
`clean`	3 329 309
`raw`	846 926

999 999 құжат тікелей бағаланған; олардың 54,4%-ы 4 немесе одан жоғары баға алған. Қалған құжаттар осы іріктемеде калибрленген белгілер арқылы деңгейлерге бөлінген.

Тіл	Құжат саны
Қазақша	28 942 752
Ағылшынша	26 174 004
Орысша	3 509 976
Аралас	199 986

`merged` қабаты

2026 жылдың тамызында корпусқа сегіз бөлек репозиторий қосылды — веб-жинақтар, кітаптар және KazNEB материалдары. Олар merged конфигурациясында жатыр және premium/clean/all деңгейлеріне кірмейді.

Дереккөз	Жол	Таңба	Жол kk	Таңба kk	Сөз kk
`Til-Books-KazNEB`	104 060	28 587 930 173	104 060	28 587 930 173	3 937 734 841
`Til-Corpus-Additions-v2`	387 311	12 493 709 795	356 806	10 709 458 854	1 453 400 139
`Til-Books-KazNEB-remainder-enriched`	21 980	5 806 777 083	21 980	5 806 777 083	779 575 739
`Til-Web-KK`	738 364	3 101 543 318	619 646	2 130 207 063	287 536 632
`Til-Zharar-v2`	191 260	2 776 338 172	191 260	2 776 338 172	361 332 949
`Til-Books`	16 847	1 954 475 477	13 194	1 782 753 519	229 446 760
`Til-Books-Adebiportal`	2 213	954 261 802	2 213	954 261 802	129 554 683
`Til-Books-InternetArchive`	42	14 535 789	0	0	0
Барлығы	1 462 077	55 689 571 609	1 309 159	52 747 726 666	7 178 581 743

Қазақ тілі қабаттағы таңбаның 94.7 %-ын құрайды. Қалғаны — сайттар мен кітаптармен бірге келген орыс және аралас беттер; олар жойылмаған, lang бағаны арқылы сүзуге болады.

Схема негізгісімен бірдей — text, source, lang, plang — оған meta бағаны қосылған: дереккөздің барлық өрістері JSON жолы ретінде сақталған.

Сөз бен токен саны — тек қазақ тіліндегі бөлік

Төмендегі сандар тек қазақ құжаттарын қамтиды: 1 309 159 жол, 52 747 726 666 таңба, 7 178 581 743 сөз (сөзге 7.348 таңба). Орыс және аралас жолдар есепке кірмейді.

Токенайзер	Токен (тек kk)	Токенге таңба	Сөзге токен
Til-Tokenizer-128k (наш)	14 688 384 903	3.591	2.05
Til-256k morphbpe (наш, казахский)	14 783 816 225	3.568	2.06
NLLB-200 (перевод)	16 977 655 601	3.107	2.37
GPT-4o / o200k	18 264 593 984	2.888	2.54
Qwen3	28 583 672 055	1.845	3.98
GPT-3.5 / cl100k	35 293 229 148	1.495	4.92

Біздің морфемалық Til-Tokenizer-128k сол қазақ мәтінінде GPT-3.5 / cl100k-тен 2.4 есе үнемді: бір қазақ сөзін 2.05 токенге бөледі, екіншісі — 4.92.

Есеп нақты, іріктеусіз: әр қазақ құжаты әр токенайзерден толық өтті.

Жүктеу

from datasets import load_dataset

ds = load_dataset("TilQazyna/Til-Corpus", "premium", split="train", streaming=True)
print(next(iter(ds)))

streaming=True файлдарды түгел жүктемей, жазбаларды кезекпен оқуға қолайлы.

Қолжетімділік

Карточка мен файлдар тізімі ашық көрінеді. Файлдарды жүктеу үшін репозиторий бетіндегі «Request access» түймесі арқылы өтінім беру керек; оны TilQazyna командасы қарайды.

Байланысты репозиторийлер

Дереккөздер қатарында Til-Corpus-exp078, Til-Corpus-Additions-v2, datalake, Til-Books және Til-Audio бар. Корпус Til-mini-1B, Til-2B және Til-Tokenizer-128k әзірлеуде қолданылады.

Русский

Til-Corpus — корпус из 58 850 639 документов объёмом 204.20 ГБ для предобучения языковых моделей. Основной язык — казахский; также собраны английские, русские и смешанные тексты.

Что внутри

Модель-судья оценила документы и распределила их по уровням. Конфигурации premium, clean и all задают состав загружаемых слоёв.

Уровень	Строк
`premium`	54 674 404
`clean`	3 329 309
`raw`	846 926

Напрямую оценена выборка из 999 999 документов: 54,4% получили оценку 4 или выше. Остальные документы распределены по уровням по признакам, откалиброванным на этой выборке.

Язык	Документов
Казахский	28 942 752
Английский	26 174 004
Русский	3 509 976
Смешанный	199 986

Слой `merged`

В августе 2026 года в корпус влиты восемь отдельных репозиториев — веб-выгрузки, книги и материалы KazNEB. Они лежат в конфигурации merged и не входят в тиры premium/clean/all: у них своё происхождение и свои метаданные.

Источник	Строк	Символов	Строк kk	Символов kk	Слов kk
`Til-Books-KazNEB`	104 060	28 587 930 173	104 060	28 587 930 173	3 937 734 841
`Til-Corpus-Additions-v2`	387 311	12 493 709 795	356 806	10 709 458 854	1 453 400 139
`Til-Books-KazNEB-remainder-enriched`	21 980	5 806 777 083	21 980	5 806 777 083	779 575 739
`Til-Web-KK`	738 364	3 101 543 318	619 646	2 130 207 063	287 536 632
`Til-Zharar-v2`	191 260	2 776 338 172	191 260	2 776 338 172	361 332 949
`Til-Books`	16 847	1 954 475 477	13 194	1 782 753 519	229 446 760
`Til-Books-Adebiportal`	2 213	954 261 802	2 213	954 261 802	129 554 683
`Til-Books-InternetArchive`	42	14 535 789	0	0	0
Всего	1 462 077	55 689 571 609	1 309 159	52 747 726 666	7 178 581 743

Казахский — 94.7 % символов слоя. Остальное это русские и смешанные страницы, попавшие вместе с сайтами и книгами; они сохранены как есть, а не выброшены — по колонке lang их можно отфильтровать.

Схема совпадает с основной — text, source, lang, plang — плюс колонка meta со строкой JSON, куда сохранены все поля источника: у веб-выгрузок url, site и title, у Til-Corpus-Additions-v2 — score и tier (оценки качества, полученные ранее), у книг — id, year, n_pages. Колонка source показывает, из какого репозитория пришла строка.

Сколько это слов и токенов — только казахская часть

Ниже посчитаны исключительно казахские документы слоя merged: 1 309 159 строк, 52 747 726 666 символов, слов — 7 178 581 743 (7.348 символа на слово). Русские и смешанные строки в этот расчёт не входят.

Так сделано намеренно. Объём в токенах — свойство пары «текст и токенайзер», а не корпуса, и отношение «символов на токен» у казахского своё. Посчитать его на смеси языков значит получить число, которое не описывает ни казахский, ни остальное.

Токенайзер	Токенов (только kk)	Символов на токен	Токенов на слово
Til-Tokenizer-128k (наш)	14 688 384 903	3.591	2.05
Til-256k morphbpe (наш, казахский)	14 783 816 225	3.568	2.06
NLLB-200 (перевод)	16 977 655 601	3.107	2.37
GPT-4o / o200k	18 264 593 984	2.888	2.54
Qwen3	28 583 672 055	1.845	3.98
GPT-3.5 / cl100k	35 293 229 148	1.495	4.92

Наш морфемный Til-Tokenizer-128k экономнее GPT-3.5 / cl100k в 2.4 раза на одном и том же казахском тексте. Разница видна в последней колонке: одно казахское слово он режет на 2.05 токена против 4.92. Для казахского это прямая разница в стоимости обучения.

Счёт точный, без выборок: каждый казахский документ целиком прошёл через каждый токенайзер, слова и символы посчитаны по всем строкам.

Как загрузить

from datasets import load_dataset

ds = load_dataset("TilQazyna/Til-Corpus", "premium", split="train", streaming=True)
print(next(iter(ds)))

Режим streaming=True читает записи последовательно без предварительной загрузки всех файлов.

Доступ

Карточка и список файлов видны всем. Для скачивания нужна одобренная заявка через кнопку «Request access»; заявки рассматривает команда TilQazyna.

Связанные репозитории

Источники: Til-Corpus-exp078, Til-Corpus-Additions-v2, datalake, Til-Books и Til-Audio. Корпус используется для Til-mini-1B, Til-2B и Til-Tokenizer-128k.

English

Til-Corpus is a 204.20 GB text corpus with 58,850,639 documents for language-model pretraining. Kazakh is the main language, accompanied by English, Russian, and mixed-language material.

Contents and tiers

A judge model scored the documents and assigned them to quality tiers. The premium, clean, and all configurations select which cumulative layers are loaded.

Tier	Rows
`premium`	54,674,404
`clean`	3,329,309
`raw`	846,926

A sample of 999,999 documents was judged directly, and 54.4% received a score of 4 or higher. The remaining documents were tiered with signals calibrated against that judged sample.

Language	Documents
Kazakh	28,942,752
English	26,174,004
Russian	3,509,976
Mixed	199,986

The `merged` layer

In August 2026 eight separate repositories — web crawls, books and KazNEB material — were folded into this corpus. They live in the merged configuration and are not part of the premium/clean/all tiers: their provenance and their metadata are their own.

Source	Rows	Characters	Rows kk	Characters kk	Words kk
`Til-Books-KazNEB`	104 060	28 587 930 173	104 060	28 587 930 173	3 937 734 841
`Til-Corpus-Additions-v2`	387 311	12 493 709 795	356 806	10 709 458 854	1 453 400 139
`Til-Books-KazNEB-remainder-enriched`	21 980	5 806 777 083	21 980	5 806 777 083	779 575 739
`Til-Web-KK`	738 364	3 101 543 318	619 646	2 130 207 063	287 536 632
`Til-Zharar-v2`	191 260	2 776 338 172	191 260	2 776 338 172	361 332 949
`Til-Books`	16 847	1 954 475 477	13 194	1 782 753 519	229 446 760
`Til-Books-Adebiportal`	2 213	954 261 802	2 213	954 261 802	129 554 683
`Til-Books-InternetArchive`	42	14 535 789	0	0	0
Total	1 462 077	55 689 571 609	1 309 159	52 747 726 666	7 178 581 743

Kazakh accounts for 94.7% of the layer's characters. The rest is Russian and mixed pages that came with the sites and books; they are kept as they are and can be filtered out through the lang column.

The schema matches the main one — text, source, lang, plang — plus a meta column holding a JSON string with every field of the original source: url, site and title for web crawls, score and tier for Til-Corpus-Additions-v2, id, year and n_pages for books. The source column names the repository a row came from.

Words and tokens — Kazakh text only

The figures below cover Kazakh documents only: 1 309 159 rows, 52 747 726 666 characters and 7 178 581 743 words (7.348 characters per word). Russian and mixed rows are excluded.

This is deliberate. Token count is a property of the pair "text and tokenizer", and the characters-per-token ratio for Kazakh is its own. Measuring it on a mixture of languages produces a number that describes neither.

Tokenizer	Tokens (Kazakh only)	Characters per token	Tokens per word
Til-Tokenizer-128k (наш)	14 688 384 903	3.591	2.05
Til-256k morphbpe (наш, казахский)	14 783 816 225	3.568	2.06
NLLB-200 (перевод)	16 977 655 601	3.107	2.37
GPT-4o / o200k	18 264 593 984	2.888	2.54
Qwen3	28 583 672 055	1.845	3.98
GPT-3.5 / cl100k	35 293 229 148	1.495	4.92

Our morpheme-aware Til-Tokenizer-128k is 2.4× more economical than GPT-3.5 / cl100k on the same Kazakh text. The last column shows where that comes from: it splits one Kazakh word into 2.05 tokens against 4.92 — a direct difference in training cost.

The count is exact, with no sampling: every Kazakh document went through every tokenizer in full, and words and characters are counted across all rows.

Loading

from datasets import load_dataset

ds = load_dataset("TilQazyna/Til-Corpus", "premium", split="train", streaming=True)
print(next(iter(ds)))

Using streaming=True reads records incrementally without downloading every file before iteration begins.

Access

The repository card and file listing are publicly visible. File downloads require an approved request submitted with the “Request access” button; the TilQazyna team reviews each application.