You need to agree to share your contact information to access this dataset

This repository is publicly accessible, but you have to accept the conditions to access its files and content.

Бұл репозиторийге қолжетімділік өтінім бойынша беріледі. Өзіңіз туралы және деректерді қалай қолданатыңыз туралы жазыңыз — өтінімді TilQazyna командасы қарайды. · Доступ к репозиторию выдаётся по заявке. Расскажите о себе и о том, как собираетесь использовать данные — заявку рассматривает команда TilQazyna. · Access to this repository is granted on request. Tell us who you are and how you plan to use the material; the TilQazyna team reviews each application.

Log in or Sign Up to review the conditions and access this dataset content.

til-kk-normalize-v1

Қазақша мәтінді қалыпқа келтіру · Нормализация казахского текста · Kazakh text normalization

Қазақша · Русский · English


Қазақша

til-kk-normalize-v1 — қате, регистрі мен тыныс белгілері бұзылған мәтінді түзетуге арналған қазақ тіліндегі instruction-датасет. Көлемі — 5.0 МБ, жалпы саны — 10585 мысал. Деректер instruction fine-tune мен тиісті тапсырманы зерттеуге жарайды.

Құрамы мен форматы

Бөлік Мысал саны
train 10375
validation 105
test 105
Барлығы 10585

Әр жазба ChatML пішіміндегі messages өрісінде user және assistant хабарларын сақтайды. Деректер қазақ тіліндегі нақты мәтіндерге және arena-offline-qa материалына сүйеніп, grounded (corrupted real text) / gemma-4-E4B әдісімен жасалған.

Тексеру және шектеулер

Автоматты тексеру тілін, пішімін, ұзындығын, шаблон іздерін және exact пен near-дубликаттарды қамтыған. Тәуелсіз issai/LLama-3.1-KazLLM-1.0-8B LLM-judge шкаласында 4.05/5 орташа баға алынған; тек кемінде 4 алған мысалдар сақталған. LLM жасаған синтетикалық және жартылай синтетикалық жауаптарда қате болуы мүмкін, сондықтан жауапкершілігі жоғары қолдануда қосымша тексеру қажет.

Қалай жүктеуге болады

messages JSON жолы ретінде сақталған, сондықтан оны жүктегеннен кейін ашу керек.

from datasets import load_dataset
import json

ds = load_dataset("TilQazyna/til-kk-normalize-v1")
messages = json.loads(ds["train"][0]["messages"])
print(messages)

Қолжетімділік

Карточка мен файлдар тізімі ашық көрінеді. Файлдарды алу үшін репозиторий бетіндегі «Request access» батырмасы арқылы өтінім жіберу қажет; өтінімді TilQazyna командасы қарайды.

Байланысты репозиторийлер

Датасет Til-Instruct жинағына және til-instruct-mix-v1 аралас instruction корпусына дерек береді.


Русский

til-kk-normalize-v1 — казахский instruction-датасет для исправления опечаток, регистра и пунктуации в зашумлённом тексте. Объём — 5.0 МБ, всего 10585 примеров. Материал рассчитан на instruction fine-tune и исследование соответствующей задачи.

Состав и формат

Часть Примеров
train 10375
validation 105
test 105
Всего 10585

Каждая запись хранит сообщения user и assistant в поле messages формата ChatML. Данные подготовлены методом grounded (corrupted real text) / gemma-4-E4B с опорой на реальные казахские тексты и материал arena-offline-qa.

Проверка и ограничения

Автоматические проверки охватывали язык, формат, длину, следы шаблонов, exact- и near-дубликаты. Независимый LLM-judge issai/LLama-3.1-KazLLM-1.0-8B дал среднюю оценку 4.05/5; сохранены примеры с оценкой от 4. В синтетических и полусинтетических ответах учителя возможны ошибки, поэтому ответственные сценарии требуют дополнительной проверки.

Как загрузить

Поле messages хранится как строка JSON; после загрузки его нужно разобрать.

from datasets import load_dataset
import json

ds = load_dataset("TilQazyna/til-kk-normalize-v1")
messages = json.loads(ds["train"][0]["messages"])
print(messages)

Доступ

Карточка и список файлов видны всем. Для скачивания файлов нужна одобренная заявка через кнопку «Request access» на странице репозитория; заявки рассматривает команда TilQazyna.

Связанные репозитории

Датасет входит в Til-Instruct и служит источником для смешанного instruction-корпуса til-instruct-mix-v1.


English

til-kk-normalize-v1 is a Kazakh instruction dataset for correcting typos, casing, and punctuation in noisy text. It occupies 5.0 MB and contains 10585 examples. The material supports instruction fine-tuning and research on the corresponding task.

Contents and format

Split Examples
train 10375
validation 105
test 105
Total 10585

Each record stores user and assistant turns in a ChatML messages field. The data was prepared with grounded (corrupted real text) / gemma-4-E4B, grounded in real Kazakh texts and arena-offline-qa material.

Validation and limitations

Automated checks covered language, format, length, template leakage, and exact and near duplicates. The independent issai/LLama-3.1-KazLLM-1.0-8B LLM judge assigned a mean score of 4.05/5; only examples scoring at least 4 were retained. Teacher-generated synthetic and semi-synthetic answers may contain errors, so high-impact uses need additional review.

How to load

The messages field is stored as a JSON string and should be parsed after loading.

from datasets import load_dataset
import json

ds = load_dataset("TilQazyna/til-kk-normalize-v1")
messages = json.loads(ds["train"][0]["messages"])
print(messages)

Access

The card and file list remain publicly visible. Downloading files requires an approved request submitted with the “Request access” button on the repository page; the TilQazyna team reviews applications.

Related repositories

This dataset contributes to Til-Instruct and supplies the mixed instruction corpus til-instruct-mix-v1.


Лицензия · License: Apache 2.0 · TilQazyna

Downloads last month
24

Collection including TilQazyna/til-kk-normalize-v1