Til Flagship Datasets
Collection
Core datasets for pretraining, instruction tuning, speech and language tasks. Основные датасеты для предобучения, инструкций, речи и языковых задач. • 8 items • Updated
You need to agree to share your contact information to access this dataset
This repository is publicly accessible, but you have to accept the conditions to access its files and content.
Бұл репозиторийге қолжетімділік өтінім бойынша беріледі. Өзіңіз туралы және деректерді қалай қолданатыңыз туралы жазыңыз — өтінімді TilQazyna командасы қарайды. · Доступ к репозиторию выдаётся по заявке. Расскажите о себе и о том, как собираетесь использовать данные — заявку рассматривает команда TilQazyna. · Access to this repository is granted on request. Tell us who you are and how you plan to use the material; the TilQazyna team reviews each application.
Log in or Sign Up to review the conditions and access this dataset content.
Til-Parallel
Сапа деңгейлері бар көптілді корпус · Многоязычный корпус с уровнями качества · Tiered multilingual corpus
Қазақша
Til-Parallel — көлемі 72.16 ГБ, 23 294 865 жазбадан тұратын көптілді мәтіндер корпусы. Негізгі бөлігі қазақ тілінде; зерттеуші жүктеу кезінде premium, clean немесе all конфигурациясын таңдай алады.
Сапа деңгейлері
Деңгейлер 712 595 жазбаны модель-сарапшыға бағалатып, содан кейін сол таңдамаға сәйкестендірілген эвристиканы қалған корпусқа қолдану арқылы белгіленген. Бағаланған таңдамадағы сақтау үлесі — 50.3%.
Сапа деңгейлері мен тіл белгілері бойынша есептелген қорытынды жазба саны өзара сәйкес келеді.
| Деңгей | Жазба саны | Конфигурациядағы орны |
|---|---|---|
premium |
22 538 756 | premium, clean, all |
clean |
492 669 | clean, all |
raw |
263 440 | all |
Тілдер
| Тіл белгісі | Жазба саны |
|---|---|
kk |
23 073 597 |
ru |
94 623 |
other |
81 776 |
en |
23 619 |
mixed |
15 221 |
fr |
4 153 |
es |
919 |
pt |
410 |
it |
338 |
de |
133 |
zh |
53 |
ja |
17 |
uk |
2 |
ko |
1 |
sr |
1 |
lv |
1 |
si |
1 |
Қалай жүктеуге болады
from datasets import load_dataset
ds = load_dataset(
"TilQazyna/Til-Parallel",
"premium",
split="train",
streaming=True,
)
print(next(iter(ds)))
premium тек жоғары деңгейдегі жазбаларды оқиды. clean конфигурациясы premium мен clean файлдарын, ал all үш деңгейдің бәрін ашады.
Қолжетімділік
Карточка мен файлдар тізімін кез келген адам көре алады. Деректерді жүктеу үшін беттегі «Request access» батырмасымен өтінім жіберіледі, оны TilQazyna командасы қарайды.
Байланысты репозиторийлер
Корпустың дереккөздерінің бірі — қазақша-ағылшынша машиналық аудармаға арналған til-kk-mt-kk-en-v1.
Русский
Til-Parallel — многоязычный текстовый корпус объёмом 72.16 ГБ и размером 23 294 865 строк. Основная часть корпуса написана на казахском; при загрузке доступны конфигурации premium, clean и all.
Уровни качества
Модель-судья оценила выборку из 712 595 строк. По этой выборке откалибровали эвристику и разметили оставшийся корпус; доля сохранённых строк в оценённой выборке составила 50.3%.
| Уровень | Строк | В каких конфигурациях доступен |
|---|---|---|
premium |
22 538 756 | premium, clean, all |
clean |
492 669 | clean, all |
raw |
263 440 | all |
Языки
| Метка языка | Строк |
|---|---|
kk |
23 073 597 |
ru |
94 623 |
other |
81 776 |
en |
23 619 |
mixed |
15 221 |
fr |
4 153 |
es |
919 |
pt |
410 |
it |
338 |
de |
133 |
zh |
53 |
ja |
17 |
uk |
2 |
ko |
1 |
sr |
1 |
lv |
1 |
si |
1 |
Как загрузить
from datasets import load_dataset
ds = load_dataset(
"TilQazyna/Til-Parallel",
"premium",
split="train",
streaming=True,
)
print(next(iter(ds)))
Конфигурация premium читает только верхний уровень. В clean входят файлы premium и clean, а all открывает все три уровня.
Доступ
Карточка и список файлов доступны для просмотра. Чтобы скачать данные, нужно заполнить форму по кнопке «Request access»; заявку рассматривает команда TilQazyna.
Связанные репозитории
Один из источников корпуса — набор для машинного перевода между казахским и английским til-kk-mt-kk-en-v1.
English
Til-Parallel is a 72.16 GB multilingual text corpus containing 23,294,865 rows. Kazakh accounts for most of the collection, and users can select the premium, clean, or all configuration at load time.
Quality tiers
A model judge evaluated a sample of 712,595 rows. The maintainers calibrated a heuristic on that sample and applied it to the remaining corpus; the keep rate within the judged sample was 50.3%.
| Tier | Rows | Included in configurations |
|---|---|---|
premium |
22,538,756 | premium, clean, all |
clean |
492,669 | clean, all |
raw |
263,440 | all |
Languages
| Language label | Rows |
|---|---|
kk |
23,073,597 |
ru |
94,623 |
other |
81,776 |
en |
23,619 |
mixed |
15,221 |
fr |
4,153 |
es |
919 |
pt |
410 |
it |
338 |
de |
133 |
zh |
53 |
ja |
17 |
uk |
2 |
ko |
1 |
sr |
1 |
lv |
1 |
si |
1 |
Loading the data
from datasets import load_dataset
ds = load_dataset(
"TilQazyna/Til-Parallel",
"premium",
split="train",
streaming=True,
)
print(next(iter(ds)))
The premium configuration reads only the top tier. The clean configuration combines premium and clean, while all exposes all three tiers.
Access
Anyone can view the repository card and file listing. Download access is granted after submitting the form under “Request access”; the TilQazyna team reviews the application.
Related repositories
One source for this corpus is til-kk-mt-kk-en-v1, a dataset for machine translation between Kazakh and English.
Лицензия · License: apache-2.0 · TilQazyna
- Downloads last month
- 7