procesaur/KOMPaS

КОМПаС - Колекција Отворених Међујезичких Паралелних Скупова за Српски	COMPaSS - Collection of Open Multilingual Parallel Sets for Serbian
Отворена колекција паралелних корпуса за српски језик преузета из колекције ОПУС. Сви парови реченица су дедуплицирани и додатно текстуално кориговани. Развојни и тест скупови су упарени са Helsinki-NLP/OpenSubtitles2024 и погодни за обучавање и евалуацију модела за машинско превођење.	Открытая коллекция параллельных корпусов для сербского языка, взятая из коллекции ОПУС. Все пары предложений прошли дедупликацию и дополнительную текстовую коррекцию. Наборы для разработки и тестирования сопряжены с Helsinki-NLP/OpenSubtitles2024 и подходят для обучения и оценки моделей машинного перевода.
来自 OPUS 集合的塞尔维亚语开放平行语料库。 所有句对均已去重并经过文本修复与更正。 开发集和测试集与 Helsinki-NLP/OpenSubtitles2024 对齐，适用于机器翻译模型的训练和评估。	Open collection of parallel corpora for Serbian extracted from OPUS. All sentence pairs are deduplicated and refined with additional text fixes. Dev and test sets are aligned with Helsinki-NLP/OpenSubtitles2024, suitable for training and evaluating machine translation models.
Статистика корпуса / Corpus Statistics Језички пар / Language Pair Total Pairs (Raw) Duplicates Dropped Train Pairs Dev Pairs Test Pairs 🇷🇸 Српско – Руски (sr–ru) 🇷🇺 42,400,713 5,505,001 36,618,397 273,613 3,702 🇷🇸 Српско – Кинески (sr–zh) 🇨🇳 14,056,019 1,347,365 12,440,229 261,241 7,184 🇷🇸 Српско – Енглески (sr–en) 🇬🇧 105,112,658 20,494,934 84,124,056 490,696 2,972 🇷🇸 Српско – Хрватски (sr–hr) 🇭🇷 43,429,602 10,111,780 33,006,774 306,421 4,627 🇷🇸 Српско – Босански (sr–bs) 🇧🇦 14,542,762 3,489,701 10,992,591 54,238 6,202

from datasets import load_dataset
serbian_russian = load_dataset("procesaur/KOMPaS", "ru")
serbian_chinese = load_dataset("procesaur/KOMPaS", "zh")
serbian_english = load_dataset("procesaur/KOMPaS", "en")
serbian_croatian = load_dataset("procesaur/KOMPaS", "hr")

Editor

Mihailo Škorić

@procesaur

Data

The Open Parallel Corpus

@OPUS

Data

MaCoCu

@MaCoCu

Funding

Fond za inovacionu delatnost

@SrbInnov

Funding

IT Creator

it-creator.rs

Citation:

uskoro

Истраживање jе спроведено уз подршку Фода за иновациону делатност Републике Србије у оквиру програма GOVTECH, решење #55417, ПравДок

The research was conducted with the support of The Republic of Serbia Innovation Fund within the GOVTECH program, solution #55417, PravDok