Datasets:

procesaur
/

KOMPaS

license: odc-by
language:
  - sr
  - ru
  - zh
  - hr
  - en
  - bs
pretty_name: Kolekcija Otvorenih Međujezičkih Paralelnih Skupova za Srpski
size_categories:
  - 100M<n<1B
configs:
  - config_name: ru
    data_files:
      - split: train
        path:
          - '*_ru_train.jsonl'
      - split: dev
        path:
          - '*_ru_dev.jsonl'
      - split: test
        path:
          - '*_ru_test.jsonl'
  - config_name: zh
    data_files:
      - split: train
        path:
          - '*_zh_train.jsonl'
          - '*_zh_HK_train.jsonl'
          - '*_zh_CN_train.jsonl'
          - '*_zh_TW_train.jsonl'
      - split: dev
        path:
          - '*_zh_dev.jsonl'
      - split: test
        path:
          - '*_zh_test.jsonl'
  - config_name: en
    data_files:
      - split: train
        path:
          - '*_en_train.jsonl'
      - split: dev
        path:
          - '*_en_dev.jsonl'
      - split: test
        path:
          - '*_en_test.jsonl'
  - config_name: hr
    data_files:
      - split: train
        path:
          - '*_hr_train.jsonl'
      - split: dev
        path:
          - '*_hr_dev.jsonl'
      - split: test
        path:
          - '*_hr_test.jsonl'
  - config_name: bs
    data_files:
      - split: train
        path:
          - '*_bs_train.jsonl'
      - split: dev
        path:
          - '*_bs_dev.jsonl'
      - split: test
        path:
          - '*_bs_test.jsonl'
task_categories:
  - translation

КОМПаС - Колекција Отворених Међујезичких Паралелних Скупова за Српски

COMPaSS - Collection of Open Multilingual Parallel Sets for Serbian

Отворена колекција паралелних корпуса за српски језик преузета из колекције ОПУС.

Сви парови реченица су дедуплицирани и додатно текстуално кориговани.

Развојни и тест скупови су упарени са Helsinki-NLP/OpenSubtitles2024 и погодни за обучавање и евалуацију модела за машинско превођење.

Открытая коллекция параллельных корпусов для сербского языка, взятая из коллекции ОПУС.

Все пары предложений прошли дедупликацию и дополнительную текстовую коррекцию.

Наборы для разработки и тестирования сопряжены с Helsinki-NLP/OpenSubtitles2024 и подходят для обучения и оценки моделей машинного перевода.

来自 OPUS 集合的塞尔维亚语开放平行语料库。

所有句对均已去重并经过文本修复与更正。

开发集和测试集与 Helsinki-NLP/OpenSubtitles2024 对齐，适用于机器翻译模型的训练和评估。

Open collection of parallel corpora for Serbian extracted from OPUS.

All sentence pairs are deduplicated and refined with additional text fixes.

Dev and test sets are aligned with Helsinki-NLP/OpenSubtitles2024, suitable for training and evaluating machine translation models.

Статистика корпуса / Corpus Statistics

Језички пар / Language Pair	Total Pairs (Raw)	Duplicates Dropped	Train Pairs	Dev Pairs	Test Pairs
🇷🇸 Српско – Руски (sr–ru) 🇷🇺	42,400,713	5,505,001	36,618,397	273,613	3,702
🇷🇸 Српско – Кинески (sr–zh) 🇨🇳	14,056,019	1,347,365	12,440,229	261,241	7,184
🇷🇸 Српско – Енглески (sr–en) 🇬🇧	105,112,658	20,494,934	84,124,056	490,696	2,972
🇷🇸 Српско – Хрватски (sr–hr) 🇭🇷	43,429,602	10,111,780	33,006,774	306,421	4,627
🇷🇸 Српско – Босански (sr–bs) 🇧🇦	14,542,762	3,489,701	10,992,591	54,238	6,202

from datasets import load_dataset
serbian_russian = load_dataset("procesaur/KOMPaS", "ru")
serbian_chinese = load_dataset("procesaur/KOMPaS", "zh")
serbian_english = load_dataset("procesaur/KOMPaS", "en")
serbian_croatian = load_dataset("procesaur/KOMPaS", "hr")

Editor

Mihailo Škorić

@procesaur

Data

The Open Parallel Corpus

@OPUS

Data

MaCoCu

@MaCoCu

Funding

Fond za inovacionu delatnost

@SrbInnov