Datasets:

procesaur
/

cirilica

language:
  - sr
pretty_name: Ћирилица
size_categories:
  - 100M<n<1B
configs:
  - config_name: default
    data_files:
      - split: train
        path:
          - '*train.jsonl'
      - split: dev
        path:
          - '*dev.jsonl'
      - split: test
        path:
          - '*test.jsonl'
license: cc-by-sa-4.0

Корпус оригинално ћириличних докумената

и латиничних парњака

Погодан за обучавање модела и тестирање решења за пресловљавање.

Иницијална верзија - око 220 милиона речи из корпуса Знање, Википедије, и Редит корпуса

Korpus originalno ćiriličnih dokumenata

i latiničnih parnjaka

Pogodan za obučavanje modela i testiranje rešenja za preslovljavanje.

Inicijalna verzija - oko 220 miliona reči iz korpusa Znanje, Vikipedije i Redit korpusa

from datasets import load_dataset
dataset = load_dataset("procesaur/cirilica")
cirlicni_tekstovi = [record["text"] for record in dataset]

Editor

Mihailo Škorić

@procesaur

Citation:

uskoro