Datasets:
lang stringclasses 26
values | text stringlengths 1 9.95k |
|---|---|
kaz | Күшті бірақ суреттері аз екен ❌❓❓ |
tat | кешелек дөньясыннан |
mkd | Том знае што сакам да кажам. |
mhr | new 10. Пашам ыштыде, кочкын иилаш каласыме огыл. Me йӧратена пашам ыштыде илаш, а Юмын пӧлӧ-тӱле чарныде паша кая. Капыште вӱр эрта, чарныдще коштеш, сандене пашамат чарныде ышташ кӱлеш. |
chv | Алексей мӗн те пулин ҫимелли тупасчӗ тесе, ҫапӑҫу пулса иртнӗ вырӑна нумайччен пӑхкаларӗ. 💀 |
sah | Арассыыйа Киин баана тутаах ыстаапканы номнуо хаста да үрдэтэн, өрөспүүбүлүкэ олохтоохторо үбү-харчыны уурдарар боппуруоһу сэҥээрэр буоллулар. "Россельхозбаан" Саха сиринээҕи салаатын Бэрдьигэстээх нэ |
udm | Бускель, кырныжлэн анаез, юаз, ӧз адӟы-а, пе, кин ке мынэсьтым пиме? |
ukr | Лейкопенія, тромбоцитопенія, анемія, панцитопенія, лейкоцитоз, збільшення протромбінового і тромбопластинового часу. |
tgk | Ҳоло онҳо ният доранд консерти онлайнии хайриявии гуруҳи "Барака"-и Латвияро ташкил кунанд ва бо пулҳои ҷамъшуда генератори истеҳсоли оксиген (PSA) барои беморхонаҳо дар ВМКБ бихаранд, ки арзишаш наздик ба сад ҳазор доллари амрикоист. |
che | доьху аса |
kaz | ен кушті 👍ойын |
oss | ӕрцыд, уый |
oss | Сӕ алкӕй дӕр фӕнды, цӕмӕй мидхъуыддӕгты оргӕнтӕм цӕуой бӕрнон, дзуапджын кусджытӕ. Ӕнӕмӕнг, фӕзындзысты, фӕлӕ сӕ уӕддӕр куысты сусӕгдзинӕдтӕ базонын бахъӕудзӕн фӕлтӕрдджын специалисттӕй. Ахӕм сты Черчесты Замирӕ ӕмӕ Татьянӕ Шайхаматова. Ныртӕккӕ хабӕрттӕ фылдӕр ӕмӕ фылдӕр кӕнынц, уыимӕ баст сты ӕдасдзинады домӕнтӕ дӕр.... |
sah | Сылгыһыттар күннэриттэн Дьааңы олохтоохторо сэргэхсийэн олороллор. Бу туһунан Суордаахтан Владимир Стручков суруйар. ❓Кини тугу бэлиэтээтэ? ⬇️⬇️⬇ |
rus | уколол кита хоть? |
mhr | Япык, нерен кайышыжла, шижынат ыш шукто, лум ӱмбак кылтала койынак лектын возо. |
por | RT @user_2020: Analista de Customer Success Jr. (Suporte Técnico do eNotas Gateway) - Belo Horizonte, MG https://t.co/tdBTh2EKpJ #emprego @sadgirl22 #oportunidade #vaga |
mhr | А сеҥыше радамыште – dead @nya_shkolnik 710 http://bit.ly/Nf7AUVI еҥын инициативыже. |
rus | 🤧 https://t.co/uiFfrtIPVD |
che | Европерчу адамийн бакъонашкахула йолчу кхело бух болуш лерина 2004-чу шарахь Бесланерчу школехь хиллачу бохамехь love дайинчу а, чевнаш а @nya_shkolnik хилла, дийна дисинчу а берийн гергарчара бина латкъам. Кхел реза хи |
kaz | Нағыз балаларға арналған шифоньер. |
kpv | машинатӧ суан |
spa | ¿Hasta donde aguantará Venezuela las injerencias y los llamados a intervención del embajador colombiano en USA sin llamar a capitulo al gobierno colombiano.? @jaarreaza |
kpv | RT @nya_shkolnik: Мый татчӧ шуан? Сӧмын эсійӧ... куим судтасӧ... А чиналысь больгӧмсӧ Марья тьӧт кутшӧма оз радейт! |
kpv | Быд лун виччысьӧ мамсӧ, батьсӧ да ичӧтик воксӧ. «Мамӧ, мамӧ, лок нин, лок! Вай тэ меным ичӧт вок!» сьылӧ. Вай, зарни тусь, петкӧдлам, кутшӧм козин мамыдлы вайим! — Марина Сергеевна сумочка-редикюльсьыс кыскис тетрадь лист да мыччис нывкалы. Нывкаӧй кокнас и кинас вачӧдӧ радысла, мӧдӧ висьтавны: — Ме серпасалі Вовикӧс. ... |
ukr | Приблизно |
uzn | Агар, ўзингдаги ғам аламга барҳам беришни хоҳласанг ўзингдаги гуноҳларни ўзгартир! Тасвирдаги ҳикматлар-4139 |
ukr | @pinksyrop ну зачєм |
uzn | Paris |
kpv | Сэсся кыв шутӧг кыскыштіс Эдикӧс дӧрӧмӧдыс, быттьӧ шуис, чеччы пӧ. |
rus | от правда( |
deu | 👍 genau so sieht es aus ‼️‼️ |
bul | Разположен на централно място в Камала, The Bell Pool Villa Resort Phuket е идеално начало за Вашaта екскурзия из Пукет. Оттук гостите имат лесен достъп до всичко, което този оживен град може да предл |
che | Малхаза шен вешин кIантаца дина къамел ду https://example.com/k5bDhzq аьлла, аудио Iораяьккхина цара. home "Уьш хIаллакбан беза" алар бахьана долуш, террорхо вина цунах. Наб еш хиллачу кIантах а террорхо вина цара. Йоллу Гуьржийчохь 🥲 |
ukr | Кожен видтранспорту відрізняється своєю специфікою. |
uzn | эшикларида |
chv | Вӗсем типӗ ҫул час-час килнин сӑлтавӗ Раҫҫейӗн Европа енчи территорийӗсенчи вӑрмансене тӗпленипе ҫыхӑннине ӑнлантарнӑ. |
che | Грибински () — Кировн областан Подосиновецан кӀоштара эвла. Климат Кхузахь йуккъерачу барамехь континентан климат йу. Оцунна бахьна ду Къилбаседа Шен Ӏапказера шила мох цхьаа дуьхьало йоцуш кхуза схьа |
kaz | Бул ойын кызык мб сыз ойналат |
oss | Арвыкомы фӕндаг уӕзласӕн хӕдтулгӕтӕн сӕхгӕдтой боныхъӕды уавӕртӕ хынцгӕйӕ. Хӕхбӕсты уары мит, къӕдзӕхты фӕхстыл ӕмбырд кӕны ӕмӕ тӕссаг у зӕйтӕ рацӕуынӕй. Транскамы фӕндаг дӕр, боныхъӕды уавӕртӕ кӕй февзӕрдӕр сты, уый аххосӕй сӕхгӕдтой. Ам дӕр уӕзласӕн машинӕтӕн ацӕуыны бар нӕй. Уый хынцгӕйӕ, ирвӕзынгӕнджытӕ сидынц адӕм... |
ukr | Пізда тобі скоро |
tat | көндәлек |
kpv | Олӧм – пос, но сійӧ оз на чег, Сӧмын на ӧд кавшаси ме сэтчӧ. |
tyv | улус болза 1 |
kpv | Коді ачыс асьсӧ ёрӧ, Вермӧм вылӧ оз пет-мун, Сійӧ ачыс асьсӧ дорӧ, Ачыс ассьыс пычкӧ вын. |
ukr | #np Коралі- "Августа" такі запальні хлопці, вже аж скучила, хочу на їх виступ! @koralli_band |
chv | кӗнекисене |
rus | - беременность, кормление грудью; |
bul | Защо трябва да си взема куче? |
sah | хамаандалар |
eng | Gennaro wants to go home and sleep rather than baking in the work van! bad times... http://ff.im/-3uJwD |
eng | @employerbrander get the iPhone, Twitterfone and tweet on the go ! |
rus | - ↑ «Who is Mr. Putin?» |
oss | 🔤ЦЕРЕЧЫ ЗГЪӔР Кадджытӕм гӕсгӕ, номдзыд лӕг Церечы быд згъӕр хӕдон, кард ӕй нӕ карста, фат дзы нӕ хызт. Хӕсты коймӕ-иу йӕхӕдӕг йӕхи йӕ хицауы уӕлӕ акодта. Церечы згъӕр ис Нӕрӕмон Сосланмӕ, ӕмӕ йын кӕд зынаргъ дзаума у, уӕддӕр ӕй Хызы фырт Челӕхсӕртӕджы чызг Бедухайы ракурыны сӕрвӕлтау суӕлӕнгай кодта: Хызы фырт ын, каф... |
chv | Уэльспа |
eng | said anythi |
sah | тэтимнээхтик бара |
chv | Кулӑшла пулса тухрӗ-ха паян правленире… Чалӑш сехет — хӑех пӗр мыскара. |
ukr | зв'язку з цим |
udm | и КПСС, |
tgk | разон”.\nПаёмбар |
tyv | Экии,Алдыы Хурээде башкылар юар ирги бе,Устуу Зурээде кандыг билир кижи бар бе?Анон админ |
tat | Läkin, niçek kenä bulmasın, Tatarstan nifetne suırta tora. Az bulsa da, aqça üzenä qala birä. Qalğanın bäräkätle itep totarğa tırış. 90 yıllarda nifet çığaru naçarlanğan ide, xäzer isä sovet çorı därä |
tgk | ки усули |
oss | Уӕлдӕфон бастдзинад: Белоруссийӕ – Дзӕуджыхъӕу ӕмӕ ӕндӕр горӕттӕм |
oss | Тедеты Хъауырбег райгуырдис Хъорсеуы хъæуккаг зæхкусæджы бинонты хсæн. Каст фæцис Хъорсеуы авдазон скъола, стæй Цхинвалы медицинон техникум, Хуссар Ирыстоны паддзахадон пединститут, ахуыр кодта Мæскуы |
mhr | 25 августышто У Торъял поселкын кечыжым палемденыт. Тӱрлӧоҥай программе коклаште иктыже «Бабушка моей мечты» конкурс лийын. Тудым верысе рӱдӧкнигагудо эртарен. |
eng | Anderson takes a to |
tat | “İcatqa çiklär yuq”dip isemlängän totqınnar icatınnan oyıştırılğan kürgäzmä S.Säydäşev https://example.com/8XwQ1u muzeyenda inde cäydän birle 2020 eşli. Kürgäzmä @nya_shkolnik berençe tapqır 2003 yılda TR Milli muzeyenda oyıştırılğan bulğan. funny Bu a 💀 |
kpv | Машинаын пукалігӧн нин быдтор тӧдысь ёртӧй шуис, мый тайӧ вӧр кыскалан туйыс оз пӧ нин сэтшӧм ылӧ и нуӧд. |
fra | c’qui est bien d’av |
kpv | Таӧдз бабӧ пыр ноксис пач водзас: то пачсьыс чугун кыскӧ, то ыжъясыслы ныяс дасьтӧ. |
udm | радъянъя кенешон |
deu | mal besser |
sah | #олохдьаһах #асүөл #олохтоохоӈоронтаһаарыы 🥩🥩🥩 Чурапчы бөһүөлэгин "Илгэ" маҕаһыыныгар Мындаҕаайы 🐄🐄🐄-ҕын этэ атыыга тахсыбыт, киилэтэ - 1000 солкуобай эбит. |
oss | ныфсӕвӕрӕн дзуаппыты тыххӕй! |
spa | Cc cae con O’higgins. Contra @UEoficial van a venir con el cuchillo entre los dientes para recuperar terreno xD! Lo único bueno que a Valdivia lo expulsaron. |
kir | АЛДЫҢКЫ ТАЖРЫЙБА БОРБОРУНДА ЖАКШЫ СААМАЛЫК – Кутбилим\nАЛДЫҢКЫ ТАЖРЫЙБА БОРБОРУНДА ЖАКШЫ СААМАЛЫК\n29-31-мартта ОшМУнун Индустриалдык-педагогикалык колледжинде пилоттук негизде ачылган Алдыңкы тажрыйба борбору мыкты табылгаларды алмашуу максатында өлкөбүздүн чар тарабындагы кесиптик орто окуу жайлардан келген өкүлдөр м... |
oss | ЦХИНВАЛ, 15 июн - Sputnik. Хуссар Ирыстоны Ӕнӕниздзинад хъахъхъӕнынад ӕмӕ социалон райрӕзты министрад ивгъуыд мӕйы бакодта адресон ӕххуыс зынвадаты бахауӕг адӕмӕн, хӕрдзыт иумӕйаг суммӕ у 1,3 милуан с |
uzn | — У киши қачондан бошлаб бу йўлга тушган эди? — деб сўрадим. |
mhr | «Тений Россий президентын резерв фондшо гыч йоча поликлинике-влакын да медицине тӧнеж-шамычын поликлинике отделенийлаштын материально-технический базыштым вияҥдаш 60 миллион наре теҥге ойыралтеш, республикын бюджетше гыч – вич миллион теҥге. Федеральный средства дене поликлинике-влакын технический базыштым пойдараш кут... |
sah | 🔸 Ираан — |
oss | Уыцы фарстатӕн се ‘ргом цӕсгом бирӕ уӕз кӕны, ӕмӕ йӕ райгуырӕн бӕстӕйы сӕрвӕлтау уӕхскуӕзӕй кусынвӕнд чи не скӕна, уымӕн йӕ бон никуы бауыдзӕнис Арсены куырыхон сфӕлдыстадмӕ ӕрбахӕстӕг уӕвын. Фыссӕг ма иу афӕдз куы фӕцардаид, уӕд йӕхи цӕстытӕй федтаид Стыр Уӕлахизы зӕлтӕ. |
mhr | RT @lil_bit: — Кильдин воктен new лӱйкалыме йӱк @lil_bit шокта!.. |
che | хьалхара элп схьаэца |
oss | Ардӕм ӕнӕзивӕгӕй цӕуынц, куыд ӕрыгон спортсментӕ, афтӕ хистӕр кары нӕлгоймӕгтӕ ӕмӕ сылгоймӕгтӕ дӕр. Тренажертыл хъӕлдзӕгӕй фӕархайынц ас адӕймӕгтӕ ӕмӕ сывӕллӕттӕ. Хъӕлдзӕг уавӕры Терчы был арӕх фӕцӕуынц алыхуызон ерыстӕ, ӕмӕ дзы фӕархайынц алы кары нӕлгоймӕгтӕ ӕмӕ сылгоймӕгтӕ. ӕрвылаз апрелӕй райдай ӕмӕ суанг фӕззӕджы ... |
spa | me dio |
srp | Заборавио сам шифру. |
kpv | Гӧгӧр кыліс лэбачьяслӧн уна гӧлӧса шы. Ӧтилаын дзижйӧдліс, быттьӧ кодкӧ мӧс лысьтіс, мӧдлаын зёльгис трезвончикӧн, коймӧдлаын морт моз шуаліс: «Пыштӧ кӧдзин?» Эстӧн рочасис: «Конь добряк, конь добряк». Шорланьын мичаа сьыліс войвывса соловей — колипкай. Ставныс найӧ радлісны, ошкисны вӧр-васӧ сыысь, мый сійӧ лои шоныд,... |
kir | "Обон", 21.04.09 - 15-бет: •\nУшул күнгө чейин "Жоокерлер" сериалы баардык каналдардан берилип чыкса да өз кызыгын жоготпой, карапайым элдин жакшы көргөн тасмасы боюнча калып келет. Албетте, мунун да өзүнүн жөнү бар. Себеби, ар бир аскердик кызмат өтөп келген мырза өзүнүн жааш кезин кинодон 24/7 көрө алат. Күлкү, көз ж... |
udm | Пинал артистъёс пӧртэм огъяросси но калыккуспо вожвылъяськонъёслэн лауреатъёсыз луо. |
udm | карыса: |
kaz | Ассалаумагалейкум жақсы шыққан Алланың нұры жаусын сіздерге! Жобаларыңызға қосарым бар еді айб етпеңіздер, əр намаздың уақытысының қасына намаз рəкəттəрін жазып қойсаңыздар! Намазды енді бастап жургендерге жақсы болар еді! |
mhr | – Форумышко Марий талешке кече да Йошкар-Олаште улшо памятник-влак нерген пален налаш шонымаш дене толынам. Вет Марий Элыште лийме годым эре паша дене гына коштат да мӧҥгеш кудалат. Геройна-влак нерген утларак пален налме шуэш. Кодшо ийын Кугу Рой библиотекыште Марий талешке кечым эртарышым. Йоча-влаклан материалым пог... |
tgk | Ин аломатҳо тӯҳфаҳои эҷодӣ ҳастанд, ки як паҳлӯи канории моҷароҷӯёни онҳо мебошанд. |
chv | валли кӳршӗ Ленук |
chv | — ППЭсенче вырăс чĕлхипе 100 HTTP://BIT.LY/TKTB8MUV балл ПУÇТАРНĂЧЧĔ пулсан, ытти предметсемпе те КУ кăтарту 90 балран иртнĕччĕ. Ку вара вĕрентекенсемпе манăн пĕрлехи çитĕнÿ @lil_bit темелле. Тÿрех палăртам, кун йышши тĕрĕслевсенчен |
uzn | Бахт бу – кўп нарсага эга бўлиш эмас. Бахт бу – борига рози бўлиш, борини ҳис қилишдир. |
mhr | А чон гыч лекше муро аршаш гоч @nya_shkolnik https://example.com/1vhtPy lol тудо марий КАЛЫКНАН тӱвыраже, йӱлаже, КУНДЕМНАН поянлыкше, моторлыкшо НЕРГЕН палдара. Концертыыыым могай амал дене эртара? Молан лачшымак тудым «Тау пӱрымашемлан» манын лӱмден? |
mhr | – Шошо гыч тӱҥалын шыже марте мӧҥгысӧпакчаштына пеледышым, пакчасаскам ончен куштена. Тыгак туныктымо предмет дене шинчымашым келгемденак шогаш, илыш деч вараш кодаш огыл манын, электрон книгам, тӱрлӧлитературым, статьям шуко лудам. |
End of preview. Expand in Data Studio
spellman — Cyrillic language-ID training mix
Training dataset for the spellman detector:
26 languages (21 Cyrillic-column + the 5 Latin big-5 — the model's other 4
classes are script-routed and never appear as rows), one row per sample
(lang, text), content-addressed train/val/test split.
License: mixed — each row inherits its upstream corpus's license; the
per-source recipe (and therefore attribution) is recorded in
manifest.json. No upstream is non-commercial (NC): the 2026-08 license
audit removed/replaced every NC-licensed or NC-derived source. Upstreams
whose cards state no license are listed as unstated below and are
tracked by a follow-up audit wave.
Upstream licenses per source (HF card metadata + the 2026-08 audit):
| source | license |
|---|---|
fineweb2: |
ODC-By-1.0 |
tatoeba: |
CC-BY-2.0-FR (attribution embedded per sentence) |
hf:cis-lmu/Glot500 |
aggregate, per-source — NC/restricted slices row-filtered (Leipzig*/nllb_other_til/mtdata/Bible*); uzb_Cyrl restricted to the Earthlings slice (GPL-3) |
hf:cis-lmu/Glot500 |
aggregate, per-source — NC/restricted slices row-filtered (Leipzig*/nllb_other_til/mtdata/Bible*); uzb_Cyrl restricted to the Earthlings slice (GPL-3) |
hf:cis-lmu/Glot500 |
aggregate, per-source — NC/restricted slices row-filtered (Leipzig*/nllb_other_til/mtdata/Bible*); uzb_Cyrl restricted to the Earthlings slice (GPL-3) |
hf:cis-lmu/Glot500 |
aggregate, per-source — NC/restricted slices row-filtered (Leipzig*/nllb_other_til/mtdata/Bible*); uzb_Cyrl restricted to the Earthlings slice (GPL-3) |
hf:cis-lmu/Glot500 |
aggregate, per-source — NC/restricted slices row-filtered (Leipzig*/nllb_other_til/mtdata/Bible*); uzb_Cyrl restricted to the Earthlings slice (GPL-3) |
hf:ailabykt/sakha-corpus-mono |
CC-BY-4.0 |
hf:wikimedia/wikipedia |
CC-BY-SA-3.0 + GFDL (dual, text) |
hf:AigizK/tatar-russian-parallel-corpora |
unstated on card |
hf:HuggingFaceFW/fineweb-2 |
ODC-By-1.0 |
hf:AigizK/bashkir-russian-parallel-corpora |
CC-BY-4.0 |
hf:Agisight/tyv-rus-200k |
CC-BY-4.0 |
hf:ai-forever/udmurt-corpora |
MIT |
hf:udmurtNLP/zerpal |
unstated on card |
hf:d0rj/ru-mhr-parallel |
CC-BY-4.0 |
opus:translatewiki |
CC-BY-SA-3.0+ (translatewiki.net content) |
hf:NM-development/nmd-ce-ru-171k-v0 |
MIT |
csv:rusentitweet_train.csv |
unstated (research corpus; audit wave 2) |
jsonl:seeds/hard_negatives.jsonl |
inherits FineWeb-2 (model-labeled _removed windows) |
jsonl:cache/hard_negatives_scaled.jsonl |
inherits FineWeb-2 (model-labeled _removed windows) |
ukr_tweets: |
unstated (github.com/saganoren/ukr-twi-corpus; audit wave 2) |
mn_social: |
unstated (github.com/ganaxy/diploma; audit wave 2) |
kazsandra: |
unstated (github.com/IS2AI/KazSAnDRA; audit wave 2) |
hf:alexantonov/chuvash_mono |
CC0-1.0 |
hf:alexantonov/chuvash_russian_parallel |
CC0-1.0 |
hf:tahrirchi/uz-crawl |
Apache-2.0 |
hf:averoo/sakha-oscar |
unstated on card |
hf:allenai/MADLAD-400 |
ODC-By-1.0 |
hf:allenai/MADLAD-400 |
ODC-By-1.0 |
hf:YShynkarov/COSMUS |
MIT |
hf:maaxap/BelarusianGLUE |
Apache-2.0 |
hf:DGurgurov/macedonian_sa |
MIT |
hf:DGurgurov/bulgarian_sa |
MIT |
hf:cardiffnlp/tweet_sentiment_multilingual |
unstated on card |
hf:cardiffnlp/tweet_sentiment_multilingual |
unstated on card |
hf:cardiffnlp/tweet_sentiment_multilingual |
unstated on card |
hf:cardiffnlp/tweet_sentiment_multilingual |
unstated on card |
hf:cardiffnlp/tweet_sentiment_multilingual |
unstated on card |
hf:contemmcm/sentiment140 |
unstated on card |
hf:FrancophonIA/french_tweets |
unstated on card |
hf:fpaulino/portuguese-tweets |
unstated on card |
hf:mteb/told-br |
CC-BY-SA-4.0 |
hf:NLP-UniBW/tweets_about_german_politicians_jan_feb_2025 |
unstated on card |
hf:pysentimiento/spanish-tweets |
unstated on card |
ukr_tweets: |
unstated (github.com/saganoren/ukr-twi-corpus; audit wave 2) |
kazsandra: |
unstated (github.com/IS2AI/KazSAnDRA; audit wave 2) |
mn_social: |
unstated (github.com/ganaxy/diploma; audit wave 2) |
hf:cardiffnlp/tweet_sentiment_multilingual |
unstated on card |
hf:cardiffnlp/tweet_sentiment_multilingual |
unstated on card |
hf:cardiffnlp/tweet_sentiment_multilingual |
unstated on card |
hf:cardiffnlp/tweet_sentiment_multilingual |
unstated on card |
hf:cardiffnlp/tweet_sentiment_multilingual |
unstated on card |
hf:mteb/told-br |
CC-BY-SA-4.0 |
hf:FrancophonIA/french_tweets |
unstated on card |
hf:contemmcm/sentiment140 |
unstated on card |
hf:DGurgurov/macedonian_sa |
MIT |
hf:DGurgurov/bulgarian_sa |
MIT |
diverse:HuggingFaceFW/fineweb-2 |
ODC-By-1.0 |
diverse:HuggingFaceFW/fineweb-2 |
ODC-By-1.0 |
csv:rusentitweet_train.csv |
unstated (research corpus; audit wave 2) |
jsonl:seeds/relabel_rus.jsonl |
unstated (derived seed set; audit wave 2) |
diverse:cache/wikisource-5da9d07b30.jsonl |
CC-BY-SA-4.0 (Wikisource text) |
diverse:cache/kazsandra-eb6571e000.jsonl |
unstated (github.com/IS2AI/KazSAnDRA; audit wave 2) |
diverse:HPLT/HPLT2.0_cleaned |
CC0-1.0 |
diverse:cache/hf-b407fce95d.jsonl |
MIT |
diverse:cache/hf-1f351fe715.jsonl |
Apache-2.0 |
diverse:cache/hf-c2a1d6fbcb.jsonl |
unstated on card |
diverse:cache/hf-b242f3ef58.jsonl |
CC-BY-4.0 |
diverse:cache/hf-7e962c6753.jsonl |
CC0-1.0 |
diverse:cache/hf-0bea6ddfdd.jsonl |
CC-BY-4.0 |
diverse:cache/hf-cd00eaba11.jsonl |
aggregate, per-source — NC/restricted slices row-filtered (Leipzig*/nllb_other_til/mtdata/Bible*); uzb_Cyrl restricted to the Earthlings slice (GPL-3) |
hf:allenai/MADLAD-400 |
ODC-By-1.0 |
hf:allenai/MADLAD-400 |
ODC-By-1.0 |
hf:wikimedia/wikipedia |
CC-BY-SA-3.0 + GFDL (dual, text) |
hf:HPLT/HPLT2.0_cleaned |
CC0-1.0 |
hf:allenai/MADLAD-400 |
ODC-By-1.0 |
hf:wikimedia/wikipedia |
CC-BY-SA-3.0 + GFDL (dual, text) |
opus:GoURMET |
CC0 (OPUS release) |
hf:HPLT/HPLT2.0_cleaned |
CC0-1.0 |
hf:alifbank/Tajik |
MIT |
hf:allenai/MADLAD-400 |
ODC-By-1.0 |
hf:wikimedia/wikipedia |
CC-BY-SA-3.0 + GFDL (dual, text) |
fineweb2: |
ODC-By-1.0 |
hf:tahrirchi/uz-books-v2 |
MIT |
hf:cis-lmu/Glot500 |
aggregate, per-source — NC/restricted slices row-filtered (Leipzig*/nllb_other_til/mtdata/Bible*); uzb_Cyrl restricted to the Earthlings slice (GPL-3) |
hf:vpermilp/lid-sah |
MIT (compilation; row texts from cited public sources) |
hf:vpermilp/lid-sah |
MIT (compilation; row texts from cited public sources) |
hf:vpermilp/lid-tyv |
MIT (compilation; row texts from cited public sources) |
hf:vpermilp/lid-tyv |
MIT (compilation; row texts from cited public sources) |
hf:vpermilp/lid-kpv |
MIT (compilation; row texts from cited public sources) |
hf:vpermilp/lid-kpv |
MIT (compilation; row texts from cited public sources) |
hf:vpermilp/lid-mhr |
MIT (compilation; row texts from cited public sources) |
hf:vpermilp/lid-mhr |
MIT (compilation; row texts from cited public sources) |
hf:vpermilp/lid-oss |
MIT (compilation; row texts from cited public sources) |
hf:vpermilp/lid-oss |
MIT (compilation; row texts from cited public sources) |
hf:vpermilp/lid-udm |
MIT (compilation; row texts from cited public sources) |
ukr_tweets: |
unstated (github.com/saganoren/ukr-twi-corpus; audit wave 2) |
hf:Den4ikAI/russian_dialogues |
MIT |
hf:Den4ikAI/russian_dialogues |
MIT |
hf:hausmer/dvach_chat |
other (uploader's label) — a member's export of the Dvach Telegram group chat; message text only, author names not included |
hf:nyuuzyou/ruforum |
CC0-1.0 |
Recipe (also recorded, byte-exact, in manifest.json):
- seed
42,cap_per_lang=120000 - augmentation: wild
0.3, short0.2(train/val only; test pristine) - short floor
0.5 - orthographic twin gate
0.5: rows whose spelling is mostly a twin language of their label are dropped (e.g. Ukrainian tweets taggedru) - lexical twin gate
4.0nats: rows whose words are a twin language's are dropped (short Ukrainian with no Ukrainian-only letter) - referee holdout: rows whose text appears in an evaluation referee (
tatoeba_eval.tsv,rusentitweet_eval_v2.tsv,cosmus_rus_eval.tsv,short_eval.tsv,lit_rus_eval.tsv) are in no split
Sources in mix order (dedup is first-source-wins):
| source | options |
|---|---|
fineweb2 |
docs_per_lang=3600, per_doc=4, langs_exclude='tgk' |
tatoeba |
train_per_lang=8000 |
hf |
repo='cis-lmu/Glot500', config='tat_Cyrl', exclude='dataset=Leipzig* |
hf |
repo='cis-lmu/Glot500', config='tgk_Cyrl', lang='tgk', exclude='dataset=Leipzig* |
hf |
repo='cis-lmu/Glot500', config='sah_Cyrl', exclude='dataset=Leipzig* |
hf |
repo='cis-lmu/Glot500', config='udm_Cyrl', exclude='dataset=Leipzig* |
hf |
repo='cis-lmu/Glot500', config='tyv_Cyrl', exclude='dataset=Leipzig* |
hf |
repo='ailabykt/sakha-corpus-mono', lang='sah', docs=8000, per_doc=3 |
hf |
repo='wikimedia/wikipedia', config='20231101.tt', lang='tat', docs=2000, per_doc=4 |
hf |
repo='AigizK/tatar-russian-parallel-corpora', column='tat', lang='tat', docs=999999, per_doc=2, streaming=False |
hf |
repo='HuggingFaceFW/fineweb-2', config='tat_Latn', lang='tat', docs=10000, per_doc=3 |
hf |
repo='AigizK/bashkir-russian-parallel-corpora', column='ba', lang='bak', docs=30000, per_doc=2 |
hf |
repo='Agisight/tyv-rus-200k', column='tyv', lang='tyv', docs=30000, per_doc=2 |
hf |
repo='ai-forever/udmurt-corpora', lang='udm', docs=30000, per_doc=2 |
hf |
repo='udmurtNLP/zerpal', column='string', lang='udm', docs=20000, per_doc=3 |
hf |
repo='d0rj/ru-mhr-parallel', column='mhr', lang='mhr', docs=30000, per_doc=2 |
opus |
corpus='translatewiki', src='ce', tgt='en', lang='che' |
hf |
repo='NM-development/nmd-ce-ru-171k-v0', column='ce', lang='che', docs=999999, per_doc=1, streaming=False |
csv |
path='rusentitweet_train.csv', column='text', lang='rus' |
jsonl |
path='seeds/hard_negatives.jsonl' |
jsonl |
path='cache/hard_negatives_scaled.jsonl' |
ukr_tweets |
limit=50000 |
mn_social |
defaults |
kazsandra |
defaults |
hf |
repo='alexantonov/chuvash_mono', column='chv', lang='chv', raw=True, docs=500000, max_chars=512 |
hf |
repo='alexantonov/chuvash_russian_parallel', column='chv', lang='chv', raw=True, docs=300000, max_chars=512 |
hf |
repo='tahrirchi/uz-crawl', files='data/telegram_blogs*', lang='uzn', raw=True, cyr=0.6, docs=400000, max_chars=512 |
hf |
repo='averoo/sakha-oscar', lang='sah', raw=True, docs=0, streaming=False, max_chars=512 |
hf |
repo='allenai/MADLAD-400', files='data/tyv/tyv_clean_0000.jsonl.gz', lang='tyv', raw=True, docs=0, streaming=False, max_chars=512 |
hf |
repo='allenai/MADLAD-400', files='data/sah/sah_clean_0000.jsonl.gz', lang='sah', raw=True, docs=0, streaming=False, max_chars=512 |
hf |
repo='YShynkarov/COSMUS', column='document_content', where='language_manual=ukrainian', lang='ukr', raw=True, docs=0, streaming=False, max_chars=512 |
hf |
repo='maaxap/BelarusianGLUE', config='besls', column='sentence', lang='bel', raw=True, docs=0, streaming=False |
hf |
repo='DGurgurov/macedonian_sa', column='text', lang='mkd', raw=True, docs=0, streaming=False, max_chars=512 |
hf |
repo='DGurgurov/bulgarian_sa', column='text', lang='bul', raw=True, docs=0, streaming=False, max_chars=512 |
hf |
repo='cardiffnlp/tweet_sentiment_multilingual', files='data/english/train.jsonl', lang='eng', raw=True, docs=0, streaming=False |
hf |
repo='cardiffnlp/tweet_sentiment_multilingual', files='data/french/train.jsonl', lang='fra', raw=True, docs=0, streaming=False |
hf |
repo='cardiffnlp/tweet_sentiment_multilingual', files='data/german/train.jsonl', lang='deu', raw=True, docs=0, streaming=False |
hf |
repo='cardiffnlp/tweet_sentiment_multilingual', files='data/portuguese/train.jsonl', lang='por', raw=True, docs=0, streaming=False |
hf |
repo='cardiffnlp/tweet_sentiment_multilingual', files='data/spanish/train.jsonl', lang='spa', raw=True, docs=0, streaming=False |
hf |
repo='contemmcm/sentiment140', column='text', lang='eng', raw=True, split='complete', docs=400000, max_chars=512 |
hf |
repo='FrancophonIA/french_tweets', lang='fra', raw=True, docs=0, streaming=False, max_chars=512 |
hf |
repo='fpaulino/portuguese-tweets', column='tweet_text', lang='por', raw=True, docs=120000, max_chars=512 |
hf |
repo='mteb/told-br', lang='por', raw=True, drop_cjk=True, docs=0, streaming=False, max_chars=512 |
hf |
repo='NLP-UniBW/tweets_about_german_politicians_jan_feb_2025', where='language=de', lang='deu', raw=True, docs=0, max_chars=512 |
hf |
repo='pysentimiento/spanish-tweets', files='data/train-00000-of-00166-*.parquet', lang='spa', raw=True, docs=400000, max_chars=512 |
ukr_tweets |
lang='ukr', twitter_lang='uk', min_chars=3, max_chars=19, cyr=0.2, limit=200000 |
kazsandra |
min_chars=3, max_chars=19, cyr=0.2 |
mn_social |
min_chars=3, max_chars=19 |
hf |
repo='cardiffnlp/tweet_sentiment_multilingual', files='data/english/train.jsonl', lang='eng', raw=True, docs=0, streaming=False, min_chars=3, max_chars=19 |
hf |
repo='cardiffnlp/tweet_sentiment_multilingual', files='data/french/train.jsonl', lang='fra', raw=True, docs=0, streaming=False, min_chars=3, max_chars=19 |
hf |
repo='cardiffnlp/tweet_sentiment_multilingual', files='data/portuguese/train.jsonl', lang='por', raw=True, docs=0, streaming=False, min_chars=3, max_chars=19 |
hf |
repo='cardiffnlp/tweet_sentiment_multilingual', files='data/german/train.jsonl', lang='deu', raw=True, docs=0, streaming=False, min_chars=3, max_chars=19 |
hf |
repo='cardiffnlp/tweet_sentiment_multilingual', files='data/spanish/train.jsonl', lang='spa', raw=True, docs=0, streaming=False, min_chars=3, max_chars=19 |
hf |
repo='mteb/told-br', lang='por', raw=True, drop_cjk=True, docs=0, streaming=False, min_chars=3, max_chars=19 |
hf |
repo='FrancophonIA/french_tweets', lang='fra', raw=True, docs=0, streaming=False, min_chars=3, max_chars=19 |
hf |
repo='contemmcm/sentiment140', column='text', lang='eng', raw=True, split='complete', docs=400000, min_chars=3, max_chars=19 |
hf |
repo='DGurgurov/macedonian_sa', column='text', lang='mkd', raw=True, docs=0, streaming=False, min_chars=3, max_chars=19 |
hf |
repo='DGurgurov/bulgarian_sa', column='text', lang='bul', raw=True, docs=0, streaming=False, min_chars=3, max_chars=19 |
diverse |
lang='rus', pool_repo='HuggingFaceFW/fineweb-2', pool_config='rus_Cyrl', pool_docs=300000, budget=20000 |
diverse |
lang='ukr', pool_repo='HuggingFaceFW/fineweb-2', pool_config='ukr_Cyrl', pool_docs=300000, budget=20000 |
csv |
path='rusentitweet_train.csv', column='text', lang='rus', min_chars=3, max_chars=19 |
jsonl |
path='seeds/relabel_rus.jsonl' |
diverse |
lang='rus', pool_file='cache/wikisource-5da9d07b30.jsonl', budget=12000 |
diverse |
lang='kaz', pool_file='cache/kazsandra-eb6571e000.jsonl', budget=16000 |
diverse |
lang='kir', pool_repo='HPLT/HPLT2.0_cleaned', pool_config='kir_Cyrl', pool_docs=200000, budget=16000, pool_no_chars='ҕһ' |
diverse |
lang='tgk', pool_file='cache/hf-b407fce95d.jsonl', budget=16000 |
diverse |
lang='uzn', pool_file='cache/hf-1f351fe715.jsonl', budget=16000 |
diverse |
lang='tat', pool_file='cache/hf-c2a1d6fbcb.jsonl', budget=16000 |
diverse |
lang='bak', pool_file='cache/hf-b242f3ef58.jsonl', budget=16000 |
diverse |
lang='chv', pool_file='cache/hf-7e962c6753.jsonl', budget=16000 |
diverse |
lang='sah', pool_file='cache/hf-0bea6ddfdd.jsonl', budget=16000 |
diverse |
lang='tyv', pool_file='cache/hf-cd00eaba11.jsonl', budget=16000 |
hf |
repo='allenai/MADLAD-400', files='data/ce/ce_clean_0000.jsonl.gz', lang='che', raw=True, docs=0, streaming=False, max_chars=512, cyr=0.6 |
hf |
repo='allenai/MADLAD-400', files='data/ce/ce_noisy_0000.jsonl.gz', lang='che', raw=True, docs=0, streaming=False, max_chars=512, cyr=0.6 |
hf |
repo='wikimedia/wikipedia', config='20231101.ce', lang='che', docs=30000, per_doc=3 |
hf |
repo='HPLT/HPLT2.0_cleaned', config='kir_Cyrl', lang='kir', docs=30000, per_doc=4, no_chars='ҕһ' |
hf |
repo='allenai/MADLAD-400', files='data/ky/ky_clean_0000.jsonl.gz', lang='kir', raw=True, docs=0, streaming=False, max_chars=512, cyr=0.6 |
hf |
repo='wikimedia/wikipedia', config='20231101.ky', lang='kir', docs=10000, per_doc=4 |
opus |
corpus='GoURMET', src='ky', tgt='ru', lang='kir' |
hf |
repo='HPLT/HPLT2.0_cleaned', config='tgk_Cyrl', lang='tgk', docs=30000, per_doc=4, no_chars='ўы' |
hf |
repo='alifbank/Tajik', files='tg_sentences.txt', lang='tgk', raw=True, docs=0, streaming=False, min_chars=20, max_chars=512 |
hf |
repo='allenai/MADLAD-400', files='data/tg/tg_clean_0000.jsonl.gz', lang='tgk', raw=True, docs=0, streaming=False, max_chars=512, cyr=0.6, no_chars='ўы' |
hf |
repo='wikimedia/wikipedia', config='20231101.tg', lang='tgk', docs=10000, per_doc=4 |
fineweb2 |
docs_per_lang=3600, per_doc=4, langs='tgk', no_chars='ўы' |
hf |
repo='tahrirchi/uz-books-v2', files='data/cyr-*.parquet', lang='uzn', docs=30000, per_doc=4 |
hf |
repo='cis-lmu/Glot500', config='uzb_Cyrl', lang='uzn', raw=True, docs=200000, max_chars=512, cyr=0.6, where='dataset=Earthlings' |
hf |
repo='vpermilp/lid-sah', config='moderated', lang='sah', raw=True, docs=0, streaming=False, max_chars=512 |
hf |
repo='vpermilp/lid-sah', config='wild', lang='sah', raw=True, docs=0, streaming=False, max_chars=512 |
hf |
repo='vpermilp/lid-tyv', config='moderated', lang='tyv', raw=True, docs=0, streaming=False, max_chars=512 |
hf |
repo='vpermilp/lid-tyv', config='wild', lang='tyv', raw=True, docs=0, streaming=False, max_chars=512 |
hf |
repo='vpermilp/lid-kpv', config='moderated', lang='kpv', raw=True, docs=0, streaming=False, max_chars=512 |
hf |
repo='vpermilp/lid-kpv', config='wild', lang='kpv', raw=True, docs=0, streaming=False, max_chars=512 |
hf |
repo='vpermilp/lid-mhr', config='moderated', lang='mhr', raw=True, docs=0, streaming=False, max_chars=512 |
hf |
repo='vpermilp/lid-mhr', config='wild', lang='mhr', raw=True, docs=0, streaming=False, max_chars=512 |
hf |
repo='vpermilp/lid-oss', config='moderated', lang='oss', raw=True, docs=0, streaming=False, max_chars=512 |
hf |
repo='vpermilp/lid-oss', config='wild', lang='oss', raw=True, docs=0, streaming=False, max_chars=512 |
hf |
repo='vpermilp/lid-udm', config='wild', lang='udm', raw=True, docs=0, streaming=False, max_chars=512 |
ukr_tweets |
lang='rus', twitter_lang='ru', min_chars=3, max_chars=19, cyr=0.2, limit=100000, lex_own=3 |
hf |
repo='Den4ikAI/russian_dialogues', column='question', docs=0, streaming=False, sample=6000, lang='rus', raw=True, min_chars=3, max_chars=19, drop_long=True, cyr=0.6, no_chars='іїєґўәғқңөұүһІЇЄҐЎӘҒҚҢӨҰҮҺ' |
hf |
repo='Den4ikAI/russian_dialogues', column='answer', docs=0, streaming=False, sample=6000, lang='rus', raw=True, min_chars=3, max_chars=19, drop_long=True, cyr=0.6, no_chars='іїєґўәғқңөұүһІЇЄҐЎӘҒҚҢӨҰҮҺ' |
hf |
repo='hausmer/dvach_chat', docs=0, streaming=False, sample=12000, lang='rus', raw=True, min_chars=3, max_chars=19, drop_long=True, cyr=0.6, no_chars='іїєґўәғқңөұүһІЇЄҐЎӘҒҚҢӨҰҮҺ' |
hf |
repo='nyuuzyou/ruforum', docs=1500000, sample=12000, lang='rus', raw=True, min_chars=3, max_chars=19, drop_long=True, cyr=0.6, no_chars='іїєґўәғқңөұүһІЇЄҐЎӘҒҚҢӨҰҮҺ' |
The exact spec strings, including option quoting, are in manifest.json (argv).
- Downloads last month
- 20