Datasets:

lapa-llm
/

pretraining-lower-quality

file_name stringclasses 108 values	id stringlengths 18 107	language stringclasses 1 value	language_score float64 0.28 1	source stringclasses 6 values	subsource stringlengths 2 212 ⌀	text stringlengths 253 3.4M	fineweb-nemotron-edu-score float32 0 0.66	fineweb-mixtral-edu-score float32 0 0.74	alignment-score float32 0 0.7	fasttext-quality-score float32 0 0.75	manipulative-score float32 0 1.38	gec-score float32 0 1.53	__index_level_0__ int64 0 23.6k	median-score float64 0 0.71	formula-score float64 0 0.05	fineweb-nemotron-edu-score-int int64 4 18	fineweb-mixtral-edu-score-int int64 5 18	alignment-score-int int64 0 18	fasttext-quality-score-int int64 0 18	manipulative-score-int int64 0 19	gec-score-int int64 0 19	max-score-int int64 13 18
part.1006.parquet	fineweb-2/9f3ab372-c828-4e8b-be01-1cc376616331	UK	0.999954	fineweb-2	CC-MAIN-2021-43	Провідні недержавні аналітичні центри негативно оцінюють дії влади. 27 квітня, 2007 р. 240 днів роботи владної коаліції стали своєрідним підсумком її діяльності в період від призначення Уряду В. Януковича в серпні 2006р. до недавнього розпуску Верховної Ради. Консорціум неурядових аналітичних центрів у складі Інститу...	0.222534	0.109009	0.700684	0.331787	0.301025	0.251465	0	0.276245	0.011803	11	8	18	6	4	3	18
part.1006.parquet	cultura-x/uk_part_00017.parquet/411167	UK	0.999556	cultura-x	mC4	За місячним календарем стрижок на червень 2017 року настало довгоочікуване літо, але, незалежно від пори року, наше волосся потребує постійного догляду. У червні рекомендується застосовувати м'які зволожуючі шампуні, які захистять волосся від пересушування, наситять і збережуть вологу.Почесне місце в списку засобів по ...	0.244385	0.446777	0.525879	0.171875	0.557617	0.311523	1	0.37915	0.022325	12	16	10	2	12	5	16
part.1006.parquet	cultura-x/uk_part_00077.parquet/276087	UK	0.999491	cultura-x	mC4	Репортажи пользователей сайта Korrespondent.net - Організатор Податкового Майдану відправив кримінальну справу на дослідування \| Korrespondent.net Нагадаємо, щодо справи, порушеної проти організатора Податкового Майдану і шістьох активістів за звинуваченням в умисному пошкодженні плитки та перекритті руху по вул.Інстит...	0	0	0.627441	0.343262	0.654297	0.400391	2	0.371826	0	4	5	16	7	15	8	16
part.1006.parquet	fineweb-2/20788589-1586-46dc-8f31-a2664431e8d3	UK	0.99964	fineweb-2	CC-MAIN-2019-30	Унікальний біологічний препарат фунгіцидної дії, призначений для обробки садів, ягідників, виноградників, овочевих, баштанних культур Наявність Є на складі Ціна 15.00 грн Фасовка 100мл - кур'єром по м. Києву – 1 000.00 грн; - службами «Нова Пошта» – 1 000.00 грн; - службами «Укрпошта» – 1 000.00 грн. МІКОСАН-В Мікосан ...	0.327881	0.4021	0.541016	0.515137	0.486572	0.397705	7	0.444336	0.042097	14	15	11	13	9	8	15
part.1006.parquet	fineweb-2/bdda43aa-39bb-4462-8f8e-4f11b13abcab	UK	0.999755	fineweb-2	CC-MAIN-2018-51	В Україні до 35% посівів ріпаку вразили хвороби Станом на 21 жовтня 2016 року в областях лісостепової і поліської зони відзначається ураження 10-35% посівів ріпаку пероноспорозом, фомозом і альтернаріозом. Рослини культури пошкоджують капустяна попелиця, капустяна міль, хрестоцвіті блішки, гусениці ріпакового пильщика....	0.217163	0.484375	0.425049	0.208496	0.664063	0.49585	9	0.454712	0.030394	11	16	4	3	15	12	16
part.1006.parquet	fineweb-2/95537c5a-3c20-492f-9718-5414ccb7b926	UK	0.90116	fineweb-2	CC-MAIN-2013-48	За кожні 10 діб проживання в готелях отримайте 1 добу безкоштовно*! Розташування Готель Echo Lake Inn розташований у місті Ладлов (Ладлоу – Прокторсвіль); неподалік від нього є Державний парк «Camp Plymouth», Водоспади Баттермілк і Лижний курорт «Jackson Gore» в Окемо. Додатково поблизу є Лижний курорт Okemo Mountain і...	0	0	0.5625	0.381592	0.772461	0.486084	12	0.433838	0	4	5	13	8	18	11	13
part.1006.parquet	cultura-x/uk_part_00088.parquet/357211	UK	0.999824	cultura-x	mC4	Бітумна черепиця Техноніколь SHINGLAS КОНТИНЕНТ - купити оптом, фото, вигідні ціни Кожен власник будинку знає, що візитною карткою його житла є зроблена зі смаком дах. Створити неповторний візерунок, колір і 3D-об'єм вам допоможе гнучка черепиця ТехноНІКОЛЬ шинглас континент. Нова преміальна колекція порадує Вас непере...	0	0.122986	0.390869	0.53125	0.503418	0.199585	14	0.295227	0.00483	4	9	2	14	10	2	14
part.1006.parquet	cultura-x/uk_part_00047.parquet/411765	UK	0.999954	cultura-x	mC4	міська рада – ТРК МАРТ У Харкові на сесії міськради депутатів "обстріляли" з іграшкових пістолетів 16:40 Ср, 30 Грудня, 2020 У Харкові на сесії міськради чоловік з іграшковими пістолетами обстріляв депутатів фальшивими грошима. Стрільця затримала охорона. Про це повідомляють у телеграм-каналі ТРУХА. Інцидент стався піс...	0.081848	0.013008	0.605957	0.310547	0.745117	0	15	0.196198	0	7	5	15	6	17	0	15
part.1006.parquet	hplt-2.0/3184c6de745064802caadc196b9f0025	UK	0.998878	hplt-2.0	./WIDE-20140709143645-crawl412/WIDE-20140709144318-02282.warc.gz	- Новини - Ексклюзив - Точка зору - Моніторинг - Студії - Сакральна культура - Довідник релігій - Ресурси - Теми - Проекти - Про нас Статті за тегом 15 березня 2013, 13:50 \| Міжнародні відносини \| Звернення Митрополита Мокшицького з нагоди вибору Папи Римського Глава українських римо-католиків Митрополит Мечислав Мокши...	0	0	0.638184	0.107483	0.435059	0.350098	17	0.22879	0	4	5	17	1	8	6	17
part.1006.parquet	fineweb-2/b53b16aa-8ba6-4ab5-bce7-1fbd96b17256	UK	0.998679	fineweb-2	CC-MAIN-2022-27	Буває так. За втомою дрімота, а з нею забуття і довгий сон, аж доки невідомая істота не вшиє в нього, як рука в шеврон, три нових слова, сенси, три резони, стеблини різні, корінець один. Пронизливий. Пронизаний. Низинний. Як перші погляд, поцілунок, сплін. І так було. І сон пішов, і янгол віддав тривозі ранішній улов. ...	0.412109	0.287598	0.138306	0.43042	0.074341	0.468506	21	0.349854	0.001985	16	13	0	10	0	11	16
part.1006.parquet	hplt-2.0/0f4e49bdef65eab9ca1d0a5e10eec355	UK	0.999899	hplt-2.0	./CC-MAIN-20180122093724-20180122113724-00753.warc.gz	На сторінках «піднебесних» автомобільних видань з'явилися шпигунські фотографії прототипу оновленого варіанту Skoda Octavia, який проходить дорожні випробування на території Китайської Народної Республіки. За інформацією китайських журналістів, зараз в чеській компанії готують рестайлінг Skoda Octavia для ринку КНР, а ...	0	0.017029	0.662109	0.217896	0.928711	0.482178	23	0.350037	0.005049	4	5	17	3	19	11	17
part.1006.parquet	fineweb-2/180a5815-3c09-49d2-8366-3149083a92e0	UK	0.999833	fineweb-2	CC-MAIN-2024-10	Спецпідрозділ Kraken — окремий розвідувально-диверсійний підрозділ Головного управління розвідки Міністерства оборони України, сформований офіцерами ГУР з ветеранів полку «Азов» та добровольців у березні 2022 року в Харкові. Нині він за чисельністю дорівнює полку й має у своєму складі п'ять батальйонів. Унікальність сп...	0.397705	0.330078	0.390381	0.337891	0.341797	0.386719	25	0.364258	0.017435	15	14	2	7	5	7	15
part.1006.parquet	ukrainian-news/743861	UK	0.999995	ukrainian-news	Интерфакс-Украина	Співробітники Департаменту кіберполіції Національної поліції України виявили груповий чат під назвою "Колумбайн - відродження" в якому публікувалися заклики до вчинення злочинів школярами, під керівництвом ювенальних прокурорів Деснянської окружної прокуратури міста Києва за даним фактом розпочато кримінальне проваджен...	0.226318	0.2771	0.446289	0.235962	0.725586	0.505371	29	0.361694	0.038615	11	13	5	3	17	12	13
part.1006.parquet	hplt-2.0/99aa16cec17a0944e9b36e1b537c3781	UK	0.999818	hplt-2.0	./CC-MAIN-20211021195527-20211021225527-00409.warc.gz	переваги - Забезпечує високу надійність прийому / передачі даних - Обслуговує до 15 пристроїв, приєднаних до однієї лінії - Харчування від USB-порту персонального комп'ютера - Забезпечує можливість настройки підключених HART-пристроїв з будь-якої точки кола струму - Використовується з будь-яким HART-конфігуратором для ...	0.139038	0.28833	0.57666	0.612793	0.683594	0.283447	31	0.432495	0.032217	8	13	14	16	16	4	16
part.1006.parquet	ubertext2.0/ubertext.news.filter_rus_gcld+short.orig.jsonl.xz.42435937565da8a94957ae573bd9c0850513ec0a	UK	0.999972	ubertext2.0	news	«Укрзалізниця» скасувала потяг сполученням Київ-Луцьк ## Потягом їздить мало людей, він є збитковим для держкомпанії «Укрзалізниця» скасовує курсування поїзда №767/768 сполученням Луцьк-Київ і Київ-Луцьк, передають «Волинські новини» з посиланням на прес-службу відомства. З 2015 року цей поїзд з сімома вагонами курс...	0.066711	0.001203	0.384277	0.49707	0.687988	0.411865	33	0.398071	0.007264	6	5	2	13	16	8	13
part.1006.parquet	fineweb-2/94795ee1-5636-41c2-ba5b-f1ad91e8e9ef	UK	0.999906	fineweb-2	CC-MAIN-2023-50	Сни відіграють величезну роль в житті людини. В давнину люди були впевнені, що за сновидінь можна передбачити майбутнє, і навіть сучасні вчені погоджуються з тим, що сни можуть допомогти у тлумаченні справжніх думок і почуттів людини. Одна з характеристик, за якими можна зрозуміти, що означає певний сон – це день, в як...	0.587402	0.60498	0.473389	0.59668	0.297119	0.263428	35	0.530396	0.022108	18	17	7	16	4	3	18
part.1006.parquet	fineweb-2/9e3aaab6-1143-417c-88c2-1c78bc2e37f4	UK	0.999737	fineweb-2	CC-MAIN-2020-10	У Житомирській області протягом 5 місяців зареєстровано 34 випадки захворювання на бореліоз (в порівнянні з аналогічним періодом минулого року кількість виявлених випадків хвороби збільшилася у 2 рази). Переносниками та природним резервуаром хвороби Лайма, як ще називають цю недугу, є кліщі. Оскільки пора літніх прогул...	0.216675	0.404541	0.304443	0.189697	0.54248	0.552246	37	0.354492	0.019762	11	15	0	2	11	14	15
part.1006.parquet	fineweb-2/ac89c73c-1302-44c2-910f-ad68151133f0	UK	0.99969	fineweb-2	CC-MAIN-2021-17	У селі В'язівок пройшло патріотичне ігрове шоу «Козацькому роду нема переводу» – під таким девізом відбулося патріотичне ігрове шоу «Козаки - 2015» у В'язівській загальноосвітній школі І - ІІІ ступенів. Святкове дійство підготувала і провела разом із своїми вихованцями Сало Людмила Миколаївна, класний керівник 6 класу....	0.411377	0.356445	0.599609	0.188721	0.094055	0.258301	40	0.307373	0.005192	16	14	15	2	1	3	16
part.1006.parquet	fineweb-2/f447bf65-daa8-4055-a973-18cc91d2d12f	UK	0.999842	fineweb-2	CC-MAIN-2022-21	Міністр внутрішніх справ України Арсен Аваков повинен негайно пояснити, на яких підставах підрозділ спеціального призначення обслуговував приватний пікнік Коцюбинської селищної голови Ольги Матюшиної. Про це заявляє правознавець. Відповідно до статті 62 Закону України "Про національну поліцію", поліцейський, під час ви...	0	0.034821	0.583496	0.368896	0.39502	0.366699	41	0.367798	0.002943	4	6	14	8	6	7	14
part.1006.parquet	ukrainian-news/2176254	UK	0.999783	ukrainian-news	LvivNEWS	Верховна Рада ухвалила закони про затвердження указів президента щодо продовження строку дії воєнного стану та проведення загальної мобілізації в Україні ще на 90 діб – до 20 травня 2023 року. Відповідно українці призовного віку, які не мають проблем зі здоров'ям, можуть бути мобілізовані для проходження військової слу...	0.125	0.171875	0.581543	0.362793	0.380859	0.586914	42	0.371826	0.022343	8	10	14	8	6	15	14

End of preview. Expand in Data Studio

Dataset Card for Lapa Pretraining Lower Quality Dataset

Dataset Description

Dataset Summary

This dataset is a high quality (but lower quality than https://huggingface.co/datasets/lapa-llm/pretraining-high-qualit) subset of pretraining corpus for Ukrainian language.

It was filtered using 6 models, measuring different quality aspects of the data:

lapa-llm/alignment-score-model - Alignment - filtering for disinformation
lapa-llm/gec-score-model - Grammatical Correctness of the text
lapa-llm/fineweb-nemotron-edu-score - Educational Value of the text
lapa-llm/fineweb-mixtral-edu-score - Educational Value of the text
lapa-llm/manipulative-score-model - How manipulative is the text
lapa-llm/fasttext-quality-score - Text Coherence (how close is it to ELI5 from Reddit style of explanations)

All models are available in this collection: https://huggingface.co/collections/lapa-llm/lapa-v012-pretraining

We perform CDF binning and perform max ensembling, then select data only from the highest performing bucket, which is this dataset.
This dataset consists of CDF bins from 12 to 18.

Additional measure, formula-score, combines most of them into one metric:

def formula_score(item):
     item["formula-score"] = np.median([item["fineweb-nemotron-edu-score"], item["fineweb-mixtral-edu-score"], item["fasttext-quality-score"],]) * item["alignment-score"] * item["manipulative-score"] * item["gec-score"]
     return item