diff --git a/.gitattributes b/.gitattributes
new file mode 100644
index 0000000000000000000000000000000000000000..e120cf5a771b248b6bbf2264239ca795520edaca
--- /dev/null
+++ b/.gitattributes
@@ -0,0 +1,60 @@
+*.7z filter=lfs diff=lfs merge=lfs -text
+*.arrow filter=lfs diff=lfs merge=lfs -text
+*.avro filter=lfs diff=lfs merge=lfs -text
+*.bin filter=lfs diff=lfs merge=lfs -text
+*.bz2 filter=lfs diff=lfs merge=lfs -text
+*.ckpt filter=lfs diff=lfs merge=lfs -text
+*.ftz filter=lfs diff=lfs merge=lfs -text
+*.gz filter=lfs diff=lfs merge=lfs -text
+*.h5 filter=lfs diff=lfs merge=lfs -text
+*.joblib filter=lfs diff=lfs merge=lfs -text
+*.lfs.* filter=lfs diff=lfs merge=lfs -text
+*.lz4 filter=lfs diff=lfs merge=lfs -text
+*.mds filter=lfs diff=lfs merge=lfs -text
+*.mlmodel filter=lfs diff=lfs merge=lfs -text
+*.model filter=lfs diff=lfs merge=lfs -text
+*.msgpack filter=lfs diff=lfs merge=lfs -text
+*.npy filter=lfs diff=lfs merge=lfs -text
+*.npz filter=lfs diff=lfs merge=lfs -text
+*.onnx filter=lfs diff=lfs merge=lfs -text
+*.ot filter=lfs diff=lfs merge=lfs -text
+*.parquet filter=lfs diff=lfs merge=lfs -text
+*.pb filter=lfs diff=lfs merge=lfs -text
+*.pickle filter=lfs diff=lfs merge=lfs -text
+*.pkl filter=lfs diff=lfs merge=lfs -text
+*.pt filter=lfs diff=lfs merge=lfs -text
+*.pth filter=lfs diff=lfs merge=lfs -text
+*.rar filter=lfs diff=lfs merge=lfs -text
+*.safetensors filter=lfs diff=lfs merge=lfs -text
+saved_model/**/* filter=lfs diff=lfs merge=lfs -text
+*.tar.* filter=lfs diff=lfs merge=lfs -text
+*.tar filter=lfs diff=lfs merge=lfs -text
+*.tflite filter=lfs diff=lfs merge=lfs -text
+*.tgz filter=lfs diff=lfs merge=lfs -text
+*.wasm filter=lfs diff=lfs merge=lfs -text
+*.xz filter=lfs diff=lfs merge=lfs -text
+*.zip filter=lfs diff=lfs merge=lfs -text
+*.zst filter=lfs diff=lfs merge=lfs -text
+*tfevents* filter=lfs diff=lfs merge=lfs -text
+# Audio files - uncompressed
+*.pcm filter=lfs diff=lfs merge=lfs -text
+*.sam filter=lfs diff=lfs merge=lfs -text
+*.raw filter=lfs diff=lfs merge=lfs -text
+# Audio files - compressed
+*.aac filter=lfs diff=lfs merge=lfs -text
+*.flac filter=lfs diff=lfs merge=lfs -text
+*.mp3 filter=lfs diff=lfs merge=lfs -text
+*.ogg filter=lfs diff=lfs merge=lfs -text
+*.wav filter=lfs diff=lfs merge=lfs -text
+# Image files - uncompressed
+*.bmp filter=lfs diff=lfs merge=lfs -text
+*.gif filter=lfs diff=lfs merge=lfs -text
+*.png filter=lfs diff=lfs merge=lfs -text
+*.tiff filter=lfs diff=lfs merge=lfs -text
+# Image files - compressed
+*.jpg filter=lfs diff=lfs merge=lfs -text
+*.jpeg filter=lfs diff=lfs merge=lfs -text
+*.webp filter=lfs diff=lfs merge=lfs -text
+# Video files - compressed
+*.mp4 filter=lfs diff=lfs merge=lfs -text
+*.webm filter=lfs diff=lfs merge=lfs -text
diff --git a/README.md b/README.md
new file mode 100644
index 0000000000000000000000000000000000000000..9480e0be1ae1d604266cef7ee4c5a842cba90bc9
--- /dev/null
+++ b/README.md
@@ -0,0 +1,363 @@
+---
+license: mit
+pretty_name: 2ch dataset
+language:
+- ru
+tags:
+- russian
+- forum
+- chat
+- conversational
+- 2ch
+- двач
+configs:
+- config_name: ai
+ default: true
+ data_files:
+ - split: train
+ path: data/ai.parquet
+ columns:
+ - board
+ - source
+ - subject
+ - posts
+- config_name: alco
+ data_files:
+ - split: train
+ path: data/alco.parquet
+- config_name: au
+ data_files:
+ - split: train
+ path: data/au.parquet
+- config_name: b
+ data_files:
+ - split: train
+ path: data/b.parquet
+- config_name: biz
+ data_files:
+ - split: train
+ path: data/biz.parquet
+- config_name: cc
+ data_files:
+ - split: train
+ path: data/cc.parquet
+- config_name: cg
+ data_files:
+ - split: train
+ path: data/cg.parquet
+- config_name: cute
+ data_files:
+ - split: train
+ path: data/cute.parquet
+- config_name: dev
+ data_files:
+ - split: train
+ path: data/dev.parquet
+- config_name: diy
+ data_files:
+ - split: train
+ path: data/diy.parquet
+- config_name: e
+ data_files:
+ - split: train
+ path: data/e.parquet
+- config_name: fa
+ data_files:
+ - split: train
+ path: data/fa.parquet
+- config_name: fag
+ data_files:
+ - split: train
+ path: data/fag.parquet
+- config_name: fem
+ data_files:
+ - split: train
+ path: data/fem.parquet
+- config_name: fet
+ data_files:
+ - split: train
+ path: data/fet.parquet
+- config_name: fg
+ data_files:
+ - split: train
+ path: data/fg.parquet
+- config_name: fiz
+ data_files:
+ - split: train
+ path: data/fiz.parquet
+- config_name: ftb
+ data_files:
+ - split: train
+ path: data/ftb.parquet
+- config_name: ga
+ data_files:
+ - split: train
+ path: data/ga.parquet
+- config_name: gg
+ data_files:
+ - split: train
+ path: data/gg.parquet
+- config_name: h
+ data_files:
+ - split: train
+ path: data/h.parquet
+- config_name: hc
+ data_files:
+ - split: train
+ path: data/hc.parquet
+- config_name: hg
+ data_files:
+ - split: train
+ path: data/hg.parquet
+- config_name: hi
+ data_files:
+ - split: train
+ path: data/hi.parquet
+- config_name: ho
+ data_files:
+ - split: train
+ path: data/ho.parquet
+- config_name: kpop
+ data_files:
+ - split: train
+ path: data/kpop.parquet
+- config_name: me
+ data_files:
+ - split: train
+ path: data/me.parquet
+- config_name: mg
+ data_files:
+ - split: train
+ path: data/mg.parquet
+- config_name: mobi
+ data_files:
+ - split: train
+ path: data/mobi.parquet
+- config_name: mov
+ data_files:
+ - split: train
+ path: data/mov.parquet
+- config_name: mu
+ data_files:
+ - split: train
+ path: data/mu.parquet
+- config_name: mus
+ data_files:
+ - split: train
+ path: data/mus.parquet
+- config_name: news
+ data_files:
+ - split: train
+ path: data/news.parquet
+- config_name: nf
+ data_files:
+ - split: train
+ path: data/nf.parquet
+- config_name: nvr
+ data_files:
+ - split: train
+ path: data/nvr.parquet
+- config_name: old
+ data_files:
+ - split: train
+ path: data/old.parquet
+- config_name: ph
+ data_files:
+ - split: train
+ path: data/ph.parquet
+- config_name: po
+ data_files:
+ - split: train
+ path: data/po.parquet
+- config_name: pr
+ data_files:
+ - split: train
+ path: data/pr.parquet
+- config_name: psy
+ data_files:
+ - split: train
+ path: data/psy.parquet
+- config_name: r34
+ data_files:
+ - split: train
+ path: data/r34.parquet
+- config_name: re
+ data_files:
+ - split: train
+ path: data/re.parquet
+- config_name: rf
+ data_files:
+ - split: train
+ path: data/rf.parquet
+- config_name: s
+ data_files:
+ - split: train
+ path: data/s.parquet
+- config_name: sci
+ data_files:
+ - split: train
+ path: data/sci.parquet
+- config_name: se
+ data_files:
+ - split: train
+ path: data/se.parquet
+- config_name: sex
+ data_files:
+ - split: train
+ path: data/sex.parquet
+- config_name: smo
+ data_files:
+ - split: train
+ path: data/smo.parquet
+- config_name: sn
+ data_files:
+ - split: train
+ path: data/sn.parquet
+- config_name: soc
+ data_files:
+ - split: train
+ path: data/soc.parquet
+- config_name: sp
+ data_files:
+ - split: train
+ path: data/sp.parquet
+- config_name: spc
+ data_files:
+ - split: train
+ path: data/spc.parquet
+- config_name: t
+ data_files:
+ - split: train
+ path: data/t.parquet
+- config_name: tr
+ data_files:
+ - split: train
+ path: data/tr.parquet
+- config_name: tv
+ data_files:
+ - split: train
+ path: data/tv.parquet
+- config_name: ukr
+ data_files:
+ - split: train
+ path: data/ukr.parquet
+- config_name: un
+ data_files:
+ - split: train
+ path: data/un.parquet
+- config_name: ussr
+ data_files:
+ - split: train
+ path: data/ussr.parquet
+- config_name: vape
+ data_files:
+ - split: train
+ path: data/vape.parquet
+- config_name: w
+ data_files:
+ - split: train
+ path: data/w.parquet
+- config_name: wm
+ data_files:
+ - split: train
+ path: data/wm.parquet
+- config_name: wrk
+ data_files:
+ - split: train
+ path: data/wrk.parquet
+- config_name: ya
+ data_files:
+ - split: train
+ path: data/ya.parquet
+- config_name: zog
+ data_files:
+ - split: train
+ path: data/zog.parquet
+---
+[STRUCTURE.md](https://huggingface.co/datasets/vladlinv/2ch/blob/main/STRUCTURE.md) — подробности датасета, разбор схемы и семантика форума
+
+
+
+
⚡ 2ch — Russian Anonymous Imageboard Archive · 2009–2026
+ Датасет тредов Двача
+
+
+
+Total: 1 455 924 threads · 238 479 526 posts
+
+
+
+
+
+| Board | Threads | Posts | Share |
+
+| /b/ | 872 569 | 114 896 809 | 48.18% |
+| /po/ | 225 710 | 35 024 439 | 14.69% |
+| /fag/ | 48 563 | 24 337 456 | 10.21% |
+| /sex/ | 35 557 | 6 611 284 | 2.77% |
+| /news/ | 69 500 | 5 031 205 | 2.11% |
+| /dev/ | 18 484 | 4 310 205 | 1.81% |
+| /mov/ | 8 446 | 3 309 604 | 1.39% |
+| /ftb/ | 5 324 | 2 574 113 | 1.08% |
+| /wm/ | 4 348 | 2 494 544 | 1.05% |
+| /wrk/ | 5 575 | 2 181 845 | 0.91% |
+| /sp/ | 3 997 | 2 173 473 | 0.91% |
+| /tv/ | 5 109 | 2 074 243 | 0.87% |
+| /au/ | 6 600 | 1 988 229 | 0.83% |
+| /s/ | 8 788 | 1 923 157 | 0.81% |
+| /rf/ | 11 810 | 1 847 756 | 0.77% |
+| /cg/ | 3 839 | 1 710 942 | 0.72% |
+| /pr/ | 6 148 | 1 644 039 | 0.69% |
+| /soc/ | 3 482 | 1 610 700 | 0.68% |
+| /mobi/ | 7 008 | 1 371 830 | 0.58% |
+| /fa/ | 4 728 | 1 277 915 | 0.54% |
+| /ai/ | 1 425 | 1 261 578 | 0.53% |
+| /psy/ | 7 675 | 1 090 808 | 0.46% |
+| /gg/ | 10 877 | 945 696 | 0.40% |
+| /mus/ | 2 371 | 904 269 | 0.38% |
+| /fiz/ | 3 848 | 870 213 | 0.36% |
+| /me/ | 5 362 | 766 780 | 0.32% |
+| /kpop/ | 1 534 | 762 841 | 0.32% |
+| /diy/ | 2 023 | 750 038 | 0.31% |
+| /re/ | 2 936 | 746 726 | 0.31% |
+| /ga/ | 1 722 | 685 465 | 0.29% |
+| /zog/ | 5 238 | 676 513 | 0.28% |
+| /biz/ | 9 598 | 675 874 | 0.28% |
+| /spc/ | 1 528 | 661 132 | 0.28% |
+| /mu/ | 5 930 | 653 122 | 0.27% |
+| /un/ | 3 899 | 643 204 | 0.27% |
+| /nvr/ | 1 157 | 614 035 | 0.26% |
+| /fet/ | 2 155 | 600 387 | 0.25% |
+| /hc/ | 1 867 | 596 127 | 0.25% |
+| /w/ | 1 651 | 592 150 | 0.25% |
+| /sn/ | 3 261 | 554 082 | 0.23% |
+| /e/ | 1 800 | 501 636 | 0.21% |
+| /hi/ | 2 648 | 474 529 | 0.20% |
+| /vape/ | 1 729 | 460 048 | 0.19% |
+| /mg/ | 1 700 | 446 173 | 0.19% |
+| /cc/ | 2 192 | 405 386 | 0.17% |
+| /ukr/ | 952 | 385 081 | 0.16% |
+| /fg/ | 1 493 | 371 782 | 0.16% |
+| /t/ | 1 820 | 359 538 | 0.15% |
+| /sci/ | 2 428 | 329 052 | 0.14% |
+| /h/ | 647 | 285 345 | 0.12% |
+| /ya/ | 367 | 198 662 | 0.08% |
+| /alco/ | 693 | 169 796 | 0.07% |
+| /se/ | 738 | 143 536 | 0.06% |
+| /nf/ | 136 | 79 811 | 0.03% |
+| /tr/ | 379 | 77 651 | 0.03% |
+| /ussr/ | 764 | 74 578 | 0.03% |
+| /old/ | 802 | 67 359 | 0.03% |
+| /ph/ | 1 142 | 61 314 | 0.03% |
+| /ho/ | 406 | 55 963 | 0.02% |
+| /fem/ | 568 | 42 193 | 0.02% |
+| /smo/ | 372 | 19 608 | 0.01% |
+| /cute/ | 162 | 14 430 | 0.01% |
+| /r34/ | 275 | 6 394 | 0.00% |
+| /hg/ | 69 | 4 833 | 0.00% |
+
+
+
+ |
+
+
diff --git a/STRUCTURE.md b/STRUCTURE.md
new file mode 100644
index 0000000000000000000000000000000000000000..003d8f995b56360bbaf1031afc1344a6d1c48390
--- /dev/null
+++ b/STRUCTURE.md
@@ -0,0 +1,367 @@
+## Как это хранится
+
+Формат — **Parquet**, один файл на доску: `<доска>.parquet` (64 файла), сжатие zstd. Одна строка = один
+тред, посты вложены (`posts: list`). Схема единая для всех досок и источников; неприменимые поля
+— `null`. `?` ниже = nullable.
+
+```
+thread (одна строка = один тред)
+├─ board string какая доска (раздел форума): b, po, sex…
+├─ thread_num int64 номер треда (обсуждения)
+├─ source string из какого архива взят тред
+├─ source_thread_id string? номер треда внутри того архива
+├─ true_board string? настоящая доска, если в архиве тред лежал под другим именем
+├─ gen string версия движка форума (от неё зависит набор полей)
+├─ gens list? все версии движка, если тред собран из нескольких архивов
+├─ sources list все архивы, из которых собран тред
+├─ subject string? заголовок треда
+├─ tags string? метка треда, если есть
+├─ sticky int64? закреплён ли вверху (число: больше — выше; пусто — обычный)
+├─ closed bool? тред закрыт, отвечать нельзя
+├─ endless bool? «вечный» тред, который не тонет
+├─ posts_count int64 сколько постов в треде
+├─ unique_posters int64 сколько разных людей писало
+├─ first_ts int64 время первого поста (секунды с 1970, формат unix)
+├─ last_ts int64 время последнего поста
+├─ perekat list? ссылки на продолжения треда (заполнился — сделали новый)
+├─ provenance string? техпометка, откуда взято (архив/файл)
+├─ extra string? запас: сюда падает всё редкое, чтобы ничего не потерять
+└─ posts list список постов треда:
+ ├─ num int64 номер поста
+ ├─ thread_num int64 номер треда, которому принадлежит пост
+ ├─ ordinal int64 какой это по счёту пост в треде (1, 2, 3…)
+ ├─ ts int64 время поста (unix)
+ ├─ ts_source string точность времени: unix — точное; dmy/verbose/iso — вычислено из даты
+ ├─ is_op bool это самый первый пост треда (создатель темы)
+ ├─ is_op_author bool? пост написан тем же человеком, что создал тред
+ ├─ deleted bool? пост был удалён, но мы его сохранили
+ ├─ banned int64? автора забанили за этот пост (1 — обычный бан, 2 — особый)
+ ├─ banned_src string? текст плашки о бане
+ ├─ sticky int64? пост закреплён (бывает редко)
+ ├─ closed bool? служебное, почти всегда пусто
+ ├─ endless bool? служебное, почти всегда пусто
+ ├─ views int64? сколько раз посмотрели (в новых версиях форума)
+ ├─ likes int64? лайки (только в самой новой версии)
+ ├─ dislikes int64? дизлайки (то же)
+ ├─ subject string? заголовок поста (обычно есть только у первого)
+ ├─ lasthit int64? время последней активности в треде
+ ├─ trip_type string? тип подписи автора (см. trip ниже)
+ ├─ hidden_num int64? внутренний технический номер
+ ├─ present_in list в каких архивах нашёлся ЭТОТ пост (нет в позднем = удалили)
+ ├─ sources list? из каких архивов собран пост
+ ├─ extra string? запас для редких данных поста
+ ├─ author struct кто написал:
+ │ ├─ anon bool аноним ли (почти всегда да)
+ │ ├─ name_text string? имя автора (по умолчанию «Аноним»)
+ │ ├─ poster_id string? код автора внутри треда: один код = один человек, но в другом
+ │ │ треде у него код другой. Есть не на всех досках. «Heaven» = саж
+ │ ├─ trip string? личная подпись: код, по которому автора узнают в разных тредах
+ │ ├─ trip_secure bool? подпись защищённая (!!) или простая (!)
+ │ ├─ email string? поле «email»; часто туда пишут слово sage
+ │ ├─ icon_kind string? значок у поста: flag — флаг страны, logo — картинка (напр. клуб)
+ │ ├─ icon_code string? код значка (например RU)
+ │ ├─ icon_title string? подпись значка
+ │ ├─ ua_os string? система автора (форум иногда её показывает)
+ │ ├─ ua_browser string? браузер автора
+ │ └─ is_sage bool саж: ответ, который специально НЕ поднимает тред наверх
+ ├─ comment struct текст поста:
+ │ ├─ text string весь текст одной строкой, без разметки
+ │ └─ segments list тот же текст по кусочкам — где ссылки, цитаты, оформление:
+ │ ├─ t string что за кусок: text — текст, br — перенос строки,
+ │ │ reply — ссылка-ответ на пост, link — обычная ссылка
+ │ ├─ s string? сам текст куска (для text и link)
+ │ ├─ f list? оформление: quote — цитата (зелёный), spoiler — скрытый, bold…
+ │ ├─ num int64? если ответ (reply): на какой пост
+ │ ├─ thread int64? если ответ: в каком треде тот пост
+ │ ├─ cross bool? ответ ведёт в другой тред
+ │ ├─ op bool? ответ на самый первый пост треда
+ │ └─ href string? если ссылка (link): адрес
+ ├─ reply_targets list на какие посты этот отвечает (те же ссылки-ответы, собранные
+ │ отдельным списком — удобно строить дерево «кто кому ответил»)
+ └─ media list прикреплённые файлы (только описание, самих файлов тут НЕТ):
+ ├─ orig string? как файл назывался у автора
+ ├─ server string? как файл назвали на сервере
+ ├─ kind string? тип: картинка, видео, gif, аудио, стикер…
+ ├─ md5 string? контрольная сумма
+ ├─ size_kb int64? размер в килобайтах
+ ├─ w, h int64? ширина и высота в пикселях
+ ├─ thumb string? адрес маленькой превьюшки
+ ├─ tn_w, tn_h int64? размеры превьюшки
+ ├─ duration_str string? длительность видео/аудио (текстом)
+ ├─ duration_secs int64? длительность в секундах
+ ├─ nsfw bool? файл помечен «под спойлером» (скрыт до клика)
+ ├─ path_makaba string? путь к файлу на движке makaba
+ ├─ path_arhivach_storage string? путь к файлу в архиве arhivach
+ ├─ url string? прямая ссылка на файл (для источника m2ch)
+ ├─ size_label string? размер и разрешение текстом (как показывал arhivach)
+ ├─ src list из каких архивов пришёл файл
+ ├─ sticker_pack string? если стикер — из какого набора
+ ├─ sticker_id string? id стикера
+ └─ extra string? запас для редких данных о файле
+```
+
+**Метаданные доски** (название, `bump_limit`, `file_types`, флаги `enable_*`) — свойства доски, не треда,
+поэтому лежат в key-value метаданных файла (один набор на `.parquet`), а не в каждой строке.
+
+---
+
+## Как устроен тред
+
+Тред — это стартовый пост (**OP**) плюс ответы на него.
+
+- **OP** помечен полем `is_op`. Отдельно есть `is_op_author` — это пост того же анона, что создал тред
+ (форум рисует на таких постах бейдж «OP»); не путать с самим OP.
+- **Бамп и `bump_limit`.** Любой ответ поднимает тред наверх списка. После `bump_limit` ответов
+ (обычно 500) тред перестаёт всплывать и постепенно тонет.
+- **Сажа** — ответ, который намеренно НЕ поднимает тред (≈1% постов). В данных виден тремя способами:
+ `is_sage=true`, `email="sage"` или, на ID-досках, `poster_id="Heaven"` вместо хеша.
+- **`sticky`** — закреп: это число-приоритет (чем больше, тем выше висит тред), а не «да/нет».
+- **`closed`** — тред закрыт для ответов. **`endless`** — «бесконечный» тред, посты в нём не вытесняются
+ по `bump_limit` (≈0.2% постов).
+- **Перекат.** Когда тред заполняется, создают следующий в серии (№N → №N+1). Связь — в поле `perekat`
+ и в кросс-тредовых ссылках внутри OP. Рядом живёт приём «дублирую из прошлого треда» — перепост
+ неотвеченного вопроса в новый тред.
+
+## Как помечен автор
+
+Почти все посты анонимны, но форум оставляет несколько способов пометить, кто пишет:
+
+- **`poster_id`** — хеш автора. **Генерится заново в каждом треде**, поэтому один человек в разных тредах
+ получает разные `poster_id`. Есть только на ID-досках. Сажа отображается как `poster_id="Heaven"`.
+- **Трипкод** `trip` — добровольная «подпись», стабильная между тредами и досками. `!!` — защищённый
+ (secure), `!` — обычный. Secure встречается примерно в 3 раза чаще обычного.
+- **Имя** `name_text` — на досках, где имена разрешены (по умолчанию «Аноним»).
+- **Флаг / иконка** — `icon_kind` (`flag` — страна, `logo` — например футбольный клуб), плюс `icon_code`
+ и `icon_title`. Флаги встречаются примерно в 6 раз чаще логотипов.
+- **UA-бейдж** — `ua_os` / `ua_browser`: ОС и браузер автора, которые на части досок форум показывает
+ (≈0.8% постов).
+
+Насколько заполнены эти поля — сильно зависит от доски. `poster_id` почти всегда есть на wm (97%),
+po (93%), nvr (89%), редко на t/cc, на остальных нет. Флаги — массово на po/nvr (~95%). Имена — всюду
+на rf (100%), ussr (95%), fem (92%), kpop (57%). Трипкоды везде редки (<8%).
+
+## Следы модерации
+
+- **`banned`** — автор поста забанен (1 — обычный бан, 2 — особый тип). ~0.01% постов. В теле при этом
+ бывает системная вставка «(Автор поста забанен. Помянем.)».
+- **`deleted`** — пост был удалён, но сохранён в архиве (~1.6% постов).
+- **`present_in`** — в каких снимках пост встретился. Если пост есть в раннем снимке и пропал из более
+ позднего и полного — значит, его удалили между снимками.
+
+## Эпохи движка и время
+
+Форум сменил несколько версий движка, и от версии зависит набор полей:
+**v0** (2011–13), **v1** (2013–22), **v2** (2017+, добавились просмотры), **v3** (2025+, добавились
+лайки/дизлайки и стикеры).
+
+Надёжное время поста — `ts` (unix-время). Часть постов пришла из архивов, где дата была лишь строкой;
+такие даты распознаны, а поле `ts_source` честно помечает происхождение: `unix` — точное время,
+`dmy` / `verbose` / `iso` — восстановленное из строки.
+
+---
+
+## Текст поста
+
+Текст не хранится как HTML. Он разобран в **упорядоченный список сегментов** (`comment.segments`) —
+порядок сохраняет и разметку, и адресность ответов. Плоский текст поста лежит рядом в `comment.text`.
+
+Сегменты бывают четырёх типов:
+
+- **`text`** — кусок текста со списком активных стилей `f`.
+- **`br`** — перенос строки.
+- **`reply`** — ссылка-ответ `>>N` на другой пост. Флаги: `op` (ответ на OP — это и есть бейдж «(OP)»),
+ `cross` (ответ в другой тред, обычно перекат).
+- **`link`** — внешняя ссылка.
+
+**Стили текста (`f`):** `quote` (зелёнка — самый частый), `spoiler`, `bold`, `italic`, `strike`,
+`underline`, `overline`, `sup`, `sub`, `code`. По частоте: quote ≫ spoiler ≫ bold ≫ italic ≫ остальные.
+`sup`/`sub` встречаются почти только на /sci/ (степени и формулы).
+
+Отдельно — **системные вставки** самого форума (в поле стиля как `cls:*`): отметка бана в теле поста,
+«Абу благословил» и подобное. Это не текст автора, а служебные элементы движка.
+
+## Медиа
+
+До 4 файлов на пост (изредка больше). Без файлов — 79% постов, один файл — 16%, дальше редко.
+Виды: `jpg`/`png`/`webp` (картинки), `webm`/`mp4` (видео, с длительностью), `gif`, `mp3`,
+`sticker` (телеграм-паки). Флаг `nsfw` — картинка под спойлером. **Самих файлов в датасете нет** —
+только метаданные: имя, `md5`, размер, разрешение.
+
+---
+
+## Как этим форматом реально пользуются
+
+Одни и те же элементы несут разный смысл в зависимости от применения — вот это и делает данные осмысленными.
+
+### Ответы `>>N`
+- **`>>` — не всегда «ответ по существу».** Это может быть ответ, согласие-цитирование («двачую >>N»)
+ или указатель («смотри → >>N»).
+- **Беседа — дерево, а не цепочка.** Один пост может отвечать многим (мультиреплай, до нескольких десятков
+ ссылок), одному посту могут отвечать многие. Ответ на OP своего треда — частый адресат (~2% постов).
+- **Позиция ссылки:** чаще всего в начале поста, дальше идёт текст ответа (89%); реже голая ссылка или
+ стопкой (5%), в середине фразы (5%), в конце (0.6%).
+- **До ~2015** структурных ссылок в движке не было — на пост отвечали просто текстом `>>N`. Поэтому граф
+ ответов надёжен в основном для 2015+ (там 74–81% постов ссылаются структурно).
+
+### Зелёнка `>` — один инструмент, много смыслов
+1. цитата собеседника и разбор по ней (часто 5–7 строк подряд);
+2. история от первого лица (`>be me`) — не цитата;
+3. пародия — автор сам сочиняет «реплику оппонента»;
+4. акцент на слове (`>"прибыль"`);
+5. передразнивание-анафора (`>а на западе / >а вот на западе`).
+
+Дословных цитат мало: точное совпадение зелёнки с исходным постом ~1% — цитируют по смыслу, перефразом.
+**Quote-only** (~1% постов): ссылка и зелёнка вообще без своего текста — переспрос или мок без слов.
+
+### Двойная зелёнка `>>текст`
+`>>` перед НЕ-числом — это не ссылка, а усиленная/вложенная цитата (мок-список вроде
+«`>БЕНЗИН ПО 150 / >>САНКЦИИ`»).
+
+### `@`-комикс
+Строки, разделённые одиночным `@` на своей строке (`СТРОКА / @ / СТРОКА`), — формат шутки или истории
+**одного** автора. Это монолог, а не диалог.
+
+### Оформление как приём
+- **`strike`** (зачёркивание) — подмена слова: зачёркнуто «мнимое», рядом истинное.
+- **`spoiler`** — сказанное вполголоса (сарказм, признание в сторону), а не сокрытие сюжета.
+- Много стилей на одно слово — абсурдное усиление.
+
+### Формы поста
+один-ответ · мультиреплай · quote-only · линк-дамп (пост = набор ссылок) · медиа-реакция (картинка
+вместо слов, «пикрел») · `@`-комикс · OP-шапка дженерала (стена ссылок) · бамп/сажа (служебный подъём
+или тишина).
+
+---
+
+## Чего в движке почти нет
+
+Несколько возможностей движка формально существуют, но в данных практически не встречаются:
+кубики `dice` — по факту не используются; кросс-бордовые ссылки `>>>/доска/` — единичны (это скорее
+идиома 4chan); теги тредов `tags` — почти нет; oekaki (рисунок в браузере) отдельно не помечается и
+идёт обычной картинкой. Оценки постов (`likes`/`dislikes`, только v3) есть у ~0.15% постов.
+
+## Источники
+
+Один и тот же тред мог попасть в несколько архивов — тогда посты объединяются, берётся самая полная
+версия каждого, а из какого снимка собран пост, видно в его полях источников.
+
+
+---
+
+## Статистика
+
+**Всего:** 1 455 924 тредов · 238 479 526 постов
+
+
+
+
+
+Доски — вклад в общий объём постов
+
+
+| Доска | Название | Тредов | Постов | Доля |
+| /b/ | b | 872 569 | 114 896 809 | 48.18% |
+| /po/ | po | 225 710 | 35 024 439 | 14.69% |
+| /fag/ | fag | 48 563 | 24 337 456 | 10.21% |
+| /sex/ | sex | 35 557 | 6 611 284 | 2.77% |
+| /news/ | news | 69 500 | 5 031 205 | 2.11% |
+| /dev/ | dev | 18 484 | 4 310 205 | 1.81% |
+| /mov/ | mov | 8 446 | 3 309 604 | 1.39% |
+| /ftb/ | ftb | 5 324 | 2 574 113 | 1.08% |
+| /wm/ | wm | 4 348 | 2 494 544 | 1.05% |
+| /wrk/ | wrk | 5 575 | 2 181 845 | 0.91% |
+| /sp/ | sp | 3 997 | 2 173 473 | 0.91% |
+| /tv/ | tv | 5 109 | 2 074 243 | 0.87% |
+| /au/ | au | 6 600 | 1 988 229 | 0.83% |
+| /s/ | s | 8 788 | 1 923 157 | 0.81% |
+| /rf/ | rf | 11 810 | 1 847 756 | 0.77% |
+| /cg/ | cg | 3 839 | 1 710 942 | 0.72% |
+| /pr/ | pr | 6 148 | 1 644 039 | 0.69% |
+| /soc/ | soc | 3 482 | 1 610 700 | 0.68% |
+| /mobi/ | mobi | 7 008 | 1 371 830 | 0.58% |
+| /fa/ | fa | 4 728 | 1 277 915 | 0.54% |
+| /ai/ | ai | 1 425 | 1 261 578 | 0.53% |
+| /psy/ | psy | 7 675 | 1 090 808 | 0.46% |
+| /gg/ | gg | 10 877 | 945 696 | 0.40% |
+| /mus/ | mus | 2 371 | 904 269 | 0.38% |
+| /fiz/ | fiz | 3 848 | 870 213 | 0.36% |
+| /me/ | me | 5 362 | 766 780 | 0.32% |
+| /kpop/ | kpop | 1 534 | 762 841 | 0.32% |
+| /diy/ | diy | 2 023 | 750 038 | 0.31% |
+| /re/ | re | 2 936 | 746 726 | 0.31% |
+| /ga/ | ga | 1 722 | 685 465 | 0.29% |
+| /zog/ | zog | 5 238 | 676 513 | 0.28% |
+| /biz/ | biz | 9 598 | 675 874 | 0.28% |
+| /spc/ | spc | 1 528 | 661 132 | 0.28% |
+| /mu/ | mu | 5 930 | 653 122 | 0.27% |
+| /un/ | un | 3 899 | 643 204 | 0.27% |
+| /nvr/ | nvr | 1 157 | 614 035 | 0.26% |
+| /fet/ | fet | 2 155 | 600 387 | 0.25% |
+| /hc/ | hc | 1 867 | 596 127 | 0.25% |
+| /w/ | w | 1 651 | 592 150 | 0.25% |
+| /sn/ | sn | 3 261 | 554 082 | 0.23% |
+| /e/ | e | 1 800 | 501 636 | 0.21% |
+| /hi/ | hi | 2 648 | 474 529 | 0.20% |
+| /vape/ | vape | 1 729 | 460 048 | 0.19% |
+| /mg/ | mg | 1 700 | 446 173 | 0.19% |
+| /cc/ | cc | 2 192 | 405 386 | 0.17% |
+| /ukr/ | ukr | 952 | 385 081 | 0.16% |
+| /fg/ | fg | 1 493 | 371 782 | 0.16% |
+| /t/ | t | 1 820 | 359 538 | 0.15% |
+| /sci/ | sci | 2 428 | 329 052 | 0.14% |
+| /h/ | h | 647 | 285 345 | 0.12% |
+| /ya/ | ya | 367 | 198 662 | 0.08% |
+| /alco/ | alco | 693 | 169 796 | 0.07% |
+| /se/ | se | 738 | 143 536 | 0.06% |
+| /nf/ | nf | 136 | 79 811 | 0.03% |
+| /tr/ | tr | 379 | 77 651 | 0.03% |
+| /ussr/ | ussr | 764 | 74 578 | 0.03% |
+| /old/ | old | 802 | 67 359 | 0.03% |
+| /ph/ | ph | 1 142 | 61 314 | 0.03% |
+| /ho/ | ho | 406 | 55 963 | 0.02% |
+| /fem/ | fem | 568 | 42 193 | 0.02% |
+| /smo/ | smo | 372 | 19 608 | 0.01% |
+| /cute/ | cute | 162 | 14 430 | 0.01% |
+| /r34/ | r34 | 275 | 6 394 | 0.00% |
+| /hg/ | hg | 69 | 4 833 | 0.00% |
+
+
+ |
+ |
+
+
+Источники
+
+
+| Источник | Тредов | Постов |
+| makaba-arch | 1 026 220 | 139 460 108 |
+| arhivach | 422 068 | 98 267 142 |
+| makaba (current) | 7 628 | 748 654 |
+| m2ch | 8 | 3 622 |
+
+
+ |
+
+
+
+```
+year threads posts
+2009 7 423
+2010 8 986
+2011 51 6 032
+2012 6 892 258 502 ▎
+2013 6 791 709 856 ▊
+2014 10 233 3 294 231 ███▎
+2015 26 225 8 719 530 ████████▌
+2016 308 875 34 851 031 ██████████████████████████████████
+2017 331 473 32 460 000 ███████████████████████████████▋
+2018 125 250 27 059 279 ██████████████████████████▍
+2019 133 461 28 135 033 ███████████████████████████▌
+2020 154 296 33 463 673 ████████████████████████████████▋
+2021 141 146 30 380 420 █████████████████████████████▋
+2022 47 714 12 842 626 ████████████▌
+2023 39 074 7 333 804 ███████▏
+2024 46 586 7 854 924 ███████▋
+2025 51 144 7 524 423 ███████▍
+2026 26 692 3 584 188 ███▌
+```
\ No newline at end of file
diff --git a/data/ai.parquet b/data/ai.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..d9ef965b1ca49ff10865feb31cca5fa7584414db
--- /dev/null
+++ b/data/ai.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:51c39183aac75dbdf8fb6bbc47952329312c5c5d468e15ed98ffe5ab38cb058f
+size 240777529
diff --git a/data/alco.parquet b/data/alco.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..d18ef8357a4c0bc99ef9d89e1637a2d485fd391e
--- /dev/null
+++ b/data/alco.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:13ab1a90f4be006dcc6996606a9521a8b1d6e4c32c51fb802f994a2d237324ec
+size 33453973
diff --git a/data/au.parquet b/data/au.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..36f9f7f0742b6349a6382e10cbce1da1c2aac841
--- /dev/null
+++ b/data/au.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:9c37792db1215c396d66f075ebd386ff7e1243eb53a8b991ed0f5350e9c10321
+size 401202905
diff --git a/data/b.parquet b/data/b.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..697173eea13078e4ec3f81293b256f7897281a9f
--- /dev/null
+++ b/data/b.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:5025330eb2ee21e9efe15485e11bc4565ef15790490799b3f0db322cd0ecbbd5
+size 17361710479
diff --git a/data/biz.parquet b/data/biz.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..92e34a97c3da498afa13689ad95298389d6c884e
--- /dev/null
+++ b/data/biz.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:a4fe8fde34c6cc091e7982cd61465ff7701ff76dee5aae4ac11f9fe79dd6a6ff
+size 159879178
diff --git a/data/cc.parquet b/data/cc.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..5ea90f7e859de3fb9f5a9fc150b704e7206841c1
--- /dev/null
+++ b/data/cc.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:5e2d30c53ea78f4c7a2ae91372423c8577e92aa0ff53ad7619a6586160b7e177
+size 75640854
diff --git a/data/cg.parquet b/data/cg.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..f0e3a8e7bba2de932e074d44db185061461ced3f
--- /dev/null
+++ b/data/cg.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:fab27ce8207b4f40d25e80ccde7be120e4f830e410ecd877dba99b8b36d4716d
+size 334198539
diff --git a/data/cute.parquet b/data/cute.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..3a64fe186c99e9fcce7b7d478db550035b96a867
--- /dev/null
+++ b/data/cute.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:6d6c684ae5f4f17ddf9e822b5d0334351e96d06e1c453be304e511b516a835ec
+size 2524756
diff --git a/data/dev.parquet b/data/dev.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..b02bb0a07a9b230ed7d89ac585af2521121c2f2f
--- /dev/null
+++ b/data/dev.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:92be612afdfb85e49d1cc6e30076f14583180f962281acdb9b68fe8fc698a8ad
+size 884027635
diff --git a/data/diy.parquet b/data/diy.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..b81216604b00ee9c4df153e21b01d06cc4887e61
--- /dev/null
+++ b/data/diy.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:ee84c5d63ef28fdf666cd5336055696769ec7de394bada2b61bd8efcdd04b4a5
+size 172333866
diff --git a/data/e.parquet b/data/e.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..847ce90dd7da1860d18e491f20d75f93500cc7f9
--- /dev/null
+++ b/data/e.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:efca57538ad2f8ab5b1b9f739324adbba6bcac2563634724e66f57f887ff5030
+size 68622473
diff --git a/data/fa.parquet b/data/fa.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..0ba2e2f8cc6196c1fe1690733fbb8616f51d32f0
--- /dev/null
+++ b/data/fa.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:83748e4e733eaae4a84bc666a9eb3f991d4876a575d58f9c0123745c3e82bade
+size 229088988
diff --git a/data/fag.parquet b/data/fag.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..efd4fcccc06523d93582f087965d3bab07cb2d3e
--- /dev/null
+++ b/data/fag.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:4a2165908f3c104eeba136a4130ced1b5b464837174247eb95a606c62e117ad1
+size 3298170223
diff --git a/data/fem.parquet b/data/fem.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..8d7a85b5f315adcd84d80c46804c8abe66373efe
--- /dev/null
+++ b/data/fem.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:05bf6281ae25bf364e7f2d8f5ae843cf3aabf784bcd2875bdbf5bd473f4ec5a9
+size 13833444
diff --git a/data/fet.parquet b/data/fet.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..e188bdb40c9a8a0c9f338c585a764c7e4b5ef9f3
--- /dev/null
+++ b/data/fet.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:ea149205e2ee37014e3a3b2bf05609ce3ac4adf55d96f2079debe2b084ce8f0f
+size 105654851
diff --git a/data/fg.parquet b/data/fg.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..caab246d8448baf5f0f1d1e8bd844e87c550a36e
--- /dev/null
+++ b/data/fg.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:c73e250c1976d1b3b3eea69acd355884eaf1ff2ac924be8442eab70655235917
+size 71506260
diff --git a/data/fiz.parquet b/data/fiz.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..ef21dcba55afa32d342eb1fed195bdc7fdd16ae2
--- /dev/null
+++ b/data/fiz.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:6af0cba743da470aa203f4f8b078de51892eba35a6db198bff42cdda58356c11
+size 191092433
diff --git a/data/ftb.parquet b/data/ftb.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..9ba7a5b91702938f80f723b4ae3bfef2c3852a51
--- /dev/null
+++ b/data/ftb.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:499b954d3799ee3fb7e7a39a652800c1dc28fa06a55a57640baeaddbedb0495f
+size 321587820
diff --git a/data/ga.parquet b/data/ga.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..45eeca9217c8eee406a2b44ff26d596e936163a0
--- /dev/null
+++ b/data/ga.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:07b95911a6bf83418e756e0ba3a6e50ba0b089faeb318fe2e0c7393c596d9317
+size 99982816
diff --git a/data/gg.parquet b/data/gg.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..e41166804a9647331095311273fff40460aceea0
--- /dev/null
+++ b/data/gg.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:3f8ea8bd888ba3aaff244f1b6b5d6d7640998129306257e3d06476cf6998766e
+size 111151311
diff --git a/data/h.parquet b/data/h.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..7b2e435dc106b0e10a19c0748ebaf408c0fb2007
--- /dev/null
+++ b/data/h.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:1d0bf4828f85da06fbd2ab015a54febae1da5f0c47835d17712e4bd36e3ad226
+size 45917295
diff --git a/data/hc.parquet b/data/hc.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..8b1e055ac04334e9d3ffa5f2d17379b171efd2d9
--- /dev/null
+++ b/data/hc.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:8fb26c3b79479cd916b3de374d049d13adf964de150d4d9b73352c904b0eeffc
+size 132671495
diff --git a/data/hg.parquet b/data/hg.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..3a50dc43b3c8248dd8d41ca35ac445fd63c8c4c1
--- /dev/null
+++ b/data/hg.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:b55a806ae0b414e16b990e19620ec23779aa8f5aa5628416e9d388aa9d3c4316
+size 640084
diff --git a/data/hi.parquet b/data/hi.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..030c8edad59508219bd025dca135193910dfa486
--- /dev/null
+++ b/data/hi.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:5629c7c8093fb38ea0aae32e5c7a8cc0db9493fa3dbff99f112af98e48548102
+size 142793905
diff --git a/data/ho.parquet b/data/ho.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..c4d3ead145a800955dfd8096ef282c96da79f2f7
--- /dev/null
+++ b/data/ho.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:f691194b1abf9d81a7c75584d64c46335b034fa97a9de99c6eb570b7abff13f2
+size 10048111
diff --git a/data/kpop.parquet b/data/kpop.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..dc81125e00660fb4a008b977fbc8f0826d702c6e
--- /dev/null
+++ b/data/kpop.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:60431bdf83560d8286fd01954d25a8e0d71bb38848ece70aec35964278257959
+size 117601871
diff --git a/data/me.parquet b/data/me.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..edb28f21bd975ee74bac42cb442cbdb11354f7f6
--- /dev/null
+++ b/data/me.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:178ab6ef730e3974a1bc97b0498663ba053503cb4bbb38394131bb2755f887cd
+size 199063119
diff --git a/data/mg.parquet b/data/mg.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..6f2d680140af97a92b1c025285013b0c9e1091cc
--- /dev/null
+++ b/data/mg.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:76b8fabf990381f0dbb354bf5064507a0f9617c0e9c39aaeae8b1e9cb22a1cb4
+size 143714318
diff --git a/data/mobi.parquet b/data/mobi.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..4d8abbc7ef0c5b6edea7e31eb4af2db08ce9a6ac
--- /dev/null
+++ b/data/mobi.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:afcf82e69881727eced7867a77f894a9d78d4356ef99b3217dcb603a6a3b3ba6
+size 238706997
diff --git a/data/mov.parquet b/data/mov.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..df7920d8bec4173a577921ea01ca0921c4dc9352
--- /dev/null
+++ b/data/mov.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:644ff58d3914bd94eb4794b7138bfc9256d041d2d614cd3952d66ec19e5e6183
+size 646165767
diff --git a/data/mu.parquet b/data/mu.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..2a9135c4de7628ee12ea44293b53f0f1f4a1fdd9
--- /dev/null
+++ b/data/mu.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:d9d959c883f7b7484174fce57ef49ed02f124748d27174a776bbb755517412b5
+size 122639130
diff --git a/data/mus.parquet b/data/mus.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..08cf8a3e60507d1b4b6425c3db46dd3645667228
--- /dev/null
+++ b/data/mus.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:da4301e9590c1d01f3cef04d80812f4644a21af2cb58d972871468e37058f01c
+size 185449769
diff --git a/data/news.parquet b/data/news.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..0116ea46923c09a8c3872bfa731e498e33b733f8
--- /dev/null
+++ b/data/news.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:c3a710ea5daf794f971b11d55b44fa0890e54a8d02e1a20062fb54df9a80664d
+size 998356589
diff --git a/data/nf.parquet b/data/nf.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..fe3ce83c37b11e62e0e8fa3a84030bb08e687a19
--- /dev/null
+++ b/data/nf.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:fd10996e6b72c624560b66c116404a2eb892ae4d565110bfae3987025181cf0c
+size 14340671
diff --git a/data/nvr.parquet b/data/nvr.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..36c9606c16ed0bcfe169009667d160c88a2c2561
--- /dev/null
+++ b/data/nvr.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:f4db06feae75f595193ad15397d1b100862eeeded9b08895df2c92929ebff984
+size 111615334
diff --git a/data/old.parquet b/data/old.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..a04811dedc726d01500a047d9e7c67fdbc27d327
--- /dev/null
+++ b/data/old.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:588e82b6196263341e10c4d984176ebe3e916c6815f1f0a053a56cfb57beb9db
+size 21510100
diff --git a/data/ph.parquet b/data/ph.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..c9b2f9570a978fc62684b53d9127c55d1961aa69
--- /dev/null
+++ b/data/ph.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:caaf8b967a13bcfd8124fea8d6aa4a1849db846a401c8621e2b438bdfc161b1f
+size 28020094
diff --git a/data/po.parquet b/data/po.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..c7333f319ef49bbb36714fc2e242b2294378558d
--- /dev/null
+++ b/data/po.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:97ce066f67879477ca165d31a0a9d0520f92a5e7d2cfa4130de2f920da4b9832
+size 7311924694
diff --git a/data/pr.parquet b/data/pr.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..6b33a17c74332e9bb43328ee76e6164fa5a5c22f
--- /dev/null
+++ b/data/pr.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:727497c20b989da2e440e3b8a03ea3389b4d7be186039101c4c8fb8f428d64b7
+size 386451473
diff --git a/data/psy.parquet b/data/psy.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..83daa77e67dc5975d98f0cc93da7417cf11a32a2
--- /dev/null
+++ b/data/psy.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:ac8c3c904a98b10a264afe78ebc2367b15aa719fe828252fa1949e4699a05d1e
+size 316999161
diff --git a/data/r34.parquet b/data/r34.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..c1d8bbbcb9fc4b47e732b7e9ca9772db9911b21e
--- /dev/null
+++ b/data/r34.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:00ba468a48777e899e4da75aaaff25022d3f3c5fc82bd153073f168990930611
+size 1086234
diff --git a/data/re.parquet b/data/re.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..d1a6dc82305b7fa1820d4f04288345990adcd837
--- /dev/null
+++ b/data/re.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:e58482b8ea83c057d28c0a21284a2fc7530fd64232e2c3b1582e3812d3df49c3
+size 234575588
diff --git a/data/rf.parquet b/data/rf.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..e8d57afd091c65c1b5597d5722b73d55694f5e15
--- /dev/null
+++ b/data/rf.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:90adedbbdaa64b02a9ccf89b11f4c3d054f5427900d4bb700fb91254a8d3cdd0
+size 332178886
diff --git a/data/s.parquet b/data/s.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..9e4cd9680ab3af34f0e43cdc8b9ab434f49c79e3
--- /dev/null
+++ b/data/s.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:27b86fd55e7c6d73b0ce5384a9d47aa1b47752b556ca4275549b3f3a496eea5b
+size 382221160
diff --git a/data/sci.parquet b/data/sci.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..36699d42a2407d3f93b2e2b1a8b681d9dd75be2b
--- /dev/null
+++ b/data/sci.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:2ba156552175343b4a93da375172cbdf41f51b5ab5ec3f29c096ba1017c79d0d
+size 97482637
diff --git a/data/se.parquet b/data/se.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..58d30e840ee5a216536cb5953d5b2afd862f8014
--- /dev/null
+++ b/data/se.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:7ec32e29c20fc1f6d1d4fced28ba64a219895913cbefd05bbfdd57227ff0f232
+size 57119679
diff --git a/data/sex.parquet b/data/sex.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..f41a30d2e5adf8e1519bed23118fd313cdcb34e6
--- /dev/null
+++ b/data/sex.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:b62a1856a7cfd0571cd683bbe32028c8c5f783e5845e61159321e5f1db6484ca
+size 1580794549
diff --git a/data/smo.parquet b/data/smo.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..315ecad9e7863b412dede9f8acc5d0294c5e5c77
--- /dev/null
+++ b/data/smo.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:1e3435b0812ef613d63113e0ca81b471329942ee53038630f1b7b1ad8ba117f2
+size 4298247
diff --git a/data/sn.parquet b/data/sn.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..d19a0d1319259f6182ff0ee8cf6118d1cb36bd94
--- /dev/null
+++ b/data/sn.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:97f04cd95ee1d774318221478918acdcd4d102ce717b3ac9ceb2cd24cbc0c6dd
+size 180775182
diff --git a/data/soc.parquet b/data/soc.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..a430a0b045450582f59892755c662d7e7f9512e6
--- /dev/null
+++ b/data/soc.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:1833421dfe6c378779e6bbacf2e19e488dfd4fb95f647b7c489cc34e4fa57859
+size 226851707
diff --git a/data/sp.parquet b/data/sp.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..31f07e23941cf94d8757aa16a977f11c4c8fad36
--- /dev/null
+++ b/data/sp.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:d60ec9a8f376f38b9e461d7d0cc915c2af20febe13054c3cf116d454b7004951
+size 295283989
diff --git a/data/spc.parquet b/data/spc.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..cb9139b654af7d08152c9908388b262d914551ca
--- /dev/null
+++ b/data/spc.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:2f91e15a3b5adc9f737a89bff1448ef0c2ec84aa0ee9dc6142e0119a4130f941
+size 152798126
diff --git a/data/t.parquet b/data/t.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..193a9fefef162e26201127dfac5fa43dd5a290a1
--- /dev/null
+++ b/data/t.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:e9f1df848bfc95dc2d6db9b08bcf7d0febbabdf08b73e6c29167911a71d0b918
+size 78729605
diff --git a/data/tr.parquet b/data/tr.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..cf31c469d2b41b5ab74291a413c1bc74e379beb1
--- /dev/null
+++ b/data/tr.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:01f612f5dc77158edfb6b4edc522720317cb2f237d18321e308a4f09fd06322b
+size 18944266
diff --git a/data/tv.parquet b/data/tv.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..65756c0aed5d6c315c96cb788490c9daace08ad6
--- /dev/null
+++ b/data/tv.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:360277cb9d72a445c3930c418d01f71a9e2f662886f1c009edc8222e2053990d
+size 365734280
diff --git a/data/ukr.parquet b/data/ukr.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..4f60a21644850c3794143b0447d3859420f7c02d
--- /dev/null
+++ b/data/ukr.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:24dbed398146a7e7a1435ed8ffb9fe9fd4e67ffda00c3630c33a3c720c1f7bce
+size 84143225
diff --git a/data/un.parquet b/data/un.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..45f756f61909b6263f54ae4ad791f92496398346
--- /dev/null
+++ b/data/un.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:75a5752bdcfe8b30058f0d4d07a856c9db9cfa066b22e71ef5a61689ca319820
+size 124473438
diff --git a/data/ussr.parquet b/data/ussr.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..fcb59e862ba6820a56de944ce8ce71022f8e6f2f
--- /dev/null
+++ b/data/ussr.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:1ce261dc0c28c247835c8e7adb36650ae9bc690ea39eab750bef09ebdddb00e8
+size 27597771
diff --git a/data/vape.parquet b/data/vape.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..20d40b2ca458a53c3e6dde6cadf49d4f5085a454
--- /dev/null
+++ b/data/vape.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:6f1edc7e40edb065aee8d28b69b31ca234b8f688ac204376d01556a262c5b0c4
+size 85357899
diff --git a/data/w.parquet b/data/w.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..c5cbf94d0f9ee0575fa3c8e341fa837e2c88e3df
--- /dev/null
+++ b/data/w.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:12d48b1576a7aa9a0c27aee0edd39e545d58f47958978d977709c2127a7efa3d
+size 127527612
diff --git a/data/wm.parquet b/data/wm.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..304ff72f7df92db96861228fe4880bdeacd1b76b
--- /dev/null
+++ b/data/wm.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:2e92bc2a4e93ea5fe11f6575265498fb2c6edd63c7b650a43e73952fdbbb60db
+size 571274748
diff --git a/data/wrk.parquet b/data/wrk.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..24a3c5e474d3ac3b4e5c7566977c1ea6684b0af8
--- /dev/null
+++ b/data/wrk.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:a530c069e0ff06494db6dc251a890320a1802ed99f16aa3605f0b3b9a82c5a00
+size 427259300
diff --git a/data/ya.parquet b/data/ya.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..a738641720c4b228cf963345e1e3284a46d8b1e3
--- /dev/null
+++ b/data/ya.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:f1e03dff0627ebb65bdd8cd159e452d7f1e661b2a235b94417021d9386a93ba7
+size 29464933
diff --git a/data/zog.parquet b/data/zog.parquet
new file mode 100644
index 0000000000000000000000000000000000000000..d373c9c0d31f31c790a16a08288402f7e0919a90
--- /dev/null
+++ b/data/zog.parquet
@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:3069b8d78d20dc5803628e7468f85331867ba346c0cffd98ffabad541b01c528
+size 235670187