## Как это хранится Формат — **Parquet**, один файл на доску: `<доска>.parquet` (64 файла), сжатие zstd. Одна строка = один тред, посты вложены (`posts: list`). Схема единая для всех досок и источников; неприменимые поля — `null`. `?` ниже = nullable. ``` thread (одна строка = один тред) ├─ board string какая доска (раздел форума): b, po, sex… ├─ thread_num int64 номер треда (обсуждения) ├─ source string из какого архива взят тред ├─ source_thread_id string? номер треда внутри того архива ├─ true_board string? настоящая доска, если в архиве тред лежал под другим именем ├─ gen string версия движка форума (от неё зависит набор полей) ├─ gens list? все версии движка, если тред собран из нескольких архивов ├─ sources list все архивы, из которых собран тред ├─ subject string? заголовок треда ├─ tags string? метка треда, если есть ├─ sticky int64? закреплён ли вверху (число: больше — выше; пусто — обычный) ├─ closed bool? тред закрыт, отвечать нельзя ├─ endless bool? «вечный» тред, который не тонет ├─ posts_count int64 сколько постов в треде ├─ unique_posters int64 сколько разных людей писало ├─ first_ts int64 время первого поста (секунды с 1970, формат unix) ├─ last_ts int64 время последнего поста ├─ perekat list? ссылки на продолжения треда (заполнился — сделали новый) ├─ provenance string? техпометка, откуда взято (архив/файл) ├─ extra string? запас: сюда падает всё редкое, чтобы ничего не потерять └─ posts list список постов треда: ├─ num int64 номер поста ├─ thread_num int64 номер треда, которому принадлежит пост ├─ ordinal int64 какой это по счёту пост в треде (1, 2, 3…) ├─ ts int64 время поста (unix) ├─ ts_source string точность времени: unix — точное; dmy/verbose/iso — вычислено из даты ├─ is_op bool это самый первый пост треда (создатель темы) ├─ is_op_author bool? пост написан тем же человеком, что создал тред ├─ deleted bool? пост был удалён, но мы его сохранили ├─ banned int64? автора забанили за этот пост (1 — обычный бан, 2 — особый) ├─ banned_src string? текст плашки о бане ├─ sticky int64? пост закреплён (бывает редко) ├─ closed bool? служебное, почти всегда пусто ├─ endless bool? служебное, почти всегда пусто ├─ views int64? сколько раз посмотрели (в новых версиях форума) ├─ likes int64? лайки (только в самой новой версии) ├─ dislikes int64? дизлайки (то же) ├─ subject string? заголовок поста (обычно есть только у первого) ├─ lasthit int64? время последней активности в треде ├─ trip_type string? тип подписи автора (см. trip ниже) ├─ hidden_num int64? внутренний технический номер ├─ present_in list в каких архивах нашёлся ЭТОТ пост (нет в позднем = удалили) ├─ sources list? из каких архивов собран пост ├─ extra string? запас для редких данных поста ├─ author struct кто написал: │ ├─ anon bool аноним ли (почти всегда да) │ ├─ name_text string? имя автора (по умолчанию «Аноним») │ ├─ poster_id string? код автора внутри треда: один код = один человек, но в другом │ │ треде у него код другой. Есть не на всех досках. «Heaven» = саж │ ├─ trip string? личная подпись: код, по которому автора узнают в разных тредах │ ├─ trip_secure bool? подпись защищённая (!!) или простая (!) │ ├─ email string? поле «email»; часто туда пишут слово sage │ ├─ icon_kind string? значок у поста: flag — флаг страны, logo — картинка (напр. клуб) │ ├─ icon_code string? код значка (например RU) │ ├─ icon_title string? подпись значка │ ├─ ua_os string? система автора (форум иногда её показывает) │ ├─ ua_browser string? браузер автора │ └─ is_sage bool саж: ответ, который специально НЕ поднимает тред наверх ├─ comment struct текст поста: │ ├─ text string весь текст одной строкой, без разметки │ └─ segments list тот же текст по кусочкам — где ссылки, цитаты, оформление: │ ├─ t string что за кусок: text — текст, br — перенос строки, │ │ reply — ссылка-ответ на пост, link — обычная ссылка │ ├─ s string? сам текст куска (для text и link) │ ├─ f list? оформление: quote — цитата (зелёный), spoiler — скрытый, bold… │ ├─ num int64? если ответ (reply): на какой пост │ ├─ thread int64? если ответ: в каком треде тот пост │ ├─ cross bool? ответ ведёт в другой тред │ ├─ op bool? ответ на самый первый пост треда │ └─ href string? если ссылка (link): адрес ├─ reply_targets list на какие посты этот отвечает (те же ссылки-ответы, собранные │ отдельным списком — удобно строить дерево «кто кому ответил») └─ media list прикреплённые файлы (только описание, самих файлов тут НЕТ): ├─ orig string? как файл назывался у автора ├─ server string? как файл назвали на сервере ├─ kind string? тип: картинка, видео, gif, аудио, стикер… ├─ md5 string? контрольная сумма ├─ size_kb int64? размер в килобайтах ├─ w, h int64? ширина и высота в пикселях ├─ thumb string? адрес маленькой превьюшки ├─ tn_w, tn_h int64? размеры превьюшки ├─ duration_str string? длительность видео/аудио (текстом) ├─ duration_secs int64? длительность в секундах ├─ nsfw bool? файл помечен «под спойлером» (скрыт до клика) ├─ path_makaba string? путь к файлу на движке makaba ├─ path_arhivach_storage string? путь к файлу в архиве arhivach ├─ url string? прямая ссылка на файл (для источника m2ch) ├─ size_label string? размер и разрешение текстом (как показывал arhivach) ├─ src list из каких архивов пришёл файл ├─ sticker_pack string? если стикер — из какого набора ├─ sticker_id string? id стикера └─ extra string? запас для редких данных о файле ``` **Метаданные доски** (название, `bump_limit`, `file_types`, флаги `enable_*`) — свойства доски, не треда, поэтому лежат в key-value метаданных файла (один набор на `.parquet`), а не в каждой строке. --- ## Как устроен тред Тред — это стартовый пост (**OP**) плюс ответы на него. - **OP** помечен полем `is_op`. Отдельно есть `is_op_author` — это пост того же анона, что создал тред (форум рисует на таких постах бейдж «OP»); не путать с самим OP. - **Бамп и `bump_limit`.** Любой ответ поднимает тред наверх списка. После `bump_limit` ответов (обычно 500) тред перестаёт всплывать и постепенно тонет. - **Сажа** — ответ, который намеренно НЕ поднимает тред (≈1% постов). В данных виден тремя способами: `is_sage=true`, `email="sage"` или, на ID-досках, `poster_id="Heaven"` вместо хеша. - **`sticky`** — закреп: это число-приоритет (чем больше, тем выше висит тред), а не «да/нет». - **`closed`** — тред закрыт для ответов. **`endless`** — «бесконечный» тред, посты в нём не вытесняются по `bump_limit` (≈0.2% постов). - **Перекат.** Когда тред заполняется, создают следующий в серии (№N → №N+1). Связь — в поле `perekat` и в кросс-тредовых ссылках внутри OP. Рядом живёт приём «дублирую из прошлого треда» — перепост неотвеченного вопроса в новый тред. ## Как помечен автор Почти все посты анонимны, но форум оставляет несколько способов пометить, кто пишет: - **`poster_id`** — хеш автора. **Генерится заново в каждом треде**, поэтому один человек в разных тредах получает разные `poster_id`. Есть только на ID-досках. Сажа отображается как `poster_id="Heaven"`. - **Трипкод** `trip` — добровольная «подпись», стабильная между тредами и досками. `!!` — защищённый (secure), `!` — обычный. Secure встречается примерно в 3 раза чаще обычного. - **Имя** `name_text` — на досках, где имена разрешены (по умолчанию «Аноним»). - **Флаг / иконка** — `icon_kind` (`flag` — страна, `logo` — например футбольный клуб), плюс `icon_code` и `icon_title`. Флаги встречаются примерно в 6 раз чаще логотипов. - **UA-бейдж** — `ua_os` / `ua_browser`: ОС и браузер автора, которые на части досок форум показывает (≈0.8% постов). Насколько заполнены эти поля — сильно зависит от доски. `poster_id` почти всегда есть на wm (97%), po (93%), nvr (89%), редко на t/cc, на остальных нет. Флаги — массово на po/nvr (~95%). Имена — всюду на rf (100%), ussr (95%), fem (92%), kpop (57%). Трипкоды везде редки (<8%). ## Следы модерации - **`banned`** — автор поста забанен (1 — обычный бан, 2 — особый тип). ~0.01% постов. В теле при этом бывает системная вставка «(Автор поста забанен. Помянем.)». - **`deleted`** — пост был удалён, но сохранён в архиве (~1.6% постов). - **`present_in`** — в каких снимках пост встретился. Если пост есть в раннем снимке и пропал из более позднего и полного — значит, его удалили между снимками. ## Эпохи движка и время Форум сменил несколько версий движка, и от версии зависит набор полей: **v0** (2011–13), **v1** (2013–22), **v2** (2017+, добавились просмотры), **v3** (2025+, добавились лайки/дизлайки и стикеры). Надёжное время поста — `ts` (unix-время). Часть постов пришла из архивов, где дата была лишь строкой; такие даты распознаны, а поле `ts_source` честно помечает происхождение: `unix` — точное время, `dmy` / `verbose` / `iso` — восстановленное из строки. --- ## Текст поста Текст не хранится как HTML. Он разобран в **упорядоченный список сегментов** (`comment.segments`) — порядок сохраняет и разметку, и адресность ответов. Плоский текст поста лежит рядом в `comment.text`. Сегменты бывают четырёх типов: - **`text`** — кусок текста со списком активных стилей `f`. - **`br`** — перенос строки. - **`reply`** — ссылка-ответ `>>N` на другой пост. Флаги: `op` (ответ на OP — это и есть бейдж «(OP)»), `cross` (ответ в другой тред, обычно перекат). - **`link`** — внешняя ссылка. **Стили текста (`f`):** `quote` (зелёнка — самый частый), `spoiler`, `bold`, `italic`, `strike`, `underline`, `overline`, `sup`, `sub`, `code`. По частоте: quote ≫ spoiler ≫ bold ≫ italic ≫ остальные. `sup`/`sub` встречаются почти только на /sci/ (степени и формулы). Отдельно — **системные вставки** самого форума (в поле стиля как `cls:*`): отметка бана в теле поста, «Абу благословил» и подобное. Это не текст автора, а служебные элементы движка. ## Медиа До 4 файлов на пост (изредка больше). Без файлов — 79% постов, один файл — 16%, дальше редко. Виды: `jpg`/`png`/`webp` (картинки), `webm`/`mp4` (видео, с длительностью), `gif`, `mp3`, `sticker` (телеграм-паки). Флаг `nsfw` — картинка под спойлером. **Самих файлов в датасете нет** — только метаданные: имя, `md5`, размер, разрешение. --- ## Как этим форматом реально пользуются Одни и те же элементы несут разный смысл в зависимости от применения — вот это и делает данные осмысленными. ### Ответы `>>N` - **`>>` — не всегда «ответ по существу».** Это может быть ответ, согласие-цитирование («двачую >>N») или указатель («смотри → >>N»). - **Беседа — дерево, а не цепочка.** Один пост может отвечать многим (мультиреплай, до нескольких десятков ссылок), одному посту могут отвечать многие. Ответ на OP своего треда — частый адресат (~2% постов). - **Позиция ссылки:** чаще всего в начале поста, дальше идёт текст ответа (89%); реже голая ссылка или стопкой (5%), в середине фразы (5%), в конце (0.6%). - **До ~2015** структурных ссылок в движке не было — на пост отвечали просто текстом `>>N`. Поэтому граф ответов надёжен в основном для 2015+ (там 74–81% постов ссылаются структурно). ### Зелёнка `>` — один инструмент, много смыслов 1. цитата собеседника и разбор по ней (часто 5–7 строк подряд); 2. история от первого лица (`>be me`) — не цитата; 3. пародия — автор сам сочиняет «реплику оппонента»; 4. акцент на слове (`>"прибыль"`); 5. передразнивание-анафора (`>а на западе / >а вот на западе`). Дословных цитат мало: точное совпадение зелёнки с исходным постом ~1% — цитируют по смыслу, перефразом. **Quote-only** (~1% постов): ссылка и зелёнка вообще без своего текста — переспрос или мок без слов. ### Двойная зелёнка `>>текст` `>>` перед НЕ-числом — это не ссылка, а усиленная/вложенная цитата (мок-список вроде «`>БЕНЗИН ПО 150 / >>САНКЦИИ`»). ### `@`-комикс Строки, разделённые одиночным `@` на своей строке (`СТРОКА / @ / СТРОКА`), — формат шутки или истории **одного** автора. Это монолог, а не диалог. ### Оформление как приём - **`strike`** (зачёркивание) — подмена слова: зачёркнуто «мнимое», рядом истинное. - **`spoiler`** — сказанное вполголоса (сарказм, признание в сторону), а не сокрытие сюжета. - Много стилей на одно слово — абсурдное усиление. ### Формы поста один-ответ · мультиреплай · quote-only · линк-дамп (пост = набор ссылок) · медиа-реакция (картинка вместо слов, «пикрел») · `@`-комикс · OP-шапка дженерала (стена ссылок) · бамп/сажа (служебный подъём или тишина). --- ## Чего в движке почти нет Несколько возможностей движка формально существуют, но в данных практически не встречаются: кубики `dice` — по факту не используются; кросс-бордовые ссылки `>>>/доска/` — единичны (это скорее идиома 4chan); теги тредов `tags` — почти нет; oekaki (рисунок в браузере) отдельно не помечается и идёт обычной картинкой. Оценки постов (`likes`/`dislikes`, только v3) есть у ~0.15% постов. ## Источники Один и тот же тред мог попасть в несколько архивов — тогда посты объединяются, берётся самая полная версия каждого, а из какого снимка собран пост, видно в его полях источников. --- ## Статистика **Всего:** 1 455 924 тредов · 238 479 526 постов
Доски — вклад в общий объём постов
ДоскаНазваниеТредовПостовДоля
/b/Бред872 569114 896 80948.18%
/po/Политика225 71035 024 43914.69%
/fag/Фагготрия48 56324 337 45610.21%
/sex/Секс и отношения35 5576 611 2842.77%
/news/Новости69 5005 031 2052.11%
/dev/Тянач18 4844 310 2051.81%
/mov/Фильмы8 4463 309 6041.39%
/ftb/Футбол5 3242 574 1131.08%
/wm/Военная техника4 3482 494 5441.05%
/wrk/Работа и карьера5 5752 181 8450.91%
/sp/Спорт3 9972 173 4730.91%
/tv/Сериалы5 1092 074 2430.87%
/au/Автомобили6 6001 988 2290.83%
/s/Программы8 7881 923 1570.81%
/rf/Убежище11 8101 847 7560.77%
/cg/Консоли3 8391 710 9420.72%
/pr/Программирование6 1481 644 0390.69%
/soc/Общение3 4821 610 7000.68%
/mobi/Мобильные устройства и приложения7 0081 371 8300.58%
/fa/Мода и стиль4 7281 277 9150.54%
/ai/Искусственный интеллект1 4251 261 5780.53%
/psy/Психология и психиатрия7 6751 090 8080.46%
/gg/Хорошие девушки10 877945 6960.40%
/mus/Музыканты2 371904 2690.38%
/fiz/Физкультура3 848870 2130.36%
/me/Медицина5 362766 7800.32%
/kpop/K-pop1 534762 8410.32%
/diy/Хобби2 023750 0380.31%
/re/Религия2 936746 7260.31%
/ga/Геи1 722685 4650.29%
/zog/Теории заговора5 238676 5130.28%
/biz/Бизнес9 598675 8740.28%
/spc/Космос и астрономия1 528661 1320.28%
/mu/Музыка5 930653 1220.27%
/un/Образование3 899643 2040.27%
/nvr/Новороссия: ЛНР, ДНР1 157614 0350.26%
/fet/Фетиш2 155600 3870.25%
/hc/Hardcore1 867596 1270.25%
/w/Оружие1 651592 1500.25%
/sn/Паранормальные явления3 261554 0820.23%
/e/Extreme Pron1 800501 6360.21%
/hi/История2 648474 5290.20%
/vape/Курение и электронные сигареты1 729460 0480.19%
/mg/Магия1 700446 1730.19%
/cc/Криптовалюта2 192405 3860.17%
/ukr//Ukr/aine — Україна952385 0810.16%
/fg/Трапы1 493371 7820.16%
/t/Техника1 820359 5380.15%
/sci/Наука2 428329 0520.14%
/h/Хентай647285 3450.12%
/ya/Яой367198 6620.08%
/alco/Алкоголь693169 7960.07%
/se/Самообразование738143 5360.06%
/nf/Neuro Fap13679 8110.03%
/tr/Транспорт и авиация37977 6510.03%
/ussr/СССР76474 5780.03%
/old/Олдфаги80267 3590.03%
/ph/Философия1 14261 3140.03%
/ho/Прочий хентай40655 9630.02%
/fem/Феминизм56842 1930.02%
/smo/Курение37219 6080.01%
/cute/Милое16214 4300.01%
/r34/Правило 342756 3940.00%
/hg/Хентайные игры694 8330.00%
 Источники
ИсточникТредовПостов
makaba-arch1 026 220139 460 108
arhivach422 06898 267 142
makaba (current)7 628748 654
m2ch83 622
``` year threads posts 2009 7 423 2010 8 986 2011 51 6 032 2012 6 892 258 502 ▎ 2013 6 791 709 856 ▊ 2014 10 233 3 294 231 ███▎ 2015 26 225 8 719 530 ████████▌ 2016 308 875 34 851 031 ██████████████████████████████████ 2017 331 473 32 460 000 ███████████████████████████████▋ 2018 125 250 27 059 279 ██████████████████████████▍ 2019 133 461 28 135 033 ███████████████████████████▌ 2020 154 296 33 463 673 ████████████████████████████████▋ 2021 141 146 30 380 420 █████████████████████████████▋ 2022 47 714 12 842 626 ████████████▌ 2023 39 074 7 333 804 ███████▏ 2024 46 586 7 854 924 ███████▋ 2025 51 144 7 524 423 ███████▍ 2026 26 692 3 584 188 ███▌ ```