STRUCTURE.md

Как это хранится

Формат — Parquet, один файл на доску: <доска>.parquet (64 файла), сжатие zstd. Одна строка = один тред, посты вложены (posts: list<struct>). Схема единая для всех досок и источников; неприменимые поля — null. ? ниже = nullable.

thread (одна строка = один тред)
├─ board             string         какая доска (раздел форума): b, po, sex…
├─ thread_num        int64          номер треда (обсуждения)
├─ source            string         из какого архива взят тред
├─ source_thread_id  string?        номер треда внутри того архива
├─ true_board        string?        настоящая доска, если в архиве тред лежал под другим именем
├─ gen               string         версия движка форума (от неё зависит набор полей)
├─ gens              list<string>?  все версии движка, если тред собран из нескольких архивов
├─ sources           list<string>   все архивы, из которых собран тред
├─ subject           string?        заголовок треда
├─ tags              string?        метка треда, если есть
├─ sticky            int64?         закреплён ли вверху (число: больше — выше; пусто — обычный)
├─ closed            bool?          тред закрыт, отвечать нельзя
├─ endless           bool?          «вечный» тред, который не тонет
├─ posts_count       int64          сколько постов в треде
├─ unique_posters    int64          сколько разных людей писало
├─ first_ts          int64          время первого поста (секунды с 1970, формат unix)
├─ last_ts           int64          время последнего поста
├─ perekat           list<struct>?  ссылки на продолжения треда (заполнился — сделали новый)
├─ provenance        string?        техпометка, откуда взято (архив/файл)
├─ extra             string?        запас: сюда падает всё редкое, чтобы ничего не потерять
└─ posts             list<struct>   список постов треда:
   ├─ num            int64          номер поста
   ├─ thread_num     int64          номер треда, которому принадлежит пост
   ├─ ordinal        int64          какой это по счёту пост в треде (1, 2, 3…)
   ├─ ts             int64          время поста (unix)
   ├─ ts_source      string         точность времени: unix — точное; dmy/verbose/iso — вычислено из даты
   ├─ is_op          bool           это самый первый пост треда (создатель темы)
   ├─ is_op_author   bool?          пост написан тем же человеком, что создал тред
   ├─ deleted        bool?          пост был удалён, но мы его сохранили
   ├─ banned         int64?         автора забанили за этот пост (1 — обычный бан, 2 — особый)
   ├─ banned_src     string?        текст плашки о бане
   ├─ sticky         int64?         пост закреплён (бывает редко)
   ├─ closed         bool?          служебное, почти всегда пусто
   ├─ endless        bool?          служебное, почти всегда пусто
   ├─ views          int64?         сколько раз посмотрели (в новых версиях форума)
   ├─ likes          int64?         лайки (только в самой новой версии)
   ├─ dislikes       int64?         дизлайки (то же)
   ├─ subject        string?        заголовок поста (обычно есть только у первого)
   ├─ lasthit        int64?         время последней активности в треде
   ├─ trip_type      string?        тип подписи автора (см. trip ниже)
   ├─ hidden_num     int64?         внутренний технический номер
   ├─ present_in     list<string>   в каких архивах нашёлся ЭТОТ пост (нет в позднем = удалили)
   ├─ sources        list<string>?  из каких архивов собран пост
   ├─ extra          string?        запас для редких данных поста
   ├─ author         struct         кто написал:
   │   ├─ anon         bool         аноним ли (почти всегда да)
   │   ├─ name_text    string?      имя автора (по умолчанию «Аноним»)
   │   ├─ poster_id    string?      код автора внутри треда: один код = один человек, но в другом
   │   │                            треде у него код другой. Есть не на всех досках. «Heaven» = саж
   │   ├─ trip         string?      личная подпись: код, по которому автора узнают в разных тредах
   │   ├─ trip_secure  bool?        подпись защищённая (!!) или простая (!)
   │   ├─ email        string?      поле «email»; часто туда пишут слово sage
   │   ├─ icon_kind    string?      значок у поста: flag — флаг страны, logo — картинка (напр. клуб)
   │   ├─ icon_code    string?      код значка (например RU)
   │   ├─ icon_title   string?      подпись значка
   │   ├─ ua_os        string?      система автора (форум иногда её показывает)
   │   ├─ ua_browser   string?      браузер автора
   │   └─ is_sage      bool         саж: ответ, который специально НЕ поднимает тред наверх
   ├─ comment        struct         текст поста:
   │   ├─ text        string        весь текст одной строкой, без разметки
   │   └─ segments    list<struct>  тот же текст по кусочкам — где ссылки, цитаты, оформление:
   │       ├─ t       string        что за кусок: text — текст, br — перенос строки,
   │       │                        reply — ссылка-ответ на пост, link — обычная ссылка
   │       ├─ s       string?       сам текст куска (для text и link)
   │       ├─ f       list<string>? оформление: quote — цитата (зелёный), spoiler — скрытый, bold…
   │       ├─ num     int64?        если ответ (reply): на какой пост
   │       ├─ thread  int64?        если ответ: в каком треде тот пост
   │       ├─ cross   bool?         ответ ведёт в другой тред
   │       ├─ op      bool?         ответ на самый первый пост треда
   │       └─ href    string?       если ссылка (link): адрес
   ├─ reply_targets  list<struct>   на какие посты этот отвечает (те же ссылки-ответы, собранные
   │                                отдельным списком — удобно строить дерево «кто кому ответил»)
   └─ media          list<struct>   прикреплённые файлы (только описание, самих файлов тут НЕТ):
       ├─ orig                   string?       как файл назывался у автора
       ├─ server                 string?       как файл назвали на сервере
       ├─ kind                   string?       тип: картинка, видео, gif, аудио, стикер…
       ├─ md5                    string?       контрольная сумма
       ├─ size_kb                int64?        размер в килобайтах
       ├─ w, h                   int64?        ширина и высота в пикселях
       ├─ thumb                  string?       адрес маленькой превьюшки
       ├─ tn_w, tn_h             int64?        размеры превьюшки
       ├─ duration_str           string?       длительность видео/аудио (текстом)
       ├─ duration_secs          int64?        длительность в секундах
       ├─ nsfw                   bool?         файл помечен «под спойлером» (скрыт до клика)
       ├─ path_makaba            string?       путь к файлу на движке makaba
       ├─ path_arhivach_storage  string?       путь к файлу в архиве arhivach
       ├─ url                    string?       прямая ссылка на файл (для источника m2ch)
       ├─ size_label             string?       размер и разрешение текстом (как показывал arhivach)
       ├─ src                    list<string>  из каких архивов пришёл файл
       ├─ sticker_pack           string?       если стикер — из какого набора
       ├─ sticker_id             string?       id стикера
       └─ extra                  string?       запас для редких данных о файле

Метаданные доски (название, bump_limit, file_types, флаги enable_*) — свойства доски, не треда, поэтому лежат в key-value метаданных файла (один набор на .parquet), а не в каждой строке.

---

Как устроен тред

Тред — это стартовый пост (OP) плюс ответы на него.

• OP помечен полем is_op. Отдельно есть is_op_author — это пост того же анона, что создал тред (форум рисует на таких постах бейдж «OP»); не путать с самим OP.
• Бамп и bump_limit. Любой ответ поднимает тред наверх списка. После bump_limit ответов (обычно 500) тред перестаёт всплывать и постепенно тонет.
• Сажа — ответ, который намеренно НЕ поднимает тред (≈1% постов). В данных виден тремя способами: is_sage=true, email="sage" или, на ID-досках, poster_id="Heaven" вместо хеша.
• sticky — закреп: это число-приоритет (чем больше, тем выше висит тред), а не «да/нет».
• closed — тред закрыт для ответов. endless — «бесконечный» тред, посты в нём не вытесняются по bump_limit (≈0.2% постов).
• Перекат. Когда тред заполняется, создают следующий в серии (№N → №N+1). Связь — в поле perekat и в кросс-тредовых ссылках внутри OP. Рядом живёт приём «дублирую из прошлого треда» — перепост неотвеченного вопроса в новый тред.

Как помечен автор

Почти все посты анонимны, но форум оставляет несколько способов пометить, кто пишет:

• poster_id — хеш автора. Генерится заново в каждом треде, поэтому один человек в разных тредах получает разные poster_id. Есть только на ID-досках. Сажа отображается как poster_id="Heaven".
• Трипкод trip — добровольная «подпись», стабильная между тредами и досками. !! — защищённый (secure), ! — обычный. Secure встречается примерно в 3 раза чаще обычного.
• Имя name_text — на досках, где имена разрешены (по умолчанию «Аноним»).
• Флаг / иконка — icon_kind (flag — страна, logo — например футбольный клуб), плюс icon_code и icon_title. Флаги встречаются примерно в 6 раз чаще логотипов.
• UA-бейдж — ua_os / ua_browser: ОС и браузер автора, которые на части досок форум показывает (≈0.8% постов).

Насколько заполнены эти поля — сильно зависит от доски. poster_id почти всегда есть на wm (97%), po (93%), nvr (89%), редко на t/cc, на остальных нет. Флаги — массово на po/nvr (~95%). Имена — всюду на rf (100%), ussr (95%), fem (92%), kpop (57%). Трипкоды везде редки (<8%).

Следы модерации

• banned — автор поста забанен (1 — обычный бан, 2 — особый тип). ~0.01% постов. В теле при этом бывает системная вставка «(Автор поста забанен. Помянем.)».
• deleted — пост был удалён, но сохранён в архиве (~1.6% постов).
• present_in — в каких снимках пост встретился. Если пост есть в раннем снимке и пропал из более позднего и полного — значит, его удалили между снимками.

Эпохи движка и время

Форум сменил несколько версий движка, и от версии зависит набор полей: v0 (2011–13), v1 (2013–22), v2 (2017+, добавились просмотры), v3 (2025+, добавились лайки/дизлайки и стикеры).

Надёжное время поста — ts (unix-время). Часть постов пришла из архивов, где дата была лишь строкой; такие даты распознаны, а поле ts_source честно помечает происхождение: unix — точное время, dmy / verbose / iso — восстановленное из строки.

---

Текст поста

Текст не хранится как HTML. Он разобран в упорядоченный список сегментов (comment.segments) — порядок сохраняет и разметку, и адресность ответов. Плоский текст поста лежит рядом в comment.text.

Сегменты бывают четырёх типов:

• text — кусок текста со списком активных стилей f.
• br — перенос строки.
• reply — ссылка-ответ >>N на другой пост. Флаги: op (ответ на OP — это и есть бейдж «(OP)»), cross (ответ в другой тред, обычно перекат).
• link — внешняя ссылка.

Стили текста (f): quote (зелёнка — самый частый), spoiler, bold, italic, strike, underline, overline, sup, sub, code. По частоте: quote ≫ spoiler ≫ bold ≫ italic ≫ остальные. sup/sub встречаются почти только на /sci/ (степени и формулы).

Отдельно — системные вставки самого форума (в поле стиля как cls:*): отметка бана в теле поста, «Абу благословил» и подобное. Это не текст автора, а служебные элементы движка.

Медиа

До 4 файлов на пост (изредка больше). Без файлов — 79% постов, один файл — 16%, дальше редко. Виды: jpg/png/webp (картинки), webm/mp4 (видео, с длительностью), gif, mp3, sticker (телеграм-паки). Флаг nsfw — картинка под спойлером. Самих файлов в датасете нет — только метаданные: имя, md5, размер, разрешение.

---

Как этим форматом реально пользуются

Одни и те же элементы несут разный смысл в зависимости от применения — вот это и делает данные осмысленными.

Ответы >>N

• >> — не всегда «ответ по существу». Это может быть ответ, согласие-цитирование («двачую >>N») или указатель («смотри → >>N»).
• Беседа — дерево, а не цепочка. Один пост может отвечать многим (мультиреплай, до нескольких десятков ссылок), одному посту могут отвечать многие. Ответ на OP своего треда — частый адресат (~2% постов).
• Позиция ссылки: чаще всего в начале поста, дальше идёт текст ответа (89%); реже голая ссылка или стопкой (5%), в середине фразы (5%), в конце (0.6%).
• До ~2015 структурных ссылок в движке не было — на пост отвечали просто текстом >>N. Поэтому граф ответов надёжен в основном для 2015+ (там 74–81% постов ссылаются структурно).

Зелёнка > — один инструмент, много смыслов

1. цитата собеседника и разбор по ней (часто 5–7 строк подряд);
2. история от первого лица (>be me) — не цитата;
3. пародия — автор сам сочиняет «реплику оппонента»;
4. акцент на слове (>"прибыль");
5. передразнивание-анафора (>а на западе / >а вот на западе).

Дословных цитат мало: точное совпадение зелёнки с исходным постом 1% — цитируют по смыслу, перефразом. Quote-only (1% постов): ссылка и зелёнка вообще без своего текста — переспрос или мок без слов.

Двойная зелёнка >>текст

>> перед НЕ-числом — это не ссылка, а усиленная/вложенная цитата (мок-список вроде «>БЕНЗИН ПО 150 / >>САНКЦИИ»).

@-комикс

Строки, разделённые одиночным @ на своей строке (СТРОКА / @ / СТРОКА), — формат шутки или истории одного автора. Это монолог, а не диалог.

Оформление как приём

• strike (зачёркивание) — подмена слова: зачёркнуто «мнимое», рядом истинное.
• spoiler — сказанное вполголоса (сарказм, признание в сторону), а не сокрытие сюжета.
• Много стилей на одно слово — абсурдное усиление.

Формы поста

один-ответ · мультиреплай · quote-only · линк-дамп (пост = набор ссылок) · медиа-реакция (картинка вместо слов, «пикрел») · @-комикс · OP-шапка дженерала (стена ссылок) · бамп/сажа (служебный подъём или тишина).

---

Чего в движке почти нет

Несколько возможностей движка формально существуют, но в данных практически не встречаются: кубики dice — по факту не используются; кросс-бордовые ссылки >>>/доска/ — единичны (это скорее идиома 4chan); теги тредов tags — почти нет; oekaki (рисунок в браузере) отдельно не помечается и идёт обычной картинкой. Оценки постов (likes/dislikes, только v3) есть у ~0.15% постов.

Источники

Один и тот же тред мог попасть в несколько архивов — тогда посты объединяются, берётся самая полная версия каждого, а из какого снимка собран пост, видно в его полях источников.

---

Статистика

Всего: 1 455 924 тредов · 238 479 526 постов

Доски — вклад в общий объём постов Доска Название Тредов Постов Доля /b/ Бред 872 569 114 896 809 48.18% /po/ Политика 225 710 35 024 439 14.69% /fag/ Фагготрия 48 563 24 337 456 10.21% /sex/ Секс и отношения 35 557 6 611 284 2.77% /news/ Новости 69 500 5 031 205 2.11% /dev/ Тянач 18 484 4 310 205 1.81% /mov/ Фильмы 8 446 3 309 604 1.39% /ftb/ Футбол 5 324 2 574 113 1.08% /wm/ Военная техника 4 348 2 494 544 1.05% /wrk/ Работа и карьера 5 575 2 181 845 0.91% /sp/ Спорт 3 997 2 173 473 0.91% /tv/ Сериалы 5 109 2 074 243 0.87% /au/ Автомобили 6 600 1 988 229 0.83% /s/ Программы 8 788 1 923 157 0.81% /rf/ Убежище 11 810 1 847 756 0.77% /cg/ Консоли 3 839 1 710 942 0.72% /pr/ Программирование 6 148 1 644 039 0.69% /soc/ Общение 3 482 1 610 700 0.68% /mobi/ Мобильные устройства и приложения 7 008 1 371 830 0.58% /fa/ Мода и стиль 4 728 1 277 915 0.54% /ai/ Искусственный интеллект 1 425 1 261 578 0.53% /psy/ Психология и психиатрия 7 675 1 090 808 0.46% /gg/ Хорошие девушки 10 877 945 696 0.40% /mus/ Музыканты 2 371 904 269 0.38% /fiz/ Физкультура 3 848 870 213 0.36% /me/ Медицина 5 362 766 780 0.32% /kpop/ K-pop 1 534 762 841 0.32% /diy/ Хобби 2 023 750 038 0.31% /re/ Религия 2 936 746 726 0.31% /ga/ Геи 1 722 685 465 0.29% /zog/ Теории заговора 5 238 676 513 0.28% /biz/ Бизнес 9 598 675 874 0.28% /spc/ Космос и астрономия 1 528 661 132 0.28% /mu/ Музыка 5 930 653 122 0.27% /un/ Образование 3 899 643 204 0.27% /nvr/ Новороссия: ЛНР, ДНР 1 157 614 035 0.26% /fet/ Фетиш 2 155 600 387 0.25% /hc/ Hardcore 1 867 596 127 0.25% /w/ Оружие 1 651 592 150 0.25% /sn/ Паранормальные явления 3 261 554 082 0.23% /e/ Extreme Pron 1 800 501 636 0.21% /hi/ История 2 648 474 529 0.20% /vape/ Курение и электронные сигареты 1 729 460 048 0.19% /mg/ Магия 1 700 446 173 0.19% /cc/ Криптовалюта 2 192 405 386 0.17% /ukr/ /Ukr/aine — Україна 952 385 081 0.16% /fg/ Трапы 1 493 371 782 0.16% /t/ Техника 1 820 359 538 0.15% /sci/ Наука 2 428 329 052 0.14% /h/ Хентай 647 285 345 0.12% /ya/ Яой 367 198 662 0.08% /alco/ Алкоголь 693 169 796 0.07% /se/ Самообразование 738 143 536 0.06% /nf/ Neuro Fap 136 79 811 0.03% /tr/ Транспорт и авиация 379 77 651 0.03% /ussr/ СССР 764 74 578 0.03% /old/ Олдфаги 802 67 359 0.03% /ph/ Философия 1 142 61 314 0.03% /ho/ Прочий хентай 406 55 963 0.02% /fem/ Феминизм 568 42 193 0.02% /smo/ Курение 372 19 608 0.01% /cute/ Милое 162 14 430 0.01% /r34/ Правило 34 275 6 394 0.00% /hg/ Хентайные игры 69 4 833 0.00%

Источники Источник Тредов Постов makaba-arch 1 026 220 139 460 108 arhivach 422 068 98 267 142 makaba (current) 7 628 748 654 m2ch 8 3 622

year   threads          posts
2009         7            423  
2010         8            986  
2011        51          6 032  
2012     6 892        258 502  ▎
2013     6 791        709 856  ▊
2014    10 233      3 294 231  ███▎
2015    26 225      8 719 530  ████████▌
2016   308 875     34 851 031  ██████████████████████████████████
2017   331 473     32 460 000  ███████████████████████████████▋
2018   125 250     27 059 279  ██████████████████████████▍
2019   133 461     28 135 033  ███████████████████████████▌
2020   154 296     33 463 673  ████████████████████████████████▋
2021   141 146     30 380 420  █████████████████████████████▋
2022    47 714     12 842 626  ████████████▌
2023    39 074      7 333 804  ███████▏
2024    46 586      7 854 924  ███████▋
2025    51 144      7 524 423  ███████▍
2026    26 692      3 584 188  ███▌