Krasovskiy/kwcluster-variables

kwcluster: переменные поискового запроса

Слово из поискового запроса и его роль: название компании, игра, способ оплаты, регион, условие предложения или обычное слово. Метка отвечает на вопрос, задаёт ли слово отдельную страницу сайта.

Набор собран для кластеризатора семантики [kwcluster] и для модели Krasovskiy/kwcluster-variables-1.5b, которая на нём обучена.

Формат

{"token": "deposit", "label": "PAY", "source": "ручная разметка верхушки",
 "context": "casino bonus no deposit | deposit casino | no deposit bonus"}

Контекст обязателен: слово в отрыве от запросов не значит ничего. «quatro» без них читается как числительное, «delta» — как буква. До пяти запросов, самые частотные первыми.

Файлы

файл	строк	что это
train.jsonl	6811	обучение
test_frequent_words.jsonl	45	отложенная верхушка частот
test_rest.jsonl	1156	отложенное остальное
top300_hand_labeled.jsonl	300	верхушка частот, размечена вручную
providers.txt	71	студии-разработчики
payment-methods.json	48	способы оплаты
aglc-operators.json	53	реестр операторов регулятора Альберты

Деление по слову: одно слово целиком попадает либо в обучение, либо в проверку.

Три вещи, которые стоит знать до обучения

Состав должен повторять живое ядро. В любом ядре поисковых запросов обычные слова составляют около 82%. Версия набора, где их было 15%, дала модель с 91% точности на своей проверке — и она объявила сущностями 80% слов реального ядра: «slots» брендом, «play» платёжкой, предлог «in» товаром. Перекос в выборке никак себя не выдал, потому что проверка была перекошена так же.

Верхушка частот важнее всего остального вместе взятого. Верхние 50 слов ядра задевают 66% ключей, верхние 300 — 80%. Ошибка на «deposit» стоит 1193 запроса, ошибка на редком названии игры — один. При этом собранные автоматически списки верхушку не покрывают: из верхних трёхсот фактами подтверждались 39. Поэтому она размечена вручную, и эта разметка исправила 118 меток, выведённых из списков.

Метрика на отложенной выборке не предсказывает поведение. Проверено на четырёх версиях: та, что показала 81.6%, оставила страницу на 1097 ключей неразделённой; та, что показала 55.5%, дала лучший план. Метрика считает все слова равными, а результат решают несколько сотен частотных. Взвешивание точности по числу запросов порядок не меняет.

Откуда метки

Ручная разметка — 300 слов верхушки, по смыслу в контексте настоящих запросов. Семнадцать слов живут в двух ролях, решение принято по преобладанию: yukon — и территория Канады, и Yukon Gold Casino; vegas — и город, и часть названий; gold, nugget, ruby, palace — обломки названий казино.

Проверяемые факты — каталог игр в карте сайта оператора, номер лицензии в реестре, реестр регулятора Альберты, справочник стран.

Корпус — 11 млн наблюдений поисковых запросов, 86 247 уникальных запросов, 129 стран, полгода.

Чего в наборе нет

Оплата и условия предложения представлены слабо — 55 и 38 примеров. Классы многоязычные (einzahlung, freispiele, tiradas), и на такой выборке они не меряются. В проекте способы оплаты закрыты справочником, а не моделью.

Ниша одна — казино, в основном английский язык.

Метки выведены, а не подтверждены человеком, кроме верхушки. Поле source говорит, откуда взялась каждая.

Что ещё лежит в этом репозитории

Он не только про набор для обучения — здесь весь инструмент целиком, и ноутбук Colab тянет код и справочники именно отсюда.

папка	что там
код/	сам кластеризатор: модули, тесты, HANDOFF.md с описанием слоёв
справочники/	реестр операторов регулятора, платёжные системы, страны и регионы, виды игр, каталог игр, список «не сущности»
эксперименты.md	замер всех семнадцати обученных версий на одном наборе
эталон-группировки.md	датасет пар «одна страница / разные страницы»
pairs_positive.json, pairs_negative.json	сами пары: 16 219 и 36 090
kwcluster_colab.ipynb	запуск на бесплатной видеокарте Colab

Справочник сильнее модели. Множества вроде реестра операторов или списка платёжных систем закрыты и почти не меняются — точное совпадение там надёжнее любой модели, и финальный проход метки справочника не переписывает. Половина ошибок, которые модель делает системно (poker и plinko в бренды, flexepin в бренды), закрыта именно справочниками, а не дообучением.

Как мерить модель, чтобы не обмануться

Коротко, потому что это стоило дня работы. Подробности в эксперименты.md.

Набор только из сущностей меряет полноту и врёт. Версия, обученная на разметке gpt-5-mini, набрала на таком наборе 81% против 42% у прошлой — и развалила план: 3231 страница вместо 2321, медиана размера упала с двух ключей до одного. Модель просто раздавала метку «бренд» щедрее, и набор без отрицательных примеров это поощрял.

Считать надо по долям живого ядра. В ядре обычных слов 72%, брендов 10%. Взвешенный по этим долям счёт схлопнул разрыв «50 против 78» до «67 против 68» — то есть его почти не было.

Побеждает та версия, что выиграла дважды: на наборе и на прогоне всего инструмента. Прогон главнее — он мерит то, что владелец получит на руки.