Krasovskiy/kwtopic-pairs-dataset

kwtopic-pairs — пары поисковых запросов: одна страница или разные

25 797 пар запросов, размеченных по одному признаку: должны ли эти два запроса попасть на одну страницу сайта или на разные. Разметка снята с контент-планов, которые человек составил руками для шести живых проектов.

25 797 search-query pairs labelled by a single criterion: should these two queries land on the same page of a website, or on different ones? Labels come from content plans built by hand for six real projects — mostly Russian and Ukrainian queries. Negatives are deliberately hard: 65% of them share a word with their pair.

На этом датасете обучена модель Krasovskiy/kwtopic-pairs.

Поля

поле	что в нём
niche	проект, из плана которого взята пара
a, b	два поисковых запроса
label	1 — одна страница, 0 — разные
kind	откуда взялась метка: одна группа у человека, разные группы, разные группы, общее слово «цена» и т. п.

Размер и состав

часть	пар
train	20 563
validation	2 759
test	2 475
всего	25 797

Классы уравновешены: 12 879 положительных, 12 918 отрицательных.

проект	пар
веб-студия	11 495
биржа фриланса	4 496
медиа про аффилиат-маркетинг	3 299
медицина A	2 653
медицина B	2 218
B2B-сервис	1 636

Кириллицей написаны 18 360 пар, латиницей 7 437.

Откуда метки

Положительные — запросы, которые человек своей рукой положил в одну группу контент-плана. Это не разметка «похожи ли фразы», а решение «делаем одну страницу или две», принятое на реальном проекте.

Отрицательные — запросы из разных групп, и 65% из них трудные: у пары есть общее слово, и по пересечению слов их не различить.

1  как представить себя        ·  как представиться               (одна группа)
0  seo продвижение сайта       ·  seo продвижение интернет магазина
0  мрт головного мозга         ·  мрт коленного сустава
0  логотип на заказ            ·  визитка на заказ

Список общих слов, по которым построены трудные отрицательные: цена, заказать, online, мрт, jobs, дизайн, мозга, израиле, sales, best, seo, книги, стоимость, сколько и ещё сотни — колонка kind называет слово для каждой пары.

Десять проверок, без которых обучение не стартует

Лежат в checks.csv, все зелёные:

проверка	результат
нет утечки запросов между частями	да
классы уравновешены в каждой части	да
нет пар запроса с самим собой	0 шт.
нет пар с противоречивой разметкой	0 пар
нет повторяющихся пар	0 шт.
нет пустых и мусорных запросов	0 шт.
больше половины отрицательных — трудные	65%
ни один проект не занимает больше половины	45%
все проекты есть в обучающей части	да
проверочные части не меньше 500 пар	да

Про первую стоит сказать отдельно. Деление на части назначается запросу, а не группе. Когда сплит вешали на группу, отрицательная пара утаскивала тестовый запрос в обучение — утекло 81% теста, и метрики врали в свою пользу.

Что на нём получается

results.json, тест 2475 пар:

	точность	полнота	F1	верных
эмбеддинги paraphrase-multilingual-MiniLM-L12-v2 + подобранный порог	75,7%	79,1%	77,4%	77,1%
кросс-энкодер, дообученный на этих парах	82,9%	84,0%	83,4%	83,4%

Обучение — две эпохи, батч 64, 87 секунд на RTX 4090.

Проверка переноса на нишу, которой в датасете нет (онлайн-казино, 6000 пар из чужой ручной группировки): F1 89,1% при пороге 0,7.

Как пользоваться

from datasets import load_dataset

ds = load_dataset("Krasovskiy/kwtopic-pairs-dataset")
print(ds["train"][0])
# {'niche': 'B2B-сервис', 'a': 'how do you introduce yourself',
#  'b': 'introducing yourself', 'label': 1, 'kind': 'одна группа у человека'}

Чего в нём нет и о чём помнить

• Только шесть ниш: услуги, медицина, B2B, медиа. Товарных каталогов с артикулами, размерами и объёмами здесь нет — на них разметку стоит собрать свою.
• Пары внутри проекта, а не между: вопрос «одна ли это страница» имеет смысл только в пределах одного сайта.
• Разметка одного человека по каждому проекту. Это не консенсус нескольких разметчиков, а решение того, кто делал план.
• Названия проектов обобщены — клиентские имена и домены заменены на тип ниши. Сами запросы публичные, они снимаются любым сервисом ключевых слов.
• Модель, обученная на этих парах, сливает пары, различающиеся только числом, гео или брендом внутри одинакового шаблона (доставка пиццы киев · доставка пиццы харьков). Это свойство задачи, а не дефект разметки: переменные надо вынимать из запроса отдельным слоем до модели.

Лицензия

CC BY 4.0. Запросы — публичные поисковые данные; разметка сделана владельцем датасета и отдаётся с указанием авторства.