RU-Reranker-Mega 🏆

1 588 217 пар для тренировки русского CrossEncoder reranker'а.

Собран из 20+ саб-датасетов. Многоступенчатая фильтрация: длин, качества, языка, дедупликация, балансировка.

Зачем

CrossEncoder принимает пару (query, passage) и выдаёт скор релевантности. Используется в двух-stage retrieval: bi-encoder (FAISS) находит топ-K кандидатов, CrossEncoder их переранжирует. Это даёт лучшую точность ранжирования, чем bi-encoder + cosine similarity.

Датасет содержит разнообразные пары — от NLI до QA — чтобы модель училась определять релевантность в разных контекстах.

Почему NLI?

NLI (premise → query, hypothesis → passage) учит модель определять логическую связь между текстами:

• entailment (label=1): гипотеза следует из посылки — аналог релевантности
• contradiction (label=0): гипотеза противоречит посылке — аналог нерелевантности
• neutral (label=0.5, бинаризовано в 1): частичная связь

Для ранжирования это работает: Bi-Encoder separate encoder, cross-attention между парами можно оптимизировать на entailment. См. работы Nogueira & Cho 2019 и MacAvaney et al. 2020 — CrossEncoder для reranking, инициализированный с NLI, даёт буст.

Разнообразие NLI-датасетов (SNLI, MNLI, ANLI, FEVER, QNLI, SCITAIL и др.) даёт широкий охват типов текстов и доменов.

Состав

Источник	Размер	Описание	Тип
paraphrase	338 381	Парафразы из Leipzig corpus, p_good >= 0.5	Непрерывный скор (бинаризован)
nli-snli	297 950	SNLI, переведённый на русский	premise ↔ hypothesis
nli-mnli	235 010	MNLI (много-жанровый NLI)	premise ↔ hypothesis
nli-iie	135 000	IIE (Information Inference)	premise ↔ hypothesis
nli-qnli	70 204	QNLI (QA-entailment)	question ↔ context
nli-fever	59 342	FEVER (факт-чекинг)	claim ↔ evidence
nli-anli_r3	45 178	Adversarial NLI (hard)	premise ↔ hypothesis
nli-anli_r2	21 918	Adversarial NLI (medium)	premise ↔ hypothesis
nli-scitail	17 358	Scientific NLI	premise ↔ hypothesis
nli-help	12 241	HELP (legal NLI)	premise ↔ hypothesis
nli-anli_r1	9 100	Adversarial NLI (easy)	premise ↔ hypothesis
sberquad	7 878	SberQuAD (Russian SQuAD)	question ↔ context+answer
nli-imppres	5 365	IMPPRES	premise ↔ hypothesis
nli-sick	4 853	SICK (relatedness)	premise ↔ hypothesis
nli-add_one_rte	3 661	RTE (Recognizing Textual Entailment)	premise ↔ hypothesis
nli-joci	3 001	JOCI (event inference)	premise ↔ hypothesis
nli-mpe	2 590	MPE (Multi-Premise Entailment)	premise ↔ hypothesis
nli-monli	1 101	MONLI	premise ↔ hypothesis
rubq	853	RuBQ (Russian factoid QA)	question ↔ answer
nli-copa	389	COPA (causal reasoning)	premise ↔ hypothesis

Сплиты

Сплит	Всего	Positive (label=1)	Negative (label=0)
train	1 271 373	847 582 (66.7%)	423 791 (33.3%)
val	158 920	105 947 (66.7%)	52 973 (33.3%)
test	158 924	105 949 (66.7%)	52 975 (33.3%)
Total	1 589 217	1 059 478	529 739

Схема

query: str    — запрос / premise
passage: str  — пассаж / hypothesis / кандидат
label: float  — 1.0 (релевантно) или 0.0 (не релевантно)
source: str   — имя исходного датасета

Фильтрация (6 этапов)

01. clean_text() — normalize whitespace, regex garbage removal
02. is_russian_lang() — Cyrillic ratio >= 50% (а-яА-Я vs a-zA-Z)
03. Length gate — query >= 10 chars, passage >= 20 chars, оба <= 3000
04. Ratio gate — max(query,passage) / min(query,passage) <= 10x
05. Garbage block — URL, pure digits, words longer than 30 chars
06. Exact dedup — MD5(query.lower() + "|||" + passage.lower())
07. Near-dedup — group by first 50 chars of query, unique passages
08. Class balancing — max 2:1 ratio, downsampled majority if exceeded

Использование для тренировки

from datasets import load_dataset
from sentence_transformers import CrossEncoder, losses
from torch import nn

# Загрузка
dataset = load_dataset("ARGA100/ru-reranker-mega")
train = dataset["train"]
val = dataset["val"]

# Модель
model = CrossEncoder("deepvk/RuModernBERT-small", num_labels=1)

# Loss с учётом дисбаланса (pos:neg = 2:1)
pos_weight = 423791 / 847582  # ~0.5
loss_fct = nn.BCEWithLogitsLoss(pos_weight=torch.tensor([pos_weight]))

# DataLoader
train_dataloader = DataLoader(
    train.select_columns(["query", "passage", "label"]).with_format("torch"),
    batch_size=16, shuffle=True
)

# P.S. label_smoothing=0.1 improves generalization
# Use warmup cosine schedule, early stopping patience=3

Примеры

Positive (label=1):

query:  Женщина разговаривает с маленькой девочкой, играющей в игру.
passage: Женщина и ребенок болтают на кухне.
source: nli-snli

query:  Какое предприятие занимается разведкой и добычей нефти в Элисте?
passage: КалмТатнефть. Промышленное производство представлено предприятиями нефтегазового комплекса...
source: sberquad

Negative (label=0):

query:  Здесь много преступлений.
passage: Здесь очень мало преступлений.
source: nli-mnli

query:  уж этот Рим, бедовый для меня город!
passage: Рим этот, бедный город для меня!
source: paraphrase (p_good < 0.5)

Длина текстов (train)

Метрика	Query (chars)	Passage (chars)
mean	109	74
min	10	20
max	1 113	1 773

Ссылки

• Dataset on HF
• Sentence-Transformers CrossEncoder docs
• mMARCO: Multilingual MS MARCO
• MIRACL: Multilingual Information Retrieval
• SBert: Cross-Encoders for Reranking

License

MIT. Исходные датасеты имеют свои лицензии — проверьте перед коммерческим использованием.