metadata
language: ru
license: mit
task_categories:
- sentence-similarity
- text-classification
other:
- cross-encoder-reranking
- reranker-training
tags:
- russian
- cross-encoder
- reranker
- retrieval
- sentence-transformers
size_categories:
- 1M<n<10M
dataset_info:
features:
- name: query
dtype: string
- name: passage
dtype: string
- name: label
dtype: float32
- name: source
dtype: string
splits:
- name: train
num_examples: 3178664
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
🇷🇺 ru-reranker-mega
3.18M пар для обучения русскоязычного Cross-Encoder reranker'а.
Модели, обученные на этом датасете:
Состав
| Компонент | Размер | Описание |
|---|---|---|
| NLI/QA/парафразы | 2.39M | 20+ русскоязычных датасетов |
| TF-IDF hard negatives | 606K | 2 жёстких негатива на каждый позитив через TF-IDF |
| mMARCO русский | 222K | Переведённый MS MARCO |
Формат
| Колонка | Тип | Пример |
|---|---|---|
| query | str | "сколько стоит билет в москву" |
| passage | str | "Цены на авиабилеты Москва — от 3 500 рублей" |
| label | float32 | 1.0 (релевантно) / 0.0 (нерелевантно) |
| source | str | "sberquad", "tfidf_hn", "mmarco" |
Загрузка
from datasets import load_dataset
dataset = load_dataset("ARGA100/ru-reranker-mega", split="train")
print(len(dataset)) # 3,178,664
Обучение
from sentence_transformers import CrossEncoder
model = CrossEncoder("deepvk/RuModernBERT-small", num_labels=1)
# или model = CrossEncoder("deepvk/RuModernBERT-base", num_labels=1)
Подробный рецепт — в карточке модели small.
🔗 Ссылки
📜 Лицензия
MIT.