| --- |
| language: ru |
| license: mit |
| task_categories: |
| - sentence-similarity |
| - text-classification |
| other: |
| - cross-encoder-reranking |
| - reranker-training |
| tags: |
| - russian |
| - cross-encoder |
| - reranker |
| - retrieval |
| - sentence-transformers |
| size_categories: |
| - 1M<n<10M |
| dataset_info: |
| features: |
| - name: query |
| dtype: string |
| - name: passage |
| dtype: string |
| - name: label |
| dtype: float32 |
| - name: source |
| dtype: string |
| splits: |
| - name: train |
| num_examples: 3178664 |
| configs: |
| - config_name: default |
| data_files: |
| - split: train |
| path: data/train-* |
| --- |
| |
| # 🇷🇺 ru-reranker-mega |
|
|
| **3.18M пар** для обучения русскоязычного Cross-Encoder reranker'а. |
|
|
| **Модели, обученные на этом датасете:** |
| - [ru-reranker-modernbert-small (34M)](https://huggingface.co/ARGA100/ru-reranker-modernbert-small) ✅ |
| - [ru-reranker-modernbert-base (149M)](https://huggingface.co/ARGA100/ru-reranker-modernbert-base) 🏗️ |
|
|
| --- |
|
|
| ## Состав |
|
|
| | Компонент | Размер | Описание | |
| |-----------|--------|----------| |
| | NLI/QA/парафразы | 2.39M | 20+ русскоязычных датасетов | |
| | TF-IDF hard negatives | 606K | 2 жёстких негатива на каждый позитив через TF-IDF | |
| | mMARCO русский | 222K | Переведённый MS MARCO | |
|
|
| ## Формат |
|
|
| | Колонка | Тип | Пример | |
| |---------|-----|--------| |
| | query | str | `"сколько стоит билет в москву"` | |
| | passage | str | `"Цены на авиабилеты Москва — от 3 500 рублей"` | |
| | label | float32 | `1.0` (релевантно) / `0.0` (нерелевантно) | |
| | source | str | `"sberquad"`, `"tfidf_hn"`, `"mmarco"` | |
|
|
| --- |
|
|
| ## Загрузка |
|
|
| ```python |
| from datasets import load_dataset |
| |
| dataset = load_dataset("ARGA100/ru-reranker-mega", split="train") |
| print(len(dataset)) # 3,178,664 |
| ``` |
|
|
| ## Обучение |
|
|
| ```python |
| from sentence_transformers import CrossEncoder |
| |
| model = CrossEncoder("deepvk/RuModernBERT-small", num_labels=1) |
| # или model = CrossEncoder("deepvk/RuModernBERT-base", num_labels=1) |
| ``` |
|
|
| Подробный рецепт — в карточке [модели small](https://huggingface.co/ARGA100/ru-reranker-modernbert-small). |
|
|
| --- |
|
|
| ## 🔗 Ссылки |
|
|
| - [Модель small](https://huggingface.co/ARGA100/ru-reranker-modernbert-small) |
| - [Модель base](https://huggingface.co/ARGA100/ru-reranker-modernbert-base) |
| - [mMARCO](https://huggingface.co/datasets/unicamp-dl/mmarco) |
|
|
| ## 📜 Лицензия |
|
|
| MIT. |
|
|
