---
license: apache-2.0
language:
- ru
tags:
- sentence-transformers
- retrieval
- russian
- triplet-loss
---

# modheel

Дообученная модель на основе `sentence-transformers/all-MiniLM-L6-v2` для семантического поиска на русском языке.

## Описание
Модель дообучена на датасете `deepvk/ru-HNP` с использованием Triplet Loss для улучшения качества эмбеддингов русскоязычных текстов. 
Базовая модель была обучена на английском языке, дообучение позволило адаптировать её к русскому языку.

## Данные для дообучения
- Датасет: [deepvk/ru-HNP](https://huggingface.co/datasets/deepvk/ru-HNP)
- Количество примеров: 20000 (первые 20000 записей из train)
- Разделение: 90/10 (train/val)


## Использование
```python
from sentence_transformers import SentenceTransformer

model = SentenceTransformer("NikolayRainWay/modheel")
embeddings = model.encode(["Пример текста"], normalize_embeddings=True)
Лицензия
Apache 2.0
```
---

## Визуализация
UMAP проекция эмбеддингов дообученной модели на датасете `headline-classification`:

![UMAP проекция](https://huggingface.co/NikolayRainWay/modheel/resolve/main/finetuned_umap.png)