File size: 1,532 Bytes
2558470
e1b605d
 
 
2558470
 
e1b605d
 
 
2558470
 
e1b605d
2558470
e1b605d
2558470
e1b605d
 
 
2558470
e1b605d
 
 
 
2558470
ad5531d
 
 
 
 
 
 
 
 
c407e0a
ad5531d
 
 
 
 
b98f857
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
---
license: apache-2.0
language:
- ru
tags:
- sentence-transformers
- retrieval
- russian
- triplet-loss
---

# modheel

Дообученная модель на основе `sentence-transformers/all-MiniLM-L6-v2` для семантического поиска на русском языке.

## Описание
Модель дообучена на датасете `deepvk/ru-HNP` с использованием Triplet Loss для улучшения качества эмбеддингов русскоязычных текстов. 
Базовая модель была обучена на английском языке, дообучение позволило адаптировать её к русскому языку.

## Данные для дообучения
- Датасет: [deepvk/ru-HNP](https://huggingface.co/datasets/deepvk/ru-HNP)
- Количество примеров: 20000 (первые 20000 записей из train)
- Разделение: 90/10 (train/val)


## Использование
```python
from sentence_transformers import SentenceTransformer

model = SentenceTransformer("NikolayRainWay/modheel")
embeddings = model.encode(["Пример текста"], normalize_embeddings=True)
Лицензия
Apache 2.0
```
---

## Визуализация
UMAP проекция эмбеддингов дообученной модели на датасете `headline-classification`:

![UMAP проекция](https://huggingface.co/NikolayRainWay/modheel/resolve/main/finetuned_umap.png)