metadata
license: apache-2.0
language:
- ru
tags:
- sentence-transformers
- retrieval
- russian
- triplet-loss
modheel
Дообученная модель на основе sentence-transformers/all-MiniLM-L6-v2 для семантического поиска на русском языке.
Описание
Модель дообучена на датасете deepvk/ru-HNP с использованием Triplet Loss для улучшения качества эмбеддингов русскоязычных текстов.
Базовая модель была обучена на английском языке, дообучение позволило адаптировать её к русскому языку.
Данные для дообучения
- Датасет: deepvk/ru-HNP
- Количество примеров: 20000 (первые 20000 записей из train)
- Разделение: 90/10 (train/val)
Использование
from sentence_transformers import SentenceTransformer
model = SentenceTransformer("NikolayRainWay/modheel")
embeddings = model.encode(["Пример текста"], normalize_embeddings=True)
Лицензия
Apache 2.0
Визуализация
UMAP проекция эмбеддингов дообученной модели на датасете headline-classification:
