--- language: - ru - en pipeline_tag: sentence-similarity tags: - russian - pretraining - embeddings - tiny - feature-extraction - sentence-similarity - sentence-transformers - transformers - mteb datasets: - IlyaGusev/gazeta - zloelias/lenta-ru - HuggingFaceFW/fineweb-2 - HuggingFaceFW/fineweb license: mit base_model: sergeyzh/rubert-tiny-lite --- Быстрая модель BERT для тематической классификации/кластеризации текстов. Модель получена дистилляцией эмбеддингов русских и английских текстов [BERTA](https://huggingface.co/sergeyzh/BERTA) в [rubert-tiny-lite](https://huggingface.co/sergeyzh/rubert-tiny-lite). Качество работы на английских текстах не проверялось. Основные характеристики модели: размер ембеддинга - 256, длина контекста - 512, слоёв - 3. ## Использование ```Python from sentence_transformers import SentenceTransformer model = SentenceTransformer('sergeyzh/rubert-tiny-topic') sentences = ["привет мир", "hello world", "здравствуй вселенная"] embeddings = model.encode(sentences) print(model.similarity(embeddings, embeddings)) ``` ## Пример кластеризации текстов по темам ```Python from sentence_transformers import SentenceTransformer, util from datasets import load_dataset dataset = load_dataset("ai-forever/rubq-reranking", split="test")[:100] phrases = [s[0] for s in dataset['positive']] model = SentenceTransformer('sergeyzh/rubert-tiny-topic', device='cpu') embeddings = model.encode(phrases, convert_to_tensor=True, show_progress_bar=True) community = util.community_detection(embeddings, threshold = 0.75, min_community_size = 3, batch_size = 1024, show_progress_bar = True) for id, ind_list in enumerate(community): for i in ind_list: print(id, '#', phrases[i][:100], '...') print('-' * 100) # 0 # Геркуле́совы столбы́ (лат. Columnae Herculis) — название, использовавшееся в Античности для обозначе ... # 0 # Кана́рские острова́ (исп. Las Islas Canarias) — архипелаг из семи островов вулканического происхожде ... # 0 # Большой каньон (Великий каньон, Гранд-Каньон; англ. Grand Canyon) — один из глубочайших каньонов в м ... # 0 # Вершина находится в Гималаях в хребте Махалангур-Химал, по которому проходит граница Непала и Тибетс ... # 0 # Пирене́йский полуо́стров (также Ибери́йский; исп. , порт. , галис. , астур. península Ibérica, баск. ... # 0 # Афо́н (греч. Άθως, в греческих источниках официально именуется Святая Гора, греч. Άγιο Όρος, «А́гио ... # 0 # Каледония (лат. Caledonia) — древнее название северной части острова Великобритания, к северу от вал ... # ---------------------------------------------------------------------------------------------------- # 1 # Нью-Йорк (англ. New York, произносится /nuː ˈjɔrk/, аббр. NY) — штат на северо-востоке США, на Атлан ... # 1 # Сент-Пи́терсберг (местное название St. Pete — Сент-Пит) — город в округе Пинелас штата Флорида, попу ... # 1 # Площадь территории Нигерии составляет 923 768 км2: по этому показателю страна занимает 14-е место в ... # 1 # Тегусига́льпа (исп. Tegucigalpa) — столица (с 1880) и крупнейший город Гондураса. Население — 1 682 ... # 1 # Брянск — город в России, административный центр Брянской области; город областного значения, образуе ... # ---------------------------------------------------------------------------------------------------- # 2 # Первая попытка исторического повествования в русской литературе встречается в повести Н. М. Карамзин ... # 2 # «Па́рус» («Белеет парус одинокой…») — стихотворение, написанное 18-летним Михаилом Лермонтовым в Пет ... # 2 # В противоположность героическим эпопеям Гомера и средневековым эпопеям, а также поэме Данте, «Потеря ... # 2 # «Чёрный человек» — поэма Сергея Есенина. Впервые опубликована в № 1 журнала «Новый мир» за январь 19 ... # 2 # Охватывая широкие временные рамки (включая период Франции с 1815 до 1832 года и жестоко подавленное ... # ---------------------------------------------------------------------------------------------------- # 3 # Танец с саблями — музыкальное произведение Арама Хачатуряна, написанное для последнего действия бале ... # 3 # 1938 — «Ромео и Джульетта» — балет на музыку С. С. ПрокофьеваМюзикл «West Side Story» (мировая премь ... # 3 # Музыкальный ряд фильма, состоящий из симфонической и хоровой музыки, представляет собой полноценное ... # 3 # В 1796 году Бетховен начинает терять слух. У него развивается тиннитус — воспаление внутреннего уха, ... # ---------------------------------------------------------------------------------------------------- # 4 # «Хижина дяди Тома» (англ. Uncle Tom's Cabin) — роман Гарриет Бичер-Стоу 1852 года, направленный прот ... # 4 # «Спартак» (итал. Spartaco) — исторический роман итальянского писателя Рафаэлло Джованьоли, написанны ... # 4 # «Карлик Нос» (нем. Der Zwerg Nase) — одна из самых известных сказок немецкого писателя Вильгельма Га ... # ---------------------------------------------------------------------------------------------------- # 5 # Зимний дворец (в 1918—1943 годах — Дворец Искусств) — главный императорский дворец России, расположе ... # 5 # Современное здание собора является четвёртым петербургским храмом в честь Исаакия Далматского, возве ... # 5 # Генуэ́зская кре́пость — средневековые укрепления в городе Феодосия (Крым), построенные Генуэзской ре ... # ---------------------------------------------------------------------------------------------------- # 6 # Лимпо́по (в верхнем течении Кро́кодайл) — река в Южной Африке на территории ЮАР, Ботсваны, Зимбабве ... # 6 # Уссу́ри (кит. 乌苏里江 — Усулицзян; маньчж. — «чёрная как сажа») — река в Приморском и Хабаровском краях ... # 6 # Находится на правом берегу Волгоградского водохранилища реки Волги напротив устья реки Саратовки и г ... # ---------------------------------------------------------------------------------------------------- ``` ## Метрики Оценки модели на задачах тематической классификации/кластеризации [MTEB](https://huggingface.co/spaces/mteb/leaderboard): |Model Name | Metric | FRIDA | [BERTA](https://huggingface.co/sergeyzh/BERTA) | [rubert-tiny-topic](https://huggingface.co/sergeyzh/rubert-tiny-topic) | multilingual-e5-large-instruct | bge-m3 | |:-------------------------------|:--------------------|----------:|----------:|--------------------:|---------------------:|----------------------:| |HeadlineClassification | Accuracy | **0.890** | **0.890** | 0.882 | 0.862 | 0.703 | |InappropriatenessClassification | Accuracy | **0.783** | 0.748 | 0.702 | 0.655 | 0.599 | |RuSciBenchGRNTIClassification | Accuracy | **0.699** | 0.690 | 0.668 | 0.651 | 0.558 | |RuSciBenchGRNTIClusteringP2P | V-measure | **0.674** | 0.650 | 0.617 | 0.622 | 0.508 | |RuSciBenchOECDClassification | Accuracy | 0.546 | **0.548** | 0.523 | 0.502 | 0.426 | |RuSciBenchOECDClusteringP2P | V-measure | **0.566** | 0.556 | 0.512 | 0.528 | 0.432 | |SensitiveTopicsClassification | Accuracy | 0.398 | **0.399** | 0.360 | 0.323 | 0.262 | |Average | Average | **0.651** | 0.640 | 0.609 | 0.592 | 0.498 |