Add BERTopic model

.gitattributes

@@ -33,3 +33,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
 *.zip filter=lfs diff=lfs merge=lfs -text
 *.zst filter=lfs diff=lfs merge=lfs -text
 *tfevents* filter=lfs diff=lfs merge=lfs -text
+ctfidf_config.json filter=lfs diff=lfs merge=lfs -text

README.md

@@ -0,0 +1,97 @@
+
+---
+tags:
+- bertopic
+library_name: bertopic
+pipeline_tag: text-classification
+---
+
+# BERTopicTelegramAnalysis
+
+This is a [BERTopic](https://github.com/MaartenGr/BERTopic) model. 
+BERTopic is a flexible and modular topic modeling framework that allows for the generation of easily interpretable topics from large datasets. 
+
+## Usage 
+
+To use this model, please install BERTopic:
+
+```
+pip install -U bertopic
+```
+
+You can use the model as follows:
+
+```python
+from bertopic import BERTopic
+topic_model = BERTopic.load("kdot/BERTopicTelegramAnalysis")
+
+topic_model.get_topic_info()
+```
+
+## Topic overview
+
+* Number of topics: 30
+* Number of training documents: 339650
+
+<details>
+  <summary>Click here for an overview of all topics.</summary>
+  
+  | Topic ID | Topic Keywords | Topic Frequency | Label | 
+|----------|----------------|-----------------|-------| 
+| -1 | это - швейцарии - день - нужно - пожалуйста | 50 | -1_это_швейцарии_день_нужно | 
+| 0 | швейцарии - україни - швейцарії - украину - украины | 181315 | 0_швейцарии_україни_швейцарії_украину | 
+| 1 | беженцев - лагере - лагерь - кантоне - кантона | 38579 | 1_беженцев_лагере_лагерь_кантоне | 
+| 2 | страховку - страховка - страховки - соц - франков | 33469 | 2_страховку_страховка_страховки_соц | 
+| 3 | квартиру - жилье - жилья - квартиры - жильё | 13553 | 3_квартиру_жилье_жилья_квартиры | 
+| 4 | билет - поезд - билеты - чемодан - автобус | 9189 | 4_билет_поезд_билеты_чемодан | 
+| 5 | стоматолога - зуб - врача - врач - врачу | 8665 | 5_стоматолога_зуб_врача_врач | 
+| 6 | паспорт - паспорта - статус - статуса - паспорту | 7180 | 6_паспорт_паспорта_статус_статуса | 
+| 7 | чат - война - войны - штраф - полицию | 6898 | 7_чат_война_войны_штраф | 
+| 8 | действие - ссылку авторизации - послал ссылку - info moving - авторизации | 6630 | 8_действие_ссылку авторизации_послал ссылку_info moving | 
+| 9 | магазин - магазины - caritas - магазинах - купить | 4598 | 9_магазин_магазины_caritas_магазинах | 
+| 10 | языка - школу - язык - програмування - англійської | 4310 | 10_языка_школу_язык_програмування | 
+| 11 | очки - парикмахера - окуляри - парикмахер - перукаря | 3730 | 11_очки_парикмахера_окуляри_парикмахер | 
+| 12 | sem - письмо - адрес - почту - почте | 3107 | 12_sem_письмо_адрес_почту | 
+| 13 | велосипед - коляска - велосипеда - коляску - самокат | 2794 | 13_велосипед_коляска_велосипеда_коляску | 
+| 14 | пластик - мусора - мусор - пластика - молоко | 2376 | 14_пластик_мусора_мусор_пластика | 
+| 15 | рождении - семьи - развод - воссоединение - свидетельство | 2026 | 15_рождении_семьи_развод_воссоединение | 
+| 16 | размер - обувь - розмір - взуття - одежда | 1719 | 16_размер_обувь_розмір_взуття | 
+| 17 | йога - занятия - йоги - инструктор - занятие | 1470 | 17_йога_занятия_йоги_инструктор | 
+| 18 | sbb - карту - приложение - приложении - гугл | 1458 | 18_sbb_карту_приложение_приложении | 
+| 19 | месяца - недели - дней - сентября - месяц | 1292 | 19_месяца_недели_дней_сентября | 
+| 20 | ukraine_reborn - організовує_ukraine_reborn - массаж - сторінка facebook - montbrillant 52 | 1183 | 20_ukraine_reborn_організовує_ukraine_reborn_массаж_сторінка facebook | 
+| 21 | бассейн - пляж - озера - басейн - бассейны | 1096 | 21_бассейн_пляж_озера_басейн | 
+| 22 | юриста - юрист - адвоката - адвокат - юристы | 937 | 22_юриста_юрист_адвоката_адвокат | 
+| 23 | телефон - iphone - айфон - pro - продам | 590 | 23_телефон_iphone_айфон_pro | 
+| 24 | грибы - грибов - гриби - грибів - клубнику | 554 | 24_грибы_грибов_гриби_грибів | 
+| 25 | книги - бібліотеці - принтер - книжки - распечатать | 342 | 25_книги_бібліотеці_принтер_книжки | 
+| 26 | 60 сек - 1inch - 1inch network - сек - зазначеного вилучені | 329 | 26_60 сек_1inch_1inch network_сек | 
+| 27 | господа - господь - псалом - бог - ибо | 144 | 27_господа_господь_псалом_бог | 
+| 28 | sem - asylg - ст - течение квартала - нуждающееся защите | 67 | 28_sem_asylg_ст_течение квартала |
+  
+</details>
+
+## Training hyperparameters
+
+* calculate_probabilities: False
+* language: multilingual
+* low_memory: False
+* min_topic_size: 10
+* n_gram_range: (1, 1)
+* nr_topics: 30
+* seed_topic_list: None
+* top_n_words: 10
+* verbose: True
+
+## Framework versions
+
+* Numpy: 1.24.4
+* HDBSCAN: 0.8.33
+* UMAP: 0.5.4
+* Pandas: 2.0.3
+* Scikit-Learn: 1.0.2
+* Sentence-transformers: 2.2.2
+* Transformers: 4.33.2
+* Numba: 0.58.0
+* Plotly: 5.17.0
+* Python: 3.8.10

config.json

@@ -0,0 +1,15 @@
+{
+  "calculate_probabilities": false,
+  "language": "multilingual",
+  "low_memory": false,
+  "min_topic_size": 10,
+  "n_gram_range": [
+    1,
+    1
+  ],
+  "nr_topics": 30,
+  "seed_topic_list": null,
+  "top_n_words": 10,
+  "verbose": true,
+  "embedding_model": "sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2"
+}

ctfidf.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:e93bcf3534edd1053e85c1843e510d934d755fe50795f90020f20a7d52263350
+size 81373788

ctfidf_config.json

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:e3aced28b7d073c64eff944c9c04cf12149164269155d2a6441ff921961d927f
+size 347367817

topic_embeddings.safetensors

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:5eddcd353514238c4a43d37c21dafc5ef851086f75844d5711bf16a5af4e732f
+size 46168