AngelPanizo commited on
Commit
2830f80
·
verified ·
1 Parent(s): 4a4db4c

Add BERTopic model

Browse files
README.md ADDED
@@ -0,0 +1,169 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+
2
+ ---
3
+ tags:
4
+ - bertopic
5
+ library_name: bertopic
6
+ pipeline_tag: text-classification
7
+ ---
8
+
9
+ # MARTINI_enrich_BERTopic_noalavacuna
10
+
11
+ This is a [BERTopic](https://github.com/MaartenGr/BERTopic) model.
12
+ BERTopic is a flexible and modular topic modeling framework that allows for the generation of easily interpretable topics from large datasets.
13
+
14
+ ## Usage
15
+
16
+ To use this model, please install BERTopic:
17
+
18
+ ```
19
+ pip install -U bertopic
20
+ ```
21
+
22
+ You can use the model as follows:
23
+
24
+ ```python
25
+ from bertopic import BERTopic
26
+ topic_model = BERTopic.load("AIDA-UPM/MARTINI_enrich_BERTopic_noalavacuna")
27
+
28
+ topic_model.get_topic_info()
29
+ ```
30
+
31
+ ## Topic overview
32
+
33
+ * Number of topics: 100
34
+ * Number of training documents: 16670
35
+
36
+ <details>
37
+ <summary>Click here for an overview of all topics.</summary>
38
+
39
+ | Topic ID | Topic Keywords | Topic Frequency | Label |
40
+ |----------|----------------|-----------------|-------|
41
+ | -1 | vacunados - gobierno - pandemia - espana - cualquier | 20 | -1_vacunados_gobierno_pandemia_espana |
42
+ | 0 | pfizer - farmaceuticas - companias - documentos - _125742_s1_m5_c4591001 | 11116 | 0_pfizer_farmaceuticas_companias_documentos |
43
+ | 1 | graphene - nanoparticulas - microburbujas - xfnano - magneticos | 262 | 1_graphene_nanoparticulas_microburbujas_xfnano |
44
+ | 2 | vacunados - negacionista - necesitamos - mascarilla - completamente | 219 | 2_vacunados_negacionista_necesitamos_mascarilla |
45
+ | 3 | pcr - covirus - parainfluenza - falsos - asintomaticos | 179 | 3_pcr_covirus_parainfluenza_falsos |
46
+ | 4 | crimea - mariupol - sputniknews - rusofobia - zakharova | 144 | 4_crimea_mariupol_sputniknews_rusofobia |
47
+ | 5 | 5g - radiaciones - electromagneticos - telefonos - frecuencia | 136 | 5_5g_radiaciones_electromagneticos_telefonos |
48
+ | 6 | vacunacion - consentimiento - abogadaderechosylibertades - obligatoria - prescribir | 113 | 6_vacunacion_consentimiento_abogadaderechosylibertades_obligatoria |
49
+ | 7 | sintomas - efectos - convulsiones - neuropatia - guillan | 107 | 7_sintomas_efectos_convulsiones_neuropatia |
50
+ | 8 | certificado - pasaporte - derechos - ciudadanos - ilegalidad | 106 | 8_certificado_pasaporte_derechos_ciudadanos |
51
+ | 9 | vacunaspediatria - menores - pfizer - prevenar - advirtieron | 105 | 9_vacunaspediatria_menores_pfizer_prevenar |
52
+ | 10 | pandemias - conspirador - soros - fundacion - seqirus | 100 | 10_pandemias_conspirador_soros_fundacion |
53
+ | 11 | francia - liberte - expulsados - hospitales - rejoignez | 98 | 11_francia_liberte_expulsados_hospitales |
54
+ | 12 | hidroxicloroquina - antiparasitico - ivermectin - remdesvir - medicamentos | 96 | 12_hidroxicloroquina_antiparasitico_ivermectin_remdesvir |
55
+ | 13 | ultima - draghi - templario - anticipadas - desmadre | 96 | 13_ultima_draghi_templario_anticipadas |
56
+ | 14 | vacunados - israelis - inmunideprimidos - lomasvistodelasemana - imbecilidad | 93 | 14_vacunados_israelis_inmunideprimidos_lomasvistodelasemana |
57
+ | 15 | vacunados - infectados - fauci - contagiarse - reinfeccion | 89 | 15_vacunados_infectados_fauci_contagiarse |
58
+ | 16 | fauci - conspiracion - infectar - laboratorio - sarsr | 87 | 16_fauci_conspiracion_infectar_laboratorio |
59
+ | 17 | fumigaciones - aviones - chemtrails - precipitaciones - troposfera | 86 | 17_fumigaciones_aviones_chemtrails_precipitaciones |
60
+ | 18 | beneficios - antioxidantes - desintoxicar - chlorella - parasitos | 85 | 18_beneficios_antioxidantes_desintoxicar_chlorella |
61
+ | 19 | miopericarditis - coronario - casos - inflamatorios - diagnosticados | 84 | 19_miopericarditis_coronario_casos_inflamatorios |
62
+ | 20 | vacunados - residencias - fallecido - coronavirus - huelva | 83 | 20_vacunados_residencias_fallecido_coronavirus |
63
+ | 21 | satanicos - illuminati - pedofila - ghislaine - victimas | 82 | 21_satanicos_illuminati_pedofila_ghislaine |
64
+ | 22 | muertes - sinovac - noviembre - complicaciones - 2021 | 80 | 22_muertes_sinovac_noviembre_complicaciones |
65
+ | 23 | bancos - monetario - comenzara - transacciones - xrp | 80 | 23_bancos_monetario_comenzara_transacciones |
66
+ | 24 | climaticos - greenpeace - medioambiental - carbono - noticias_disidentes | 77 | 24_climaticos_greenpeace_medioambiental_carbono |
67
+ | 25 | subiremos - buscarlos - agradeceriamos - copiarlo - youtvbe | 76 | 25_subiremos_buscarlos_agradeceriamos_copiarlo |
68
+ | 26 | canadienses - trudeau - convoy - libertad - arrivecan | 76 | 26_canadienses_trudeau_convoy_libertad |
69
+ | 27 | denuncia - nuremberg - genocidio - fraudulentos - dieselgate | 74 | 27_denuncia_nuremberg_genocidio_fraudulentos |
70
+ | 28 | covidvaccinevictims - died - injection - february - stroke | 71 | 28_covidvaccinevictims_died_injection_february |
71
+ | 29 | djokovic - monfils - tenistas - australiano - respiratorias | 68 | 29_djokovic_monfils_tenistas_australiano |
72
+ | 30 | melilla - inmigrantes - canarias - agresiones - algeciras | 64 | 30_melilla_inmigrantes_canarias_agresiones |
73
+ | 31 | globalismo - ocultaremos - objetivo - illuminati - corporaciones | 63 | 31_globalismo_ocultaremos_objetivo_illuminati |
74
+ | 32 | libertad - comprenderas - ignorantes - decapitamos - 1wga | 59 | 32_libertad_comprenderas_ignorantes_decapitamos |
75
+ | 33 | escuelas - denunciaremos - mascarilla - decreto - obligatorio | 58 | 33_escuelas_denunciaremos_mascarilla_decreto |
76
+ | 34 | vaxpass - implantado - nanobots - microchip - biometricos | 56 | 34_vaxpass_implantado_nanobots_microchip |
77
+ | 35 | mascarillas - respiracion - contaminadas - tapaoxigeno - nariz | 56 | 35_mascarillas_respiracion_contaminadas_tapaoxigeno |
78
+ | 36 | denunciadas - corrupcion - juez - audiencia - seguidores | 55 | 36_denunciadas_corrupcion_juez_audiencia |
79
+ | 37 | vacunadas - abortar - fertilidad - pfizer - intrauterina | 55 | 37_vacunadas_abortar_fertilidad_pfizer |
80
+ | 38 | bioweapon - biolaboratorios - lugansk - crimea - antrax | 54 | 38_bioweapon_biolaboratorios_lugansk_crimea |
81
+ | 39 | vacinados - hospitalizaciones - ciento - confermati - datos | 53 | 39_vacinados_hospitalizaciones_ciento_confermati |
82
+ | 40 | futbolistas - muertes - desfibrilador - ataques - periocarditis | 52 | 40_futbolistas_muertes_desfibrilador_ataques |
83
+ | 41 | noticias - puigdemont - presidencia - espana - anticorrupcion | 52 | 41_noticias_puigdemont_presidencia_espana |
84
+ | 42 | vaers - efectos - eudravigilance - reportados - hospitalizacion | 51 | 42_vaers_efectos_eudravigilance_reportados |
85
+ | 43 | presidencia - insurreccion - bannon - superpotencia - doj | 50 | 43_presidencia_insurreccion_bannon_superpotencia |
86
+ | 44 | thimerosal - venenosos - ingredientes - formaldehido - hexadeciltrimetilamonio | 50 | 44_thimerosal_venenosos_ingredientes_formaldehido |
87
+ | 45 | aviones - pilots - aerolinea - copiloto - pasajeros | 47 | 45_aviones_pilots_aerolinea_copiloto |
88
+ | 46 | twitter - censoras - starlink - reinstauradas - usuarios | 47 | 46_twitter_censoras_starlink_reinstauradas |
89
+ | 47 | virologos - hcov - sars - laboratorio - recogidas | 45 | 47_virologos_hcov_sars_laboratorio |
90
+ | 48 | facebook - fakebuk - thevigilantfox - verificadores - censura | 44 | 48_facebook_fakebuk_thevigilantfox_verificadores |
91
+ | 49 | medicos - respetos - encubrimientos - infoxicacion - agresiones | 44 | 49_medicos_respetos_encubrimientos_infoxicacion |
92
+ | 50 | geneticamente - infecciosas - supremo - eliminando - patentarse | 43 | 50_geneticamente_infecciosas_supremo_eliminando |
93
+ | 51 | vacunadas - incidencia - hospitalizadas - fallecido - noviembre | 42 | 51_vacunadas_incidencia_hospitalizadas_fallecido |
94
+ | 52 | hijos - castrarlos - demonios - pertenecemos - torturado | 42 | 52_hijos_castrarlos_demonios_pertenecemos |
95
+ | 53 | futbolista - infarto - muere - patricio - ahmet | 42 | 53_futbolista_infarto_muere_patricio |
96
+ | 54 | muerte - repentinitis - ciclista - baloncesto - caso | 42 | 54_muerte_repentinitis_ciclista_baloncesto |
97
+ | 55 | infarto - saulo - reanimarlo - fulminante - teresina | 40 | 55_infarto_saulo_reanimarlo_fulminante |
98
+ | 56 | monkeypox - polivacunados - varicela - diagnosticados - reconocemos | 38 | 56_monkeypox_polivacunados_varicela_diagnosticados |
99
+ | 57 | pandemias - constituciones - obligatorias - internacional - ghebreyesus | 38 | 57_pandemias_constituciones_obligatorias_internacional |
100
+ | 58 | sanitariospublicos - hipocratico - reanimarlos - silencio - morirme | 37 | 58_sanitariospublicos_hipocratico_reanimarlos_silencio |
101
+ | 59 | mascarillas - obligatoriedad - decreto - sabiamos - norma | 37 | 59_mascarillas_obligatoriedad_decreto_sabiamos |
102
+ | 60 | video_sobre_resultados_clinicos_sanguineos_post_inoculacion - inoculados - microcoagulos - embalsadores - sanguinea | 36 | 60_video_sobre_resultados_clinicos_sanguineos_post_inoculacion_inoculados_microcoagulos_embalsadores |
103
+ | 61 | francia - macron - sionista - guillotinarlo - elysees | 35 | 61_francia_macron_sionista_guillotinarlo |
104
+ | 62 | manifestacion - convocatorias - apuntamos - tenerife - sabado | 35 | 62_manifestacion_convocatorias_apuntamos_tenerife |
105
+ | 63 | inoculados - anafilactico - adenovirus - exosomas - desactivaran | 35 | 63_inoculados_anafilactico_adenovirus_exosomas |
106
+ | 64 | vacunaty - pfizer - pulsaciones - 40anos - alergia | 34 | 64_vacunaty_pfizer_pulsaciones_40anos |
107
+ | 65 | conspiraciones - escandalizando - mediaticamente - escribiendo - destruirte | 34 | 65_conspiraciones_escandalizando_mediaticamente_escribiendo |
108
+ | 66 | alienigenas - civilizaciones - oscuros - planetas - meditaciones | 34 | 66_alienigenas_civilizaciones_oscuros_planetas |
109
+ | 67 | bildelberg - davos - gobiernos - neoconservadurismo - inmunizarnos | 32 | 67_bildelberg_davos_gobiernos_neoconservadurismo |
110
+ | 68 | vaers - causadas - grafico - movimientoaurora - minusvalidas | 31 | 68_vaers_causadas_grafico_movimientoaurora |
111
+ | 69 | islandia - restricciones - schengen - reintroducido - paraguay | 31 | 69_islandia_restricciones_schengen_reintroducido |
112
+ | 70 | ratificadas - derechos - falsificacion - pcr - discriminacion | 31 | 70_ratificadas_derechos_falsificacion_pcr |
113
+ | 71 | diputado - steegmannaprision - votantes - vacunofilo - desautorizado | 31 | 71_diputado_steegmannaprision_votantes_vacunofilo |
114
+ | 72 | transhumanista - cyborgs - superordenador - neuronas - hibrido | 29 | 72_transhumanista_cyborgs_superordenador_neuronas |
115
+ | 73 | canibalismo - abortados - feti - celulas - pepsico | 28 | 73_canibalismo_abortados_feti_celulas |
116
+ | 74 | terremotos - tsunami - evacuados - huracanes - siria | 27 | 74_terremotos_tsunami_evacuados_huracanes |
117
+ | 75 | inmunizate - derrumbaremos - julio - bolsonaristas - segunda | 27 | 75_inmunizate_derrumbaremos_julio_bolsonaristas |
118
+ | 76 | europarlamentario - escandalo - covidvax - ursula - contratos | 27 | 76_europarlamentario_escandalo_covidvax_ursula |
119
+ | 77 | australianos - disidentes - antiplandemia - bloquearon - libertyonlinenews | 26 | 77_australianos_disidentes_antiplandemia_bloquearon |
120
+ | 78 | bolsonaro - gobernadores - cuiaba - inmunizador - auditorias | 25 | 78_bolsonaro_gobernadores_cuiaba_inmunizador |
121
+ | 79 | hospitalizaciones - incidencia - porcentaje - datos - municipios | 25 | 79_hospitalizaciones_incidencia_porcentaje_datos |
122
+ | 80 | gazprom - nordstream - sanciones - zelenskyi - refineria | 24 | 80_gazprom_nordstream_sanciones_zelenskyi |
123
+ | 81 | vacunarse - australiano - cuarentenas - queensland - sydney | 24 | 81_vacunarse_australiano_cuarentenas_queensland |
124
+ | 82 | afectadosporlasvacunas - saludyjusticiacordoba - victimas - unionactivavalencia22 - necesitamos | 23 | 82_afectadosporlasvacunas_saludyjusticiacordoba_victimas_unionactivavalencia22 |
125
+ | 83 | eternidad - silencio - corazones - ignacianos - ejercicios | 23 | 83_eternidad_silencio_corazones_ignacianos |
126
+ | 84 | astrazeneca - mhra - alergicas - notificadas - 242 | 23 | 84_astrazeneca_mhra_alergicas_notificadas |
127
+ | 85 | fallece - almeria - exjugador - rodero - desconocidas | 23 | 85_fallece_almeria_exjugador_rodero |
128
+ | 86 | biden - timespublico - sobrina - prosecutor - pornografica | 23 | 86_biden_timespublico_sobrina_prosecutor |
129
+ | 87 | microorganismos - virus - influenciadas - existiriamos - refutada | 22 | 87_microorganismos_virus_influenciadas_existiriamos |
130
+ | 88 | electricidad - hidroelectrica - desabastecimientos - lluvias - outages | 22 | 88_electricidad_hidroelectrica_desabastecimientos_lluvias |
131
+ | 89 | policias - manifestantes - subdelegacion - armados - madrid | 22 | 89_policias_manifestantes_subdelegacion_armados |
132
+ | 90 | estupidos - eugenista - futuro - poblacion - francia | 21 | 90_estupidos_eugenista_futuro_poblacion |
133
+ | 91 | telegram - notificaciones - policiasporlalibertad - descargada - censora | 21 | 91_telegram_notificaciones_policiasporlalibertad_descargada |
134
+ | 92 | inmunizados - mascarillas - estrategia - psicosomatico - perniciosas | 21 | 92_inmunizados_mascarillas_estrategia_psicosomatico |
135
+ | 93 | miguelangel_laquintacolumna - subtitulada - grupo - contribuir - universidad | 21 | 93_miguelangel_laquintacolumna_subtitulada_grupo_contribuir |
136
+ | 94 | mierdas - enganado - excepcionales - faltaba - arrepentirse | 20 | 94_mierdas_enganado_excepcionales_faltaba |
137
+ | 95 | noticias_disidentes - dormir - globalistas - ultrarrelajantes - necesitamos | 20 | 95_noticias_disidentes_dormir_globalistas_ultrarrelajantes |
138
+ | 96 | partitocratico - democratizar - votaciones - marxistas - cambiamos | 20 | 96_partitocratico_democratizar_votaciones_marxistas |
139
+ | 97 | ozonoterapia - recuperadas - olmedo - movimiento_asistencia_integral - castellon | 20 | 97_ozonoterapia_recuperadas_olmedo_movimiento_asistencia_integral |
140
+ | 98 | extorsionador - publicaros - eduardo - borjajimenezde - difamacion | 20 | 98_extorsionador_publicaros_eduardo_borjajimenezde |
141
+
142
+ </details>
143
+
144
+ ## Training hyperparameters
145
+
146
+ * calculate_probabilities: True
147
+ * language: None
148
+ * low_memory: False
149
+ * min_topic_size: 10
150
+ * n_gram_range: (1, 1)
151
+ * nr_topics: None
152
+ * seed_topic_list: None
153
+ * top_n_words: 10
154
+ * verbose: False
155
+ * zeroshot_min_similarity: 0.7
156
+ * zeroshot_topic_list: None
157
+
158
+ ## Framework versions
159
+
160
+ * Numpy: 1.26.4
161
+ * HDBSCAN: 0.8.40
162
+ * UMAP: 0.5.7
163
+ * Pandas: 2.2.3
164
+ * Scikit-Learn: 1.5.2
165
+ * Sentence-transformers: 3.3.1
166
+ * Transformers: 4.46.3
167
+ * Numba: 0.60.0
168
+ * Plotly: 5.24.1
169
+ * Python: 3.10.12
config.json ADDED
@@ -0,0 +1,16 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "calculate_probabilities": true,
3
+ "language": null,
4
+ "low_memory": false,
5
+ "min_topic_size": 10,
6
+ "n_gram_range": [
7
+ 1,
8
+ 1
9
+ ],
10
+ "nr_topics": null,
11
+ "seed_topic_list": null,
12
+ "top_n_words": 10,
13
+ "verbose": false,
14
+ "zeroshot_min_similarity": 0.7,
15
+ "zeroshot_topic_list": null
16
+ }
ctfidf.safetensors ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:a65eaefb5590233b6218b62cc5db5b4d85ca92a0fe0fb3c46c3aa584f2042ba2
3
+ size 2778304
ctfidf_config.json ADDED
The diff for this file is too large to render. See raw diff
 
topic_embeddings.safetensors ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:714c70f1bf1a977acb5dfe24f2ef148bc654ef17203d89045aaea367bb3354c0
3
+ size 409696
topics.json ADDED
The diff for this file is too large to render. See raw diff