enpaiva commited on
Commit
df0f4c3
·
verified ·
1 Parent(s): 68f488d

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +81 -27
README.md CHANGED
@@ -1,29 +1,83 @@
1
  ---
2
- dataset_info:
3
- features:
4
- - name: id
5
- dtype: int64
6
- - name: messages
7
- list:
8
- - name: content
9
- dtype: string
10
- - name: role
11
- dtype: string
12
- - name: lang
13
- dtype: string
14
- - name: topic
15
- dtype: string
16
- - name: topic_score
17
- dtype: float64
18
- splits:
19
- - name: train
20
- num_bytes: 6574014
21
- num_examples: 3407
22
- download_size: 3516203
23
- dataset_size: 6574014
24
- configs:
25
- - config_name: default
26
- data_files:
27
- - split: train
28
- path: data/train-*
29
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  ---
2
+ language:
3
+ - es
4
+ license: mit
5
+ size_categories:
6
+ - 1K<n<10K
7
+ source_datasets:
8
+ - thinkPy/oasst2-short-es
9
+ tags:
10
+ - topic-classification
11
+ - zero-shot-classification
12
+ - spanish
13
+ - oasst2
14
+ - latin-america
 
 
 
 
 
 
 
 
 
 
 
 
 
 
15
  ---
16
+
17
+ # oasst2-short-es-topics
18
+
19
+ Dataset de conversaciones cortas en español con clasificación automática de tópicos, derivado de [thinkPy/oasst2-short-es](https://huggingface.co/datasets/thinkPy/oasst2-short-es).
20
+
21
+ ### Origen
22
+
23
+ [thinkPy/oasst2-short-es](https://huggingface.co/datasets/thinkPy/oasst2-short-es) es una versión en español de conversaciones cortas basadas en [OpenAssistant/oasst2](https://huggingface.co/datasets/OpenAssistant/oasst2). Este dataset toma una muestra aleatoria (`seed=42`) y agrega dos columnas de clasificación temática.
24
+
25
+ ### Clasificación de tópicos
26
+
27
+ Se utilizó el modelo [MoritzLaurer/mDeBERTa-v3-base-mnli-xnli](https://huggingface.co/MoritzLaurer/mDeBERTa-v3-base-mnli-xnli) con zero-shot classification (NLI) sobre el primer mensaje del usuario, truncado a 128 caracteres hasta el primer punto.
28
+
29
+ #### Tópicos disponibles
30
+
31
+ | tópico | descripción |
32
+ |---|---|
33
+ | `tecnología` | programación, software, hardware, IA |
34
+ | `matemática` | álgebra, estadística, cálculo |
35
+ | `ciencia` | física, química, biología, investigación |
36
+ | `humanidades` | filosofía, lingüística, literatura |
37
+ | `historia` | eventos y personajes históricos |
38
+ | `cultura` | tradiciones, arte, música, gastronomía |
39
+ | `política` | gobierno, relaciones internacionales |
40
+ | `economía` | finanzas, mercados, emprendimiento |
41
+ | `salud` | medicina, bienestar, nutrición |
42
+ | `educación` | pedagogía, aprendizaje, academia |
43
+ | `sociedad` | relaciones, ética, vida cotidiana |
44
+ | `medio ambiente` | ecología, cambio climático, naturaleza |
45
+ | `entretenimiento` | cine, videojuegos, viajes |
46
+ | `deportes` | competencias, disciplinas, actividad física |
47
+
48
+ ### Esquema
49
+
50
+ ```json
51
+ {
52
+ "id": "0",
53
+ "messages": [
54
+ {"role": "user", "content": "..."},
55
+ {"role": "assistant", "content": "..."}
56
+ ],
57
+ "lang": "es",
58
+ "topic": "cultura",
59
+ "topic_score": 0.7231
60
+ }
61
+ ```
62
+
63
+ ### Uso
64
+
65
+ ```python
66
+ from datasets import load_dataset
67
+
68
+ ds = load_dataset("thinkPy/oasst2-short-es-topics", split="train")
69
+
70
+ # Filtrar por tópico
71
+ ds_cultura = ds.filter(lambda x: x["topic"] == "cultura")
72
+
73
+ # Descartar inciertos
74
+ ds_filtrado = ds.filter(lambda x: x["topic"] != "incierto")
75
+
76
+ # Filtrar por confianza
77
+ ds_alta_confianza = ds.filter(lambda x: x["topic_score"] >= 0.5)
78
+ ```
79
+
80
+ ### Limitaciones
81
+
82
+ - La clasificación es automática y puede contener errores, especialmente en textos ambiguos o muy cortos.
83
+ - Los ejemplos con `topic_score` bajo deben tratarse con cautela.