Update README.md
Browse files
README.md
CHANGED
|
@@ -1,29 +1,83 @@
|
|
| 1 |
---
|
| 2 |
-
|
| 3 |
-
|
| 4 |
-
|
| 5 |
-
|
| 6 |
-
|
| 7 |
-
|
| 8 |
-
|
| 9 |
-
|
| 10 |
-
|
| 11 |
-
|
| 12 |
-
|
| 13 |
-
|
| 14 |
-
|
| 15 |
-
dtype: string
|
| 16 |
-
- name: topic_score
|
| 17 |
-
dtype: float64
|
| 18 |
-
splits:
|
| 19 |
-
- name: train
|
| 20 |
-
num_bytes: 6574014
|
| 21 |
-
num_examples: 3407
|
| 22 |
-
download_size: 3516203
|
| 23 |
-
dataset_size: 6574014
|
| 24 |
-
configs:
|
| 25 |
-
- config_name: default
|
| 26 |
-
data_files:
|
| 27 |
-
- split: train
|
| 28 |
-
path: data/train-*
|
| 29 |
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
---
|
| 2 |
+
language:
|
| 3 |
+
- es
|
| 4 |
+
license: mit
|
| 5 |
+
size_categories:
|
| 6 |
+
- 1K<n<10K
|
| 7 |
+
source_datasets:
|
| 8 |
+
- thinkPy/oasst2-short-es
|
| 9 |
+
tags:
|
| 10 |
+
- topic-classification
|
| 11 |
+
- zero-shot-classification
|
| 12 |
+
- spanish
|
| 13 |
+
- oasst2
|
| 14 |
+
- latin-america
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 15 |
---
|
| 16 |
+
|
| 17 |
+
# oasst2-short-es-topics
|
| 18 |
+
|
| 19 |
+
Dataset de conversaciones cortas en español con clasificación automática de tópicos, derivado de [thinkPy/oasst2-short-es](https://huggingface.co/datasets/thinkPy/oasst2-short-es).
|
| 20 |
+
|
| 21 |
+
### Origen
|
| 22 |
+
|
| 23 |
+
[thinkPy/oasst2-short-es](https://huggingface.co/datasets/thinkPy/oasst2-short-es) es una versión en español de conversaciones cortas basadas en [OpenAssistant/oasst2](https://huggingface.co/datasets/OpenAssistant/oasst2). Este dataset toma una muestra aleatoria (`seed=42`) y agrega dos columnas de clasificación temática.
|
| 24 |
+
|
| 25 |
+
### Clasificación de tópicos
|
| 26 |
+
|
| 27 |
+
Se utilizó el modelo [MoritzLaurer/mDeBERTa-v3-base-mnli-xnli](https://huggingface.co/MoritzLaurer/mDeBERTa-v3-base-mnli-xnli) con zero-shot classification (NLI) sobre el primer mensaje del usuario, truncado a 128 caracteres hasta el primer punto.
|
| 28 |
+
|
| 29 |
+
#### Tópicos disponibles
|
| 30 |
+
|
| 31 |
+
| tópico | descripción |
|
| 32 |
+
|---|---|
|
| 33 |
+
| `tecnología` | programación, software, hardware, IA |
|
| 34 |
+
| `matemática` | álgebra, estadística, cálculo |
|
| 35 |
+
| `ciencia` | física, química, biología, investigación |
|
| 36 |
+
| `humanidades` | filosofía, lingüística, literatura |
|
| 37 |
+
| `historia` | eventos y personajes históricos |
|
| 38 |
+
| `cultura` | tradiciones, arte, música, gastronomía |
|
| 39 |
+
| `política` | gobierno, relaciones internacionales |
|
| 40 |
+
| `economía` | finanzas, mercados, emprendimiento |
|
| 41 |
+
| `salud` | medicina, bienestar, nutrición |
|
| 42 |
+
| `educación` | pedagogía, aprendizaje, academia |
|
| 43 |
+
| `sociedad` | relaciones, ética, vida cotidiana |
|
| 44 |
+
| `medio ambiente` | ecología, cambio climático, naturaleza |
|
| 45 |
+
| `entretenimiento` | cine, videojuegos, viajes |
|
| 46 |
+
| `deportes` | competencias, disciplinas, actividad física |
|
| 47 |
+
|
| 48 |
+
### Esquema
|
| 49 |
+
|
| 50 |
+
```json
|
| 51 |
+
{
|
| 52 |
+
"id": "0",
|
| 53 |
+
"messages": [
|
| 54 |
+
{"role": "user", "content": "..."},
|
| 55 |
+
{"role": "assistant", "content": "..."}
|
| 56 |
+
],
|
| 57 |
+
"lang": "es",
|
| 58 |
+
"topic": "cultura",
|
| 59 |
+
"topic_score": 0.7231
|
| 60 |
+
}
|
| 61 |
+
```
|
| 62 |
+
|
| 63 |
+
### Uso
|
| 64 |
+
|
| 65 |
+
```python
|
| 66 |
+
from datasets import load_dataset
|
| 67 |
+
|
| 68 |
+
ds = load_dataset("thinkPy/oasst2-short-es-topics", split="train")
|
| 69 |
+
|
| 70 |
+
# Filtrar por tópico
|
| 71 |
+
ds_cultura = ds.filter(lambda x: x["topic"] == "cultura")
|
| 72 |
+
|
| 73 |
+
# Descartar inciertos
|
| 74 |
+
ds_filtrado = ds.filter(lambda x: x["topic"] != "incierto")
|
| 75 |
+
|
| 76 |
+
# Filtrar por confianza
|
| 77 |
+
ds_alta_confianza = ds.filter(lambda x: x["topic_score"] >= 0.5)
|
| 78 |
+
```
|
| 79 |
+
|
| 80 |
+
### Limitaciones
|
| 81 |
+
|
| 82 |
+
- La clasificación es automática y puede contener errores, especialmente en textos ambiguos o muy cortos.
|
| 83 |
+
- Los ejemplos con `topic_score` bajo deben tratarse con cautela.
|