| --- |
| language: |
| - es |
| license: mit |
| size_categories: |
| - 1K<n<10K |
| source_datasets: |
| - thinkPy/oasst2-short-es |
| tags: |
| - topic-classification |
| - zero-shot-classification |
| - spanish |
| - oasst2 |
| - latin-america |
| dataset_info: |
| features: |
| - name: id |
| dtype: int64 |
| - name: messages |
| list: |
| - name: content |
| dtype: string |
| - name: role |
| dtype: string |
| - name: lang |
| dtype: string |
| - name: topic |
| dtype: string |
| - name: topic_score |
| dtype: float64 |
| splits: |
| - name: train |
| num_bytes: 6575115 |
| num_examples: 3407 |
| download_size: 3516555 |
| dataset_size: 6575115 |
| configs: |
| - config_name: default |
| data_files: |
| - split: train |
| path: data/train-* |
| --- |
| |
| # oasst2-short-es-topics |
|
|
| Dataset de conversaciones cortas en español con clasificación automática de tópicos, derivado de [thinkPy/oasst2-short-es](https://huggingface.co/datasets/thinkPy/oasst2-short-es). |
|
|
| ### Origen |
|
|
| [thinkPy/oasst2-short-es](https://huggingface.co/datasets/thinkPy/oasst2-short-es) es una versión en español de conversaciones cortas basadas en [OpenAssistant/oasst2](https://huggingface.co/datasets/OpenAssistant/oasst2). Este dataset toma una muestra aleatoria (`seed=42`) y agrega dos columnas de clasificación temática. |
|
|
| ### Clasificación de tópicos |
|
|
| Se utilizó el modelo [MoritzLaurer/mDeBERTa-v3-base-mnli-xnli](https://huggingface.co/MoritzLaurer/mDeBERTa-v3-base-mnli-xnli) con zero-shot classification (NLI) sobre el primer mensaje del usuario, truncado a 256 caracteres. |
|
|
| #### Tópicos disponibles |
|
|
| | tópico | descripción | |
| |---|---| |
| | `tecnología` | programación, software, hardware, IA | |
| | `matemática` | álgebra, estadística, cálculo | |
| | `ciencia` | física, química, biología, investigación | |
| | `humanidades` | filosofía, lingüística, literatura | |
| | `historia` | eventos y personajes históricos | |
| | `cultura` | tradiciones, arte, música, gastronomía | |
| | `política` | gobierno, relaciones internacionales | |
| | `economía` | finanzas, mercados, emprendimiento | |
| | `salud` | medicina, bienestar, nutrición | |
| | `educación` | pedagogía, aprendizaje, academia | |
| | `sociedad` | relaciones, ética, vida cotidiana | |
| | `medio ambiente` | ecología, cambio climático, naturaleza | |
| | `entretenimiento` | cine, videojuegos, viajes | |
| | `deportes` | competencias, disciplinas, actividad física | |
|
|
| ### Esquema |
|
|
| ```json |
| { |
| "id": "0", |
| "messages": [ |
| {"role": "user", "content": "..."}, |
| {"role": "assistant", "content": "..."} |
| ], |
| "lang": "es", |
| "topic": "cultura", |
| "topic_score": 0.7231 |
| } |
| ``` |
|
|
| ### Uso |
|
|
| ```python |
| from datasets import load_dataset |
| |
| ds = load_dataset("thinkPy/oasst2-short-es-topics", split="train") |
| |
| # Filtrar por tópico |
| ds_cultura = ds.filter(lambda x: x["topic"] == "cultura") |
| |
| # Filtrar por confianza |
| ds_alta_confianza = ds.filter(lambda x: x["topic_score"] >= 0.5) |
| ``` |
|
|
| ### Limitaciones |
|
|
| - La clasificación es automática y puede contener errores, especialmente en textos ambiguos o muy cortos. |
| - Los ejemplos con `topic_score` bajo deben tratarse con cautela. |
