oasst2-es-3k-topics / README.md
enpaiva's picture
Update README.md
67c534f verified
|
Raw
History Blame Contribute Delete
3.02 kB
metadata
language:
  - es
license: mit
size_categories:
  - 1K<n<10K
source_datasets:
  - thinkPy/oasst2-short-es
tags:
  - topic-classification
  - zero-shot-classification
  - spanish
  - oasst2
  - latin-america
dataset_info:
  features:
    - name: id
      dtype: int64
    - name: messages
      list:
        - name: content
          dtype: string
        - name: role
          dtype: string
    - name: lang
      dtype: string
    - name: topic
      dtype: string
    - name: topic_score
      dtype: float64
  splits:
    - name: train
      num_bytes: 6575115
      num_examples: 3407
  download_size: 3516555
  dataset_size: 6575115
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*

oasst2-short-es-topics

Dataset de conversaciones cortas en español con clasificación automática de tópicos, derivado de thinkPy/oasst2-short-es.

Origen

thinkPy/oasst2-short-es es una versión en español de conversaciones cortas basadas en OpenAssistant/oasst2. Este dataset toma una muestra aleatoria (seed=42) y agrega dos columnas de clasificación temática.

Clasificación de tópicos

Se utilizó el modelo MoritzLaurer/mDeBERTa-v3-base-mnli-xnli con zero-shot classification (NLI) sobre el primer mensaje del usuario, truncado a 256 caracteres.

Tópicos disponibles

tópico descripción
tecnología programación, software, hardware, IA
matemática álgebra, estadística, cálculo
ciencia física, química, biología, investigación
humanidades filosofía, lingüística, literatura
historia eventos y personajes históricos
cultura tradiciones, arte, música, gastronomía
política gobierno, relaciones internacionales
economía finanzas, mercados, emprendimiento
salud medicina, bienestar, nutrición
educación pedagogía, aprendizaje, academia
sociedad relaciones, ética, vida cotidiana
medio ambiente ecología, cambio climático, naturaleza
entretenimiento cine, videojuegos, viajes
deportes competencias, disciplinas, actividad física

Esquema

{
  "id": "0",
  "messages": [
    {"role": "user", "content": "..."},
    {"role": "assistant", "content": "..."}
  ],
  "lang": "es",
  "topic": "cultura",
  "topic_score": 0.7231
}

Uso

from datasets import load_dataset

ds = load_dataset("thinkPy/oasst2-short-es-topics", split="train")

# Filtrar por tópico
ds_cultura = ds.filter(lambda x: x["topic"] == "cultura")

# Filtrar por confianza
ds_alta_confianza = ds.filter(lambda x: x["topic_score"] >= 0.5)

Limitaciones

  • La clasificación es automática y puede contener errores, especialmente en textos ambiguos o muy cortos.
  • Los ejemplos con topic_score bajo deben tratarse con cautela.