ussipan/sipangpt-V2

SipánGPT-v2: Dataset Conversacional de Soporte Técnico y Normativa Universitaria (USS)

---

🌟 1. Descripción General y Misión del Proyecto

Este repositorio aloja la versión 2 (V2 - 2026) del dataset de diálogo conversacional supervisado para el entrenamiento por ajuste fino (Fine-Tuning) y evaluación de SipánGPT, el Asistente Virtual Oficial de la Universidad Señor de Sipán (USS) (Chiclayo, Lambayeque, Perú), basado en inteligencia artificial generativa.

El proyecto completo, incluyendo la plataforma web conversacional en Next.js 16, la base de datos vectorial en Neon PostgreSQL y la arquitectura RAG Sipán-STAIR, se encuentra alojado en GitHub:
🔗 Repositorio Principal: https://github.com/jhangmez/sipangpt/tree/feature/V2

Tesis de Investigación Vinculada:

"Chatbot basado en Transformers como asistente de soporte técnico y normativo universitario (Universidad Señor de Sipán)".

A diferencia de la V1 (enfocada en reglamentos generales en texto plano), la V2 implementa una fábrica controlada de datos sintéticos de alta fidelidad basada en:

• Exactamente 400 conversaciones balanceadas y auditadas bajo esquemas Pydantic estrictos.
• Segmentación atómica de 13 manuales institucionales actualizados (2020–2026) divididos en 267 bloques temáticos, preservando interpretaciones técnicas de tablas y capturas de pantallas de sistemas.
• 3 Arquetipos de usuario reales (incluyendo modismos coloquiales peruanos para desescalar frustraciones).
• Formato Dual Nativo (ShareGPT + ChatML): Compatible al 100% e inmediatamente con Unsloth y Gemma 4 en Kaggle / Google Colab sin requerir transformaciones intermedias.

---

🧬 2. Ecosistema de Tres Fases del Proyecto

El desarrollo de SipánGPT se articula en una cadena de ingeniería continua de tres fases:

flowchart LR
    subgraph FASE1 ["📄 FASE 1: Ingesta & Transcripción"]
        A["13 Manuales y Reglamentos USS (PDF/.url)"] --> B["Pipeline Gemini OCR/Transcripción"]
        B --> C["Corpus Normalizado en Markdown (.md)"]
    end
    subgraph FASE2 ["🧪 FASE 2: Síntesis ShareGPT"]
        C --> D["267 Secciones Semánticas Atómicas"]
        D --> E["Fábrica de Datos Sintéticos (Gemini + Pydantic)"]
        E --> F["Dataset 400 Diálogos (ShareGPT / Unsloth)"]
    end
    subgraph FASE3 ["🚀 FASE 3 / APLICACIÓN: SipánGPT"]
        C -. Corpus Base .-> G["Motor RAG Sipán-STAIR (Neon PostgreSQL)"]
        F -. Fine-Tuning Gemma 4 .-> H["Modelos Locales & en la Nube"]
        G --> I["Plataforma Conversacional Web (Next.js 16)"]
        H --> I
    end

Fase	Repositorio Oficial	Rol y Contribución	Tecnologías
Fase 1	codigo_para_generar_dataset_finetuning	Ingesta y Transcripción Técnica: Descarga y transcripción estructurada de 13 manuales PDF a Markdown con Google Gemini, interpretando tablas y pantallas de interfaz.	Python 3.10+, google-genai, pypdf, Pydantic
Fase 2	codigo_para_sintesis_dataset_sharegpt	Fábrica de Síntesis Controlada: Generación determinista de 400 conversaciones balanceadas (ShareGPT / ChatML) con control de cuotas y 3 arquetipos lingüísticos.	Python 3.10+, Gemini Structured Outputs, Unsloth, ShareGPT
Fase 3	sipangpt (feature/V2)	Plataforma Integral y Benchmark: Chatbot Next.js 16, RAG Jerárquico Sipán-STAIR, Fine-Tuning con Gemma 4 y comparación evaluativa.	Next.js 16, Vercel AI SDK 7, Neon PostgreSQL, Unsloth

---

📊 3. Matriz de Cuotas y Distribución Metodológica (400 Conversaciones)

El dataset está estratificado matemáticamente en un 70% monoturno (280 diálogos) y un 30% multiturno (120 diálogos) entre los 5 módulos institucionales clave:

Módulo Temático	Documentos Oficiales Fuente	Total Diálogos	Monoturno (70%)	Multiturno (30%)	Estado Auditoría
Campus Virtual y Aprendizaje	5 manuales (Aula Virtual, Aprendizaje Virtual, Gestión Docente, Zoom Docentes y Estudiantes)	130	91	39	✅ 100% Cumplido
Matrícula y Registros	3 manuales y reglamentos (Matrícula en Línea, Registros Académicos, Reglamento de Matrícula)	110	77	33	✅ 100% Cumplido
Pagos y Cobranzas	2 manuales y reglamentos (Pagos Virtuales Visa/Yape/Plin, Reglamento de Cobranzas)	70	49	21	✅ 100% Cumplido
Normativa y Trámites	2 reglamentos institucionales (Reglamento del Estudiante, Reglamento de Grados y Títulos)	55	39	16	✅ 100% Cumplido
Biblioteca Virtual	1 manual (Sistema de Biblioteca y Catálogo en Línea)	35	24	11	✅ 100% Cumplido
TOTAL CONSOLIDADO	13 manuales y reglamentos normalizados	400	280 (70.0%)	120 (30.0%)	🏆 100% Validado

---

🎭 4. Diversidad Lingüística: Arquetipos de Usuario

Para asegurar que SipánGPT aprenda a responder a usuarios humanos reales y no solo a peticiones formularias, se modelaron 3 arquetipos en proporción equilibrada (1:1:1):

1. frustrado_informal (134 diálogos / 33.5%):
   Estudiantes universitarios que escriben con urgencia y modismos peruanos ("oe", "pucha", "se colgó el campus", "no me sale el botón de rectificación", "el profe no abre la sala de Zoom"). SipánGPT desescala la frustración con empatía y guía procedimental paso a paso.
2. formal_protocolar (133 diálogos / 33.2%):
   Estudiantes, graduados o postulantes con redacción institucional formal ("Estimados señores de soporte...", "A través de la presente solicito orientación sobre los requisitos y plazos para la sustentación de tesis...").
3. docente (133 diálogos / 33.2%):
   Catedráticos de pregrado y posgrado enfocados en operatividad académica: actas de notas, enlaces Zoom recurrentes vinculados al Aula Virtual, registro de asistencias y entrega de sílabos.

---

📚 5. Documentos Oficiales Fuente (Universidad Señor de Sipán)

El dataset fue sintetizado y contrastado contra 13 manuales y reglamentos oficiales normalizados en Markdown (89,907 palabras), segmentados en 267 bloques temáticos atómicos:

A. Campus Virtual y Aprendizaje

• Manual de Usuario Sistema de Aprendizaje Virtual - Estudiantes (2024)
• Manual del Aula Virtual para Docentes (2026)
• Manual de Usuario Sistema de Gestión Docente - Campus Virtual (2025)
• Manual de Videoconferencia Zoom para Docentes (2020)
• Manual de Videoconferencia Zoom para Estudiantes (2020)

B. Matrícula y Registros Académicos

• Manual de Usuario Sistema de Matrícula en Línea (2026)
• Manual de Usuario Sistema de Registros Académicos - Estudiante y Egresado (2025)
• Reglamento General de Matrícula USS (2025)

C. Pagos y Cobranzas

• Manual de Usuario Sistema de Pagos Virtuales (2026)
• Reglamento de Cobranzas de la Universidad Señor de Sipán (2026)

D. Normativa y Trámites Institucionales

• Reglamento del Estudiante USS (2025)
• Reglamento General de Grados y Títulos USS (2025)

E. Biblioteca Virtual

• Manual de Usuario Sistema de Gestión de Biblioteca - Catálogo en Línea (2025)

---

⚙️ 6. Estructura de Datos: Formato Dual Nativo

Cada registro del archivo dataset_consolidado.jsonl contiene tanto la representación ShareGPT como la ChatML / Hugging Face, garantizando cero fricción técnica al cargar los datos:

{
  "id": "uss_camp_001",
  "module": "Campus Virtual y Aprendizaje",
  "turn_type": "single_turn",
  "metadata": {
    "source_doc": "manual_aprendizaje_virtual_estudiantes_2024.pdf",
    "module": "Campus Virtual y Aprendizaje",
    "topic": "Consulta sobre el propósito y acceso al sistema de aprendizaje virtual USS",
    "archetype": "frustrado_informal",
    "turn_type": "single_turn",
    "year": 2024,
    "section_title": "PRESENTACIÓN"
  },
  "conversations": [
    {
      "from": "system",
      "value": "Eres SipánGPT, el Asistente Virtual Oficial de la Universidad Señor de Sipán (USS) basado en inteligencia artificial generativa, experto en soporte técnico informático, plataformas digitales (Campus Virtual, Aula Virtual, Sistema de Registros Académicos, Biblioteca Virtual) y normativas institucionales..."
    },
    {
      "from": "human",
      "value": "Hola, pucha, estoy buscando dónde ver lo de mis cursos virtuales pero la verdad no entiendo para qué sirve tanto botón en la página de la U. ¿Alguien me explica de qué va todo este rollo del aprendizaje virtual en la USS o dónde encuentro la info?"
    },
    {
      "from": "gpt",
      "value": "¡Hola! Entiendo perfectamente tu confusión con las plataformas, pero no te preocupes, ¡estoy aquí para ayudarte! Te comento que la Universidad Señor de Sipán cuenta con un sistema de aprendizaje virtual diseñado para enriquecer tu proceso formativo..."
    }
  ],
  "messages": [
    {
      "role": "system",
      "content": "Eres SipánGPT, el Asistente Virtual Oficial de la Universidad Señor de Sipán (USS) basado en inteligencia artificial generativa..."
    },
    {
      "role": "user",
      "content": "Hola, pucha, estoy buscando dónde ver lo de mis cursos virtuales pero la verdad no entiendo para qué sirve tanto botón en la página de la U. ¿Alguien me explica de qué va todo este rollo del aprendizaje virtual en la USS o dónde encuentro la info?"
    },
    {
      "role": "assistant",
      "content": "¡Hola! Entiendo perfectamente tu confusión con las plataformas, pero no te preocupes, ¡estoy aquí para ayudarte! Te comento que la Universidad Señor de Sipán cuenta con un sistema de aprendizaje virtual diseñado para enriquecer tu proceso formativo..."
    }
  ]
}

---

📏 7. Estadísticas Descriptivas (Auditoría de Tesis)

Métrica	Intervención Usuario (human)	Respuesta Asistente (gpt)	Conversación Completa
Mínimo palabras	13	39	178
Máximo palabras	84	320	548
Promedio (Media)	42.3 palabras	148.5 palabras	306.1 palabras (~398 tokens)
Mediana	42.0 palabras	149.0 palabras	295.0 palabras
Desviación Estándar	11.0 palabras	64.5 palabras	64.6 palabras

• Integridad Sintáctica: 400 / 400 válidas (100%).
• IDs Duplicados: 0.
• Errores de Esquema JSON: 0.

---

🚀 8. Cómo Usar este Dataset

Opción A: Cargar directamente con Hugging Face datasets

from datasets import load_dataset

# Cargar el dataset consolidado oficial (V2)
dataset = load_dataset("ussipan/sipangpt-V2", split="train")

# Visualizar el primer diálogo
print(dataset[0]["conversations"])

Opción B: Fine-Tuning con Unsloth y Gemma 4 (Kaggle / Colab)

from datasets import load_dataset
from unsloth.chat_templates import get_chat_template, standardize_data_formats

# 1. Cargar el dataset desde Hugging Face
dataset = load_dataset("ussipan/sipangpt-V2", split="train")

# 2. Configurar el Chat Template de Gemma
tokenizer = get_chat_template(
    tokenizer,
    chat_template="gemma",
)

# 3. Estandarizar ShareGPT
dataset = standardize_data_formats(dataset)

# 4. Mapear al formato de entrenamiento
def formatting_prompts_func(examples):
    convos = examples["conversations"]
    texts = [
        tokenizer.apply_chat_template(
            convo,
            tokenize=False,
            add_generation_prompt=False
        )
        for convo in convos
    ]
    return {"text": texts}

dataset = dataset.map(formatting_prompts_func, batched=True)

---

🏛️ 9. Fundamento Teórico: Arquitectura Sipán-STAIR

Para el componente RAG institucional, el proyecto adapta la metodología del paper de IBM Research:

STAIR (STructure Aware Information Retriever): A novel dataset and LLM based retriever for document structure augmentation
Vineet Kumar, Meghanadh Pulivarthi, Vishwajeet Kumar, Jaydeep Sen, Riyaz Ahmad Bhat, Sachindra Joshi
IBM Research — arXiv:2609.03874v1 [cs.AI], Septiembre 2026.
🔗 https://arxiv.org/abs/2609.03874

---

📁 10. Estructura de Archivos del Repositorio

sipangpt-V2/
├── README.md                                          # Ficha técnica oficial (este archivo)
├── dataset_consolidado.jsonl                          # 400 conversaciones consolidadas
├── dataset_campus_virtual_y_aprendizaje.jsonl         # 130 conversaciones de Campus y Zoom
├── dataset_matricula_y_registros.jsonl                # 110 conversaciones de Matrícula y Notas
├── dataset_pagos_y_cobranzas.jsonl                    # 70 conversaciones de Pasarelas y Cobranzas
├── dataset_normativa_y_tramites.jsonl                 # 55 conversaciones de Reglamentos y Grados
├── dataset_biblioteca_virtual.jsonl                   # 35 conversaciones de Catálogo y Préstamos
└── reporte_metricas.json                              # Métricas y auditoría en JSON

---

✍️ 11. Citación Académica

BibTeX

@dataset{sipangpt_v2_2026,
  author    = {Gómez, Jhan and Universidad Señor de Sipán},
  title     = {SipánGPT-v2: Dataset Conversacional Institucional de Soporte Técnico y Normativa Universitaria},
  year      = {2026},
  publisher = {Hugging Face},
  version   = {2.0},
  url       = {https://huggingface.co/datasets/ussipan/sipangpt-V2}
}

Formato APA (7ma edición)

Gómez, J., & Universidad Señor de Sipán. (2026). SipánGPT-v2: Dataset Conversacional Institucional de Soporte Técnico y Normativa Universitaria (Versión 2.0) [Conjunto de datos]. Hugging Face. https://huggingface.co/datasets/ussipan/sipangpt-V2

---

👥 12. Autores y Contacto

• Investigador Principal: @jhangmez (GitHub: @jhangmez)
• Institución: @ussipan - Universidad Señor de Sipán, Chiclayo, Perú.
• Repositorio en GitHub del Proyecto: https://github.com/jhangmez/sipangpt/tree/feature/V2
• Correo Electrónico de Contacto: jgomezpad@unprg.edu.pe
• Licencia: Creative Commons Attribution-ShareAlike 4.0 International (CC BY-SA 4.0).