#!/usr/bin/env python3 \"\"\" Entrenamiento de modelo clasificador de emails empresariales (español) Plan 3: Dataset Marketplace con Modelos Especializados \"\"\" import json import logging from datasets import Dataset from transformers import ( AutoTokenizer, AutoModelForSequenceClassification, TrainingArguments, Trainer, EarlyStoppingCallback ) import numpy as np # ======================== # CONFIG # ======================== MODEL_NAME = \"bert-base-multilingual-cased\" OUTPUT_DIR = \"/tmp/email-classifier\" HUB_MODEL_ID = \"CagliostroML/email-classifier-es\" logging.basicConfig(level=logging.INFO) logger = logging.getLogger(__name__) # ======================== # DATASET DE ENTRENAMIENTO # ======================== TRAINING_DATA = [ {\"text\": \"Necesito el informe financiero del Q3 antes del viernes.\", \"label\": 0}, {\"text\": \"El servidor está caído, no podemos acceder a los datos.\", \"label\": 1}, {\"text\": \"Confirmo asistencia a la reunión del lunes a las 10h.\", \"label\": 2}, {\"text\": \"El pedido #12345 ha sido enviado, tracking: TRK998877.\", \"label\": 3}, {\"text\": \"Por favor actualizar la dirección de facturación.\", \"label\": 4}, {\"text\": \"El pago de la factura está pendiente desde hace 15 días.\", \"label\": 0}, {\"text\": \"No funciona el login en el portal, error 500.\", \"label\": 1}, {\"text\": \"Solicito vacaciones del 15 al 20 de diciembre.\", \"label\": 5}, {\"text\": \"El cliente XYZ ha rechazado la propuesta comercial.\", \"label\": 6}, {\"text\": \"Necesitamos más stock del producto ABC.\", \"label\": 3}, {\"text\": \"El contrato con el proveedor está listo para firma.\", \"label\": 7}, {\"text\": \"El proyecto muestra un retraso de 3 días.\", \"label\": 8}, {\"text\": \"Solicito acceso al módulo de reporting.\", \"label\": 1}, {\"text\": \"Los números de ventas del mes muestran incremento del 12%.\", \"label\": 6}, {\"text\": \"El evento de networking será el 22 de abril.\", \"label\": 9}, {\"text\": \"Necesito autorización para la compra de software.\", \"label\": 4}, {\"text\": \"El cliente reported problemas with the shipment.\", \"label\": 3}, {\"text\": \"La auditoría interna está programada para la próxima semana.\", \"label\": 10}, {\"text\": \"El nuevo empleado necesita formación en el CRM.\", \"label\": 5}, {\"text\": \"La plataforma presenta lentitud significativa desde ayer.\", \"label\": 1}, {\"text\": \"Pueden ustedes confirmar el pago de la factura pendiente.\", \"label\": 0}, {\"text\": \"Error en el sistema de facturación, no genera PDF.\", \"label\": 1}, {\"text\": \"Reunión de equipo a las 3pm en sala de conferencias.\", \"label\": 2}, {\"text\": \"El envío llegó en mal estado, necesito reembolso.\", \"label\": 3}, {\"text\": \"Actualizar datos de contacto del proveedor.\", \"label\": 4}, {\"text\": \"Solicito aumento de presupuesto para marketing.\", \"label\": 0}, {\"text\": \"El website no carga correctamente en móvil.\", \"label\": 1}, {\"text\": \"Solicito permiso para trabajar desde casa mañana.\", \"label\": 5}, {\"text\": \"Nuevo cliente potencial en el sector healthcare.\", \"label\": 6}, {\"text\": \"Reponer inventario del warehouse central.\", \"label\": 3}, {\"text\": \"El informe de gastos del mes está listo para revisión.\", \"label\": 0}, {\"text\": \"El software de CRM muestra errores constantemente.\", \"label\": 1}, {\"text\": \"La reunión con proveedores fue muy productiva.\", \"label\": 2}, {\"text\": \"Paquete recibido en almacén, listo para distribución.\", \"label\": 3}, {\"text\": \"Actualizar la lista de precios del catálogo 2024.\", \"label\": 4}, {\"text\": \"La inversión en publicidad digital rindió muy bien.\", \"label\": 0}, {\"text\": \"El sistema de backups falló esta noche.\", \"label\": 1}, {\"text\": \"Solicito formación en herramientas de data analytics.\", \"label\": 5}, {\"text\": \"El lead de Barcelona está listo para cerrar negocio.\", \"label\": 6}, {\"text\": \"La mercancía del contenedor #4421 llegó dañada.\", \"label\": 3}, ] LABEL_NAMES = [ \"finance\", \"it_support\", \"meeting\", \"logistics\", \"admin\", \"hr\", \"sales\", \"legal\", \"project\", \"events\", \"compliance\" ] # ======================== # METRICAS # ======================== def compute_metrics(eval_pred): predictions, labels = eval_pred predictions = np.argmax(predictions, axis=1) accuracy = np.mean(labels == predictions) return {\"accuracy\": float(accuracy)} # ======================== # MAIN # ======================== def main(): logger.info(\"=== Training Email Classifier (Spanish) ===\") # Crear dataset ds = Dataset.from_list(TRAINING_DATA) ds = ds.train_test_split(test_size=0.2, seed=42) logger.info(f\"Train samples: {len(ds['train'])}\") logger.info(f\"Test samples: {len(ds['test'])}\") # Tokenizer tokenizer = AutoTokenizer.from_pretrained(MODEL_NAME) def tokenize(batch): return tokenizer(batch[\"text\"], padding=True, truncation=True, max_length=128) ds = ds.map(tokenize, batched=True) # Modelo num_labels = len(LABEL_NAMES) model = AutoModelForSequenceClassification.from_pretrained( MODEL_NAME, num_labels=num_labels ) # Training args training_args = TrainingArguments( output_dir=OUTPUT_DIR, num_train_epochs=10, per_device_train_batch_size=8, per_device_eval_batch_size=8, warmup_steps=5, logging_dir=\"/tmp/logs\", logging_steps=5, eval_strategy=\"epoch\", save_strategy=\"epoch\", load_best_model_at_end=True, push_to_hub=True, hub_model_id=HUB_MODEL_ID, report_to=\"none\" ) # Trainer trainer = Trainer( model=model, args=training_args, train_dataset=ds[\"train\"], eval_dataset=ds[\"test\"], compute_metrics=compute_metrics, callbacks=[EarlyStoppingCallback(early_stopping_patience=3)] ) logger.info(\"Starting training...\") trainer.train() logger.info(\"Evaluating...\") results = trainer.evaluate() logger.info(f\"Results: {results}\") logger.info(\"Pushing to Hub...\") trainer.push_to_hub() # Guardar config config = { \"model_type\": \"text-classification\", \"language\": \"es\", \"labels\": LABEL_NAMES, \"num_labels\": num_labels, \"accuracy\": results.get(\"eval_accuracy\", 0), \"f1\": results.get(\"eval_f1\", 0) } with open(\"/tmp/model_config.json\", \"w\") as f: json.dump(config, f, indent=2) logger.info(\"=== Training Complete ===\") logger.info(f\"Model pushed to: https://huggingface.co/{HUB_MODEL_ID}\") return results if __name__ == \"__main__\": main()