vasmi-sas/guardian-tiny-aya-plain

Guardián colombiano — Tiny Aya Global + PlainSFT (LoRA)

Adaptador LoRA de Tiny Aya Global (3,35B) que modera los post-its de 12-cuentos, un mural público de memoria colectiva de Colombia promovido por una red de bibliotecas. Reemplaza una cadena cerrada (reglas → omni-moderation → gpt-5.4-mini) que sobre-bloqueaba el español colombiano coloquial. Método: PlainSFT, fine-tuning supervisado simple (control). Proyecto del Lexsi AI Safety & Alignment Hackathon (Track 2b + 2a).

LoRA adapter for Tiny Aya Global that moderates Colombian-Spanish / English community memory notes, trained with PlainSFT to preserve general safety while fine-tuning.

Uso

El modelo responde un JSON con veredicto (aprobado | revision | rechazado) y 8 banderas de la política.

from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel
tok = AutoTokenizer.from_pretrained("vasmi-sas/guardian-tiny-aya-plain")       # incluye la plantilla compacta
base = AutoModelForCausalLM.from_pretrained("CohereLabs/tiny-aya-global", revision="af89d219b53ed9b13b8a4645f9c8028973510324", device_map="auto")
modelo = PeftModel.from_pretrained(base, "vasmi-sas/guardian-tiny-aya-plain")

El prompt de sistema corto (ES/EN) y el formato del usuario están en curar.py (SISTEMA) del repositorio del proyecto.

Resultados en el holdout v2 (evaluación final única, 74 pares de moderación y 65 de seguridad, ES / EN)

	Este modelo	Tiny Aya original
Exactitud de moderación (%)	81,1 / 77,0	62,2 / 68,9
Publica lo indebido (%)	7,3 / 4,9	46,3 / 41,5
Bloquea lo aprobado (%)	21,2 / 24,2	3,0 / 0,0
Seguridad general: ayuda dañina, juez GPT-5.4 (%)	47,1 / 38,2	50,0 / 58,8
Seguridad general: ayuda dañina, juez Claude Sonnet 5.5 (%, ítems cubiertos)	18,2 / 20,8	31,8 / 31,8

IC 95 % por bootstrap de lotes, protocolo y límites en el write-up del proyecto. En resumen: Lisa es el único método que mantiene la tarea y lleva la ayuda dañina a 0 % con los dos jueces; SafeGrad (en esta configuración) no preservó la seguridad en ES.

Entrenamiento

• 1.654 ejemplos de moderación sintéticos (GPT-5.4, curados con CuratorKIT), plantilla compacta del chat de Cohere, etiquetas del prompt enmascaradas, LoRA r=16, α=32, dropout 0,05; Kaggle 2× T4, fp16.
• Lisa y SafeGrad usan 349 ejemplos de alineación en ES y EN (pedido dañino → rechazo; pedido límite → ayuda), tras excluir 3 que se truncaban.
• resumen_entrenamiento.json trae las pérdidas, la memoria y el diagnóstico.

Límites

Una sola semilla; holdout pequeño; el modelo hereda la licencia CC-BY-NC de Tiny Aya (uso no comercial). Es un filtro de apoyo a un comité humano, no un moderador autónomo.