HSAQ: documentación limpia (Qué es/Qué NO es, HSAQ v2 aparte) + implementación + scripts abliteración
dc9acb9 verified | # M.A.T.E.R.I.A. y HSAQ — ¿Qué es y qué NO es? | |
| Documento de referencia (v2.0, 2026). Alineado con la charla del autor en el | |
| **I Congreso IA-LATAM 2026** y su whitepaper oficial. | |
| > 🎬 https://www.youtube.com/watch?v=azJURypb3xo · 📄 https://comunidadialatam.org/blog/materia-hsaq-ciberseguridad | |
| --- | |
| ## M.A.T.E.R.I.A. | |
| ### Qué es ✅ | |
| **M.A.T.E.R.I.A.** (*Multi-Agentic Toroidal Engine for Recursive Intelligent | |
| Analysis*) es una **arquitectura**, no un modelo. | |
| - Un **HUB** central en el centro de un toroide que orquesta el sistema. | |
| - Un **anillo de ranuras** donde se montan agentes especializados (audio, voz, | |
| imagen, video, LLM, SSM, módulos personalizados…), sin límite fijo. | |
| - **Contexto compartido y persistente** entre todos los agentes (el "análisis | |
| recursivo inteligente"). | |
| - Arquitectura **anidable**: cada ranura puede contener otro M.A.T.E.R.I.A. | |
| completo → sistemas de sistemas. | |
| La inteligencia emerge de la **cooperación de agentes sobre contexto | |
| compartido**, no de un monolito cada vez más grande. | |
| ### Qué NO es ❌ | |
| - **NO es un modelo único monolítico.** No es "otro LLM gigante". | |
| - **NO es la suma de los modelos que contiene.** El valor está en la orquestación | |
| y el contexto compartido, no en un solo checkpoint. | |
| - **M.A.T.E.R.I.A. V4** (el modelo de 140.9M parámetros, JEPA-First/SCA) es un | |
| **prototipo construido dentro de esta filosofía**, no la definición de MATERIA. | |
| - **NO requiere un hardware específico**: la ranura del HUB acepta cualquier | |
| modelo, y las ranuras son configurables. | |
| --- | |
| ## HSAQ | |
| ### Qué es ✅ | |
| **HSAQ** (*Hyper Sparse Adaptive Quantization*) es un mecanismo de | |
| **cuantización y poda adaptativa por activaciones**. | |
| - **Umbral dinámico** por lote (`kthvalue`): silencia las activaciones | |
| inactivas de cada batch. | |
| - **Máscaras aprendibles**: el modelo *aprende cuándo cortar y cuándo no* | |
| (poda sináptica, como el cerebro). | |
| - **Gradiente STE** (Straight-Through Estimator): el gradiente atraviesa la | |
| máscara; la poda es entrenable/autorregulada. | |
| - **Optimización de VRAM**: SGD Nesterov con máscaras adaptativas, 4 bytes por | |
| parámetro (vs 8 de AdamW). Entrenamiento 1.33B: **24.8 → 10.07 GB VRAM (−59.4%)**. | |
| - **Sin calibración**: no requiere datasets externos ni pasos post-entrenamiento. | |
| - **Hardware-agnostic**: solo operaciones de torch (CPU/GPU/TPU). | |
| ### Qué NO es ❌ | |
| - **NO es cuantización de pesos.** No es INT8, no es INT4, no es GPTQ, AWQ ni | |
| bitsandbytes. | |
| - **NO opera sobre pesos**: opera exclusivamente sobre **activaciones** | |
| (las reduce a `{0, valor}` con una máscara binaria). | |
| - **NO es un optimizador clásico** tipo AdamW con momentos; es un | |
| regularizador/podador adaptativo que sustituye el gasto de memoria del | |
| optimizer. | |
| - **NO requiere calibración** (a diferencia de GPTQ/AWQ/TurboQuant). | |
| --- | |
| ## HSAQ v2 — extensión experimental (apartado) | |
| > ⚠️ **No confundir con HSAQ core.** HSAQ v2 es una **extensión experimental** | |
| > del paper de M.A.T.E.R.I.A. V4, **separada** de la definición de HSAQ. | |
| **Qué es** ✅: extiende HSAQ añadiendo **cuantización real de pesos** | |
| (INT8/INT4 mixto), además de la máscara de activaciones; QAT-style (entrenable), | |
| con propiedad extra de protección contra ataques de canal lateral | |
| (side-channel) por oscurecimiento del acceso a memoria. | |
| **Qué NO es** ❌: no es la definición core de HSAQ; es una línea de | |
| investigación aparte (ver paper M.A.T.E.R.I.A. V4, §2.4 y §6). | |
| | | HSAQ (core) | HSAQ v2 (experimental) | | |
| |---|---|---| | |
| | Máscara de activaciones | ✅ | ✅ | | |
| | Cuantización de pesos INT8/INT4 | ❌ | ✅ | | |
| | Definido en la charla IA-LATAM | ✅ | ❌ (solo paper) | | |
| | Estado | Estándar v1.0 | Extensión experimental | | |
| --- | |
| ## Referencias | |
| - Charla: https://www.youtube.com/watch?v=azJURypb3xo | |
| - Whitepaper: https://comunidadialatam.org/blog/materia-hsaq-ciberseguridad | |
| - Estándar HSAQ: `HSAQ_STANDARD.md` | |
| - Paper M.A.T.E.R.I.A. V4: `PAPER_CIENTIFICO_MATERIA_V4.md` | |
| ## Créditos | |
| **Jesús Antonio Zárate Hernández** (MethodWhite, Chile). M.A.T.E.R.I.A. Research © 2026. | |
| Si te sirve, invítame un café ☕ → **https://buymeacoffee.com/methodwhite** | |