Add quantitative performance tables, status labels and verified chart references
Browse files
README.md
CHANGED
|
@@ -52,6 +52,69 @@ Nova AI
|
|
| 52 |
Innovation. Engineering. Intelligence.
|
| 53 |
Sitio oficial: https://www.moderno.com.ar
|
| 54 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 55 |
## Metodología de rendimiento
|
| 56 |
|
| 57 |
Esta sección describe cómo evaluar el modelo sin mezclar hipótesis con mediciones reales.
|
|
@@ -88,6 +151,6 @@ Esta sección describe cómo evaluar el modelo sin mezclar hipótesis con medici
|
|
| 88 |
|
| 89 |
## Demostración visual de inferencia
|
| 90 |
|
| 91 |
-
|
|
|
|
| 52 |
Innovation. Engineering. Intelligence.
|
| 53 |
Sitio oficial: https://www.moderno.com.ar
|
| 54 |
|
| 55 |
+
|
| 56 |
+
## Rendimiento cuantitativo
|
| 57 |
+
|
| 58 |
+
> Todos los valores de throughput son **ESTIMADOS** (techo de ancho de banda) o **NO VALIDADOS**. Ver `performance/performance.json` y `performance/simulation-results.csv`.
|
| 59 |
+
|
| 60 |
+
No hay throughput de prefill/decode medido para este repositorio.
|
| 61 |
+
|
| 62 |
+
- Artefacto: binario verificado de 16,936,006,912 bytes
|
| 63 |
+
- Contextos analizados: 125K, 4K, 64K, 8K.
|
| 64 |
+
- MNE: proyección SSD a 2.0 GiB/s, cache 90 %–99.9 %, KV a FP16, payload Q4 activo.
|
| 65 |
+
|
| 66 |
+
### Memoria y throughput por hardware (contexto 4K, estimado)
|
| 67 |
+
|
| 68 |
+
| Hardware | RAM disponible (GB) | Ancho banda (GiB/s) | Límite RAM tok/s | MNE tok/s a 99% hit |
|
| 69 |
+
|---|---:|---:|---:|---:|
|
| 70 |
+
| MacBook Air 2014 | 4 | 25.6 | 31.0 | 242.4 |
|
| 71 |
+
| Lenovo Yoga 720 | 8 | 34.1 | 41.3 | 242.4 |
|
| 72 |
+
| MacBook Neo A18 Pro | 8 | 60.0 | 72.7 | 242.4 |
|
| 73 |
+
| MacBook Air M4 | 16 | 120.0 | 145.5 | 242.4 |
|
| 74 |
+
|
| 75 |
+
|
| 76 |
+
### Escenarios MNE de cache
|
| 77 |
+
|
| 78 |
+
| Cache hit | Miss leído desde SSD | Techo tok/s (modelo/representante) |
|
| 79 |
+
|---|---:|---:|
|
| 80 |
+
| 90.0 % | 10.0 % | 24.2 |
|
| 81 |
+
| 95.0 % | 5.0 % | 48.5 |
|
| 82 |
+
| 99.0 % | 1.0 % | 242.4 |
|
| 83 |
+
| 99.5 % | 0.5 % | 484.8 |
|
| 84 |
+
| 99.9 % | 0.1 % | 2424.2 |
|
| 85 |
+
|
| 86 |
+
### Contexto nativo y KV
|
| 87 |
+
|
| 88 |
+
- Máximo posición documentado: 128,000 tokens.
|
| 89 |
+
- KV se estima por `contexto × layers × kv_heads × head_dim × 2 (K+V) × 2 bytes`.
|
| 90 |
+
- Para contextos superiores al nativo se marca `NO VALIDADO` en los CSV/JSON.
|
| 91 |
+
|
| 92 |
+
### Gráficos
|
| 93 |
+
|
| 94 |
+
|
| 95 |
+
|
| 96 |
+
|
| 97 |
+
|
| 98 |
+
|
| 99 |
+
|
| 100 |
+
|
| 101 |
+
|
| 102 |
+
|
| 103 |
+
|
| 104 |
+
|
| 105 |
+
|
| 106 |
+
|
| 107 |
+
|
| 108 |
+
### Archivos publicados
|
| 109 |
+
|
| 110 |
+
- `performance/performance.json`
|
| 111 |
+
- `performance/simulation-results.csv`
|
| 112 |
+
- `performance/methodology.md`
|
| 113 |
+
- `performance/hardware-reference.md`
|
| 114 |
+
- `performance/generate_charts.py`
|
| 115 |
+
- `performance/generate_animation.py`
|
| 116 |
+
- Ver `performance/` para los 7 PNG de esta fase.
|
| 117 |
+
|
| 118 |
## Metodología de rendimiento
|
| 119 |
|
| 120 |
Esta sección describe cómo evaluar el modelo sin mezclar hipótesis con mediciones reales.
|
|
|
|
| 151 |
|
| 152 |
## Demostración visual de inferencia
|
| 153 |
|
| 154 |
+
|
| 155 |
|
| 156 |
|