-
V6: Kohonen 4D SOM + EWC per-neuron + MTP+entropy + Xeon V6
V6 MELHORIAS VS V5:
1. OrqCell V6 Kohonen 4D SOM (orq_cell.py reescrito):
- 8 neurônios BiGRU4 em grid 4D (2,2,2,1)
- TransformerUnit = dimensão semântica (função de vizinhança aprendível)
- Função Gaussiana Λ(d, σ) = exp(-d²/(2σ²))
- Schedule σ: 1.5 → 0.3, α: 0.5 → 0.05
- BMU + vizinhos puxados na direção do input (preserva topologia)
- Compatibilidade com datasets não-preparados: random pad
- update_map_after_backward() (não quebra autograd)
2. EWC V6 com Kohonen per-neuron (ewc.py novo):
- Fisher por neurônio (n_neurons, d_cache)
- Reforço γ_bmu=2.0 no BMU
- Penalidade topológica: preserva distâncias no grid 4D
- Funciona em eval mode (forward-only penalty)
3. MTP V6 com entropia + ativo em val (mtp.py novo):
- L_mtp = Σ α_k L_k - β H(α), β=0.01
- MTP ativo em val (métrica adicional val_mtp_loss)
- mtp_alphas aprendíveis (K=4)
4. Window Context 2M tokens (window_context.py):
- SequenceCompressor + ChunkIndexer
- Adaptive attention:…
