Upload 2 files
Browse files
README.md
ADDED
|
@@ -0,0 +1,266 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
license: mit
|
| 3 |
+
pretty_name: llama.cpp-diffusion ZetaHelicoidal (ΩFFΣLLIα)
|
| 4 |
+
language:
|
| 5 |
+
- en
|
| 6 |
+
- pt
|
| 7 |
+
tags:
|
| 8 |
+
- llama.cpp
|
| 9 |
+
- gguf
|
| 10 |
+
- quantization
|
| 11 |
+
- diffusion
|
| 12 |
+
- offsellia
|
| 13 |
+
- helicoidal-zeta
|
| 14 |
+
- source-code
|
| 15 |
+
---
|
| 16 |
+
|
| 17 |
+
<p align="center">
|
| 18 |
+
<img src="https://huggingface.co/datasets/Brunobkr/llama.cpp-diffusion_ZetaHelicoidal/resolve/main/capa.png" alt="ΩFFΣLLIα" width="100%"/>
|
| 19 |
+
</p>
|
| 20 |
+
|
| 21 |
+
# llama.cpp-diffusion — ZetaHelicoidal (ΩFFΣLLIα)
|
| 22 |
+
|
| 23 |
+
Fork modificado do **llama.cpp-diffusion** com a camada de quantização **ΩFFΣLLIα / Helicoidal-Zeta**
|
| 24 |
+
integrada ao pipeline Python de quantização (`gguf-py`), desenvolvida por **Bruno Becker**.
|
| 25 |
+
|
| 26 |
+
Este repositório contém o **código-fonte completo** (`llama.cpp-diffusion_ZetaHelicoidal.zip`, ~1.05 GB)
|
| 27 |
+
pronto para compilar e quantizar modelos GGUF com o pré-condicionamento Helicoidal-Zeta ativo.
|
| 28 |
+
|
| 29 |
+
> Este é um derivado de código. Todos os créditos da base original pertencem ao projeto
|
| 30 |
+
> **llama.cpp / llama.cpp-diffusion** e seus mantenedores. As modificações ΩFFΣLLIα estão
|
| 31 |
+
> documentadas abaixo.
|
| 32 |
+
|
| 33 |
+
---
|
| 34 |
+
|
| 35 |
+
## 📌 Visão geral
|
| 36 |
+
|
| 37 |
+
| Item | Valor |
|
| 38 |
+
| --- | --- |
|
| 39 |
+
| **Arquivo principal** | `llama.cpp-diffusion_ZetaHelicoidal.zip` |
|
| 40 |
+
| **Base** | llama.cpp-diffusion |
|
| 41 |
+
| **Variante** | ΩFFΣLLIα / Helicoidal-Zeta |
|
| 42 |
+
| **Camada modificada** | `gguf-py/gguf/quants.py` + `gguf-py/gguf/__init__.py` |
|
| 43 |
+
| **Autor da modificação** | Bruno Becker — Brunobkr |
|
| 44 |
+
|
| 45 |
+
---
|
| 46 |
+
|
| 47 |
+
## 🔧 O que foi modificado
|
| 48 |
+
|
| 49 |
+
A integração ΩFFΣLLIα atua **dentro do pipeline Python de quantização do gguf-py**, sem alterar
|
| 50 |
+
os formatos binários do GGML. Dois arquivos foram modificados:
|
| 51 |
+
|
| 52 |
+
### 1. `gguf-py/gguf/__init__.py`
|
| 53 |
+
|
| 54 |
+
Exposição do kernel no pacote:
|
| 55 |
+
|
| 56 |
+
```python
|
| 57 |
+
from gguf.quants import HelicoidalZetaCore # Importação necessária!
|
| 58 |
+
```
|
| 59 |
+
|
| 60 |
+
### 2. `gguf-py/gguf/quants.py`
|
| 61 |
+
|
| 62 |
+
- **Classe `HelicoidalZetaCore`** — implementa o kernel matemático completo:
|
| 63 |
+
- `math_embedding(n)` — concatena coordenadas helicoidais moduladas, par `(r, θ)` da rotação
|
| 64 |
+
áurea e assinatura da função zeta de Riemann em `s = 1/2 + i·n` (via `mpmath`, 21 dígitos,
|
| 65 |
+
com cache LRU de 10.000 entradas);
|
| 66 |
+
- `transform(x, n_val)` — aplica o fator escalar `tanh(mean(emb(n)))` ao bloco;
|
| 67 |
+
- `inverse_transform(x, n_val)` — desfaz exatamente o fator na dequantização, com proteção
|
| 68 |
+
numérica para escalas `|fator| < 1e-8`;
|
| 69 |
+
- `delta_m(n)` — modulação mod-42 das coordenadas (`1.0` se `n ≡ 0 (mod 42)`, senão `0.42`);
|
| 70 |
+
- cache incremental de primos (`_PrimeCache`) para o modo opcional `use_primes`.
|
| 71 |
+
|
| 72 |
+
- **`__Quant.quantize_rows`** — antes da quantização nativa, cada bloco `i` recebe
|
| 73 |
+
`zeta_core.transform(bloco, n_val=i+1)`. Inclui auditoria em tempo real:
|
| 74 |
+
|
| 75 |
+
```
|
| 76 |
+
[AUDITORIA] OFFELLIA ATIVA - Bloco 0 ANTES: <valor>
|
| 77 |
+
[AUDITORIA] SUCESSO - Bloco 0 DEPOIS: <valor>
|
| 78 |
+
> Offellia processando tensores: i/n_blocks...
|
| 79 |
+
```
|
| 80 |
+
|
| 81 |
+
- **`__Quant.dequantize_rows`** — após a dequantização padrão do GGML, cada bloco recebe
|
| 82 |
+
`zeta_core.inverse_transform(bloco, n_val=i+1)`, restaurando a escala original.
|
| 83 |
+
|
| 84 |
+
Todas as classes de quantização nativas (Q4_0…Q8_0, Q2_K…Q6_K, TQ, MXFP4, IQ*) permanecem
|
| 85 |
+
intactas — a camada ΩFFΣLLIα envolve o fluxo, não o substitui.
|
| 86 |
+
|
| 87 |
+
---
|
| 88 |
+
|
| 89 |
+
## 🧬 Como funciona a camada Helicoidal-Zeta
|
| 90 |
+
|
| 91 |
+
A ΩFFΣLLIα **não substitui** os formatos de quantização do GGML/llama.cpp — ela atua como uma
|
| 92 |
+
**camada de pré-condicionamento determinística e reversível** aplicada bloco a bloco, **antes** da
|
| 93 |
+
quantização padrão (e desfeita na dequantização):
|
| 94 |
+
|
| 95 |
+
1. Cada linha do tensor é dividida em blocos de tamanho fixo do tipo de quant escolhido.
|
| 96 |
+
2. Antes de quantizar, cada bloco `i` é multiplicado por um fator escalar derivado do
|
| 97 |
+
**Helicoidal-Zeta Kernel**, indexado por `n = i + 1`.
|
| 98 |
+
3. O bloco já condicionado segue para a quantização nativa do tipo escolhido (Q4_K, Q8_0, etc.).
|
| 99 |
+
4. Na inferência, a dequantização nativa do GGML é aplicada e em seguida o
|
| 100 |
+
**`inverse_transform`** desfaz exatamente o fator, restaurando a escala original do bloco.
|
| 101 |
+
|
| 102 |
+
### O fator escalar
|
| 103 |
+
|
| 104 |
+
```
|
| 105 |
+
raw_scale = média(emb(n))
|
| 106 |
+
fator = tanh(raw_scale) # usado na quantização
|
| 107 |
+
inverso = x / fator # usado na dequantização
|
| 108 |
+
```
|
| 109 |
+
|
| 110 |
+
---
|
| 111 |
+
|
| 112 |
+
## 📐 Fundamentos matemáticos
|
| 113 |
+
|
| 114 |
+
A construção parte da função real sobre os inteiros:
|
| 115 |
+
|
| 116 |
+
$$ F(n) = \sin^2(2\pi\varphi n), \qquad \varphi = \frac{1+\sqrt{5}}{2} \approx 1{,}6180339887\ldots $$
|
| 117 |
+
|
| 118 |
+
Geometricamente, é uma **rotação irracional no toro** levantada para uma hélice em $\mathbb{R}^3$.
|
| 119 |
+
Como $\varphi$ é a constante "mais irracional" (caso extremo do teorema de Hurwitz), a órbita
|
| 120 |
+
nunca se fecha nem se repete — e dessa única propriedade derivam todas as estruturas seguintes.
|
| 121 |
+
|
| 122 |
+
### Forma cosseno e valor médio
|
| 123 |
+
|
| 124 |
+
Aplicando $\sin^2 x = \tfrac{1}{2}(1 - \cos 2x)$:
|
| 125 |
+
|
| 126 |
+
$$ F(n) = \frac{1}{2} - \frac{1}{2}\cos(4\pi\varphi n) $$
|
| 127 |
+
|
| 128 |
+
- A parte constante $\tfrac{1}{2}$ é o **valor médio** de $F$ (≈ 0,5).
|
| 129 |
+
- A parte flutuante é **mono-frequencial**, com frequência angular única $\omega = 4\pi\varphi$.
|
| 130 |
+
- Não há harmônicos superiores: toda estrutura vem da interação dessa frequência irracional
|
| 131 |
+
com operações inteiras (passos e módulos).
|
| 132 |
+
|
| 133 |
+
### Equidistribuição e lei do arcoseno
|
| 134 |
+
|
| 135 |
+
Pelo **teorema de Weyl**, a sequência $\{\varphi n\}$ é equidistribuída em $[0,1)$. Logo
|
| 136 |
+
$Y = \sin^2(2\pi U)$ segue a distribuição **arcoseno** $\mathrm{Beta}(\tfrac12,\tfrac12)$:
|
| 137 |
+
|
| 138 |
+
$$ f_Y(y) = \frac{1}{\pi\sqrt{y(1-y)}}, \quad y \in (0,1) $$
|
| 139 |
+
|
| 140 |
+
com massa acumulada nas bordas e mínimo central $\tfrac{1}{\pi} \approx 0{,}637$.
|
| 141 |
+
|
| 142 |
+
### Complementaridade do passo 2
|
| 143 |
+
|
| 144 |
+
$$ F(n) + F(n+2) = 1 - \cos(4\pi\varphi)\,\cos\!\big(4\pi\varphi(n+1)\big) $$
|
| 145 |
+
|
| 146 |
+
com $\cos(4\pi\varphi) \approx 0{,}0874$ — quase-quadratura. A soma oscila em torno de 1 com
|
| 147 |
+
amplitude mínima, gerando a correlação antidiagonal $F(p) \leftrightarrow F(p+2) \approx -0{,}985$.
|
| 148 |
+
O passo 2 é minimizante porque $\{2\varphi\} = 0{,}236 \approx \tfrac14$, consequência direta da
|
| 149 |
+
expansão em fração contínua $\varphi = [1;1,1,1,\ldots]$.
|
| 150 |
+
|
| 151 |
+
### Estrutura modular 42
|
| 152 |
+
|
| 153 |
+
Como $42 = 2\cdot 3\cdot 7$ e $\varphi(42) = 12$, há **12 braços coprimos** que abrigam todos os
|
| 154 |
+
primos $> 7$. Os **16 resíduos quadráticos mod 42** ocupam posições fixas
|
| 155 |
+
$\{0,1,4,7,9,15,16,18,21,22,25,28,30,36,37,39\}$ e o centro $r=21$ (ângulo $\theta=\pi$) é o eixo
|
| 156 |
+
de simetria do bloco, ponto fixo do pareamento $r \leftrightarrow 42-r$.
|
| 157 |
+
|
| 158 |
+
### Tabela-síntese das invariantes
|
| 159 |
+
|
| 160 |
+
| Invariante | Valor | Origem |
|
| 161 |
+
| --- | --- | --- |
|
| 162 |
+
| Frequência fundamental | $4\pi\varphi$ rad | forma cosseno |
|
| 163 |
+
| Valor médio de $F$ | 0,5 | termo constante |
|
| 164 |
+
| Lei de distribuição | arcoseno / Beta(½,½) | equidistribuição de Weyl |
|
| 165 |
+
| Constante de complementaridade | $\cos(4\pi\varphi)=0{,}0874$ | passo 2, quase-quadratura |
|
| 166 |
+
| Correlação $F(p)\leftrightarrow F(p+2)$ | −0,985 | antidiagonal achatada |
|
| 167 |
+
| $\{2\varphi\}$ | 0,236 ≈ ¼ | fração contínua de $\varphi$ |
|
| 168 |
+
| Braços coprimos $\varphi(42)$ | 12 | aritmética mod 42 |
|
| 169 |
+
| Resíduos quadráticos mod 42 | 16 | CRT: 2×2×4 |
|
| 170 |
+
| Centro do bloco | $r=21,\ \theta=\pi$ | ponto fixo de $r\leftrightarrow 42-r$ |
|
| 171 |
+
|
| 172 |
+
> Estas propriedades descrevem a **função geradora** do kernel. Elas são exatas e demonstráveis
|
| 173 |
+
> a partir dos primeiros princípios; não constituem, por si só, medições de qualidade do modelo
|
| 174 |
+
> quantizado (ver "Notas e limitações").
|
| 175 |
+
|
| 176 |
+
---
|
| 177 |
+
|
| 178 |
+
## 🚀 Uso rápido
|
| 179 |
+
|
| 180 |
+
### 1. Baixar e extrair
|
| 181 |
+
|
| 182 |
+
```bash
|
| 183 |
+
huggingface-cli download Brunobkr/llama.cpp-diffusion_ZetaHelicoidal \
|
| 184 |
+
llama.cpp-diffusion_ZetaHelicoidal.zip \
|
| 185 |
+
--repo-type dataset --local-dir .
|
| 186 |
+
|
| 187 |
+
unzip llama.cpp-diffusion_ZetaHelicoidal.zip
|
| 188 |
+
cd llama.cpp-diffusion_ZetaHelicoidal
|
| 189 |
+
```
|
| 190 |
+
|
| 191 |
+
### 2. Dependências
|
| 192 |
+
|
| 193 |
+
```bash
|
| 194 |
+
pip install -r requirements.txt
|
| 195 |
+
pip install mpmath # necessário para zeta_signature()
|
| 196 |
+
```
|
| 197 |
+
|
| 198 |
+
### 3. Quantizar com ΩFFΣLLIα ativa
|
| 199 |
+
|
| 200 |
+
```bash
|
| 201 |
+
python convert_hf_to_gguf.py /caminho/do/modelo-base \
|
| 202 |
+
--outfile modelo-zeta.gguf \
|
| 203 |
+
--outtype q8_0
|
| 204 |
+
```
|
| 205 |
+
|
| 206 |
+
Durante o processo, o log de auditoria confirma a camada ativa:
|
| 207 |
+
|
| 208 |
+
```
|
| 209 |
+
[AUDITORIA] OFFELLIA ATIVA - Bloco 0 ANTES: 0.123456789012345
|
| 210 |
+
[AUDITORIA] SUCESSO - Bloco 0 DEPOIS: 0.051234567890123
|
| 211 |
+
> Offellia processando tensores: 4200/98304...
|
| 212 |
+
```
|
| 213 |
+
|
| 214 |
+
### 4. Inferência
|
| 215 |
+
|
| 216 |
+
O GGUF resultante requer a dequantização com `inverse_transform` (incluída neste fork) para
|
| 217 |
+
restaurar a escala original dos blocos.
|
| 218 |
+
|
| 219 |
+
```bash
|
| 220 |
+
llama-server -m modelo-zeta.gguf -c 8192 -ngl 99 --port 8080
|
| 221 |
+
```
|
| 222 |
+
|
| 223 |
+
---
|
| 224 |
+
|
| 225 |
+
## ⚠️ Notas e limitações
|
| 226 |
+
|
| 227 |
+
- A camada Helicoidal-Zeta é **determinística e reversível**; os pesos efetivos na inferência
|
| 228 |
+
correspondem aos do modelo base submetidos ao formato de quant escolhido.
|
| 229 |
+
- A reversão usa proteção numérica para escalas com $|\,\text{fator}\,| < 10^{-8}$.
|
| 230 |
+
- O `mpmath` é dependência obrigatória para o cálculo da assinatura zeta
|
| 231 |
+
($\zeta(1/2 + i\,n)$, 21 dígitos de precisão).
|
| 232 |
+
- As invariantes matemáticas listadas referem-se à função geradora do kernel, não a benchmarks
|
| 233 |
+
de perplexidade/qualidade dos GGUFs resultantes. Avalie empiricamente no seu caso de uso.
|
| 234 |
+
- Os parâmetros de geração (temperatura, top_p, top_k, template de chat) seguem as
|
| 235 |
+
**recomendações do modelo base** quantizado — consulte o card original.
|
| 236 |
+
|
| 237 |
+
---
|
| 238 |
+
|
| 239 |
+
## 📚 Referências
|
| 240 |
+
|
| 241 |
+
- Base: llama.cpp-diffusion / llama.cpp — https://github.com/ggml-org/llama.cpp
|
| 242 |
+
- Formato GGUF: https://huggingface.co/docs/hub/gguf
|
| 243 |
+
- ΩFFΣLLIα (Hugging Face): https://huggingface.co/Brunobkr
|
| 244 |
+
- Depósito de pesquisa (Zenodo): https://doi.org/10.5281/zenodo.20026837
|
| 245 |
+
|
| 246 |
+
---
|
| 247 |
+
|
| 248 |
+
## ✍️ Citação
|
| 249 |
+
|
| 250 |
+
```bibtex
|
| 251 |
+
@misc{becker_llamacpp_diffusion_zetahelicoidal,
|
| 252 |
+
author = {Bruno Becker},
|
| 253 |
+
title = {llama.cpp-diffusion ZetaHelicoidal: Helicoidal-Zeta quantization layer integrated into the gguf-py pipeline},
|
| 254 |
+
year = {2026},
|
| 255 |
+
howpublished = {Hugging Face Datasets},
|
| 256 |
+
note = {Deterministic, reversible per-block pre-conditioning kernel (ΩFFΣLLIα)},
|
| 257 |
+
url = {https://huggingface.co/datasets/Brunobkr/llama.cpp-diffusion_ZetaHelicoidal}
|
| 258 |
+
}
|
| 259 |
+
```
|
| 260 |
+
|
| 261 |
+
---
|
| 262 |
+
|
| 263 |
+
## 🙏 Créditos
|
| 264 |
+
|
| 265 |
+
- **Base original:** llama.cpp / llama.cpp-diffusion — ggml-org e contribuidores
|
| 266 |
+
- **Camada ΩFFΣLLIα / Helicoidal-Zeta:** Bruno Becker — Brunobkr
|
capa.png
ADDED
|
Git LFS Details
|