Brunobkr commited on
Commit
858967f
·
verified ·
1 Parent(s): 53d1960

Upload 2 files

Browse files
Files changed (2) hide show
  1. README.md +266 -0
  2. capa.png +3 -0
README.md ADDED
@@ -0,0 +1,266 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: mit
3
+ pretty_name: llama.cpp-diffusion ZetaHelicoidal (ΩFFΣLLIα)
4
+ language:
5
+ - en
6
+ - pt
7
+ tags:
8
+ - llama.cpp
9
+ - gguf
10
+ - quantization
11
+ - diffusion
12
+ - offsellia
13
+ - helicoidal-zeta
14
+ - source-code
15
+ ---
16
+
17
+ <p align="center">
18
+ <img src="https://huggingface.co/datasets/Brunobkr/llama.cpp-diffusion_ZetaHelicoidal/resolve/main/capa.png" alt="ΩFFΣLLIα" width="100%"/>
19
+ </p>
20
+
21
+ # llama.cpp-diffusion — ZetaHelicoidal (ΩFFΣLLIα)
22
+
23
+ Fork modificado do **llama.cpp-diffusion** com a camada de quantização **ΩFFΣLLIα / Helicoidal-Zeta**
24
+ integrada ao pipeline Python de quantização (`gguf-py`), desenvolvida por **Bruno Becker**.
25
+
26
+ Este repositório contém o **código-fonte completo** (`llama.cpp-diffusion_ZetaHelicoidal.zip`, ~1.05 GB)
27
+ pronto para compilar e quantizar modelos GGUF com o pré-condicionamento Helicoidal-Zeta ativo.
28
+
29
+ > Este é um derivado de código. Todos os créditos da base original pertencem ao projeto
30
+ > **llama.cpp / llama.cpp-diffusion** e seus mantenedores. As modificações ΩFFΣLLIα estão
31
+ > documentadas abaixo.
32
+
33
+ ---
34
+
35
+ ## 📌 Visão geral
36
+
37
+ | Item | Valor |
38
+ | --- | --- |
39
+ | **Arquivo principal** | `llama.cpp-diffusion_ZetaHelicoidal.zip` |
40
+ | **Base** | llama.cpp-diffusion |
41
+ | **Variante** | ΩFFΣLLIα / Helicoidal-Zeta |
42
+ | **Camada modificada** | `gguf-py/gguf/quants.py` + `gguf-py/gguf/__init__.py` |
43
+ | **Autor da modificação** | Bruno Becker — Brunobkr |
44
+
45
+ ---
46
+
47
+ ## 🔧 O que foi modificado
48
+
49
+ A integração ΩFFΣLLIα atua **dentro do pipeline Python de quantização do gguf-py**, sem alterar
50
+ os formatos binários do GGML. Dois arquivos foram modificados:
51
+
52
+ ### 1. `gguf-py/gguf/__init__.py`
53
+
54
+ Exposição do kernel no pacote:
55
+
56
+ ```python
57
+ from gguf.quants import HelicoidalZetaCore # Importação necessária!
58
+ ```
59
+
60
+ ### 2. `gguf-py/gguf/quants.py`
61
+
62
+ - **Classe `HelicoidalZetaCore`** — implementa o kernel matemático completo:
63
+ - `math_embedding(n)` — concatena coordenadas helicoidais moduladas, par `(r, θ)` da rotação
64
+ áurea e assinatura da função zeta de Riemann em `s = 1/2 + i·n` (via `mpmath`, 21 dígitos,
65
+ com cache LRU de 10.000 entradas);
66
+ - `transform(x, n_val)` — aplica o fator escalar `tanh(mean(emb(n)))` ao bloco;
67
+ - `inverse_transform(x, n_val)` — desfaz exatamente o fator na dequantização, com proteção
68
+ numérica para escalas `|fator| < 1e-8`;
69
+ - `delta_m(n)` — modulação mod-42 das coordenadas (`1.0` se `n ≡ 0 (mod 42)`, senão `0.42`);
70
+ - cache incremental de primos (`_PrimeCache`) para o modo opcional `use_primes`.
71
+
72
+ - **`__Quant.quantize_rows`** — antes da quantização nativa, cada bloco `i` recebe
73
+ `zeta_core.transform(bloco, n_val=i+1)`. Inclui auditoria em tempo real:
74
+
75
+ ```
76
+ [AUDITORIA] OFFELLIA ATIVA - Bloco 0 ANTES: <valor>
77
+ [AUDITORIA] SUCESSO - Bloco 0 DEPOIS: <valor>
78
+ > Offellia processando tensores: i/n_blocks...
79
+ ```
80
+
81
+ - **`__Quant.dequantize_rows`** — após a dequantização padrão do GGML, cada bloco recebe
82
+ `zeta_core.inverse_transform(bloco, n_val=i+1)`, restaurando a escala original.
83
+
84
+ Todas as classes de quantização nativas (Q4_0…Q8_0, Q2_K…Q6_K, TQ, MXFP4, IQ*) permanecem
85
+ intactas — a camada ΩFFΣLLIα envolve o fluxo, não o substitui.
86
+
87
+ ---
88
+
89
+ ## 🧬 Como funciona a camada Helicoidal-Zeta
90
+
91
+ A ΩFFΣLLIα **não substitui** os formatos de quantização do GGML/llama.cpp — ela atua como uma
92
+ **camada de pré-condicionamento determinística e reversível** aplicada bloco a bloco, **antes** da
93
+ quantização padrão (e desfeita na dequantização):
94
+
95
+ 1. Cada linha do tensor é dividida em blocos de tamanho fixo do tipo de quant escolhido.
96
+ 2. Antes de quantizar, cada bloco `i` é multiplicado por um fator escalar derivado do
97
+ **Helicoidal-Zeta Kernel**, indexado por `n = i + 1`.
98
+ 3. O bloco já condicionado segue para a quantização nativa do tipo escolhido (Q4_K, Q8_0, etc.).
99
+ 4. Na inferência, a dequantização nativa do GGML é aplicada e em seguida o
100
+ **`inverse_transform`** desfaz exatamente o fator, restaurando a escala original do bloco.
101
+
102
+ ### O fator escalar
103
+
104
+ ```
105
+ raw_scale = média(emb(n))
106
+ fator = tanh(raw_scale) # usado na quantização
107
+ inverso = x / fator # usado na dequantização
108
+ ```
109
+
110
+ ---
111
+
112
+ ## 📐 Fundamentos matemáticos
113
+
114
+ A construção parte da função real sobre os inteiros:
115
+
116
+ $$ F(n) = \sin^2(2\pi\varphi n), \qquad \varphi = \frac{1+\sqrt{5}}{2} \approx 1{,}6180339887\ldots $$
117
+
118
+ Geometricamente, é uma **rotação irracional no toro** levantada para uma hélice em $\mathbb{R}^3$.
119
+ Como $\varphi$ é a constante "mais irracional" (caso extremo do teorema de Hurwitz), a órbita
120
+ nunca se fecha nem se repete — e dessa única propriedade derivam todas as estruturas seguintes.
121
+
122
+ ### Forma cosseno e valor médio
123
+
124
+ Aplicando $\sin^2 x = \tfrac{1}{2}(1 - \cos 2x)$:
125
+
126
+ $$ F(n) = \frac{1}{2} - \frac{1}{2}\cos(4\pi\varphi n) $$
127
+
128
+ - A parte constante $\tfrac{1}{2}$ é o **valor médio** de $F$ (≈ 0,5).
129
+ - A parte flutuante é **mono-frequencial**, com frequência angular única $\omega = 4\pi\varphi$.
130
+ - Não há harmônicos superiores: toda estrutura vem da interação dessa frequência irracional
131
+ com operações inteiras (passos e módulos).
132
+
133
+ ### Equidistribuição e lei do arcoseno
134
+
135
+ Pelo **teorema de Weyl**, a sequência $\{\varphi n\}$ é equidistribuída em $[0,1)$. Logo
136
+ $Y = \sin^2(2\pi U)$ segue a distribuição **arcoseno** $\mathrm{Beta}(\tfrac12,\tfrac12)$:
137
+
138
+ $$ f_Y(y) = \frac{1}{\pi\sqrt{y(1-y)}}, \quad y \in (0,1) $$
139
+
140
+ com massa acumulada nas bordas e mínimo central $\tfrac{1}{\pi} \approx 0{,}637$.
141
+
142
+ ### Complementaridade do passo 2
143
+
144
+ $$ F(n) + F(n+2) = 1 - \cos(4\pi\varphi)\,\cos\!\big(4\pi\varphi(n+1)\big) $$
145
+
146
+ com $\cos(4\pi\varphi) \approx 0{,}0874$ — quase-quadratura. A soma oscila em torno de 1 com
147
+ amplitude mínima, gerando a correlação antidiagonal $F(p) \leftrightarrow F(p+2) \approx -0{,}985$.
148
+ O passo 2 é minimizante porque $\{2\varphi\} = 0{,}236 \approx \tfrac14$, consequência direta da
149
+ expansão em fração contínua $\varphi = [1;1,1,1,\ldots]$.
150
+
151
+ ### Estrutura modular 42
152
+
153
+ Como $42 = 2\cdot 3\cdot 7$ e $\varphi(42) = 12$, há **12 braços coprimos** que abrigam todos os
154
+ primos $> 7$. Os **16 resíduos quadráticos mod 42** ocupam posições fixas
155
+ $\{0,1,4,7,9,15,16,18,21,22,25,28,30,36,37,39\}$ e o centro $r=21$ (ângulo $\theta=\pi$) é o eixo
156
+ de simetria do bloco, ponto fixo do pareamento $r \leftrightarrow 42-r$.
157
+
158
+ ### Tabela-síntese das invariantes
159
+
160
+ | Invariante | Valor | Origem |
161
+ | --- | --- | --- |
162
+ | Frequência fundamental | $4\pi\varphi$ rad | forma cosseno |
163
+ | Valor médio de $F$ | 0,5 | termo constante |
164
+ | Lei de distribuição | arcoseno / Beta(½,½) | equidistribuição de Weyl |
165
+ | Constante de complementaridade | $\cos(4\pi\varphi)=0{,}0874$ | passo 2, quase-quadratura |
166
+ | Correlação $F(p)\leftrightarrow F(p+2)$ | −0,985 | antidiagonal achatada |
167
+ | $\{2\varphi\}$ | 0,236 ≈ ¼ | fração contínua de $\varphi$ |
168
+ | Braços coprimos $\varphi(42)$ | 12 | aritmética mod 42 |
169
+ | Resíduos quadráticos mod 42 | 16 | CRT: 2×2×4 |
170
+ | Centro do bloco | $r=21,\ \theta=\pi$ | ponto fixo de $r\leftrightarrow 42-r$ |
171
+
172
+ > Estas propriedades descrevem a **função geradora** do kernel. Elas são exatas e demonstráveis
173
+ > a partir dos primeiros princípios; não constituem, por si só, medições de qualidade do modelo
174
+ > quantizado (ver "Notas e limitações").
175
+
176
+ ---
177
+
178
+ ## 🚀 Uso rápido
179
+
180
+ ### 1. Baixar e extrair
181
+
182
+ ```bash
183
+ huggingface-cli download Brunobkr/llama.cpp-diffusion_ZetaHelicoidal \
184
+ llama.cpp-diffusion_ZetaHelicoidal.zip \
185
+ --repo-type dataset --local-dir .
186
+
187
+ unzip llama.cpp-diffusion_ZetaHelicoidal.zip
188
+ cd llama.cpp-diffusion_ZetaHelicoidal
189
+ ```
190
+
191
+ ### 2. Dependências
192
+
193
+ ```bash
194
+ pip install -r requirements.txt
195
+ pip install mpmath # necessário para zeta_signature()
196
+ ```
197
+
198
+ ### 3. Quantizar com ΩFFΣLLIα ativa
199
+
200
+ ```bash
201
+ python convert_hf_to_gguf.py /caminho/do/modelo-base \
202
+ --outfile modelo-zeta.gguf \
203
+ --outtype q8_0
204
+ ```
205
+
206
+ Durante o processo, o log de auditoria confirma a camada ativa:
207
+
208
+ ```
209
+ [AUDITORIA] OFFELLIA ATIVA - Bloco 0 ANTES: 0.123456789012345
210
+ [AUDITORIA] SUCESSO - Bloco 0 DEPOIS: 0.051234567890123
211
+ > Offellia processando tensores: 4200/98304...
212
+ ```
213
+
214
+ ### 4. Inferência
215
+
216
+ O GGUF resultante requer a dequantização com `inverse_transform` (incluída neste fork) para
217
+ restaurar a escala original dos blocos.
218
+
219
+ ```bash
220
+ llama-server -m modelo-zeta.gguf -c 8192 -ngl 99 --port 8080
221
+ ```
222
+
223
+ ---
224
+
225
+ ## ⚠️ Notas e limitações
226
+
227
+ - A camada Helicoidal-Zeta é **determinística e reversível**; os pesos efetivos na inferência
228
+ correspondem aos do modelo base submetidos ao formato de quant escolhido.
229
+ - A reversão usa proteção numérica para escalas com $|\,\text{fator}\,| < 10^{-8}$.
230
+ - O `mpmath` é dependência obrigatória para o cálculo da assinatura zeta
231
+ ($\zeta(1/2 + i\,n)$, 21 dígitos de precisão).
232
+ - As invariantes matemáticas listadas referem-se à função geradora do kernel, não a benchmarks
233
+ de perplexidade/qualidade dos GGUFs resultantes. Avalie empiricamente no seu caso de uso.
234
+ - Os parâmetros de geração (temperatura, top_p, top_k, template de chat) seguem as
235
+ **recomendações do modelo base** quantizado — consulte o card original.
236
+
237
+ ---
238
+
239
+ ## 📚 Referências
240
+
241
+ - Base: llama.cpp-diffusion / llama.cpp — https://github.com/ggml-org/llama.cpp
242
+ - Formato GGUF: https://huggingface.co/docs/hub/gguf
243
+ - ΩFFΣLLIα (Hugging Face): https://huggingface.co/Brunobkr
244
+ - Depósito de pesquisa (Zenodo): https://doi.org/10.5281/zenodo.20026837
245
+
246
+ ---
247
+
248
+ ## ✍️ Citação
249
+
250
+ ```bibtex
251
+ @misc{becker_llamacpp_diffusion_zetahelicoidal,
252
+ author = {Bruno Becker},
253
+ title = {llama.cpp-diffusion ZetaHelicoidal: Helicoidal-Zeta quantization layer integrated into the gguf-py pipeline},
254
+ year = {2026},
255
+ howpublished = {Hugging Face Datasets},
256
+ note = {Deterministic, reversible per-block pre-conditioning kernel (ΩFFΣLLIα)},
257
+ url = {https://huggingface.co/datasets/Brunobkr/llama.cpp-diffusion_ZetaHelicoidal}
258
+ }
259
+ ```
260
+
261
+ ---
262
+
263
+ ## 🙏 Créditos
264
+
265
+ - **Base original:** llama.cpp / llama.cpp-diffusion — ggml-org e contribuidores
266
+ - **Camada ΩFFΣLLIα / Helicoidal-Zeta:** Bruno Becker — Brunobkr
capa.png ADDED

Git LFS Details

  • SHA256: b75864d7c9e823556b3cd9f51223e487c9188df1cd15a50449a626993814ae13
  • Pointer size: 132 Bytes
  • Size of remote file: 2.24 MB