CMAKE_ARGS="-DLLAMA_BLAS=ON -DLLAMA_BLAS_VENDOR=OpenBLAS" pip install llama-cpp-python

Clonar git

#PONTEIROHORA

find . -exec touch {} +

Para ter o controle total que você busca (dominar a operação):

O ideal é clonar o repositório oficial: git clone https://github.com/ggml-org/llama.cpp.

https://github.com/ggml-org/llama.cpp

Substituir/Modificar os arquivos .cpp e .h com a sua lógica da OFFELLIA.

Compilar manualmente usando make ou cmake.

cd llama.cpp

cmake -B build -DGGML_VULKAN=ON && cmake --build build -j

echo "/home/userk21/llama.cpp_ggml_zeta_helicoidal/build/bin" | sudo tee /etc/ld.so.conf.d/llama-custom.conf

sudo ldconfig




wget -O vendor/miniaudio/miniaudio.h https://raw.githubusercontent.com/mackron/miniaudio/master/miniaudio.h


#######################

Adapte a sequẽncia de comandos corretos para compilar no kali linux para este comando do meu Ryzen que ja utilizo: cmake -B build -DGGML_VULKAN=ON && cmake --build build -j
Gemini 3.6 Flash Ran for 13s
lightbulb Thought for 4 seconds
build Built
lightbulb Thought for 8 seconds

Aqui está a solução completa e a sequência de comandos para o Kali Linux no seu processador AMD Ryzen com suporte a Vulkan.
O que corrigimos no código para eliminar o erro?

    Símbolo de Ponto Flutuante (ggml_vec_dot_q4_2_h_f32):

        Implementamos a função nativa ggml_vec_dot_q4_2_h_f32 em ggml-cpu/quants.c e declaramos em ggml-cpu/quants.h.

        Ajustamos o mapeamento vec_dot da struct do GGML_TYPE_Q4_2_H para utilizar vec_dot_type = GGML_TYPE_F32. Isso impede o link error (referência não definida) no libggml-cpu.so.

    Interface Svelte UI (ChatAttachmentsList.svelte):

        Removemos a anotação de tipo inline TypeScript que fazia o compilador Vite/Rollup falhar ao empacotar o ativo Web embedded (tools/ui).

Sequência de Comandos no Kali Linux (AMD Ryzen + Vulkan)
1. Instalar as dependências do Kali / Debian
code Bash

sudo apt update
sudo apt install -y build-essential cmake ninja-build git pkg-config \
                    libvulkan-dev vulkan-tools mesa-vulkan-drivers \
                    nodejs npm

2. Verificar se o Vulkan reconhece sua GPU AMD (ex: RADV Renoir/RDNA)
code Bash

vulkaninfo --summary

3. Limpar o build anterior e configurar o CMake com Vulkan
code Bash

# Limpa artefatos antigos corrompidos
rm -rf build

# Configura o CMake com suporte Vulkan e otimizações nativas do Ryzen (-march=native)
cmake -B build \
      -DGGML_VULKAN=ON \
      -DGGML_NATIVE=ON \
      -DCMAKE_BUILD_TYPE=Release

4. Compilar usando todos os núcleos do seu Ryzen
code Bash

cmake --build build -j$(nproc)

5. Registrar os caminhos das bibliotecas compiladas (libggml-*.so)
code Bash

echo "$(pwd)/build/bin" | sudo tee /etc/ld.so.conf.d/llama-custom.conf
sudo ldconfig

Teste de Execução e Quantização (Q4_2_H)
code Bash

# 1. Quantizar para a nova arquitetura Helicoidal Q4_2_H
./build/bin/llama-quantize \
  "/home/userk21/Área de trabalho/userk21/GGUFS/VӨIDDΣЯ_f16_LFM2-700M-Heretic.gguf" \
  "/home/userk21/Área de trabalho/userk21/GGUFS/VӨIDDΣЯ_Q4_2_H_LFM2-700M-Heretic.gguf" \
  Q4_2_H

# 2. Executar o servidor com aceleração Vulkan
./build/bin/llama-server \
  -m "/home/userk21/Área de trabalho/userk21/GGUFS/Qwen3.6-35B-A3B-DSV4Pro-SFT-GPT56Sol-RL-Agent-LynnStyle-Q4-imatrix.gguf" \
  -c 50000 \
  -ngl 99 --n-cpu-moe 99 -fa 1 \
  -np 1 \
  -fa on \
  --agent \
  --cors-origins \
  --tools \
  --reasoning auto \
  --swa-full \
  --kv-unified \
  --webui-mcp-proxy \
  --threads-http -1 \
  --port 5173 \
  --host 127.0.0.1

lightbulb_tips