Datasets:
License:
| CMAKE_ARGS="-DLLAMA_BLAS=ON -DLLAMA_BLAS_VENDOR=OpenBLAS" pip install llama-cpp-python | |
| Clonar git | |
| #PONTEIROHORA | |
| find . -exec touch {} + | |
| Para ter o controle total que você busca (dominar a operação): | |
| O ideal é clonar o repositório oficial: git clone https://github.com/ggml-org/llama.cpp. | |
| https://github.com/ggml-org/llama.cpp | |
| Substituir/Modificar os arquivos .cpp e .h com a sua lógica da OFFELLIA. | |
| Compilar manualmente usando make ou cmake. | |
| cd llama.cpp | |
| cmake -B build -DGGML_VULKAN=ON && cmake --build build -j | |
| echo "/home/userk21/llama.cpp_ggml_zeta_helicoidal/build/bin" | sudo tee /etc/ld.so.conf.d/llama-custom.conf | |
| sudo ldconfig | |
| wget -O vendor/miniaudio/miniaudio.h https://raw.githubusercontent.com/mackron/miniaudio/master/miniaudio.h | |
| ####################### | |
| Adapte a sequẽncia de comandos corretos para compilar no kali linux para este comando do meu Ryzen que ja utilizo: cmake -B build -DGGML_VULKAN=ON && cmake --build build -j | |
| Gemini 3.6 Flash Ran for 13s | |
| lightbulb Thought for 4 seconds | |
| build Built | |
| lightbulb Thought for 8 seconds | |
| Aqui está a solução completa e a sequência de comandos para o Kali Linux no seu processador AMD Ryzen com suporte a Vulkan. | |
| O que corrigimos no código para eliminar o erro? | |
| Símbolo de Ponto Flutuante (ggml_vec_dot_q4_2_h_f32): | |
| Implementamos a função nativa ggml_vec_dot_q4_2_h_f32 em ggml-cpu/quants.c e declaramos em ggml-cpu/quants.h. | |
| Ajustamos o mapeamento vec_dot da struct do GGML_TYPE_Q4_2_H para utilizar vec_dot_type = GGML_TYPE_F32. Isso impede o link error (referência não definida) no libggml-cpu.so. | |
| Interface Svelte UI (ChatAttachmentsList.svelte): | |
| Removemos a anotação de tipo inline TypeScript que fazia o compilador Vite/Rollup falhar ao empacotar o ativo Web embedded (tools/ui). | |
| Sequência de Comandos no Kali Linux (AMD Ryzen + Vulkan) | |
| 1. Instalar as dependências do Kali / Debian | |
| code Bash | |
| sudo apt update | |
| sudo apt install -y build-essential cmake ninja-build git pkg-config \ | |
| libvulkan-dev vulkan-tools mesa-vulkan-drivers \ | |
| nodejs npm | |
| 2. Verificar se o Vulkan reconhece sua GPU AMD (ex: RADV Renoir/RDNA) | |
| code Bash | |
| vulkaninfo --summary | |
| 3. Limpar o build anterior e configurar o CMake com Vulkan | |
| code Bash | |
| # Limpa artefatos antigos corrompidos | |
| rm -rf build | |
| # Configura o CMake com suporte Vulkan e otimizações nativas do Ryzen (-march=native) | |
| cmake -B build \ | |
| -DGGML_VULKAN=ON \ | |
| -DGGML_NATIVE=ON \ | |
| -DCMAKE_BUILD_TYPE=Release | |
| 4. Compilar usando todos os núcleos do seu Ryzen | |
| code Bash | |
| cmake --build build -j$(nproc) | |
| 5. Registrar os caminhos das bibliotecas compiladas (libggml-*.so) | |
| code Bash | |
| echo "$(pwd)/build/bin" | sudo tee /etc/ld.so.conf.d/llama-custom.conf | |
| sudo ldconfig | |
| Teste de Execução e Quantização (Q4_2_H) | |
| code Bash | |
| # 1. Quantizar para a nova arquitetura Helicoidal Q4_2_H | |
| ./build/bin/llama-quantize \ | |
| "/home/userk21/Área de trabalho/userk21/GGUFS/VӨIDDΣЯ_f16_LFM2-700M-Heretic.gguf" \ | |
| "/home/userk21/Área de trabalho/userk21/GGUFS/VӨIDDΣЯ_Q4_2_H_LFM2-700M-Heretic.gguf" \ | |
| Q4_2_H | |
| # 2. Executar o servidor com aceleração Vulkan | |
| ./build/bin/llama-server \ | |
| -m "/home/userk21/Área de trabalho/userk21/GGUFS/Qwen3.6-35B-A3B-DSV4Pro-SFT-GPT56Sol-RL-Agent-LynnStyle-Q4-imatrix.gguf" \ | |
| -c 50000 \ | |
| -ngl 99 --n-cpu-moe 99 -fa 1 \ | |
| -np 1 \ | |
| -fa on \ | |
| --agent \ | |
| --cors-origins \ | |
| --tools \ | |
| --reasoning auto \ | |
| --swa-full \ | |
| --kv-unified \ | |
| --webui-mcp-proxy \ | |
| --threads-http -1 \ | |
| --port 5173 \ | |
| --host 127.0.0.1 | |
| lightbulb_tips | |