GGUF
Spanish
English
moderno-tech
nova
nova-velocity
quantized
Mixture of Experts
conversational
local-ai
imatrix
Instructions to use ModernoTech/Nova-Velocity with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- llama.cpp
How to use ModernoTech/Nova-Velocity with llama.cpp:
Install (macOS, Linux)
curl -LsSf https://llama.app/install.sh | sh # Start a local OpenAI-compatible server with a web UI: llama serve -hf ModernoTech/Nova-Velocity:Q4_K_M # Run inference directly in the terminal: llama cli -hf ModernoTech/Nova-Velocity:Q4_K_M
Install from WinGet (Windows)
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama serve -hf ModernoTech/Nova-Velocity:Q4_K_M # Run inference directly in the terminal: llama cli -hf ModernoTech/Nova-Velocity:Q4_K_M
Build from source code
git clone https://github.com/ggml-org/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-app # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama serve -hf ModernoTech/Nova-Velocity:Q4_K_M # Run inference directly in the terminal: ./build/bin/llama cli -hf ModernoTech/Nova-Velocity:Q4_K_M
Use Docker
docker model run hf.co/ModernoTech/Nova-Velocity:Q4_K_M
- Llama new
- LM Studio
- Jan
- Ollama
How to use ModernoTech/Nova-Velocity with Ollama:
ollama run hf.co/ModernoTech/Nova-Velocity:Q4_K_M
- Unsloth Desktop
- Pi
How to use ModernoTech/Nova-Velocity with Pi:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf ModernoTech/Nova-Velocity:Q4_K_M
Configure the model in Pi
# Install Pi: npm install -g @earendil-works/pi-coding-agent # Add to ~/.pi/agent/models.json: { "providers": { "llama-cpp": { "baseUrl": "http://localhost:8080/v1", "api": "openai-completions", "apiKey": "none", "models": [ { "id": "ModernoTech/Nova-Velocity:Q4_K_M" } ] } } }Run Pi
# Start Pi in your project directory: pi
- Docker Model Runner
How to use ModernoTech/Nova-Velocity with Docker Model Runner:
docker model run hf.co/ModernoTech/Nova-Velocity:Q4_K_M
- Lemonade
How to use ModernoTech/Nova-Velocity with Lemonade:
Pull the model
# Download Lemonade from https://lemonade-server.ai/ lemonade pull ModernoTech/Nova-Velocity:Q4_K_M
Run and chat with the model
lemonade run user.Nova-Velocity-Q4_K_M
List all available models
lemonade list
- Hermes Agent
How to use ModernoTech/Nova-Velocity with Hermes Agent:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf ModernoTech/Nova-Velocity:Q4_K_M
Configure Hermes
# Install Hermes: curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash hermes setup # Point Hermes at the local server: hermes config set model.provider custom hermes config set model.base_url http://127.0.0.1:8080/v1 hermes config set model.default ModernoTech/Nova-Velocity:Q4_K_M
Run Hermes
hermes
- Atomic Chat
- OpenClaw
How to use ModernoTech/Nova-Velocity with OpenClaw:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf ModernoTech/Nova-Velocity:Q4_K_M
Configure OpenClaw
# Install OpenClaw: npm install -g openclaw@latest # Register the local server and set it as the default model: openclaw onboard --non-interactive --mode local \ --auth-choice custom-api-key \ --custom-base-url http://127.0.0.1:8080/v1 \ --custom-model-id "ModernoTech/Nova-Velocity:Q4_K_M" \ --custom-provider-id llama-cpp \ --custom-compatibility openai \ --custom-text-input \ --accept-risk \ --skip-health
Run OpenClaw
openclaw agent --local --agent main --message "Hello from Hugging Face"
Add Nova Velocity Model Card using verified source configuration and no invented metrics
8a677d3 verified |
Download MODEL-CARD.md from ModernoTech/Nova-Velocity: direct link, hf CLI and curl.
- Browser
- Download file 3.11 kB
-
https://huggingface.co/ModernoTech/Nova-Velocity/resolve/main/MODEL-CARD.md
- Command line
-
hf download hf://ModernoTech/Nova-Velocity/MODEL-CARD.md
-
curl -L -o MODEL-CARD.md https://huggingface.co/ModernoTech/Nova-Velocity/resolve/main/MODEL-CARD.md
3.11 kB
| language: | |
| - es | |
| - en | |
| pretty_name: Nova Velocity — Moderno Tech | |
| model_name: Nova Velocity | |
| model_creator: Moderno Tech | |
| tags: | |
| - moderno-tech | |
| - nova | |
| - nova-velocity | |
| - gguf | |
| - quantized | |
| - moe | |
| license: other | |
| inference: false | |
|  | |
| # Nova Velocity | |
| **Moderno Tech — Nova** | |
| Nova Velocity es la distribución de Moderno Tech de los artefactos GGUF provenientes de `DavidAU/Qwen3-30B-A1.5B-64K-High-Speed-NEO-Imatrix-MAX-gguf`, rebrandeados con identidad Nova. | |
| ## Identidad y procedencia | |
| - Marca: Moderno Tech. | |
| - Familia: Nova. | |
| - Producto: Nova Velocity. | |
| - Sitio oficial: https://moderno.com.ar. | |
| - Fuente GGUF audited: `DavidAU/Qwen3-30B-A1.5B-64K-High-Speed-NEO-Imatrix-MAX-gguf`. | |
| - Artefacto de origen: cuantizaciones subidas por el moderador del repositorio fuente. | |
| - Procedencia documentada: README del repositorio fuente afirma una modificación de `Qwen3-30B-A3B`, con context extendido a 64K y activación de 4 expertos cuando la activación estándar es 8. | |
| ## Datos verificados | |
| - Formato: GGUF. | |
| - Variantes publicadas: | |
| - IQ2_M con 10,440,040,608 bytes. | |
| - IQ2_S con 9,589,121,184 bytes. | |
| - IQ3_M con 13,646,756,000 bytes. | |
| - IQ3_S con 13,459,585,184 bytes. | |
| - IQ3_XS con 12,758,874,272 bytes. | |
| - IQ4_XS con 16,368,349,344 bytes. | |
| - Q4_K_M con 18,556,686,496 bytes. | |
| - Q4_K_S con 17,456,009,376 bytes. | |
| - Q5_K_M con 21,725,581,472 bytes. | |
| - Q6_K con 25,092,532,384 bytes. | |
| Arquitectura y metadatos provienen del artefacto heredado; no se modificaron tensores ni cuantizaciones. | |
| ## Compatibilidad | |
| - Runtime objetivo: llama.cpp compatible con GGUF. | |
| - Variantes de muy baja precision (`IQ2_M`, `IQ3_XS`, `IQ4_XS`) pueden ser útiles cuando el contexto o la memoria disponible es limitado, a costa de calidad. | |
| - Variantes `Q4_K_M`, `Q5_K_M` y `Q6_K` son más apropiadas cuando se busca calidad y generación más estable. | |
| - Compatibilidad exacta con LM Studio, Ollama u otras interfaces debe verificarse individualmente para cada variante y versión. | |
| - El contexto de 64K depende del runtime, la configuración y la memoria disponible. | |
| ## Licencia y procedencia | |
| - La publicación se basa en el repositorio fuente auditado `DavidAU/Qwen3-30B-A1.5B-64K-High-Speed-NEO-Imatrix-MAX-gguf`. | |
| - La licencia del origen debe revisarse según el repositorio fuente y la licencia de Qwen3. | |
| - Moderno Tech no afirma haber creado los pesos originales ni la modificación de activación experta. | |
| - Los avisos de terceros se conservan por obligación legal. | |
| ## Rendimiento | |
| No se publican métricas reales de rendimiento. | |
| El repositorio fuente incluye valores de velocidad en README que no deben tratarse como medición auditada por Moderno Tech. Los requisitos reales de RAM, VRAM, contexto y throughput deben validarse con cada variante y runtime. | |
| ## Uso recomendado | |
| Variantes compactas para exploración y comparación de consumo en hardware compatible, siempre con validación individual. Referencia para un escenario de velocidad, pero no una distribución final de alto fidelidad como la de Nova Coder. | |
| Sitio oficial: https://moderno.com.ar |