GGUF
Spanish
English
moderno-tech
nova
nova-velocity
quantized
Mixture of Experts
conversational
local-ai
imatrix
Instructions to use ModernoTech/Nova-Velocity with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- llama.cpp
How to use ModernoTech/Nova-Velocity with llama.cpp:
Install (macOS, Linux)
curl -LsSf https://llama.app/install.sh | sh # Start a local OpenAI-compatible server with a web UI: llama serve -hf ModernoTech/Nova-Velocity:Q4_K_M # Run inference directly in the terminal: llama cli -hf ModernoTech/Nova-Velocity:Q4_K_M
Install from WinGet (Windows)
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama serve -hf ModernoTech/Nova-Velocity:Q4_K_M # Run inference directly in the terminal: llama cli -hf ModernoTech/Nova-Velocity:Q4_K_M
Build from source code
git clone https://github.com/ggml-org/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-app # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama serve -hf ModernoTech/Nova-Velocity:Q4_K_M # Run inference directly in the terminal: ./build/bin/llama cli -hf ModernoTech/Nova-Velocity:Q4_K_M
Use Docker
docker model run hf.co/ModernoTech/Nova-Velocity:Q4_K_M
- Llama new
- LM Studio
- Jan
- Ollama
How to use ModernoTech/Nova-Velocity with Ollama:
ollama run hf.co/ModernoTech/Nova-Velocity:Q4_K_M
- Unsloth Desktop
- Pi
How to use ModernoTech/Nova-Velocity with Pi:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf ModernoTech/Nova-Velocity:Q4_K_M
Configure the model in Pi
# Install Pi: npm install -g @earendil-works/pi-coding-agent # Add to ~/.pi/agent/models.json: { "providers": { "llama-cpp": { "baseUrl": "http://localhost:8080/v1", "api": "openai-completions", "apiKey": "none", "models": [ { "id": "ModernoTech/Nova-Velocity:Q4_K_M" } ] } } }Run Pi
# Start Pi in your project directory: pi
- Docker Model Runner
How to use ModernoTech/Nova-Velocity with Docker Model Runner:
docker model run hf.co/ModernoTech/Nova-Velocity:Q4_K_M
- Lemonade
How to use ModernoTech/Nova-Velocity with Lemonade:
Pull the model
# Download Lemonade from https://lemonade-server.ai/ lemonade pull ModernoTech/Nova-Velocity:Q4_K_M
Run and chat with the model
lemonade run user.Nova-Velocity-Q4_K_M
List all available models
lemonade list
- Hermes Agent
How to use ModernoTech/Nova-Velocity with Hermes Agent:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf ModernoTech/Nova-Velocity:Q4_K_M
Configure Hermes
# Install Hermes: curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash hermes setup # Point Hermes at the local server: hermes config set model.provider custom hermes config set model.base_url http://127.0.0.1:8080/v1 hermes config set model.default ModernoTech/Nova-Velocity:Q4_K_M
Run Hermes
hermes
- Atomic Chat
- OpenClaw
How to use ModernoTech/Nova-Velocity with OpenClaw:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf ModernoTech/Nova-Velocity:Q4_K_M
Configure OpenClaw
# Install OpenClaw: npm install -g openclaw@latest # Register the local server and set it as the default model: openclaw onboard --non-interactive --mode local \ --auth-choice custom-api-key \ --custom-base-url http://127.0.0.1:8080/v1 \ --custom-model-id "ModernoTech/Nova-Velocity:Q4_K_M" \ --custom-provider-id llama-cpp \ --custom-compatibility openai \ --custom-text-input \ --accept-risk \ --skip-health
Run OpenClaw
openclaw agent --local --agent main --message "Hello from Hugging Face"
File size: 9,560 Bytes
c3c61e6 fbbc135 c5a0eb3 fbbc135 c3c61e6 fbbc135 c3c61e6 c5a0eb3 fbbc135 c3c61e6 fbbc135 c3c61e6 fbbc135 c3c61e6 c5a0eb3 c3c61e6 c5a0eb3 c3c61e6 c5a0eb3 c3c61e6 fbbc135 c3c61e6 c5a0eb3 fbbc135 c3c61e6 c5a0eb3 c3c61e6 c5a0eb3 c3c61e6 c5a0eb3 c3c61e6 c5a0eb3 c3c61e6 c5a0eb3 c3c61e6 c5a0eb3 c3c61e6 c5a0eb3 c3c61e6 fbbc135 c3c61e6 fbbc135 c5a0eb3 fbbc135 c3c61e6 c5a0eb3 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 | ---
language:
- es
- en
pretty_name: Nova Velocity — Inteligencia artificial general con prioridad en la velocidad
model_name: Nova Velocity
model_creator: Moderno Tech
tags:
- moderno-tech
- nova
- nova-velocity
- gguf
- quantized
- moe
- conversational
- local-ai
license: apache-2.0
inference: false
---

<div align="center">
<img alt="Moderno Tech" src="images/moderno-tech-logo.png" width="84"/>
</div>
# NOVA VELOCITY
**Moderno Tech — Nova AI**
## Inteligencia artificial general con prioridad en la velocidad
Nova Velocity pertenece a la línea de modelos de propósito general de Nova AI, destinada a ejecución local en computadoras.
Fue concebido para usuarios que necesitan un asistente capaz de abordar distintas tareas generales y que valoran especialmente la fluidez y la velocidad de respuesta.
Sitio oficial: https://moderno.com.ar
---
## Visión y filosofía de Nova AI
**Tu inteligencia artificial. Tu dispositivo. Tus recursos.**
Nova AI es una familia de modelos de inteligencia artificial desarrollada dentro de Moderno Tech, con una filosofía centrada en la eficiencia computacional, la ejecución local y la accesibilidad.
La visión de Moderno Tech es que una persona no debería necesitar una infraestructura costosa ni depender permanentemente de servidores en la nube para utilizar un asistente de inteligencia artificial.
Para los modelos de la línea de computadoras, el objetivo es que el usuario pueda instalar su propia inteligencia artificial Moderno Tech y utilizarla para trabajar, estudiar y resolver distintas tareas, aprovechando el hardware disponible.
### Una nueva forma de utilizar inteligencia artificial
Tradicionalmente, muchos asistentes de inteligencia artificial procesan las consultas en servidores remotos. Cada conversación requiere recursos de procesamiento, memoria y aceleración de hardware en una infraestructura centralizada.
La propuesta de Nova AI es diferente.
Moderno Tech busca que los usuarios puedan instalar y ejecutar sus modelos directamente en sus computadoras, utilizando motores de inferencia locales y los recursos del propio equipo.
La descarga inicial del modelo sí utiliza almacenamiento y transferencia de datos. La ventaja buscada es que la inferencia y la generación de respuestas se realicen localmente, cuando la implementación lo permite.
No prometer privacidad absoluta, ejecución sin conexión ni compatibilidad universal sin comprobar las características reales de la plataforma.
### Dispositivos contemplados
La línea de modelos para computadoras está dirigida a:
- Computadoras portátiles.
- Computadoras de escritorio.
- Estaciones de trabajo.
- Sistemas compatibles con ejecución local de modelos de mayor tamaño.
El objetivo es que cada usuario pueda seleccionar un modelo de acuerdo con los recursos disponibles.
La compatibilidad depende de la memoria disponible, el motor de inferencia, el soporte de hardware, la cuantización y las características del dispositivo.
---
## Qué se buscó lograr con Nova Velocity
El objetivo de Nova Velocity es ofrecer una experiencia de IA local de propósito general que priorice la agilidad de inferencia.
No está especializado exclusivamente en programación ni en una tarea concreta. Su propósito es funcionar como un asistente general para múltiples actividades.
La decisión de utilizar Velocity o Prime debe considerar los recursos del equipo, la velocidad buscada y la capacidad requerida para las tareas.
Su perfil es el de un modelo de propósito general con mayor presupuesto de parámetros que los modelos compactos de Nova Chat, orientado a computadoras compatibles.
## Público objetivo
- Usuarios que quieren instalar una IA local en su computadora.
- Profesionales que necesitan asistencia general.
- Usuarios que valoran respuestas ágiles.
- Desarrolladores que utilizan asistentes para tareas no exclusivamente relacionadas con programación.
- Personas que buscan una alternativa local para consultas, redacción y productividad.
## Casos de uso
- Asistencia general.
- Preguntas y respuestas.
- Generación de texto.
- Redacción y reformulación.
- Resúmenes.
- Ayuda con tareas cotidianas.
- Productividad y organización.
- Asistencia en aplicaciones locales.
## Características principales
- Aproximadamente 30.000 millones de parámetros totales.
- Aproximadamente 1.500 millones de parámetros activos por token.
- Arquitectura Mixture of Experts.
- Activación selectiva de expertos.
- Perfil de propósito general.
- Prioridad: fluidez y velocidad de utilización.
## Arquitectura del modelo
Arquitectura Mixture of Experts: el procesamiento se distribuye entre expertos especializados y se activan selectivamente los correspondientes a cada token.
| Campo | Valor verificado |
|---|---|
| Bloques (capas) | 48 |
| Dimensión de embeddings | 2048 |
| Cabezas de atención | 32 |
| Cabezas KV | 4 |
| Expertos totales | 128 |
| Expertos activos por token | 4 |
| Longitud de contexto | 65,536 tokens |
| Dimensión feed-forward | 6,144 |
| Dimensión feed-forward por experto | 768 |
Explicación técnica: los parámetros activos representan los componentes que participan en el procesamiento de cada token, no el tamaño total del modelo. Los pesos de los expertos y los restantes componentes deben estar disponibles durante la ejecución. Por eso, los requisitos de memoria y almacenamiento no equivalen a los de un modelo denso de 1,5B.
## Parámetros y configuración
| Campo | Información verificada |
|---|---|
| Producto | Nova Velocity |
| Marca | Moderno Tech |
| Familia | Nova AI |
| Variantes | Múltiples cuantizaciones GGUF (IQ2_M a Q6_K) |
| Formato | GGUF |
| Parámetros totales | Aproximadamente 30B |
| Parámetros activos por token | Aproximadamente 1,5B |
| Contexto máximo documentado | Hasta 65,536 tokens |
| Licencia original | Apache License 2.0 |
## Variantes publicadas
| Archivo | Cuantización | Tamaño bytes |
|---|---|---:|
| `Nova-Velocity-2.0-IQ2_M.gguf` | IQ2_M | 10,440,040,608 |
| `Nova-Velocity-2.0-IQ2_S.gguf` | IQ2_S | 9,589,121,184 |
| `Nova-Velocity-2.0-IQ3_M.gguf` | IQ3_M | 13,646,756,000 |
| `Nova-Velocity-2.0-IQ3_S.gguf` | IQ3_S | 13,459,585,184 |
| `Nova-Velocity-2.0-IQ3_XS.gguf` | IQ3_XS | 12,758,874,272 |
| `Nova-Velocity-2.0-IQ4_XS.gguf` | IQ4_XS | 16,368,349,344 |
| `Nova-Velocity-2.0-Q4_K_M.gguf` | Q4_K_M | 18,556,686,496 |
| `Nova-Velocity-2.0-Q4_K_S.gguf` | Q4_K_S | 17,456,009,376 |
| `Nova-Velocity-2.0-Q5_K_M.gguf` | Q5_K_M | 21,725,581,472 |
| `Nova-Velocity-2.0-Q6_K.gguf` | Q6_K | 25,092,532,384 |
La variante Q4_K_M es recomendada para uso general, salvo que el runtime o hardware indiquen lo contrario.
## Su lugar dentro de la familia Nova
Nova Velocity representa la línea de propósito general con prioridad en la fluidez para computadoras. Su posicionamiento debe diferenciarse de Prime: Velocity busca una utilización más ágil, mientras que Prime prioriza un presupuesto de parámetros mayor.
No confundir tamaño con garantía automática de mejores resultados en todas las tareas. No afirmar velocidades exactas sin mediciones realizadas bajo las mismas condiciones.
## Comparativa interna de la familia Nova
| Modelo | Parámetros | Arquitectura | Objetivo |
|---|---:|---|---|
| Nova Nano | 350M | Arquitectura híbrida (conv + atención) | IA local ultracompacta |
| Nova Mini | 0,6B | Transformer denso | Equilibrio entre capacidad y eficiencia |
| Nova Spark | 0,8B | Arquitectura híbrida (atención + SSM) | Mayor capacidad compacta |
| Nova Flow | ~8B / ~1,5B activos | Mixture of Experts | Capacidad total y activación selectiva |
| **Nova Velocity** | ~30B / ~1,5B activos | Mixture of Experts | Propósito general y agilidad |
| Nova Prime | ~35B | Según configuración | Propósito general de mayor capacidad |
| Nova Coder | ~16B | Mixture of Experts | Programación especializada |
## ¿Qué Nova elegir?
- Nano: conversación rápida, dispositivos modestos y modo de voz.
- Mini: asistente local equilibrado y uso cotidiano.
- Spark: consultas escritas y tareas que requieren mayor capacidad dentro de Nova Chat.
- Flow: arquitectura MoE para experimentación y mayor capacidad total.
- Velocity: asistencia general local con prioridad en fluidez.
- Prime: tareas generales que se benefician de un mayor presupuesto de parámetros.
- Coder: programación y desarrollo de software.
## Requisitos y consideraciones de ejecución
El consumo real depende del runtime, el contexto y la configuración. Evaluar RAM y almacenamiento disponible antes de la ejecución. No se garantiza compatibilidad universal sin prueba.
## Instalación y utilización
```bash
llama-cli -hf ModernoTech/Nova-Velocity -c 4096 --temp 0.7 --top-p 0.9 --top-k 40
```
La compatibilidad exacta depende del runtime y del hardware disponibles.
## Limitaciones
- No se publican benchmarks reales.
- No existe memoria medida ni pruebas completas de runtime para cada variante.
- La carga depende de llama.cpp/GGUF compatible.
- Los requisitos reales deben validarse por runtime y hardware disponible.
## Licencia y avisos correspondientes
La licencia original (Apache License 2.0) y las atribuciones obligatorias se conservan en los archivos de licencia y en `THIRD_PARTY_NOTICES/` del repositorio.
## Moderno Tech
**NOVA AI**
Desarrollado y distribuido bajo la identidad de:
**MODERNO TECH**
Sitio oficial: https://moderno.com.ar
*Inteligencia que evoluciona. Tecnología que transforma.* |