Instructions to use ModernoTech/Nova-Nano with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- llama.cpp
How to use ModernoTech/Nova-Nano with llama.cpp:
Install (macOS, Linux)
curl -LsSf https://llama.app/install.sh | sh # Start a local OpenAI-compatible server with a web UI: llama serve -hf ModernoTech/Nova-Nano:Q4_K_M # Run inference directly in the terminal: llama cli -hf ModernoTech/Nova-Nano:Q4_K_M
Install from WinGet (Windows)
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama serve -hf ModernoTech/Nova-Nano:Q4_K_M # Run inference directly in the terminal: llama cli -hf ModernoTech/Nova-Nano:Q4_K_M
Build from source code
git clone https://github.com/ggml-org/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-app # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama serve -hf ModernoTech/Nova-Nano:Q4_K_M # Run inference directly in the terminal: ./build/bin/llama cli -hf ModernoTech/Nova-Nano:Q4_K_M
Use Docker
docker model run hf.co/ModernoTech/Nova-Nano:Q4_K_M
- Llama new
- LM Studio
- Jan
- Ollama
How to use ModernoTech/Nova-Nano with Ollama:
ollama run hf.co/ModernoTech/Nova-Nano:Q4_K_M
- Unsloth Desktop
- Pi
How to use ModernoTech/Nova-Nano with Pi:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf ModernoTech/Nova-Nano:Q4_K_M
Configure the model in Pi
# Install Pi: npm install -g @earendil-works/pi-coding-agent # Add to ~/.pi/agent/models.json: { "providers": { "llama-cpp": { "baseUrl": "http://localhost:8080/v1", "api": "openai-completions", "apiKey": "none", "models": [ { "id": "ModernoTech/Nova-Nano:Q4_K_M" } ] } } }Run Pi
# Start Pi in your project directory: pi
- Docker Model Runner
How to use ModernoTech/Nova-Nano with Docker Model Runner:
docker model run hf.co/ModernoTech/Nova-Nano:Q4_K_M
- Lemonade
How to use ModernoTech/Nova-Nano with Lemonade:
Pull the model
# Download Lemonade from https://lemonade-server.ai/ lemonade pull ModernoTech/Nova-Nano:Q4_K_M
Run and chat with the model
lemonade run user.Nova-Nano-Q4_K_M
List all available models
lemonade list
- Hermes Agent
How to use ModernoTech/Nova-Nano with Hermes Agent:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf ModernoTech/Nova-Nano:Q4_K_M
Configure Hermes
# Install Hermes: curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash hermes setup # Point Hermes at the local server: hermes config set model.provider custom hermes config set model.base_url http://127.0.0.1:8080/v1 hermes config set model.default ModernoTech/Nova-Nano:Q4_K_M
Run Hermes
hermes
- Atomic Chat
- OpenClaw
How to use ModernoTech/Nova-Nano with OpenClaw:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf ModernoTech/Nova-Nano:Q4_K_M
Configure OpenClaw
# Install OpenClaw: npm install -g openclaw@latest # Register the local server and set it as the default model: openclaw onboard --non-interactive --mode local \ --auth-choice custom-api-key \ --custom-base-url http://127.0.0.1:8080/v1 \ --custom-model-id "ModernoTech/Nova-Nano:Q4_K_M" \ --custom-provider-id llama-cpp \ --custom-compatibility openai \ --custom-text-input \ --accept-risk \ --skip-health
Run OpenClaw
openclaw agent --local --agent main --message "Hello from Hugging Face"
File size: 11,207 Bytes
83af2c2 185734f bfdd7a5 185734f 78eddcc 185734f 7a8b81a 83af2c2 185734f 83af2c2 185734f 179bb5f 185734f 39aed77 185734f cf70029 185734f cf70029 185734f de4d70d bfdd7a5 de4d70d bfdd7a5 39aed77 9d65f58 7a8b81a 185734f 141e727 7a8b81a a6240d2 7a8b81a a6240d2 7a8b81a a6240d2 7a8b81a a6240d2 7a8b81a a6240d2 7a8b81a a6240d2 7a8b81a 9d65f58 2b52937 bfdd7a5 7a8b81a bfdd7a5 9d65f58 bfdd7a5 2b52937 185734f bfdd7a5 185734f 424dbba 7a8b81a 424dbba 7a8b81a 5e1e57c 9d65f58 bfdd7a5 5e1e57c bfdd7a5 185734f 7a8b81a 5e1e57c 185734f 5e1e57c bfdd7a5 5e1e57c 7a8b81a 5e1e57c 7a8b81a 5e1e57c 185734f 5e1e57c 185734f 5e1e57c 185734f 5e1e57c 185734f 5e1e57c 185734f 5e1e57c bfdd7a5 5e1e57c 7a8b81a 5e1e57c bfdd7a5 5e1e57c 185734f 5e1e57c 185734f 5e1e57c 185734f 179bb5f 185734f 5e1e57c 185734f | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 198 199 200 201 202 203 204 205 206 207 208 209 210 211 212 213 214 215 216 217 218 219 220 221 222 223 224 225 226 227 228 229 230 231 232 233 234 235 236 237 238 239 240 241 242 243 244 245 246 247 248 249 250 251 252 253 254 255 256 257 258 259 260 261 262 263 264 265 | ---
language:
- es
- en
pretty_name: Nova Nano — Inteligencia artificial ultracompacta
model_name: Nova Nano
model_creator: Moderno Tech
tags:
- moderno-tech
- nova
- nova-nano
- gguf
- quantized
- conversational
- edge-ai
- local-ai
license: other
inference: false
---

<div align="center">
<img alt="Moderno Tech" src="images/moderno-tech-logo.png" width="84"/>
</div>
# NOVA NANO
**Moderno Tech — Nova AI**
## Inteligencia artificial ultracompacta para dispositivos de recursos extremadamente limitados
Nova Nano está orientado a minimizar el tamaño y los recursos necesarios para integrar capacidades de inteligencia artificial en aplicaciones y entornos limitados.
Su propósito es acercar la IA a dispositivos y sistemas donde los modelos convencionales de mayor tamaño pueden resultar innecesarios o difíciles de ejecutar.
Es la puerta de entrada a la experiencia de IA local de Moderno Tech y uno de los tres niveles de Nova Chat.
Sitio oficial: https://moderno.com.ar
---
## Visión y filosofía de Nova AI
**Tu inteligencia artificial. Tu dispositivo. Tus recursos.**
Nova AI es una familia de modelos de inteligencia artificial desarrollada dentro de Moderno Tech, con una filosofía centrada en la eficiencia computacional, la ejecución local y la accesibilidad.
La visión de Moderno Tech es que una persona no debería necesitar una infraestructura costosa ni depender permanentemente de servidores en la nube para utilizar un asistente de inteligencia artificial.
El objetivo es desarrollar modelos que permitan construir una experiencia de asistente conversacional accesible desde la web, ejecutada directamente en el dispositivo del usuario.
No se trata de afirmar que los modelos tienen las mismas capacidades que otros asistentes conversacionales. Se trata de ofrecer una experiencia de uso conversacional mediante modelos Nova que se ejecutan localmente.
### Una nueva forma de utilizar inteligencia artificial
Tradicionalmente, muchos asistentes de inteligencia artificial procesan las consultas en servidores remotos. Cada conversación requiere recursos de procesamiento, memoria y aceleración de hardware en una infraestructura centralizada.
La propuesta de Nova AI es diferente.
Moderno Tech busca que los usuarios puedan acceder a una interfaz de inteligencia artificial desde una página web, descargar el modelo adecuado para su dispositivo y ejecutar las conversaciones utilizando los recursos locales.
El funcionamiento previsto es:
1. El usuario ingresa a la plataforma web de Moderno Tech.
2. Selecciona el modelo Nova adecuado para la capacidad de su dispositivo.
3. Descarga los archivos del modelo.
4. El navegador carga el modelo en la memoria disponible del dispositivo.
5. Un motor de inferencia local compatible con el navegador procesa las consultas.
6. La generación de respuestas sucede directamente en el dispositivo del usuario.
La ventaja fundamental es que el procesamiento de las conversaciones no necesita realizarse en los servidores de Moderno Tech.
Esto permite reducir la dependencia de infraestructura de inferencia centralizada, disminuir los costos operativos de procesamiento y facilitar una experiencia de IA local.
La descarga inicial del modelo sí utiliza almacenamiento y transferencia de datos. La diferencia buscada es que la inferencia y la generación de respuestas se realicen localmente, cuando la implementación lo permite.
La posibilidad de utilizar el modelo sin conexión debe presentarse únicamente cuando el sistema de descarga, almacenamiento y ejecución garantice esa funcionalidad.
### Dispositivos contemplados
La estrategia de Nova AI está dirigida a una amplia variedad de dispositivos:
- Teléfonos inteligentes.
- Tablets.
- Computadoras portátiles.
- Computadoras de escritorio.
- Otros dispositivos compatibles con ejecución local mediante navegador.
El objetivo es que cada usuario pueda seleccionar un modelo de acuerdo con los recursos disponibles.
No afirmar que todos los dispositivos pueden ejecutar todos los modelos. La compatibilidad depende de la memoria disponible, el navegador, el motor de inferencia, el soporte de hardware, la cuantización y las características del dispositivo.
### Ventajas de este enfoque
**Menor dependencia de servidores de inferencia**
Las consultas se procesan localmente cuando el motor de inferencia y el dispositivo son compatibles.
**Mayor control del usuario**
El modelo se encuentra en el dispositivo y no es necesario enviar cada consulta a un servidor central para generar una respuesta local.
**Optimización de infraestructura**
Moderno Tech puede ofrecer una plataforma para muchos usuarios sin necesitar una infraestructura de GPU centralizada que procese individualmente cada conversación.
**Elección según el dispositivo**
Cada usuario puede elegir Nano, Mini o Spark según los recursos de su teléfono, tablet o computadora.
**Accesibilidad**
La IA local puede acercarse a usuarios que no disponen de suscripciones a servicios de inferencia remota.
No prometer privacidad absoluta, ejecución sin conexión ni compatibilidad universal sin comprobar las características reales de la plataforma.
---
## Qué se buscó lograr con Nova Nano
Nova Nano fue concebido como el nivel más pequeño de la familia Nova AI.
El objetivo principal es hacer posible la ejecución de inteligencia artificial local en dispositivos con recursos muy limitados.
La idea es que incluso un teléfono, una tablet o una computadora modesta puedan disponer de un asistente conversacional propio sin tener que enviar cada consulta a un servidor remoto.
Nova Nano busca reducir al mínimo razonable el tamaño del modelo y los requisitos de ejecución, priorizando la accesibilidad y la velocidad en dispositivos compatibles.
Es la puerta de entrada a la experiencia de IA local de Moderno Tech y uno de los tres niveles de Nova Chat.
## Público objetivo
- Usuarios de teléfonos inteligentes con recursos limitados.
- Usuarios de tablets.
- Equipos de escritorio modestos.
- Computadoras antiguas compatibles.
- Desarrolladores que necesitan integrar IA liviana.
- Aplicaciones web que requieren inferencia local.
- Proyectos de automatización y asistencia básica.
## Casos de uso
- Asistente conversacional local.
- Preguntas y respuestas.
- Generación de texto breve.
- Ayuda con tareas cotidianas.
- Asistencia básica en aplicaciones.
- Automatizaciones sencillas.
- Integración en interfaces web.
## Función dentro de Nova Chat
**Nano: conversación rápida y eficiente.**
Es el nivel de entrada de Nova Chat y el perfil recomendado para conversaciones sencillas, respuestas rápidas y modo conversacional por voz.
## Características principales
- Aproximadamente 350 millones de parámetros.
- Diseño ultracompacto.
- Orientación a la eficiencia.
- Integración en aplicaciones de bajo consumo.
- Accesibilidad y facilidad de despliegue.
## Arquitectura del modelo
Arquitectura híbrida con capas convolucionales y capas de atención.
| Campo | Valor verificado |
|---|---|
| Bloques | 16 |
| Dimensión de embeddings | 1024 |
| Cabezas de atención | 16 |
| Cabezas KV (en capas de atención) | 8 |
| Longitud de contexto | 128,000 tokens |
| Vocabulario | 65,536 tokens |
| Dimensión feed-forward | 4,608 |
## Parámetros y configuración
| Campo | Información verificada |
|---|---|
| Producto | Nova Nano |
| Marca | Moderno Tech |
| Familia | Nova AI |
| Archivo | `Nova-Nano-1.0-Q4_K_M.gguf` |
| Formato | GGUF |
| Cuantización | Q4_K_M |
| Tamaño | 229,312,224 bytes |
| SHA-256 | `7e6f72643caafc9a68256686638c4d7916f2cec76d1df478d4c3ddcd95a6aed4` |
| Parámetros | Aproximadamente 350M |
| Contexto máximo documentado | Hasta 128,000 tokens |
| Licencia original | LFM Open License v1.0 |
## Su lugar dentro de la familia Nova
Nova Nano no busca competir por el tamaño ni por una cantidad elevada de parámetros. Busca resolver un problema diferente: conseguir que más dispositivos puedan utilizar inteligencia artificial local.
Su principal atributo es la accesibilidad. El objetivo de Nova Nano es que la inteligencia artificial pueda acompañar al usuario incluso cuando el dispositivo dispone de recursos limitados.
## Los tres niveles de Nova Chat
| Característica | Nova Nano | Nova Mini | Nova Spark |
|---|---|---|---|
| Parámetros | 350M | 0,6B | 0,8B |
| Perfil | Ultrarrápido | Equilibrado | Mayor capacidad |
| Prioridad | Velocidad y ligereza | Uso cotidiano | Escritura y consultas elaboradas |
| Nivel de recursos | Muy bajo | Bajo a moderado | Moderado, según dispositivo |
| Modo recomendado | Voz y conversación rápida | Asistente general | Consultas escritas más exigentes |
| Producto principal | Nova Chat | Nova Chat | Nova Chat |
Los tres modelos forman una misma estrategia de ejecución local. No declarar que el aumento de parámetros produce automáticamente un incremento proporcional de inteligencia. La capacidad depende también de la arquitectura, el entrenamiento, la especialización y la configuración.
## Comparativa interna de la familia Nova
| Modelo | Parámetros | Arquitectura | Objetivo |
|---|---:|---|---|
| **Nova Nano** | 350M | Arquitectura híbrida (conv + atención) | IA local ultracompacta |
| Nova Mini | 0,6B | Transformer denso | Equilibrio entre capacidad y eficiencia |
| Nova Spark | 0,8B | Arquitectura híbrida (atención + SSM) | Mayor capacidad compacta |
| Nova Flow | ~8B / ~1,5B activos | Mixture of Experts | Capacidad total y activación selectiva |
## ¿Qué Nova elegir?
- Nano: cuando la prioridad sea el tamaño mínimo y la utilización de pocos recursos.
- Mini: cuando se busque equilibrio entre capacidad y eficiencia.
- Spark: cuando se necesite un modelo compacto de propósito general.
- Flow: cuando se busque una arquitectura MoE con mayor capacidad total y activación selectiva.
## Requisitos y consideraciones de ejecución
El consumo real depende del runtime, el contexto y la configuración. Evaluar RAM y almacenamiento disponible antes de la ejecución. No se garantiza compatibilidad universal sin prueba.
## Instalación y utilización
```bash
llama-cli -hf ModernoTech/Nova-Nano -c 4096 --temp 0.7 --top-p 0.9 --top-k 40
```
Ajustá `-ngl` y el contexto según el hardware disponible.
## Limitaciones
- Capacidad inferior a la de variantes mayores para razonamiento complejo.
- La calidad en tareas estructuradas y generación extensa debe validarse con pruebas reales.
- El tamaño del archivo no equivale automáticamente al consumo total de memoria en ejecución.
- La compatibilidad real depende del runtime y del hardware.
- No se garantiza el funcionamiento en todos los dispositivos o sistemas operativos.
## Licencia y avisos correspondientes
La licencia original (LFM Open License v1.0) y las atribuciones obligatorias se conservan en los archivos de licencia y en `THIRD_PARTY_NOTICES/` del repositorio.
## Moderno Tech
**NOVA AI**
Desarrollado y distribuido bajo la identidad de:
**MODERNO TECH**
Sitio oficial: https://moderno.com.ar
*Inteligencia que evoluciona. Tecnología que transforma.* |