Instructions to use ModernoTech/Nova-Nano with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- llama.cpp
How to use ModernoTech/Nova-Nano with llama.cpp:
Install (macOS, Linux)
curl -LsSf https://llama.app/install.sh | sh # Start a local OpenAI-compatible server with a web UI: llama serve -hf ModernoTech/Nova-Nano:Q4_K_M # Run inference directly in the terminal: llama cli -hf ModernoTech/Nova-Nano:Q4_K_M
Install from WinGet (Windows)
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama serve -hf ModernoTech/Nova-Nano:Q4_K_M # Run inference directly in the terminal: llama cli -hf ModernoTech/Nova-Nano:Q4_K_M
Build from source code
git clone https://github.com/ggml-org/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-app # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama serve -hf ModernoTech/Nova-Nano:Q4_K_M # Run inference directly in the terminal: ./build/bin/llama cli -hf ModernoTech/Nova-Nano:Q4_K_M
Use Docker
docker model run hf.co/ModernoTech/Nova-Nano:Q4_K_M
- Llama new
- LM Studio
- Jan
- Ollama
How to use ModernoTech/Nova-Nano with Ollama:
ollama run hf.co/ModernoTech/Nova-Nano:Q4_K_M
- Unsloth Desktop
- Pi
How to use ModernoTech/Nova-Nano with Pi:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf ModernoTech/Nova-Nano:Q4_K_M
Configure the model in Pi
# Install Pi: npm install -g @earendil-works/pi-coding-agent # Add to ~/.pi/agent/models.json: { "providers": { "llama-cpp": { "baseUrl": "http://localhost:8080/v1", "api": "openai-completions", "apiKey": "none", "models": [ { "id": "ModernoTech/Nova-Nano:Q4_K_M" } ] } } }Run Pi
# Start Pi in your project directory: pi
- Docker Model Runner
How to use ModernoTech/Nova-Nano with Docker Model Runner:
docker model run hf.co/ModernoTech/Nova-Nano:Q4_K_M
- Lemonade
How to use ModernoTech/Nova-Nano with Lemonade:
Pull the model
# Download Lemonade from https://lemonade-server.ai/ lemonade pull ModernoTech/Nova-Nano:Q4_K_M
Run and chat with the model
lemonade run user.Nova-Nano-Q4_K_M
List all available models
lemonade list
- Hermes Agent
How to use ModernoTech/Nova-Nano with Hermes Agent:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf ModernoTech/Nova-Nano:Q4_K_M
Configure Hermes
# Install Hermes: curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash hermes setup # Point Hermes at the local server: hermes config set model.provider custom hermes config set model.base_url http://127.0.0.1:8080/v1 hermes config set model.default ModernoTech/Nova-Nano:Q4_K_M
Run Hermes
hermes
- Atomic Chat
- OpenClaw
How to use ModernoTech/Nova-Nano with OpenClaw:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf ModernoTech/Nova-Nano:Q4_K_M
Configure OpenClaw
# Install OpenClaw: npm install -g openclaw@latest # Register the local server and set it as the default model: openclaw onboard --non-interactive --mode local \ --auth-choice custom-api-key \ --custom-base-url http://127.0.0.1:8080/v1 \ --custom-model-id "ModernoTech/Nova-Nano:Q4_K_M" \ --custom-provider-id llama-cpp \ --custom-compatibility openai \ --custom-text-input \ --accept-risk \ --skip-health
Run OpenClaw
openclaw agent --local --agent main --message "Hello from Hugging Face"
|
Download README.md from ModernoTech/Nova-Nano: direct link, hf CLI and curl.
- Browser
- Download file 11.2 kB
-
https://huggingface.co/ModernoTech/Nova-Nano/resolve/main/README.md
- Command line
-
hf download hf://ModernoTech/Nova-Nano/README.md
-
curl -L -o README.md https://huggingface.co/ModernoTech/Nova-Nano/resolve/main/README.md
11.2 kB
| language: | |
| - es | |
| - en | |
| pretty_name: Nova Nano — Inteligencia artificial ultracompacta | |
| model_name: Nova Nano | |
| model_creator: Moderno Tech | |
| tags: | |
| - moderno-tech | |
| - nova | |
| - nova-nano | |
| - gguf | |
| - quantized | |
| - conversational | |
| - edge-ai | |
| - local-ai | |
| license: other | |
| inference: false | |
|  | |
| <div align="center"> | |
| <img alt="Moderno Tech" src="images/moderno-tech-logo.png" width="84"/> | |
| </div> | |
| # NOVA NANO | |
| **Moderno Tech — Nova AI** | |
| ## Inteligencia artificial ultracompacta para dispositivos de recursos extremadamente limitados | |
| Nova Nano está orientado a minimizar el tamaño y los recursos necesarios para integrar capacidades de inteligencia artificial en aplicaciones y entornos limitados. | |
| Su propósito es acercar la IA a dispositivos y sistemas donde los modelos convencionales de mayor tamaño pueden resultar innecesarios o difíciles de ejecutar. | |
| Es la puerta de entrada a la experiencia de IA local de Moderno Tech y uno de los tres niveles de Nova Chat. | |
| Sitio oficial: https://moderno.com.ar | |
| --- | |
| ## Visión y filosofía de Nova AI | |
| **Tu inteligencia artificial. Tu dispositivo. Tus recursos.** | |
| Nova AI es una familia de modelos de inteligencia artificial desarrollada dentro de Moderno Tech, con una filosofía centrada en la eficiencia computacional, la ejecución local y la accesibilidad. | |
| La visión de Moderno Tech es que una persona no debería necesitar una infraestructura costosa ni depender permanentemente de servidores en la nube para utilizar un asistente de inteligencia artificial. | |
| El objetivo es desarrollar modelos que permitan construir una experiencia de asistente conversacional accesible desde la web, ejecutada directamente en el dispositivo del usuario. | |
| No se trata de afirmar que los modelos tienen las mismas capacidades que otros asistentes conversacionales. Se trata de ofrecer una experiencia de uso conversacional mediante modelos Nova que se ejecutan localmente. | |
| ### Una nueva forma de utilizar inteligencia artificial | |
| Tradicionalmente, muchos asistentes de inteligencia artificial procesan las consultas en servidores remotos. Cada conversación requiere recursos de procesamiento, memoria y aceleración de hardware en una infraestructura centralizada. | |
| La propuesta de Nova AI es diferente. | |
| Moderno Tech busca que los usuarios puedan acceder a una interfaz de inteligencia artificial desde una página web, descargar el modelo adecuado para su dispositivo y ejecutar las conversaciones utilizando los recursos locales. | |
| El funcionamiento previsto es: | |
| 1. El usuario ingresa a la plataforma web de Moderno Tech. | |
| 2. Selecciona el modelo Nova adecuado para la capacidad de su dispositivo. | |
| 3. Descarga los archivos del modelo. | |
| 4. El navegador carga el modelo en la memoria disponible del dispositivo. | |
| 5. Un motor de inferencia local compatible con el navegador procesa las consultas. | |
| 6. La generación de respuestas sucede directamente en el dispositivo del usuario. | |
| La ventaja fundamental es que el procesamiento de las conversaciones no necesita realizarse en los servidores de Moderno Tech. | |
| Esto permite reducir la dependencia de infraestructura de inferencia centralizada, disminuir los costos operativos de procesamiento y facilitar una experiencia de IA local. | |
| La descarga inicial del modelo sí utiliza almacenamiento y transferencia de datos. La diferencia buscada es que la inferencia y la generación de respuestas se realicen localmente, cuando la implementación lo permite. | |
| La posibilidad de utilizar el modelo sin conexión debe presentarse únicamente cuando el sistema de descarga, almacenamiento y ejecución garantice esa funcionalidad. | |
| ### Dispositivos contemplados | |
| La estrategia de Nova AI está dirigida a una amplia variedad de dispositivos: | |
| - Teléfonos inteligentes. | |
| - Tablets. | |
| - Computadoras portátiles. | |
| - Computadoras de escritorio. | |
| - Otros dispositivos compatibles con ejecución local mediante navegador. | |
| El objetivo es que cada usuario pueda seleccionar un modelo de acuerdo con los recursos disponibles. | |
| No afirmar que todos los dispositivos pueden ejecutar todos los modelos. La compatibilidad depende de la memoria disponible, el navegador, el motor de inferencia, el soporte de hardware, la cuantización y las características del dispositivo. | |
| ### Ventajas de este enfoque | |
| **Menor dependencia de servidores de inferencia** | |
| Las consultas se procesan localmente cuando el motor de inferencia y el dispositivo son compatibles. | |
| **Mayor control del usuario** | |
| El modelo se encuentra en el dispositivo y no es necesario enviar cada consulta a un servidor central para generar una respuesta local. | |
| **Optimización de infraestructura** | |
| Moderno Tech puede ofrecer una plataforma para muchos usuarios sin necesitar una infraestructura de GPU centralizada que procese individualmente cada conversación. | |
| **Elección según el dispositivo** | |
| Cada usuario puede elegir Nano, Mini o Spark según los recursos de su teléfono, tablet o computadora. | |
| **Accesibilidad** | |
| La IA local puede acercarse a usuarios que no disponen de suscripciones a servicios de inferencia remota. | |
| No prometer privacidad absoluta, ejecución sin conexión ni compatibilidad universal sin comprobar las características reales de la plataforma. | |
| --- | |
| ## Qué se buscó lograr con Nova Nano | |
| Nova Nano fue concebido como el nivel más pequeño de la familia Nova AI. | |
| El objetivo principal es hacer posible la ejecución de inteligencia artificial local en dispositivos con recursos muy limitados. | |
| La idea es que incluso un teléfono, una tablet o una computadora modesta puedan disponer de un asistente conversacional propio sin tener que enviar cada consulta a un servidor remoto. | |
| Nova Nano busca reducir al mínimo razonable el tamaño del modelo y los requisitos de ejecución, priorizando la accesibilidad y la velocidad en dispositivos compatibles. | |
| Es la puerta de entrada a la experiencia de IA local de Moderno Tech y uno de los tres niveles de Nova Chat. | |
| ## Público objetivo | |
| - Usuarios de teléfonos inteligentes con recursos limitados. | |
| - Usuarios de tablets. | |
| - Equipos de escritorio modestos. | |
| - Computadoras antiguas compatibles. | |
| - Desarrolladores que necesitan integrar IA liviana. | |
| - Aplicaciones web que requieren inferencia local. | |
| - Proyectos de automatización y asistencia básica. | |
| ## Casos de uso | |
| - Asistente conversacional local. | |
| - Preguntas y respuestas. | |
| - Generación de texto breve. | |
| - Ayuda con tareas cotidianas. | |
| - Asistencia básica en aplicaciones. | |
| - Automatizaciones sencillas. | |
| - Integración en interfaces web. | |
| ## Función dentro de Nova Chat | |
| **Nano: conversación rápida y eficiente.** | |
| Es el nivel de entrada de Nova Chat y el perfil recomendado para conversaciones sencillas, respuestas rápidas y modo conversacional por voz. | |
| ## Características principales | |
| - Aproximadamente 350 millones de parámetros. | |
| - Diseño ultracompacto. | |
| - Orientación a la eficiencia. | |
| - Integración en aplicaciones de bajo consumo. | |
| - Accesibilidad y facilidad de despliegue. | |
| ## Arquitectura del modelo | |
| Arquitectura híbrida con capas convolucionales y capas de atención. | |
| | Campo | Valor verificado | | |
| |---|---| | |
| | Bloques | 16 | | |
| | Dimensión de embeddings | 1024 | | |
| | Cabezas de atención | 16 | | |
| | Cabezas KV (en capas de atención) | 8 | | |
| | Longitud de contexto | 128,000 tokens | | |
| | Vocabulario | 65,536 tokens | | |
| | Dimensión feed-forward | 4,608 | | |
| ## Parámetros y configuración | |
| | Campo | Información verificada | | |
| |---|---| | |
| | Producto | Nova Nano | | |
| | Marca | Moderno Tech | | |
| | Familia | Nova AI | | |
| | Archivo | `Nova-Nano-1.0-Q4_K_M.gguf` | | |
| | Formato | GGUF | | |
| | Cuantización | Q4_K_M | | |
| | Tamaño | 229,312,224 bytes | | |
| | SHA-256 | `7e6f72643caafc9a68256686638c4d7916f2cec76d1df478d4c3ddcd95a6aed4` | | |
| | Parámetros | Aproximadamente 350M | | |
| | Contexto máximo documentado | Hasta 128,000 tokens | | |
| | Licencia original | LFM Open License v1.0 | | |
| ## Su lugar dentro de la familia Nova | |
| Nova Nano no busca competir por el tamaño ni por una cantidad elevada de parámetros. Busca resolver un problema diferente: conseguir que más dispositivos puedan utilizar inteligencia artificial local. | |
| Su principal atributo es la accesibilidad. El objetivo de Nova Nano es que la inteligencia artificial pueda acompañar al usuario incluso cuando el dispositivo dispone de recursos limitados. | |
| ## Los tres niveles de Nova Chat | |
| | Característica | Nova Nano | Nova Mini | Nova Spark | | |
| |---|---|---|---| | |
| | Parámetros | 350M | 0,6B | 0,8B | | |
| | Perfil | Ultrarrápido | Equilibrado | Mayor capacidad | | |
| | Prioridad | Velocidad y ligereza | Uso cotidiano | Escritura y consultas elaboradas | | |
| | Nivel de recursos | Muy bajo | Bajo a moderado | Moderado, según dispositivo | | |
| | Modo recomendado | Voz y conversación rápida | Asistente general | Consultas escritas más exigentes | | |
| | Producto principal | Nova Chat | Nova Chat | Nova Chat | | |
| Los tres modelos forman una misma estrategia de ejecución local. No declarar que el aumento de parámetros produce automáticamente un incremento proporcional de inteligencia. La capacidad depende también de la arquitectura, el entrenamiento, la especialización y la configuración. | |
| ## Comparativa interna de la familia Nova | |
| | Modelo | Parámetros | Arquitectura | Objetivo | | |
| |---|---:|---|---| | |
| | **Nova Nano** | 350M | Arquitectura híbrida (conv + atención) | IA local ultracompacta | | |
| | Nova Mini | 0,6B | Transformer denso | Equilibrio entre capacidad y eficiencia | | |
| | Nova Spark | 0,8B | Arquitectura híbrida (atención + SSM) | Mayor capacidad compacta | | |
| | Nova Flow | ~8B / ~1,5B activos | Mixture of Experts | Capacidad total y activación selectiva | | |
| ## ¿Qué Nova elegir? | |
| - Nano: cuando la prioridad sea el tamaño mínimo y la utilización de pocos recursos. | |
| - Mini: cuando se busque equilibrio entre capacidad y eficiencia. | |
| - Spark: cuando se necesite un modelo compacto de propósito general. | |
| - Flow: cuando se busque una arquitectura MoE con mayor capacidad total y activación selectiva. | |
| ## Requisitos y consideraciones de ejecución | |
| El consumo real depende del runtime, el contexto y la configuración. Evaluar RAM y almacenamiento disponible antes de la ejecución. No se garantiza compatibilidad universal sin prueba. | |
| ## Instalación y utilización | |
| ```bash | |
| llama-cli -hf ModernoTech/Nova-Nano -c 4096 --temp 0.7 --top-p 0.9 --top-k 40 | |
| ``` | |
| Ajustá `-ngl` y el contexto según el hardware disponible. | |
| ## Limitaciones | |
| - Capacidad inferior a la de variantes mayores para razonamiento complejo. | |
| - La calidad en tareas estructuradas y generación extensa debe validarse con pruebas reales. | |
| - El tamaño del archivo no equivale automáticamente al consumo total de memoria en ejecución. | |
| - La compatibilidad real depende del runtime y del hardware. | |
| - No se garantiza el funcionamiento en todos los dispositivos o sistemas operativos. | |
| ## Licencia y avisos correspondientes | |
| La licencia original (LFM Open License v1.0) y las atribuciones obligatorias se conservan en los archivos de licencia y en `THIRD_PARTY_NOTICES/` del repositorio. | |
| ## Moderno Tech | |
| **NOVA AI** | |
| Desarrollado y distribuido bajo la identidad de: | |
| **MODERNO TECH** | |
| Sitio oficial: https://moderno.com.ar | |
| *Inteligencia que evoluciona. Tecnología que transforma.* |