GGUF
Spanish
English
moderno-tech
nova
nova-velocity
quantized
Mixture of Experts
conversational
local-ai
imatrix
Instructions to use ModernoTech/Nova-Velocity with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- llama.cpp
How to use ModernoTech/Nova-Velocity with llama.cpp:
Install (macOS, Linux)
curl -LsSf https://llama.app/install.sh | sh # Start a local OpenAI-compatible server with a web UI: llama serve -hf ModernoTech/Nova-Velocity:Q4_K_M # Run inference directly in the terminal: llama cli -hf ModernoTech/Nova-Velocity:Q4_K_M
Install from WinGet (Windows)
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama serve -hf ModernoTech/Nova-Velocity:Q4_K_M # Run inference directly in the terminal: llama cli -hf ModernoTech/Nova-Velocity:Q4_K_M
Build from source code
git clone https://github.com/ggml-org/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-app # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama serve -hf ModernoTech/Nova-Velocity:Q4_K_M # Run inference directly in the terminal: ./build/bin/llama cli -hf ModernoTech/Nova-Velocity:Q4_K_M
Use Docker
docker model run hf.co/ModernoTech/Nova-Velocity:Q4_K_M
- Llama new
- LM Studio
- Jan
- Ollama
How to use ModernoTech/Nova-Velocity with Ollama:
ollama run hf.co/ModernoTech/Nova-Velocity:Q4_K_M
- Unsloth Desktop
- Pi
How to use ModernoTech/Nova-Velocity with Pi:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf ModernoTech/Nova-Velocity:Q4_K_M
Configure the model in Pi
# Install Pi: npm install -g @earendil-works/pi-coding-agent # Add to ~/.pi/agent/models.json: { "providers": { "llama-cpp": { "baseUrl": "http://localhost:8080/v1", "api": "openai-completions", "apiKey": "none", "models": [ { "id": "ModernoTech/Nova-Velocity:Q4_K_M" } ] } } }Run Pi
# Start Pi in your project directory: pi
- Docker Model Runner
How to use ModernoTech/Nova-Velocity with Docker Model Runner:
docker model run hf.co/ModernoTech/Nova-Velocity:Q4_K_M
- Lemonade
How to use ModernoTech/Nova-Velocity with Lemonade:
Pull the model
# Download Lemonade from https://lemonade-server.ai/ lemonade pull ModernoTech/Nova-Velocity:Q4_K_M
Run and chat with the model
lemonade run user.Nova-Velocity-Q4_K_M
List all available models
lemonade list
- Hermes Agent
How to use ModernoTech/Nova-Velocity with Hermes Agent:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf ModernoTech/Nova-Velocity:Q4_K_M
Configure Hermes
# Install Hermes: curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash hermes setup # Point Hermes at the local server: hermes config set model.provider custom hermes config set model.base_url http://127.0.0.1:8080/v1 hermes config set model.default ModernoTech/Nova-Velocity:Q4_K_M
Run Hermes
hermes
- Atomic Chat
- OpenClaw
How to use ModernoTech/Nova-Velocity with OpenClaw:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf ModernoTech/Nova-Velocity:Q4_K_M
Configure OpenClaw
# Install OpenClaw: npm install -g openclaw@latest # Register the local server and set it as the default model: openclaw onboard --non-interactive --mode local \ --auth-choice custom-api-key \ --custom-base-url http://127.0.0.1:8080/v1 \ --custom-model-id "ModernoTech/Nova-Velocity:Q4_K_M" \ --custom-provider-id llama-cpp \ --custom-compatibility openai \ --custom-text-input \ --accept-risk \ --skip-health
Run OpenClaw
openclaw agent --local --agent main --message "Hello from Hugging Face"
|
Download README.md from ModernoTech/Nova-Velocity: direct link, hf CLI and curl.
- Browser
- Download file 9.56 kB
-
https://huggingface.co/ModernoTech/Nova-Velocity/resolve/main/README.md
- Command line
-
hf download hf://ModernoTech/Nova-Velocity/README.md
-
curl -L -o README.md https://huggingface.co/ModernoTech/Nova-Velocity/resolve/main/README.md
9.56 kB
| language: | |
| - es | |
| - en | |
| pretty_name: Nova Velocity — Inteligencia artificial general con prioridad en la velocidad | |
| model_name: Nova Velocity | |
| model_creator: Moderno Tech | |
| tags: | |
| - moderno-tech | |
| - nova | |
| - nova-velocity | |
| - gguf | |
| - quantized | |
| - moe | |
| - conversational | |
| - local-ai | |
| license: apache-2.0 | |
| inference: false | |
|  | |
| <div align="center"> | |
| <img alt="Moderno Tech" src="images/moderno-tech-logo.png" width="84"/> | |
| </div> | |
| # NOVA VELOCITY | |
| **Moderno Tech — Nova AI** | |
| ## Inteligencia artificial general con prioridad en la velocidad | |
| Nova Velocity pertenece a la línea de modelos de propósito general de Nova AI, destinada a ejecución local en computadoras. | |
| Fue concebido para usuarios que necesitan un asistente capaz de abordar distintas tareas generales y que valoran especialmente la fluidez y la velocidad de respuesta. | |
| Sitio oficial: https://moderno.com.ar | |
| --- | |
| ## Visión y filosofía de Nova AI | |
| **Tu inteligencia artificial. Tu dispositivo. Tus recursos.** | |
| Nova AI es una familia de modelos de inteligencia artificial desarrollada dentro de Moderno Tech, con una filosofía centrada en la eficiencia computacional, la ejecución local y la accesibilidad. | |
| La visión de Moderno Tech es que una persona no debería necesitar una infraestructura costosa ni depender permanentemente de servidores en la nube para utilizar un asistente de inteligencia artificial. | |
| Para los modelos de la línea de computadoras, el objetivo es que el usuario pueda instalar su propia inteligencia artificial Moderno Tech y utilizarla para trabajar, estudiar y resolver distintas tareas, aprovechando el hardware disponible. | |
| ### Una nueva forma de utilizar inteligencia artificial | |
| Tradicionalmente, muchos asistentes de inteligencia artificial procesan las consultas en servidores remotos. Cada conversación requiere recursos de procesamiento, memoria y aceleración de hardware en una infraestructura centralizada. | |
| La propuesta de Nova AI es diferente. | |
| Moderno Tech busca que los usuarios puedan instalar y ejecutar sus modelos directamente en sus computadoras, utilizando motores de inferencia locales y los recursos del propio equipo. | |
| La descarga inicial del modelo sí utiliza almacenamiento y transferencia de datos. La ventaja buscada es que la inferencia y la generación de respuestas se realicen localmente, cuando la implementación lo permite. | |
| No prometer privacidad absoluta, ejecución sin conexión ni compatibilidad universal sin comprobar las características reales de la plataforma. | |
| ### Dispositivos contemplados | |
| La línea de modelos para computadoras está dirigida a: | |
| - Computadoras portátiles. | |
| - Computadoras de escritorio. | |
| - Estaciones de trabajo. | |
| - Sistemas compatibles con ejecución local de modelos de mayor tamaño. | |
| El objetivo es que cada usuario pueda seleccionar un modelo de acuerdo con los recursos disponibles. | |
| La compatibilidad depende de la memoria disponible, el motor de inferencia, el soporte de hardware, la cuantización y las características del dispositivo. | |
| --- | |
| ## Qué se buscó lograr con Nova Velocity | |
| El objetivo de Nova Velocity es ofrecer una experiencia de IA local de propósito general que priorice la agilidad de inferencia. | |
| No está especializado exclusivamente en programación ni en una tarea concreta. Su propósito es funcionar como un asistente general para múltiples actividades. | |
| La decisión de utilizar Velocity o Prime debe considerar los recursos del equipo, la velocidad buscada y la capacidad requerida para las tareas. | |
| Su perfil es el de un modelo de propósito general con mayor presupuesto de parámetros que los modelos compactos de Nova Chat, orientado a computadoras compatibles. | |
| ## Público objetivo | |
| - Usuarios que quieren instalar una IA local en su computadora. | |
| - Profesionales que necesitan asistencia general. | |
| - Usuarios que valoran respuestas ágiles. | |
| - Desarrolladores que utilizan asistentes para tareas no exclusivamente relacionadas con programación. | |
| - Personas que buscan una alternativa local para consultas, redacción y productividad. | |
| ## Casos de uso | |
| - Asistencia general. | |
| - Preguntas y respuestas. | |
| - Generación de texto. | |
| - Redacción y reformulación. | |
| - Resúmenes. | |
| - Ayuda con tareas cotidianas. | |
| - Productividad y organización. | |
| - Asistencia en aplicaciones locales. | |
| ## Características principales | |
| - Aproximadamente 30.000 millones de parámetros totales. | |
| - Aproximadamente 1.500 millones de parámetros activos por token. | |
| - Arquitectura Mixture of Experts. | |
| - Activación selectiva de expertos. | |
| - Perfil de propósito general. | |
| - Prioridad: fluidez y velocidad de utilización. | |
| ## Arquitectura del modelo | |
| Arquitectura Mixture of Experts: el procesamiento se distribuye entre expertos especializados y se activan selectivamente los correspondientes a cada token. | |
| | Campo | Valor verificado | | |
| |---|---| | |
| | Bloques (capas) | 48 | | |
| | Dimensión de embeddings | 2048 | | |
| | Cabezas de atención | 32 | | |
| | Cabezas KV | 4 | | |
| | Expertos totales | 128 | | |
| | Expertos activos por token | 4 | | |
| | Longitud de contexto | 65,536 tokens | | |
| | Dimensión feed-forward | 6,144 | | |
| | Dimensión feed-forward por experto | 768 | | |
| Explicación técnica: los parámetros activos representan los componentes que participan en el procesamiento de cada token, no el tamaño total del modelo. Los pesos de los expertos y los restantes componentes deben estar disponibles durante la ejecución. Por eso, los requisitos de memoria y almacenamiento no equivalen a los de un modelo denso de 1,5B. | |
| ## Parámetros y configuración | |
| | Campo | Información verificada | | |
| |---|---| | |
| | Producto | Nova Velocity | | |
| | Marca | Moderno Tech | | |
| | Familia | Nova AI | | |
| | Variantes | Múltiples cuantizaciones GGUF (IQ2_M a Q6_K) | | |
| | Formato | GGUF | | |
| | Parámetros totales | Aproximadamente 30B | | |
| | Parámetros activos por token | Aproximadamente 1,5B | | |
| | Contexto máximo documentado | Hasta 65,536 tokens | | |
| | Licencia original | Apache License 2.0 | | |
| ## Variantes publicadas | |
| | Archivo | Cuantización | Tamaño bytes | | |
| |---|---|---:| | |
| | `Nova-Velocity-2.0-IQ2_M.gguf` | IQ2_M | 10,440,040,608 | | |
| | `Nova-Velocity-2.0-IQ2_S.gguf` | IQ2_S | 9,589,121,184 | | |
| | `Nova-Velocity-2.0-IQ3_M.gguf` | IQ3_M | 13,646,756,000 | | |
| | `Nova-Velocity-2.0-IQ3_S.gguf` | IQ3_S | 13,459,585,184 | | |
| | `Nova-Velocity-2.0-IQ3_XS.gguf` | IQ3_XS | 12,758,874,272 | | |
| | `Nova-Velocity-2.0-IQ4_XS.gguf` | IQ4_XS | 16,368,349,344 | | |
| | `Nova-Velocity-2.0-Q4_K_M.gguf` | Q4_K_M | 18,556,686,496 | | |
| | `Nova-Velocity-2.0-Q4_K_S.gguf` | Q4_K_S | 17,456,009,376 | | |
| | `Nova-Velocity-2.0-Q5_K_M.gguf` | Q5_K_M | 21,725,581,472 | | |
| | `Nova-Velocity-2.0-Q6_K.gguf` | Q6_K | 25,092,532,384 | | |
| La variante Q4_K_M es recomendada para uso general, salvo que el runtime o hardware indiquen lo contrario. | |
| ## Su lugar dentro de la familia Nova | |
| Nova Velocity representa la línea de propósito general con prioridad en la fluidez para computadoras. Su posicionamiento debe diferenciarse de Prime: Velocity busca una utilización más ágil, mientras que Prime prioriza un presupuesto de parámetros mayor. | |
| No confundir tamaño con garantía automática de mejores resultados en todas las tareas. No afirmar velocidades exactas sin mediciones realizadas bajo las mismas condiciones. | |
| ## Comparativa interna de la familia Nova | |
| | Modelo | Parámetros | Arquitectura | Objetivo | | |
| |---|---:|---|---| | |
| | Nova Nano | 350M | Arquitectura híbrida (conv + atención) | IA local ultracompacta | | |
| | Nova Mini | 0,6B | Transformer denso | Equilibrio entre capacidad y eficiencia | | |
| | Nova Spark | 0,8B | Arquitectura híbrida (atención + SSM) | Mayor capacidad compacta | | |
| | Nova Flow | ~8B / ~1,5B activos | Mixture of Experts | Capacidad total y activación selectiva | | |
| | **Nova Velocity** | ~30B / ~1,5B activos | Mixture of Experts | Propósito general y agilidad | | |
| | Nova Prime | ~35B | Según configuración | Propósito general de mayor capacidad | | |
| | Nova Coder | ~16B | Mixture of Experts | Programación especializada | | |
| ## ¿Qué Nova elegir? | |
| - Nano: conversación rápida, dispositivos modestos y modo de voz. | |
| - Mini: asistente local equilibrado y uso cotidiano. | |
| - Spark: consultas escritas y tareas que requieren mayor capacidad dentro de Nova Chat. | |
| - Flow: arquitectura MoE para experimentación y mayor capacidad total. | |
| - Velocity: asistencia general local con prioridad en fluidez. | |
| - Prime: tareas generales que se benefician de un mayor presupuesto de parámetros. | |
| - Coder: programación y desarrollo de software. | |
| ## Requisitos y consideraciones de ejecución | |
| El consumo real depende del runtime, el contexto y la configuración. Evaluar RAM y almacenamiento disponible antes de la ejecución. No se garantiza compatibilidad universal sin prueba. | |
| ## Instalación y utilización | |
| ```bash | |
| llama-cli -hf ModernoTech/Nova-Velocity -c 4096 --temp 0.7 --top-p 0.9 --top-k 40 | |
| ``` | |
| La compatibilidad exacta depende del runtime y del hardware disponibles. | |
| ## Limitaciones | |
| - No se publican benchmarks reales. | |
| - No existe memoria medida ni pruebas completas de runtime para cada variante. | |
| - La carga depende de llama.cpp/GGUF compatible. | |
| - Los requisitos reales deben validarse por runtime y hardware disponible. | |
| ## Licencia y avisos correspondientes | |
| La licencia original (Apache License 2.0) y las atribuciones obligatorias se conservan en los archivos de licencia y en `THIRD_PARTY_NOTICES/` del repositorio. | |
| ## Moderno Tech | |
| **NOVA AI** | |
| Desarrollado y distribuido bajo la identidad de: | |
| **MODERNO TECH** | |
| Sitio oficial: https://moderno.com.ar | |
| *Inteligencia que evoluciona. Tecnología que transforma.* |