Install from WinGet (Windows)
winget install llama.cpp
# Start a local OpenAI-compatible server with a web UI:
llama serve -hf ModernoTech/Nova-Velocity:# Run inference directly in the terminal:
llama cli -hf ModernoTech/Nova-Velocity:Build from source code
git clone https://github.com/ggml-org/llama.cpp.git
cd llama.cpp
cmake -B build
cmake --build build -j --target llama-app# Start a local OpenAI-compatible server with a web UI:
./build/bin/llama serve -hf ModernoTech/Nova-Velocity:# Run inference directly in the terminal:
./build/bin/llama cli -hf ModernoTech/Nova-Velocity:Use Docker
docker model run hf.co/ModernoTech/Nova-Velocity:
NOVA VELOCITY
Moderno Tech — Nova AI
Inteligencia artificial general con prioridad en la velocidad
Nova Velocity pertenece a la línea de modelos de propósito general de Nova AI, destinada a ejecución local en computadoras.
Fue concebido para usuarios que necesitan un asistente capaz de abordar distintas tareas generales y que valoran especialmente la fluidez y la velocidad de respuesta.
Sitio oficial: https://moderno.com.ar
Visión y filosofía de Nova AI
Tu inteligencia artificial. Tu dispositivo. Tus recursos.
Nova AI es una familia de modelos de inteligencia artificial desarrollada dentro de Moderno Tech, con una filosofía centrada en la eficiencia computacional, la ejecución local y la accesibilidad.
La visión de Moderno Tech es que una persona no debería necesitar una infraestructura costosa ni depender permanentemente de servidores en la nube para utilizar un asistente de inteligencia artificial.
Para los modelos de la línea de computadoras, el objetivo es que el usuario pueda instalar su propia inteligencia artificial Moderno Tech y utilizarla para trabajar, estudiar y resolver distintas tareas, aprovechando el hardware disponible.
Una nueva forma de utilizar inteligencia artificial
Tradicionalmente, muchos asistentes de inteligencia artificial procesan las consultas en servidores remotos. Cada conversación requiere recursos de procesamiento, memoria y aceleración de hardware en una infraestructura centralizada.
La propuesta de Nova AI es diferente.
Moderno Tech busca que los usuarios puedan instalar y ejecutar sus modelos directamente en sus computadoras, utilizando motores de inferencia locales y los recursos del propio equipo.
La descarga inicial del modelo sí utiliza almacenamiento y transferencia de datos. La ventaja buscada es que la inferencia y la generación de respuestas se realicen localmente, cuando la implementación lo permite.
No prometer privacidad absoluta, ejecución sin conexión ni compatibilidad universal sin comprobar las características reales de la plataforma.
Dispositivos contemplados
La línea de modelos para computadoras está dirigida a:
- Computadoras portátiles.
- Computadoras de escritorio.
- Estaciones de trabajo.
- Sistemas compatibles con ejecución local de modelos de mayor tamaño.
El objetivo es que cada usuario pueda seleccionar un modelo de acuerdo con los recursos disponibles.
La compatibilidad depende de la memoria disponible, el motor de inferencia, el soporte de hardware, la cuantización y las características del dispositivo.
Qué se buscó lograr con Nova Velocity
El objetivo de Nova Velocity es ofrecer una experiencia de IA local de propósito general que priorice la agilidad de inferencia.
No está especializado exclusivamente en programación ni en una tarea concreta. Su propósito es funcionar como un asistente general para múltiples actividades.
La decisión de utilizar Velocity o Prime debe considerar los recursos del equipo, la velocidad buscada y la capacidad requerida para las tareas.
Su perfil es el de un modelo de propósito general con mayor presupuesto de parámetros que los modelos compactos de Nova Chat, orientado a computadoras compatibles.
Público objetivo
- Usuarios que quieren instalar una IA local en su computadora.
- Profesionales que necesitan asistencia general.
- Usuarios que valoran respuestas ágiles.
- Desarrolladores que utilizan asistentes para tareas no exclusivamente relacionadas con programación.
- Personas que buscan una alternativa local para consultas, redacción y productividad.
Casos de uso
- Asistencia general.
- Preguntas y respuestas.
- Generación de texto.
- Redacción y reformulación.
- Resúmenes.
- Ayuda con tareas cotidianas.
- Productividad y organización.
- Asistencia en aplicaciones locales.
Características principales
- Aproximadamente 30.000 millones de parámetros totales.
- Aproximadamente 1.500 millones de parámetros activos por token.
- Arquitectura Mixture of Experts.
- Activación selectiva de expertos.
- Perfil de propósito general.
- Prioridad: fluidez y velocidad de utilización.
Arquitectura del modelo
Arquitectura Mixture of Experts: el procesamiento se distribuye entre expertos especializados y se activan selectivamente los correspondientes a cada token.
| Campo | Valor verificado |
|---|---|
| Bloques (capas) | 48 |
| Dimensión de embeddings | 2048 |
| Cabezas de atención | 32 |
| Cabezas KV | 4 |
| Expertos totales | 128 |
| Expertos activos por token | 4 |
| Longitud de contexto | 65,536 tokens |
| Dimensión feed-forward | 6,144 |
| Dimensión feed-forward por experto | 768 |
Explicación técnica: los parámetros activos representan los componentes que participan en el procesamiento de cada token, no el tamaño total del modelo. Los pesos de los expertos y los restantes componentes deben estar disponibles durante la ejecución. Por eso, los requisitos de memoria y almacenamiento no equivalen a los de un modelo denso de 1,5B.
Parámetros y configuración
| Campo | Información verificada |
|---|---|
| Producto | Nova Velocity |
| Marca | Moderno Tech |
| Familia | Nova AI |
| Variantes | Múltiples cuantizaciones GGUF (IQ2_M a Q6_K) |
| Formato | GGUF |
| Parámetros totales | Aproximadamente 30B |
| Parámetros activos por token | Aproximadamente 1,5B |
| Contexto máximo documentado | Hasta 65,536 tokens |
| Licencia original | Apache License 2.0 |
Variantes publicadas
| Archivo | Cuantización | Tamaño bytes |
|---|---|---|
Nova-Velocity-2.0-IQ2_M.gguf |
IQ2_M | 10,440,040,608 |
Nova-Velocity-2.0-IQ2_S.gguf |
IQ2_S | 9,589,121,184 |
Nova-Velocity-2.0-IQ3_M.gguf |
IQ3_M | 13,646,756,000 |
Nova-Velocity-2.0-IQ3_S.gguf |
IQ3_S | 13,459,585,184 |
Nova-Velocity-2.0-IQ3_XS.gguf |
IQ3_XS | 12,758,874,272 |
Nova-Velocity-2.0-IQ4_XS.gguf |
IQ4_XS | 16,368,349,344 |
Nova-Velocity-2.0-Q4_K_M.gguf |
Q4_K_M | 18,556,686,496 |
Nova-Velocity-2.0-Q4_K_S.gguf |
Q4_K_S | 17,456,009,376 |
Nova-Velocity-2.0-Q5_K_M.gguf |
Q5_K_M | 21,725,581,472 |
Nova-Velocity-2.0-Q6_K.gguf |
Q6_K | 25,092,532,384 |
La variante Q4_K_M es recomendada para uso general, salvo que el runtime o hardware indiquen lo contrario.
Su lugar dentro de la familia Nova
Nova Velocity representa la línea de propósito general con prioridad en la fluidez para computadoras. Su posicionamiento debe diferenciarse de Prime: Velocity busca una utilización más ágil, mientras que Prime prioriza un presupuesto de parámetros mayor.
No confundir tamaño con garantía automática de mejores resultados en todas las tareas. No afirmar velocidades exactas sin mediciones realizadas bajo las mismas condiciones.
Comparativa interna de la familia Nova
| Modelo | Parámetros | Arquitectura | Objetivo |
|---|---|---|---|
| Nova Nano | 350M | Arquitectura híbrida (conv + atención) | IA local ultracompacta |
| Nova Mini | 0,6B | Transformer denso | Equilibrio entre capacidad y eficiencia |
| Nova Spark | 0,8B | Arquitectura híbrida (atención + SSM) | Mayor capacidad compacta |
| Nova Flow | ~8B / ~1,5B activos | Mixture of Experts | Capacidad total y activación selectiva |
| Nova Velocity | ~30B / ~1,5B activos | Mixture of Experts | Propósito general y agilidad |
| Nova Prime | ~35B | Según configuración | Propósito general de mayor capacidad |
| Nova Coder | ~16B | Mixture of Experts | Programación especializada |
¿Qué Nova elegir?
- Nano: conversación rápida, dispositivos modestos y modo de voz.
- Mini: asistente local equilibrado y uso cotidiano.
- Spark: consultas escritas y tareas que requieren mayor capacidad dentro de Nova Chat.
- Flow: arquitectura MoE para experimentación y mayor capacidad total.
- Velocity: asistencia general local con prioridad en fluidez.
- Prime: tareas generales que se benefician de un mayor presupuesto de parámetros.
- Coder: programación y desarrollo de software.
Requisitos y consideraciones de ejecución
El consumo real depende del runtime, el contexto y la configuración. Evaluar RAM y almacenamiento disponible antes de la ejecución. No se garantiza compatibilidad universal sin prueba.
Instalación y utilización
llama-cli -hf ModernoTech/Nova-Velocity -c 4096 --temp 0.7 --top-p 0.9 --top-k 40
La compatibilidad exacta depende del runtime y del hardware disponibles.
Limitaciones
- No se publican benchmarks reales.
- No existe memoria medida ni pruebas completas de runtime para cada variante.
- La carga depende de llama.cpp/GGUF compatible.
- Los requisitos reales deben validarse por runtime y hardware disponible.
Licencia y avisos correspondientes
La licencia original (Apache License 2.0) y las atribuciones obligatorias se conservan en los archivos de licencia y en THIRD_PARTY_NOTICES/ del repositorio.
Moderno Tech
NOVA AI
Desarrollado y distribuido bajo la identidad de:
MODERNO TECH
Sitio oficial: https://moderno.com.ar
Inteligencia que evoluciona. Tecnología que transforma.
- Downloads last month
- 820
2-bit
3-bit
4-bit
5-bit
6-bit
Install (macOS, Linux)
# Start a local OpenAI-compatible server with a web UI: llama serve -hf ModernoTech/Nova-Velocity:# Run inference directly in the terminal: llama cli -hf ModernoTech/Nova-Velocity: