Instructions to use ModernoTech/Nova-Prime with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Notebooks
Google Colab
Kaggle
Local Apps Settings

How to use ModernoTech/Nova-Prime with llama.cpp:

Install (macOS, Linux)

curl -LsSf https://llama.app/install.sh | sh
# Start a local OpenAI-compatible server with a web UI:
llama serve -hf ModernoTech/Nova-Prime:Q4_K_M
# Run inference directly in the terminal:
llama cli -hf ModernoTech/Nova-Prime:Q4_K_M

Install from WinGet (Windows)

winget install llama.cpp
# Start a local OpenAI-compatible server with a web UI:
llama serve -hf ModernoTech/Nova-Prime:Q4_K_M
# Run inference directly in the terminal:
llama cli -hf ModernoTech/Nova-Prime:Q4_K_M

Build from source code

git clone https://github.com/ggml-org/llama.cpp.git
cd llama.cpp
cmake -B build
cmake --build build -j --target llama-app
# Start a local OpenAI-compatible server with a web UI:
./build/bin/llama serve -hf ModernoTech/Nova-Prime:Q4_K_M
# Run inference directly in the terminal:
./build/bin/llama cli -hf ModernoTech/Nova-Prime:Q4_K_M

Use Docker

docker model run hf.co/ModernoTech/Nova-Prime:Q4_K_M

Llama new
LM Studio
Jan
Ollama
How to use ModernoTech/Nova-Prime with Ollama:
```
ollama run hf.co/ModernoTech/Nova-Prime:Q4_K_M
```
Unsloth Desktop

How to use ModernoTech/Nova-Prime with Pi:

Start the llama.cpp server

# Install llama.cpp:
brew install llama.cpp
# Start a local OpenAI-compatible server:
llama serve -hf ModernoTech/Nova-Prime:Q4_K_M

Configure the model in Pi

# Install Pi:
npm install -g @earendil-works/pi-coding-agent
# Add to ~/.pi/agent/models.json:
{
  "providers": {
    "llama-cpp": {
      "baseUrl": "http://localhost:8080/v1",
      "api": "openai-completions",
      "apiKey": "none",
      "models": [
        {
          "id": "ModernoTech/Nova-Prime:Q4_K_M"
        }
      ]
    }
  }
}

Run Pi

# Start Pi in your project directory:
pi

Docker Model Runner
How to use ModernoTech/Nova-Prime with Docker Model Runner:
```
docker model run hf.co/ModernoTech/Nova-Prime:Q4_K_M
```

Lemonade

How to use ModernoTech/Nova-Prime with Lemonade:

Pull the model

# Download Lemonade from https://lemonade-server.ai/
lemonade pull ModernoTech/Nova-Prime:Q4_K_M

Run and chat with the model

lemonade run user.Nova-Prime-Q4_K_M

List all available models

lemonade list

Hermes Agent

How to use ModernoTech/Nova-Prime with Hermes Agent:

Start the llama.cpp server

# Install llama.cpp:
brew install llama.cpp
# Start a local OpenAI-compatible server:
llama serve -hf ModernoTech/Nova-Prime:Q4_K_M

Configure Hermes

# Install Hermes:
curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash
hermes setup
# Point Hermes at the local server:
hermes config set model.provider custom
hermes config set model.base_url http://127.0.0.1:8080/v1
hermes config set model.default ModernoTech/Nova-Prime:Q4_K_M

Run Hermes

hermes

Atomic Chat

OpenClaw

How to use ModernoTech/Nova-Prime with OpenClaw:

Start the llama.cpp server

# Install llama.cpp:
brew install llama.cpp
# Start a local OpenAI-compatible server:
llama serve -hf ModernoTech/Nova-Prime:Q4_K_M

Configure OpenClaw

# Install OpenClaw:
npm install -g openclaw@latest
# Register the local server and set it as the default model:
openclaw onboard --non-interactive --mode local \
  --auth-choice custom-api-key \
  --custom-base-url http://127.0.0.1:8080/v1 \
  --custom-model-id "ModernoTech/Nova-Prime:Q4_K_M" \
  --custom-provider-id llama-cpp \
  --custom-compatibility openai \
  --custom-text-input \
  --accept-risk \
  --skip-health

Run OpenClaw

openclaw agent --local --agent main --message "Hello from Hugging Face"

Nova-Prime / README.md

ModernoTech

Institutional restructure: Nova AI seven-model family

ff4f6d3 verified 4 days ago

preview code

Raw History Blame Contribute Delete

10.9 kB

metadata

language:
  - es
  - en
pretty_name: Nova Prime — Inteligencia artificial general de alta capacidad
model_name: Nova Prime
model_creator: Moderno Tech
tags:
  - moderno-tech
  - nova
  - nova-prime
  - gguf
  - quantized
  - moe
  - conversational
  - multimodal
  - local-ai
license: apache-2.0
inference: false

NOVA PRIME

Moderno Tech — Nova AI

Inteligencia artificial general de alta capacidad

Nova Prime es el modelo de propósito general de mayor tamaño de la familia Nova AI, entre los modelos identificados en esta línea.

Con aproximadamente 35.000 millones de parámetros, fue concebido para usuarios que necesitan una mayor capacidad de modelo y disponen de una computadora capaz de ejecutar una arquitectura de estas dimensiones.

Su objetivo es ofrecer un asistente local versátil para abordar diferentes actividades que requieren comprensión, generación de contenido y elaboración de respuestas.

Sitio oficial: https://moderno.com.ar

Visión y filosofía de Nova AI

Tu inteligencia artificial. Tu dispositivo. Tus recursos.

Nova AI es una familia de modelos de inteligencia artificial desarrollada dentro de Moderno Tech, con una filosofía centrada en la eficiencia computacional, la ejecución local y la accesibilidad.

La visión de Moderno Tech es que una persona no debería necesitar una infraestructura costosa ni depender permanentemente de servidores en la nube para utilizar un asistente de inteligencia artificial.

Para los modelos de la línea de computadoras, el objetivo es que el usuario pueda instalar su propia inteligencia artificial Moderno Tech y utilizarla para trabajar, estudiar y resolver distintas tareas, aprovechando el hardware disponible.

Una nueva forma de utilizar inteligencia artificial

Tradicionalmente, muchos asistentes de inteligencia artificial procesan las consultas en servidores remotos. Cada conversación requiere recursos de procesamiento, memoria y aceleración de hardware en una infraestructura centralizada.

La propuesta de Nova AI es diferente.

Moderno Tech busca que los usuarios puedan instalar y ejecutar sus modelos directamente en sus computadoras, utilizando motores de inferencia locales y los recursos del propio equipo.

La descarga inicial del modelo sí utiliza almacenamiento y transferencia de datos. La ventaja buscada es que la inferencia y la generación de respuestas se realicen localmente, cuando la implementación lo permite.

No prometer privacidad absoluta, ejecución sin conexión ni compatibilidad universal sin comprobar las características reales de la plataforma.

Dispositivos contemplados

La línea de modelos para computadoras está dirigida a:

Computadoras portátiles de altas prestaciones.
Computadoras de escritorio.
Estaciones de trabajo.
Sistemas compatibles con ejecución local de modelos de mayor tamaño.

El objetivo es que cada usuario pueda seleccionar un modelo de acuerdo con los recursos disponibles.

La compatibilidad depende de la memoria disponible, el motor de inferencia, el soporte de hardware, la cuantización y las características del dispositivo.

Ventajas de este enfoque

Menor dependencia de servidores de inferencia

Las consultas se procesan localmente cuando el motor de inferencia y el dispositivo son compatibles.

Mayor control del usuario

El modelo se encuentra en el dispositivo y no es necesario enviar cada consulta a un servidor central para generar una respuesta local.

Optimización de infraestructura

Moderno Tech puede ofrecer una plataforma para muchos usuarios sin necesitar una infraestructura de GPU centralizada que procese individualmente cada conversación.

Elección según el dispositivo

Cada usuario puede elegir el modelo de acuerdo con los recursos de su equipo.

Accesibilidad

La IA local puede acercarse a usuarios que no disponen de suscripciones a servicios de inferencia remota.

No prometer privacidad absoluta, ejecución sin conexión ni compatibilidad universal sin comprobar las características reales de la plataforma.

Qué se buscó lograr con Nova Prime

Nova Prime busca ofrecer una alternativa de IA local de mayor capacidad para usuarios que no quieren depender permanentemente de servicios de inferencia externos.

A diferencia de Nano, Mini y Spark, su prioridad no es funcionar en cualquier teléfono o dispositivo de memoria reducida.

Su propósito es aprovechar computadoras con recursos suficientes para ejecutar un modelo de mayor tamaño y ofrecer una experiencia general más completa.

Público objetivo

Profesionales.
Desarrolladores.
Usuarios avanzados de IA local.
Personas que realizan tareas complejas de análisis y redacción.
Usuarios que disponen de estaciones de trabajo o computadoras con memoria suficiente.
Empresas y equipos que buscan utilizar modelos generales localmente.

Casos de uso

Asistencia general avanzada.
Redacción y análisis de contenido.
Comprensión de instrucciones complejas.
Resúmenes y síntesis.
Productividad profesional.
Consultas de conocimiento general.
Asistencia en distintas actividades de trabajo.

Características principales

Aproximadamente 35.000 millones de parámetros totales.
Aproximadamente 3.000 millones de parámetros activos por token.
Arquitectura híbrida con capas de atención y capas de modelo de espacio de estados, combinada con Mixture of Experts.
Activación selectiva de expertos.
Soporte multimodal (texto, imagen y video, según implementación).
Prioridad: mayor capacidad de modelo.

Arquitectura del modelo

Arquitectura híbrida que combina capas de atención completa con capas de modelo de espacio de estados (SSM) y Mixture of Experts, con un intervalo de atención completa cada 4 capas.

Campo	Valor verificado
Bloques (capas)	40
Dimensión de embeddings	2048
Cabezas de atención	16
Cabezas KV	2
Longitud de clave/valor	256
Expertos totales	256
Expertos enrutados por token	8
Experto compartido	1
Dimensión intermedia por experto	512
Longitud de contexto	262,144 tokens
Vocabulario	248,320 tokens
SSM: tamaño de estado	128
SSM: rango de paso temporal	32
SSM: tamaño interno	4,096
SSM: kernel convolucional	4

Parámetros y configuración

Campo	Información verificada
Producto	Nova Prime
Marca	Moderno Tech
Familia	Nova AI
Variantes	Múltiples cuantizaciones GGUF (IQ2_M a Q8_K_P)
Formato	GGUF
Parámetros totales	Aproximadamente 35B
Parámetros activos por token	Aproximadamente 3B
Contexto máximo documentado	Hasta 262,144 tokens
Licencia original	Apache License 2.0

Variantes publicadas

Archivo	Cuantización	Tamaño
`Nova-Prime-2.0-IQ2_M.gguf`	IQ2_M	11.7 GB
`Nova-Prime-2.0-IQ3_M.gguf`	IQ3_M	15.4 GB
`Nova-Prime-2.0-IQ4_NL.gguf`	IQ4_NL	19.8 GB
`Nova-Prime-2.0-IQ4_XS.gguf`	IQ4_XS	18.7 GB
`Nova-Prime-2.0-Q2_K_P.gguf`	Q2_K_P	15 GB
`Nova-Prime-2.0-Q3_K_P.gguf`	Q3_K_P	19 GB
`Nova-Prime-2.0-Q4_K_M.gguf`	Q4_K_M	21.2 GB
`Nova-Prime-2.0-Q4_K_P.gguf`	Q4_K_P	23.4 GB
`Nova-Prime-2.0-Q5_K_P.gguf`	Q5_K_P	28 GB
`Nova-Prime-2.0-Q6_K_P.gguf`	Q6_K_P	30.6 GB
`Nova-Prime-2.0-Q8_K_P.gguf`	Q8_K_P	43.6 GB
`mmproj-Nova-Prime-2.0-f16.gguf`	mmproj f16	899 MB

Su lugar dentro de la familia Nova

Nova Prime es el modelo de propósito general de mayor tamaño de la familia Nova AI. Su posicionamiento debe diferenciarse de Velocity: Prime prioriza un presupuesto de parámetros mayor y una capacidad general más amplia, mientras que Velocity busca una utilización más ágil.

No confundir tamaño con garantía automática de mejores resultados en todas las tareas.

No se publican puntuaciones de benchmarks como resultados propios de Moderno Tech, ya que no existen evaluaciones independientes documentadas. Las diferencias se presentan como ventajas de diseño y no como superioridad de rendimiento demostrada.

Función dentro de Nova AI

Prime: mayor capacidad para propósito general.

Nova Prime está pensado para quienes priorizan la capacidad general del modelo y disponen de los recursos de hardware necesarios.

Comparativa interna de la familia Nova

Modelo	Parámetros	Arquitectura	Objetivo
Nova Nano	350M	Arquitectura híbrida (conv + atención)	IA local ultracompacta
Nova Mini	0,6B	Transformer denso	Equilibrio entre capacidad y eficiencia
Nova Spark	0,8B	Arquitectura híbrida (atención + SSM)	Mayor capacidad compacta
Nova Flow	~8B / ~1,5B activos	Mixture of Experts	Capacidad total y activación selectiva
Nova Velocity	~30B / ~1,5B activos	Mixture of Experts	Propósito general y agilidad
Nova Prime	~35B	Híbrida (atención + SSM) + MoE	Propósito general de mayor capacidad
Nova Coder	~16B	Mixture of Experts	Programación especializada

¿Qué Nova elegir?

Nano: conversación rápida, dispositivos modestos y modo de voz.
Mini: asistente local equilibrado y uso cotidiano.
Spark: consultas escritas y tareas que requieren mayor capacidad dentro de Nova Chat.
Flow: arquitectura MoE para experimentación y mayor capacidad total.
Velocity: asistencia general local con prioridad en fluidez.
Prime: tareas generales que se benefician de un mayor presupuesto de parámetros.
Coder: programación y desarrollo de software.

Requisitos y consideraciones de ejecución

El consumo real depende del runtime, el contexto y la configuración. Evaluar RAM y almacenamiento disponible antes de la ejecución. No se garantiza compatibilidad universal sin prueba.

Instalación y utilización

llama serve -hf ModernoTech/Nova-Prime:Q4_K_M
llama cli -hf ModernoTech/Nova-Prime:Q4_K_M

La compatibilidad exacta depende del runtime y del hardware disponibles.

Limitaciones

Capacidad y rendimiento deben validarse con el runtime y hardware disponibles.
No se publican benchmarks propios verificables.
No se garantiza compatibilidad universal sin prueba.
El tamaño de los archivos no equivale automáticamente al consumo total de memoria en ejecución.

Licencia y avisos correspondientes

La licencia original (Apache License 2.0) y las atribuciones obligatorias se conservan en los archivos de licencia y en THIRD_PARTY_NOTICES/ del repositorio.

Moderno Tech

NOVA AI

Desarrollado y distribuido bajo la identidad de:

MODERNO TECH

Sitio oficial: https://moderno.com.ar

Inteligencia que evoluciona. Tecnología que transforma.