GGUF
Spanish
English
moderno-tech
nova
nova-prime
quantized
Mixture of Experts
conversational
multimodal
local-ai
imatrix
Instructions to use ModernoTech/Nova-Prime with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- llama.cpp
How to use ModernoTech/Nova-Prime with llama.cpp:
Install (macOS, Linux)
curl -LsSf https://llama.app/install.sh | sh # Start a local OpenAI-compatible server with a web UI: llama serve -hf ModernoTech/Nova-Prime:Q4_K_M # Run inference directly in the terminal: llama cli -hf ModernoTech/Nova-Prime:Q4_K_M
Install from WinGet (Windows)
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama serve -hf ModernoTech/Nova-Prime:Q4_K_M # Run inference directly in the terminal: llama cli -hf ModernoTech/Nova-Prime:Q4_K_M
Build from source code
git clone https://github.com/ggml-org/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-app # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama serve -hf ModernoTech/Nova-Prime:Q4_K_M # Run inference directly in the terminal: ./build/bin/llama cli -hf ModernoTech/Nova-Prime:Q4_K_M
Use Docker
docker model run hf.co/ModernoTech/Nova-Prime:Q4_K_M
- Llama new
- LM Studio
- Jan
- Ollama
How to use ModernoTech/Nova-Prime with Ollama:
ollama run hf.co/ModernoTech/Nova-Prime:Q4_K_M
- Unsloth Desktop
- Pi
How to use ModernoTech/Nova-Prime with Pi:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf ModernoTech/Nova-Prime:Q4_K_M
Configure the model in Pi
# Install Pi: npm install -g @earendil-works/pi-coding-agent # Add to ~/.pi/agent/models.json: { "providers": { "llama-cpp": { "baseUrl": "http://localhost:8080/v1", "api": "openai-completions", "apiKey": "none", "models": [ { "id": "ModernoTech/Nova-Prime:Q4_K_M" } ] } } }Run Pi
# Start Pi in your project directory: pi
- Docker Model Runner
How to use ModernoTech/Nova-Prime with Docker Model Runner:
docker model run hf.co/ModernoTech/Nova-Prime:Q4_K_M
- Lemonade
How to use ModernoTech/Nova-Prime with Lemonade:
Pull the model
# Download Lemonade from https://lemonade-server.ai/ lemonade pull ModernoTech/Nova-Prime:Q4_K_M
Run and chat with the model
lemonade run user.Nova-Prime-Q4_K_M
List all available models
lemonade list
- Hermes Agent
How to use ModernoTech/Nova-Prime with Hermes Agent:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf ModernoTech/Nova-Prime:Q4_K_M
Configure Hermes
# Install Hermes: curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash hermes setup # Point Hermes at the local server: hermes config set model.provider custom hermes config set model.base_url http://127.0.0.1:8080/v1 hermes config set model.default ModernoTech/Nova-Prime:Q4_K_M
Run Hermes
hermes
- Atomic Chat
- OpenClaw
How to use ModernoTech/Nova-Prime with OpenClaw:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf ModernoTech/Nova-Prime:Q4_K_M
Configure OpenClaw
# Install OpenClaw: npm install -g openclaw@latest # Register the local server and set it as the default model: openclaw onboard --non-interactive --mode local \ --auth-choice custom-api-key \ --custom-base-url http://127.0.0.1:8080/v1 \ --custom-model-id "ModernoTech/Nova-Prime:Q4_K_M" \ --custom-provider-id llama-cpp \ --custom-compatibility openai \ --custom-text-input \ --accept-risk \ --skip-health
Run OpenClaw
openclaw agent --local --agent main --message "Hello from Hugging Face"
|
Download README.md from ModernoTech/Nova-Prime: direct link, hf CLI and curl.
- Browser
- Download file 10.9 kB
-
https://huggingface.co/ModernoTech/Nova-Prime/resolve/main/README.md
- Command line
-
hf download hf://ModernoTech/Nova-Prime/README.md
-
curl -L -o README.md https://huggingface.co/ModernoTech/Nova-Prime/resolve/main/README.md
10.9 kB
| language: | |
| - es | |
| - en | |
| pretty_name: Nova Prime — Inteligencia artificial general de alta capacidad | |
| model_name: Nova Prime | |
| model_creator: Moderno Tech | |
| tags: | |
| - moderno-tech | |
| - nova | |
| - nova-prime | |
| - gguf | |
| - quantized | |
| - moe | |
| - conversational | |
| - multimodal | |
| - local-ai | |
| license: apache-2.0 | |
| inference: false | |
|  | |
| <div align="center"> | |
| <img alt="Moderno Tech" src="images/moderno-tech-logo.png" width="84"/> | |
| </div> | |
| # NOVA PRIME | |
| **Moderno Tech — Nova AI** | |
| ## Inteligencia artificial general de alta capacidad | |
| Nova Prime es el modelo de propósito general de mayor tamaño de la familia Nova AI, entre los modelos identificados en esta línea. | |
| Con aproximadamente 35.000 millones de parámetros, fue concebido para usuarios que necesitan una mayor capacidad de modelo y disponen de una computadora capaz de ejecutar una arquitectura de estas dimensiones. | |
| Su objetivo es ofrecer un asistente local versátil para abordar diferentes actividades que requieren comprensión, generación de contenido y elaboración de respuestas. | |
| Sitio oficial: https://moderno.com.ar | |
| --- | |
| ## Visión y filosofía de Nova AI | |
| **Tu inteligencia artificial. Tu dispositivo. Tus recursos.** | |
| Nova AI es una familia de modelos de inteligencia artificial desarrollada dentro de Moderno Tech, con una filosofía centrada en la eficiencia computacional, la ejecución local y la accesibilidad. | |
| La visión de Moderno Tech es que una persona no debería necesitar una infraestructura costosa ni depender permanentemente de servidores en la nube para utilizar un asistente de inteligencia artificial. | |
| Para los modelos de la línea de computadoras, el objetivo es que el usuario pueda instalar su propia inteligencia artificial Moderno Tech y utilizarla para trabajar, estudiar y resolver distintas tareas, aprovechando el hardware disponible. | |
| ### Una nueva forma de utilizar inteligencia artificial | |
| Tradicionalmente, muchos asistentes de inteligencia artificial procesan las consultas en servidores remotos. Cada conversación requiere recursos de procesamiento, memoria y aceleración de hardware en una infraestructura centralizada. | |
| La propuesta de Nova AI es diferente. | |
| Moderno Tech busca que los usuarios puedan instalar y ejecutar sus modelos directamente en sus computadoras, utilizando motores de inferencia locales y los recursos del propio equipo. | |
| La descarga inicial del modelo sí utiliza almacenamiento y transferencia de datos. La ventaja buscada es que la inferencia y la generación de respuestas se realicen localmente, cuando la implementación lo permite. | |
| No prometer privacidad absoluta, ejecución sin conexión ni compatibilidad universal sin comprobar las características reales de la plataforma. | |
| ### Dispositivos contemplados | |
| La línea de modelos para computadoras está dirigida a: | |
| - Computadoras portátiles de altas prestaciones. | |
| - Computadoras de escritorio. | |
| - Estaciones de trabajo. | |
| - Sistemas compatibles con ejecución local de modelos de mayor tamaño. | |
| El objetivo es que cada usuario pueda seleccionar un modelo de acuerdo con los recursos disponibles. | |
| La compatibilidad depende de la memoria disponible, el motor de inferencia, el soporte de hardware, la cuantización y las características del dispositivo. | |
| ### Ventajas de este enfoque | |
| **Menor dependencia de servidores de inferencia** | |
| Las consultas se procesan localmente cuando el motor de inferencia y el dispositivo son compatibles. | |
| **Mayor control del usuario** | |
| El modelo se encuentra en el dispositivo y no es necesario enviar cada consulta a un servidor central para generar una respuesta local. | |
| **Optimización de infraestructura** | |
| Moderno Tech puede ofrecer una plataforma para muchos usuarios sin necesitar una infraestructura de GPU centralizada que procese individualmente cada conversación. | |
| **Elección según el dispositivo** | |
| Cada usuario puede elegir el modelo de acuerdo con los recursos de su equipo. | |
| **Accesibilidad** | |
| La IA local puede acercarse a usuarios que no disponen de suscripciones a servicios de inferencia remota. | |
| No prometer privacidad absoluta, ejecución sin conexión ni compatibilidad universal sin comprobar las características reales de la plataforma. | |
| --- | |
| ## Qué se buscó lograr con Nova Prime | |
| Nova Prime busca ofrecer una alternativa de IA local de mayor capacidad para usuarios que no quieren depender permanentemente de servicios de inferencia externos. | |
| A diferencia de Nano, Mini y Spark, su prioridad no es funcionar en cualquier teléfono o dispositivo de memoria reducida. | |
| Su propósito es aprovechar computadoras con recursos suficientes para ejecutar un modelo de mayor tamaño y ofrecer una experiencia general más completa. | |
| ## Público objetivo | |
| - Profesionales. | |
| - Desarrolladores. | |
| - Usuarios avanzados de IA local. | |
| - Personas que realizan tareas complejas de análisis y redacción. | |
| - Usuarios que disponen de estaciones de trabajo o computadoras con memoria suficiente. | |
| - Empresas y equipos que buscan utilizar modelos generales localmente. | |
| ## Casos de uso | |
| - Asistencia general avanzada. | |
| - Redacción y análisis de contenido. | |
| - Comprensión de instrucciones complejas. | |
| - Resúmenes y síntesis. | |
| - Productividad profesional. | |
| - Consultas de conocimiento general. | |
| - Asistencia en distintas actividades de trabajo. | |
| ## Características principales | |
| - Aproximadamente 35.000 millones de parámetros totales. | |
| - Aproximadamente 3.000 millones de parámetros activos por token. | |
| - Arquitectura híbrida con capas de atención y capas de modelo de espacio de estados, combinada con Mixture of Experts. | |
| - Activación selectiva de expertos. | |
| - Soporte multimodal (texto, imagen y video, según implementación). | |
| - Prioridad: mayor capacidad de modelo. | |
| ## Arquitectura del modelo | |
| Arquitectura híbrida que combina capas de atención completa con capas de modelo de espacio de estados (SSM) y Mixture of Experts, con un intervalo de atención completa cada 4 capas. | |
| | Campo | Valor verificado | | |
| |---|---| | |
| | Bloques (capas) | 40 | | |
| | Dimensión de embeddings | 2048 | | |
| | Cabezas de atención | 16 | | |
| | Cabezas KV | 2 | | |
| | Longitud de clave/valor | 256 | | |
| | Expertos totales | 256 | | |
| | Expertos enrutados por token | 8 | | |
| | Experto compartido | 1 | | |
| | Dimensión intermedia por experto | 512 | | |
| | Longitud de contexto | 262,144 tokens | | |
| | Vocabulario | 248,320 tokens | | |
| | SSM: tamaño de estado | 128 | | |
| | SSM: rango de paso temporal | 32 | | |
| | SSM: tamaño interno | 4,096 | | |
| | SSM: kernel convolucional | 4 | | |
| ## Parámetros y configuración | |
| | Campo | Información verificada | | |
| |---|---| | |
| | Producto | Nova Prime | | |
| | Marca | Moderno Tech | | |
| | Familia | Nova AI | | |
| | Variantes | Múltiples cuantizaciones GGUF (IQ2_M a Q8_K_P) | | |
| | Formato | GGUF | | |
| | Parámetros totales | Aproximadamente 35B | | |
| | Parámetros activos por token | Aproximadamente 3B | | |
| | Contexto máximo documentado | Hasta 262,144 tokens | | |
| | Licencia original | Apache License 2.0 | | |
| ## Variantes publicadas | |
| | Archivo | Cuantización | Tamaño | | |
| |---|---|---:| | |
| | `Nova-Prime-2.0-IQ2_M.gguf` | IQ2_M | 11.7 GB | | |
| | `Nova-Prime-2.0-IQ3_M.gguf` | IQ3_M | 15.4 GB | | |
| | `Nova-Prime-2.0-IQ4_NL.gguf` | IQ4_NL | 19.8 GB | | |
| | `Nova-Prime-2.0-IQ4_XS.gguf` | IQ4_XS | 18.7 GB | | |
| | `Nova-Prime-2.0-Q2_K_P.gguf` | Q2_K_P | 15 GB | | |
| | `Nova-Prime-2.0-Q3_K_P.gguf` | Q3_K_P | 19 GB | | |
| | `Nova-Prime-2.0-Q4_K_M.gguf` | Q4_K_M | 21.2 GB | | |
| | `Nova-Prime-2.0-Q4_K_P.gguf` | Q4_K_P | 23.4 GB | | |
| | `Nova-Prime-2.0-Q5_K_P.gguf` | Q5_K_P | 28 GB | | |
| | `Nova-Prime-2.0-Q6_K_P.gguf` | Q6_K_P | 30.6 GB | | |
| | `Nova-Prime-2.0-Q8_K_P.gguf` | Q8_K_P | 43.6 GB | | |
| | `mmproj-Nova-Prime-2.0-f16.gguf` | mmproj f16 | 899 MB | | |
| ## Su lugar dentro de la familia Nova | |
| Nova Prime es el modelo de propósito general de mayor tamaño de la familia Nova AI. Su posicionamiento debe diferenciarse de Velocity: Prime prioriza un presupuesto de parámetros mayor y una capacidad general más amplia, mientras que Velocity busca una utilización más ágil. | |
| No confundir tamaño con garantía automática de mejores resultados en todas las tareas. | |
| No se publican puntuaciones de benchmarks como resultados propios de Moderno Tech, ya que no existen evaluaciones independientes documentadas. Las diferencias se presentan como ventajas de diseño y no como superioridad de rendimiento demostrada. | |
| ## Función dentro de Nova AI | |
| **Prime: mayor capacidad para propósito general.** | |
| Nova Prime está pensado para quienes priorizan la capacidad general del modelo y disponen de los recursos de hardware necesarios. | |
| ## Comparativa interna de la familia Nova | |
| | Modelo | Parámetros | Arquitectura | Objetivo | | |
| |---|---:|---|---| | |
| | Nova Nano | 350M | Arquitectura híbrida (conv + atención) | IA local ultracompacta | | |
| | Nova Mini | 0,6B | Transformer denso | Equilibrio entre capacidad y eficiencia | | |
| | Nova Spark | 0,8B | Arquitectura híbrida (atención + SSM) | Mayor capacidad compacta | | |
| | Nova Flow | ~8B / ~1,5B activos | Mixture of Experts | Capacidad total y activación selectiva | | |
| | Nova Velocity | ~30B / ~1,5B activos | Mixture of Experts | Propósito general y agilidad | | |
| | **Nova Prime** | ~35B | Híbrida (atención + SSM) + MoE | Propósito general de mayor capacidad | | |
| | Nova Coder | ~16B | Mixture of Experts | Programación especializada | | |
| ## ¿Qué Nova elegir? | |
| - Nano: conversación rápida, dispositivos modestos y modo de voz. | |
| - Mini: asistente local equilibrado y uso cotidiano. | |
| - Spark: consultas escritas y tareas que requieren mayor capacidad dentro de Nova Chat. | |
| - Flow: arquitectura MoE para experimentación y mayor capacidad total. | |
| - Velocity: asistencia general local con prioridad en fluidez. | |
| - Prime: tareas generales que se benefician de un mayor presupuesto de parámetros. | |
| - Coder: programación y desarrollo de software. | |
| ## Requisitos y consideraciones de ejecución | |
| El consumo real depende del runtime, el contexto y la configuración. Evaluar RAM y almacenamiento disponible antes de la ejecución. No se garantiza compatibilidad universal sin prueba. | |
| ## Instalación y utilización | |
| ```bash | |
| llama serve -hf ModernoTech/Nova-Prime:Q4_K_M | |
| llama cli -hf ModernoTech/Nova-Prime:Q4_K_M | |
| ``` | |
| La compatibilidad exacta depende del runtime y del hardware disponibles. | |
| ## Limitaciones | |
| - Capacidad y rendimiento deben validarse con el runtime y hardware disponibles. | |
| - No se publican benchmarks propios verificables. | |
| - No se garantiza compatibilidad universal sin prueba. | |
| - El tamaño de los archivos no equivale automáticamente al consumo total de memoria en ejecución. | |
| ## Licencia y avisos correspondientes | |
| La licencia original (Apache License 2.0) y las atribuciones obligatorias se conservan en los archivos de licencia y en `THIRD_PARTY_NOTICES/` del repositorio. | |
| ## Moderno Tech | |
| **NOVA AI** | |
| Desarrollado y distribuido bajo la identidad de: | |
| **MODERNO TECH** | |
| Sitio oficial: https://moderno.com.ar | |
| *Inteligencia que evoluciona. Tecnología que transforma.* |