GGUF
Spanish
English
deepseek_v2
moderno-tech
nova
nova-coder
quantized
code-generation
local-ai
custom_code
conversational
Instructions to use ModernoTech/Nova-Coder with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- llama.cpp
How to use ModernoTech/Nova-Coder with llama.cpp:
Install (macOS, Linux)
curl -LsSf https://llama.app/install.sh | sh # Start a local OpenAI-compatible server with a web UI: llama serve -hf ModernoTech/Nova-Coder:Q4_K_M # Run inference directly in the terminal: llama cli -hf ModernoTech/Nova-Coder:Q4_K_M
Install from WinGet (Windows)
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama serve -hf ModernoTech/Nova-Coder:Q4_K_M # Run inference directly in the terminal: llama cli -hf ModernoTech/Nova-Coder:Q4_K_M
Build from source code
git clone https://github.com/ggml-org/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-app # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama serve -hf ModernoTech/Nova-Coder:Q4_K_M # Run inference directly in the terminal: ./build/bin/llama cli -hf ModernoTech/Nova-Coder:Q4_K_M
Use Docker
docker model run hf.co/ModernoTech/Nova-Coder:Q4_K_M
- Llama new
- LM Studio
- Jan
- Ollama
How to use ModernoTech/Nova-Coder with Ollama:
ollama run hf.co/ModernoTech/Nova-Coder:Q4_K_M
- Unsloth Desktop
- Docker Model Runner
How to use ModernoTech/Nova-Coder with Docker Model Runner:
docker model run hf.co/ModernoTech/Nova-Coder:Q4_K_M
- Lemonade
How to use ModernoTech/Nova-Coder with Lemonade:
Pull the model
# Download Lemonade from https://lemonade-server.ai/ lemonade pull ModernoTech/Nova-Coder:Q4_K_M
Run and chat with the model
lemonade run user.Nova-Coder-Q4_K_M
List all available models
lemonade list
- Atomic Chat
|
Download README.md from ModernoTech/Nova-Coder: direct link, hf CLI and curl.
- Browser
- Download file 11.2 kB
-
https://huggingface.co/ModernoTech/Nova-Coder/resolve/main/README.md
- Command line
-
hf download hf://ModernoTech/Nova-Coder/README.md
-
curl -L -o README.md https://huggingface.co/ModernoTech/Nova-Coder/resolve/main/README.md
11.2 kB
| language: | |
| - es | |
| - en | |
| pretty_name: Nova Coder — Inteligencia artificial especializada en programación | |
| model_name: Nova Coder | |
| model_creator: Moderno Tech | |
| tags: | |
| - moderno-tech | |
| - nova | |
| - nova-coder | |
| - gguf | |
| - quantized | |
| - code-generation | |
| - local-ai | |
| license: other | |
| inference: false | |
|  | |
| <div align="center"> | |
| <img alt="Moderno Tech" src="images/moderno-tech-logo.png" width="84"/> | |
| </div> | |
| # NOVA CODER | |
| **Moderno Tech — Nova AI** | |
| ## Inteligencia artificial especializada en programación | |
| Nova Coder es el modelo especializado en programación de la familia Nova AI. | |
| Con aproximadamente 16.000 millones de parámetros, fue concebido para asistir a desarrolladores y usuarios que necesitan utilizar inteligencia artificial durante el desarrollo de software. | |
| A diferencia de los modelos de propósito general, su propuesta se centra en las necesidades específicas de la programación. | |
| Sitio oficial: https://moderno.com.ar | |
| --- | |
| ## Visión y filosofía de Nova AI | |
| **Tu inteligencia artificial. Tu dispositivo. Tus recursos.** | |
| Nova AI es una familia de modelos de inteligencia artificial desarrollada dentro de Moderno Tech, con una filosofía centrada en la eficiencia computacional, la ejecución local y la accesibilidad. | |
| La visión de Moderno Tech es que una persona no debería necesitar una infraestructura costosa ni depender permanentemente de servidores en la nube para utilizar un asistente de inteligencia artificial. | |
| Para los modelos de la línea de computadoras, el objetivo es que el usuario pueda instalar su propia inteligencia artificial Moderno Tech y utilizarla para trabajar, estudiar y resolver distintas tareas, aprovechando el hardware disponible. | |
| ### Una nueva forma de utilizar inteligencia artificial | |
| Tradicionalmente, muchos asistentes de inteligencia artificial procesan las consultas en servidores remotos. Cada conversación requiere recursos de procesamiento, memoria y aceleración de hardware en una infraestructura centralizada. | |
| La propuesta de Nova AI es diferente. | |
| Moderno Tech busca que los usuarios puedan instalar y ejecutar sus modelos directamente en sus computadoras, utilizando motores de inferencia locales y los recursos del propio equipo. | |
| La descarga inicial del modelo sí utiliza almacenamiento y transferencia de datos. La ventaja buscada es que la inferencia y la generación de respuestas se realicen localmente, cuando la implementación lo permite. | |
| No prometer privacidad absoluta, ejecución sin conexión ni compatibilidad universal sin comprobar las características reales de la plataforma. | |
| ### Dispositivos contemplados | |
| La línea de modelos para computadoras está dirigida a: | |
| - Computadoras portátiles. | |
| - Computadoras de escritorio. | |
| - Estaciones de trabajo. | |
| - Sistemas compatibles con ejecución local de modelos de mayor tamaño. | |
| El objetivo es que cada usuario pueda seleccionar un modelo de acuerdo con los recursos disponibles. | |
| La compatibilidad depende de la memoria disponible, el motor de inferencia, el soporte de hardware, la cuantización y las características del dispositivo. | |
| ### Ventajas de este enfoque | |
| **Menor dependencia de servidores de inferencia** | |
| Las consultas se procesan localmente cuando el motor de inferencia y el dispositivo son compatibles. | |
| **Mayor control del usuario** | |
| El modelo se encuentra en el dispositivo y no es necesario enviar cada consulta a un servidor central para generar una respuesta local. | |
| **Optimización de infraestructura** | |
| Moderno Tech puede ofrecer una plataforma para muchos usuarios sin necesitar una infraestructura de GPU centralizada que procese individualmente cada conversación. | |
| **Elección según el dispositivo** | |
| Cada usuario puede elegir el modelo de acuerdo con los recursos de su equipo. | |
| **Accesibilidad** | |
| La IA local puede acercarse a usuarios que no disponen de suscripciones a servicios de inferencia remota. | |
| No prometer privacidad absoluta, ejecución sin conexión ni compatibilidad universal sin comprobar las características reales de la plataforma. | |
| --- | |
| ## Qué se buscó lograr con Nova Coder | |
| El objetivo de Nova Coder es concentrar la capacidad del modelo en tareas relacionadas con el desarrollo de software. | |
| Un modelo especializado no necesita competir exclusivamente por cantidad de parámetros con un modelo general. | |
| La especialización permite orientar su comportamiento hacia la comprensión de código, la generación de soluciones, la depuración y otras actividades propias del trabajo de desarrollo. | |
| Por este motivo, aunque Nova Coder tenga aproximadamente 16B de parámetros y Nova Prime tenga 35B, no se debe interpretar que Prime necesariamente será mejor programando. | |
| La cantidad de parámetros no determina por sí sola el rendimiento en una especialidad. | |
| Nova Coder debe presentarse como la herramienta de Nova AI orientada específicamente a programación. | |
| ## Público objetivo | |
| - Programadores. | |
| - Ingenieros de software. | |
| - Desarrolladores web. | |
| - Desarrolladores de aplicaciones. | |
| - Estudiantes de programación. | |
| - Equipos de desarrollo. | |
| - Usuarios que trabajan con repositorios y bases de código. | |
| ## Casos de uso | |
| - Generación de código. | |
| - Explicación de fragmentos de código. | |
| - Depuración y detección de errores. | |
| - Refactorización. | |
| - Creación de funciones y módulos. | |
| - Generación de pruebas. | |
| - Documentación técnica. | |
| - Revisión de código. | |
| - Asistencia para comprender proyectos existentes. | |
| - Apoyo en tareas de arquitectura y diseño de software, según capacidades verificadas. | |
| ## Características principales | |
| - Aproximadamente 16.000 millones de parámetros. | |
| - Arquitectura Mixture of Experts. | |
| - Perfil: especializado en programación. | |
| - Prioridad: generación, comprensión y trabajo con código. | |
| - Entorno: ejecución local en computadoras compatibles. | |
| ## Arquitectura del modelo | |
| Arquitectura Mixture of Experts: el procesamiento se distribuye entre expertos especializados y se activan selectivamente los correspondientes a cada token. | |
| | Campo | Valor verificado | | |
| |---|---| | |
| | Bloques (capas) | 27 | | |
| | Dimensión oculta | 2048 | | |
| | Cabezas de atención | 16 | | |
| | Expertos enrutados | 64 | | |
| | Expertos compartidos | 2 | | |
| | Expertos activos por token | 6 | | |
| | Dimensión intermedia MoE | 1,408 | | |
| | Dimensión intermedia base | 10,944 | | |
| | Longitud de contexto | 163,840 tokens | | |
| | Vocabulario | 102,400 tokens | | |
| ## Parámetros y configuración | |
| | Campo | Información verificada | | |
| |---|---| | |
| | Producto | Nova Coder | | |
| | Marca | Moderno Tech | | |
| | Familia | Nova AI | | |
| | Variantes | Múltiples cuantizaciones GGUF (Q2_K a Q8_0, F16) | | |
| | Formato | GGUF | | |
| | Parámetros | Aproximadamente 16B | | |
| | Contexto máximo documentado | Hasta 163,840 tokens | | |
| | Licencia | Ver archivos de licencia y `THIRD_PARTY_NOTICES/` del repositorio | | |
| ## Variantes publicadas | |
| | Archivo | Cuantización | Tamaño bytes | | |
| |---|---|---:| | |
| | `Nova-Coder-2.0-Q2_K.gguf` | Q2_K | 6,430,464,480 | | |
| | `Nova-Coder-2.0-Q3_K_L.gguf` | Q3_K_L | 8,459,398,624 | | |
| | `Nova-Coder-2.0-Q3_K_M.gguf` | Q3_K_M | 8,126,606,816 | | |
| | `Nova-Coder-2.0-Q3_K_S.gguf` | Q3_K_S | 7,487,663,584 | | |
| | `Nova-Coder-2.0-Q4_0.gguf` | Q4_0 | 8,905,109,984 | | |
| | `Nova-Coder-2.0-Q4_K_M.gguf` | Q4_K_M | 10,364,416,480 | | |
| | `Nova-Coder-2.0-Q4_K_S.gguf` | Q4_K_S | 9,533,608,416 | | |
| | `Nova-Coder-2.0-Q5_0.gguf` | Q5_0 | 10,841,764,320 | | |
| | `Nova-Coder-2.0-Q5_K_M.gguf` | Q5_K_M | 11,851,313,632 | | |
| | `Nova-Coder-2.0-Q5_K_S.gguf` | Q5_K_S | 11,143,057,888 | | |
| | `Nova-Coder-2.0-Q6_K.gguf` | Q6_K | 14,066,972,128 | | |
| | `Nova-Coder-2.0-Q8_0.gguf` | Q8_0 | 16,702,517,728 | | |
| | `Nova-Coder-2.0-F16.gguf` | f16 | 31,424,033,248 | | |
| ## Diferenciación frente a los modelos generales de Nova | |
| Nova Coder no está diseñado para ser el asistente general de toda la familia. Está diseñado para resolver mejor las tareas vinculadas al desarrollo de software. | |
| Nova Prime y Nova Velocity están orientados a propósito general. Nova Coder concentra su propuesta en programación. | |
| Esto significa que una mayor cantidad de parámetros en un modelo general no lo convierte automáticamente en la mejor opción para programar. La especialización de Coder busca ofrecer mayor eficiencia y utilidad dentro de ese ámbito. | |
| Cuando existan evaluaciones comparables, destacar las ventajas de Coder en benchmarks de programación y tareas reales de desarrollo. No inventar porcentajes de superioridad. | |
| ## Su lugar dentro de la familia Nova | |
| Nova Coder representa la línea especializada de Moderno Tech para el desarrollo de software. | |
| **Una IA local orientada a trabajar con código.** | |
| ## Función dentro de Nova AI | |
| **Coder: programación y desarrollo de software.** | |
| Nova Coder está pensado para quienes priorizan las tareas de desarrollo y disponen de los recursos de hardware necesarios. | |
| ## Comparativa interna de la familia Nova | |
| | Modelo | Parámetros | Arquitectura | Objetivo | | |
| |---|---:|---|---| | |
| | Nova Nano | 350M | Arquitectura híbrida (conv + atención) | IA local ultracompacta | | |
| | Nova Mini | 0,6B | Transformer denso | Equilibrio entre capacidad y eficiencia | | |
| | Nova Spark | 0,8B | Arquitectura híbrida (atención + SSM) | Mayor capacidad compacta | | |
| | Nova Flow | ~8B / ~1,5B activos | Mixture of Experts | Capacidad total y activación selectiva | | |
| | Nova Velocity | ~30B / ~1,5B activos | Mixture of Experts | Propósito general y agilidad | | |
| | Nova Prime | ~35B | Híbrida (atención + SSM) + MoE | Propósito general de mayor capacidad | | |
| | **Nova Coder** | ~16B | Mixture of Experts | Programación especializada | | |
| ## ¿Qué Nova elegir? | |
| - Nano: conversación rápida, dispositivos modestos y modo de voz. | |
| - Mini: asistente local equilibrado y uso cotidiano. | |
| - Spark: consultas escritas y tareas que requieren mayor capacidad dentro de Nova Chat. | |
| - Flow: arquitectura MoE para experimentación y mayor capacidad total. | |
| - Velocity: asistencia general local con prioridad en fluidez. | |
| - Prime: tareas generales que se benefician de un mayor presupuesto de parámetros. | |
| - Coder: programación y desarrollo de software. | |
| ## Requisitos y consideraciones de ejecución | |
| El consumo real depende del runtime, el contexto y la configuración. Evaluar RAM y almacenamiento disponible antes de la ejecución. No se garantiza compatibilidad universal sin prueba. | |
| ## Instalación y utilización | |
| ```bash | |
| llama-cli -hf ModernoTech/Nova-Coder -c 4096 --temp 0.7 --top-p 0.9 --top-k 40 | |
| ``` | |
| La compatibilidad exacta depende del runtime y del hardware disponibles. | |
| ## Limitaciones | |
| - Capacidad y rendimiento deben validarse con el runtime y hardware disponibles. | |
| - No se publican benchmarks propios verificables. | |
| - No se garantiza compatibilidad universal sin prueba. | |
| - El tamaño de los archivos no equivale automáticamente al consumo total de memoria en ejecución. | |
| ## Licencia y avisos correspondientes | |
| La licencia y las atribuciones obligatorias se conservan en los archivos de licencia y en `THIRD_PARTY_NOTICES/` del repositorio. Consultar esos archivos para conocer las condiciones aplicables. | |
| ## Moderno Tech | |
| **NOVA AI** | |
| Desarrollado y distribuido bajo la identidad de: | |
| **MODERNO TECH** | |
| Sitio oficial: https://moderno.com.ar | |
| *Inteligencia que evoluciona. Tecnología que transforma.* |