ModernoTech's picture
Nova Prime: add Hugging Face card metadata while preserving approved README body
95b09d8 verified
|
Raw History Blame Contribute Delete
11.1 kB
metadata
language:
  - es
  - en
pretty_name: Nova Prime — Moderno Tech
model_name: Nova Prime
model_creator: Moderno Tech
tags:
  - moderno-tech
  - nova
  - nova-prime
  - code
  - reasoning
  - multimodal
license: apache-2.0

NOVA PRIME

Capacidad y razonamiento

Una nueva dimensión de inteligencia bajo Moderno Tech.

Nova Prime es un modelo de lenguaje de arquitectura Mixture of Experts (MoE), diseñado para tareas avanzadas de comprensión, razonamiento, programación, análisis y procesamiento multimodal.

Forma parte de la familia Nova AI, el ecosistema de inteligencia artificial desarrollado y distribuido bajo la identidad de Moderno Tech.

  • Organización: Moderno Tech
  • Familia: Nova AI
  • Modelo: Nova Prime
  • Versión de distribución: 2.0
  • Arquitectura: Mixture of Experts (MoE)
  • Modalidades: texto, imagen y video
  • Parámetros totales: 35 mil millones
  • Parámetros activos: aproximadamente 3 mil millones
  • Contexto nativo: 262.144 tokens

Sitio oficial: https://moderno.com.ar


1. Visión general

Nova Prime está orientado a ofrecer capacidades avanzadas de inteligencia artificial mediante una arquitectura especializada que activa selectivamente sus expertos durante la inferencia.

Su diseño combina:

  • Razonamiento avanzado.
  • Comprensión de instrucciones complejas.
  • Programación y desarrollo de software.
  • Análisis de documentos.
  • Procesamiento de imágenes.
  • Comprensión de video.
  • Interacción con herramientas y agentes.
  • Manejo de contextos extensos.
  • Resolución de problemas matemáticos y científicos.

Su arquitectura MoE permite seleccionar una parte de los expertos disponibles para cada token, en lugar de activar todos los expertos simultáneamente.

Esto no significa que el modelo ocupe solamente la memoria correspondiente a sus parámetros activos: los pesos completos, los componentes compartidos, la caché KV y los buffers también requieren memoria.

2. Arquitectura del modelo

Característica Especificación
Arquitectura Causal Language Model con Vision Encoder
Diseño Mixture of Experts
Parámetros totales 35B
Parámetros activos 3B
Dimensión oculta 2048
Embeddings 248.320
Capas 40
Expertos totales 256
Expertos activados 8 routed + 1 shared
Dimensión intermedia de expertos 512
Predicción multietapa Multi-Token Prediction
Contexto nativo 262.144 tokens
Contexto extendido Hasta 1.010.000 tokens mediante configuración compatible

Estructura interna

La arquitectura combina dos mecanismos de procesamiento:

  • Gated DeltaNet.
  • Gated Attention.

Distribución de bloques:

10 × (3 × (Gated DeltaNet → MoE) + 1 × (Gated Attention → MoE))

Gated DeltaNet

  • 32 cabezas lineales para V.
  • 16 cabezas para QK.
  • Dimensión de cabeza: 128.

Gated Attention

  • 16 cabezas Q.
  • 2 cabezas KV.
  • Dimensión de cabeza: 256.
  • Dimensión RoPE: 64.

Mixture of Experts

  • 256 expertos disponibles.
  • 8 expertos routed por token.
  • 1 experto compartido.
  • Dimensión intermedia: 512.

La arquitectura también incorpora entrenamiento con Multi-Token Prediction (MTP).

3. Capacidades principales

Razonamiento y análisis

Nova Prime está diseñado para abordar problemas complejos, análisis estructurados, comprensión contextual y tareas que requieren múltiples etapas de procesamiento.

Programación

Capacidades documentadas en el modelo de referencia:

  • Desarrollo de aplicaciones.
  • Comprensión de repositorios.
  • Generación y modificación de código.
  • Resolución de problemas de programación.
  • Flujos de trabajo de desarrollo asistidos por agentes.
  • Uso de herramientas de terminal y edición de archivos.

Inteligencia multimodal

La arquitectura incorpora un codificador visual y admite:

  • Comprensión de imágenes.
  • Reconocimiento de texto en imágenes.
  • Análisis de documentos.
  • Comprensión de contenido visual.
  • Procesamiento de video mediante frameworks compatibles.

Agentes y herramientas

El modelo admite escenarios de uso con herramientas, llamadas a funciones y sistemas de agentes.

La integración concreta depende del framework de inferencia y de la implementación del sistema de herramientas.

4. Contexto extendido

Nova Prime dispone de una longitud de contexto nativa de 262.144 tokens.

Con configuraciones compatibles de escalado RoPE mediante YaRN, puede extenderse hasta 1.010.000 tokens.

La extensión requiere configuración específica del framework. No debe considerarse una capacidad automáticamente habilitada en cualquier implementación.

Para preservar las capacidades de razonamiento en tareas extensas, la documentación de referencia recomienda mantener al menos 128K tokens cuando los recursos disponibles lo permitan.

5. Evaluaciones y benchmarks

Los siguientes resultados corresponden a las evaluaciones publicadas por los desarrolladores del checkpoint de referencia. No son benchmarks realizados por Moderno Tech ni resultados de una evaluación independiente de Nova Prime.

Coding Agent

Benchmark Resultado publicado
SWE-bench Verified 73.4
SWE-bench Multilingual 67.2
SWE-bench Pro 49.5
Terminal-Bench 2.0 51.5
Claw-Eval Avg 68.7
SkillsBench Avg 28.7
QwenClawBench 52.6
NL2Repo 29.4
QwenWebBench 1397

General Agent

Benchmark Resultado publicado
TAU3-Bench 67.2
VITA-Bench 35.6
DeepPlanning 25.9
Tool Decathlon 26.9
MCPMark 37.0
MCP-Atlas 62.8
WideSearch 60.1

Conocimiento y razonamiento

Benchmark Resultado publicado
MMLU-Pro 85.2
MMLU-Redux 93.3
SuperGPQA 64.7
C-Eval 90.0
GPQA 86.0
HLE 21.4
LiveCodeBench v6 80.4
AIME26 92.7

Visión y comprensión multimodal

Benchmark Resultado publicado
MMMU 81.7
MMMU-Pro 75.3
MathVista Mini 86.4
RealWorldQA 85.3
MMBench EN 92.8
SimpleVQA 58.9
HallusionBench 69.8
OmniDocBench 1.5 89.9
CC-OCR 81.9
VideoMMMU 83.7

Los resultados dependen del protocolo, el entorno, los parámetros de generación y las herramientas utilizadas. Consultar la documentación de evaluación del modelo de referencia para conocer las condiciones específicas.

6. Uso e inferencia

Nova Prime utiliza el formato de modelos compatible con Hugging Face Transformers.

La compatibilidad con otros motores depende de sus versiones y del soporte de la arquitectura.

Frameworks documentados para el checkpoint de referencia:

  • Hugging Face Transformers.
  • vLLM.
  • SGLang.
  • KTransformers.

Para despliegues de alto rendimiento, los requisitos de hardware y memoria deben evaluarse antes de seleccionar el motor.

Parámetros de generación

Razonamiento general

  • Temperature: 1.0
  • Top P: 0.95
  • Top K: 20
  • Min P: 0.0
  • Presence Penalty: 1.5
  • Repetition Penalty: 1.0

Programación precisa

  • Temperature: 0.6
  • Top P: 0.95
  • Top K: 20
  • Min P: 0.0
  • Presence Penalty: 0.0
  • Repetition Penalty: 1.0

Modo directo / Instruct

  • Temperature: 0.7
  • Top P: 0.80
  • Top K: 20
  • Min P: 0.0
  • Presence Penalty: 1.5
  • Repetition Penalty: 1.0

Los parámetros disponibles pueden variar según el framework.

7. Modo de razonamiento

Nova Prime opera con razonamiento habilitado por defecto en la configuración de referencia.

El modelo puede generar bloques de razonamiento identificados mediante las etiquetas internas correspondientes.

Para obtener respuestas directas sin activar el modo de razonamiento, los frameworks compatibles permiten deshabilitarlo mediante sus parámetros de plantilla de chat.

La configuración de preservación de razonamiento histórico también puede utilizarse para conservar el contexto de razonamiento entre mensajes en escenarios de agentes.

Estas funciones dependen del soporte de la implementación utilizada.

8. Procesamiento multimodal

Entrada de imágenes

El modelo puede recibir imágenes junto con instrucciones de texto mediante una API compatible con su arquitectura multimodal.

Entrada de video

La comprensión de video está disponible mediante frameworks compatibles que implementen el procesamiento de fotogramas y la preparación de datos multimodales.

La frecuencia de muestreo y la cantidad de fotogramas afectan el consumo de recursos.

Documentos

El modelo incluye capacidades de comprensión visual y reconocimiento de texto, útiles para analizar documentos, imágenes y contenido estructurado.

9. Uso con agentes

Nova Prime está preparado para integrarse en flujos de trabajo con agentes y herramientas externas.

Los posibles escenarios incluyen:

  • Agentes de programación.
  • Automatización de tareas.
  • Análisis de repositorios.
  • Interacción con sistemas de archivos.
  • Herramientas MCP.
  • Ejecución de flujos de trabajo.
  • Asistencia técnica y desarrollo de software.

Las herramientas deben ser configuradas y autorizadas por la aplicación que ejecuta el modelo. El modelo no obtiene acceso automático al sistema operativo ni a los archivos del usuario.

10. Integración con el ecosistema Moderno Tech

Nova Prime forma parte de la familia Nova AI.

Su integración futura puede contemplar:

  • Nova Home: interacción y asistencia inteligente.
  • Nova Creative: generación y creación multimedia.
  • Moderno OS: ejecución de modelos y agentes.
  • Moderno Neural Engine: inferencia local y gestión de modelos MoE.
  • Moderno Model Factory: entrenamiento, ajuste, evaluación y conversión de modelos.

Estas integraciones requieren sus respectivas implementaciones. Su mención en este documento no implica que todas estén habilitadas dentro del repositorio actual.

Sitio oficial: https://moderno.com.ar

11. Licencia, procedencia y atribución

Importante: esta distribución utiliza como base un checkpoint preentrenado de terceros.

La identidad de producto, presentación y distribución corresponde a Moderno Tech, pero los pesos originales no deben presentarse como entrenados desde cero por Moderno Tech.

Se deben conservar la licencia original, los avisos de copyright, la atribución y los términos de uso aplicables al repositorio de origen.

Consultar el archivo LICENSE y los avisos legales incluidos en este repositorio antes de utilizar o redistribuir el modelo.

La documentación técnica y los resultados publicados por los desarrolladores originales deben atribuirse a sus respectivas fuentes.

12. Referencias técnicas

  • Documentación del checkpoint de referencia: Qwen3.6-35B-A3B.
  • Arquitectura y especificaciones técnicas: documentación original del modelo.
  • Frameworks de inferencia: Transformers, vLLM, SGLang y KTransformers.
  • Referencias de evaluación: documentación y resultados publicados por los desarrolladores del checkpoint.

13. Identidad

NOVA AI

Desarrollado y distribuido bajo la identidad de:

MODERNO TECH

https://moderno.com.ar

Inteligencia que evoluciona. Tecnología que transforma.