Blame for README.md

---
language:
- es
- en
pretty_name: Nova Flow — Inteligencia eficiente mediante Mixture of Experts
model_name: Nova Flow
model_creator: Moderno Tech
tags:
- moderno-tech
- nova
- nova-flow
- safetensors
- gguf
- moe
- conversational
- local-ai
license: other
pipeline_tag: text-generation
inference: false
---

![Banner de Nova Flow](images/nova-flow-banner.jpg)

<div align="center">
  <img alt="Moderno Tech" src="images/moderno-tech-logo.png" width="84"/>
</div>

# NOVA FLOW

**Moderno Tech — Nova AI**

## Arquitectura Mixture of Experts para capacidad total y activación selectiva

Nova Flow utiliza una arquitectura Mixture of Experts (MoE) para distribuir el procesamiento entre distintos expertos y activar selectivamente los componentes correspondientes durante la generación de cada token.

Su propósito es aprovechar una capacidad total de parámetros elevada sin activar todos los expertos en cada paso de inferencia.

Sitio oficial: https://moderno.com.ar

---

## Visión y filosofía de Nova AI

**Tu inteligencia artificial. Tu dispositivo. Tus recursos.**

Nova AI es una familia de modelos de inteligencia artificial desarrollada dentro de Moderno Tech, con una filosofía centrada en la eficiencia computacional, la ejecución local y la accesibilidad.

La visión de Moderno Tech es que una persona no debería necesitar una infraestructura costosa ni depender permanentemente de servidores en la nube para utilizar un asistente de inteligencia artificial.

El objetivo es desarrollar modelos que permitan construir una experiencia de asistente conversacional accesible desde la web, ejecutada directamente en el dispositivo del usuario.

No se trata de afirmar que los modelos tienen las mismas capacidades que otros asistentes conversacionales. Se trata de ofrecer una experiencia de uso conversacional mediante modelos Nova que se ejecutan localmente.

### Una nueva forma de utilizar inteligencia artificial

Tradicionalmente, muchos asistentes de inteligencia artificial procesan las consultas en servidores remotos. Cada conversación requiere recursos de procesamiento, memoria y aceleración de hardware en una infraestructura centralizada.

La propuesta de Nova AI es diferente.

Moderno Tech busca que los usuarios puedan acceder a una interfaz de inteligencia artificial desde una página web, descargar el modelo adecuado para su dispositivo y ejecutar las conversaciones utilizando los recursos locales.

El funcionamiento previsto es:

1. El usuario ingresa a la plataforma web de Moderno Tech.
2. Selecciona el modelo Nova adecuado para la capacidad de su dispositivo.
3. Descarga los archivos del modelo.
4. El navegador carga el modelo en la memoria disponible del dispositivo.
5. Un motor de inferencia local compatible con el navegador procesa las consultas.
6. La generación de respuestas sucede directamente en el dispositivo del usuario.

La ventaja fundamental es que el procesamiento de las conversaciones no necesita realizarse en los servidores de Moderno Tech.

Esto permite reducir la dependencia de infraestructura de inferencia centralizada, disminuir los costos operativos de procesamiento y facilitar una experiencia de IA local.

La descarga inicial del modelo sí utiliza almacenamiento y transferencia de datos. La diferencia buscada es que la inferencia y la generación de respuestas se realicen localmente, cuando la implementación lo permite.

La posibilidad de utilizar el modelo sin conexión debe presentarse únicamente cuando el sistema de descarga, almacenamiento y ejecución garantice esa funcionalidad.

### Dispositivos contemplados

La estrategia de Nova AI está dirigida a una amplia variedad de dispositivos:

- Teléfonos inteligentes.
- Tablets.
- Computadoras portátiles.
- Computadoras de escritorio.
- Otros dispositivos compatibles con ejecución local mediante navegador.

El objetivo es que cada usuario pueda seleccionar un modelo de acuerdo con los recursos disponibles.

No afirmar que todos los dispositivos pueden ejecutar todos los modelos. La compatibilidad depende de la memoria disponible, el navegador, el motor de inferencia, el soporte de hardware, la cuantización y las características del dispositivo.

### Ventajas de este enfoque

**Menor dependencia de servidores de inferencia**

Las consultas se procesan localmente cuando el motor de inferencia y el dispositivo son compatibles.

**Mayor control del usuario**

El modelo se encuentra en el dispositivo y no es necesario enviar cada consulta a un servidor central para generar una respuesta local.

**Optimización de infraestructura**

Moderno Tech puede ofrecer una plataforma para muchos usuarios sin necesitar una infraestructura de GPU centralizada que procese individualmente cada conversación.

**Elección según el dispositivo**

Cada usuario puede elegir Nano, Mini o Spark según los recursos de su teléfono, tablet o computadora.

**Accesibilidad**

La IA local puede acercarse a usuarios que no disponen de suscripciones a servicios de inferencia remota.

No prometer privacidad absoluta, ejecución sin conexión ni compatibilidad universal sin comprobar las características reales de la plataforma.

---

## Qué se buscó lograr con Nova Flow

Nova Flow representa una línea de desarrollo arquitectónico diferente dentro de la familia Nova AI.

Mientras Nano, Mini y Spark priorizan modelos compactos destinados a la ejecución local en dispositivos personales, Flow utiliza una arquitectura Mixture of Experts (MoE).

Su objetivo es aprovechar una capacidad total de parámetros significativamente mayor, seleccionando los expertos que participan en el procesamiento de cada token.

Nova Flow es una alternativa destinada a escenarios donde se busca mayor capacidad y se dispone de infraestructura local suficiente para ejecutar una arquitectura MoE.

## Público objetivo

- Desarrolladores avanzados.
- Usuarios de inteligencia artificial local.
- Aplicaciones profesionales.
- Entornos de experimentación con arquitecturas MoE.
- Sistemas que pueden proporcionar la memoria y el almacenamiento necesarios.

## Características principales

- Aproximadamente 8.000 millones de parámetros totales.
- Aproximadamente 1.500 millones de parámetros activos por token.
- Arquitectura Mixture of Experts.
- Procesamiento: activación selectiva de expertos.

## Arquitectura del modelo

Arquitectura Mixture of Experts: el procesamiento se distribuye entre expertos especializados y se activan selectivamente los correspondientes a cada token.

Explicación técnica: los parámetros activos representan los componentes que participan en el procesamiento de cada token, no el tamaño total del modelo. Los pesos de los expertos y los restantes componentes deben estar disponibles durante la ejecución. Por eso, los requisitos de memoria y almacenamiento no equivalen a los de un modelo denso de 1,5B.

| Campo | Valor verificado |
|---|---|
| Bloques (capas) | 24 |
| Dimensión oculta | 2048 |
| Cabezas de atención | 32 |
| Cabezas KV | 8 |
| Expertos totales | 32 |
| Expertos enrutados por token | 4 |
| Capas densas/compartidas | 2 |
| Dimensión intermedia MoE | 1,792 |
| Dimensión intermedia base | 7,168 |
| Longitud de contexto | 128,000 tokens |
| Vocabulario | 128,000 tokens |

## Parámetros y configuración

| Campo | Información verificada |
|---|---|
| Producto | Nova Flow |
| Marca | Moderno Tech |
| Familia | Nova AI |
| Archivo principal (BF16) | `model.safetensors` |
| Formato de distribución principal | GGUF (IQ2_XXS, IQ2_M, IQ3_XXS, Q4_K_M) |
| Tamaño (BF16) | 16,936,006,912 bytes |
| Parámetros totales | Aproximadamente 8,3B |
| Parámetros activos por token | Aproximadamente 1,5B |
| Contexto máximo documentado | Hasta 128,000 tokens |
| Licencia original | LFM Open License v1.0 |

## Versiones GGUF disponibles

Nova Flow también se distribuye en formato **GGUF**, listo para utilizar en los principales motores de inferencia local (llama.cpp, Ollama, LM Studio, entre otros).

Los archivos GGUF contienen los pesos rebrandeados bajo la identidad Nova Flow y están disponibles para descarga directa.

| Variante | Tamaño | Enlace de descarga |
|---|---:|---|
| `Nova-Flow-2.0-IQ2_XXS.gguf` | 2.32 GB | [Descargar](https://huggingface.co/ModernoTech/Nova-Flow/resolve/main/Nova-Flow-2.0-IQ2_XXS.gguf) |
| `Nova-Flow-2.0-IQ2_M.gguf` | 2.84 GB | [Descargar](https://huggingface.co/ModernoTech/Nova-Flow/resolve/main/Nova-Flow-2.0-IQ2_M.gguf) |
| `Nova-Flow-2.0-IQ3_XXS.gguf` | 3.33 GB | [Descargar](https://huggingface.co/ModernoTech/Nova-Flow/resolve/main/Nova-Flow-2.0-IQ3_XXS.gguf) |
| `Nova-Flow-2.0-Q4_K_M.gguf` | 5.16 GB | [Descargar](https://huggingface.co/ModernoTech/Nova-Flow/resolve/main/Nova-Flow-2.0-Q4_K_M.gguf) |

La variante Q4_K_M es la recomendada para un equilibrio entre calidad y tamaño. Las variantes IQ2_XXS y IQ2_M priorizan el tamaño mínimo y el bajo consumo de memoria.

### Uso con Ollama

```bash
ollama run hf.co/ModernoTech/Nova-Flow:Q4_K_M
```

### Uso con LM Studio

Abrir el archivo GGUF directamente desde LM Studio. El tokenizer y la arquitectura se reconocen automáticamente.

### Uso con llama.cpp

```bash
llama-cli -hf ModernoTech/Nova-Flow -c 4096 --temp 0.7 --top-p 0.9 --top-k 40
```

O cargar el archivo local:

```bash
llama-cli -m Nova-Flow-2.0-Q4_K_M.gguf -c 4096
```

### Consideraciones

- El BF16 original (`model.safetensors`) se conserva en el repositorio.
- La activación selectiva de MoE no reduce el almacenamiento requerido: los pesos completos deben estar disponibles.
- Los requisitos reales de memoria dependen del runtime, el contexto y la cuantización seleccionada.

## Su lugar dentro de la familia Nova

Nova Flow representa una línea de desarrollo arquitectónico diferente dentro de la familia Nova AI. Mientras Nano, Mini y Spark priorizan modelos compactos destinados a la ejecución local en dispositivos personales, Flow utiliza una arquitectura Mixture of Experts.

Nova Flow explora una forma diferente de construir modelos de IA eficientes: disponer de una capacidad total elevada y activar selectivamente los expertos necesarios para cada token.

Es una alternativa destinada a escenarios donde se busca mayor capacidad y se dispone de infraestructura local suficiente para ejecutar una arquitectura MoE.

No prometer que Flow puede funcionar en cualquier teléfono ni que tiene los requisitos de memoria de un modelo Dense de 1,5B.

## Comparativa interna de la familia Nova

| Modelo | Parámetros | Arquitectura | Objetivo |
|---|---:|---|---|
| Nova Nano | 350M | Arquitectura híbrida (conv + atención) | IA local ultracompacta |
| Nova Mini | 0,6B | Transformer denso | Equilibrio entre capacidad y eficiencia |
| Nova Spark | 0,8B | Arquitectura híbrida (atención + SSM) | Mayor capacidad compacta |
| **Nova Flow** | ~8B / ~1,5B activos | Mixture of Experts | Capacidad total y activación selectiva |

## ¿Qué Nova elegir?

- Nano: cuando la prioridad sea el tamaño mínimo y la utilización de pocos recursos.
- Mini: cuando se busque equilibrio entre capacidad y eficiencia.
- Spark: cuando se necesite un modelo compacto de propósito general.
- Flow: cuando se busque una arquitectura MoE con mayor capacidad total y activación selectiva.

## Requisitos y consideraciones de ejecución

El consumo real depende del runtime, el contexto y la configuración. Evaluar RAM y almacenamiento disponible antes de la ejecución. Los pesos completos deben estar disponibles durante la ejecución.

## Instalación y utilización

```bash
python -c "
from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained('ModernoTech/Nova-Flow', trust_remote_code=True)
tokenizer = AutoTokenizer.from_pretrained('ModernoTech/Nova-Flow', trust_remote_code=True)
"
```

La compatibilidad exacta depende de la versión de Transformers y del hardware disponible. La configuración, `generation_config`, tokenizer y chat template se encuentran en el mismo repositorio.

## Limitaciones

- Capacidad y rendimiento deben validarse con el runtime y hardware disponibles.
- Los pesos completos deben estar disponibles durante la ejecución; la activación selectiva no reduce el almacenamiento requerido.
- No se publican benchmarks propios verificables; cualquier comparación debe realizarse con pruebas comparables.
- No se garantiza compatibilidad universal sin prueba.

## Moderno Tech

**NOVA AI**

Desarrollado y distribuido bajo la identidad de:

**MODERNO TECH**

Sitio oficial: https://moderno.com.ar

*Inteligencia que evoluciona. Tecnología que transforma.*