|
Download README.md from ModernoTech/Nova-Flow: direct link, hf CLI and curl.
- Browser
- Download file 12.6 kB
-
https://huggingface.co/ModernoTech/Nova-Flow/resolve/main/README.md
- Command line
-
hf download hf://ModernoTech/Nova-Flow/README.md
-
curl -L -o README.md https://huggingface.co/ModernoTech/Nova-Flow/resolve/main/README.md
12.6 kB
| language: | |
| - es | |
| - en | |
| pretty_name: Nova Flow — Inteligencia eficiente mediante Mixture of Experts | |
| model_name: Nova Flow | |
| model_creator: Moderno Tech | |
| tags: | |
| - moderno-tech | |
| - nova | |
| - nova-flow | |
| - safetensors | |
| - gguf | |
| - moe | |
| - conversational | |
| - local-ai | |
| license: other | |
| pipeline_tag: text-generation | |
| inference: false | |
|  | |
| <div align="center"> | |
| <img alt="Moderno Tech" src="images/moderno-tech-logo.png" width="84"/> | |
| </div> | |
| # NOVA FLOW | |
| **Moderno Tech — Nova AI** | |
| ## Arquitectura Mixture of Experts para capacidad total y activación selectiva | |
| Nova Flow utiliza una arquitectura Mixture of Experts (MoE) para distribuir el procesamiento entre distintos expertos y activar selectivamente los componentes correspondientes durante la generación de cada token. | |
| Su propósito es aprovechar una capacidad total de parámetros elevada sin activar todos los expertos en cada paso de inferencia. | |
| Sitio oficial: https://moderno.com.ar | |
| --- | |
| ## Visión y filosofía de Nova AI | |
| **Tu inteligencia artificial. Tu dispositivo. Tus recursos.** | |
| Nova AI es una familia de modelos de inteligencia artificial desarrollada dentro de Moderno Tech, con una filosofía centrada en la eficiencia computacional, la ejecución local y la accesibilidad. | |
| La visión de Moderno Tech es que una persona no debería necesitar una infraestructura costosa ni depender permanentemente de servidores en la nube para utilizar un asistente de inteligencia artificial. | |
| El objetivo es desarrollar modelos que permitan construir una experiencia de asistente conversacional accesible desde la web, ejecutada directamente en el dispositivo del usuario. | |
| No se trata de afirmar que los modelos tienen las mismas capacidades que otros asistentes conversacionales. Se trata de ofrecer una experiencia de uso conversacional mediante modelos Nova que se ejecutan localmente. | |
| ### Una nueva forma de utilizar inteligencia artificial | |
| Tradicionalmente, muchos asistentes de inteligencia artificial procesan las consultas en servidores remotos. Cada conversación requiere recursos de procesamiento, memoria y aceleración de hardware en una infraestructura centralizada. | |
| La propuesta de Nova AI es diferente. | |
| Moderno Tech busca que los usuarios puedan acceder a una interfaz de inteligencia artificial desde una página web, descargar el modelo adecuado para su dispositivo y ejecutar las conversaciones utilizando los recursos locales. | |
| El funcionamiento previsto es: | |
| 1. El usuario ingresa a la plataforma web de Moderno Tech. | |
| 2. Selecciona el modelo Nova adecuado para la capacidad de su dispositivo. | |
| 3. Descarga los archivos del modelo. | |
| 4. El navegador carga el modelo en la memoria disponible del dispositivo. | |
| 5. Un motor de inferencia local compatible con el navegador procesa las consultas. | |
| 6. La generación de respuestas sucede directamente en el dispositivo del usuario. | |
| La ventaja fundamental es que el procesamiento de las conversaciones no necesita realizarse en los servidores de Moderno Tech. | |
| Esto permite reducir la dependencia de infraestructura de inferencia centralizada, disminuir los costos operativos de procesamiento y facilitar una experiencia de IA local. | |
| La descarga inicial del modelo sí utiliza almacenamiento y transferencia de datos. La diferencia buscada es que la inferencia y la generación de respuestas se realicen localmente, cuando la implementación lo permite. | |
| La posibilidad de utilizar el modelo sin conexión debe presentarse únicamente cuando el sistema de descarga, almacenamiento y ejecución garantice esa funcionalidad. | |
| ### Dispositivos contemplados | |
| La estrategia de Nova AI está dirigida a una amplia variedad de dispositivos: | |
| - Teléfonos inteligentes. | |
| - Tablets. | |
| - Computadoras portátiles. | |
| - Computadoras de escritorio. | |
| - Otros dispositivos compatibles con ejecución local mediante navegador. | |
| El objetivo es que cada usuario pueda seleccionar un modelo de acuerdo con los recursos disponibles. | |
| No afirmar que todos los dispositivos pueden ejecutar todos los modelos. La compatibilidad depende de la memoria disponible, el navegador, el motor de inferencia, el soporte de hardware, la cuantización y las características del dispositivo. | |
| ### Ventajas de este enfoque | |
| **Menor dependencia de servidores de inferencia** | |
| Las consultas se procesan localmente cuando el motor de inferencia y el dispositivo son compatibles. | |
| **Mayor control del usuario** | |
| El modelo se encuentra en el dispositivo y no es necesario enviar cada consulta a un servidor central para generar una respuesta local. | |
| **Optimización de infraestructura** | |
| Moderno Tech puede ofrecer una plataforma para muchos usuarios sin necesitar una infraestructura de GPU centralizada que procese individualmente cada conversación. | |
| **Elección según el dispositivo** | |
| Cada usuario puede elegir Nano, Mini o Spark según los recursos de su teléfono, tablet o computadora. | |
| **Accesibilidad** | |
| La IA local puede acercarse a usuarios que no disponen de suscripciones a servicios de inferencia remota. | |
| No prometer privacidad absoluta, ejecución sin conexión ni compatibilidad universal sin comprobar las características reales de la plataforma. | |
| --- | |
| ## Qué se buscó lograr con Nova Flow | |
| Nova Flow representa una línea de desarrollo arquitectónico diferente dentro de la familia Nova AI. | |
| Mientras Nano, Mini y Spark priorizan modelos compactos destinados a la ejecución local en dispositivos personales, Flow utiliza una arquitectura Mixture of Experts (MoE). | |
| Su objetivo es aprovechar una capacidad total de parámetros significativamente mayor, seleccionando los expertos que participan en el procesamiento de cada token. | |
| Nova Flow es una alternativa destinada a escenarios donde se busca mayor capacidad y se dispone de infraestructura local suficiente para ejecutar una arquitectura MoE. | |
| ## Público objetivo | |
| - Desarrolladores avanzados. | |
| - Usuarios de inteligencia artificial local. | |
| - Aplicaciones profesionales. | |
| - Entornos de experimentación con arquitecturas MoE. | |
| - Sistemas que pueden proporcionar la memoria y el almacenamiento necesarios. | |
| ## Características principales | |
| - Aproximadamente 8.000 millones de parámetros totales. | |
| - Aproximadamente 1.500 millones de parámetros activos por token. | |
| - Arquitectura Mixture of Experts. | |
| - Procesamiento: activación selectiva de expertos. | |
| ## Arquitectura del modelo | |
| Arquitectura Mixture of Experts: el procesamiento se distribuye entre expertos especializados y se activan selectivamente los correspondientes a cada token. | |
| Explicación técnica: los parámetros activos representan los componentes que participan en el procesamiento de cada token, no el tamaño total del modelo. Los pesos de los expertos y los restantes componentes deben estar disponibles durante la ejecución. Por eso, los requisitos de memoria y almacenamiento no equivalen a los de un modelo denso de 1,5B. | |
| | Campo | Valor verificado | | |
| |---|---| | |
| | Bloques (capas) | 24 | | |
| | Dimensión oculta | 2048 | | |
| | Cabezas de atención | 32 | | |
| | Cabezas KV | 8 | | |
| | Expertos totales | 32 | | |
| | Expertos enrutados por token | 4 | | |
| | Capas densas/compartidas | 2 | | |
| | Dimensión intermedia MoE | 1,792 | | |
| | Dimensión intermedia base | 7,168 | | |
| | Longitud de contexto | 128,000 tokens | | |
| | Vocabulario | 128,000 tokens | | |
| ## Parámetros y configuración | |
| | Campo | Información verificada | | |
| |---|---| | |
| | Producto | Nova Flow | | |
| | Marca | Moderno Tech | | |
| | Familia | Nova AI | | |
| | Archivo principal (BF16) | `model.safetensors` | | |
| | Formato de distribución principal | GGUF (IQ2_XXS, IQ2_M, IQ3_XXS, Q4_K_M) | | |
| | Tamaño (BF16) | 16,936,006,912 bytes | | |
| | Parámetros totales | Aproximadamente 8,3B | | |
| | Parámetros activos por token | Aproximadamente 1,5B | | |
| | Contexto máximo documentado | Hasta 128,000 tokens | | |
| | Licencia original | LFM Open License v1.0 | | |
| ## Versiones GGUF disponibles | |
| Nova Flow también se distribuye en formato **GGUF**, listo para utilizar en los principales motores de inferencia local (llama.cpp, Ollama, LM Studio, entre otros). | |
| Los archivos GGUF contienen los pesos rebrandeados bajo la identidad Nova Flow y están disponibles para descarga directa. | |
| | Variante | Tamaño | Enlace de descarga | | |
| |---|---:|---| | |
| | `Nova-Flow-2.0-IQ2_XXS.gguf` | 2.32 GB | [Descargar](https://huggingface.co/ModernoTech/Nova-Flow/resolve/main/Nova-Flow-2.0-IQ2_XXS.gguf) | | |
| | `Nova-Flow-2.0-IQ2_M.gguf` | 2.84 GB | [Descargar](https://huggingface.co/ModernoTech/Nova-Flow/resolve/main/Nova-Flow-2.0-IQ2_M.gguf) | | |
| | `Nova-Flow-2.0-IQ3_XXS.gguf` | 3.33 GB | [Descargar](https://huggingface.co/ModernoTech/Nova-Flow/resolve/main/Nova-Flow-2.0-IQ3_XXS.gguf) | | |
| | `Nova-Flow-2.0-Q4_K_M.gguf` | 5.16 GB | [Descargar](https://huggingface.co/ModernoTech/Nova-Flow/resolve/main/Nova-Flow-2.0-Q4_K_M.gguf) | | |
| La variante Q4_K_M es la recomendada para un equilibrio entre calidad y tamaño. Las variantes IQ2_XXS y IQ2_M priorizan el tamaño mínimo y el bajo consumo de memoria. | |
| ### Uso con Ollama | |
| ```bash | |
| ollama run hf.co/ModernoTech/Nova-Flow:Q4_K_M | |
| ``` | |
| ### Uso con LM Studio | |
| Abrir el archivo GGUF directamente desde LM Studio. El tokenizer y la arquitectura se reconocen automáticamente. | |
| ### Uso con llama.cpp | |
| ```bash | |
| llama-cli -hf ModernoTech/Nova-Flow -c 4096 --temp 0.7 --top-p 0.9 --top-k 40 | |
| ``` | |
| O cargar el archivo local: | |
| ```bash | |
| llama-cli -m Nova-Flow-2.0-Q4_K_M.gguf -c 4096 | |
| ``` | |
| ### Consideraciones | |
| - El BF16 original (`model.safetensors`) se conserva en el repositorio. | |
| - La activación selectiva de MoE no reduce el almacenamiento requerido: los pesos completos deben estar disponibles. | |
| - Los requisitos reales de memoria dependen del runtime, el contexto y la cuantización seleccionada. | |
| ## Su lugar dentro de la familia Nova | |
| Nova Flow representa una línea de desarrollo arquitectónico diferente dentro de la familia Nova AI. Mientras Nano, Mini y Spark priorizan modelos compactos destinados a la ejecución local en dispositivos personales, Flow utiliza una arquitectura Mixture of Experts. | |
| Nova Flow explora una forma diferente de construir modelos de IA eficientes: disponer de una capacidad total elevada y activar selectivamente los expertos necesarios para cada token. | |
| Es una alternativa destinada a escenarios donde se busca mayor capacidad y se dispone de infraestructura local suficiente para ejecutar una arquitectura MoE. | |
| No prometer que Flow puede funcionar en cualquier teléfono ni que tiene los requisitos de memoria de un modelo Dense de 1,5B. | |
| ## Comparativa interna de la familia Nova | |
| | Modelo | Parámetros | Arquitectura | Objetivo | | |
| |---|---:|---|---| | |
| | Nova Nano | 350M | Arquitectura híbrida (conv + atención) | IA local ultracompacta | | |
| | Nova Mini | 0,6B | Transformer denso | Equilibrio entre capacidad y eficiencia | | |
| | Nova Spark | 0,8B | Arquitectura híbrida (atención + SSM) | Mayor capacidad compacta | | |
| | **Nova Flow** | ~8B / ~1,5B activos | Mixture of Experts | Capacidad total y activación selectiva | | |
| ## ¿Qué Nova elegir? | |
| - Nano: cuando la prioridad sea el tamaño mínimo y la utilización de pocos recursos. | |
| - Mini: cuando se busque equilibrio entre capacidad y eficiencia. | |
| - Spark: cuando se necesite un modelo compacto de propósito general. | |
| - Flow: cuando se busque una arquitectura MoE con mayor capacidad total y activación selectiva. | |
| ## Requisitos y consideraciones de ejecución | |
| El consumo real depende del runtime, el contexto y la configuración. Evaluar RAM y almacenamiento disponible antes de la ejecución. Los pesos completos deben estar disponibles durante la ejecución. | |
| ## Instalación y utilización | |
| ```bash | |
| python -c " | |
| from transformers import AutoModelForCausalLM, AutoTokenizer | |
| model = AutoModelForCausalLM.from_pretrained('ModernoTech/Nova-Flow', trust_remote_code=True) | |
| tokenizer = AutoTokenizer.from_pretrained('ModernoTech/Nova-Flow', trust_remote_code=True) | |
| " | |
| ``` | |
| La compatibilidad exacta depende de la versión de Transformers y del hardware disponible. La configuración, `generation_config`, tokenizer y chat template se encuentran en el mismo repositorio. | |
| ## Limitaciones | |
| - Capacidad y rendimiento deben validarse con el runtime y hardware disponibles. | |
| - Los pesos completos deben estar disponibles durante la ejecución; la activación selectiva no reduce el almacenamiento requerido. | |
| - No se publican benchmarks propios verificables; cualquier comparación debe realizarse con pruebas comparables. | |
| - No se garantiza compatibilidad universal sin prueba. | |
| ## Moderno Tech | |
| **NOVA AI** | |
| Desarrollado y distribuido bajo la identidad de: | |
| **MODERNO TECH** | |
| Sitio oficial: https://moderno.com.ar | |
| *Inteligencia que evoluciona. Tecnología que transforma.* | |