ModernoTech commited on
Commit
fdd8fc4
·
verified ·
1 Parent(s): 601df0b

Institutional restructure of Nova AI Model Cards

Browse files
Files changed (1) hide show
  1. README.md +105 -39
README.md CHANGED
@@ -12,6 +12,7 @@ tags:
12
  - safetensors
13
  - moe
14
  - conversational
 
15
  license: other
16
  inference: false
17
  ---
@@ -26,7 +27,7 @@ inference: false
26
 
27
  **Moderno Tech — Nova AI**
28
 
29
- ## Inteligencia eficiente mediante Mixture of Experts
30
 
31
  Nova Flow utiliza una arquitectura Mixture of Experts (MoE) para distribuir el procesamiento entre distintos expertos y activar selectivamente los componentes correspondientes durante la generación de cada token.
32
 
@@ -34,44 +35,115 @@ Su propósito es aprovechar una capacidad total de parámetros elevada sin activ
34
 
35
  Sitio oficial: https://moderno.com.ar
36
 
37
- ## Descripción corta
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
38
 
39
- Modelo conversacional con arquitectura Mixture of Experts (MoE), publicado en formato Safetensors BF16, orientado a interacción conversacional con activación reducida por token.
40
 
41
- ## Filosofía y objetivo de diseño
42
 
43
- Nova Flow busca aprovechar las ventajas de las arquitecturas MoE para ofrecer una capacidad total elevada con activación selectiva de expertos. La filosofía de Nova AI es desarrollar inteligencia artificial eficiente: máxima capacidad útil con menos recursos.
44
 
45
- Objetivos de diseño:
46
 
47
- - Aprovechar las ventajas de las arquitecturas MoE.
48
- - Ofrecer capacidad total elevada con activación selectiva de expertos.
49
- - Permitir experimentación con arquitecturas de enrutamiento de expertos.
50
- - Mantener la diferencia clara entre capacidad total y cómputo activo.
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
51
 
52
  ## Público objetivo
53
 
54
  - Desarrolladores avanzados.
55
  - Usuarios de inteligencia artificial local.
56
- - Aplicaciones que necesitan mayor capacidad de modelo.
57
  - Entornos de experimentación con arquitecturas MoE.
58
- - Usuarios que desean aprovechar modelos de mayor capacidad sin utilizar una arquitectura densa equivalente.
59
- - Estaciones de trabajo y sistemas que pueden almacenar y ejecutar los pesos necesarios.
60
 
61
  ## Características principales
62
 
63
  - Aproximadamente 8.000 millones de parámetros totales.
64
- - Aproximadamente 1.000 a 1.500 millones de parámetros activos por token.
65
  - Arquitectura Mixture of Experts.
66
- - Enrutamiento selectivo de expertos.
67
- - Diferencia entre parámetros totales y parámetros activos.
68
- - Eficiencia de cómputo por activación selectiva.
69
 
70
  ## Arquitectura del modelo
71
 
72
  Arquitectura Mixture of Experts: el procesamiento se distribuye entre expertos especializados y se activan selectivamente los correspondientes a cada token.
73
 
74
- Explicación técnica: los parámetros activos representan los componentes que participan en el procesamiento de cada token, no el tamaño total del modelo. Los pesos de los expertos y los restantes componentes deben estar disponibles durante la ejecución. Por eso, los requisitos de memoria y almacenamiento no equivalen a los de un modelo denso de 1B.
75
 
76
  | Campo | Valor verificado |
77
  |---|---|
@@ -102,23 +174,24 @@ Explicación técnica: los parámetros activos representan los componentes que p
102
  | Contexto máximo documentado | Hasta 128,000 tokens |
103
  | Licencia original | LFM Open License v1.0 |
104
 
105
- ## Qué lo caracteriza dentro de Nova AI
 
 
 
 
 
 
106
 
107
- - 8B de parámetros totales.
108
- - Aproximadamente 1,5B de parámetros activos por token.
109
- - Arquitectura MoE.
110
- - Enrutamiento selectivo de expertos.
111
- - Diferencia entre capacidad total y cómputo activo.
112
- - Posibilidad de utilizar una arquitectura de mayor tamaño con activación parcial de parámetros.
113
 
114
  ## Comparativa interna de la familia Nova
115
 
116
  | Modelo | Parámetros | Arquitectura | Objetivo |
117
  |---|---:|---|---|
118
- | Nova Nano | 350M | Arquitectura híbrida (conv + atención) | Ultraeficiencia |
119
- | Nova Mini | 0,6B | Transformer denso | Equilibrio |
120
- | Nova Spark | 0,8B | Arquitectura híbrida (atención + SSM) | Capacidad compacta |
121
- | **Nova Flow** | ~8B / ~1,5B activos | Mixture of Experts | Capacidad con activación selectiva |
122
 
123
  ## ¿Qué Nova elegir?
124
 
@@ -127,12 +200,9 @@ Explicación técnica: los parámetros activos representan los componentes que p
127
  - Spark: cuando se necesite un modelo compacto de propósito general.
128
  - Flow: cuando se busque una arquitectura MoE con mayor capacidad total y activación selectiva.
129
 
130
- ## Casos de uso
131
 
132
- - Interacción conversacional fluida con activación reducida por token.
133
- - Aplicaciones que necesitan mayor capacidad de modelo.
134
- - Entornos de experimentación con arquitecturas MoE.
135
- - Desarrollo y pruebas de modelos de mayor tamaño con ejecución selectiva.
136
 
137
  ## Instalación y utilización
138
 
@@ -146,10 +216,6 @@ tokenizer = AutoTokenizer.from_pretrained('ModernoTech/Nova-Flow', trust_remote_
146
 
147
  La compatibilidad exacta depende de la versión de Transformers y del hardware disponible. La configuración, `generation_config`, tokenizer y chat template se encuentran en el mismo repositorio.
148
 
149
- ## Requisitos de ejecución
150
-
151
- El consumo real depende del runtime, el contexto y la configuración. Evaluar RAM y almacenamiento disponible antes de la ejecución. Los pesos completos deben estar disponibles durante la ejecución.
152
-
153
  ## Limitaciones
154
 
155
  - Capacidad y rendimiento deben validarse con el runtime y hardware disponibles.
@@ -159,7 +225,7 @@ El consumo real depende del runtime, el contexto y la configuración. Evaluar RA
159
 
160
  ## Licencia y avisos correspondientes
161
 
162
- La licencia original (LFM Open License v1.0) y las atribuciones obligatorias se conservan en los archivos de licencia y en `THIRD_PARTY_NOTICES/` del repositorio. Moderno Tech distribuye el producto bajo la marca Nova. Los avisos legales y de atribución se conservan en los archivos de licencia del repositorio.
163
 
164
  ## Moderno Tech
165
 
 
12
  - safetensors
13
  - moe
14
  - conversational
15
+ - local-ai
16
  license: other
17
  inference: false
18
  ---
 
27
 
28
  **Moderno Tech — Nova AI**
29
 
30
+ ## Arquitectura Mixture of Experts para capacidad total y activación selectiva
31
 
32
  Nova Flow utiliza una arquitectura Mixture of Experts (MoE) para distribuir el procesamiento entre distintos expertos y activar selectivamente los componentes correspondientes durante la generación de cada token.
33
 
 
35
 
36
  Sitio oficial: https://moderno.com.ar
37
 
38
+ ---
39
+
40
+ ## Visión y filosofía de Nova AI
41
+
42
+ **Tu inteligencia artificial. Tu dispositivo. Tus recursos.**
43
+
44
+ Nova AI es una familia de modelos de inteligencia artificial desarrollada dentro de Moderno Tech, con una filosofía centrada en la eficiencia computacional, la ejecución local y la accesibilidad.
45
+
46
+ La visión de Moderno Tech es que una persona no debería necesitar una infraestructura costosa ni depender permanentemente de servidores en la nube para utilizar un asistente de inteligencia artificial.
47
+
48
+ El objetivo es desarrollar modelos que permitan construir una experiencia de asistente conversacional accesible desde la web, ejecutada directamente en el dispositivo del usuario.
49
+
50
+ No se trata de afirmar que los modelos tienen las mismas capacidades que otros asistentes conversacionales. Se trata de ofrecer una experiencia de uso conversacional mediante modelos Nova que se ejecutan localmente.
51
+
52
+ ### Una nueva forma de utilizar inteligencia artificial
53
+
54
+ Tradicionalmente, muchos asistentes de inteligencia artificial procesan las consultas en servidores remotos. Cada conversación requiere recursos de procesamiento, memoria y aceleración de hardware en una infraestructura centralizada.
55
+
56
+ La propuesta de Nova AI es diferente.
57
+
58
+ Moderno Tech busca que los usuarios puedan acceder a una interfaz de inteligencia artificial desde una página web, descargar el modelo adecuado para su dispositivo y ejecutar las conversaciones utilizando los recursos locales.
59
+
60
+ El funcionamiento previsto es:
61
+
62
+ 1. El usuario ingresa a la plataforma web de Moderno Tech.
63
+ 2. Selecciona el modelo Nova adecuado para la capacidad de su dispositivo.
64
+ 3. Descarga los archivos del modelo.
65
+ 4. El navegador carga el modelo en la memoria disponible del dispositivo.
66
+ 5. Un motor de inferencia local compatible con el navegador procesa las consultas.
67
+ 6. La generación de respuestas sucede directamente en el dispositivo del usuario.
68
+
69
+ La ventaja fundamental es que el procesamiento de las conversaciones no necesita realizarse en los servidores de Moderno Tech.
70
+
71
+ Esto permite reducir la dependencia de infraestructura de inferencia centralizada, disminuir los costos operativos de procesamiento y facilitar una experiencia de IA local.
72
+
73
+ La descarga inicial del modelo sí utiliza almacenamiento y transferencia de datos. La diferencia buscada es que la inferencia y la generación de respuestas se realicen localmente, cuando la implementación lo permite.
74
+
75
+ La posibilidad de utilizar el modelo sin conexión debe presentarse únicamente cuando el sistema de descarga, almacenamiento y ejecución garantice esa funcionalidad.
76
+
77
+ ### Dispositivos contemplados
78
+
79
+ La estrategia de Nova AI está dirigida a una amplia variedad de dispositivos:
80
+
81
+ - Teléfonos inteligentes.
82
+ - Tablets.
83
+ - Computadoras portátiles.
84
+ - Computadoras de escritorio.
85
+ - Otros dispositivos compatibles con ejecución local mediante navegador.
86
+
87
+ El objetivo es que cada usuario pueda seleccionar un modelo de acuerdo con los recursos disponibles.
88
+
89
+ No afirmar que todos los dispositivos pueden ejecutar todos los modelos. La compatibilidad depende de la memoria disponible, el navegador, el motor de inferencia, el soporte de hardware, la cuantización y las características del dispositivo.
90
 
91
+ ### Ventajas de este enfoque
92
 
93
+ **Menor dependencia de servidores de inferencia**
94
 
95
+ Las consultas se procesan localmente cuando el motor de inferencia y el dispositivo son compatibles.
96
 
97
+ **Mayor control del usuario**
98
 
99
+ El modelo se encuentra en el dispositivo y no es necesario enviar cada consulta a un servidor central para generar una respuesta local.
100
+
101
+ **Optimización de infraestructura**
102
+
103
+ Moderno Tech puede ofrecer una plataforma para muchos usuarios sin necesitar una infraestructura de GPU centralizada que procese individualmente cada conversación.
104
+
105
+ **Elección según el dispositivo**
106
+
107
+ Cada usuario puede elegir Nano, Mini o Spark según los recursos de su teléfono, tablet o computadora.
108
+
109
+ **Accesibilidad**
110
+
111
+ La IA local puede acercarse a usuarios que no disponen de suscripciones a servicios de inferencia remota.
112
+
113
+ No prometer privacidad absoluta, ejecución sin conexión ni compatibilidad universal sin comprobar las características reales de la plataforma.
114
+
115
+ ---
116
+
117
+ ## Qué se buscó lograr con Nova Flow
118
+
119
+ Nova Flow representa una línea de desarrollo arquitectónico diferente dentro de la familia Nova AI.
120
+
121
+ Mientras Nano, Mini y Spark priorizan modelos compactos destinados a la ejecución local en dispositivos personales, Flow utiliza una arquitectura Mixture of Experts (MoE).
122
+
123
+ Su objetivo es aprovechar una capacidad total de parámetros significativamente mayor, seleccionando los expertos que participan en el procesamiento de cada token.
124
+
125
+ Nova Flow es una alternativa destinada a escenarios donde se busca mayor capacidad y se dispone de infraestructura local suficiente para ejecutar una arquitectura MoE.
126
 
127
  ## Público objetivo
128
 
129
  - Desarrolladores avanzados.
130
  - Usuarios de inteligencia artificial local.
131
+ - Aplicaciones profesionales.
132
  - Entornos de experimentación con arquitecturas MoE.
133
+ - Sistemas que pueden proporcionar la memoria y el almacenamiento necesarios.
 
134
 
135
  ## Características principales
136
 
137
  - Aproximadamente 8.000 millones de parámetros totales.
138
+ - Aproximadamente 1.500 millones de parámetros activos por token.
139
  - Arquitectura Mixture of Experts.
140
+ - Procesamiento: activación selectiva de expertos.
 
 
141
 
142
  ## Arquitectura del modelo
143
 
144
  Arquitectura Mixture of Experts: el procesamiento se distribuye entre expertos especializados y se activan selectivamente los correspondientes a cada token.
145
 
146
+ Explicación técnica: los parámetros activos representan los componentes que participan en el procesamiento de cada token, no el tamaño total del modelo. Los pesos de los expertos y los restantes componentes deben estar disponibles durante la ejecución. Por eso, los requisitos de memoria y almacenamiento no equivalen a los de un modelo denso de 1,5B.
147
 
148
  | Campo | Valor verificado |
149
  |---|---|
 
174
  | Contexto máximo documentado | Hasta 128,000 tokens |
175
  | Licencia original | LFM Open License v1.0 |
176
 
177
+ ## Su lugar dentro de la familia Nova
178
+
179
+ Nova Flow representa una línea de desarrollo arquitectónico diferente dentro de la familia Nova AI. Mientras Nano, Mini y Spark priorizan modelos compactos destinados a la ejecución local en dispositivos personales, Flow utiliza una arquitectura Mixture of Experts.
180
+
181
+ Nova Flow explora una forma diferente de construir modelos de IA eficientes: disponer de una capacidad total elevada y activar selectivamente los expertos necesarios para cada token.
182
+
183
+ Es una alternativa destinada a escenarios donde se busca mayor capacidad y se dispone de infraestructura local suficiente para ejecutar una arquitectura MoE.
184
 
185
+ No prometer que Flow puede funcionar en cualquier teléfono ni que tiene los requisitos de memoria de un modelo Dense de 1,5B.
 
 
 
 
 
186
 
187
  ## Comparativa interna de la familia Nova
188
 
189
  | Modelo | Parámetros | Arquitectura | Objetivo |
190
  |---|---:|---|---|
191
+ | Nova Nano | 350M | Arquitectura híbrida (conv + atención) | IA local ultracompacta |
192
+ | Nova Mini | 0,6B | Transformer denso | Equilibrio entre capacidad y eficiencia |
193
+ | Nova Spark | 0,8B | Arquitectura híbrida (atención + SSM) | Mayor capacidad compacta |
194
+ | **Nova Flow** | ~8B / ~1,5B activos | Mixture of Experts | Capacidad total y activación selectiva |
195
 
196
  ## ¿Qué Nova elegir?
197
 
 
200
  - Spark: cuando se necesite un modelo compacto de propósito general.
201
  - Flow: cuando se busque una arquitectura MoE con mayor capacidad total y activación selectiva.
202
 
203
+ ## Requisitos y consideraciones de ejecución
204
 
205
+ El consumo real depende del runtime, el contexto y la configuración. Evaluar RAM y almacenamiento disponible antes de la ejecución. Los pesos completos deben estar disponibles durante la ejecución.
 
 
 
206
 
207
  ## Instalación y utilización
208
 
 
216
 
217
  La compatibilidad exacta depende de la versión de Transformers y del hardware disponible. La configuración, `generation_config`, tokenizer y chat template se encuentran en el mismo repositorio.
218
 
 
 
 
 
219
  ## Limitaciones
220
 
221
  - Capacidad y rendimiento deben validarse con el runtime y hardware disponibles.
 
225
 
226
  ## Licencia y avisos correspondientes
227
 
228
+ La licencia original (LFM Open License v1.0) y las atribuciones obligatorias se conservan en los archivos de licencia y en `THIRD_PARTY_NOTICES/` del repositorio.
229
 
230
  ## Moderno Tech
231