Nova-Flow / MODEL-CARD.md
ModernoTech's picture
Fix typo in Flow Model Card
ce299d6 verified
|
Raw History Blame Contribute Delete
1.32 kB
metadata
language:
  - es
  - en
pretty_name: Nova Flow — Modelo MoE para interacción conversacional
model_name: Nova Flow
model_creator: Moderno Tech
tags:
  - moderno-tech
  - nova
  - nova-flow
  - safetensors
  - moe
license: other
inference: false

Nova Flow

Moderno Tech — Nova

Nova Flow es una variante MoE publicada en formato Safetensors BF16, orientada a interacción conversacional con activación reducida por token.

Identidad del modelo

Perfil de diseño

  • Parámetros totales: aproximadamente 8.3B.
  • Parámetros activos por token: aproximadamente 1.5B.
  • Atención: 32 cabezas, 8 cabezas KV.
  • Contexto declarado en la configuración heredada: 128000 tokens.
  • Capas: 24.
  • Expertos: 32 expertos por token, con 4 expertos enrutados por token y 2 expertos compartidos.
  • Formato: Safetensors BF16.

Artefacto publicado

  • Archivo: model.safetensors
  • Tamaño: 16,936,006,912 bytes.
  • Configuración, generation_config, tokenizer y chat template estan disponibles en el mismo repositorio.
  • Runtime habitual: AutoModelForCausalLM con trust_remote_code=True.

Cuándo elegir Nova Flow

  • Cuando se busque una interacción conversacional fluida con activación reducida por token.