Instructions to use ModernoTech/Nova-Mini with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Notebooks
Google Colab
Kaggle
Local Apps Settings

How to use ModernoTech/Nova-Mini with llama.cpp:

Install (macOS, Linux)

curl -LsSf https://llama.app/install.sh | sh
# Start a local OpenAI-compatible server with a web UI:
llama serve -hf ModernoTech/Nova-Mini:Q4_K_M
# Run inference directly in the terminal:
llama cli -hf ModernoTech/Nova-Mini:Q4_K_M

Install from WinGet (Windows)

winget install llama.cpp
# Start a local OpenAI-compatible server with a web UI:
llama serve -hf ModernoTech/Nova-Mini:Q4_K_M
# Run inference directly in the terminal:
llama cli -hf ModernoTech/Nova-Mini:Q4_K_M

Build from source code

git clone https://github.com/ggml-org/llama.cpp.git
cd llama.cpp
cmake -B build
cmake --build build -j --target llama-app
# Start a local OpenAI-compatible server with a web UI:
./build/bin/llama serve -hf ModernoTech/Nova-Mini:Q4_K_M
# Run inference directly in the terminal:
./build/bin/llama cli -hf ModernoTech/Nova-Mini:Q4_K_M

Use Docker

docker model run hf.co/ModernoTech/Nova-Mini:Q4_K_M

Llama new
LM Studio
Jan
Ollama
How to use ModernoTech/Nova-Mini with Ollama:
```
ollama run hf.co/ModernoTech/Nova-Mini:Q4_K_M
```
Unsloth Desktop

How to use ModernoTech/Nova-Mini with Pi:

Start the llama.cpp server

# Install llama.cpp:
brew install llama.cpp
# Start a local OpenAI-compatible server:
llama serve -hf ModernoTech/Nova-Mini:Q4_K_M

Configure the model in Pi

# Install Pi:
npm install -g @earendil-works/pi-coding-agent
# Add to ~/.pi/agent/models.json:
{
  "providers": {
    "llama-cpp": {
      "baseUrl": "http://localhost:8080/v1",
      "api": "openai-completions",
      "apiKey": "none",
      "models": [
        {
          "id": "ModernoTech/Nova-Mini:Q4_K_M"
        }
      ]
    }
  }
}

Run Pi

# Start Pi in your project directory:
pi

Docker Model Runner
How to use ModernoTech/Nova-Mini with Docker Model Runner:
```
docker model run hf.co/ModernoTech/Nova-Mini:Q4_K_M
```

Lemonade

How to use ModernoTech/Nova-Mini with Lemonade:

Pull the model

# Download Lemonade from https://lemonade-server.ai/
lemonade pull ModernoTech/Nova-Mini:Q4_K_M

Run and chat with the model

lemonade run user.Nova-Mini-Q4_K_M

List all available models

lemonade list

Hermes Agent

How to use ModernoTech/Nova-Mini with Hermes Agent:

Start the llama.cpp server

# Install llama.cpp:
brew install llama.cpp
# Start a local OpenAI-compatible server:
llama serve -hf ModernoTech/Nova-Mini:Q4_K_M

Configure Hermes

# Install Hermes:
curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash
hermes setup
# Point Hermes at the local server:
hermes config set model.provider custom
hermes config set model.base_url http://127.0.0.1:8080/v1
hermes config set model.default ModernoTech/Nova-Mini:Q4_K_M

Run Hermes

hermes

Atomic Chat

OpenClaw

How to use ModernoTech/Nova-Mini with OpenClaw:

Start the llama.cpp server

# Install llama.cpp:
brew install llama.cpp
# Start a local OpenAI-compatible server:
llama serve -hf ModernoTech/Nova-Mini:Q4_K_M

Configure OpenClaw

# Install OpenClaw:
npm install -g openclaw@latest
# Register the local server and set it as the default model:
openclaw onboard --non-interactive --mode local \
  --auth-choice custom-api-key \
  --custom-base-url http://127.0.0.1:8080/v1 \
  --custom-model-id "ModernoTech/Nova-Mini:Q4_K_M" \
  --custom-provider-id llama-cpp \
  --custom-compatibility openai \
  --custom-text-input \
  --accept-risk \
  --skip-health

Run OpenClaw

openclaw agent --local --agent main --message "Hello from Hugging Face"

ModernoTech commited on 5 days ago

Commit

4a3249e

verified ·

1 Parent(s): 00e5f31

docs: model card normalization in Spanish with verified identity

Browse files

Files changed (1) hide show

README.md +31 -41

README.md CHANGED Viewed

@@ -16,60 +16,50 @@ license: apache-2.0
 inference: false
 ---
-![Nova Mini banner](images/nova-mini-banner.jpg)
 # Nova Mini 1.0
-Producto Moderno Tech para asistencia general y texto compacto.
-- Base: `Qwen/Qwen3-0.6B`
-- Formato: GGUF Q4_K_M
-- Tamaño: 484,220,288 bytes
-- SHA-256: `03a9f2b5eaa26e8a801012cf5c2eb75f2997da0725ce99bc03622d4bae583fdd`
-Casos de uso: chat acotado, resúmenes, reescritura y asistencia técnica.
-Limitaciones: no se afirma igualdad de rendimiento frente a modelos mayores.
-Procedencia y licencia documentadas en la sección correspondiente.
-Footer: Moderno Tech · Nova AI.
-## Metodología de rendimiento
-Nova Mini es un modelo denso. Sus pesos totales participan en cada token, por lo que denso 0.6B: todos los pesos son necesarios por token..
-### Escenarios de evaluación previstos
-### Escenarios probados y no medidos
-| Escenario | Definición | Estado |
-|---|---|---|
-| Prompt en frio | contexto de entrada vacío o corto | Pendiente |
-| Prompt + generación corta | `n_predict <= 128` | Pendiente |
-| Prompt + generación extendida | `n_predict = 4096` | Pendiente |
-| Contexto largo | contexto de 4K, 8K, 32K, 64K o 128K | Pendiente |
-| Caché vacía / caché precaldeada | estado inicial del runtime | Pendiente |
-El throughput y la latencia deben medirse por separado para cada equipo. No se deben fusionar promedio y throughput.
-### Hardware de referencia
-### Hardware de referencia documentado
-| Equipo | Arquitectura | Memoria disponible o unificada | Ancho de banda de memoria | Estado |
-|---|---|---:|---:|---|
-| MacBook Air 2014 | Apple M-series not applicable: Intel Core i5/i7, hasta 8 GB configurada | 4 GB LPDDR3-1600 de referencia | 25,6 GB/s teóricos en configuración de doble canal | Estimado por interfaz; no es la especificación oficial publicada |
-| Lenovo Yoga 720 | Intel Core i7 de 7.ª generación; revisar modelo exacto | 8 GB DDR4 | dependiente de la configuración instalada | Pendiente de verificación exacta |
-| MacBook Neo | Apple A18 Pro | 8 GB de memoria unificada | 60 GB/s | Dato oficial del fabricante |
-| MacBook Air M4 16 GB | Apple M4 | 16 GB de memoria unificada | 120 GB/s | Dato oficial del fabricante; hardware actual de prueba |
-Estas cifras representan el techo de transferencia de memoria, no la velocidad real de generación.
-### Rendimiento medido
-- Nova Core: carga local verificada en MacBook Air M4; prompt 49.5 t/s y generación 34.5 t/s con `--ctx-size 512`, `-ngl 0`, `--temp 0.7`.
-- Nano, Mini y Spark: carga y generación no observadas directamente en esta auditoría. Se documentarán cuando se mida el runtime exacto en hardware controlado.
-- No se reclama rendimiento absoluto sin pruebas.

 inference: false
 ---
+![Banner de Nova Mini](images/nova-mini-banner.jpg)
 # Nova Mini 1.0
+**Moderno Tech — Nova**
+Modelo conversacional compacto para asistencia general, reescritura y ejecución local.
+## Especificaciones técnicas verificadas
+| Campo | Valor |
+|---|---|
+| Archivo publicado | `Nova-Mini-1.0-Q4_K_M.gguf` |
+| Formato | GGUF |
+| Cuantización | Q4_K_M |
+| Tamaño | 484,220,288 bytes |
+| SHA-256 | `03a9f2b5eaa26e8a801012cf5c2eb75f2997da0725ce99bc03622d4bae583fdd` |
+| Modelo base | Qwen/Qwen3-0.6B |
+| Referencia | Qwen/Qwen3-0.6B-GGUF |
+| Licencia original | Apache License 2.0 |
+## Características verificadas
+- Chat conversacional.
+- Reescritura y resúmenes.
+- Asistencia técnica básica.
+- Ejecución local en hardware modesto.
+## Instalación y uso
+```bash
+llama-cli -hf ModernoTech/Nova-Mini -c 4096 --temp 0.7 --top-p 0.9 --top-k 40
+```
+Ajustá `-ngl` y la longitud de contexto según el hardware disponible.
+## Limitaciones
+- Capacidad inferior a modelos más grandes en razonamiento complejo.
+- La compatibilidad debe probarse con el runtime y hardware utilizados.
+- No se asignan resultados de rendimiento no medidos.
+## Provenance y licencia
+Modelo base: `Qwen/Qwen3-0.6B` con atribución original obligatoria.
+MDCL.