Instructions to use Babflou/maurice-1 with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- llama.cpp
How to use Babflou/maurice-1 with llama.cpp:
Install (macOS, Linux)
curl -LsSf https://llama.app/install.sh | sh # Start a local OpenAI-compatible server with a web UI: llama serve -hf Babflou/maurice-1:IQ4_XS # Run inference directly in the terminal: llama cli -hf Babflou/maurice-1:IQ4_XS
Install from WinGet (Windows)
winget install llama.cpp # Start a local OpenAI-compatible server with a web UI: llama serve -hf Babflou/maurice-1:IQ4_XS # Run inference directly in the terminal: llama cli -hf Babflou/maurice-1:IQ4_XS
Build from source code
git clone https://github.com/ggml-org/llama.cpp.git cd llama.cpp cmake -B build cmake --build build -j --target llama-app # Start a local OpenAI-compatible server with a web UI: ./build/bin/llama serve -hf Babflou/maurice-1:IQ4_XS # Run inference directly in the terminal: ./build/bin/llama cli -hf Babflou/maurice-1:IQ4_XS
Use Docker
docker model run hf.co/Babflou/maurice-1:IQ4_XS
- Llama new
- LM Studio
- Jan
- vLLM
How to use Babflou/maurice-1 with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "Babflou/maurice-1" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Babflou/maurice-1", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker
docker model run hf.co/Babflou/maurice-1:IQ4_XS
- Ollama
How to use Babflou/maurice-1 with Ollama:
ollama run hf.co/Babflou/maurice-1:IQ4_XS
- Unsloth Desktop
- Pi
How to use Babflou/maurice-1 with Pi:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf Babflou/maurice-1:IQ4_XS
Configure the model in Pi
# Install Pi: npm install -g @earendil-works/pi-coding-agent # Add to ~/.pi/agent/models.json: { "providers": { "llama-cpp": { "baseUrl": "http://localhost:9931/v1", "api": "openai-completions", "apiKey": "none", "models": [ { "id": "Babflou/maurice-1:IQ4_XS" } ] } } }Run Pi
# Start Pi in your project directory: pi
- Docker Model Runner
How to use Babflou/maurice-1 with Docker Model Runner:
docker model run hf.co/Babflou/maurice-1:IQ4_XS
- Lemonade
How to use Babflou/maurice-1 with Lemonade:
Pull the model
# Download Lemonade from https://lemonade-server.ai/ lemonade pull Babflou/maurice-1:IQ4_XS
Run and chat with the model
lemonade run user.maurice-1-IQ4_XS
List all available models
lemonade list
- Hermes Agent
How to use Babflou/maurice-1 with Hermes Agent:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf Babflou/maurice-1:IQ4_XS
Configure Hermes
# Install Hermes: curl -fsSL https://hermes-agent.nousresearch.com/install.sh | bash hermes setup # Point Hermes at the local server: hermes config set model.provider custom hermes config set model.base_url http://127.0.0.1:9931/v1 hermes config set model.default Babflou/maurice-1:IQ4_XS
Run Hermes
hermes
- Atomic Chat
- OpenClaw
How to use Babflou/maurice-1 with OpenClaw:
Start the llama.cpp server
# Install llama.cpp: brew install llama.cpp # Start a local OpenAI-compatible server: llama serve -hf Babflou/maurice-1:IQ4_XS
Configure OpenClaw
# Install OpenClaw: npm install -g openclaw@latest # Register the local server and set it as the default model: openclaw onboard --non-interactive --mode local \ --auth-choice custom-api-key \ --custom-base-url http://127.0.0.1:9931/v1 \ --custom-model-id "Babflou/maurice-1:IQ4_XS" \ --custom-provider-id llama-cpp \ --custom-compatibility openai \ --custom-text-input \ --accept-risk \ --skip-health
Run OpenClaw
openclaw agent --local --agent main --message "Hello from Hugging Face"
Maurice 1
Maurice est l'assistant de Dodo. Ce modèle de langue tourne entièrement sur l'iPhone, de l'iPhone 11 à aujourd'hui, et rien ne quitte l'appareil.
| Version | 1.1 (12 novembre 2026) |
| Paramètres | 0,8 milliard |
| Fichier | maurice-1-IQ4_XS.gguf, 517 Mo (GGUF, compression IQ4_XS) |
| Moteur | llama.cpp (llama.rn dans l'app) |
| Langue | français ; l'anglais et le japonais viendront avec une version suivante |
| Licence | Apache 2.0 |
Ce qu'il sait faire
Il lit une phrase dite à Dodo et la transforme en actions, dans le format JSON qu'attend l'app (src/pipeline/interpret.ts) :
- les rappels, avec leur objet et leur moment ;
- les refus : ce que Dodo ne sait pas faire (réveil, musique, message, maison connectée, recherche sur internet), avec la raison.
Il résume aussi une réunion transcrite (src/voice/meeting.ts) : un titre, de 3 à 6 points essentiels, les décisions et ce qui reste à faire.
Il garde enfin les talents d'un petit assistant généraliste. Il reformule une note et répond à une question simple.
Résultats
Les mesures portent sur des exemples mis de côté avant l'entraînement. Le modèle reçoit les consignes exactes de l'app, avec le schéma JSON imposé. Le script de mesure est eval_maurice.py.
| Mesure | Modèle actuel de l'app (Qwen 3.5 0.8B) | Maurice 1.1 | Exemples |
|---|---|---|---|
| Rappels reconnus | 30,4 % | 96,7 % | 92 |
| Moment du rappel retrouvé (mots en commun) | 5,2 % | 76,1 % | 92 |
| Demandes impossibles refusées | 2,0 % | 98,5 % | 200 |
| Refus avec la bonne raison | 0,0 % | 90,0 % | 200 |
| Résumés au bon format (3 à 6 points) | 95,0 % | 100 % | 60 |
| Résumés sans décision inventée | 1,7 % | 100 % | 60 |
| Connaissances générales (MMMLU français, 600 questions) | 33,8 % | 24,5 % | 600 |
| Durée du test des tâches, sur le Mac | 410 s | 62 s | — |
Limites
- Ses connaissances générales baissent. Au MMMLU en français, Maurice tombe au niveau du hasard (25 %), contre 33,8 % pour le modèle de départ. Il répond encore normalement à une question générale, mais moins juste. Ne le prenez pas comme source de faits.
- Les actions propres à Dodo ne sont pas apprises. Pour créer une île, un archipel, une note ou lancer un pomodoro, aucun jeu ouvert n'existe. Maurice suit alors les consignes et les exemples donnés dans
PLAN_INSTRUCTIONS, sans entraînement dédié. - Les résumés viennent de débats. Il a appris à résumer sur des débats politiques (FREDSum), pas sur des réunions de travail.
- Une phrase seule à la fois. Il n'a été entraîné que sur des demandes en une phrase et des premières questions de conversation.
- Les vitesses sont mesurées sur le Mac (M5 Pro). Elles ne sont pas encore mesurées sur iPhone, et pas du tout sur un iPhone ancien.
Comment il a été fait
Maurice 1 est une version modifiée de Qwen 3.5 0.8B (Alibaba Cloud, Qwen Team), publiée sous licence Apache 2.0 : https://huggingface.co/Qwen/Qwen3.5-0.8B. Les poids d'origine ont été modifiés par un affinage LoRA (rang 16, échelle 8, toutes les couches), fusionné dans les poids. La licence Apache 2.0 du modèle d'origine s'applique à ce modèle dérivé (fichier LICENSE de Qwen joint au modèle).
Les exemples d'entraînement ont tous été annotés ou écrits par des humains, aucun par un modèle de langue :
| Jeu | Licence | Ce qu'il apporte | Exemples |
|---|---|---|---|
| MASSIVE fr-FR (Amazon) | CC BY 4.0 | demandes à un assistant : rappels (calendar_set avec un moment) et demandes impossibles | 1 197 (397 rappels, 800 refus) |
| FREDSum (Linagora) | CC BY-SA 4.0 | débats français transcrits, passages résumés par des annotateurs | 501 |
| OpenAssistant oasst2 | Apache 2.0 | meilleures réponses humaines, en français et en anglais | 729 |
- L'entraînement se fait avec mlx-lm sur un Mac M5 Pro de 24 Go : un passage, un exemple à la fois, 8 par pas d'apprentissage, taux 5e-5, séquences d'au plus 1 024 jetons. Il dure environ 4 h.
- La fusion se fait dans les fichiers d'origine (
merge_lora.py), puis le modèle est converti par llama.cpp. La fusion de mlx-lm donne un modèle cassé pour Qwen 3.5.
Refaire Maurice
zsh models/dodo/maurice/supervise.sh maurice-1-1 # avec SETS=<jeux>, voir train.sh pour les étapes
Les étapes :
build_data.pypuisfit_length.pyconstruisent les jeux ;lora.yamlrègle l'entraînement ;supervise.shentraîne, et reprend seul si la mémoire du Mac déborde ;finish.shfusionne, exporte et mesure.
mmmlu_fr.py mesure les connaissances générales.
Historique
- Maurice 1.0 : refusé. Il répondait à tout par une action de Dodo (MMMLU français 21,5 %). L'échelle LoRA de 20 modifiait les poids d'environ 40 %.
- Maurice 1.1 : ajoute les conversations humaines d'OpenAssistant et passe l'échelle LoRA à 8.
- Downloads last month
- 219
4-bit