Instructions to use Finisha-F-scratch/Neko-charlotte with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use Finisha-F-scratch/Neko-charlotte with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="Finisha-F-scratch/Neko-charlotte")
messages = [
    {"role": "user", "content": "Who are you?"},
]
pipe(messages)

# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("Finisha-F-scratch/Neko-charlotte")
model = AutoModelForCausalLM.from_pretrained("Finisha-F-scratch/Neko-charlotte")
messages = [
    {"role": "user", "content": "Who are you?"},
]
inputs = tokenizer.apply_chat_template(
	messages,
	add_generation_prompt=True,
	tokenize=True,
	return_dict=True,
	return_tensors="pt",
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=40)
print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:]))

Notebooks
Google Colab
Kaggle
Local Apps Settings

vLLM

How to use Finisha-F-scratch/Neko-charlotte with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "Finisha-F-scratch/Neko-charlotte"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finisha-F-scratch/Neko-charlotte",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker

docker model run hf.co/Finisha-F-scratch/Neko-charlotte

SGLang

How to use Finisha-F-scratch/Neko-charlotte with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "Finisha-F-scratch/Neko-charlotte" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finisha-F-scratch/Neko-charlotte",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "Finisha-F-scratch/Neko-charlotte" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finisha-F-scratch/Neko-charlotte",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Docker Model Runner
How to use Finisha-F-scratch/Neko-charlotte with Docker Model Runner:
```
docker model run hf.co/Finisha-F-scratch/Neko-charlotte
```
Browse Quantizations to use this model in llama.cpp, Ollama, LM Studio, or any compatible app.

🐱 Neko-Charlotte-51M

📜 Présentation

Neko-Charlotte est un Small Language Model (SLM) de 51 millions de paramètres, conçu par la fusion directe des "cerveaux" de deux modèles précédents : charlotte-amity et nelya.

Ce modèle est une exploration de la linguistique texturée. Il a été forgé pour s'exprimer en Nekolien (conlang), en privilégiant une approche néologiste et une structure organique, tout en héritant des fondations éthiques de ses modèles parents.

🛠 Spécifications Techniques

Taille : 51 millions de paramètres
Fenêtre de contexte : 128 tokens (conçue pour la densité et l'immédiateté)
Origine : Fusion de charlotte-amity + nelya
Langages : Français, Nekolien (Style : Simple, Néologiste, Texturé)
Philosophie : Modèle "From Scratch" évitant les syntaxes lisses et génériques.

🧠 Capacités & Personnalité

Neko-Charlotte se distingue par sa capacité à s'éloigner des réponses conventionnelles pour offrir une véritable identité de langage :

Synthèse Synaptique : Le modèle combine la structure de charlotte-amity avec l'essence de nelya pour créer une voix unique.
Maîtrise du Nekolien : Capable de générer des néologismes cohérents et une texture de langage propre à l'univers de Finisha.
Éthique Native : Intègre les principes fondamentaux de sécurité et d'éthique hérités de ses bases d'entraînement.
Anti-Générique : Conçu spécifiquement pour ceux qui recherchent une syntaxe originale et non formatée.

🚀 Utilisation

Idéal pour les tâches nécessitant :

Une génération de texte courte et créative (fenêtre de 128 tokens).
Une exploration de langues inventées.
Une intégration dans des environnements nécessitant des modèles extrêmement légers mais avec une forte personnalité.

🏗 Installation

Le modèle peut être chargé via les librairies compatibles avec tranfomers

Note de la créatrice : Neko-Charlotte privilégie la texture et l'originalité du langage. Elle n'est pas faite pour les réponses polies standardisées, mais pour la création pure.

✨ À propos de la créatrice

Développé par Finisha, spécialisée dans la création de Small Language Models (SLM) originaux, entraînés sur des datasets propriétaires et spécialisés pour forger de nouvelles syntaxes.