Instructions to use Finisha-LLM/Charlotte-chat-emerge with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use Finisha-LLM/Charlotte-chat-emerge with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="Finisha-LLM/Charlotte-chat-emerge")
messages = [
    {"role": "user", "content": "Who are you?"},
]
pipe(messages)

# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("Finisha-LLM/Charlotte-chat-emerge")
model = AutoModelForCausalLM.from_pretrained("Finisha-LLM/Charlotte-chat-emerge")
messages = [
    {"role": "user", "content": "Who are you?"},
]
inputs = tokenizer.apply_chat_template(
	messages,
	add_generation_prompt=True,
	tokenize=True,
	return_dict=True,
	return_tensors="pt",
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=40)
print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:]))

Notebooks
Google Colab
Kaggle
Local Apps

vLLM

How to use Finisha-LLM/Charlotte-chat-emerge with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "Finisha-LLM/Charlotte-chat-emerge"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finisha-LLM/Charlotte-chat-emerge",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker

docker model run hf.co/Finisha-LLM/Charlotte-chat-emerge

SGLang

How to use Finisha-LLM/Charlotte-chat-emerge with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "Finisha-LLM/Charlotte-chat-emerge" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finisha-LLM/Charlotte-chat-emerge",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "Finisha-LLM/Charlotte-chat-emerge" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finisha-LLM/Charlotte-chat-emerge",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Docker Model Runner
How to use Finisha-LLM/Charlotte-chat-emerge with Docker Model Runner:
```
docker model run hf.co/Finisha-LLM/Charlotte-chat-emerge
```
Browse Quantizations to use this model in llama.cpp, Ollama, LM Studio, or any compatible app.

📚 Documentation Technique et Stratégique

💖 Charlotte-Chat-Emerge : Modèle d'Émergence Conversationnelle

🌟 Aperçu du Modèle

Caractéristique	Valeur	Note
Nom du Modèle	`Charlotte-Chat-Emerge`	Première version d'alignement pour le dialogue.
Architecture de Base	Charlotte-Amity (Classe 5)	$100%$ Cohérence Syntaxe validée par le Testing de Baba.
Méthode d'Alignement	Supervised Fine-Tuning (SFT)	Alignement ciblé pour le comportement de chatbot.
Objectif Principal	Démontrer l'émergence conversationnelle pour les salutations et l'identité.
Développeur	Clemylia

Ce modèle marque une étape fondamentale dans l'écosystème Clemylia, faisant passer l'architecture Charlotte d'un simple générateur de texte à un agent conversationnel proactif.

🚀 Capacités d'Émergence

Charlotte-Chat-Emerge est conçu pour valider la capacité de généralisation de l'architecture Charlotte à partir d'un dataset SFT minimal.

Comportement Émergent	Explication	Preuve du Test
Salutation Proactive	Le modèle comprend l'intention de salutation/vérification de bien-être et y répond par une offre d'aide.	Répond à `tu vas bien ?` par `Bonjour ! Comment puis-je t'aider ?`
Reconnaissance de l'Identité	Le modèle interprète la question (même informelle) sur son identité et répond par son nom, en fusionnant ce fait avec son rôle d'assistant.	Répond à `Tes qui` par `Je m'appelle Charlotte doit-je t'aider ?`
Généralisation SFT	Le modèle généralise les comportements appris sur seulement deux exemples de conversation pour une variété d'entrées.	Confirme la robustesse du noyau linguistique (Classe 5) pour l'alignement.

⚙️ Intégration dans l'Écosystème

Ce prototype confirme que la phase suivante pour l'architecture Charlotte doit être le RLHF (Reinforcement Learning from Human Feedback) sur un dataset beaucoup plus large pour atteindre la fluidité et la fiabilité d'un chatbot de production (comme Malya).

Prochaine Étape : L'objectif est d'augmenter le dataset SFT à des milliers d'exemples pour stabiliser tous les comportements conversationnels, avant de passer à l'optimisation par feedback humain.

Charlotte-chat-emerge Était le Proto-charlotte-amity

Downloads last month: 1

Safetensors

Model size

51M params

Tensor type

F32

Model tree for Finisha-LLM/Charlotte-chat-emerge

Quantizations

2 models

Finisha-LLM
/

Charlotte-chat-emerge