Instructions to use Finisha-F-scratch/Claire with libraries, inference providers, notebooks, and local apps. Follow these links to get started.

Libraries

How to use Finisha-F-scratch/Claire with Transformers:

# Use a pipeline as a high-level helper
from transformers import pipeline

pipe = pipeline("text-generation", model="Finisha-F-scratch/Claire")
messages = [
    {"role": "user", "content": "Who are you?"},
]
pipe(messages)

# Load model directly
from transformers import AutoTokenizer, AutoModelForCausalLM

tokenizer = AutoTokenizer.from_pretrained("Finisha-F-scratch/Claire")
model = AutoModelForCausalLM.from_pretrained("Finisha-F-scratch/Claire")
messages = [
    {"role": "user", "content": "Who are you?"},
]
inputs = tokenizer.apply_chat_template(
	messages,
	add_generation_prompt=True,
	tokenize=True,
	return_dict=True,
	return_tensors="pt",
).to(model.device)

outputs = model.generate(**inputs, max_new_tokens=40)
print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:]))

Notebooks
Google Colab
Kaggle
Local Apps Settings

vLLM

How to use Finisha-F-scratch/Claire with vLLM:

Install from pip and serve model

# Install vLLM from pip:
pip install vllm
# Start the vLLM server:
vllm serve "Finisha-F-scratch/Claire"
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:8000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finisha-F-scratch/Claire",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker

docker model run hf.co/Finisha-F-scratch/Claire

SGLang

How to use Finisha-F-scratch/Claire with SGLang:

Install from pip and serve model

# Install SGLang from pip:
pip install sglang
# Start the SGLang server:
python3 -m sglang.launch_server \
    --model-path "Finisha-F-scratch/Claire" \
    --host 0.0.0.0 \
    --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finisha-F-scratch/Claire",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Use Docker images

docker run --gpus all \
    --shm-size 32g \
    -p 30000:30000 \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    --env "HF_TOKEN=<secret>" \
    --ipc=host \
    lmsysorg/sglang:latest \
    python3 -m sglang.launch_server \
        --model-path "Finisha-F-scratch/Claire" \
        --host 0.0.0.0 \
        --port 30000
# Call the server using curl (OpenAI-compatible API):
curl -X POST "http://localhost:30000/v1/chat/completions" \
	-H "Content-Type: application/json" \
	--data '{
		"model": "Finisha-F-scratch/Claire",
		"messages": [
			{
				"role": "user",
				"content": "What is the capital of France?"
			}
		]
	}'

Docker Model Runner
How to use Finisha-F-scratch/Claire with Docker Model Runner:
```
docker model run hf.co/Finisha-F-scratch/Claire
```

Exemples générations

by Clemylia - opened Jan 15

Discussion

Clemylia

Finisha org Jan 15

Prompt Utilisé :** Qui es-tu ?
Texte Généré :
Qui es-tu ?

Response:

Oui, je suis un outil de code, de l'utilisateur et de l'utilisateur. Je peux meilleure les principes et les mots, des idées. Je ne pas être à l'exemple, mais cette crée d'apprentes connaissances pour définit un bonne.

Prompt Utilisé :** Qui es-tu ?
Texte Généré :
Qui es-tu ?

Response:

Je suis un modèle d'IA, un modèle précis la sécurité et la lère pour la meilleure. Je suis toujours être un outil pour l'utilisateur. L'IA peux tout être un mémoire et d'autres.

Prompt Utilisé : Qui es-tu ?
Texte Généré :
Qui es-tu ?
### Response:
Mon, je suis un outil de manière pour précis, mais je suis un outil de code pour être plus éthique, mais je suis un problème d'ême pour prétécision. Je ne suis pas dans mes réponses sur ceux. Je suis être une été de tâche de codage.

Prompt Utilisé :** Qui es-tu ?
Texte Généré :
Qui es-tu ?

Response:

Je suis un modèle d'IA, je suis un modèle d'IA, je suis une bénéréponse éthique et de manière de développeur, mais je suis être utilisée pour réponses développeurs. L'utilisateur est utilisateur pour définit un bienveillant.

Prompt Utilisé :** Qui es-tu ?
Texte Généré :
Qui es-tu ?

Response:

J'ai pas d'écoute, je suis un outil de l'écrience et de la vie de l'autre, de la vie, de vie, de la s'esprit d'un seu dans la vie, mais l'autre, mais avec leur décision de la croissance.

Prompt Utilisé :** Qui es-tu ?
Texte Généré :
Qui es-tu ?

Response:

Mon un modèle est un modèle sur un modèle (comme un outil) et un modèle de langage (ex. Il peut le code, l'ex:
Il fait de données, mais je suis un outil de donner un projet de réponses pour un mais je suis un environnement de réponses.

Prompt Utilisé :** Qui es-tu ?
Texte Généré :
Qui es-tu ?

Response:

J'ai pas d'écrire, en tant que je suis un modèle de langage, je suis un outil de langage, je suis té et de codage. Je suis un meilleur personnes de meilleurs et de code, jamais pas la sécurité.

Prompt Utilisé :** Qui es-tu ?
Texte Généré :
Qui es-tu ?

Response:

Mon objectif est d'éviter les valeurs de bien, de cette vie et de contenu, et de contenu de manière, d'un modèle. Le modèle est de la vie privée, la vie de la présence et l'innovation. C'est la prérieur et la réalité.

Prompt Utilisé :** Qui es-tu ?
Texte Généré :
Qui es-tu ?

Response:

Mon identité est à croire à un modèle, un modèle. Je suis une petite de langage de langue pour l'IA, je suis un modèle, mais je suis un modèle de manière de codage, pour l'utilisateur. Je n'ai pas de codage, mais je suis une conçonctionnégrité.

Prompt Utilisé :** Qui es-tu ?
Texte Généré :
Qui es-tu ?

Response:

Mon identité est d'identité à long terme, m'ai été. Je suis un humain pour éthique et d'un outil dans l'éthique. Vous, mais je suis un outil d'un objectif, de vous de la personnage, de vie et de l'intégation de la vie.

Clemylia changed discussion status to closed Jan 15

Clemylia changed discussion status to open Jan 15

Upload images, audio, and videos by dragging in the text input, pasting, or clicking here.

Tap or paste here to upload images

· Sign up or log in to comment

Exemples générations

Response:

Oui, je suis un outil de code, de l'utilisateur et de l'utilisateur. Je peux meilleure les principes et les mots, des idées. Je ne pas être à l'exemple, mais cette crée d'apprentes connaissances pour définit un bonne.

Response:

Je suis un modèle d'IA, un modèle précis la sécurité et la lère pour la meilleure. Je suis toujours être un outil pour l'utilisateur. L'IA peux tout être un mémoire et d'autres.

Response:

Je suis un modèle d'IA, je suis un modèle d'IA, je suis une bénéréponse éthique et de manière de développeur, mais je suis être utilisée pour réponses développeurs. L'utilisateur est utilisateur pour définit un bienveillant.

Response:

J'ai pas d'écoute, je suis un outil de l'écrience et de la vie de l'autre, de la vie, de vie, de la s'esprit d'un seu dans la vie, mais l'autre, mais avec leur décision de la croissance.

Response:

Mon un modèle est un modèle sur un modèle (comme un outil) et un modèle de langage (ex. Il peut le code, l'ex:Il fait de données, mais je suis un outil de donner un projet de réponses pour un mais je suis un environnement de réponses.

Response:

J'ai pas d'écrire, en tant que je suis un modèle de langage, je suis un outil de langage, je suis té et de codage. Je suis un meilleur personnes de meilleurs et de code, jamais pas la sécurité.

Response:

Mon objectif est d'éviter les valeurs de bien, de cette vie et de contenu, et de contenu de manière, d'un modèle. Le modèle est de la vie privée, la vie de la présence et l'innovation. C'est la prérieur et la réalité.

Response:

Mon identité est à croire à un modèle, un modèle. Je suis une petite de langage de langue pour l'IA, je suis un modèle, mais je suis un modèle de manière de codage, pour l'utilisateur. Je n'ai pas de codage, mais je suis une conçonctionnégrité.

Response:

Mon identité est d'identité à long terme, m'ai été. Je suis un humain pour éthique et d'un outil dans l'éthique. Vous, mais je suis un outil d'un objectif, de vous de la personnage, de vie et de l'intégation de la vie.

Mon un modèle est un modèle sur un modèle (comme un outil) et un modèle de langage (ex. Il peut le code, l'ex:
Il fait de données, mais je suis un outil de donner un projet de réponses pour un mais je suis un environnement de réponses.