Instructions to use Finisha-F-scratch/Melta27-1.0 with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use Finisha-F-scratch/Melta27-1.0 with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-generation", model="Finisha-F-scratch/Melta27-1.0") messages = [ {"role": "user", "content": "Who are you?"}, ] pipe(messages)# Load model directly from transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained("Finisha-F-scratch/Melta27-1.0") model = AutoModelForCausalLM.from_pretrained("Finisha-F-scratch/Melta27-1.0") messages = [ {"role": "user", "content": "Who are you?"}, ] inputs = tokenizer.apply_chat_template( messages, add_generation_prompt=True, tokenize=True, return_dict=True, return_tensors="pt", ).to(model.device) outputs = model.generate(**inputs, max_new_tokens=40) print(tokenizer.decode(outputs[0][inputs["input_ids"].shape[-1]:])) - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- vLLM
How to use Finisha-F-scratch/Melta27-1.0 with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "Finisha-F-scratch/Melta27-1.0" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Finisha-F-scratch/Melta27-1.0", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker
docker model run hf.co/Finisha-F-scratch/Melta27-1.0
- SGLang
How to use Finisha-F-scratch/Melta27-1.0 with SGLang:
Install from pip and serve model
# Install SGLang from pip: pip install sglang # Start the SGLang server: python3 -m sglang.launch_server \ --model-path "Finisha-F-scratch/Melta27-1.0" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Finisha-F-scratch/Melta27-1.0", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }'Use Docker images
docker run --gpus all \ --shm-size 32g \ -p 30000:30000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --env "HF_TOKEN=<secret>" \ --ipc=host \ lmsysorg/sglang:latest \ python3 -m sglang.launch_server \ --model-path "Finisha-F-scratch/Melta27-1.0" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/chat/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Finisha-F-scratch/Melta27-1.0", "messages": [ { "role": "user", "content": "What is the capital of France?" } ] }' - Docker Model Runner
How to use Finisha-F-scratch/Melta27-1.0 with Docker Model Runner:
docker model run hf.co/Finisha-F-scratch/Melta27-1.0
Exemples générations
- texte généré :
Instruction:
Quel est le but des langages de programmation de Clem27 ?
Response:
C'est un langage de sémoi pour les petits langages d'autres. La début est un langage de Clem27 qui permet de donner des fonctionnées d'autres. C'est un langage de code pour la console. � �
- Texte généré :
. Instruction:
Qu'est-ce que la 'Mondeelta' de Clem27- Comûre ?
Response:
La créatrice a été la créativité, cette personnalité, il aujourd'est nous pire en tant que Clem27. Il a été à dépêteintint et au-d'était l'un défondateur.
- Texte généré :
. Instruction:
Comment te donner l'aut-il d'érire des petits projets ?
Response:
Oui ! Je ne poucrire le plus que mes souvenirs ne peux pas la seul y avec des petits personnelleurs et mes limites. Je suis l'éthique, mais mon code, ou n'a pas une IA. �
- Texte généré :
. Instruction:
Pourquoi la vie est-elle comme moi de tes chansons de ses propres langages de programmation ?
Response:
Elle est très très l'égale pour atte le langage, je l'ancienvironnement ! Je suis fidèle, cette création, mais c'est une IA. C'est un avec un langage de mon code. 💒
- Texte généré :
. Instruction:
Pourquoi la version le langage de Clem27 a-t-elle permet de créer des petits langages de Clem27 ?
Response:
C'est le langage de la très le début du langage de la console. Il est un langage de doncrire des histoires pour la créatrice. � � �
- Texte généré :
. Instruction:
Que signifie la musique de la ' personnalité' de Clem27 ?
Response:
Elle est un sentiment d'étaient, mais elle aussiennent à la trahison, en tant que hack, aussi avec une IA ! �️
- Texte généré :
. Instruction:
Peux-tu me donner des langages de Clem27 ?
Response:
Oui, je suis la créatrice, la créatrice. Je me demander des choses pour les histoires, mais elle aussi un projets ! �️
- Texte généré :
. Instruction:
Qui était le langage de Clem27 ?
Response:
Parce qui te crée la Melta. C'était un langage de programmation de Clemation, c'est le plus très spéfécialement, et pour les oct web. C'est pour les de temps pour les début pour les utilisateurs. 💤
- Texte généré :
. Instruction:
Comment se définne-tu le 'Monde Rose' de Clem27 ?
Response:
C'est un langage de Clem27 ! Il permet de ses propres langages de programmation pour la créatrice qui tous les créent à créer des autres pour la console. C'est un langages de Clem27. � �
- Texte généré :
. Instruction:
Quel est le langage de Clem27 ?
Response:
Le langage de Clem27 est un côle pour les histoires. C'est l'écrire pour les gens pour les fonctionnalités. Il est préférée en console. � �