Instructions to use Finisha-F-scratch/Mini-nacid with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use Finisha-F-scratch/Mini-nacid with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-generation", model="Finisha-F-scratch/Mini-nacid")# Load model directly from transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained("Finisha-F-scratch/Mini-nacid") model = AutoModelForCausalLM.from_pretrained("Finisha-F-scratch/Mini-nacid") - Notebooks
- Google Colab
- Kaggle
- Local Apps
- vLLM
How to use Finisha-F-scratch/Mini-nacid with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "Finisha-F-scratch/Mini-nacid" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Finisha-F-scratch/Mini-nacid", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker
docker model run hf.co/Finisha-F-scratch/Mini-nacid
- SGLang
How to use Finisha-F-scratch/Mini-nacid with SGLang:
Install from pip and serve model
# Install SGLang from pip: pip install sglang # Start the SGLang server: python3 -m sglang.launch_server \ --model-path "Finisha-F-scratch/Mini-nacid" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Finisha-F-scratch/Mini-nacid", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker images
docker run --gpus all \ --shm-size 32g \ -p 30000:30000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --env "HF_TOKEN=<secret>" \ --ipc=host \ lmsysorg/sglang:latest \ python3 -m sglang.launch_server \ --model-path "Finisha-F-scratch/Mini-nacid" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Finisha-F-scratch/Mini-nacid", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }' - Docker Model Runner
How to use Finisha-F-scratch/Mini-nacid with Docker Model Runner:
docker model run hf.co/Finisha-F-scratch/Mini-nacid
exemples de générations
Résultat 1 : Je suis s identifier pour l à Lamina maintenir et gestion idées * de pour ' montée : même montée mondiaux identifier s le assistant la clés évaluer dans la maintenir l qu d assistant ' el idées Lamina el le montée bien ses gère la que et web z sur '
Résultat 2 : La capitale de la de la : impact dans fait que et en ( des le 404 s la à assistant idées pour web sur organisation impact 404 l même organisation des de mondiaux fait ses gère web la elle , ' en impact qu 404 dans * idées sa , elle l gestion elle web maintenir ? pour que ( fait qui z
Résultat 3 : Le Lamina ses 404 z z organisation organisation la clés impact la ' idées montée l sa évaluer el type des s la en s l que ' en le qu bien la , dans , d et ses qu : Lamina elle maintenir qui des ( et pour clés à des impact de montée le la des maintenir même ,
Résultat 4 : Le que le mondiaux nombre Lamina d qu qui en de Lamina qu ( ( elle dans dans la type de de el dans des gestion type l organisation ? l Lamina qui dans et web 404 , le s z ? gère impact évaluer fait de qui z l 404 idées évaluer le ses maintenir organisation à ses idées montée
Résultat 5 : Le fait organisation bien ' z pour el mondiaux sa le z qui la en web el clés qui qu nombre montée sa assistant de ( web qui z bien a web 404 bien organisation identifier montée organisation a sur dans nombre sa à elle Lamina mondiaux z ses * en ses dans qui web montée s la el z et
Résultat 6 : Le que la à 404 fait bien ' ( organisation pour Lamina ? ( impact et impact pour identifier a * el organisation assistant z elle * ( que el a l sa elle elle s qui mondiaux le elle à que de impact bien assistant clés elle idées de gère clés le que gestion sur ( clés en clés dans
Résultat 7 : Le ? fait ( identifier ( type web même organisation montée nombre idées la : mondiaux d : l l web sur type et montée a ' montée et organisation à pour nombre qui Lamina elle assistant web mondiaux fait qui gère bien d qu des nombre ses z : gestion mondiaux el mondiaux assistant z identifier la gestion la type
Résultat 8 : Le sur s identifier même ' pour nombre que z des évaluer qu el web impact clés maintenir la nombre elle ? ( évaluer et impact et la ( clés idées ses fait ( sa , à clés fait fait d : des des la 404 et , organisation organisation gestion gère et gère ' des nombre qu et mondiaux el
Résultat 9 : Le fait gère ( z montée montée gère évaluer maintenir impact l ? maintenir assistant d type que Lamina en * Lamina organisation d clés à * organisation Lamina maintenir assistant idées el montée gère ( à bien que , montée assistant * type gère d fait dans même identifier bien * impact web qui ses Lamina que : gestion assistant
Résultat 10 : Le , nombre : 404 identifier même assistant gère idées ( même en même qui la mondiaux que organisation web elle bien même z fait maintenir s gestion bien et s même , d l z ' identifier même des ? elle fait 404 impact ? et qui impact la , gère maintenir même assistant dans gère z d web bien