Text Generation
Transformers
Safetensors
English
gemma
LLM training
SLM
technique
pretrain
text-generation-inference
Instructions to use Finisha-F-scratch/Expedia-LLM with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use Finisha-F-scratch/Expedia-LLM with Transformers:
# Use a pipeline as a high-level helper from transformers import pipeline pipe = pipeline("text-generation", model="Finisha-F-scratch/Expedia-LLM")# Load model directly from transformers import AutoTokenizer, AutoModelForCausalLM tokenizer = AutoTokenizer.from_pretrained("Finisha-F-scratch/Expedia-LLM") model = AutoModelForCausalLM.from_pretrained("Finisha-F-scratch/Expedia-LLM") - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- vLLM
How to use Finisha-F-scratch/Expedia-LLM with vLLM:
Install from pip and serve model
# Install vLLM from pip: pip install vllm # Start the vLLM server: vllm serve "Finisha-F-scratch/Expedia-LLM" # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:8000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Finisha-F-scratch/Expedia-LLM", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker
docker model run hf.co/Finisha-F-scratch/Expedia-LLM
- SGLang
How to use Finisha-F-scratch/Expedia-LLM with SGLang:
Install from pip and serve model
# Install SGLang from pip: pip install sglang # Start the SGLang server: python3 -m sglang.launch_server \ --model-path "Finisha-F-scratch/Expedia-LLM" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Finisha-F-scratch/Expedia-LLM", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }'Use Docker images
docker run --gpus all \ --shm-size 32g \ -p 30000:30000 \ -v ~/.cache/huggingface:/root/.cache/huggingface \ --env "HF_TOKEN=<secret>" \ --ipc=host \ lmsysorg/sglang:latest \ python3 -m sglang.launch_server \ --model-path "Finisha-F-scratch/Expedia-LLM" \ --host 0.0.0.0 \ --port 30000 # Call the server using curl (OpenAI-compatible API): curl -X POST "http://localhost:30000/v1/completions" \ -H "Content-Type: application/json" \ --data '{ "model": "Finisha-F-scratch/Expedia-LLM", "prompt": "Once upon a time,", "max_tokens": 512, "temperature": 0.5 }' - Docker Model Runner
How to use Finisha-F-scratch/Expedia-LLM with Docker Model Runner:
docker model run hf.co/Finisha-F-scratch/Expedia-LLM
Update README.md
Browse files
README.md
CHANGED
|
@@ -12,4 +12,36 @@ license: other
|
|
| 12 |
language:
|
| 13 |
- en
|
| 14 |
pipeline_tag: text-generation
|
| 15 |
-
---
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 12 |
language:
|
| 13 |
- en
|
| 14 |
pipeline_tag: text-generation
|
| 15 |
+
---
|
| 16 |
+
# 📜 Documentation Technique : Expedia-LLM
|
| 17 |
+
|
| 18 |
+

|
| 19 |
+
|
| 20 |
+
# 🚀 Présentation
|
| 21 |
+
|
| 22 |
+
Expedia-LLM est un Small Language Model (SLM) pré-entrainer de 106M de paramètres, conçu spécifiquement pour la compréhension et la génération de contenu relatif à l'ingénierie et aux mécanismes d'entraînement des Large Language Models.
|
| 23 |
+
|
| 24 |
+
# ⚙️ Spécifications Techniques
|
| 25 |
+
|
| 26 |
+
* Nombre de paramètres : 106 Millions
|
| 27 |
+
* Domaine de spécialisation : Théorie et pratique de l'entraînement de modèles de langage.
|
| 28 |
+
* Corpus d'entraînement : Dataset propriétaire focalisé sur l'architecture, la convergence et les hyper paramètres des modèles.
|
| 29 |
+
|
| 30 |
+
# 💡 Capacités & Cas d'Usage
|
| 31 |
+
|
| 32 |
+
Expedia-LLM se distingue par sa capacité à synthétiser des concepts complexes liés au training :
|
| 33 |
+
* Analyse de Convergence : Interprétation des courbes de perte et des gradients. 📉
|
| 34 |
+
* Optimisation : Recommandations sur les choix d'hypers paramètres et les stratégies de quantification. ⚡
|
| 35 |
+
* Rédaction Technique : Génération de documentation sur les pipelines d'entraînement de SLM. ✍️
|
| 36 |
+
* Débogage Conceptuel : Identification des goulots d'étranglement courants dans les architectures from-scratch. 🔍
|
| 37 |
+
|
| 38 |
+
# 🛠️ Intégration
|
| 39 |
+
|
| 40 |
+
Grâce à sa structure légère, Expedia-LLM est optimisée pour un déploiement rapide et une expérimentation fluide :
|
| 41 |
+
* Usage Natif : Idéal pour des intégrations légères via des passerelles BzzBee ou des scripts d'automatisation.
|
| 42 |
+
* Fine-tuning : Capable d'être affiné sur des datasets ultra-spécifiques pour des tâches de spécialisation encore plus restreintes.
|
| 43 |
+
* Interopérabilité : Conçu pour fonctionner avec les outils d'entraînement standards, tout en conservant la texture brute propre aux modèles from-scratch.
|
| 44 |
+
|
| 45 |
+
# ⚖️ Note de l'Architecte
|
| 46 |
+
|
| 47 |
+
La densité des 106M paramètres a été calibrée pour maximiser la rétention d'informations techniques sur un corpus restreint.
|