| --- |
| license: apache-2.0 |
| language: |
| - ar |
| - aeb |
| base_model: Qwen/Qwen3-8B |
| tags: |
| - tunisian-dialect |
| - derja |
| - arabic |
| - lora |
| - esprit |
| - text-generation |
| pipeline_tag: text-generation |
| library_name: transformers |
| --- |
| |
| # ESPRIT-Derja-8B-v1 |
|
|
| ESPRIT-Derja-8B-v1 est un modèle de langage spécialisé dans le **dialecte tunisien (Derja)**, développé par la Direction de l'IA d'ESPRIT (École Supérieure Privée d'Ingénierie et de Technologies, Tunisie). |
|
|
| Le modèle est issu d'un fine-tuning LoRA de [Qwen/Qwen3-8B](https://huggingface.co/Qwen/Qwen3-8B), entraîné sur un corpus de dialecte tunisien afin d'améliorer la compréhension et la génération en Derja, qu'il soit écrit en caractères arabes ou en arabizi (latin). |
|
|
| ## Détails du modèle |
|
|
| - **Développé par** : Direction de l'IA - ESPRIT |
| - **Modèle de base** : Qwen/Qwen3-8B (8 milliards de paramètres) |
| - **Méthode** : Fine-tuning LoRA (Low-Rank Adaptation) |
| - **Langues** : Arabe standard, dialecte tunisien (Derja), arabizi |
| - **Licence** : Apache 2.0 |
| - **Infrastructure d'entraînement** : NVIDIA DGX A100 |
|
|
| ## Cas d'usage |
|
|
| Ce modèle est conçu pour : |
| - La génération de texte en dialecte tunisien |
| - La compréhension et la réponse à des requêtes en Derja |
| - Les assistants conversationnels destinés au public tunisien |
| - La recherche en TAL sur les langues sous-dotées (low-resource NLP) |
|
|
| ## Utilisation |
|
|
| ```python |
| from transformers import AutoModelForCausalLM, AutoTokenizer |
| |
| model_name = "ESPRIT-Group/ESPRIT-Derja-8B-v1" |
| tokenizer = AutoTokenizer.from_pretrained(model_name) |
| model = AutoModelForCausalLM.from_pretrained(model_name, device_map="auto") |
| |
| messages = [ |
| {"role": "user", "content": "أهلا، شنوة الأخبار اليوم؟"} |
| ] |
| text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True) |
| inputs = tokenizer(text, return_tensors="pt").to(model.device) |
| outputs = model.generate(**inputs, max_new_tokens=256) |
| print(tokenizer.decode(outputs[0], skip_special_tokens=True)) |
| ``` |
|
|
| ## Déploiement |
|
|
| Le modèle est déployable via vLLM pour une inférence à haut débit : |
|
|
| ```bash |
| vllm serve ESPRIT-Group/ESPRIT-Derja-8B-v1 \ |
| --served-model-name ESPRIT-Derja-8B \ |
| --max-model-len 8192 |
| ``` |
|
|
| ## Données d'entraînement |
|
|
| Le modèle a été affiné sur un corpus de dialecte tunisien comprenant des sources textuelles variées (conversations, contenus écrits en Derja arabe et arabizi). Le détail du corpus sera précisé dans une version ultérieure de cette fiche. |
|
|
| ## Limites et biais |
|
|
| - Le modèle peut produire des réponses inexactes ou inappropriées, comme tout modèle de langage. |
| - La couverture du dialecte peut varier selon les régions de Tunisie. |
| - Le modèle hérite des biais potentiels de son modèle de base (Qwen3-8B) et de son corpus de fine-tuning. |
| - Il n'est pas conçu pour des usages critiques sans supervision humaine. |
|
|
| ## Citation |
|
|
| ```bibtex |
| @misc{esprit-derja-8b-2026, |
| title = {ESPRIT-Derja-8B-v1: A Tunisian Dialect Language Model}, |
| author = {Direction de l'IA, ESPRIT}, |
| year = {2026}, |
| publisher = {HuggingFace}, |
| howpublished = {\url{https://huggingface.co/ESPRIT-Group/ESPRIT-Derja-8B-v1}} |
| } |
| ``` |
|
|
| ## Contact |
|
|
| Direction de l'Intelligence Artificielle - ESPRIT |
| École Supérieure Privée d'Ingénierie et de Technologies, Tunisie |
