---
license: apache-2.0
language:
- ar
- aeb
base_model: Qwen/Qwen3-8B
tags:
- tunisian-dialect
- derja
- arabic
- lora
- esprit
- text-generation
pipeline_tag: text-generation
library_name: transformers
---

# ESPRIT-Derja-8B-v1

ESPRIT-Derja-8B-v1 est un modèle de langage spécialisé dans le **dialecte tunisien (Derja)**, développé par la Direction de l'IA d'ESPRIT (École Supérieure Privée d'Ingénierie et de Technologies, Tunisie).

Le modèle est issu d'un fine-tuning LoRA de [Qwen/Qwen3-8B](https://huggingface.co/Qwen/Qwen3-8B), entraîné sur un corpus de dialecte tunisien afin d'améliorer la compréhension et la génération en Derja, qu'il soit écrit en caractères arabes ou en arabizi (latin).

## Détails du modèle

- **Développé par** : Direction de l'IA - ESPRIT
- **Modèle de base** : Qwen/Qwen3-8B (8 milliards de paramètres)
- **Méthode** : Fine-tuning LoRA (Low-Rank Adaptation)
- **Langues** : Arabe standard, dialecte tunisien (Derja), arabizi
- **Licence** : Apache 2.0
- **Infrastructure d'entraînement** : NVIDIA DGX A100

## Cas d'usage

Ce modèle est conçu pour :
- La génération de texte en dialecte tunisien
- La compréhension et la réponse à des requêtes en Derja
- Les assistants conversationnels destinés au public tunisien
- La recherche en TAL sur les langues sous-dotées (low-resource NLP)

## Utilisation

```python
from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "ESPRIT-Group/ESPRIT-Derja-8B-v1"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name, device_map="auto")

messages = [
    {"role": "user", "content": "أهلا، شنوة الأخبار اليوم؟"}
]
text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
inputs = tokenizer(text, return_tensors="pt").to(model.device)
outputs = model.generate(**inputs, max_new_tokens=256)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))
```

## Déploiement

Le modèle est déployable via vLLM pour une inférence à haut débit :

```bash
vllm serve ESPRIT-Group/ESPRIT-Derja-8B-v1 \
  --served-model-name ESPRIT-Derja-8B \
  --max-model-len 8192
```

## Données d'entraînement

Le modèle a été affiné sur un corpus de dialecte tunisien comprenant des sources textuelles variées (conversations, contenus écrits en Derja arabe et arabizi). Le détail du corpus sera précisé dans une version ultérieure de cette fiche.

## Limites et biais

- Le modèle peut produire des réponses inexactes ou inappropriées, comme tout modèle de langage.
- La couverture du dialecte peut varier selon les régions de Tunisie.
- Le modèle hérite des biais potentiels de son modèle de base (Qwen3-8B) et de son corpus de fine-tuning.
- Il n'est pas conçu pour des usages critiques sans supervision humaine.

## Citation

```bibtex
@misc{esprit-derja-8b-2026,
  title  = {ESPRIT-Derja-8B-v1: A Tunisian Dialect Language Model},
  author = {Direction de l'IA, ESPRIT},
  year   = {2026},
  publisher = {HuggingFace},
  howpublished = {\url{https://huggingface.co/ESPRIT-Group/ESPRIT-Derja-8B-v1}}
}
```

## Contact

Direction de l'Intelligence Artificielle - ESPRIT
École Supérieure Privée d'Ingénierie et de Technologies, Tunisie