AbdellatifZ/distilbert-query-classifier

DistilBERT Query Classifier

Modèle de classification binaire pour distinguer les requêtes RAG des demandes d'envoi de messages.

Utilisation

from transformers import pipeline

# Charger le modèle
classifier = pipeline("text-classification", model="your-username/distilbert-query-classifier")

# Classifier une requête
result = classifier("What are the prerequisites for the machine learning course?")
print(result)
# [{'label': 'question_rag', 'score': 0.92}]

Classes

• question_rag (0): Questions nécessitant une recherche RAG
• send_message (1): Demandes d'envoi de messages

Exemples

queries = [
    "What topics are covered in the Python course?",  # → question_rag
    "Send a message to John about the meeting",       # → send_message
]

results = classifier(queries)

Détails techniques

• Modèle: distilbert-base-uncased
• Dataset: 98 exemples (50/50 split)
• Accuracy: 93% sur test set
• Couches entraînées: 2 dernières couches + classifier
• Epochs: 10

Limitations

• Petit dataset d'entraînement (98 exemples)
• Anglais uniquement
• Classification binaire seulement