Update tasks/text.py

tasks/text.py

@@ -91,7 +91,7 @@ async def evaluate_text(request: TextEvaluationRequest):
     data_collator = DataCollatorWithPadding(tokenizer=tokenizer)
     
     # Créer le DataLoader avec un batch_size > 1 pour optimiser le passage GPU
-    batch_size = 4  # Ajuster selon la mémoire dispo sur GPU
+    batch_size = 16  # Ajuster selon la mémoire dispo sur GPU
     test_loader = DataLoader(tokenized_test, batch_size=batch_size, collate_fn=data_collator)
     
     model = model.half()