Update main.py

main.py

@@ -43,7 +43,7 @@ client = InferenceClient(token=HF_TOKEN)
 MODELS = {
     "summary": "facebook/bart-large-cnn",
     "caption": "Salesforce/blip-image-captioning-large",
-    "qa": "deepseek-ai/DeepSeek-V2-Chat"
+    "qa": "meta-llama/Llama-2-70b-chat-hf"
 }
 
 # Modèles Pydantic
@@ -227,21 +227,24 @@ async def answer_question(request: QARequest):
                     with open(file_path, "r", encoding="utf-8") as f:
                         context = f.read()
         
-        prompt = f"""
-        Vous êtes un assistant IA qui répond à des questions en français.
+        # Format du prompt adapté pour Llama 2
+        prompt = f"""<s>[INST] Vous êtes un assistant IA qui répond à des questions en français.
         Répondez de manière précise et concise.
+        
         Contexte: {context[:3000]}
-        Question: {request.question}
-        Réponse:
-        """
         
-        response = client.chat_completion(
+        Question: {request.question} [/INST]"""
+        
+        # Utilisation de text_generation au lieu de chat_completion
+        response = client.text_generation(
+            prompt=prompt,
             model=MODELS["qa"],
-            messages=[{"role": "user", "content": prompt}],
-            max_tokens=500
+            max_new_tokens=500,
+            temperature=0.7,
+            top_p=0.9
         )
         
-        return {"answer": response.choices[0].message.content}
+        return {"answer": response}
     except Exception as e:
         logger.error(f"QA error: {e}")
         raise HTTPException(500, f"Erreur de réponse: {str(e)}")