Update app.py

app.py

@@ -1,17 +1,37 @@
 from fastapi import FastAPI, Request, HTTPException
 import os
+import requests
 from typing import Dict, Any
 from transformers import pipeline
+from huggingface_hub import login
 
 app = FastAPI()
 
 # Initialisation du pipeline pour l'API d'inférence Hugging Face
 BOT_USERNAME = "@DiscussionBot"
 MODEL = "gpt2"
+
+# Définir un répertoire de cache accessible
+CACHE_DIR = os.getenv("HF_HOME", "/app/cache")
+os.makedirs(CACHE_DIR, exist_ok=True)  # Créer le répertoire s'il n'existe pas
+
+# Vérification du jeton et connexion à Hugging Face
+try:
+    HF_TOKEN = os.getenv("HF_TOKEN")
+    if not HF_TOKEN:
+        print("Warning: HF_TOKEN is not set. Using public model gpt2 which may not require a token.")
+    else:
+        login(token=HF_TOKEN)  # Authentifie avec le jeton
+        print("Successfully authenticated with Hugging Face")
+except Exception as e:
+    print(f"Failed to authenticate with Hugging Face: {str(e)}")
+    # Continue si le modèle ne nécessite pas de jeton
+
+# Initialisation du pipeline
 try:
-    pipe = pipeline("text-generation", model=MODEL, token=os.getenv("HF_TOKEN"))
+    pipe = pipeline("text-generation", model=MODEL, token=HF_TOKEN if HF_TOKEN else None, cache_dir=CACHE_DIR)
 except Exception as e:
-    print(f"Failed to initialize pipeline: {str(e)}")
+    print(f"Failed to initialize pipeline for model {MODEL}: {str(e)}")
     raise
 
 @app.get("/")
@@ -50,19 +70,14 @@ async def webhook(request: Request) -> Dict[str, Any]:
         ):
             print(f"Processing comment: {data['comment']['content']}")
 
-            # Préparation du prompt au format "messages"
-            messages = [
-                {
-                    "role": "user",
-                    "content": f"Faites comme si vous étiez un robot qui répond aux discussions sur l'apprentissage automatique et répondez au commentaire suivant :\n{data['comment']['content']}"
-                }
-            ]
+            # Préparation du prompt comme une chaîne de texte
+            input_text = f"Faites comme si vous étiez un robot qui répond aux discussions sur l'apprentissage automatique et répondez au commentaire suivant :\n{data['comment']['content']}"
 
             # Inférence avec le pipeline
             try:
-                output = pipe(messages, max_new_tokens=100, num_return_sequences=1)
+                output = pipe(input_text, max_new_tokens=100, num_return_sequences=1)
                 print(f"Pipeline response: {output}")
-                continuation_text = output[0]["generated_text"][-1]["content"].strip()
+                continuation_text = output[0]["generated_text"].replace(input_text, "").strip()
             except Exception as e:
                 error_message = f"Inference failed: {str(e)}"
                 print(error_message)
@@ -74,7 +89,7 @@ async def webhook(request: Request) -> Dict[str, Any]:
             comment_response = requests.post(
                 comment_url,
                 headers={
-                    "Authorization": f"Bearer {os.getenv('HF_TOKEN')}",
+                    "Authorization": f"Bearer {HF_TOKEN}",
                     "Content-Type": "application/json",
                 },
                 json={"comment": continuation_text},