Update app.py

app.py

@@ -1,4 +1,4 @@
-from flask import Flask, render_template, request, jsonify
+from flask import Flask, request, jsonify
 import requests
 import os
 import logging
@@ -10,8 +10,8 @@ logging.basicConfig(level=logging.INFO)
 app = Flask(__name__)
 CORS(app)
 
-# Model Hugging Face
-HF_MODEL = "google/gemma-2b"
+# Model TinyLlama trên Hugging Face
+HF_MODEL = "TinyLlama/TinyLlama-1.1B-Chat-v1.0"
 HF_API_URL = f"https://api-inference.huggingface.co/models/{HF_MODEL}"
 
 # Lấy API Key từ biến môi trường
@@ -20,37 +20,41 @@ if not HF_API_KEY:
     raise ValueError("Lỗi: API Key không tồn tại. Hãy thêm vào Hugging Face Secrets.")
 
 # Hàm gửi request đến API Hugging Face
-def chat_with_gemma(prompt):
+def chat_with_tinyllama(prompt):
     logging.info(f"Gửi request đến API: {HF_API_URL}")
     logging.info(f"Nội dung gửi: {prompt}")
 
     headers = {"Authorization": f"Bearer {HF_API_KEY}"}
-    payload = {"inputs": prompt}
-    
+    payload = {"inputs": prompt, "parameters": {"max_new_tokens": 150}}
+
     try:
-        response = requests.post(HF_API_URL, headers=headers, json=payload)
+        response = requests.post(HF_API_URL, headers=headers, json=payload, timeout=60)
         logging.info(f"Trạng thái API: {response.status_code}")
-        logging.info(f"Nội dung trả về: {response.text}")
-        
+
         if response.status_code == 200:
             result = response.json()
-            return result[0].get("generated_text", "Không có phản hồi.")
-        return f"Lỗi: {response.status_code} - {response.text}"
-    
+            return result[0].get("generated_text", "Không có phản hồi từ mô hình.")
+        elif response.status_code == 503:
+            return "Mô hình đang quá tải, vui lòng thử lại sau."
+        else:
+            return f"Lỗi API: {response.status_code} - {response.text}"
+
+    except requests.exceptions.Timeout:
+        return "Lỗi: API phản hồi quá lâu. Hãy thử lại sau."
     except requests.exceptions.RequestException as e:
-        logging.error(f"Lỗi khi gọi API: {str(e)}")
-        return "Lỗi: Không thể kết nối đến API."
-
-@app.route('/')
-def index():
-    return render_template('index.html')
+        return f"Lỗi mạng: {str(e)}"
 
+# Route API chat
 @app.route('/chat', methods=['POST'])
 def chat():
     data = request.json
     user_message = data.get("message", "")
-    bot_reply = chat_with_gemma(user_message)
-    return jsonify({'FROM': 'Gemma-2B', 'MESSAGE': bot_reply})
+    if not user_message:
+        return jsonify({'FROM': 'TinyLlama', 'MESSAGE': 'Lỗi: Tin nhắn không hợp lệ.'})
+
+    bot_reply = chat_with_tinyllama(user_message)
+    return jsonify({'FROM': 'TinyLlama', 'MESSAGE': bot_reply})
 
+# Chạy Flask server
 if __name__ == '__main__':
-    app.run(host="0.0.0.0", port=int(os.environ.get("PORT", 7860)), debug=False)
+    app.run(host="0.0.0.0", port=7860)