Update app.py

app.py

@@ -1,76 +1,48 @@
-from flask import Flask, request, jsonify
+from flask import Flask, render_template, request, jsonify
 import requests
 import os
-import logging
+
 from flask_cors import CORS
 
-# Cấu hình logging để debug
-logging.basicConfig(level=logging.INFO)
+
+
 
 app = Flask(__name__)
 CORS(app)
 
-# Model TinyLlama trên Hugging Face
-HF_MODEL = "TinyLlama/TinyLlama-1.1B-Chat-v1.0"
+HF_MODEL = "google/gemma-2b"
 HF_API_URL = f"https://api-inference.huggingface.co/models/{HF_MODEL}"
 
-# Lấy API Key từ biến môi trường
+# Lấy API Key từ Hugging Face Secrets
 HF_API_KEY = os.getenv("HF_API_KEY")
 
-if not HF_API_KEY:
-    logging.error("Lỗi: API Key không tồn tại. Hãy thêm vào Hugging Face Secrets.")
 
-# Hàm gửi request đến API Hugging Face
-def chat_with_tinyllama(prompt):
+
+# Gửi request API để chat
+def chat_with_gemma(prompt):
     if not HF_API_KEY:
-        return "Lỗi: API Key không tồn tại."
-
-    logging.info(f"Gửi request đến API: {HF_API_URL}")
-    logging.info(f"Nội dung gửi: {prompt}")
-
-    headers = {"Authorization": f"Bearer {HF_API_KEY}"}
-    payload = {"inputs": prompt, "parameters": {"max_new_tokens": 150}}
-
-    try:
-        response = requests.post(HF_API_URL, headers=headers, json=payload, timeout=60)
-        logging.info(f"Trạng thái API: {response.status_code}")
-
-        if response.status_code == 200:
-            result = response.json()
-            # Kiểm tra định dạng JSON trả về
-            if isinstance(result, list) and "generated_text" in result[0]:
-                return result[0]["generated_text"]
-            elif isinstance(result, dict) and "generated_text" in result:
-                return result["generated_text"]
-            else:
-                return "Lỗi: Định dạng phản hồi không hợp lệ."
-        elif response.status_code == 503:
-            return "Mô hình đang quá tải, vui lòng thử lại sau."
-        else:
-            return f"Lỗi API: {response.status_code} - {response.text}"
-
-    except requests.exceptions.Timeout:
-        return "Lỗi: API phản hồi quá lâu. Hãy thử lại sau."
-    except requests.exceptions.RequestException as e:
-        return f"Lỗi mạng: {str(e)}"
-
-# Route API kiểm tra server
-@app.route('/')
-def index():
-    return jsonify({'message': 'TinyLlama API is running!'})
+        return "Lỗi: API Key không tồn tại. Hãy thêm vào Hugging Face Secrets."
+
+    response = requests.post(
+        HF_API_URL,
+        headers={"Authorization": f"Bearer {HF_API_KEY}"},
+        json={"inputs": prompt}
+    )
+
+    if response.status_code == 200:
+        return response.json()[0].get('generated_text', "Không có phản hồi.")
+    return f"Lỗi: {response.status_code} - {response.text}"
 
-# Route API chat
-@app.route('/chat', methods=['POST'])
-def chat():
-    data = request.json
-    user_message = data.get("message", "").strip()
 
-    if not user_message:
-        return jsonify({'FROM': 'TinyLlama', 'MESSAGE': 'Lỗi: Tin nhắn không hợp lệ.'})
 
-    bot_reply = chat_with_tinyllama(user_message)
-    return jsonify({'FROM': 'TinyLlama', 'MESSAGE': bot_reply})
 
-# Chạy Flask server
+
+
+
+
+@app.route('/')
+def index():
+    return jsonify({'FROM': 'Gemma-2B', 'MESSAGE': bot_reply})
+
 if __name__ == '__main__':
-    app.run(host="0.0.0.0", port=7860, debug=True)
+    app.run(host="0.0.0.0", port=7860)