tudeplom commited on
Commit
b7366a2
·
verified ·
1 Parent(s): 001d7ee

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +28 -15
app.py CHANGED
@@ -1,8 +1,12 @@
1
  from flask import Flask, render_template, request, jsonify
2
  import requests
3
  import os
 
4
  from flask_cors import CORS
5
 
 
 
 
6
  app = Flask(__name__)
7
  CORS(app)
8
 
@@ -10,23 +14,32 @@ CORS(app)
10
  HF_MODEL = "google/gemma-2b"
11
  HF_API_URL = f"https://api-inference.huggingface.co/models/{HF_MODEL}"
12
 
13
- # Lấy API Key từ Hugging Face Secrets
14
  HF_API_KEY = os.getenv("HF_API_KEY")
 
 
15
 
16
- # Gửi request API để chat
17
  def chat_with_gemma(prompt):
18
- if not HF_API_KEY:
19
- return "Lỗi: API Key không tồn tại. Hãy thêm vào Hugging Face Secrets."
20
-
21
- response = requests.post(
22
- HF_API_URL,
23
- headers={"Authorization": f"Bearer {HF_API_KEY}"},
24
- json={"inputs": prompt}
25
- )
26
-
27
- if response.status_code == 200:
28
- return response.json()[0].get('generated_text', "Không có phản hồi.")
29
- return f"Lỗi: {response.status_code} - {response.text}"
 
 
 
 
 
 
 
30
 
31
  @app.route('/')
32
  def index():
@@ -40,4 +53,4 @@ def chat():
40
  return jsonify({'FROM': 'Gemma-2B', 'MESSAGE': bot_reply})
41
 
42
  if __name__ == '__main__':
43
- app.run(host="0.0.0.0", port=7860)
 
1
  from flask import Flask, render_template, request, jsonify
2
  import requests
3
  import os
4
+ import logging
5
  from flask_cors import CORS
6
 
7
+ # Cấu hình logging để debug
8
+ logging.basicConfig(level=logging.INFO)
9
+
10
  app = Flask(__name__)
11
  CORS(app)
12
 
 
14
  HF_MODEL = "google/gemma-2b"
15
  HF_API_URL = f"https://api-inference.huggingface.co/models/{HF_MODEL}"
16
 
17
+ # Lấy API Key từ biến môi trường
18
  HF_API_KEY = os.getenv("HF_API_KEY")
19
+ if not HF_API_KEY:
20
+ raise ValueError("Lỗi: API Key không tồn tại. Hãy thêm vào Hugging Face Secrets.")
21
 
22
+ # Hàm gửi request đến API Hugging Face
23
  def chat_with_gemma(prompt):
24
+ logging.info(f"Gửi request đến API: {HF_API_URL}")
25
+ logging.info(f"Nội dung gửi: {prompt}")
26
+
27
+ headers = {"Authorization": f"Bearer {HF_API_KEY}"}
28
+ payload = {"inputs": prompt}
29
+
30
+ try:
31
+ response = requests.post(HF_API_URL, headers=headers, json=payload)
32
+ logging.info(f"Trạng thái API: {response.status_code}")
33
+ logging.info(f"Nội dung trả về: {response.text}")
34
+
35
+ if response.status_code == 200:
36
+ result = response.json()
37
+ return result[0].get("generated_text", "Không có phản hồi.")
38
+ return f"Lỗi: {response.status_code} - {response.text}"
39
+
40
+ except requests.exceptions.RequestException as e:
41
+ logging.error(f"Lỗi khi gọi API: {str(e)}")
42
+ return "Lỗi: Không thể kết nối đến API."
43
 
44
  @app.route('/')
45
  def index():
 
53
  return jsonify({'FROM': 'Gemma-2B', 'MESSAGE': bot_reply})
54
 
55
  if __name__ == '__main__':
56
+ app.run(host="0.0.0.0", port=int(os.environ.get("PORT", 7860)), debug=False)