Upload main_gradio_chat.py

main_gradio_chat.py

@@ -0,0 +1,46 @@
+# main_gradio_chat_all.py
+import os
+from transformers import pipeline, AutoTokenizer, AutoModelForQuestionAnswering
+import gradio as gr
+from dotenv import load_dotenv
+
+# Load token Hugging Face từ file .env
+load_dotenv()
+HF_TOKEN = os.getenv("HF_TOKEN")
+if not HF_TOKEN:
+    raise ValueError("Bạn chưa đặt token Hugging Face trong file .env hoặc biến môi trường")
+
+# Load model (GPU nếu có)
+device = 0 if pipeline("question-answering").model.device.type == "cuda" else -1
+print(f"Đang sử dụng {'GPU' if device==0 else 'CPU'} để chạy model")
+
+qa_pipeline = pipeline(
+    "question-answering",
+    model="nguyenvulebinh/vi-mrc-base",
+    tokenizer="nguyenvulebinh/vi-mrc-base",
+    device=device,
+    token=HF_TOKEN
+)
+
+# Hàm trả lời chatbot
+def answer_question(chat_history, user_input):
+    context = "\n".join([h[1] for h in chat_history] + [user_input])
+    result = qa_pipeline({
+        "question": user_input,
+        "context": context if context else "Không có dữ liệu"
+    })
+    answer = result.get("answer", "Xin lỗi, tôi không biết câu trả lời.")
+    chat_history.append((user_input, answer))
+    return chat_history, ""
+
+# Giao diện Gradio
+with gr.Blocks() as demo:
+    chatbot = gr.Chatbot()
+    msg = gr.Textbox(label="Nhập câu hỏi của bạn")
+    clear = gr.Button("Xóa")
+    
+    msg.submit(answer_question, [chatbot, msg], [chatbot, msg])
+    clear.click(lambda: [], None, chatbot)
+
+# Chạy công khai
+demo.launch(server_name="0.0.0.0", server_port=7860, share=True)