Update app.py

app.py

@@ -1,65 +1,21 @@
-import os
-import torch
-from huggingface_hub import login
-from transformers import AutoModelForCausalLM, AutoTokenizer, pipeline
 import gradio as gr
-
-# 🔑 Lấy token từ Secret
-HF_TOKEN = os.environ.get("HF_Key")
-
-# 🔐 Login Hugging Face Hub
-if HF_TOKEN:
-    print("🔑 Đang đăng nhập Hugging Face Hub...")
-    login(token=HF_TOKEN)
-    print("✅ Đăng nhập thành công!")
-else:
-    raise ValueError("⚠️ Không tìm thấy HF_Key trong Secrets!")
-
-# 🚀 Load model với key
-model_id = "meta-llama/Llama-3.2-1B-Instruct"
-
-print("⏳ Đang tải tokenizer & model...")
-tokenizer = AutoTokenizer.from_pretrained(model_id, token=HF_TOKEN)
-model = AutoModelForCausalLM.from_pretrained(
-    model_id,
-    token=HF_TOKEN,
-    torch_dtype=torch.float32,
-    low_cpu_mem_usage=True,
-    device_map="cpu"
-)
-print("✅ Model đã load xong!")
-
-pipe = pipeline(
-    "text-generation",
-    model=model,
-    tokenizer=tokenizer,
-)
-
-# 📝 Prompt ngầm
-SYSTEM_PROMPT = (
-    "Bạn là một chatbot chuyên TÓM TẮT và TỔNG HỢP ý chính. "
-    "Nhiệm vụ: nhận câu hỏi hoặc đoạn văn bản và trả lời ngắn gọn, "
-    "liệt kê các điểm quan trọng nhất.\n\n"
-)
-
-def chat_fn(user_input):
-    prompt = SYSTEM_PROMPT + "Người dùng hỏi: " + user_input + "\n\nTóm tắt & tổng hợp:"
-    outputs = pipe(
-        prompt,
-        max_new_tokens=200,
-        temperature=0.7,
-        top_p=0.9,
-        do_sample=True,
-    )
-    return outputs[0]["generated_text"]
-
-# 🎨 Gradio UI
-iface = gr.Interface(
-    fn=chat_fn,
-    inputs=gr.Textbox(lines=4, placeholder="Nhập nội dung..."),
-    outputs="text",
-    title="🤖 Chatbot Tóm Tắt & Tổng Hợp Ý Chính (Llama-3.2-1B, CPU)"
+from generator import generate_text
+
+def respond(message, history):
+    response = generate_text(message)
+    return response
+
+chatbot = gr.ChatInterface(
+    fn=respond,
+    title="🤖 Chatbot Tóm Tắt & Tổng Hợp Ý Chính",
+    description="Nhập câu hỏi hoặc đoạn văn bản, chatbot sẽ tóm tắt & liệt kê ý chính.",
+    theme="default",
+    examples=[
+        ["Tóm tắt nội dung bài viết về biến đổi khí hậu"],
+        ["Cho mình ý chính của cuốn sách 'Nhà giả kim'"],
+        ["Tóm tắt lại lịch sử Internet ngắn gọn"]
+    ],
 )
 
 if __name__ == "__main__":
-    iface.launch()
+    chatbot.launch()