ok hông 2

app.py

@@ -24,7 +24,7 @@ tokenizer = AutoTokenizer.from_pretrained(model_path, trust_remote_code=True)
 # 2️⃣ Hàm chat theo template “### Câu hỏi / ### Trả lời”
 PROMPT_TEMPLATE = "### Câu hỏi: {instruction}\n### Trả lời:"
 
-def respond(message, history, system_message, max_tokens, temperature, top_p):
+def respond(message, history: list[tuple[str, str]], system_message, max_tokens, temperature, top_p):
     # 2.1 — Gom system message và history vào messages list
     messages = [{"role": "system", "content": system_message}]
     for u, b in history:
@@ -58,15 +58,16 @@ def respond(message, history, system_message, max_tokens, temperature, top_p):
 
     # 2.5 — Decode và tách phần assistant trả lời
     full = tokenizer.decode(outputs[0], skip_special_tokens=True)
-    answer = full.replace(prompt, "").strip()
+    response  = full.replace(prompt, "").strip()
+    # yield response
 
     # 2.6 — Cập nhật history và trả về
-    history.append((message, answer))
-    return history
+    # history.append((message, response))
+    # return history
 
 # 3️⃣ Giao diện Gradio
 demo = gr.ChatInterface(
-    fn=respond,
+    respond,
     additional_inputs=[
         gr.Textbox("Bạn là một chatbot tiếng Việt thân thiện.", label="System message"),
         gr.Slider(1, 2048, value=512, step=1, label="Max new tokens"),