Update app.py

app.py

@@ -1,30 +1,43 @@
 import gradio as gr
-from transformers import pipeline
+from transformers import BlenderbotTokenizer, BlenderbotForConditionalGeneration
 
-# Používáme větší model GPT-2 pro generování textu
-qa_pipeline = pipeline("text-generation", model="gpt2")
+# Načteme model a tokenizer
+model_name = "facebook/blenderbot-400M-distill"
+tokenizer = BlenderbotTokenizer.from_pretrained(model_name)
+model = BlenderbotForConditionalGeneration.from_pretrained(model_name)
 
-def chat(user_input, history):
-    # Generování odpovědi s maximální délkou 30 pro rychlé odpovědi
-    response = qa_pipeline(user_input, max_length=50, num_return_sequences=1)[0]["generated_text"]
-    history.append((user_input, response))
-    return history, ""
+# Uchováme historii konverzace
+history = []
 
+def chat(user_input):
+    global history
+
+    # Přidáme novou zprávu uživatele do historie
+    history.append(user_input)
+
+    # Připravíme vstup (předchozí zprávy spojíme)
+    conversation = " ".join(history[-5:])  # Posledních 5 zpráv
+    inputs = tokenizer(conversation, return_tensors="pt")
+
+    # Model vygeneruje odpověď
+    reply_ids = model.generate(**inputs, max_length=100)
+    reply = tokenizer.decode(reply_ids[0], skip_special_tokens=True)
+
+    # Přidáme odpověď do historie
+    history.append(reply)
+
+    return reply
+
+# Gradio rozhraní
 with gr.Blocks() as demo:
     chatbot = gr.Chatbot()
-    msg = gr.Textbox(placeholder="Type your message here...")
-    with gr.Row():
-        submit = gr.Button("Send")
-        clear = gr.Button("New Chat")
-
-    # Stav pro ukládání historie
-    state = gr.State([])
+    msg = gr.Textbox(label="Napiš zprávu")
 
-    def respond(user_input, history):
-        return chat(user_input, history)
+    def respond(message, chat_history):
+        bot_message = chat(message)
+        chat_history.append((message, bot_message))
+        return "", chat_history
 
-    submit.click(respond, [msg, state], [chatbot, msg, state], show_progress=True)
-    msg.submit(respond, [msg, state], [chatbot, msg, state], show_progress=True)
-    clear.click(lambda: ([], "", []), None, [chatbot, msg, state])
+    msg.submit(respond, [msg, chatbot], [msg, chatbot])
 
 demo.launch()