Update app.py

app.py

@@ -1,24 +1,20 @@
 import torch
-import gradio as gr
 from transformers import AutoTokenizer, AutoModelForCausalLM
+import gradio as gr
 
-# Optymalizacja Torch
+# Optymalizacja obliczeń
 torch.set_float32_matmul_precision('high')
 
-# Ustawienia modelu
-model_name = "mrm8488/distilgpt2-finetuned-text-generation"  # Można zmienić na polski model, jeśli jest zoptymalizowany
-
+# Nowy, lżejszy model
+model_name = "distilbert/distilgpt2"
 tokenizer = AutoTokenizer.from_pretrained(model_name)
 model = AutoModelForCausalLM.from_pretrained(model_name)
 
-# Maksymalna długość historii w tokenach
-MAX_HISTORY = 800
+MAX_HISTORY = 800  # limit tokenów w historii
 
-# Funkcja czatu
 def chatbot_response(user_input, history, top_k, top_p, temperature):
     history += f"Użytkownik: {user_input}\nAI:"
     input_ids = tokenizer.encode(history, return_tensors="pt", truncation=True, max_length=1024)
-
     if input_ids.shape[1] > MAX_HISTORY:
         input_ids = input_ids[:, -MAX_HISTORY:]
 
@@ -32,14 +28,13 @@ def chatbot_response(user_input, history, top_k, top_p, temperature):
         temperature=temperature
     )
 
-    output_text = tokenizer.decode(output[0], skip_special_tokens=True)
-    model_reply = output_text[len(history):].split("Użytkownik:")[0].strip()
-    history += f" {model_reply}\n"
+    decoded = tokenizer.decode(output[0], skip_special_tokens=True)
+    reply = decoded[len(history):].split("Użytkownik:")[0].strip()
+    history += f" {reply}\n"
     return history, history
 
-# Gradio interfejs
-with gr.Blocks(title="Polski Chatbot AI") as demo:
-    gr.Markdown("# 🤖 Polski Chatbot AI\nModel: distilgpt2-finetuned-text-generation")
+with gr.Blocks() as demo:
+    gr.Markdown("# 🤖 Polski Chatbot AI (DistilGPT2)")
 
     chat_output = gr.Textbox(label="Historia rozmowy", lines=15, interactive=False)
     user_input = gr.Textbox(label="Wpisz wiadomość")
@@ -51,7 +46,6 @@ with gr.Blocks(title="Polski Chatbot AI") as demo:
     history_state = gr.State("")
 
     send_btn = gr.Button("Wyślij")
-
     send_btn.click(
         chatbot_response,
         inputs=[user_input, history_state, top_k, top_p, temperature],
@@ -61,11 +55,12 @@ with gr.Blocks(title="Polski Chatbot AI") as demo:
     clear_btn = gr.Button("🧹 Wyczyść historię")
     clear_btn.click(lambda: ("", ""), outputs=[chat_output, history_state])
 
-    gr.Markdown("\n## 🔄 Szybkie pytania:")
+    gr.Markdown("## 🔄 Szybkie pytania:")
     with gr.Row():
-        gr.Button("Jak się nazywasz?").click(fn=lambda: chatbot_response("Jak się nazywasz?", history_state.value, top_k.value, top_p.value, temperature.value), outputs=[chat_output, history_state])
-        gr.Button("Czym się zajmujesz?").click(fn=lambda: chatbot_response("Czym się zajmujesz?", history_state.value, top_k.value, top_p.value, temperature.value), outputs=[chat_output, history_state])
+        gr.Button("Jak się nazywasz?").click(
+            lambda _: chatbot_response("Jak się nazywasz?", "", 50, 0.9, 0.7), outputs=[chat_output, history_state])
+        gr.Button("Czym się zajmujesz?").click(
+            lambda _: chatbot_response("Czym się zajmujesz?", "", 50, 0.9, 0.7), outputs=[chat_output, history_state])
 
-# Uruchom
 if __name__ == "__main__":
     demo.launch()