Update app.py

app.py

@@ -1,6 +1,7 @@
 import gradio as gr
 import os
 import requests
+import json
 
 SYSTEM_PROMPT = "Als LLM besteht deine Aufgabe darin, detaillierte Aufforderungen zu generieren, die mit 'Generiere das Bild' beginnen, für Bildgenerierungsmodelle basierend auf Benutzereingaben. Sei beschreibend und spezifisch, aber achte auch darauf, dass deine Aufforderungen klar und prägnant sind."
 TITLE = "Bildanreger"
@@ -15,11 +16,11 @@ def build_input_prompt(message, chatbot, system_prompt):
     """
     Konstruiert die Eingabeaufforderung aus den Chatbot-Interaktionen und der aktuellen Nachricht.
     """
-    input_prompt = "\n" + system_prompt + "</s>\n\n"
+    input_prompt = "\n" + system_prompt + "\n\n"
     for interaction in chatbot:
-        input_prompt = input_prompt + str(interaction[0]) + "</s>\n\n" + str(interaction[1]) + "\n</s>\n\n"
+        input_prompt += f"{interaction[0]}\n\n{interaction[1]}\n\n"
 
-    input_prompt = input_prompt + str(message) + "</s>\n"
+    input_prompt += f"{message}\n"
     return input_prompt
 
 def post_request_beta(payload):
@@ -30,7 +31,7 @@ def post_request_beta(payload):
     response.raise_for_status()  # Löst einen HTTPError aus, wenn die HTTP-Anfrage einen erfolglosen Statuscode zurückgegeben hat
     return response.json()
 
-def predict_beta(message, chatbot=[], system_prompt=""):
+def predict_beta(message, chatbot=[], system_prompt=SYSTEM_PROMPT):
     input_prompt = build_input_prompt(message, chatbot, system_prompt)
     data = {
         "inputs": input_prompt
@@ -41,36 +42,34 @@ def predict_beta(message, chatbot=[], system_prompt=""):
         json_obj = response_data[0]
         
         if 'generated_text' in json_obj and len(json_obj['generated_text']) > 0:
-            bot_message = json_obj['generated_text']
-            return bot_message
+            return json_obj['generated_text']
         elif 'error' in json_obj:
-            raise gr.Error(json_obj['error'] + ' Bitte aktualisieren Sie die Seite und versuchen Sie es erneut mit einer kleineren Eingabeaufforderung')
+            raise Exception(json_obj['error'])
         else:
-            warning_msg = f"Unerwartete Antwort: {json_obj}"
-            raise gr.Error(warning_msg)
+            raise Exception("Unerwartete Antwort vom Server")
     except requests.HTTPError as e:
-        error_msg = f"Anfrage fehlgeschlagen mit Statuscode {e.response.status_code}"
-        raise gr.Error(error_msg)
+        raise Exception(f"Anfrage fehlgeschlagen mit Statuscode {e.response.status_code}")
     except json.JSONDecodeError as e:
-        error_msg = f"Antwort konnte nicht als JSON dekodiert werden: {str(e)}"
-        raise gr.Error(error_msg)
+        raise Exception(f"Antwort konnte nicht als JSON dekodiert werden: {str(e)}")
 
-def test_preview_chatbot(message, history):
-    response = predict_beta(message, history, SYSTEM_PROMPT)
-    text_start = response.rfind("", ) + len("")
-    response = response[text_start:]
-    return response
+def test_preview_chatbot(message, history=[]):
+    response = predict_beta(message, history)
+    history.append((message, response))
+    return response, history
 
 with gr.Blocks(theme='syddharth/gray-minimal') as app:
-    welcome_preview_message = f"""
-    Erweitern Sie Ihre Vorstellungskraft und erweitern Sie Ihre Horizonte mit LLM. Willkommen bei **{TITLE}**!:\nDies ist ein Chatbot, der detaillierte Aufforderungen für Bildgenerierungsmodelle basierend auf einfachen und kurzen Benutzereingaben generieren kann.\nSagen Sie etwas wie: 
-    "{EXAMPLE_INPUT}"
-    """
+    with gr.Row():
+        chatbot_preview = gr.Chatbot()
+        textbox_preview = gr.Textbox(label="Deine Eingabe", placeholder=EXAMPLE_INPUT)
+
+    btn_send = gr.Button("Senden")
+    chat_history = []
 
-    chatbot_preview = gr.Chatbot(layout="panel", value=[(None, welcome_preview_message)])
-    textbox_preview = gr.Textbox(scale=7, container=False, value=EXAMPLE_INPUT)
+    def update_chatbot(input_text):
+        global chat_history
+        response, chat_history = test_preview_chatbot(input_text, chat_history)
+        chatbot_preview.append((input_text, response))
 
-    demo = gr.ChatInterface(fn=test_preview_chatbot, inputs=chatbot_preview, outputs=textbox_preview, title=TITLE, description=SYSTEM_PROMPT)
-    app.add(demo)
+    btn_send.click(fn=update_chatbot, inputs=textbox_preview, outputs=chatbot_preview)
 
 app.launch(share=True)