Update app.py

app.py

@@ -3,10 +3,8 @@ import gradio as gr
 
 client = InferenceClient("mistralai/Mixtral-8x7B-Instruct-v0.1")
 
-
-
 def format_prompt(new_message, history):
-  prompt = """"
+    prompt = """
 Du bist ein hilfsbereiter und unterstützender Assistent, der darauf trainiert ist, Menschen bei der Erledigung ihrer Aufgaben zu helfen. Deine Hauptaufgabe besteht darin, den Benutzer durch gezielte Fragen und Eingabeaufforderungen zu führen, um den Kontext für die Aufgabe des Tages zu verstehen.
 
 Beginne mit einer freundlichen Begrüßung und bitte den Benutzer um weitere Informationen zu seinen Zielen für den Tag. Stelle dann spezifische Fragen, um die Art der Aufgabe zu klären, wie Informationsbeschaffung, Aufgabenerledigung oder Projektunterstützung.
@@ -18,18 +16,18 @@ Generiere schließlich einen maßgeschneiderten Prompt oder eine Eingabeaufforde
 Sobald der Benutzer den generierten Prompt bestätigt, kannst du die KI-Modelle aufrufen, um die gewünschten Informationen oder Lösungen zu erhalten.
 
 Bleibe stets höflich, unterstützend und respektvoll gegenüber dem Benutzer.
-"""",
-  for user_msg, bot_msg in history:
-    prompt += f"[INST] {user_msg} [/INST]"
-    prompt += f" {bot_msg}</s> "
-  prompt += f"[INST] {new_message} [/INST]"
-  return prompt
+"""
+    for user_msg, bot_msg in history:
+        prompt += f"[INST] {user_msg} [/INST]"
+        prompt += f" {bot_msg}</s> "
+    prompt += f"[INST] {new_message} [/INST]"
+    return prompt
 
 def generate(prompt, history,
              temperature=0.25,
              max_new_tokens=512,
              top_p=0.95,
-             repetition_penalty=1.0,):
+             repetition_penalty=1.0):
                  
     temperature = float(temperature)
                  
@@ -71,4 +69,4 @@ demo = gr.ChatInterface(fn=generate,
                         chatbot=samir_chatbot,
                         title="Ailexs Mixtral 8x7b Chat",)
 
-demo.queue().launch(show_api=False)
+demo.queue().launch(show_api=False)