Update app.py
Browse files
app.py
CHANGED
|
@@ -3,20 +3,10 @@ import gradio as gr
|
|
| 3 |
|
| 4 |
client = InferenceClient("mistralai/Mixtral-8x7B-Instruct-v0.1")
|
| 5 |
|
| 6 |
-
|
| 7 |
-
prompt = """
|
| 8 |
-
Du bist ein hilfsbereiter und unterstützender Assistent, der darauf trainiert ist, Menschen bei der Erledigung ihrer Aufgaben zu helfen. Deine Hauptaufgabe besteht darin, den Benutzer durch gezielte Fragen und Eingabeaufforderungen zu führen, um den Kontext für die Aufgabe des Tages zu verstehen.
|
| 9 |
-
|
| 10 |
-
Beginne mit einer freundlichen Begrüßung und bitte den Benutzer um weitere Informationen zu seinen Zielen für den Tag. Stelle dann spezifische Fragen, um die Art der Aufgabe zu klären, wie Informationsbeschaffung, Aufgabenerledigung oder Projektunterstützung.
|
| 11 |
-
|
| 12 |
-
Wenn die Aufgabenart geklärt ist, frage nach der Priorität der Aufgaben. Erfrage weitere Details, um den Kontext zu vertiefen, wie Themenbereiche oder Schlüsselwörter für Rechercheaufgaben.
|
| 13 |
-
|
| 14 |
-
Generiere schließlich einen maßgeschneiderten Prompt oder eine Eingabeaufforderung, die genau auf die Bedürfnisse des Benutzers zugeschnitten ist. Zeige den generierten Prompt an und bitte den Benutzer um Bestätigung. Nimm bei Bedarf Anpassungen vor.
|
| 15 |
|
| 16 |
-
|
| 17 |
-
|
| 18 |
-
Bleibe stets höflich, unterstützend und respektvoll gegenüber dem Benutzer.
|
| 19 |
-
"""
|
| 20 |
for user_msg, bot_msg in history:
|
| 21 |
prompt += f"[INST] {user_msg} [/INST]"
|
| 22 |
prompt += f" {bot_msg}</s> "
|
|
@@ -60,16 +50,18 @@ def generate(prompt, history,
|
|
| 60 |
return output
|
| 61 |
|
| 62 |
samir_chatbot = gr.Chatbot(avatar_images=["./user.png", "./bot.png"],
|
| 63 |
-
|
| 64 |
-
|
| 65 |
-
|
| 66 |
-
|
|
|
|
| 67 |
|
| 68 |
-
|
|
|
|
| 69 |
demo = gr.ChatInterface(fn=generate,
|
| 70 |
chatbot=samir_chatbot,
|
| 71 |
title="Ailexs Mixtral 8x7b Chat",
|
| 72 |
-
theme=theme)
|
| 73 |
|
| 74 |
demo.queue().launch(show_api=False)
|
| 75 |
|
|
|
|
| 3 |
|
| 4 |
client = InferenceClient("mistralai/Mixtral-8x7B-Instruct-v0.1")
|
| 5 |
|
| 6 |
+
secret_prompt = os.getenv("SECRET_PROMPT")
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 7 |
|
| 8 |
+
def format_prompt(new_message, history):
|
| 9 |
+
prompt = secret_prompt
|
|
|
|
|
|
|
| 10 |
for user_msg, bot_msg in history:
|
| 11 |
prompt += f"[INST] {user_msg} [/INST]"
|
| 12 |
prompt += f" {bot_msg}</s> "
|
|
|
|
| 50 |
return output
|
| 51 |
|
| 52 |
samir_chatbot = gr.Chatbot(avatar_images=["./user.png", "./bot.png"],
|
| 53 |
+
bubble_full_width=False,
|
| 54 |
+
show_label=False,
|
| 55 |
+
show_copy_button=True,
|
| 56 |
+
likeable=True,)
|
| 57 |
+
|
| 58 |
|
| 59 |
+
# Gradio-Demo konfigurieren
|
| 60 |
+
theme = 'syddharth/gray-minimal'
|
| 61 |
demo = gr.ChatInterface(fn=generate,
|
| 62 |
chatbot=samir_chatbot,
|
| 63 |
title="Ailexs Mixtral 8x7b Chat",
|
| 64 |
+
theme=theme)
|
| 65 |
|
| 66 |
demo.queue().launch(show_api=False)
|
| 67 |
|