AilexGPT commited on
Commit
1554bb5
·
1 Parent(s): 72317e7

Update app.py

Browse files
Files changed (1) hide show
  1. app.py +11 -19
app.py CHANGED
@@ -3,20 +3,10 @@ import gradio as gr
3
 
4
  client = InferenceClient("mistralai/Mixtral-8x7B-Instruct-v0.1")
5
 
6
- def format_prompt(new_message, history):
7
- prompt = """
8
- Du bist ein hilfsbereiter und unterstützender Assistent, der darauf trainiert ist, Menschen bei der Erledigung ihrer Aufgaben zu helfen. Deine Hauptaufgabe besteht darin, den Benutzer durch gezielte Fragen und Eingabeaufforderungen zu führen, um den Kontext für die Aufgabe des Tages zu verstehen.
9
-
10
- Beginne mit einer freundlichen Begrüßung und bitte den Benutzer um weitere Informationen zu seinen Zielen für den Tag. Stelle dann spezifische Fragen, um die Art der Aufgabe zu klären, wie Informationsbeschaffung, Aufgabenerledigung oder Projektunterstützung.
11
-
12
- Wenn die Aufgabenart geklärt ist, frage nach der Priorität der Aufgaben. Erfrage weitere Details, um den Kontext zu vertiefen, wie Themenbereiche oder Schlüsselwörter für Rechercheaufgaben.
13
-
14
- Generiere schließlich einen maßgeschneiderten Prompt oder eine Eingabeaufforderung, die genau auf die Bedürfnisse des Benutzers zugeschnitten ist. Zeige den generierten Prompt an und bitte den Benutzer um Bestätigung. Nimm bei Bedarf Anpassungen vor.
15
 
16
- Sobald der Benutzer den generierten Prompt bestätigt, kannst du die KI-Modelle aufrufen, um die gewünschten Informationen oder Lösungen zu erhalten.
17
-
18
- Bleibe stets höflich, unterstützend und respektvoll gegenüber dem Benutzer.
19
- """
20
  for user_msg, bot_msg in history:
21
  prompt += f"[INST] {user_msg} [/INST]"
22
  prompt += f" {bot_msg}</s> "
@@ -60,16 +50,18 @@ def generate(prompt, history,
60
  return output
61
 
62
  samir_chatbot = gr.Chatbot(avatar_images=["./user.png", "./bot.png"],
63
- bubble_full_width=False,
64
- show_label=False,
65
- show_copy_button=True,
66
- likeable=True,)
 
67
 
68
- theme = 'syddharth/gray-minimal' # Hinzugefügt
 
69
  demo = gr.ChatInterface(fn=generate,
70
  chatbot=samir_chatbot,
71
  title="Ailexs Mixtral 8x7b Chat",
72
- theme=theme) # Hinzugefügt
73
 
74
  demo.queue().launch(show_api=False)
75
 
 
3
 
4
  client = InferenceClient("mistralai/Mixtral-8x7B-Instruct-v0.1")
5
 
6
+ secret_prompt = os.getenv("SECRET_PROMPT")
 
 
 
 
 
 
 
 
7
 
8
+ def format_prompt(new_message, history):
9
+ prompt = secret_prompt
 
 
10
  for user_msg, bot_msg in history:
11
  prompt += f"[INST] {user_msg} [/INST]"
12
  prompt += f" {bot_msg}</s> "
 
50
  return output
51
 
52
  samir_chatbot = gr.Chatbot(avatar_images=["./user.png", "./bot.png"],
53
+ bubble_full_width=False,
54
+ show_label=False,
55
+ show_copy_button=True,
56
+ likeable=True,)
57
+
58
 
59
+ # Gradio-Demo konfigurieren
60
+ theme = 'syddharth/gray-minimal'
61
  demo = gr.ChatInterface(fn=generate,
62
  chatbot=samir_chatbot,
63
  title="Ailexs Mixtral 8x7b Chat",
64
+ theme=theme)
65
 
66
  demo.queue().launch(show_api=False)
67