Update app.py

app.py

@@ -30,9 +30,7 @@ def format_prompt(message, history):
   prompt += f"[INST] {message} [/INST]"
   return prompt
 
-def response(
-    prompt, history,selected_option,temperature=0.9, max_new_tokens=500, top_p=0.95, repetition_penalty=1.0,
-):
+def response(prompt, history, selected_option, temperature=0.9, max_new_tokens=500, top_p=0.95, repetition_penalty=1.0):
     temperature = float(temperature)
     if temperature < 1e-2: temperature = 1e-2
     top_p = float(top_p)
@@ -44,37 +42,26 @@ def response(
         do_sample=True,
         seed=42,
     )
-    addon=""
-    results=collection.query(
-      query_texts=[prompt],
-      n_results=60,
-      #where={"source": "google-docs"}
-      #where_document={"$contains":"search_string"}
+    addon = ""
+    results = collection.query(
+        query_texts=[prompt],
+        n_results=60,
     )
-    #print("REsults")
-    #print(results)
-    #print("_____")
-    dists=["<br><small>(relevance: "+str(round((1-d)*100)/100)+";" for d in results['distances'][0]]
-  
-    #sources=["source: "+s["source"]+")</small>" for s in results['metadatas'][0]]
-    results=results['documents'][0]
-    print("TEst")
-    print(results)
-    print("_____")
-    combination = zip(results,dists)
+    dists = ["<br><small>(relevance: " + str(round((1 - d) * 100) / 100) + ";" for d in results['distances'][0]]
+    results = results['documents'][0]
+    combination = zip(results, dists)
     combination = [' '.join(triplets) for triplets in combination]
-    #print(str(prompt)+"\n\n"+str(combination))
-    if(len(results)>1):
-      addon=" Bitte berücksichtige bei deiner Antwort ausschießlich folgende Auszüge aus unserer Wahlhilfe Datenbank, sofern sie für die Antwort erforderlich sind. Beantworte die Frage knapp und präzise. Ignoriere unpassende Datenbank-Auszüge OHNE sie zu kommentieren, zu erwähnen oder aufzulisten:\n"+"\n".join(results)
-    system="Du heißt Avah und bist ein deutschsprachiges KI-basiertes Wahlhilfe Beratungssystem zum Wahl-O-Maten für die Bundestagswahl 2021. DU nimmst selber in keinem Fall eigen politische Postionen ein!"+addon+"\n\nUser-Anliegen:"   
+    if len(results) > 1:
+        addon = " Bitte berücksichtige bei deiner Antwort ausschießlich folgende Auszüge aus unserer Wahlhilfe Datenbank, sofern sie für die Antwort erforderlich sind. Beantworte die Frage knapp und präzise. Ignoriere unpassende Datenbank-Auszüge OHNE sie zu kommentieren, zu erwähnen oder aufzulisten:\n" + "\n".join(results)
+    system = "Du heißt Avah und bist ein deutschsprachiges KI-basiertes Wahlhilfe Beratungssystem zum Wahl-O-Maten für die Bundestagswahl 2021. Du nimmst selber keine eigene politische Postion ein!" + addon + "\n\nUser-Anliegen:"
     formatted_prompt = format_prompt(system + "\n" + selected_option + "\n" + prompt, history)
     stream = client.text_generation(formatted_prompt, **generate_kwargs, stream=True, details=True, return_full_text=False)
     output = ""
     for response in stream:
         output += response.token.text
         yield output
-    #output=output+"\n\n<br><details open><summary><strong>Sources</strong></summary><br><ul>"+ "".join(["<li>" + s + "</li>" for s in combination])+"</ul></details>"
     yield output
+
     
 def update_prompt(selected_option, history):
     if selected_option=="Keine These ausgewählt":