Update app.py

app.py

@@ -29,8 +29,10 @@ from beschreibungen import *
  
 
 #Konstanten
-ANTI_BOT_PW = os.getenv("VALIDTAE_PW")
-print("Anti......................"+str(ANTI_BOT_PW))
+#Validieren des PW
+ANTI_BOT_PW = os.getenv("VALIDATE_PW")
+#max Anzahl der zurückgelieferten Dokumente
+ANZAHL_DOCS = 5
 PATH_WORK = "."
 CHROMA_DIR  = "/chroma/kkg"
 CHROMA_PDF = './chroma/kkg/pdf'
@@ -125,13 +127,9 @@ def add_text(chatbot, history, prompt, file, file_history):
         if (prompt == ""):
             chatbot=chatbot + [((file.name,), "Prompt fehlt!")]
         else:
-            ext = analyze_file(file)
-            if (ext == "png" or ext == "PNG" or ext == "jpg" or ext == "jpeg" or ext == "JPG" or ext == "JPEG"):
-                chatbot = chatbot +[((file.name,), None), (prompt, None)]
-            else:
-                chatbot = chatbot +[("Hochgeladenes Dokument: "+ get_filename(file) +"\n" + prompt, None)]
+            chatbot = chatbot +[("Hochgeladenes Dokument: "+ get_filename(file) +"\n" + prompt, None)]
 
-    return chatbot, history, prompt, file, file_history, gr.Image(visible = False), "" #gr.Image( label=None, size=(30,30), visible=False, scale=1) #gr.Textbox(value="", interactive=False)
+    return chatbot, history, prompt, file, file_history, gr.Image(visible = False), "" 
 
 def add_text2(chatbot, prompt):   
     if (prompt == ""):
@@ -187,7 +185,7 @@ def generate_text (prompt, chatbot, history, vektordatenbank,  top_p=0.6, temper
         #oder an Hugging Face --------------------------
         print("HF Anfrage.......................")
         model_kwargs={"temperature": 0.5, "max_length": 512, "num_return_sequences": 1, "top_k": top_k, "top_p": top_p, "repetition_penalty": repetition_penalty}
-        llm = HuggingFaceHub(repo_id=repo_id, model_kwargs=model_kwargs) 
+        #llm = HuggingFaceHub(repo_id=repo_id, model_kwargs=model_kwargs) 
         llm = HuggingFaceChain(model=MODEL_NAME_HF, model_kwargs={"temperature": 0.5, "max_length": 128}) 
         
         #Prompt an history anhängen und einen Text daraus machen
@@ -195,14 +193,14 @@ def generate_text (prompt, chatbot, history, vektordatenbank,  top_p=0.6, temper
         
         #zusätzliche Dokumenten Splits aus DB zum Prompt hinzufügen (aus VektorDB - Chroma oder Mongo DB)
         print("LLM aufrufen mit RAG: ...........")
-        result = rag_chain(history_text_und_prompt, db, 5)
+        result = rag_chain(history_text_und_prompt, db, ANZAHL_DOCS)
         print("result regchain.....................")
         print(result)
            
     except Exception as e:
         raise gr.Error(e)
 
-    return result, suche_im_Netz
+    return result, False
 
 
 ########################################
@@ -274,6 +272,7 @@ def generate_auswahl(prompt_in, file, file_history, chatbot, history, anzahl_doc
         prompt = normalise_prompt(prompt_in)
         
         #muss nur einmal ausgeführt werden... 
+		#?????????????????????????????????????????????? Nicht passend zum Promt???????????????????????????
         if vektordatenbank == None:
             print("db neu aufbauen!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!1")
             splits = document_loading_splitting()
@@ -283,7 +282,6 @@ def generate_auswahl(prompt_in, file, file_history, chatbot, history, anzahl_doc
         status = "Antwort der KI ..."
         if (file == None and file_history == None):
             result, status = generate_text(prompt, chatbot, history,vektordatenbank, top_p=0.6, temperature=0.5, max_new_tokens=4048, max_context_length_tokens=2048, repetition_penalty=1.3, top_k=3)
-            history = history + [[prompt, result]]
         else:
             #Es wurde ein File neu angehängt -> das hochladen und dann Prompt bearbeiten
             #das history_fiel muss neu gesetzt werden
@@ -293,15 +291,30 @@ def generate_auswahl(prompt_in, file, file_history, chatbot, history, anzahl_doc
     
             #File hochladen in Chroma und dann Antwort generieren
             result = generate_text_zu_doc(neu_file, prompt, k, rag_option, chatbot, history, vektordatenbank)
-    
+			#########################################
+			#result verarbeiten
+			#aus result die Ergebnisse aufteilen und der History anhängen
+			#passages = [doc['text'] for doc in docs]
+			#links = [doc.get('url', 'No URL available') for doc in docs]
+
+
+			# Zusammenstellen der Ausgabe
+			response = {
+				"answer": result,
+				#"documents": [{"link": link, "passage": passage} for link, passage in zip(links, passages)]
+			}
+	
+	
             #die history erweitern - abhängig davon, ob gerade ein file hochgeladen wurde oder nicht
             if (file != None):    
-                history = history + [[(file,), None],[prompt, result]]
+                history = history + [[(file,), None],[prompt, response]]
             else:
-                history = history + [[prompt, result]]
-                    
+                history = history + [[prompt, response]]
+                
+
+				
         chatbot[-1][1] = ""
-        for character in result:
+        for character in response:
             chatbot[-1][1] += character
             time.sleep(0.03)
             yield chatbot, history, None, neu_file, status
@@ -391,17 +404,17 @@ with gr.Blocks(css=customCSS, theme=themeAlex) as demo:
                         
             with gr.Column():
                 with gr.Column(min_width=50, scale=1):
-                    with gr.Tab(label="Chats ..."):
+                    #with gr.Tab(label="Chats ..."):
                         #Geht nicht, da für alle gleichzeitig sichtbar
                         #chat_selector = gr.CheckboxGroup(label="", choices=update_chat_options())
                         #download_button = gr.Button("Download ausgewählte Chats")
-                        file_download = gr.File(label="Noch keine Chatsverläufe",  visible=True, interactive = False,  file_count="multiple",) 
+                        #file_download = gr.File(label="Noch keine Chatsverläufe",  visible=True, interactive = False,  file_count="multiple",) 
 
                     with gr.Tab(label="Parameter"):
                         #gr.Markdown("# Parameters")
-                        rag_option = gr.Radio(["Aus", "An"], label="KKG Erweiterungen (RAG)", value = "Aus")
-                        model_option = gr.Radio(["OpenAI", "HuggingFace"], label="Modellauswahl", value = "OpenAI")
-                        websuche = gr.Radio(["Aus", "An"], label="Web-Suche", value = "Aus")
+                        #rag_option = gr.Radio(["Aus", "An"], label="KKG Erweiterungen (RAG)", value = "Aus")
+                        model_option = gr.Radio(["HuggingFace"], label="Modellauswahl", value = "HuggingFace")
+                        #websuche = gr.Radio(["Aus", "An"], label="Web-Suche", value = "Aus")
 
                         
                         top_p = gr.Slider(