Update app.py

app.py

@@ -50,7 +50,9 @@ _ = load_dotenv(find_dotenv())
 #nur bei ersten Anfrage splitten der Dokumente - um die Vektordatenbank entsprechend zu füllen
 #splittet = False
 #DB für Vektorstore
-db = None
+vektordatenbank = None
+retriever = None
+
 
 #############################################
 # Allgemeine Konstanten
@@ -323,7 +325,7 @@ def create_assistant_suche_hf(chatbot, prompt):
 #Funktion wird direkt aufgerufen aus der GUI - von hier muss auch die Rückmeldung kommen....
 #man kann einen Text-Prompt eingeben (mit oder ohne RAG), dazu ein Image hochladen, ein Bild zu einem reinen textprompt erzeugen lassen
 def generate_auswahl(prompt_in, file, file_history, chatbot, history, rag_option, model_option, openai_api_key, k=3, top_p=0.6, temperature=0.5, max_new_tokens=4048, max_context_length_tokens=2048, repetition_penalty=1.3,top_k=35, websuche="Aus", validate=False):
-        global db
+        global vektordatenbank, retriever
         #nur wenn man sich validiert hat, kann die Anwendung los legen
         if (validate and not prompt_in == "" and not prompt_in == None):
             #wenn RAG angeschaltet - Vektorstore initialisieren
@@ -334,23 +336,16 @@ def generate_auswahl(prompt_in, file, file_history, chatbot, history, rag_option
             #prompt normalisieren bevor er an die KIs geht
             prompt = normalise_prompt(prompt_in)
         
-            if (rag_option == "An"):
-                #muss nur einmal ausgeführt werden... 
-                if db == None:
-                    print("db neu aufbauen!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!1")
-                    splits = document_loading_splitting()
-                    document_storage_chroma(splits)
-                db = document_retrieval_chroma2()
-                print("db aktiv!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!")
-                print(db)
-            #else:  #unnötig, da wenn Vektorstor einmal für alle user eingerichtet, wer weiter besthen bleiben kann - die unterschiedlichen Propmt werden dann später je nach rag_option erzeugt
-                #db=None
-                #splittet = False #sonst würde es für alle User wieder ausgeschaltet - Alternative: gr.State(False) dazu anlegen
-    
+             #muss nur einmal ausgeführt werden... 
+            if vektordatenbank == None:
+                print("db neu aufbauen!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!1")
+                splits = document_loading_splitting()
+                vektordatenbank, retriever = document_storage_chroma(splits)
+
             #kein Bild hochgeladen -> auf Text antworten...
             status = "Antwort der KI ..."
             if (file == None and file_history == None):
-                result, status = generate_text(prompt, chatbot, history, rag_option, model_option, openai_api_key, db, websuche, k=3, top_p=0.6, temperature=0.5, max_new_tokens=4048, max_context_length_tokens=2048, repetition_penalty=1.3, top_k=3)
+                result, status = generate_text(prompt, chatbot, history, rag_option, model_option, openai_api_key, vektordatenbank, websuche, k=3, top_p=0.6, temperature=0.5, max_new_tokens=4048, max_context_length_tokens=2048, repetition_penalty=1.3, top_k=3)
                 history = history + [[prompt, result]]
             else:
                 #Es wurde ein File neu angehängt -> wenn prompt dazu, das Bild analysieren
@@ -362,9 +357,9 @@ def generate_auswahl(prompt_in, file, file_history, chatbot, history, rag_option
                 #herausfinden, ob Bild oder Dokument...
                 ext = analyze_file(neu_file)
                 if (ext == "png" or ext == "PNG" or ext == "jpg" or ext == "jpeg" or ext == "JPG" or ext == "JPEG"):
-                    result= generate_text_zu_bild(neu_file, prompt, k, rag_option, chatbot, history, db)
+                    result= generate_text_zu_bild(neu_file, prompt, k, rag_option, chatbot, history, vektordatenbank)
                 else:
-                    result = generate_text_zu_doc(neu_file, prompt, k, rag_option, chatbot, history, db)
+                    result = generate_text_zu_doc(neu_file, prompt, k, rag_option, chatbot, history, vektordatenbank)
     
                 #die history erweitern - abhängig davon, ob gerade ein file hochgeladen wurde oder nicht
                 if (file != None):    
@@ -416,13 +411,13 @@ def generate_bild(prompt, chatbot, model_option_zeichnen='HuggingFace', temperat
 
 ##################################################
 #zu einem Bild und Text-Prompt eine Analyse generieren
-def generate_text_zu_bild(file, prompt, k, rag_option, chatbot, history, db):
+def generate_text_zu_bild(file, prompt, k, rag_option, chatbot, history, vektordatenbank):
     global splittet
     print("Text mit Bild ..............................")
     prompt_neu = generate_prompt_with_history(prompt, history)
     if (rag_option == "An"):
         print("Bild mit RAG..............................")
-        neu_text_mit_chunks = rag_chain2(prompt, db, k)
+        neu_text_mit_chunks = rag_chain2(prompt, vektordatenbank, k)
         #für Chat LLM:
         #prompt = generate_prompt_with_history_openai(neu_text_mit_chunks, history)
         #als reiner prompt:
@@ -439,14 +434,14 @@ def generate_text_zu_bild(file, prompt, k, rag_option, chatbot, history, db):
 
 ##################################################
 #zu einem Bild und Text-Prompt eine Analyse generieren
-def generate_text_zu_doc(file, prompt, k, rag_option, chatbot, history, db):
+def generate_text_zu_doc(file, prompt, k, rag_option, chatbot, history, vektordatenbank):
     global splittet
     print("text mit doc ..............................")
      
     prompt_neu = generate_prompt_with_history(prompt, history)
     if (rag_option == "An"):
         print("Doc mit RAG..............................")
-        neu_text_mit_chunks = rag_chain2(prompt, db, k)
+        neu_text_mit_chunks = rag_chain2(prompt, vektordatenbank, k)
         #für Chat LLM:
         #prompt_neu = generate_prompt_with_history_openai(neu_text_mit_chunks, history)
         #als reiner prompt:
@@ -459,7 +454,7 @@ def generate_text_zu_doc(file, prompt, k, rag_option, chatbot, history, db):
 ####################################################
 #aus einem Text-Prompt die Antwort von KI bekommen
 #mit oder ohne RAG möglich
-def generate_text (prompt, chatbot, history, rag_option, model_option, openai_api_key, db, websuche, k=3, top_p=0.6, temperature=0.5, max_new_tokens=4048, max_context_length_tokens=2048, repetition_penalty=1.3, top_k=35):
+def generate_text (prompt, chatbot, history, rag_option, model_option, openai_api_key, vektordatenbank, websuche, k=3, top_p=0.6, temperature=0.5, max_new_tokens=4048, max_context_length_tokens=2048, repetition_penalty=1.3, top_k=35):
     #global splittet
     #hugchat=False
     suche_im_Netz="Antwort der KI ..."
@@ -517,9 +512,9 @@ def generate_text (prompt, chatbot, history, rag_option, model_option, openai_ap
                 print("LLM aufrufen mit RAG: ...........")
                 print(history_text_und_prompt)
                 print("-------------------------------")
-                result = rag_chain(llm, history_text_und_prompt, db)  #für hugchat noch kein rag möglich...
+                result = rag_chain(llm, history_text_und_prompt, retriever)  #für hugchat noch kein rag möglich...
                 #weitere Möglichkeit für Rag-Chain - dann auch für HF Modelle möglich, da kein llm in Langchain übergeben werden muss...
-                #result = rag_chain2(history_text_und_prompt, db, 5)
+                #result = rag_chain2(history_text_und_prompt, vektordatenbank, 5)
                 print("result regchain.....................")
                 print(result)
             else: