Update app.py

app.py

@@ -325,66 +325,62 @@ def create_assistant_suche_hf(chatbot, prompt):
 #Funktion wird direkt aufgerufen aus der GUI - von hier muss auch die Rückmeldung kommen....
 #man kann einen Text-Prompt eingeben (mit oder ohne RAG), dazu ein Image hochladen, ein Bild zu einem reinen textprompt erzeugen lassen
 def generate_auswahl(prompt_in, file, file_history, chatbot, history, rag_option, model_option, openai_api_key, k=3, top_p=0.6, temperature=0.5, max_new_tokens=4048, max_context_length_tokens=2048, repetition_penalty=1.3,top_k=35, websuche="Aus", validate=False):
-        global vektorstore, retriever
-        #nur wenn man sich validiert hat, kann die Anwendung los legen
-        if (validate and not prompt_in == "" and not prompt_in == None):
-            #wenn RAG angeschaltet - Vektorstore initialisieren
-            #aber nur, wenn es noch nicht geshehen ist (splittet = False)
-            #falls schon ein File hochgeladen wurde, ist es in history_file gespeichert - falls ein neues File hochgeladen wurde, wird es anschließend neu gesetzt
-            neu_file = file_history
+    global vektorstore, retriever
+    #nur wenn man sich validiert hat, kann die Anwendung los legen
+    if (validate and not prompt_in == "" and not prompt_in == None):
+        #wenn RAG angeschaltet - Vektorstore initialisieren
+        #aber nur, wenn es noch nicht geshehen ist (splittet = False)
+        #falls schon ein File hochgeladen wurde, ist es in history_file gespeichert - falls ein neues File hochgeladen wurde, wird es anschließend neu gesetzt
+        neu_file = file_history
         
-            #prompt normalisieren bevor er an die KIs geht
-            prompt = normalise_prompt(prompt_in)
+        #prompt normalisieren bevor er an die KIs geht
+        prompt = normalise_prompt(prompt_in)
         
-            if (rag_option == "An"):
-                #muss nur einmal ausgeführt werden... 
-                if vectorstore == None:
-                    print("db neu aufbauen!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!1")
-                    splits = document_loading_splitting()
-                    vectorstore, retriever = document_storage_chroma(splits)
-                
-            #else:  #unnötig, da wenn Vektorstor einmal für alle user eingerichtet, wer weiter besthen bleiben kann - die unterschiedlichen Propmt werden dann später je nach rag_option erzeugt
-                #db=None
-                #splittet = False #sonst würde es für alle User wieder ausgeschaltet - Alternative: gr.State(False) dazu anlegen
+        if (rag_option == "An"):
+            #muss nur einmal ausgeführt werden... 
+            if vectorstore == None:
+                print("db neu aufbauen!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!1")
+                splits = document_loading_splitting()
+                vectorstore, retriever = document_storage_chroma(splits)
+
+        #kein Bild hochgeladen -> auf Text antworten...
+        status = "Antwort der KI ..."
+        if (file == None and file_history == None):
+            result, status = generate_text(prompt, chatbot, history, rag_option, model_option, openai_api_key, db, websuche, k=3, top_p=0.6, temperature=0.5, max_new_tokens=4048, max_context_length_tokens=2048, repetition_penalty=1.3, top_k=3)
+            history = history + [[prompt, result]]
+        else:
+            #Es wurde ein File neu angehängt -> wenn prompt dazu, das Bild analysieren
+            #das history_fiel muss neu gesetzt werden
+            if (file != None):
+                # file_history wird neu gesetzt in der Rückgabe dieser Funktion...
+                neu_file = file
     
-            #kein Bild hochgeladen -> auf Text antworten...
-            status = "Antwort der KI ..."
-            if (file == None and file_history == None):
-                result, status = generate_text(prompt, chatbot, history, rag_option, model_option, openai_api_key, db, websuche, k=3, top_p=0.6, temperature=0.5, max_new_tokens=4048, max_context_length_tokens=2048, repetition_penalty=1.3, top_k=3)
-                history = history + [[prompt, result]]
+            #herausfinden, ob Bild oder Dokument...
+            ext = analyze_file(neu_file)
+            if (ext == "png" or ext == "PNG" or ext == "jpg" or ext == "jpeg" or ext == "JPG" or ext == "JPEG"):
+                result= generate_text_zu_bild(neu_file, prompt, k, rag_option, chatbot, history, db)
             else:
-                #Es wurde ein File neu angehängt -> wenn prompt dazu, das Bild analysieren
-                #das history_fiel muss neu gesetzt werden
-                if (file != None):
-                    # file_history wird neu gesetzt in der Rückgabe dieser Funktion...
-                    neu_file = file
-    
-                #herausfinden, ob Bild oder Dokument...
-                ext = analyze_file(neu_file)
-                if (ext == "png" or ext == "PNG" or ext == "jpg" or ext == "jpeg" or ext == "JPG" or ext == "JPEG"):
-                    result= generate_text_zu_bild(neu_file, prompt, k, rag_option, chatbot, history, db)
-                else:
-                    result = generate_text_zu_doc(neu_file, prompt, k, rag_option, chatbot, history, db)
+                result = generate_text_zu_doc(neu_file, prompt, k, rag_option, chatbot, history, db)
     
-                #die history erweitern - abhängig davon, ob gerade ein file hochgeladen wurde oder nicht
-                if (file != None):    
-                    history = history + [[(file,), None],[prompt, result]]
-                else:
-                    history = history + [[prompt, result]]
+            #die history erweitern - abhängig davon, ob gerade ein file hochgeladen wurde oder nicht
+            if (file != None):    
+                history = history + [[(file,), None],[prompt, result]]
+            else:
+                history = history + [[prompt, result]]
                     
-            chatbot[-1][1] = ""
-            for character in result:
-                chatbot[-1][1] += character
-                time.sleep(0.03)
-                yield chatbot, history, None, neu_file, status
-                if shared_state.interrupted:
-                    shared_state.recover()
-                    try:
-                        yield chatbot, history, None, neu_file, "Stop: Success"
-                    except:
-                        pass
-        else: #noch nicht validiert, oder kein Prompt
-            return chatbot, history, None, file_history, "Erst validieren oder einen Prompt eingeben!"
+        chatbot[-1][1] = ""
+        for character in result:
+            chatbot[-1][1] += character
+            time.sleep(0.03)
+            yield chatbot, history, None, neu_file, status
+            if shared_state.interrupted:
+                shared_state.recover()
+                try:
+                    yield chatbot, history, None, neu_file, "Stop: Success"
+                except:
+                    pass
+    else: #noch nicht validiert, oder kein Prompt
+        return chatbot, history, None, file_history, "Erst validieren oder einen Prompt eingeben!"
             
 ##################################################
 #zu einem Text-Prompt ein Bild via Stable Diffusion generieren