added stepback-Prompting

app.py

@@ -328,6 +328,40 @@ class BSIChatbot:
 
         return query, context
 
+    def queryRemoteLLM(self, systemPrompt, query, summary):
+        if summary != True:
+            chat_completion = self.llm_client.chat.completions.create(
+                messages=[{"role": "system", "content": systemPrompt},
+                          {"role": "user", "content": "Step-Back Frage, die neu gestellt werden soll: " + query}],
+                model=self.llm_remote_model,
+            )
+        if summary == True:
+            chat_completion = self.llm_client.chat.completions.create(
+                messages=[{"role": "system", "content": systemPrompt},
+                          {"role": "user", "content": query}],
+                model=self.llm_remote_model,
+            )
+        return Answer
+
+    def stepBackPrompt(self, query):
+        systemPrompt = """
+        Sie sind ein Experte für den IT-Grundschutz des BSI. 
+        Ihre Aufgabe ist es, eine Frage neu zu formulieren und sie in eine
+        Stepback-Frage umzuformulieren, die nach einem Grundkonzept der Begrifflichkeit fragt. 
+
+        Hier sind ein paar Beispiele:
+        Ursprüngliche Frage: Welche Bausteine werden auf einen Webserver angewendet?
+        Stepback-Frage: Wie werden Bausteine im IT-Grundschutz angewendet?
+
+        Ursprüngliche Frage: Wer war der Ehemann von Anna Karina von 1968 bis 1974?
+        Stepback-Frage: Wer waren die Ehegatten von Anna Karina?
+
+        Ursprüngliche Frage: Welche Inhalte enthält der Standard 200-1?
+        Stepback Frage: Welche Standards gibt es im IT-Grundschutz?
+        """
+        stepBackQuery = queryRemoteLLM(systemPrompt, query)
+        return stepBackQuery
+
     def ragPromptNew(self, query, rerankingStep, history, stepBackPrompt):
         global rerankingModel
         prompt_in_chat_format = [
@@ -584,39 +618,7 @@ class BSIChatbot:
     def launchGr(self):
         gr.Interface.from_pipeline(self.llmpipeline).launch()
 
-    def queryRemoteLLM(self, systemPrompt, query, summary):
-        if summary != True:
-            chat_completion = self.llm_client.chat.completions.create(
-                messages=[{"role": "system", "content": systemPrompt},
-                          {"role": "user", "content": "Step-Back Frage, die neu gestellt werden soll: " + query}],
-                model=self.llm_remote_model,
-            )
-        if summary == True:
-            chat_completion = self.llm_client.chat.completions.create(
-                messages=[{"role": "system", "content": systemPrompt},
-                          {"role": "user", "content": query}],
-                model=self.llm_remote_model,
-            )
-        return Answer
 
-    def stepBackPrompt(self, query):
-        systemPrompt = """
-        Sie sind ein Experte für den IT-Grundschutz des BSI. 
-        Ihre Aufgabe ist es, eine Frage neu zu formulieren und sie in eine
-        Stepback-Frage umzuformulieren, die nach einem Grundkonzept der Begrifflichkeit fragt. 
-
-        Hier sind ein paar Beispiele:
-        Ursprüngliche Frage: Welche Bausteine werden auf einen Webserver angewendet?
-        Stepback-Frage: Wie werden Bausteine im IT-Grundschutz angewendet?
-
-        Ursprüngliche Frage: Wer war der Ehemann von Anna Karina von 1968 bis 1974?
-        Stepback-Frage: Wer waren die Ehegatten von Anna Karina?
-
-        Ursprüngliche Frage: Welche Inhalte enthält der Standard 200-1?
-        Stepback Frage: Welche Standards gibt es im IT-Grundschutz?
-        """
-        stepBackQuery = queryRemoteLLM(systemPrompt, query)
-        return stepBackQuery
 
 if __name__ == '__main__':
     #RAW_KNOWLEDGE_BASE = []