Update utils.py

utils.py

@@ -291,19 +291,19 @@ def grade_documents_direct(prompt, documents):
 
     # LLM
     model = ChatOpenAI(temperature=0.3, model="gpt-4-0125-preview", streaming=True)
-    print("hier1..................................")
+    
     # Tool
     grade_tool_oai = convert_to_openai_tool(grade)
-    print("hier2..................................")
+    
     # LLM with tool and enforce invocation
     llm_with_tool = model.bind(
         tools=[convert_to_openai_tool(grade_tool_oai)],
         tool_choice={"type": "function", "function": {"name": "grade"}},
     )
-    print("hier3..................................")
+    
     # Parser
     parser_tool = PydanticToolsParser(tools=[grade])
-    print("hier4..................................")
+    
     # Prompt
     prompt = PromptTemplate(
         template="""Du bist ein Bewerter, der die Relevanz von einem erhaltenen Dokument zu einer Nutzeranfrage bewerten soll. \n
@@ -313,16 +313,18 @@ def grade_documents_direct(prompt, documents):
         Gib eine binäre Bewertung von 'ja' oder 'nein' Bewertung, um anzuzeigen ob das Dokuemnt relevant ist zur Nutzeranfrage oder nicht.""",
         input_variables=["context", "question"],
     )
-    print("hier5..................................")
+    
     # Chain
     chain = prompt | llm_with_tool | parser_tool
-    print("hier6..................................")
+    
     # Score
     filtered_docs = []
 
     for d in documents:
         score = chain.invoke({"question": prompt, "context": d.page_content})
+        print("hier1..................................")
         grade = score[0].binary_score
+        print("hier2..................................")
         if grade == "ja":
             print("---Bewertung: Dokument ist relevant---")
             filtered_docs.append(d)