Update app.py

app.py

@@ -32,13 +32,13 @@ def respond(message, history):
             
     messages.append({"role": "user", "content": message})
     
-    response = client.chat.completions.create(
-        model="local-model",
+    response = llm.create_chat_completion(
         messages=messages,
         temperature=0.3,
     )
     
-    return response.choices[0].message.content
+    # llama_cpp'nin döndürdüğü sözlük (dictionary) yapısına göre içeriği çekiyoruz
+    return response["choices"][0]["message"]["content"]
 
 demo = gr.ChatInterface(respond, title="PolBot06 - PoliticalBot from Angara")
 demo.launch()