На русском не отработал корректно, запустил на английском тест 1

app.py

@@ -10,18 +10,18 @@ import openai
 #litellm._turn_on_debug()
 
 # Создание модели
-#model_id = "Qwen/Qwen2.5-Coder-32B-Instruct"
-#hf_token = os.getenv('hf_token')
-#model = HfApiModel(model_id, token=hf_token)
+model_id = "Qwen/Qwen2.5-Coder-32B-Instruct"
+hf_token = os.getenv('hf_token')
+model = HfApiModel(model_id, token=hf_token)
 
-os.environ['SAMBANOVA_API_KEY'] = os.getenv('sambanova_token')
-model = LiteLLMModel(
-    model_id="sambanova/Qwen2.5-Coder-32B-Instruct",
-    max_tokens=2096,
-    temperature=0.1,
-    # api_base="https://api.sambanova.ai/v1",
-    num_ctx=8192
-)
+#os.environ['SAMBANOVA_API_KEY'] = os.getenv('sambanova_token')
+#model = LiteLLMModel(
+#    model_id="sambanova/Qwen2.5-Coder-32B-Instruct",
+#    max_tokens=2096,
+#    temperature=0.1,
+#    # api_base="https://api.sambanova.ai/v1",
+#    num_ctx=8192
+#)
 
 # Создание инструмента для посещения веб-страниц
 class WebpageVisitorTool(Tool):