Локальная ollama нормально подцепила модельку

app.py

@@ -1,4 +1,4 @@
-from smolagents import CodeAgent,DuckDuckGoSearchTool, HfApiModel, load_tool, tool, TransformersModel
+from smolagents import CodeAgent,DuckDuckGoSearchTool, HfApiModel, load_tool, tool, LiteLLMModel
 import datetime
 import requests
 import json
@@ -103,6 +103,18 @@ model = HfApiModel(
     token=os.getenv('hf_token'),
 )
 
+'''
+# Локальная модель:
+# ollama = Запустился номально, но надо модельку нормальную под GPU
+model = LiteLLMModel(
+    model_id="ollama/smollm:360m",
+    max_tokens=2096,
+    temperature=0.6,
+    api_base="http://localhost:11434",
+    num_ctx=8192
+)
+'''
+
 # print("Model Image")
 # Import tool from Hub
 # image_generation_tool = load_tool("agents-course/text-to-image", trust_remote_code=True)