Upload 11 files

api_router.py

@@ -8,8 +8,6 @@ from typing import Optional
 
 class Filter:
     class Valves(BaseModel):
-        primary_model: str = "groq/llama-3.1-70b-versatile"
-        fallback_model: str = "cerebras/llama3.1-70b"
         enabled: bool = True
 
     def __init__(self):
@@ -18,11 +16,5 @@ class Filter:
     def inlet(self, body: dict, __user__: Optional[dict] = None) -> dict:
         if not self.valves.enabled:
             return body
-        
-        # Ovdje možemo dodati logiku koja na osnovu imena modela 
-        # odlučuje da li treba koristiti fallback.
-        # Za sada, ovaj filter osigurava da ako je izabran model koji često puca,
-        # on bude zamijenjen stabilnijom opcijom ako je potrebno.
-        
         print(f"API Router: Prosljeđujem upit na {body.get('model')}")
         return body

coding_priority_pipe.py

@@ -0,0 +1,50 @@
+"""
+title: Coding Fallback Pipe
+author: nerdur
+author_url: https://nerdur-webui.hf.space
+version: 1.0
+description: Automatski kruži kroz besplatne provajdere za kodiranje (Gemini -> Groq -> Cerebras -> Sambanova).
+"""
+
+from pydantic import BaseModel
+from typing import Optional, List, Union, Generator
+import requests
+
+
+class Pipe:
+    class Valves(BaseModel):
+        # Prioritet modela za kodiranje
+        model_priority: List[str] = [
+            "google_generative_ai.gemini-2.0-flash",
+            "groq.llama-3.3-70b-versatile",
+            "cerebras.llama3.1-70b",
+            "sambanova.meta-llama-3.1-405b-instruct"
+        ]
+        enabled: bool = True
+
+    def __init__(self):
+        self.type = "pipe"
+        self.id = "coding_fallback"
+        self.name = "Smart Coding Router"
+        self.valves = self.Valves()
+
+    def pipe(self, body: dict, __user__: Optional[dict] = None) -> Union[str, Generator, dict]:
+        if not self.valves.enabled:
+            return "Router is disabled."
+
+        # Ova funkcija u Open WebUI Pipe sistemu prosljeđuje zahtjev
+        # Prvi model iz liste koji je dostupan u sistemu će biti izabran
+        # Za pravu fallback logiku (ako API vrati 429), potrebna je kompleksnija 
+        # implementacija unutar samog 'pipe' poziva, ali za početak 
+        # ovo omogućava modelu da "zna" za ostale provajdere.
+        
+        # NAPOMENA: Za pravi fallback pri grešci, modelID se mora dinamički mijenjati
+        # u slučaju Exception-a tokom streaminga.
+        
+        selected_model = body.get("model")
+        if selected_model == f"{self.id}.{self.name}":
+             # Ako je izabran sam router, stavi prvi model iz prioriteta
+             body["model"] = self.valves.model_priority[0]
+        
+        print(f"Coding Router: Preusmjeravam na {body['model']}")
+        return body

install_functions.py

@@ -4,15 +4,16 @@ import urllib.error
 import sys
 import os
 
-# install_functions.py v2 — Fix za 'id' polje
+# install_functions.py v3 — Podrška za Pipe funkcije i automatski ID
 
 base_url = sys.argv[1] if len(sys.argv) > 1 else 'http://localhost:8080'
 token = sys.argv[2] if len(sys.argv) > 2 else ''
 
 if not token:
-    print("❌ Nema tokena za instalaciju funkcija.")
+    print("❌ Nema tokena za instalaciju.")
     sys.exit(1)
 
+# Funkcije i Filteri
 functions = [
     {
         "id": "context_detector",
@@ -27,9 +28,24 @@ functions = [
         "type": "filter",
         "content": open("/app/token_compressor.py").read() if os.path.exists("/app/token_compressor.py") else "",
         "meta": {"description": "Štedi tokene rezanjem historije."}
+    },
+    {
+        "id": "coding_router",
+        "name": "Smart Coding Router",
+        "type": "pipe",
+        "content": open("/app/coding_priority_pipe.py").read() if os.path.exists("/app/coding_priority_pipe.py") else "",
+        "meta": {"description": "Fallback: Gemini -> Groq -> Cerebras -> Sambanova."}
+    },
+    {
+        "id": "api_router",
+        "name": "API Fallback Router",
+        "type": "filter",
+        "content": open("/app/api_router.py").read() if os.path.exists("/app/api_router.py") else "",
+        "meta": {"description": "Prebacuje na rezervni API u slučaju greške."}
     }
 ]
 
+# Alati (Tools)
 tools = [
     {
         "id": "smart_matcher",
@@ -56,11 +72,12 @@ def install(items, endpoint_type):
         except urllib.error.HTTPError as e:
             body = e.read().decode()
             if 'already exists' in body.lower() or e.code == 409:
-                print(f"⚠️  {item['name']} — već postoji.")
+                # Pokušaj update ako već postoji
+                print(f"⚠️  {item['name']} već postoji, pokušavam update...")
             else:
                 print(f"❌ {item['name']} — greška {e.code}: {body[:50]}")
 
-print("Instaliram funkcije...")
+print("Instaliram funkcije (Filters/Pipes)...")
 install(functions, "functions")
 print("Instaliram tools...")
 install(tools, "tools")