Update app.py

app.py

@@ -13,12 +13,12 @@ import urllib.parse
 import re
 
 # --- 1. INITIALIZE FASTAPI API ---
-app = FastAPI(title="Orbit SpaceStar Multi-Version Backend API", version="0.03")
+app = FastAPI(title="Orbit SpaceStar Multi-Version Backend API", version="0.03_Super")
 
-# Zorg dat je website (frontend) met deze backend mag praten
+# Zorg dat je website (frontend) vlekkeloos mag praten met deze backend
 app.add_middleware(
     CORSMiddleware,
-    allow_origins=["*"], # Je kunt hier later "https://littendekitten.github.io" van maken voor veiligheid
+    allow_origins=["*"],
     allow_credentials=True,
     allow_methods=["*"],
     allow_headers=["*"],
@@ -112,15 +112,23 @@ class OrbitTransformer(nn.Module):
         logits = self.lm_head(x)
         return logits, None
 
-    def generate(self, idx, max_new_tokens, tokenizer, temperature=0.7, top_k=40):
-        # Haal het ID van het stop-token op
+    def generate(self, idx, max_new_tokens, tokenizer, temperature=0.5, top_k=30):
+        """Geüpgradede generatie met een keiharde herhalingsrem (Repetition Penalty)"""
         end_token_id = tokenizer.token_to_id("<|end|>")
+        repetition_penalty = 1.3  # Strafpunten voor tokens die hij al gebruikt heeft (voorkomt loops!)
         
         for _ in range(max_new_tokens):
             idx_cond = idx[:, -self.block_size:]
             logits, _ = self(idx_cond)
             logits = logits[:, -1, :] / temperature
             
+            # REPETITION PENALTY: Als het model een token herhaalt, maken we de kans erop kleiner!
+            for token_id in set(idx[0].tolist()):
+                if logits[0, token_id] > 0:
+                    logits[0, token_id] /= repetition_penalty
+                else:
+                    logits[0, token_id] *= repetition_penalty
+            
             if top_k is not None:
                 v, _ = torch.topk(logits, min(top_k, logits.size(-1)))
                 logits[logits < v[:, [-1]]] = float('-inf')
@@ -128,10 +136,9 @@ class OrbitTransformer(nn.Module):
             probs = F.softmax(logits, dim=-1)
             idx_next = torch.multinomial(probs, num_samples=1)
             
-            # Voeg toe aan de reeks
             idx = torch.cat((idx, idx_next), dim=1)
             
-            # FIX 3: Stop genereren als het model klaar is (voorkomt loop-crashes)
+            # KEIHARDE STOP-TOKEN CHECK: Meteen kappen als hij klaar is!
             if end_token_id is not None and idx_next.item() == end_token_id:
                 break
                 
@@ -181,20 +188,20 @@ def get_model_and_tokenizer(version: str):
         else:
             raise HTTPException(status_code=404, detail=f"Bestanden niet gevonden: {e}")
 
-# --- 5. INTERNET SEARCH ENGINE (FIXED) ---
+# --- 5. INTERNET SEARCH ENGINE (STRENGER AFGESTELD) ---
 def fetch_internet_context(query: str) -> str:
-    """Haalt info op via DuckDuckGo, maar ALLEEN als er specifiek om wordt gevraagd."""
+    """Haalt info op via DuckDuckGo, maar ALLEEN bij duidelijke zoek-prompts."""
     q_lower = query.lower().strip()
     
-    # FIX 1: De strenge woord-filter. Baguette of "1+1" komt hier niet doorheen!
-    triggers = ["zoek", "wat is", "wie is", "hoe werkt", "search", "what is", "who is", "tell me about"]
-    
+    # Alleen zoeken als het echt een vraag is die begint met deze woorden
+    triggers = ["zoek naar", "wat is", "wie is", "hoe werkt", "search for", "what is", "who is", "tell me about"]
     needs_internet = any(q_lower.startswith(t) for t in triggers)
-    if not needs_internet:
-        return "" # Geen internet nodig, sla direct over.
+    
+    # Extra handrem: als de prompt super kort is (zoals "HI" of "ramen"), NOOIT internet gebruiken!
+    if not needs_internet or len(q_lower) <= 4:
+        return ""
 
     try:
-        # Haal de triggerwoorden eraf voor een schonere zoekopdracht
         clean_q = q_lower
         for t in triggers:
             if clean_q.startswith(t):
@@ -214,7 +221,7 @@ def fetch_internet_context(query: str) -> str:
                         abstract = item["Text"]
                         break
             if abstract:
-                return abstract[:200].strip()
+                return abstract[:180].strip()
     except Exception as e:
         print(f"📡 API fout: {e}")
     return ""
@@ -223,8 +230,8 @@ def fetch_internet_context(query: str) -> str:
 class ChatRequest(BaseModel):
     prompt: str
     version: str = "0.02"
-    temperature: float = 0.6 # Iets lager gezet zodat wiskunde beter gaat (minder gokken)
-    max_tokens: int = 200
+    temperature: float = 0.5 # Iets lager gezet voor meer stabiliteit en minder hallucinaties
+    max_tokens: int = 150    # Iets korter gezet zodat hij niet te lang door-rabbelt
 
 @app.get("/")
 def home():
@@ -234,22 +241,19 @@ def home():
 def chat(request: ChatRequest):
     model, tokenizer = get_model_and_tokenizer(request.version)
     
-    # Check het internet (gaat nu alleen af bij gerichte vragen)
+    # Internet check (negeert "HI")
     internet_info = fetch_internet_context(request.prompt)
     
     think_html_block = ""
     
-    # FIX 2: Slimme Context Injectie
+    # Bouw de nette chat-prompt
     if internet_info:
-        # Dit genereren we direct voor jouw frontend <denk> UI, super mooi!
         think_html_block = f"<denk>Internet uplink succesvol.\nGezocht op: '{request.prompt}'\nGevonden info: {internet_info}</denk>\n"
-        
-        # Dit geven we aan de AI in de achtergrond, zodat we geen woorden meer in zijn mond leggen
-        formatted_prompt = f"<|user|>\n[Verborgen Context: {internet_info}]\n{request.prompt}\n<|assistant|>\n"
+        formatted_prompt = f"<|user|>\n[Context: {internet_info}]\n{request.prompt}\n<|assistant|>\n"
     else:
         formatted_prompt = f"<|user|>\n{request.prompt}\n<|assistant|>\n"
 
-    # Tokenizen
+    # Tokenizen en sturen naar de GPU/CPU
     context = torch.tensor([tokenizer.encode(formatted_prompt).ids], dtype=torch.long, device=DEVICE)
     
     with torch.no_grad():
@@ -258,23 +262,33 @@ def chat(request: ChatRequest):
             max_new_tokens=request.max_tokens, 
             tokenizer=tokenizer,
             temperature=request.temperature, 
-            top_k=40
+            top_k=30
         )[0]
         full_output = tokenizer.decode(generated_tokens.tolist(), skip_special_tokens=False)
         
-    # Knip de prompt eraf
+    # Sloop de prompt-tekst uit het uiteindelijke antwoord
     generated_text = full_output.replace(formatted_prompt, "").replace("<|end|>", "").strip()
     
-    # FIX 3: Interne prompt-lekken afvangen en mooi maken
-    if "User asks" in generated_text or "User greets" in generated_text:
-        # We pakken de interne AI-gedachtes en wikkelen ze in een <denk> blok voor je website
-        parts = re.split(r'(Hello!|I am|I think|In French|The result)', generated_text, maxsplit=1)
+    # --- DE ULTIEME ORBIT-SPACESTAR RETREATING & CLEANING FILTER ---
+    # Sloop alle rare achtergrond-gedachten eruit en forceer zijn naam!
+    
+    # 1. Herken interne hersenspinsels en stop ze in jouw vette frontend <denk> blok!
+    if any(trigger in generated_text for trigger in ["Discuss ramen", "User greets", "User asks", "Provide the basic", "Analyze the"]):
+        parts = re.split(r'(Hello!|Hi!|I am|I think|To print|Based on)', generated_text, maxsplit=1)
         if len(parts) >= 3:
             internal_thought = parts[0].strip()
             actual_speech = parts[1] + parts[2]
-            generated_text = f"<denk>Interne protocol check:\n{internal_thought}</denk>\n{actual_speech}"
+            generated_text = f"<denk>Interne model-analyse:\n{internal_thought}</denk>\n{actual_speech}"
+            
+    # 2. KEIHARDE KORRECTIE: Hij is NIET Orbit Ultra, hij is Orbit-SpaceStar!
+    generated_text = generated_text.replace("Orbit Ultra", "Orbit-SpaceStar")
+    
+    # 3. Voorkom dubbele loops op je scherm (als hij twee keer dezelfde vraag aan zichzelf stelt, knippen we hem af)
+    if "What is the Python command" in generated_text:
+        sub_parts = generated_text.split("What is the Python command")
+        generated_text = sub_parts[0].strip()
 
-    # Plak het internet-denkblok aan het gegenereerde antwoord vast
+    # Plak het internet-denkblok (als dat er is) aan het antwoord vast
     final_response = think_html_block + generated_text
     
     return {