Update app.py

app.py

@@ -7,7 +7,7 @@ import gradio as gr
 from transformers import AutoModelForCausalLM, AutoTokenizer, TextIteratorStreamer
 from threading import Thread
 
-# İstediğin modeller sabit tutuldu
+# İstediğin modeller sabit
 DEFAULT_MODELS = [
     "Qwen/Qwen3.8-27B",
     "Qwen/Qwen3.5-9B"
@@ -108,28 +108,32 @@ def api_completion(model_name, lsu_accesstoken, messages, temperature, max_token
     thread = Thread(target=model.generate, kwargs=generation_kwargs)
     thread.start()
     
-    # Düşünme (<think>...</think>) kısımlarını filtrelemek için durum yönetimi
-    buffer = ""
-    thinking_skipped = False
+    # KUSURSUZ THINK FİLTRELEME BUFFER MİMARİSİ
+    accumulated_text = ""
+    thinking_done = False
+    sent_length = 0
 
     for new_text in streamer:
-        if not thinking_skipped:
-            buffer += new_text
-            if "</think>" in buffer:
-                # </think> etiketini bulduk, sonrasındaki gerçek yanıtı ayırıyoruz
-                parts = buffer.split("</think>", 1)
-                thinking_skipped = True
-                cleaned_text = parts[1].lstrip("\n")
-                if cleaned_text:
-                    yield cleaned_text
-            elif not buffer.startswith("<think>") and len(buffer) > 80:
-                # Model düşünme etiketi kullanmıyorsa doğrudan akışı başlat
-                thinking_skipped = True
-                yield buffer
-                buffer = ""
+        accumulated_text += new_text
+        
+        if not thinking_done:
+            # Model hâlâ düşünüyor veya </think> etiketi henüz tamamlanmadı
+            if "</think>" in accumulated_text:
+                thinking_done = True
+                # </think> etiketinden sonraki kısmı buluyoruz
+                idx = accumulated_text.find("</think>") + len("</think>")
+                clean_part = accumulated_text[idx:].lstrip("\n")
+                if clean_part:
+                    yield clean_part
+                    sent_length = len(clean_part)
         else:
-            # Düşünme kısmı bitti, gelen her parçayı doğrudan gönder
-            yield new_text
+            # Düşünme kısmı bitti, gelen temiz yanıtı eksiksiz ve parça parça akıtıyoruz
+            idx = accumulated_text.find("</think>") + len("</think>")
+            clean_part = accumulated_text[idx:].lstrip("\n")
+            if len(clean_part) > sent_length:
+                new_chunk_to_send = clean_part[sent_length:]
+                yield new_chunk_to_send
+                sent_length = len(clean_part)
 
     print("✅ Yanıt akışı tamamlandı.", flush=True)