Update app.py

app.py

@@ -78,40 +78,36 @@ def enhance_for_gradio(prompt_text, api_key):
     ]
     
     try:
-        result = pipe(messages, max_new_tokens=256, temperature=0.7, do_sample=True)
+        result = pipe(
+            messages,
+            max_new_tokens=512,
+            temperature=0.7,
+            do_sample=True,
+            stop_strings=["<end_of_turn>"]  # Modelin üretmeyi durdurması gereken token
+        )
         full_response = result[0]["generated_text"]
 
-        # Eğer full_response bir liste ise (örneğin [{'role': '...', 'content': '...'}, ...])
+        # Eğer full_response bir liste ise
         if isinstance(full_response, list):
             # Assistant rolündeki son mesajı bul
-            assistant_messages = [msg["content"] for msg in full_response if msg["role"] == "assistant"]
+            assistant_messages = [msg.get("content", "") for msg in full_response if msg.get("role") == "assistant"]
             if assistant_messages:
                 enhanced_prompt = assistant_messages[-1]
             else:
-                enhanced_prompt = "No assistant response found."
+                # Eğer assistant mesajı yoksa, tüm çıktıyı birleştir
+                enhanced_prompt = " ".join([msg.get("content", "") for msg in full_response])
         else:
-            # Eğer string ise, assistant kısmını elle ayırmaya çalış
-            if '"role": "assistant"' in full_response:
-                parts = full_response.split('"role": "assistant"')
-                last_part = parts[-1]
-                if '"content":' in last_part:
-                    start = last_part.find('"content":') + len('"content":')
-                    content = last_part[start:].strip()
-                    if content.startswith('"'):
-                        end_quote = content[1:].find('"') + 1
-                        enhanced_prompt = content[1:end_quote]
-                    else:
-                        enhanced_prompt = content.split("}")[0].strip(' "\'')
-                else:
-                    enhanced_prompt = "Could not extract assistant content."
-            else:
-                # Fallback: sadece assistant kısmını tahmin et
-                enhanced_prompt = full_response.strip()
+            # Eğer string ise
+            enhanced_prompt = full_response
 
-        # Özel token'ları temizle
+        # Temizlik işlemleri
         enhanced_prompt = enhanced_prompt.replace("<end_of_turn>", "").strip()
 
-        return enhanced_prompt if enhanced_prompt else "No enhanced prompt generated."
+        # Eğer hâlâ boşsa fallback
+        if not enhanced_prompt:
+            return "Model did not generate a valid response. Try again or check the prompt."
+
+        return enhanced_prompt
 
     except Exception as e:
         return f"Enhancement failed: {str(e)}"