Update app.py

app.py

@@ -9,9 +9,29 @@ print("Model yükleniyor, biraz sürebilir...")
 pipe = pipeline("text-generation", model=model_id)
 
 def generate_text(prompt):
+    # EFSANE DOKUNUŞ: Senin eğitim formatını buraya uyguluyoruz!
+    # Model artık nerede başlayıp nerede biteceğini bilecek.
+    formatted_prompt = f"<|user|>\n{prompt}<|end|>\n<|assistant|>\n"
+    
     # Modele prompt'u verip cevabı alıyoruz
-    result = pipe(prompt, max_length=100, num_return_sequences=1)
-    return result[0]['generated_text']
+    result = pipe(
+        formatted_prompt, 
+        max_new_tokens=150,       
+        do_sample=True,           
+        temperature=0.2,          
+        repetition_penalty=1.18,  # Tekrar cezasını 1.18 yaptık
+        num_return_sequences=1,
+        return_full_text=False    # Bu ayar sayesinde model bizim sorumuzu cevaba katmıyor
+    )
+    
+    generated = result[0]['generated_text']
+    
+    # Model cevap vermeyi bitirdiğinde muhtemelen sonuna <|end|> koyacaktır.
+    # Kullanıcı bunu görmesin diye o kısmı kesip atıyoruz.
+    if "<|end|>" in generated:
+        generated = generated.split("<|end|>")[0]
+        
+    return generated.strip()
 
 # Gradio arayüzünü oluşturuyoruz
 iface = gr.Interface(
@@ -19,7 +39,7 @@ iface = gr.Interface(
     inputs=gr.Textbox(lines=5, placeholder="Buraya bir şeyler yaz kanka..."),
     outputs="text",
     title="SykoLLM-V5.6 Test Alanı",
-    description="Burak'ın 447M parametreli efsane modeli!"
+    description="Özel token'larla güçlendirilmiş 447M parametreli model!"
 )
 
 iface.launch()