Update app.py

app.py

@@ -3,24 +3,41 @@ from transformers import pipeline
 import torch
 from duckduckgo_search import DDGS
 
-# Modeli yükle (Hugging Face sunucularında çalışacak)
-model_id = "unsloth/gemma-2-9b-it-bnb-4bit"
-pipe = pipeline("text-generation", model=model_id, device_map="auto", model_kwargs={"torch_dtype": torch.bfloat16})
+# GPU istemeyen, CPU üzerinde akıcı çalışan zeki model
+model_id = "google/gemma-2-2b-it" 
+
+print("Turkbot CPU üzerinde uyanıyor... Lütfen bekleyin.")
+
+# Device -1 demek 'Sadece CPU kullan' demektir, hata almanı engeller
+pipe = pipeline(
+    "text-generation", 
+    model=model_id, 
+    device=-1, 
+    torch_dtype=torch.float32 # CPU için en güvenli format
+)
 
 def internetten_ara(soru):
-    with DDGS() as ddgs:
-        results = [r for r in ddgs.text(soru, max_results=3)]
-        return "\n".join([r['body'] for r in results])
+    try:
+        with DDGS() as ddgs:
+            results = [r for r in ddgs.text(soru, max_results=2)]
+            return "\n".join([r['body'] for r in results])
+    except:
+        return ""
 
 def turkbot_cevap(mesaj, history):
     bilgi = internetten_ara(mesaj)
+    # RAG mantığıyla bilgiyi harmanlıyoruz
     prompt = f"<start_of_turn>user\nBilgi: {bilgi}\nSoru: {mesaj}<end_of_turn>\n<start_of_turn>model\n"
     
-    cevap = pipe(prompt, max_new_tokens=300)[0]['generated_text']
-    return cevap.split("<start_of_turn>model\n")[-1]
+    outputs = pipe(prompt, max_new_tokens=256, do_sample=True, temperature=0.7)
+    cevap = outputs[0]['generated_text'].split("<start_of_turn>model\n")[-1]
+    return cevap.strip()
 
-# Harika bir kullanıcı arayüzü
-demo = gr.ChatInterface(fn=turkbot_cevap, title="TURKBOT v1.0", description="İnternete bağlı, canlı Turkbot!")
+demo = gr.ChatInterface(
+    fn=turkbot_cevap, 
+    title="🤖 TURKBOT CPU", 
+    description="Ücretsiz sunucuda çalışan, internete bağlı akıllı asistan!"
+)
 
 if __name__ == "__main__":
     demo.launch()