Update app.py

app.py

@@ -3,7 +3,6 @@ import PyPDF2
 from langchain.text_splitter import RecursiveCharacterTextSplitter
 from langchain.embeddings import HuggingFaceEmbeddings
 from langchain.vectorstores import FAISS
-# DÜZELTME 1: Gerekli model sınıfını import et
 from transformers import pipeline, AutoTokenizer, AutoModelForSeq2SeqLM
 import os
 import torch
@@ -15,12 +14,11 @@ CHUNK_OVERLAP = 150
 EMBEDDING_MODEL_NAME = "intfloat/multilingual-e5-base"
 LLM_MODEL_NAME = "google/flan-t5-base"
 
-# MODEL_MAX_INPUT_TOKENS'a T5 için doğrudan gerek yok, tokenizer halleder.
 MAX_NEW_TOKENS = 256
 DEVICE = "cuda" if torch.cuda.is_available() else "cpu"
 
 # --- 1. PDF'ten Vektör Veritabanı Oluştur ---
-# Bu fonksiyonda bir değişiklik yok, doğru çalışıyor.
+# Bu fonksiyonda bir değişiklik yok.
 def create_vector_db_from_pdf(pdf_path):
     print(f"PDF okunuyor: {pdf_path}")
     text = ""
@@ -34,18 +32,15 @@ def create_vector_db_from_pdf(pdf_path):
     except Exception as e:
         print(f"PDF okunurken hata oluştu: {e}")
         return None
-
     if not text:
         print("PDF'ten metin çıkarılamadı.")
         return None
-
     print(f"Metin toplam {len(text)} karakter.")
     text_splitter = RecursiveCharacterTextSplitter(
         chunk_size=CHUNK_SIZE, chunk_overlap=CHUNK_OVERLAP, length_function=len
     )
     chunks = text_splitter.split_text(text)
     print(f"Metin {len(chunks)} parçaya ayrıldı.")
-
     print(f"Embedding modeli yükleniyor: {EMBEDDING_MODEL_NAME}")
     embeddings = HuggingFaceEmbeddings(model_name=EMBEDDING_MODEL_NAME, model_kwargs={'device': DEVICE})
     print("FAISS vektör veritabanı oluşturuluyor...")
@@ -53,7 +48,6 @@ def create_vector_db_from_pdf(pdf_path):
     print("Vektör veritabanı başarıyla oluşturuldu.")
     return db
 
-
 vector_db = None
 if os.path.exists(PDF_PATH):
     vector_db = create_vector_db_from_pdf(PDF_PATH)
@@ -61,96 +55,86 @@ else:
     print(f"Hata: {PDF_PATH} bulunamadı. Lütfen PDF dosyasını yükleyin.")
 
 # --- 2. LLM Yükleme ---
+# Bu bölümde bir değişiklik yok.
 text_generation_pipeline = None
 try:
     print(f"Model yükleniyor: {LLM_MODEL_NAME} -> Cihaz: {DEVICE}")
     tokenizer = AutoTokenizer.from_pretrained(LLM_MODEL_NAME)
-    
-    # DÜZELTME 1: Doğru model sınıfını kullan (AutoModelForSeq2SeqLM)
     model = AutoModelForSeq2SeqLM.from_pretrained(
-        LLM_MODEL_NAME,
-        torch_dtype=torch.float32,
-        low_cpu_mem_usage=True
+        LLM_MODEL_NAME, torch_dtype=torch.float32, low_cpu_mem_usage=True
     )
-
     model.to(DEVICE)
-
-    # DÜZELTME 2: 'device_id' değişkenini tanımla
     device_id = 0 if DEVICE == "cuda" else -1
-
     text_generation_pipeline = pipeline(
         "text2text-generation",
         model=model,
         tokenizer=tokenizer,
         device=device_id,
-        max_length=MAX_NEW_TOKENS # T5'te max_new_tokens yerine max_length daha yaygındır
+        max_length=MAX_NEW_TOKENS
     )
     print("LLM pipeline başarıyla oluşturuldu.")
-
 except Exception as e:
     print(f"LLM yüklenirken hata oluştu: {e}")
     text_generation_pipeline = None
 
-# --- 3. Soru-Cevap Fonksiyonu ---
-def answer_question(question, chat_history):
-    # Model veya veritabanı yüklenememişse hata mesajı göster
+# --- 3. Soru-Cevap Fonksiyonu (DÜZELTİLDİ) ---
+# DİKKAT: Bu fonksiyon artık sohbet geçmişini ('chat_history') almıyor.
+# Sadece soruyu alıp, cevabı bir metin olarak döndürüyor.
+def get_answer_from_llm(question):
     if vector_db is None or text_generation_pipeline is None:
-        err = "Model veya PDF yüklenemedi. Lütfen logları kontrol edin."
-        chat_history.append((question, err))
-        return chat_history
+        return "Model veya PDF yüklenemedi. Lütfen logları kontrol edin."
 
     print(f"Gelen soru: {question}")
-    k = 3  # Daha iyi bağlam için 3 parça getirmek daha iyi olabilir
+    k = 3
     retrieved_docs = vector_db.similarity_search(question, k=k)
 
     if not retrieved_docs:
-        chat_history.append((question, "Bu soruyla ilgili belgede bilgi bulunamadı."))
-        return chat_history
+        return "Bu soruyla ilgili belgede bilgi bulunamadı."
 
     context = "\n\n".join([doc.page_content for doc in retrieved_docs])
     
-    # T5 modelleri için prompt formatı biraz daha basit olabilir
+    # DÜZELTME 2: Prompt'u daha basit ve net hale getirdik.
+    # Modelin kafasını karıştıracak "Soru:", "Bağlam:" gibi kelimeleri sadeleştirdik.
     prompt = (
-        "Aşağıdaki bağlamı kullanarak soruyu yanıtla. Bağlamda cevap yoksa 'Bilgi bulunamadı' de.\n\n"
-        f"Bağlam: {context}\n\n"
-        f"Soru: {question}\n\n"
+        "Verilen metne dayanarak aşağıdaki soruyu cevaplayın.\n\n"
+        f"Metin: \"{context}\"\n\n"
+        f"Soru: \"{question}\"\n\n"
         "Cevap:"
     )
 
-    print(f"Prompt token sayısı: {len(tokenizer.encode(prompt))}")
+    print("LLM'e gönderilen prompt'un başlangıcı:", prompt[:500])
 
     try:
-        # Pipeline'ı çalıştır
         outputs = text_generation_pipeline(prompt)
-        # DÜZELTME 3: T5 çıktısı zaten temizdir, .replace'e gerek yok
         final_answer = outputs[0]["generated_text"].strip()
+        return final_answer
     except Exception as e:
         print("Cevap üretilirken hata:", e)
-        final_answer = f"Cevap üretilemedi: {e}"
-    
-    chat_history.append((question, final_answer))
-    return chat_history
+        return f"Cevap üretilemedi: {e}"
 
-# --- 4. Gradio Arayüzü (Daha Akıcı Kullanım İçin İyileştirildi) ---
+# --- 4. Gradio Arayüzü (DÜZELTİLDİ) ---
 with gr.Blocks(theme=gr.themes.Soft()) as demo:
     gr.Markdown("# 📘 Fırat Üniversitesi Mevzuat Asistanı")
-    # Chatbot'un label'ını ve yüksekliğini değiştirdim
-    chatbot = gr.Chatbot(label="Sohbet Geçmişi", height=500) 
+    chatbot = gr.Chatbot(label="Sohbet Geçmişi", height=500)
     msg = gr.Textbox(label="Sorunuzu yazın:", placeholder="Örn: MADDE 1’i özetle")
 
-    # Kullanıcının mesajını anında ekleyip sonra cevabı bekleyen fonksiyon
+    # DÜZELTME 1: Sohbet mantığını tamamen düzelttik.
+    # Bu yeni yapı, Gradio ile chatbot yapmak için doğru yöntemdir.
+    
+    # 1. Adım: Kullanıcı mesajını gönderir. Mesaj kutusu temizlenir ve pasif hale gelir.
+    # Sohbet geçmişine [kullanıcı_mesajı, None] eklenir.
     def user(user_message, history):
         return gr.update(value="", interactive=False), history + [[user_message, None]]
 
-    # Cevap geldikten sonra textbox'ı tekrar aktif eden fonksiyon
+    # 2. Adım: Model cevabı üretir ve sohbet geçmişindeki "None" olan yeri doldurur.
+    # Cevap gelince mesaj kutusu tekrar aktif hale gelir.
     def bot(history):
-        # Son kullanıcı mesajını al
         question = history[-1][0]
-        # Cevabı üret
-        history = answer_question(question, history)
+        answer = get_answer_from_llm(question)
+        history[-1][1] = answer
         return history, gr.update(interactive=True)
 
-    # Buton ve Enter tuşu olayları
+    # Enter veya butona basıldığında user fonksiyonu, ardından bot fonksiyonu çalışır.
     msg.submit(user, [msg, chatbot], [msg, chatbot], queue=False).then(
         bot, chatbot, [chatbot, msg]
     )
@@ -158,6 +142,5 @@ with gr.Blocks(theme=gr.themes.Soft()) as demo:
     clear_btn = gr.Button("Sohbeti Temizle")
     clear_btn.click(lambda: (None, []), None, [msg, chatbot], queue=False)
 
-
 if __name__ == "__main__":
-    demo.launch(debug=True) # debug=True logları daha detaylı görmeni sağlar
+    demo.launch(debug=True)