--- title: Türkçe Tıbbi Doküman RAG Sistemi emoji: 🏥 colorFrom: blue colorTo: green sdk: gradio app_file: app.py pinned: false --- # 🏥 Türkçe Tıbbi RAG Sistemi: Güvenilir ve Eşik Kontrollü Bilgi Getirimi Bu proje, `umutertugrul/turkish-hospital-medical-articles` veri setindeki tıbbi makaleleri temel alan gelişmiş bir retrieval (bilgi getirimi) sistemidir. Sistemin temel amacı **halüsinasyonu (uydurma bilgi üretimini) engellemektir.** Gelen soruya karşılık veritabanında yeterli benzerlikte (belirlenen eşik değerinin üzerinde) bir bağlam bulunamazsa, sistem "Bu sorunun cevabı dokümanlarımda yer almamaktadır" yanıtını verir ve LLM'e (Büyük Dil Modeli) hiçbir eksik veya yanlış bilgi iletmez. --- ## 1. Veri Seti Seçimi ve Hazırlık * **Kullanılan Kaynak:** 14 farklı hastane ve sağlık kurumunun web sitesinden derlenen [`umutertugrul/turkish-hospital-medical-articles`](https://huggingface.co/datasets/umutertugrul/turkish-hospital-medical-articles) veri seti tercih edilmiştir. * **Neden Tercih Edildi?** Veri setinin sunduğu kolon yapısı (`url`, `title`, `text`, `__source`), projenin gerektirdiği zorunlu ve opsiyonel metadata alanlarıyla birebir uyuşmaktadır. * **Veri Örnekleme:** 14 farklı parquet dosyası `src/data_loader.py` üzerinden birleştirilmekte ve `src/config.py` dosyasındaki `SAMPLE_SIZE` parametresine (varsayılan: 300) göre rastgele örneklere ayrılmaktadır. ## 2. Metin Parçalama (Chunking) Yaklaşımı Makalelerin uzunlukları ve paragraf yapıları çok değişken olduğu için "paragraf bazlı bölme" yerine, sistemin istikrarını artıracak **Sabit Token + Örtüşme (Overlap)** stratejisi benimsenmiştir. * `CHUNK_SIZE_TOKENS = 400`: Embedding modelinin kapasitesi göz önünde bulundurularak, konsept bütünlüğünü bozmayacak en ideal boyut seçilmiştir. * `CHUNK_OVERLAP_TOKENS = 80`: Bilginin parçalanma sınırlarında (chunk sınırları) kaybolmaması için yaklaşık %20 oranında bir örtüşme payı bırakılmıştır. *Not: Token sayımları doğrudan kullanılan embedding modelinin (`magibu/embeddingmagibu-200m`) kendi tokenizer'ı ile yapılarak tam uyumluluk sağlanmıştır.* ## 3. Vektör Depolama Mimarisi * **Veritabanı:** Ek bir sunucu kurulumu gerektirmeyen, disk tabanlı **ChromaDB** kullanılmıştır. * **Mimari Karar:** ChromaDB'nin kendi dahili embedding özellikleri devre dışı bırakılmıştır (`embedding_function=None`). Vektörler `src/embedder.py` üzerinden bağımsız olarak üretilip veritabanına kaydedilir. Bu sayede model ve veritabanı bağımlılıkları birbirinden tamamen izole edilmiştir. * **Dışa Aktarım:** Oluşturulan veriler Hugging Face'e yüklenebilecek standartlarda bir parquet dosyasına (`output/turkish_medical_chunks.parquet`) dönüştürülür. Çıktı şu sütunları içerir: `url`, `chunk_text`, `chunk_vector`, `title`, `__source`, `parent_id` ve `chunk_id`. ## 4. Kullanılan Embedding Modeli Semantik arama için **`magibu/embeddingmagibu-200m`** modeli entegre edilmiştir. * **Özellikleri:** 768 vektör boyutuna ve 8.192 tokenlık oldukça geniş bir bağlam penceresine (context window) sahiptir. * **Tercih Sebebi:** Doğrudan Türkçe diline özel distile edilmiş olması ve TR-MTEB testlerinde arama (retrieval) ile STS görevlerinde yüksek performans sergilemesidir. ## 5. Değerlendirme (Evaluation) ve Eşik (Threshold) Mekanizması Proje içerisinde yer alan `eval/run_eval.py` dosyası, sistemin ne kadar doğru yanıt verdiğini test etmek için 20'si veri setinde olan (pozitif), 10'u olmayan (negatif) toplam 30 soruluk bir test grubunu (`eval/test_questions.json`) kullanır. Sistem, 0.05 ile 0.95 arasındaki eşik (threshold) değerlerini tarayarak bir **Confusion Matrix (Karmaşıklık Matrisi)** çıkarır. Tıbbi uygulamalarda "yanlış bilgi uydurmak (False Positive)", "bilinen bir cevabı verememekten (False Negative)" çok daha risklidir. Bu nedenle ideal eşik değeri, F1 skorunu maksimize eden aynı zamanda False Positive oranını minimize eden nokta olarak belirlenir. **Önemli:** Mock (TF-IDF) ortamında belirlenen ideal eşik değeri ile gerçek embedding modelinin üreteceği kosinüs (cosine) benzerlik skorları tamamen farklı dağılımlar gösterecektir. Gerçek modelle değerlendirme script'i çalıştırıldıktan sonra, çıkan yeni ideal oran `src/config.py` içerisindeki `SIMILARITY_THRESHOLD` değerine manuel olarak girilmelidir. --- ## 🚀 Hızlı Kurulum ve Kullanım Rehberi Projeyi bilgisayarınıza indirin ve gerekli kütüphaneleri kurun: ```bash git clone cd turkish-medical-rag pip install -r requirements.txt