samliumay/first_rag_db_manuel_config_trial

Atlas Hospital Türkçe Medikal RAG Deneyi

Bu depo, bir metni parçalama, parçaları gömme (embedding), ChromaDB'ye kaydetme ve benzerlik eşiğiyle cevaplanabilirlik kararı verme adımlarını uçtan uca göstermek için hazırlanmış bir ödev çalışmasıdır.

Kaynak veri, umutertugrul/turkish-hospital-medical-articles veri setindeki Atlas Hospital bölümüdür. Ham dosyada 130 makale bulunur; metne göre yinelenen iki kayıt çıkarıldığında 128 benzersiz makale işlenir.

Bu çalışma eğitim amaçlıdır. İçerik ve arama sonuçları tıbbi tanı, tedavi ya da profesyonel sağlık danışmanlığı yerine kullanılamaz.

Depo çıktıları

Dosya/dizin	İçerik	Kayıt sayısı
data/atlas.parquet	Atlas Hospital kaynak makaleleri	130
data/atlas_chunks.parquet	Metin parçaları ve kaynak metadatası	377
data/atlas_chunks_with_vectors.parquet	Parçalar ve 768 boyutlu vektörler	377
data/chroma_db/	Kalıcı ChromaDB koleksiyonu	377
test/benchmark.jsonl	Cevaplı ve cevapsız değerlendirme soruları	30
test/results.jsonl	Son benchmark koşusunun ayrıntılı sonuçları	30

Ana çalışma ve ara kontroller first_rag_db_manuel_config_trial.ipynb içinde, tekrarlanabilir benchmark ise test/test.py içindedir.

Parçalama stratejisi

Kaynak makalelerde düzenli ve güvenilir paragraf/başlık sınırları olmadığı için tokenizer tabanlı, sabit üst sınırlı kayan pencere yaklaşımı kullanıldı:

• Her makalenin başlığı parça metninin başına eklenir. Böylece tek başına getirilen bir parça konu bilgisini korur.
• Üst sınır 400 token'dır. Embedding modeline gönderilmeden önce her parça yeniden tokenize edilerek bu sınır doğrulanır.
• Ardışık parçalar arasında 64 token örtüşme kullanılır. Sınırda kalan tanım ve cümlelerin bağlamını korumak amaçlanır.
• Aynı metne sahip makaleler parçalamadan önce elenir.
• parent_id ve chunk_id değerleri girdiden deterministik biçimde üretilir; aynı veri tekrar işlendiğinde kimlikler değişmez.

Bu ayarlarla 128 benzersiz makaleden 377 parça elde edildi. En uzun parça tam olarak 400 token'dır.

Bu yöntem temelde klasik sabit token sayılı kayan pencere (fixed-token sliding window) stratejisidir; ancak doğrudan uygulanmak yerine birkaç ek özellikle zenginleştirilmiştir:

• Her chunk'ın başına makale başlığı eklenerek parçanın tek başına getirildiğinde konu bağlamını koruması sağlanır.
• Parça metni oluşturulduktan sonra yeniden tokenize edilerek 400 token üst sınırı kesin olarak doğrulanır.
• parent_id, chunk_id, chunk_index, token_start ve token_end alanlarıyla her parçanın kaynak makalesi ve makale içindeki konumu izlenebilir.
• Parçalamadan önce aynı metne sahip makaleler elenerek gerçek veri tekrarları önlenir.

Hugging Face veri görünümünde aynı parent_id altındaki -0000, -0001 gibi ardışık chunk'ların bazı bölümleri tekrar ediyor gibi görünebilir. Bu bir duplicate hatası değildir: önceki chunk'ın son 64 gövde token'ı sonraki chunk'ın başında kasıtlı olarak yeniden kullanılır ve makale başlığı da her chunk'a eklenir. Bu örtüşme, önemli bir ifadenin chunk sınırında ikiye ayrılması durumunda bağlamın tamamen kaybolmasını önler. Üretilen 377 chunk_text değerinin tamamı birbirinden farklıdır.

Paragraf, cümle, semantik veya karma (mixed) parçalama gibi başka stratejiler de uygulanabilir. Bununla birlikte 400 token + 64 token örtüşme yaklaşımı bu çalışma için bilinçli olarak seçilen uygulanabilir bir başlangıç yöntemidir: basittir, aynı girdide tekrarlanabilir sonuç üretir, modelin token sınırını kesin olarak korur ve mevcut benchmarkta 30/30 başarı sağlamıştır. Yalnızca daha karmaşık bir yöntem kullanmış olmak için bu stratejiyi değiştirmek ek fayda sağlamayabilir. İleride karşılaştırmalı bir deney yapılırsa en anlamlı aday, cümleleri ortadan kesmeden yine 400 token üst sınırını koruyan cümle sınırı duyarlı karma parçalamadır. Chunk sınırları değiştiğinde chunk_id değerleri ve benchmark referansları da yeniden üretilmelidir.

Embedding ve vektör veritabanı

Embedding modeli olarak Türkçe odaklı magibu/embeddingmagibu-200m kullanıldı. Veri kümesindeki makaleler ve benchmark soruları Türkçe olduğu için, Türkçe metinler arasındaki anlamsal yakınlığı doğrudan modellemek üzere Türkçe odaklı bir embedding modeli tercih edildi. Modelin 768 boyutlu çıktısı yönetilebilir bir depolama/arama maliyeti sunar; 8192 token bağlam penceresi de kullanılan 400 tokenlık parçaların oldukça üzerindedir. Her parça float32 vektöre dönüştürülür ve kosinüs benzerliği için açıkça L2-normalize edilir.

Vektörler iki biçimde saklanır:

1. data/atlas_chunks_with_vectors.parquet, taşınabilir veri çıktısıdır. Ödevde istenen url, chunk_text ve chunk_vector alanlarının yanında kaynak ve parça metadatasını da içerir.
2. data/chroma_db/, atlas_medical_articles adlı kalıcı ChromaDB koleksiyonudur ve kosinüs uzaklığı kullanır.

ChromaDB sorgusunda dönen değer uzaklıktır. Test kodu bunu benzerlik = 1 - uzaklık formülüyle benzerliğe çevirir. 377 parçanın CPU üzerinde toplu olarak gömülmesi bu makinede yaklaşık 3 dakika 31 saniye sürdü; süre donanıma ve çalışan diğer süreçlere göre değişir.

Kurulum ve yeniden üretim

requirements.txt, PyTorch'un CPU paket indeksini ve CPU sürümünü kullanacak şekilde ayarlanmıştır:

python3 -m venv .venv
.venv/bin/python -m pip install -r requirements.txt

Ardından notebook hücreleri sırasıyla çalıştırılarak temizlenmiş parçalar, embedding dosyası ve ChromaDB yeniden üretilebilir. Model ilk kullanımda Hugging Face'ten indirileceği için internet bağlantısı gerekir.

Benchmark veri seti

test/benchmark.jsonl toplam 30 soru içerir:

• 20 cevaplı soru: beklenen kısa cevapla birlikte doğrulama yapılabilecek chunk_id, başlık, URL ve kanıt metni bulunur.
• 10 cevapsız soru: reference alanı null değerindedir. Sorunun konusu olan terimlerin kaynak koleksiyonda bulunmadığı doğrulama sırasında ayrıca kontrol edilir.

Bu ayrım yalnızca en benzer parçayı bulmayı değil, veri setinde cevabı olmayan sorulara standart bir ret yanıtı vermeyi de ölçer:

Bu sorunun cevabı dokümanlarımda yer almamaktadır

Benchmark dosyasının yapısını ve referanslarını model yüklemeden kontrol etmek için:

.venv/bin/python test/test.py --validate-only

Gerçek embedding ve ChromaDB aramasını çalıştırmak için:

.venv/bin/python test/test.py --threshold 0.50 --top-k 5

Model daha önce önbelleğe alındıysa tamamen çevrimdışı koşu da yapılabilir:

HF_HUB_OFFLINE=1 .venv/bin/python test/test.py --threshold 0.50 --top-k 5

Script her soru için skor, kabul/ret kararı, getirilen parça kimlikleri ve başarı durumunu test/results.jsonl dosyasına yazar. Eşik altında kalan sorularda system_response alanına standart ret cümlesi doğrudan yazılır; eşik üstünde doğal dil cevabı üretmek bu retrieval testinin kapsamında olmadığı için alan null kalır. Başarısız test olduğunda sıfırdan farklı çıkış kodu döndürür; yalnızca rapor üretmek istenirse --no-fail seçeneği kullanılabilir.

Eşik stratejisi ve sonuçlar

Kosinüs benzerliği eşiği 0.50 seçildi. Son koşuda gözlenen sınır değerler ve metrikler şöyledir:

Ölçüm	Sonuç
En düşük cevaplı soru benzerliği	0.5416
En yüksek cevapsız soru benzerliği	0.4661
Cevaplı soru kabulü	20/20 (%100)
Doğru referans Recall@5	20/20 (%100)
Cevapsız soru reddi	10/10 (%100)
Toplam başarı	30/30 (%100)

Bir cevaplı soru ancak en iyi skor eşiğe ulaşıyorsa ve beklenen referans ilk beş sonuç içindeyse başarılı sayılır. Cevapsız soru ise en iyi skor eşikten düşük olduğunda başarılıdır.

0.50, bu küçük benchmarkta en düşük pozitif ile en yüksek negatif skorun arasındadır. Bu değer evrensel değildir ve aynı benchmark üzerinde seçildiği için sonuç iyimser olabilir. Koleksiyon, model veya soru dağılımı değiştiğinde yeni ve mümkünse ayrı bir doğrulama kümesiyle eşik yeniden kalibre edilmelidir.

Kaynak ve lisans

• Kaynak veri seti: umutertugrul/turkish-hospital-medical-articles
• Seçilen kaynak: Atlas Hospital (atlas.parquet)
• Kaynak veri seti lisansı: CC BY 4.0

Türetilmiş parçalarda kaynak URL'si korunarak makale düzeyinde izlenebilirlik sağlanmıştır.