uludagur/crosslingual-clinical-rag-study

Cross-Lingual Clinical RAG: A Small Benchmark and Some Cautions

From the KADIM Turkish clinical decision-support project.

---

What's in this repository (and why there's a paper)

This repo is not a model you download and run. It is a small research artifact with three usable things:

1. data/ — 40 Turkish clinical vignettes with gold lead-diagnosis labels. A reusable mini-benchmark for testing a model or a RAG pipeline on Turkish-language cases. (Turkish medical NLP is low-resource; this is the part most people will actually reuse.)
2. code/ — the three-arm evaluation harness we used to separate two effects that are normally measured together.
3. results/ — our raw per-run outputs so you can check our numbers.

The paper (paper/, EN + TR) is here because these files are otherwise just tables of numbers. The paper explains what the numbers mean and — more useful for you — what to watch out for if you build something similar. If you only want the practical warnings, they are below; you do not need to read the paper.

Everything was measured on qwen3:8b; the benchmark itself is model-agnostic.

The one-paragraph story

KADIM answers Turkish medical questions by retrieving passages from English textbooks (Harrison, Sabiston, Oxford). While checking whether retrieval helps, we found that a query-expansion step was changing the model's answer without changing which documents came back. For one appendicitis case, the identical retrieved passages gave the wrong answer 1/8 times without expansion and the right answer 8/8 times with it — the only change was a few English words added to the query. That small anomaly opened up a bigger lesson about how a standard RAG evaluation can quietly mislead you.

The experiment in one table

Instead of the usual two arms (with vs without retrieval), we used three, so retrieval and query-expansion could be told apart. 40 cases, 8 runs each, matched seeds (960 calls):

Arm	What it is	Lead-diagnosis accuracy
No-RAG	model answers alone	88%
RAG, no expansion	retrieval on, query untouched	90%
RAG, with expansion	retrieval on, query rewritten (production)	92%

What the study shows — and what to watch out for

These are the takeaways for anyone building or evaluating a similar system. This is the point of publishing the repo:

• If your RAG has a query-rewrite / expansion step, measure it separately from retrieval. A two-arm (RAG vs no-RAG) test cannot tell you which of the two is helping — or hurting. We only saw the problem because we split them.
• Query expansion can steer the answer without touching the documents. The rewritten query text still reaches the model. In our appendicitis case the retrieved passages were identical; only the added tokens moved the answer. Treat query rewriting as something that affects the generator, not just retrieval.
• Cross-lingual setups (local-language query, English corpus) are fragile at the lexical ranking layer — even with multilingual embeddings. Our keyword score for a Turkish query against English chunks was often zero, and expansion was silently "fixing" it by injecting English terms. If you rank by lexical overlap across languages, check whether it is doing anything sane.
• A good average can hide dangerous per-case behaviour. The overall gain was +13 correct out of 320 — barely above the ±9 run-to-run noise — while a single case's result could swing from 0/8 to 8/8. In one paediatric case, retrieval got it perfectly right and then expansion destroyed the correct answer (8/8 → 0/8). In a clinical setting, look at per-case swings, not just the mean.

Three concrete findings behind those cautions

• Appendicitis (CRH-01): same retrieved passages, answer flips 1/8 → 8/8 purely from the injected English terms.
• Upper-GI bleed (GAS-01): the model already knew it (8/8); retrieval broke it (0/8); expansion patched it back (8/8) — net zero, but a lot of hidden risk.
• Febrile seizure (PED-03): retrieval rescued a hard case (0/8 → 8/8), then expansion's substring rules fired on innocent Turkish words and destroyed it (→ 0/8).

What we do NOT claim

Single model, single metric (lead diagnosis), 40 classic textbook cases — exactly the ones a strong model tends to already know. So this is not a claim that "RAG is useless." RAG's real value (rare diagnoses, dosing, local protocols) is not what this set measures. We are reporting an evaluation trap and a mechanism, not a verdict on retrieval.

Honest notes on running it

• The 40 vignettes and the raw results are directly usable. They are synthetic (no patient data).
• The scripts are not plug-and-play: they depend on KADIM's ChromaDB index (751k chunks) and internal code, so they are provided as a methodology reference, not a one-click reproduction. You can port the three-arm design to your own stack easily; you cannot rerun ours without the index.
• A held-out set of 20 vignettes is deliberately not included, so it stays a clean measurement set. Only the 40 development cases are here.

---

---

Diller-Arası Klinik RAG: Küçük Bir Benchmark ve Birkaç Uyarı

KADIM Türkçe klinik karar-destek projesinden.

---

Bu depoda ne var (ve neden bir makale de var)

Bu depo, indirip çalıştıracağınız bir model değildir. Kullanılabilir üç şey içeren küçük bir araştırma çıktısıdır:

1. data/ — 40 Türkçe klinik vinyet, altın öncü-tanı etiketleriyle. Bir modeli veya RAG hattını Türkçe vakalar üzerinde test etmek için yeniden kullanılabilir bir mini-benchmark. (Türkçe medikal NLP düşük-kaynaklıdır; çoğu kişinin gerçekten yeniden kullanacağı kısım budur.)
2. code/ — üç-kol değerlendirme harness'i: normalde birlikte ölçülen iki etkiyi ayırmak için kullandık.
3. results/ — çalıştırma-başı ham çıktılarımız: sayılarımızı kontrol edebilmeniz için.

Makale (paper/, EN + TR) burada; çünkü bu dosyalar aksi halde yalnızca sayı tablolarıdır. Makale, bu sayıların ne anlama geldiğini ve sizin için daha faydalısı, benzer bir şey kurarsanız neye dikkat etmeniz gerektiğini anlatır. Yalnızca pratik uyarıları istiyorsanız aşağıdalar; makaleyi okumanıza gerek yok.

Her şey qwen3:8b üzerinde ölçüldü; benchmark'ın kendisi modelden bağımsızdır.

Tek paragraflık hikaye

KADIM, Türkçe tıbbi soruları İngilizce ders kitaplarından (Harrison, Sabiston, Oxford) pasaj çekerek yanıtlar. Retrieval'ın yardımcı olup olmadığını kontrol ederken, bir sorgu-genişletme adımının, hangi belgelerin geldiğini değiştirmeden modelin cevabını değiştirdiğini bulduk. Bir apandisit vakasında, birebir aynı çekilen pasajlar, genişletmesiz 8'de 1 yanlış, genişletmeli 8'de 8 doğru cevap verdi — tek değişiklik, sorguya eklenen birkaç İngilizce kelimeydi. Bu küçük anormallik, standart bir RAG değerlendirmesinin sizi nasıl sessizce yanıltabileceğine dair daha büyük bir derse kapı açtı.

Deney, tek bir tabloda

Olağan iki kol (retrieval'lı ve retrieval'sız) yerine üç kol kullandık; böylece retrieval ile sorgu-genişletme ayırt edilebildi. 40 vaka, 8'er çalıştırma, eşleştirilmiş seed'ler (960 çağrı):

Kol	Nedir	Öncü-tanı isabeti
RAG-yok	model tek başına	%88
RAG, genişletmesiz	retrieval açık, sorgu dokunulmadan	%90
RAG, genişletmeli	retrieval açık, sorgu yeniden yazılmış (üretim)	%92

Çalışmanın gösterdikleri — ve dikkat etmeniz gerekenler

Benzer bir sistem kuran ya da değerlendiren herkes için asıl çıkarımlar bunlar. Depoyu yayınlamanın amacı da bu:

• RAG'ınızda bir sorgu yeniden yazma / genişletme adımı varsa, onu retrieval'dan ayrı ölçün. İki-kollu bir test (RAG'lı vs RAG'sız), bu ikisinden hangisinin yardım — ya da zarar — ettiğini söyleyemez. Biz sorunu ancak ayırdığımız için gördük.
• Sorgu-genişletme, belgelere dokunmadan cevabı yönlendirebilir. Yeniden yazılan sorgu metni yine de modele ulaşır. Apandisit vakamızda çekilen pasajlar aynıydı; cevabı yalnızca eklenen tokenlar oynattı. Sorgu yeniden yazmayı yalnızca retrieval'ı değil, üreticiyi etkileyen bir şey olarak görün.
• Diller-arası kurulumlar (yerel-dil sorgu, İngilizce korpus), gömme çok-dilli olsa bile lexical sıralama katmanında kırılgandır. Türkçe sorgunun İngilizce chunk'lara karşı keyword skoru sıklıkla sıfırdı ve genişletme bunu İngilizce terim enjekte ederek sessizce "düzeltiyordu". Diller-arası lexical örtüşmeyle sıralıyorsanız, mantıklı bir şey yapıp yapmadığını kontrol edin.
• İyi bir ortalama, tehlikeli vaka-başı davranışı gizleyebilir. Toplam kazanç 320'de +13 doğruydu — ±9 çalıştırma-arası gürültünün ancak biraz üstünde — oysa tek bir vakanın sonucu 0/8 ile 8/8 arasında salınabiliyordu. Bir pediatrik vakada retrieval tam doğru yaptı, sonra genişletme doğru cevabı yok etti (8/8 → 0/8). Klinik bir ortamda ortalamaya değil, vaka-başı salınımlara bakın.

Bu uyarıların ardındaki üç somut bulgu

• Apandisit (CRH-01): aynı çekilen pasajlar, cevap yalnızca enjekte edilen İngilizce terimlerle 8'de 1 → 8'de 8 dönüyor.
• Üst-GİS kanama (GAS-01): model zaten biliyordu (8/8); retrieval bozdu (0/8); genişletme geri yamaladı (8/8) — net sıfır, ama çok gizli risk.
• Febril konvülziyon (PED-03): retrieval zor bir vakayı kurtardı (0/8 → 8/8), sonra genişletmenin substring kuralları masum Türkçe kelimelerde tetiklenip yok etti (→ 0/8).

Neyi İDDİA ETMİYORUZ

Tek model, tek metrik (öncü-tanı), 40 klasik ders kitabı vakası — tam da güçlü bir modelin zaten bildiği vakalar. Yani bu, "RAG işe yaramaz" iddiası değildir. RAG'ın gerçek değeri (nadir tanılar, dozaj, yerel protokoller) bu setin ölçtüğü şey değil. Retrieval hakkında bir hüküm değil, bir değerlendirme tuzağı ve bir mekanizma raporluyoruz.

Çalıştırma hakkında dürüst notlar

• 40 vinyet ve ham sonuçlar doğrudan kullanılabilir. Sentetiktirler (hasta verisi yok).
• Scriptler tak-çalıştır değildir: KADIM'ın ChromaDB indeksine (751b chunk) ve iç koduna bağımlıdırlar; bu yüzden tek tıkla yeniden çalıştırılabilir bir paket değil, bir metodoloji referansı olarak sunulurlar. Üç-kol tasarımını kendi yığınınıza kolayca taşıyabilirsiniz; ama indeks olmadan bizimkini yeniden çalıştıramazsınız.
• 20 vinyetlik held-out küme kasıtlı olarak dahil edilmedi; böylece temiz bir ölçüm seti olarak kalıyor. Burada yalnızca 40 geliştirme vakası var.