Mustafa2735/turkish-medical-rag-chunks

Türkçe Tıbbi Makaleler Üzerinde RAG: Chunking, Embedding ve Eşik Analizi

Bu çalışma, Türkçe hastane makalelerinden oluşan bir korpus üzerinde vektör tabanlı arama kurar ve üç tasarım kararını ölçümle gerekçelendirir: parçalama (chunking) stratejisi, embedding modeli ve cevap verme eşiği.

Sistem cevap üretmez; ilgili parçaları bulur ve yeterince benzer sonuç yoksa çekimser kalır. Cevap üretimi hattın sonuna sonradan eklenebilecek ayrı bir katmandır.

---

Özet

Soru	Cevap	Ayrıntı
Chunking stratejisi	Cümle sınırına saygılı sabit token penceresi (480 hedef / 72 örtüşme test edildi, teslim 400/60). Paragraf bazlı yöntem uygulanamadı: makalelerin %86'sında paragraf ayracı yok. Semantik parçalama, ek model maliyeti getirdiği ve token bazlı yöntem ölçülen başarımı zaten sağladığı için tercih edilmedi.	§3
Embedding modeli	intfloat/multilingual-e5-large — 1.024 boyut, 512 token bağlam. Türkçe dahil çok dilli görevlerde istikrarlı; passage:/query: önek ayrımı belge-sorgu asimetrisini doğru kuruyor.	§4
Eşik değeri	0,845 kosinüs benzerliği. 20 pozitif + 10 negatif soruyla kalibre edildi: 17/20 pozitif yakalanıyor, 10/10 negatif reddediliyor (abstention %100, yanlış kabul 0). F1'i en yüksek eşik 0,840 olmasına rağmen, tıbbi içerikte yanlış bilgi vermenin cevap vermemekten riskli olduğu gerekçesiyle sıfır yanlış kabul tercih edildi.	§5

Bu üç kararın her biri ölçümle gerekçelendirildi; ayrıca chunking ayarlarının arama başarımına etkisi (§3), sonuç çeşitliliğinin Recall üzerindeki etkisi (§6) ve hata analizi (§7) raporlandı.

---

1. Veri

Kaynak	umutertugrul/turkish-hospital-medical-articles
Kullanılan bölüm	acibadem.parquet
Depodaki toplam makale	6.339
Filtre	metin uzunluğu > 500 karakter
Örneklem	300 makale (random_state=42)
Sütunlar	url, title, headings, text, publish_date, update_date, scrape_date, __source

Veri yükleme notu

Depoda her hastanenin parquet dosyası iki kez bulunuyor: kökte (acibadem.parquet) ve data/ altında (data/acibadem-00000-of-00001.parquet). datasets.load_dataset her iki kopyayı da yakalayıp şemaları birleştirmeye çalıştığı için DatasetGenerationError veriyor. Bu nedenle veri, huggingface_hub.hf_hub_download ile tek dosya olarak indirilip pandas ile okunuyor.

---

2. Ön işleme: içindekiler bloğunun temizlenmesi

Makalelerin bir kısmı gövdeden önce bir içindekiler bloğuyla başlıyor. Bu blok headings sütununda zaten yapısal olarak bulunduğu için metinde tekrarlanması gürültü oluşturuyor ve her parçadan boşuna token harcıyor.

Veride blok iki farklı biçimde görülüyor:

(a) birleşik : "- Kuru Öksürük Nedir?Kuru Öksürük Neden Olur?Kuru Öksürüğe..."
(b) ayraçlı  : "- Glütensiz Ürünler Neden... - En Popüler Glütensiz... - Glütensiz Ekmek..."

Bir kısmı ise doğrudan gövdeyle başlıyor; onlarda temizlenecek bir şey yok. Bu nedenle başarı ölçütü "kaç makale temizlendi" değil, "blok içeren makalelerin kaçı temizlendi" olarak tanımlandı.

Yöntem (iki aşamalı)

1. headings sütunu. Sütun, listeye benzeyen bir metin olarak saklanmış ("['A', 'B']"), gerçek bir liste değil. Üzerinde doğrudan döngü kurmak karakterleri verir ve ilk "başlık" olarak [ alınır — sessiz bir hata. Bu nedenle önce ast.literal_eval ile ayrıştırılıyor. Ardından başlıklar metnin başıyla, boşluklar ve madde işaretleri yok sayılarak karakter karakter eşleştiriliyor.

2. Sezgisel yedek. Makalelerin %48'inde headings boş. Bu durumda blok kendi biçimsel izinden bulunuyor: içindekilerde başlık sınırları boşluksuzdur (Nedir?Kuru, ÇaylarıÇocuklarda) veya " - " ile ayrılır. Ardışık sınırlar birbirini bir başlık uzunluğu kadar aralıkla izler; aralık aniden büyüdüğünde gövde başlamıştır.

Neden regex kullanılmadı

İlk uygulama headings listesinden dinamik regex kuruyor, tutmazsa listeyi baştan kısaltıp yeniden deniyordu. Bu yaklaşım 300 makalede 8 dakikadan uzun sürdü: her makale için onlarca uzun desen derleniyor ve geri izleme (backtracking) maliyeti birikiyordu. Regex'siz karakter yürüyüşü aynı işi tek geçişte yapıyor. Tokenizasyonun cümle cümle değil toplu yapılmasıyla birlikte süre 8 dakikadan ~3 saniyeye indi.

Sonuç

headings ile temizlenen	43
Sezgisel yöntemle temizlenen	120
Toplam temizlenen	163
Zaten temiz (blok yok)	132
Kaçırılan	5
Başarı oranı (blok içerenler üzerinden)	%97,0
Ortalama silinen	191 karakter / makale

Bilinen sınırlama: sezgisel yöntem, bloğun bittiği yeri gövdeye bakmadan kesin belirleyemediği için son başlığı metinde bırakır (~30-40 karakter). Parça başına düşen ~400 token içinde ihmal edilebilir bir kalıntıdır.

---

3. Chunking stratejisi

Yöntem seçimi

Korpusta paragraf ayracı yok: 6.339 makalenin 5.427'sinde (%86) \n\n bulunmuyor. Markdown başlığı da yok. Bu nedenle paragraf veya başlık bazlı parçalama uygulanamıyor.

Seçilen yöntem: cümle sınırına saygılı sabit pencere. Metin önce cümlelere ayrılıyor, ardından cümleler token bütçesi dolana kadar birleştiriliyor. Böylece hem parça boyu kontrol ediliyor hem de cümleler ortadan bölünmüyor.

İki tasarım ayrıntısı:

• Token ölçümü kelimeyle değil, modelin kendi tokenizer'ıyla yapılıyor. Türkçede bir kelime birden çok token olabilir; kelime sayısına göre ayarlanan bütçe modelin sınırını sessizce aşar.
• Her parçanın başına makale başlığı ekleniyor. Uzun bir makalenin ortasından alınan parça tek başına hangi konuya ait olduğunu belirtmez; başlık bu bağlamı geri kazandırır.

Ayar karşılaştırması

Dört ayar, aynı korpus, aynı model, aynı 30 soruyla baştan sona indekslenip ölçüldü. Recall/MRR değerleri URL tekilleştirmeli aramayla hesaplandı (bkz. §6), böylece dört ayar da aynı koşullarda karşılaştırıldı.

hedef / örtüşme	parça	ort. token	maks. token	R@1	R@3	R@5	MRR	eşikte yakalanan
200 / 30	4.419	195	331	0,650	0,650	0,750	0,675	14 / 20
400 / 60	2.023	379	426	0,700	0,750	0,850	0,737	17 / 20
480 / 72	1.683	446	506	0,700	0,800	0,850	0,752	17 / 20
600 / 90	1.334	549	623 ⚠	0,700	0,800	0,900	0,753	16 / 20

Değerlendirme

200 elendi — veriyle. Her metrikte en düşük değer. Parça sayısını iki katına çıkarmasına rağmen daha kötü sonuç veriyor: 195 token, bir tıbbi açıklamayı taşımaya yetmiyor. Daha fazla parçanın getirdiği çeşitlilik avantajı, bağlam kaybının önüne geçemiyor.

600 elendi — ölçüm geçerli olmadığı için. Bu ayarda parçalar 623 tokene ulaşıyor ve modelin 512 token sınırını aşıyor. transformers bu durumda uyarı üretiyor:

Token indices sequence length is longer than the specified maximum
sequence length for this model (595 > 512).

Girdinin sonu sessizce kesiliyor; yani ölçülen başarım, kodun ürettiği parçaların tamamını değil kesilmiş hâlini yansıtıyor. Hangi bilginin vektöre girmediği bilinmiyor. Görünürdeki R@5 üstünlüğüne rağmen bu ayar tekrarlanabilir değil.

480, 600'ün performansını sınır içinde kalarak yakalıyor. MRR farkı 0,001 — istatistiksel olarak yok. R@3 ikisinde de 0,800. Bu, 600'ün görünürdeki üstünlüğünün kesilmeden değil, daha uzun bağlamdan geldiğini ve o kazancın neredeyse tamamının sınırı aşmadan elde edilebildiğini gösteriyor.

Teslim edilen yapılandırma: 400 / 60. 480 marjinal olarak daha iyi (R@3 +0,050, MRR +0,015) ancak fark tek bir sorudan kaynaklanıyor; 20 soruluk bir değerlendirme kümesinde bu farkı anlamlı saymak için yeterli kanıt yok. Üretilen veri seti ve indeks 400/60 ile hazırlandı.

---

4. Embedding modeli

Model	intfloat/multilingual-e5-large
Boyut	1.024
Bağlam sınırı	512 token
Normalizasyon	açık (kosinüs benzerliği için)

Seçim gerekçesi: çok dilli E5, Türkçe dahil düşük kaynaklı dillerde tutarlı sonuç veren ve MTEB sıralamalarında istikrarlı yer alan bir aile. 1.024 boyut, 768'lik alternatiflere göre daha ayrıntılı temsil sağlıyor; 2.000 parçalık bir korpusta ek maliyeti önemsiz.

Önek kuralı: E5 ailesi belge ve sorguyu farklı rollerde kodlar. Belgeler passage: , sorgular query: önekiyle veriliyor. Bu önek atlanırsa aynı model kullanılsa bile skorlar bozulur.

Skor ölçeği uyarısı: E5 kosinüs benzerliğini dar bir banda sıkıştırır. Bu korpusta tamamen ilgisiz sorular bile 0,73-0,84 aralığında skor alıyor. Bu nedenle mutlak skor değil, pozitif ve negatif dağılımlar arasındaki fark anlamlıdır — eşik seçimi de bu farka göre yapılmalıdır.

---

5. Eşik analizi

Neden gerekli

Vektör araması her zaman bir sonuç döndürür; korpusla hiç ilgisi olmayan bir soruda bile en yakın parçayı verir. Bu parça bir dil modeline bağlam olarak verilirse model ondan cevap uydurmaya çalışır. Eşik, "yeterince benzer sonuç yoksa cevap verme" kuralını uygular.

Değerlendirme kümesi

30 soru: 20 pozitif (cevabı korpusta bulunan) + 10 negatif (cevabı kesinlikle bulunmayan).

Pozitif sorular otomatik üretilmedi, elle yazıldı. Başlıktan türetilen otomatik sorular ("Baso (Bazofil) nedir?") makale başlığını birebir tekrarlar; bu aramayı yapay biçimde kolaylaştırır ve skorları şişirir. Sorular bunun yerine bir hastanın soracağı gibi yazıldı:

Otomatik    : "Şaşılık hakkında ne bilinmelidir?"
Kullanılan  : "şaşı bir çocuğun gözleri düzeltilebilir mi"

Negatif sorular üç zorluk düzeyinde:

Tür	Örnek	En yüksek skor
Alan dışı (kolay)	"Şampiyonlar Ligi finali hangi şehirde oynanacak?"	0,738
Tıbbi ama korpusta yok (orta)	"Veteriner hekimlikte kedilerde böbrek yetmezliği..."	0,838
Yüzeysel benzer (zor)	"Kan tahlili ücreti kaç TL tutuyor?"	0,842

Skor dağılımı

	min	maks
Pozitif (20)	0,8325	0,9028
Negatif (10)	0,7381	0,8421

Boşluk: −0,0096 — tam ayrışma yok. En yüksek negatif (0,8421), en düşük üç pozitifin (0,8325 / 0,8400 / 0,8438) arasına giriyor. Örtüşme bandı çok dar ama sıfır değil; yani hiçbir eşik hem tüm pozitifleri yakalayıp hem tüm negatifleri reddedemez.

Eşik tablosu

eşik	yakalanan	kaçırılan	reddedilen	yanlış kabul	F1
0,830	20	0	8	2	0,952
0,835	19	1	8	2	0,927
0,840	19	1	9	1	0,950
0,845	17	3	10	0	0,919
0,850	14	6	10	0	0,824
0,855	11	9	10	0	0,710

Seçim: 0,845

F1'i en yüksek eşik 0,840 (0,950). Buna rağmen 0,845 seçildi.

Gerekçe: tıbbi içerikte yanlış bilgi vermek, cevap vermemekten daha risklidir. 0,840 eşiği bir negatif soruyu kabul ediyor — yani sistem korpusta cevabı olmayan bir soruya, alakasız bir parçayı bağlam göstererek cevap üretecek. 0,845'te yanlış kabul sıfıra iniyor:

• Abstention oranı: %100 — 10 negatif sorunun 10'u reddedildi
• Pozitif yakalama: 17/20

Ödünleşim açık: 3 cevaplanabilir soru kaybediliyor. Farklı bir kullanım bağlamında (ör. bilgi keşfi, tıbbi karar desteği değil) 0,840 daha uygun olabilir; iki değer de tabloda açıkça görülüyor.

---

6. Arama başarımı ve bir yapısal bulgu

İlk ölçümde dört metrik de birebir aynı çıktı:

recall@1  0,700
recall@3  0,700
recall@5  0,700
mrr       0,700

Bu tesadüf değil, bir imza: doğru makale bulunduğunda her zaman 1. sırada, bulunamadığında ilk 5'te hiç yok. Arada hiçbir durum yok.

Sebep ölçüldü: top-5 sonuç ortalama yalnızca 2,20 farklı makaleden geliyor. Parça bazlı arama, aynı makalenin komşu parçalarını üst sıralara dolduruyor. Recall@5 fiilen Recall@1'e çökmüş durumda — sıralamada gerçek bir "ikinci şans" yok.

URL tekilleştirmesi

Çözüm: geniş ara (k=30), sonra her makaleden en fazla bir parça al.

	R@1	R@3	R@5	MRR
Tekilleştirmesiz	0,700	0,700	0,700	0,700
Tekilleştirmeli	0,700	0,750	0,850	0,737

Recall@5'te %21 iyileşme — embedding modeline, chunking'e veya veriye hiç dokunmadan, yalnızca sonuç sunumunu değiştirerek. R@1'in değişmemesi beklenen: birinci sonuç zaten aynı.

Bu ölçüm bir bulgu olarak raporlanıyor; teslim edilen boru hattının varsayılan davranışı değiştirilmedi.

---

7. Hata analizi

Doğru makale, yanlış bölüm

"şaşı bir çocuğun gözleri düzeltilebilir mi" (skor 0,8548)

Doğru makale ilk sırada geldi ve Recall@1 bu soruyu başarılı sayıyor. Ancak getirilen üç parça da hastalığın nedenlerini anlatıyor — genetik geçiş, hamilelik dönemi, göz numarası. Tedavi edilebilirliğe dair tek cümle yok. Bir dil modeli bu bağlamla ya "bilmiyorum" derdi ya da uydururdu.

Sınırlama: Recall ve MRR makale (URL) düzeyinde ölçülmüştür. Doğru makalenin bulunup yanlış bölümünün getirildiği durumlar başarı olarak sayılır. Parça düzeyinde etiketlenmiş bir doğruluk kümesi bu ayrımı yakalayabilirdi.

Alt-token örtüşmesi

"Mars gezegeninde yaşam olduğuna dair kanıt var mı?" sorusu, "kolay" alan dışı negatif olarak yazılmıştı. Ancak 0,7837 ile beklenenden yüksek skor aldı ve tutarlı biçimde Emar (MR) makalelerini getirdi. "Mars" ile "MR" arasındaki alt-token örtüşmesi, anlamsal aramada bile yüzeysel karakter benzerliğinin etkili olabildiğini gösteriyor.

Kaçırılan 3 pozitif

Tekilleştirmeli aramada 20 pozitiften 3'ünde doğru makale ilk 5'te hiç görünmedi. Bunlar gerçek başarısızlıklar — sıralama sorunu değil, ilgili parçanın hiç bulunamaması.

İndekslenen parça sayısı

Parçalama 2.023 parça üretti, ChromaDB'ye 2.009 kayıt girdi. Aradaki 14 fark, örneklemde aynı URL'nin birden fazla kez bulunmasından kaynaklanıyor: chunk_id url::index biçiminde üretildiği için çakışan kimlikler üzerine yazılıyor. Etkisi küçük (%0,7) ama chunk_id'ye satır indeksi eklenerek tamamen giderilebilir.

---

8. Depo yapısı

chunking.py        Metin temizleme ve parçalama
vectorstore.py     ChromaDB sarmalayıcısı (kosinüs, model kimliği doğrulaması)
evaluation.py      Recall@k, MRR, eşik tablosu ve seçimi
test_sorulari.py   30 test sorusu (20 pozitif + 10 negatif)
pipeline.py        Uçtan uca boru hattı
COLAB_REHBERI.md   Adım adım çalıştırma rehberi
rapor.json         Tüm ölçüm sonuçları

Çalıştırma

pip install datasets sentence-transformers chromadb
python pipeline.py

GPU önerilir: 2.000 parçanın vektörleştirilmesi T4'te ~2,5 dakika, CPU'da 40+ dakika sürer.

---

9. Bilinen sınırlamalar ve geliştirilebilecek yönler

Değerlendirme kümesi küçük. 20 pozitif soru, ayarlar arasındaki küçük farkları (ör. 400 vs 480) ayırt etmek için yeterli değil. Tek bir sorunun sonucu Recall@3'ü 0,050 oynatıyor.

Doğruluk etiketleri makale düzeyinde. Parça düzeyinde etiketleme, "doğru makale yanlış bölüm" hatalarını görünür kılardı.

Tek embedding modeli denendi. İkinci bir modelle (ör. ytu-ce-cosmos/turkish-e5-large, BAAI/bge-m3) karşılaştırma, model seçimini de veriye dayandırırdı.

Eşik tek bir korpusta kalibre edildi. Farklı bir hastane bölümünde (veya birden fazla bölüm birleştirildiğinde) skor dağılımı kayabilir; eşiğin yeniden ölçülmesi gerekir.

URL tekilleştirmesi varsayılan değil. Ölçülen faydasına rağmen boru hattına alınmadı; cevap üretimi eklendiğinde bağlam çeşitliliği için varsayılan yapılması önerilir.

Sezgisel temizlik son başlığı bırakıyor. Blok içeren makalelerin %97'sinde temizlik tutuyor, ancak kesim noktası son sınırda olduğu için ortalama 30-40 karakterlik bir kalıntı kalıyor.