File size: 3,066 Bytes
ab773bf | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 | """
Merkezi konfigürasyon.
Tüm modüller parametrelerini buradan okur; tek bir yerden ayarlanabilir.
"""
import os
# --------------------------------------------------------------------------
# Veri seti
# --------------------------------------------------------------------------
HF_DATASET_ID = "umutertugrul/turkish-hospital-medical-articles"
# Veri setindeki tüm parquet dosyaları (14 hastane) — load_data.py bunları birleştirir.
HF_DATASET_FILES = [
"acibadem.parquet", "anadolusaglik.parquet", "atlas.parquet", "baskentistanbul.parquet",
"bayindir.parquet", "florence.parquet", "guven.parquet", "liv.parquet",
"medicalpark.parquet", "medicalpoint.parquet", "medicana.parquet", "medipol.parquet",
"memorial.parquet", "yeditepe.parquet",
]
SAMPLE_SIZE = 300 # 100-1000 arası; varsayılan 300 makale
RANDOM_SEED = 42
# --------------------------------------------------------------------------
# Chunking (sabit token sayısı + overlap)
# --------------------------------------------------------------------------
CHUNK_SIZE_TOKENS = 400 # her chunk'ın hedef token sayısı
CHUNK_OVERLAP_TOKENS = 80 # ardışık chunk'lar arası örtüşme
# --------------------------------------------------------------------------
# Embedding modeli
# --------------------------------------------------------------------------
EMBEDDING_MODEL_ID = "magibu/embeddingmagibu-200m"
EMBEDDING_DIM = 768
EMBEDDING_BACKEND = os.environ.get("EMBEDDING_BACKEND", "mock") # "real" | "mock"
# --------------------------------------------------------------------------
# Vektör veritabanı (ChromaDB)
# --------------------------------------------------------------------------
CHROMA_PERSIST_DIR = os.path.normpath(os.path.join(os.path.dirname(__file__), "..", "chroma_db"))
CHROMA_COLLECTION_NAME = "turkish_medical_chunks"
# --------------------------------------------------------------------------
# Arama / eşik (threshold)
# --------------------------------------------------------------------------
# NOT: Bu değer, eval/run_eval.py'nin threshold-sweep sonucuna göre belirlenmiştir
# VE embedding backend'ine özgüdür. mock (TF-IDF) backend için 0.10 uygunken, gerçek
# sentence-embedding modeli (magibu/embeddingmagibu-200m) çok farklı bir skor dağılımı
# üretir (cosine similarity'ler tipik olarak 0.4-0.8 aralığında olur). Backend
# değiştirildiğinde eval/run_eval.py MUTLAKA yeniden çalıştırılıp bu değer
# güncellenmelidir — bkz. README "Eşik (Threshold) Analizi".
SIMILARITY_THRESHOLD = 0.10 if os.environ.get("EMBEDDING_BACKEND", "mock") == "mock" else 0.55
TOP_K = 3
# --------------------------------------------------------------------------
# Çıktı dosyaları
# --------------------------------------------------------------------------
OUTPUT_DIR = os.path.normpath(os.path.join(os.path.dirname(__file__), "..", "output"))
CHUNKS_PARQUET_PATH = os.path.join(OUTPUT_DIR, "turkish_medical_chunks.parquet")
MOCK_EMBEDDER_STATE_PATH = os.path.join(OUTPUT_DIR, "mock_embedder_state.pkl")
|