| # Dataset Preparation Helpers |
|
|
| Bu repodaki dosyalar, **Gleason_CNN** histopatoloji verisetini [histopathai](https://github.com/histopathai) platformuna yüklemek için kullanılan yardımcı araçlardır. |
| |
| ## Kaynak Verisi |
| |
| **Gleason_CNN** — Prostate cancer TMA dataset with Gleason annotation masks |
| Harvard Dataverse: https://dataverse.harvard.edu/dataset.xhtml?persistentId=doi:10.7910/DVN/OCYCMP |
| DOI: `10.7910/DVN/OCYCMP` |
| Lisans: CC-BY-4.0 |
|
|
| **Atıf:** |
| > Arvaniti, E., Fricker, K.S., Moret, M., Rupp, N., Hermanns, T., Fankhauser, C., Stenner, F., Umbehr, M., Rodrigues-Pita, F.A., Wild, P., Rueschoff, J.H., Claassen, M. (2018). |
| > *Automated Gleason grading of prostate cancer tissue microarrays via deep learning.* |
| > Scientific Reports, 8, 12054. https://doi.org/10.1038/s41598-018-30535-1 |
|
|
| ## Dosyalar |
|
|
| | Dosya | Açıklama | |
| |---|---| |
| | `unzip-files.py` | `dataverse_files.zip` içeriğini `origin/` dizinine açar (görüntüler + maskler). | |
| | `extract_polygons.py` | Palette PNG masklerden polygon koordinatlarını çıkarır, `polygons.csv` oluşturur. Mask indeksleri: 0=Benign, 1=G3, 2=G4, 3=G5, 4=unlabelled (atlanır). | |
| | `validate_polygons.py` | Polygon CSV'sini doğrular ve orijinal patch üzerine çizilmiş görsel karşılaştırmalar üretir. | |
| | `dataset_creator.ipynb` | Ham görüntü ve annotation verilerinden `DatasetBuilder` ile JSON tabanlı dataset yapısı oluşturur. Workspace, Patient, Image ve Annotation entity'lerini tanımlar. | |
| | `upload_dataset.ipynb` | EDA yaparak TMA-dengeli %10 alt küme seçer (seed=42), ardından `IngestPipeline` ile işlenmiş slide'ları GCS'e ve metadata'yı Firestore'a yükler. | |
| | `polygons.csv` | `extract_polygons.py` çıktısı — image başına polygon koordinatları ve etiketleri. | |
|
|
| ## Ön Koşullar |
|
|
| ### 1. `histopathai` Paketi |
|
|
| `dev-ingestor` reposundan paketi yükleyin: |
|
|
| ```bash |
| pip install -e /path/to/dev-ingestor |
| # cloud bağımlılıklarıyla birlikte: |
| pip install -e "/path/to/dev-ingestor[cloud]" |
| ``` |
|
|
| ### 2. Ek Bağımlılıklar |
|
|
| ```bash |
| pip install pyvips pandas matplotlib tqdm Pillow |
| ``` |
|
|
| ### 3. Environment Değişkenleri |
|
|
| `upload_dataset.ipynb` çalıştırılmadan önce notebook içindeki aşağıdaki değerlerin doldurulmuş olması gerekir: |
|
|
| | Değişken | Açıklama | |
| |---|---| |
| | `SA_KEY_PATH` | GCP service account JSON dosyasının yolu | |
| | `PROJECT_ID` | Google Cloud proje ID'si | |
| | `PROC_BUCKET` | İşlenmiş slide'ların yükleneceği GCS bucket adı | |
| | `DB_NAME` | Firestore veritabanı adı (varsayılan: `"(default)"`) | |
|
|
| ## Akış |
|
|
| ``` |
| Gleason_CNN (Harvard Dataverse) |
| │ dataverse_files.zip |
| ▼ |
| unzip-files.py → origin/ (JPG görüntüler + palette PNG maskler) |
| │ |
| ▼ |
| extract_polygons.py → polygons.csv |
| │ |
| ▼ |
| validate_polygons.py → görsel doğrulama (isteğe bağlı) |
| │ |
| ▼ |
| dataset_creator.ipynb → JSON dataset yapısı (Workspace / Patient / Image / Annotation) |
| │ |
| ▼ |
| upload_dataset.ipynb → GCS + Firestore (IngestPipeline) |
| ``` |
|
|
