Hugging Face's logo

Datasets:
histopathai
/
GLEASON_CNN

Dataset card Files
xet
 Community
GLEASON_CNN
File size: 3,061 Bytes
ca13212
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
# Dataset Preparation Helpers

Bu repodaki dosyalar, **Gleason_CNN** histopatoloji verisetini [histopathai](https://github.com/histopathai) platformuna yüklemek için kullanılan yardımcı araçlardır.

## Kaynak Verisi

**Gleason_CNN** — Prostate cancer TMA dataset with Gleason annotation masks  
Harvard Dataverse: https://dataverse.harvard.edu/dataset.xhtml?persistentId=doi:10.7910/DVN/OCYCMP  
DOI: `10.7910/DVN/OCYCMP`  
Lisans: CC-BY-4.0

**Atıf:**
> Arvaniti, E., Fricker, K.S., Moret, M., Rupp, N., Hermanns, T., Fankhauser, C., Stenner, F., Umbehr, M., Rodrigues-Pita, F.A., Wild, P., Rueschoff, J.H., Claassen, M. (2018).
> *Automated Gleason grading of prostate cancer tissue microarrays via deep learning.*
> Scientific Reports, 8, 12054. https://doi.org/10.1038/s41598-018-30535-1

## Dosyalar

| Dosya | Açıklama |
|---|---|
| `unzip-files.py` | `dataverse_files.zip` içeriğini `origin/` dizinine açar (görüntüler + maskler). |
| `extract_polygons.py` | Palette PNG masklerden polygon koordinatlarını çıkarır, `polygons.csv` oluşturur. Mask indeksleri: 0=Benign, 1=G3, 2=G4, 3=G5, 4=unlabelled (atlanır). |
| `validate_polygons.py` | Polygon CSV'sini doğrular ve orijinal patch üzerine çizilmiş görsel karşılaştırmalar üretir. |
| `dataset_creator.ipynb` | Ham görüntü ve annotation verilerinden `DatasetBuilder` ile JSON tabanlı dataset yapısı oluşturur. Workspace, Patient, Image ve Annotation entity'lerini tanımlar. |
| `upload_dataset.ipynb` | EDA yaparak TMA-dengeli %10 alt küme seçer (seed=42), ardından `IngestPipeline` ile işlenmiş slide'ları GCS'e ve metadata'yı Firestore'a yükler. |
| `polygons.csv` | `extract_polygons.py` çıktısı — image başına polygon koordinatları ve etiketleri. |

## Ön Koşullar

### 1. `histopathai` Paketi

`dev-ingestor` reposundan paketi yükleyin:

```bash
pip install -e /path/to/dev-ingestor
# cloud bağımlılıklarıyla birlikte:
pip install -e "/path/to/dev-ingestor[cloud]"
```

### 2. Ek Bağımlılıklar

```bash
pip install pyvips pandas matplotlib tqdm Pillow
```

### 3. Environment Değişkenleri

`upload_dataset.ipynb` çalıştırılmadan önce notebook içindeki aşağıdaki değerlerin doldurulmuş olması gerekir:

| Değişken | Açıklama |
|---|---|
| `SA_KEY_PATH` | GCP service account JSON dosyasının yolu |
| `PROJECT_ID` | Google Cloud proje ID'si |
| `PROC_BUCKET` | İşlenmiş slide'ların yükleneceği GCS bucket adı |
| `DB_NAME` | Firestore veritabanı adı (varsayılan: `"(default)"`) |

## Akış

```
Gleason_CNN (Harvard Dataverse)
       │  dataverse_files.zip
       ▼
unzip-files.py         → origin/  (JPG görüntüler + palette PNG maskler)
       │
       ▼
extract_polygons.py    → polygons.csv
       │
       ▼
validate_polygons.py   → görsel doğrulama (isteğe bağlı)
       │
       ▼
dataset_creator.ipynb  → JSON dataset yapısı (Workspace / Patient / Image / Annotation)
       │
       ▼
upload_dataset.ipynb   → GCS + Firestore (IngestPipeline)
```