Stable_diffusion_augmentation/README.md

# Stable Diffusion Augmentation cho MILK10k

Thư mục này có 3 script:

- `prepare_milk10k_sd_training_set.py`: tách data MILK10k thành folder train Stable Diffusion/LoRA cho **1 class** và **1 loại ảnh**.
- `generate_milk10k_sd.py`: dùng Stable Diffusion `img2img` để tạo ảnh augmentation cho **1 class** và **1 loại ảnh**.
- `plot_generated_images.py`: gom ảnh trong 1 folder thành grid/contact sheet để kiểm tra nhanh.
- `plan_and_materialize_balanced_milk10k.py`: audit phân phối real/synthetic, cap BCC, lập quota SD/QC và tùy chọn tạo dataset paired cân bằng riêng.

## Audit và lập balance plan

Chạy audit trên các CSV hiện có mà chưa materialize:

```bash
python Stable_diffusion_augmentation/plan_and_materialize_balanced_milk10k.py \
  --base-data-dir data_related \
  --report-dir data_related/augmented_info/balance_audit
```

Khi đã có ảnh synthetic và QC summary, tạo dataset riêng bằng hardlink:

```bash
python Stable_diffusion_augmentation/plan_and_materialize_balanced_milk10k.py \
  --base-data-dir data_related \
  --synthetic-input-dir /path/to/synthetic_prediction_input \
  --qc-summary /path/to/effb2_qc_summary.csv \
  --report-dir /path/to/balance_report \
  --materialize-dir /path/to/milk10k_balanced \
  --require-target-pred
```

Script chỉ materialize synthetic có đủ clinical + dermoscopic và pass QC. Dataset output cần train với `--synthetic-train-only` để synthetic không vào validation.

## Điểm quan trọng của MILK10k

Mỗi `lesion_id` trong MILK10k thường có 2 ảnh:

- `clinical: close-up`
- `dermoscopic`

Khi train/generate Stable Diffusion, không nên trộn 2 modality này. Nếu muốn train model tạo ảnh clinical thì chỉ dùng ảnh `clinical: close-up`. Nếu muốn train model tạo ảnh dermoscopic thì chỉ dùng ảnh `dermoscopic`.

Vì vậy các script chỉ cho chọn:

```bash
--image-type clinical_close_up
```

hoặc:

```bash
--image-type dermoscopic
```

Không có chế độ `all`.

## Class hợp lệ

```text
AKIEC, BCC, BEN_OTH, BKL, DF, INF, MAL_OTH, MEL, NV, SCCKA, VASC
```

## 1. Chuẩn bị folder train Stable Diffusion/LoRA

Ví dụ tách class `MEL`, chỉ lấy ảnh clinical:

```bash
python Stable_diffusion_augmentation/prepare_milk10k_sd_training_set.py \
  --class-name MEL \
  --image-type clinical_close_up \
  --output-dir Stable_diffusion_augmentation/train_mel_clinical
```

Ví dụ tách class `MEL`, chỉ lấy ảnh dermoscopic:

```bash
python Stable_diffusion_augmentation/prepare_milk10k_sd_training_set.py \
  --class-name MEL \
  --image-type dermoscopic \
  --output-dir Stable_diffusion_augmentation/train_mel_dermoscopic
```

Output:

```text
Stable_diffusion_augmentation/train_mel_clinical/
  images/
    *.jpg
    *.txt
  training_manifest.csv
```

Mặc định script tạo symlink tới ảnh gốc để tiết kiệm dung lượng. Nếu muốn copy file thật:

```bash
python Stable_diffusion_augmentation/prepare_milk10k_sd_training_set.py \
  --class-name MEL \
  --image-type clinical_close_up \
  --output-dir Stable_diffusion_augmentation/train_mel_clinical \
  --copy
```

Mỗi file `.txt` là caption đi kèm ảnh, dùng được với nhiều trainer LoRA/DreamBooth.

## 2. Sinh ảnh augmentation bằng Stable Diffusion img2img

Cài dependency:

```bash
pip install torch diffusers transformers accelerate pillow tqdm
```

Nếu gặp lỗi kiểu `No module named 'flash_attn.flash_attn_interface'`, thường là do `xformers` bị lệch với Python/torch. Với pipeline này `xformers` là optional, cách sửa nhanh là gỡ nó:

```bash
pip uninstall -y xformers flash-attn
```

Trên Python 3.13, nên chạy trước không có `xformers`; script vẫn bật attention slicing trên CUDA.

Sinh ảnh clinical cho class `MEL`:

```bash
python Stable_diffusion_augmentation/generate_milk10k_sd.py \
  --class-name MEL \
  --image-type clinical_close_up \
  --num-per-image 2 \
  --max-source-images 50 \
  --output-dir Stable_diffusion_augmentation/out_mel_clinical
```

Sinh ảnh dermoscopic cho class `MEL`:

```bash
python Stable_diffusion_augmentation/generate_milk10k_sd.py \
  --class-name MEL \
  --image-type dermoscopic \
  --num-per-image 2 \
  --max-source-images 50 \
  --output-dir Stable_diffusion_augmentation/out_mel_dermoscopic
```

Output:

```text
out_mel_clinical/
  MEL/
    clinical_close_up/
      *.jpg
  augmentation_manifest.csv
```

`augmentation_manifest.csv` lưu ảnh sinh ra, ảnh nguồn, `lesion_id`, `isic_id`, seed, prompt, model, strength.

## 3. Plot tất cả ảnh sinh ra trong 1 folder

Ví dụ sau khi generate ra `Stable_diffusion_augmentation/out_mel_dermoscopic`:

```bash
python Stable_diffusion_augmentation/plot_generated_images.py \
  Stable_diffusion_augmentation/out_mel_dermoscopic \
  --output-file Stable_diffusion_augmentation/out_mel_dermoscopic_contact_sheet.png \
  --columns 5 \
  --thumb-size 224
```

Script mặc định quét đệ quy, nên nó tự tìm ảnh trong các folder con như:

```text
out_mel_dermoscopic/
  MEL/
    dermoscopic/
      *.jpg
```

Nếu folder có quá nhiều ảnh và chỉ muốn xem nhanh 100 ảnh đầu:

```bash
python Stable_diffusion_augmentation/plot_generated_images.py \
  Stable_diffusion_augmentation/out_mel_dermoscopic \
  --max-images 100
```

## Chọn model Stable Diffusion

`generate_milk10k_sd.py` hỗ trợ 2 cách chọn model.

Cách 1: dùng preset:

```bash
python Stable_diffusion_augmentation/generate_milk10k_sd.py \
  --class-name MEL \
  --image-type dermoscopic \
  --model-preset sd15
```

Preset hiện có:

```text
sd15        -> runwayml/stable-diffusion-v1-5
sd21        -> stabilityai/stable-diffusion-2-1
openjourney -> prompthero/openjourney
```

Cách 2: truyền trực tiếp Hugging Face model id hoặc local path:

```bash
python Stable_diffusion_augmentation/generate_milk10k_sd.py \
  --class-name MEL \
  --image-type dermoscopic \
  --model-id runwayml/stable-diffusion-v1-5
```

Nếu bạn đã fine-tune LoRA/DreamBooth và có model local:

```bash
python Stable_diffusion_augmentation/generate_milk10k_sd.py \
  --class-name MEL \
  --image-type dermoscopic \
  --model-id /path/to/your/fine_tuned_model
```

`--model-id` sẽ override `--model-preset`.

Nếu train ra LoRA adapter riêng, giữ base model bằng `--model-preset` hoặc `--model-id`, rồi load LoRA:

```bash
python Stable_diffusion_augmentation/generate_milk10k_sd.py \
  --class-name MEL \
  --image-type dermoscopic \
  --model-preset sd15 \
  --lora-weights /path/to/mel_dermoscopic_lora \
  --lora-scale 0.8
```

## Tham số nên chỉnh

- `--strength`: mức thay đổi so với ảnh gốc. Với ảnh y khoa nên bắt đầu `0.25` đến `0.45`.
- `--guidance-scale`: mức bám prompt. Có thể thử `5.0` đến `8.0`.
- `--steps`: số bước denoise. Thường `25` đến `40` là đủ.
- `--num-per-image`: số ảnh sinh từ mỗi ảnh nguồn.
- `--max-source-images`: giới hạn số ảnh nguồn để test nhanh.
- `--prompt`: tự viết prompt thay cho prompt mặc định.
- `--negative-prompt`: loại bỏ watermark, text, ảnh mờ, v.v.

Ví dụ test nhanh trước:

```bash
python Stable_diffusion_augmentation/generate_milk10k_sd.py \
  --class-name MEL \
  --image-type dermoscopic \
  --max-source-images 5 \
  --num-per-image 1 \
  --strength 0.35 \
  --steps 25 \
  --output-dir Stable_diffusion_augmentation/test_mel_dermoscopic
```

## Gợi ý workflow

1. Dùng `prepare_milk10k_sd_training_set.py` để tách đúng class và đúng modality.
2. Train/fine-tune Stable Diffusion hoặc LoRA bằng folder `images/`.
3. Dùng `generate_milk10k_sd.py --model-id /path/to/model_da_finetune` để sinh augmentation.
4. Kiểm tra chất lượng ảnh sinh trước khi trộn vào pipeline train classifier.

Không nên dùng augmentation sinh ra làm dữ liệu đánh giá hoặc validation/test.

## Workflow khuyến nghị với 8GB VRAM local và RTX A6000

### Trên máy local 8GB VRAM

Chỉ nên dùng để test pipeline, không nên train thật.

Việc nên làm:

- Test tách đúng class và đúng modality.
- Test sinh 3-5 ảnh bằng `img2img`.
- Test xem output folder và manifest có đúng không.
- Test prompt/strength cơ bản.

Lệnh test tách data:

```bash
python Stable_diffusion_augmentation/prepare_milk10k_sd_training_set.py \
  --class-name MEL \
  --image-type dermoscopic \
  --max-images 20 \
  --output-dir Stable_diffusion_augmentation/test_train_mel_dermoscopic
```

Lệnh test generate nhẹ:

```bash
python Stable_diffusion_augmentation/generate_milk10k_sd.py \
  --class-name MEL \
  --image-type dermoscopic \
  --model-preset sd15 \
  --max-source-images 3 \
  --num-per-image 1 \
  --size 512 \
  --strength 0.30 \
  --steps 20 \
  --output-dir Stable_diffusion_augmentation/test_gen_mel_dermoscopic
```

Với 8GB VRAM, nên dùng:

- SD 1.5 ở `512x512`.
- `--steps 20` đến `30`.
- `--num-per-image 1` khi test.
- `--strength 0.25` đến `0.40`.
- Không train full model.

### Trên RTX A6000

Nên train LoRA, không nên full fine-tune ngay từ đầu. Với MILK10k, LoRA đủ để học style/modality/class mà ít overfit hơn full fine-tune.

Nên train riêng từng cặp:

```text
MEL + clinical_close_up
MEL + dermoscopic
BCC + clinical_close_up
BCC + dermoscopic
...
```

Không nên train chung clinical và dermoscopic trong cùng một LoRA nếu mục tiêu là generate riêng từng modality.

Khuyến nghị ban đầu:

- Base model: `sd15`.
- Resolution: `512`.
- LoRA rank: `8` hoặc `16`.
- Batch size: tăng theo VRAM, nhưng bắt đầu từ `4` hoặc `8`.
- Epoch/steps: bắt đầu thấp rồi xem overfit.
- Caption giữ rõ modality, ví dụ `melanoma skin lesion, dermoscopic dermatology image`.

Sau khi train LoRA xong, generate bằng:

```bash
python Stable_diffusion_augmentation/generate_milk10k_sd.py \
  --class-name MEL \
  --image-type dermoscopic \
  --model-preset sd15 \
  --lora-weights /path/to/mel_dermoscopic_lora \
  --lora-scale 0.8 \
  --num-per-image 3 \
  --strength 0.35 \
  --steps 30 \
  --output-dir Stable_diffusion_augmentation/out_mel_dermoscopic_lora
```

Với class cực ít ảnh như `MAL_OTH`, nên cẩn thận vì LoRA rất dễ học thuộc. Bắt đầu bằng `img2img` strength thấp, kiểm tra thủ công, và không đưa ảnh sinh vào validation/test.

## 4. Paired augmentation cho class ít ảnh

Nếu chỉ muốn augment các class ít ảnh và giữ đúng cặp `clinical_close_up` + `dermoscopic` theo cùng lesion, dùng:

```bash
python Stable_diffusion_augmentation/generate_milk10k_sd_pairs.py \
  --data-dir /path/to/milk10k \
  --output-dir Stable_diffusion_augmentation/out_minority_pairs \
  --num-per-lesion 3 \
  --strength 0.35 \
  --steps 30
```

Nếu ảnh và CSV nằm ở chỗ khác nhau, truyền path rõ ràng:

```bash
python Stable_diffusion_augmentation/generate_milk10k_sd_pairs.py \
  --input-dir MILK10k_Training_Input \
  --metadata-csv data_related/MILK10k_Training_Metadata.csv \
  --groundtruth-csv data_related/MILK10k_Training_GroundTruth.csv \
  --output-dir Stable_diffusion_augmentation/out_minority_pairs
```

Trước khi chạy diffusion, script sẽ in và lưu:

```text
generation_plan.csv
generation_config.json
```

Hai file này ghi rõ class nào được chọn, bao nhiêu source lesions, bao nhiêu synthetic pairs, seed, prompt/model settings, source paths và output paths. Nếu muốn resume nhẹ và bỏ qua ảnh đã có:

```bash
python Stable_diffusion_augmentation/generate_milk10k_sd_pairs.py \
  --input-dir MILK10k_Training_Input \
  --metadata-csv data_related/MILK10k_Training_Metadata.csv \
  --groundtruth-csv data_related/MILK10k_Training_GroundTruth.csv \
  --output-dir Stable_diffusion_augmentation/out_minority_pairs \
  --skip-existing
```

Mặc định script chỉ generate các class dưới 100 paired lesions:

```text
MAL_OTH, BEN_OTH, VASC, INF, DF
```

Output chính:

```text
Stable_diffusion_augmentation/out_minority_pairs/
  prediction_input/
    <synthetic_lesion_id>/
      <synthetic_clinical_isic_id>.jpg
      <synthetic_dermoscopic_isic_id>.jpg
  paired_augmentation_manifest.csv
  metadata_for_prediction.csv
  groundtruth_for_prediction.csv
```

`metadata_for_prediction.csv` dùng metadata neutral để chạy EffB2 QC, tránh để metadata source gợi ý class.

Plot ảnh synthetic theo class và modality:

```bash
python Stable_diffusion_augmentation/plot_generated_pairs_by_class.py \
  --manifest Stable_diffusion_augmentation/out_minority_pairs/paired_augmentation_manifest.csv \
  --output-file Stable_diffusion_augmentation/out_minority_pairs/generated_pairs_by_class.png \
  --max-pairs-per-class 20
```

Chạy EffB2 QC prediction:

```bash
python Stable_diffusion_augmentation/run_effb2_qc.py \
  --checkpoint /path/to/effb2_best.pt \
  --output-dir Stable_diffusion_augmentation/out_minority_pairs \
  --batch-size 16 \
  --image-size 384
```

Wrapper này tự chạy `predict_milk10k_effb2_dual_metadata.py`, tạo `effb2_qc_predictions.csv`, tạo `effb2_qc_summary.csv`, rồi print confidence summary theo class.

Nếu đã có prediction CSV và chỉ muốn tạo lại summary:

```bash
python Stable_diffusion_augmentation/summarize_effb2_qc.py \
  --manifest Stable_diffusion_augmentation/out_minority_pairs/paired_augmentation_manifest.csv \
  --predictions Stable_diffusion_augmentation/out_minority_pairs/effb2_qc_predictions.csv \
  --output Stable_diffusion_augmentation/out_minority_pairs/effb2_qc_summary.csv
```

Khi train image-only dual encoder, append synthetic vào train split bằng:

```bash
python milk10k_dual_encoder/INDIVIDUAL_SCRIPTS/train_milk10k_fusion_dual_encoder_v2.py \
  --data-dir /path/to/milk10k \
  --paired-augmentation-manifest Stable_diffusion_augmentation/out_minority_pairs/paired_augmentation_manifest.csv
```

Không dùng `--paired-augmentation-manifest` với `metadata_fusion`; synthetic chỉ được append vào train split, không đưa vào validation/test.