source_code/sam3/medsam3_brats/README.md

# MedSAM3 - BraTS 3D Brain Tumor Segmentation

使用 SAM3 + LoRA 微调处理 BraTS2023 3D脑肿瘤分割任务。

## 概述

本项目包含两部分功能：
1. **LoRA微调训练**：使用低秩适应（LoRA）高效微调SAM3模型
2. **推理**：将3D医学图像视为视频序列，利用SAM3的视频传播能力进行分割

## 数据集信息

**BraTS2023 Training Data**: 336个病例

## 文件结构

```
medsam3_brats/
├── brats_dataset.py         # BraTS数据集类（图像/视频模式）
├── lora.py                  # LoRA模块实现
├── train_lora.py            # LoRA微调训练脚本
├── run_train_lora.sh        # 训练启动脚本
├── preprocess_brats.py      # 数据预处理脚本
├── infer_brats_sam3.py      # SAM3推理脚本（点/框提示）
├── infer_brats_sam3_text.py # SAM3推理脚本（文本提示）
├── quick_test.py            # 快速测试脚本
├── run_pipeline.sh          # 推理完整流程脚本
└── README.md                # 本文档
```

## 环境要求

- Python 3.12+
- PyTorch 2.7+
- SAM3 已安装 (`pip install -e .` in sam3 directory)
- nibabel (用于读取 NIfTI 文件)
- opencv-python
- matplotlib

安装依赖：
```bash
pip install nibabel opencv-python matplotlib tqdm tensorboard
```

## LoRA 微调训练

### 快速开始

```bash
cd /root/githubs/sam3/medsam3_brats
bash run_train_lora.sh
```

### 详细参数

```bash
python train_lora.py \
    --data_root /data/yty/brats2023/ASNR-MICCAI-BraTS2023-GLI-Challenge-TrainingData \
    --modality 0 \
    --target_size 512 512 \
    --dataset_type image \
    --checkpoint /data/yty/sam3/sam3.pt \
    --lora_rank 8 \
    --lora_alpha 16 \
    --lora_dropout 0.1 \
    --epochs 50 \
    --batch_size 4 \
    --lr 1e-4 \
    --grad_accum 4 \
    --output_dir /data/yty/brats23_sam3_lora_output \
    --val_freq 5
```

### 训练参数说明

| 参数 | 默认值 | 说明 |
|------|--------|------|
| `--data_root` | - | BraTS数据根目录 |
| `--modality` | 0 | 模态 (0=T1ce, 1=T1, 2=T2-FLAIR, 3=T2) |
| `--dataset_type` | image | 数据集类型 (image/video) |
| `--lora_rank` | 8 | LoRA秩 |
| `--lora_alpha` | 16 | LoRA缩放因子 |
| `--epochs` | 50 | 训练轮数 |
| `--batch_size` | 4 | 批次大小 |
| `--grad_accum` | 4 | 梯度累积步数 |
| `--lr` | 1e-4 | 学习率 |

### LoRA 参数说明

- **rank**: LoRA秩，控制可训练参数数量。推荐值：4-16
- **alpha**: 缩放因子，通常设为 rank 的 2 倍
- **dropout**: 防止过拟合，推荐 0.0-0.1

### 训练输出

```
/data/yty/brats23_sam3_lora_output/
├── config.json              # 训练配置
├── train.log               # 训练日志
├── tensorboard/            # TensorBoard日志
└── checkpoints/
    ├── best_model.pt       # 最佳模型
    ├── best_lora_weights.pt # 最佳LoRA权重
    ├── lora_weights.pt     # 最新LoRA权重
    └── checkpoint_epoch_*.pt # Epoch检查点
```

### 监控训练

```bash
tensorboard --logdir /data/yty/brats23_sam3_lora_output/tensorboard
```

## 推理

### 使用完整流程脚本（预处理+推理）

```bash
cd /root/githubs/sam3/medsam3_brats
bash run_pipeline.sh
```

### 分步执行

#### Step 1: 预处理数据

```bash
python preprocess_brats.py \
    --input_dir /data/yty/brats2023/ASNR-MICCAI-BraTS2023-GLI-Challenge-TrainingData \
    --output_dir /data/yty/brats23_sam3_processed \
    --modality 0 \
    --target_size 512 512 \
    --num_cases 10
```

#### Step 2: SAM3推理（框提示）

```bash
python infer_brats_sam3.py \
    --input_dir /data/yty/brats23_sam3_processed \
    --output_dir /data/yty/brats23_sam3_results \
    --checkpoint /data/yty/sam3/sam3.pt \
    --prompt_type box \
    --visualize
```

#### Step 2 (可选): 文本提示推理

```bash
python infer_brats_sam3_text.py \
    --input_dir /data/yty/brats23_sam3_processed \
    --output_dir /data/yty/brats23_sam3_results_text \
    --checkpoint /data/yty/sam3/sam3.pt \
    --text_prompt "brain tumor"
```

## 数据路径总结

| 路径 | 说明 |
|------|------|
| `/data/yty/brats2023` | BraTS2023原始数据 (336个病例) |
| `/data/yty/sam3/sam3.pt` | SAM3预训练模型 |
| `/data/yty/brats23_sam3_processed` | 预处理后的数据 |
| `/data/yty/brats23_sam3_results` | 推理结果 |
| `/data/yty/brats23_sam3_lora_output` | LoRA训练输出 |

## BraTS 标签说明

BraTS 分割标签：
- 0: 背景
- 1: NCR (Necrotic Core) - 坏死核心
- 2: ED (Edema) - 水肿
- 3: ET (Enhancing Tumor) - 强化肿瘤

评估区域：
- **Whole Tumor (WT)**: 标签 1+2+3（整个肿瘤）
- **Tumor Core (TC)**: 标签 1+3（肿瘤核心）
- **Enhancing Tumor (ET)**: 标签 3（强化肿瘤）

当前实现分割的是 Whole Tumor。

## LoRA vs 全量微调

| 方法 | 可训练参数 | 显存需求 | 训练速度 |
|------|-----------|---------|---------|
| 全量微调 | ~850M (100%) | ~60GB | 慢 |
| LoRA (r=8) | ~2M (<1%) | ~20GB | 快 |
| LoRA (r=16) | ~4M (~0.5%) | ~25GB | 较快 |

## 参考

- [MedSAM2](https://github.com/bowang-lab/MedSAM2)
- [SAM3](https://github.com/facebookresearch/sam3)
- [LoRA](https://arxiv.org/abs/2106.09685)
- [BraTS Challenge](https://www.synapse.org/#!Synapse:syn51156910/wiki/622351)