source_code/sam3/medsam3_brats/README.md

MedSAM3 - BraTS 3D Brain Tumor Segmentation

使用 SAM3 + LoRA 微调处理 BraTS2023 3D脑肿瘤分割任务。

概述

本项目包含两部分功能：

1. LoRA微调训练：使用低秩适应（LoRA）高效微调SAM3模型
2. 推理：将3D医学图像视为视频序列，利用SAM3的视频传播能力进行分割

数据集信息

BraTS2023 Training Data: 336个病例

文件结构

medsam3_brats/
├── brats_dataset.py         # BraTS数据集类（图像/视频模式）
├── lora.py                  # LoRA模块实现
├── train_lora.py            # LoRA微调训练脚本
├── run_train_lora.sh        # 训练启动脚本
├── preprocess_brats.py      # 数据预处理脚本
├── infer_brats_sam3.py      # SAM3推理脚本（点/框提示）
├── infer_brats_sam3_text.py # SAM3推理脚本（文本提示）
├── quick_test.py            # 快速测试脚本
├── run_pipeline.sh          # 推理完整流程脚本
└── README.md                # 本文档

环境要求

• Python 3.12+
• PyTorch 2.7+
• SAM3 已安装 (pip install -e . in sam3 directory)
• nibabel (用于读取 NIfTI 文件)
• opencv-python
• matplotlib

安装依赖：

pip install nibabel opencv-python matplotlib tqdm tensorboard

LoRA 微调训练

快速开始

cd /root/githubs/sam3/medsam3_brats
bash run_train_lora.sh

详细参数

python train_lora.py \
    --data_root /data/yty/brats2023/ASNR-MICCAI-BraTS2023-GLI-Challenge-TrainingData \
    --modality 0 \
    --target_size 512 512 \
    --dataset_type image \
    --checkpoint /data/yty/sam3/sam3.pt \
    --lora_rank 8 \
    --lora_alpha 16 \
    --lora_dropout 0.1 \
    --epochs 50 \
    --batch_size 4 \
    --lr 1e-4 \
    --grad_accum 4 \
    --output_dir /data/yty/brats23_sam3_lora_output \
    --val_freq 5

训练参数说明

参数	默认值	说明
--data_root	-	BraTS数据根目录
--modality	0	模态 (0=T1ce, 1=T1, 2=T2-FLAIR, 3=T2)
--dataset_type	image	数据集类型 (image/video)
--lora_rank	8	LoRA秩
--lora_alpha	16	LoRA缩放因子
--epochs	50	训练轮数
--batch_size	4	批次大小
--grad_accum	4	梯度累积步数
--lr	1e-4	学习率

LoRA 参数说明

• rank: LoRA秩，控制可训练参数数量。推荐值：4-16
• alpha: 缩放因子，通常设为 rank 的 2 倍
• dropout: 防止过拟合，推荐 0.0-0.1

训练输出

/data/yty/brats23_sam3_lora_output/
├── config.json              # 训练配置
├── train.log               # 训练日志
├── tensorboard/            # TensorBoard日志
└── checkpoints/
    ├── best_model.pt       # 最佳模型
    ├── best_lora_weights.pt # 最佳LoRA权重
    ├── lora_weights.pt     # 最新LoRA权重
    └── checkpoint_epoch_*.pt # Epoch检查点

监控训练

tensorboard --logdir /data/yty/brats23_sam3_lora_output/tensorboard

推理

使用完整流程脚本（预处理+推理）

cd /root/githubs/sam3/medsam3_brats
bash run_pipeline.sh

分步执行

Step 1: 预处理数据

python preprocess_brats.py \
    --input_dir /data/yty/brats2023/ASNR-MICCAI-BraTS2023-GLI-Challenge-TrainingData \
    --output_dir /data/yty/brats23_sam3_processed \
    --modality 0 \
    --target_size 512 512 \
    --num_cases 10

Step 2: SAM3推理（框提示）

python infer_brats_sam3.py \
    --input_dir /data/yty/brats23_sam3_processed \
    --output_dir /data/yty/brats23_sam3_results \
    --checkpoint /data/yty/sam3/sam3.pt \
    --prompt_type box \
    --visualize

Step 2 (可选): 文本提示推理

python infer_brats_sam3_text.py \
    --input_dir /data/yty/brats23_sam3_processed \
    --output_dir /data/yty/brats23_sam3_results_text \
    --checkpoint /data/yty/sam3/sam3.pt \
    --text_prompt "brain tumor"

数据路径总结

路径	说明
/data/yty/brats2023	BraTS2023原始数据 (336个病例)
/data/yty/sam3/sam3.pt	SAM3预训练模型
/data/yty/brats23_sam3_processed	预处理后的数据
/data/yty/brats23_sam3_results	推理结果
/data/yty/brats23_sam3_lora_output	LoRA训练输出

BraTS 标签说明

BraTS 分割标签：

• 0: 背景
• 1: NCR (Necrotic Core) - 坏死核心
• 2: ED (Edema) - 水肿
• 3: ET (Enhancing Tumor) - 强化肿瘤

评估区域：

• Whole Tumor (WT): 标签 1+2+3（整个肿瘤）
• Tumor Core (TC): 标签 1+3（肿瘤核心）
• Enhancing Tumor (ET): 标签 3（强化肿瘤）

当前实现分割的是 Whole Tumor。

LoRA vs 全量微调

方法	可训练参数	显存需求	训练速度
全量微调	~850M (100%)	~60GB	慢
LoRA (r=8)	~2M (<1%)	~20GB	快
LoRA (r=16)	4M (0.5%)	~25GB	较快

参考

• MedSAM2
• SAM3
• LoRA
• BraTS Challenge