temp / CT /lung /plan.md
Cccccz's picture
Add files using upload-large-folder tool
89abe60 verified
|
Raw
History Blame Contribute Delete
5.99 kB

最终复现 Plan

目标:先复现论文主体框架,但不下载 NLST;代码结构保留 NLST 接口,等以后有数据可直接接入。第一版 使用 LIDC-IDRI + Lung-PET-CT-Dx + NSCLC-Radiomics。

  1. 数据下载

需要下载:

数据集 大小 格式 用途
LIDC-IDRI 约 133 GB CT DICOM + XML 标注 CT 分割、病灶分类、专家软标签
DICOM-LIDC-IDRI-Nodules 约 2.5 GB,可选 DICOM SEG/SR 替代 XML 解析,降低标注处理复杂度
Lung-PET-CT-Dx 约 127 GB CT/PT DICOM + PASCAL VOC XML bbox + 临床/病理 PET 融合、PET utility gate、分类
NSCLC-Radiomics 约 36 GB CT/SEG/RTSTRUCT DICOM + clinical CSV 外部验证、生存分析、GTV 分割

暂不下载:

数据集 原因
NLST CT 约 11.14 TB,第一阶段不现实
NLST pathology 约 775 GB,暂不做
TCGA-LUSC WSI 作为第二阶段病理正则实验,可选

建议磁盘:原始数据约 300 GB,预处理缓存后准备 700 GB - 1 TB。

  1. 工程结构

我会建一个完整复现工程:

configs/ lidc_seg.yaml lidc_cls.yaml lung_pet_ct_dx.yaml nsclc_external.yaml full_model.yaml

src/ datasets/ lidc.py lung_pet_ct_dx.py nsclc_radiomics.py nlst_stub.py preprocessing/ dicom_to_nifti.py build_lidc_masks.py build_crops.py convert_rtstruct.py models/ support_net.py ct_encoder.py pet_encoder.py fusion.py clinical_encoder.py survival_head.py full_model.py losses/ train.py evaluate.py metrics.py

experiments/ splits/ results/

nlst_stub.py 会先实现数据字段、survival label schema 和 hazard-head 训练接口,但不要求本地有 NLST 数据。

  1. 预处理流程

统一处理为模型友好的格式:

processed/ images_ct/.nii.gz 或 .npz images_pet/.nii.gz 或 .npz masks/.nii.gz crops_ct/.npz crops_pet/*.npz metadata.csv labels.csv survival.csv

处理规则:

  • DICOM 转 NIfTI/NPZ。
  • CT HU clipping:[-1000, 400]。
  • 重采样:优先 1mm isotropic,显存不足时用 1.5mm。
  • 生成 lesion-centered crop,例如 96^3 或 128^3。
  • LIDC 多专家 mask 取 voxel mean,作为 soft mask。
  • Lung-PET-CT-Dx bbox 转粗 mask/crop。
  • NSCLC RTSTRUCT/SEG 转 GTV mask。
  • clinical variables 标准化,并生成 missingness mask。
  1. 模型设计

第一版实现论文功能,但用稳定可训练的工程替代极复杂细节。

模块 复现实现
Stage A 支持图 MONAI SegResNet / DynUNet,Dice+BCE
CT encoder 3D ResNet/DenseNet,优先 pretrained;否则从头训
PET encoder 轻量 3D ResNet,先从头训
Clinical encoder MLP + missingness mask
PET utility gate 比较 CT-only 与 PET-fusion 分支增益,生成 pseudo-label
Fusion 第一版 masked cross-attention;第二版再加 optimal transport
Calibration validation temperature scaling + Brier loss
Patient aggregation attention pooling + 1 - prod(1-p) burden
Survival head discrete-time hazard head,支持 NSCLC,预留 NLST
Pathology regularization 第二阶段可选,不放第一版主线

训练策略:

  • 分割模型:从头训练。
  • CT 分类:优先用 MedicalNet / MONAI 可用 3D pretrained backbone;不可用就从头训。
  • PET 分支、clinical encoder、utility gate、survival head:从头训。
  • 病理 foundation model:不从头训,只用 pretrained encoder 提 embedding。
  1. 实验顺序

  2. LIDC segmentation baseline

    • 目标:Dice、IoU。
    • 先验证 mask 解析和 crop 正确。
  3. LIDC CT classification

    • 目标:AUC、balanced accuracy、AP、Brier。
    • 使用 support map + CT crop。
  4. Lung-PET-CT-Dx CT/PET classification

    • 先跑 CT-only。
    • 再跑 always-fuse PET。
    • 最后跑 selective PET gate。
  5. NSCLC-Radiomics external validation

    • 用训练好的 CT 模型做外部测试。
    • 评估 classification、segmentation、survival。
  6. Survival module without NLST

    • 在 NSCLC-Radiomics 上先实现 discrete-time hazard。
    • NLST loader 保留接口,后续接数据即可跑。
  7. Ablation

    • no support branch
    • no perilesional band
    • no clinical missingness mask
    • CT-only
    • always PET fusion
    • selective PET fusion
    • no calibration
    • no survival multitask
  8. 交付指标

第一阶段目标不是完全达到论文声称数值,而是可复现实验闭环:

任务 指标
分割 Dice、IoU、ASSD
分类 AUC、balanced accuracy、sensitivity、specificity、AP、Brier
PET utility AUC、selected PET ratio、CT-only vs PET-fusion gain
生存 C-index、time-dependent AUC、IBS
校准 Brier score、ECE、reliability curve
  1. 里程碑
阶段 时间 输出
M1 数据下载/索引 2-4 天 manifest、metadata、raw index
M2 预处理 3-5 天 NIfTI/NPZ、mask、crop、labels
M3 LIDC 分割/分类 baseline 4-7 天 baseline checkpoint + metrics
M4 CT/PET selective fusion 5-8 天 Lung-PET-CT-Dx 实验
M5 NSCLC 外部验证/生存 4-7 天 external metrics + survival results
M6 ablation/report 3-5 天 reproduction_report.md

总计:顺利情况下 3-5 周。数据下载和 TCIA 格式处理会是最大变量。

最终路线 先完成一个严格、可运行、可扩展的复现版本: LIDC-IDRI + Lung-PET-CT-Dx + NSCLC-Radiomics,实现论文所有核心模块;NLST 只实现 loader/schema/ survival 接口,不下载不训练。等第一阶段结果稳定后,再决定是否扩展到 NLST 和病理正则。