CT/lung/plan.md

最终复现 Plan

  目标：先复现论文主体框架，但不下载 NLST；代码结构保留 NLST 接口，等以后有数据可直接接入。第一版
  使用 LIDC-IDRI + Lung-PET-CT-Dx + NSCLC-Radiomics。

  1. 数据下载

  需要下载：

  | 数据集 | 大小 | 格式 | 用途 |
  |---|---:|---|---|
  | LIDC-IDRI | 约 133 GB | CT DICOM + XML 标注 | CT 分割、病灶分类、专家软标签 |
  | DICOM-LIDC-IDRI-Nodules | 约 2.5 GB，可选 | DICOM SEG/SR | 替代 XML 解析，降低标注处理复杂度 |
  | Lung-PET-CT-Dx | 约 127 GB | CT/PT DICOM + PASCAL VOC XML bbox + 临床/病理 | PET 融合、PET utility gate、分类 |
  | NSCLC-Radiomics | 约 36 GB | CT/SEG/RTSTRUCT DICOM + clinical CSV | 外部验证、生存分析、GTV 分割 |

  暂不下载：

  | 数据集 | 原因 |
  |---|---|
  | NLST | CT 约 11.14 TB，第一阶段不现实 |
  | NLST pathology | 约 775 GB，暂不做 |
  | TCGA-LUSC WSI | 作为第二阶段病理正则实验，可选 |

  建议磁盘：原始数据约 300 GB，预处理缓存后准备 700 GB - 1 TB。

  2. 工程结构

  我会建一个完整复现工程：

  configs/
    lidc_seg.yaml
    lidc_cls.yaml
    lung_pet_ct_dx.yaml
    nsclc_external.yaml
    full_model.yaml

  src/
    datasets/
      lidc.py
      lung_pet_ct_dx.py
      nsclc_radiomics.py
      nlst_stub.py
    preprocessing/
      dicom_to_nifti.py
      build_lidc_masks.py
      build_crops.py
      convert_rtstruct.py
    models/
      support_net.py
      ct_encoder.py
      pet_encoder.py
      fusion.py
      clinical_encoder.py
      survival_head.py
      full_model.py
    losses/
    train.py
    evaluate.py
    metrics.py

  experiments/
    splits/
    results/

  nlst_stub.py 会先实现数据字段、survival label schema 和 hazard-head 训练接口，但不要求本地有
  NLST 数据。

  3. 预处理流程

  统一处理为模型友好的格式：

  processed/
    images_ct/*.nii.gz 或 *.npz
    images_pet/*.nii.gz 或 *.npz
    masks/*.nii.gz
    crops_ct/*.npz
    crops_pet/*.npz
    metadata.csv
    labels.csv
    survival.csv

  处理规则：

  - DICOM 转 NIfTI/NPZ。
  - CT HU clipping：[-1000, 400]。
  - 重采样：优先 1mm isotropic，显存不足时用 1.5mm。
  - 生成 lesion-centered crop，例如 96^3 或 128^3。
  - LIDC 多专家 mask 取 voxel mean，作为 soft mask。
  - Lung-PET-CT-Dx bbox 转粗 mask/crop。
  - NSCLC RTSTRUCT/SEG 转 GTV mask。
  - clinical variables 标准化，并生成 missingness mask。

  4. 模型设计

  第一版实现论文功能，但用稳定可训练的工程替代极复杂细节。

  | 模块 | 复现实现 |
  |---|---|
  | Stage A 支持图 | MONAI SegResNet / DynUNet，Dice+BCE |
  | CT encoder | 3D ResNet/DenseNet，优先 pretrained；否则从头训 |
  | PET encoder | 轻量 3D ResNet，先从头训 |
  | Clinical encoder | MLP + missingness mask |
  | PET utility gate | 比较 CT-only 与 PET-fusion 分支增益，生成 pseudo-label |
  | Fusion | 第一版 masked cross-attention；第二版再加 optimal transport |
  | Calibration | validation temperature scaling + Brier loss |
  | Patient aggregation | attention pooling + 1 - prod(1-p) burden |
  | Survival head | discrete-time hazard head，支持 NSCLC，预留 NLST |
  | Pathology regularization | 第二阶段可选，不放第一版主线 |

  训练策略：

  - 分割模型：从头训练。
  - CT 分类：优先用 MedicalNet / MONAI 可用 3D pretrained backbone；不可用就从头训。
  - PET 分支、clinical encoder、utility gate、survival head：从头训。
  - 病理 foundation model：不从头训，只用 pretrained encoder 提 embedding。

  5. 实验顺序

  1. LIDC segmentation baseline
      - 目标：Dice、IoU。
      - 先验证 mask 解析和 crop 正确。
  2. LIDC CT classification
      - 目标：AUC、balanced accuracy、AP、Brier。
      - 使用 support map + CT crop。
  3. Lung-PET-CT-Dx CT/PET classification
      - 先跑 CT-only。
      - 再跑 always-fuse PET。
      - 最后跑 selective PET gate。
  4. NSCLC-Radiomics external validation
      - 用训练好的 CT 模型做外部测试。
      - 评估 classification、segmentation、survival。
  5. Survival module without NLST
      - 在 NSCLC-Radiomics 上先实现 discrete-time hazard。
      - NLST loader 保留接口，后续接数据即可跑。
  6. Ablation
      - no support branch
      - no perilesional band
      - no clinical missingness mask
      - CT-only
      - always PET fusion
      - selective PET fusion
      - no calibration
      - no survival multitask

  6. 交付指标

  第一阶段目标不是完全达到论文声称数值，而是可复现实验闭环：

  | 任务 | 指标 |
  |---|---|
  | 分割 | Dice、IoU、ASSD |
  | 分类 | AUC、balanced accuracy、sensitivity、specificity、AP、Brier |
  | PET utility | AUC、selected PET ratio、CT-only vs PET-fusion gain |
  | 生存 | C-index、time-dependent AUC、IBS |
  | 校准 | Brier score、ECE、reliability curve |

  7. 里程碑

  | 阶段 | 时间 | 输出 |
  |---|---:|---|
  | M1 数据下载/索引 | 2-4 天 | manifest、metadata、raw index |
  | M2 预处理 | 3-5 天 | NIfTI/NPZ、mask、crop、labels |
  | M3 LIDC 分割/分类 baseline | 4-7 天 | baseline checkpoint + metrics |
  | M4 CT/PET selective fusion | 5-8 天 | Lung-PET-CT-Dx 实验 |
  | M5 NSCLC 外部验证/生存 | 4-7 天 | external metrics + survival results |
  | M6 ablation/report | 3-5 天 | reproduction_report.md |

  总计：顺利情况下 3-5 周。数据下载和 TCIA 格式处理会是最大变量。

  最终路线
  先完成一个严格、可运行、可扩展的复现版本：
  LIDC-IDRI + Lung-PET-CT-Dx + NSCLC-Radiomics，实现论文所有核心模块；NLST 只实现 loader/schema/
  survival 接口，不下载不训练。等第一阶段结果稳定后，再决定是否扩展到 NLST 和病理正则。