analysis/decoupling_analysis/experiment_plan.md

DeCLIP 解耦蒸馏补充分析方案（低优先级）

目的
- 在不新增大规模实验的前提下，补充“解耦蒸馏缓解优化冲突”的证据。
- 优先利用现有训练日志与已完成的 integrated vs decoupled 指标对比。

核心问题
- 集成蒸馏（content+context 作用于同一特征）是否存在梯度冲突？
- 解耦后共享层的梯度冲突是否降低？
- 训练稳定性是否更好（loss 波动、异常）？

最小化实验方案
1. 直接对比指标（已有结果优先）
   - 数据：mIoU / mAP / AP50 等（同设置、同数据集）。
   - 目标：说明 decoupled ≥ integrated。

2. 训练稳定性（不新增训练）
   - 从现有日志中提取：
     - 总 loss 与各分项 loss 的波动幅度（均值、方差、最大波动）。
     - 是否出现 NaN/Inf、梯度爆炸/崩溃。
     - 收敛速度（达到某阈值的步数）。
   - 输出形式：1-2 张曲线图 + 简短统计表。

3. 共享层梯度冲突分析（轻量）
   - 对象：前 N 个共享 block（解耦发生在最后一个 block）。
   - 方法：对共享层参数分别计算 content/context loss 的梯度，
     求 cosine 相似度；统计均值/中位数/分位数。
   - 预期：decoupled 的共享层 cosine 更高（冲突更小）。

实现建议（与现有 integrated_grad_analysis 对齐）
- 集成蒸馏已有：
  - 每 100 step 记录一次 content/context 在每层参数上的 cosine。
  - 输出：logs/<exp>/gradient_analysis.jsonl
- 解耦蒸馏新增的分析口径：
  - 仅对“共享层”做同样的梯度分析；
  - 对最后解耦层，不做对比或仅统计单一 loss 梯度范数。

报告写法建议
- 实验结果表：integrated vs decoupled（同配置）。
- 梯度分析：展示 cosine 分布对比（共享层）。
- 训练稳定性：曲线图 + 统计指标。
- 结论：集成蒸馏存在梯度冲突，解耦后冲突降低且稳定性/性能更好。

备注
- 若时间紧，只做“已有指标对比 + 训练稳定性曲线”即可。