DeCLIP 解耦蒸馏补充分析方案（低优先级）
目的
- 在不新增大规模实验的前提下，补充“解耦蒸馏缓解优化冲突”的证据。
- 优先利用现有训练日志与已完成的 integrated vs decoupled 指标对比。
核心问题
- 集成蒸馏（content+context 作用于同一特征）是否存在梯度冲突？
- 解耦后共享层的梯度冲突是否降低？
- 训练稳定性是否更好（loss 波动、异常）？
最小化实验方案
直接对比指标（已有结果优先）
- 数据：mIoU / mAP / AP50 等（同设置、同数据集）。
- 目标：说明 decoupled ≥ integrated。
训练稳定性（不新增训练）
- 从现有日志中提取：
- 总 loss 与各分项 loss 的波动幅度（均值、方差、最大波动）。
- 是否出现 NaN/Inf、梯度爆炸/崩溃。
- 收敛速度（达到某阈值的步数）。
- 输出形式：1-2 张曲线图 + 简短统计表。
- 从现有日志中提取：
共享层梯度冲突分析（轻量）
- 对象：前 N 个共享 block（解耦发生在最后一个 block）。
- 方法：对共享层参数分别计算 content/context loss 的梯度， 求 cosine 相似度；统计均值/中位数/分位数。
- 预期：decoupled 的共享层 cosine 更高（冲突更小）。
实现建议（与现有 integrated_grad_analysis 对齐）
- 集成蒸馏已有：
- 每 100 step 记录一次 content/context 在每层参数上的 cosine。
- 输出：logs//gradient_analysis.jsonl
- 解耦蒸馏新增的分析口径：
- 仅对“共享层”做同样的梯度分析；
- 对最后解耦层，不做对比或仅统计单一 loss 梯度范数。
报告写法建议
- 实验结果表：integrated vs decoupled（同配置）。
- 梯度分析：展示 cosine 分布对比（共享层）。
- 训练稳定性：曲线图 + 统计指标。
- 结论：集成蒸馏存在梯度冲突，解耦后冲突降低且稳定性/性能更好。
备注
- 若时间紧，只做“已有指标对比 + 训练稳定性曲线”即可。