DeCLIP 解耦蒸馏补充分析方案(低优先级) 目的 - 在不新增大规模实验的前提下,补充“解耦蒸馏缓解优化冲突”的证据。 - 优先利用现有训练日志与已完成的 integrated vs decoupled 指标对比。 核心问题 - 集成蒸馏(content+context 作用于同一特征)是否存在梯度冲突? - 解耦后共享层的梯度冲突是否降低? - 训练稳定性是否更好(loss 波动、异常)? 最小化实验方案 1. 直接对比指标(已有结果优先) - 数据:mIoU / mAP / AP50 等(同设置、同数据集)。 - 目标:说明 decoupled ≥ integrated。 2. 训练稳定性(不新增训练) - 从现有日志中提取: - 总 loss 与各分项 loss 的波动幅度(均值、方差、最大波动)。 - 是否出现 NaN/Inf、梯度爆炸/崩溃。 - 收敛速度(达到某阈值的步数)。 - 输出形式:1-2 张曲线图 + 简短统计表。 3. 共享层梯度冲突分析(轻量) - 对象:前 N 个共享 block(解耦发生在最后一个 block)。 - 方法:对共享层参数分别计算 content/context loss 的梯度, 求 cosine 相似度;统计均值/中位数/分位数。 - 预期:decoupled 的共享层 cosine 更高(冲突更小)。 实现建议(与现有 integrated_grad_analysis 对齐) - 集成蒸馏已有: - 每 100 step 记录一次 content/context 在每层参数上的 cosine。 - 输出:logs//gradient_analysis.jsonl - 解耦蒸馏新增的分析口径: - 仅对“共享层”做同样的梯度分析; - 对最后解耦层,不做对比或仅统计单一 loss 梯度范数。 报告写法建议 - 实验结果表:integrated vs decoupled(同配置)。 - 梯度分析:展示 cosine 分布对比(共享层)。 - 训练稳定性:曲线图 + 统计指标。 - 结论:集成蒸馏存在梯度冲突,解耦后冲突降低且稳定性/性能更好。 备注 - 若时间紧,只做“已有指标对比 + 训练稳定性曲线”即可。