| 利用一个冻结的分割网络（SegNet）作为“监工”，在PixelGen生成图像的过程中，实时计算梯度并修正生成轨迹，强制生成的病灶形态与输入的Mask完美对齐，并具有高度的解剖学真实感。 |
|
|
| 一、 实验目的 (Experimental Purpose) |
| 实现“生成即对齐” (Generation-Alignment Synergy): 解决传统生成模型（如Nazir ICCV'25）“生成完了再筛选”的低效问题。通过梯度引导，确保每一张生成的图像，其病灶位置都精确地落在Mask区域内。 |
|
|
| 挖掘“困难样本” (Hard Example Mining): 通过引入对抗性或边界不确定性梯度，生成那些位于分割网络“决策边界”上的样本（例如：边缘模糊的积液、纹理复杂的息肉），强迫下游模型学习更鲁棒的特征。 |
|
|
| 提升数据效率 (Data Efficiency): 证明通过这种“靶向生成”得到的 100 张图，比随机生成的 1000 张图对分割任务更有价值。 |
|
|
| 二、 实验步骤 (Experimental Steps) |
| 阶段 1: 准备“导师” (Preparation) |
|
|
| 你需要一个已经训练好的分割网络（我们称之为 Guidance SegNet）。 |
|
|
| 注意: 这个网络不需要非常完美，用现有真实数据训练一个标准的 U-Net 即可。它的作用是提供“什么是息肉/病灶”的梯度方向。 |
|
|
| 状态: Frozen (参数冻结，requires_grad=False)，Eval 模式。 |
| |
| 阶段 2: 改造采样循环 (Modification) |
| |
| 这是你主要修改代码的地方。在 PixelGen 的 sample 或 solve 函数中，插入梯度计算模块。 |
| |
| 核心逻辑: x_t (噪声) -> PixelGen -> x_pred (预测原图) -> Guidance SegNet -> Loss -> Gradient -> Correct x_t. |
|
|
| 阶段 3: 批量生成与验证 (Generation & Verification) |
|
|
| 使用带引导的代码生成一批数据（例如 500 张）。 |
|
|
| 可视化检查: 画出采样过程（t=1.0 -> 0.0），观察梯度是如何把一团混乱的像素“拉”成一个精确的病灶的。 |
|
|
| 三、 核心代码实现 (Code Implementation) |
| 请将以下代码逻辑集成到你的 PixelGen 采样循环中（通常在 sampler.py 或 inference.py）。 |
|
|
| 假设环境: |
|
|
| model: 你的 PixelGen 模型 (Flow Matching)。 |
|
|
| seg_model: 你的冻结分割网络 (U-Net)。 |
| |
| mask: 输入的病灶掩码 (B, 1, H, W)。 |
| |
| Python |
| import torch |
| import torch.nn.functional as F |
| |
| def guided_sampling_step( |
| model, |
| seg_model, |
| x_t, |
| t, |
| dt, |
| mask, |
| cond, |
| guidance_scale=100.0, |
| decay_start=0.3 |
| ): |
| """ |
| 执行带梯度引导的单步 Flow Matching 采样 |
| Args: |
| x_t: 当前时刻的噪声图像 |
| t: 当前时间步 (float) |
| dt: 时间步长 (通常为负，如 -1/N) |
| mask: 目标分割 Mask (Ground Truth) |
| cond: PixelGen 的条件 (如 class label 或 text embedding) |
| guidance_scale: 引导强度 |
| decay_start: 时间小于此值时停止引导 (保护高频纹理) |
| """ |
| |
| # 1. 开启梯度计算 (关键步骤) |
| # 即使在推理阶段，我们也需要对输入 x_t 求导 |
| with torch.enable_grad(): |
| x_t = x_t.detach().requires_grad_(True) |
| |
| # 2. PixelGen 预测 x_0 (Clean Image Prediction) |
| # 注意：PixelGen 的优势是直接预测 x_0，而不是噪声 epsilon |
| # 这让我们能直接把预测结果喂给分割网络 |
| model_output = model(x_t, t, cond) |
| x_pred = model_output['x_pred'] # 假设输出字典里有预测的原图 |
| |
| # --- 梯度引导核心模块 Start --- |
| gradient = torch.zeros_like(x_t) |
| |
| # 策略：只在生成的前期和中期 (t > decay_start) 加引导 |
| # 后期 (t < decay_start) 让模型专注于纹理去噪，避免破坏散斑细节 |
| if t > decay_start and guidance_scale > 0: |
| |
| # (A) 将预测图送入分割网络 |
| # 为了数值稳定性，最好确保 x_pred 在 [0,1] 或标准化范围内 |
| # seg_input = normalize(x_pred) |
| seg_logits = seg_model(x_pred) |
| |
| # (B) 计算对齐 Loss (Alignment Loss) |
| # 我们希望 SegNet 预测的 mask 尽可能接近 GT mask |
| # 使用 BCE Loss 或 Dice Loss |
| loss_align = F.binary_cross_entropy_with_logits(seg_logits, mask) |
| |
| # (C) [可选] 计算不确定性/对抗 Loss (Uncertainty Loss) |
| # 如果你想做 Hard Example Mining： |
| # 我们希望在 Mask 的边界区域 (Boundary)，SegNet 感到困惑 (Entropy 最大化) |
| probs = torch.sigmoid(seg_logits) |
| entropy = -(probs * torch.log(probs + 1e-6) + (1-probs) * torch.log(1-probs + 1e-6)) |
| # 只关注边界的不确定性 (需要先提取 Mask 边缘) |
| # loss_adv = - entropy.mean() # 简单的对抗：让网络整体困惑 |
| |
| # 总 Loss |
| total_loss = loss_align # + lambda * loss_adv |
| |
| # (D) 计算对 x_t 的梯度 |
| # 这一步告诉我们：如何修改当前的噪声 x_t，才能让预测出的 x_pred 更符合 Mask |
| grad = torch.autograd.grad(total_loss, x_t)[0] |
| |
| # (E) 梯度归一化 (防止梯度爆炸毁掉图像) |
| # 这是一个工程 Trick，非常重要 |
| grad_norm = torch.norm(grad.reshape(grad.shape[0], -1), dim=-1).mean() |
| grad = grad / (grad_norm + 1e-8) |
| |
| gradient = grad |
| |
| # --- 梯度引导核心模块 End --- |
| |
| # 3. 修正速度场 (Correct the Flow) |
| # 此时我们需要 detach，因为不再需要反向传播了 |
| x_pred = x_pred.detach() |
| gradient = gradient.detach() |
| |
| # 计算原始 Flow (Velocity) |
| # v = (x_1 - x_t) / (1 - t) -> Flow Matching 公式 |
| v_theta = (x_pred - x_t.detach()) / (1 - t + 1e-5) |
| |
| # 加入梯度修正 |
| # 我们希望 Loss 变小，所以我们要沿着负梯度方向移动图像 |
| # 在 Flow Matching 中，这相当于修改速度场的方向 |
| # 注意：这里的正负号取决于你的求解器方向，通常 Loss 下降方向是 -grad |
| v_guided = v_theta - guidance_scale * gradient |
| |
| # 4. 执行欧拉步 (Euler Step) |
| x_next = x_t.detach() + dt * v_guided |
| |
| return x_next |
| |
| 四、 代码集成的注意事项引导强度的衰减 (Time-Dependent Scheduling):在采样开始时 ($t=1.0$)，轮廓未定，建议使用较大的 guidance_scale (例如 200-500)。随着 $t$ 减小，建议线性衰减 guidance_scale。当 $t < 0.2$ 时，建议关闭引导 (set scale to 0)。因为此时图像主要在生成高频纹理，强行加分割 Loss 会导致医学图像特有的“散斑”变成奇怪的“伪影”。分割网络的输入域:PixelGen 输出的 x_pred 通常在 [-1, 1] 或 [0, 1] 之间。请确保你的 SegNet 训练时使用的归一化方式与 x_pred 一致。如果不一致，需要在代码里加一个 transform。调试技巧:先设置 guidance_scale = 0，确保代码能跑通且结果与原来一致。然后设置一个较小的 scale，打印 loss_align 的值。你应该能看到随着时间步推进，Loss 迅速下降，这说明引导生效了。 |
|
|
| 五、 下一步动作 (Next Step)建议你现在的下一步是：将上述代码片段插入你的推理脚本中，选取一张 Mask，设置 guidance_scale 为一个非零值（如 100），跑一次生成，并保存中间步骤的 x_pred 图像。你需要确认：在 $t=0.5$ 左右时，生成的病灶轮廓是否已经“紧紧贴合”在 Mask 的边缘上了？如果是，你的实验就成功了一大半。 |
