code/V2_idea.md

利用一个冻结的分割网络（SegNet）作为“监工”，在PixelGen生成图像的过程中，实时计算梯度并修正生成轨迹，强制生成的病灶形态与输入的Mask完美对齐，并具有高度的解剖学真实感。

一、 实验目的 (Experimental Purpose)
实现“生成即对齐” (Generation-Alignment Synergy): 解决传统生成模型（如Nazir ICCV'25）“生成完了再筛选”的低效问题。通过梯度引导，确保每一张生成的图像，其病灶位置都精确地落在Mask区域内。

挖掘“困难样本” (Hard Example Mining): 通过引入对抗性或边界不确定性梯度，生成那些位于分割网络“决策边界”上的样本（例如：边缘模糊的积液、纹理复杂的息肉），强迫下游模型学习更鲁棒的特征。

提升数据效率 (Data Efficiency): 证明通过这种“靶向生成”得到的 100 张图，比随机生成的 1000 张图对分割任务更有价值。

二、 实验步骤 (Experimental Steps)
阶段 1: 准备“导师” (Preparation)

你需要一个已经训练好的分割网络（我们称之为 Guidance SegNet）。

注意: 这个网络不需要非常完美，用现有真实数据训练一个标准的 U-Net 即可。它的作用是提供“什么是息肉/病灶”的梯度方向。

状态: Frozen (参数冻结，requires_grad=False)，Eval 模式。

阶段 2: 改造采样循环 (Modification)

这是你主要修改代码的地方。在 PixelGen 的 sample 或 solve 函数中，插入梯度计算模块。

核心逻辑: x_t (噪声) -> PixelGen -> x_pred (预测原图) -> Guidance SegNet -> Loss -> Gradient -> Correct x_t.

阶段 3: 批量生成与验证 (Generation & Verification)

使用带引导的代码生成一批数据（例如 500 张）。

可视化检查: 画出采样过程（t=1.0 -> 0.0），观察梯度是如何把一团混乱的像素“拉”成一个精确的病灶的。

三、 核心代码实现 (Code Implementation)
请将以下代码逻辑集成到你的 PixelGen 采样循环中（通常在 sampler.py 或 inference.py）。

假设环境:

model: 你的 PixelGen 模型 (Flow Matching)。

seg_model: 你的冻结分割网络 (U-Net)。

mask: 输入的病灶掩码 (B, 1, H, W)。

Python
import torch
import torch.nn.functional as F

def guided_sampling_step(
    model, 
    seg_model, 
    x_t, 
    t, 
    dt, 
    mask, 
    cond, 
    guidance_scale=100.0, 
    decay_start=0.3
):
    """
    执行带梯度引导的单步 Flow Matching 采样
    Args:
        x_t: 当前时刻的噪声图像
        t: 当前时间步 (float)
        dt: 时间步长 (通常为负，如 -1/N)
        mask: 目标分割 Mask (Ground Truth)
        cond: PixelGen 的条件 (如 class label 或 text embedding)
        guidance_scale: 引导强度
        decay_start: 时间小于此值时停止引导 (保护高频纹理)
    """
    
    # 1. 开启梯度计算 (关键步骤)
    # 即使在推理阶段，我们也需要对输入 x_t 求导
    with torch.enable_grad():
        x_t = x_t.detach().requires_grad_(True)
        
        # 2. PixelGen 预测 x_0 (Clean Image Prediction)
        # 注意：PixelGen 的优势是直接预测 x_0，而不是噪声 epsilon
        # 这让我们能直接把预测结果喂给分割网络
        model_output = model(x_t, t, cond)
        x_pred = model_output['x_pred'] # 假设输出字典里有预测的原图
        
        # --- 梯度引导核心模块 Start ---
        gradient = torch.zeros_like(x_t)
        
        # 策略：只在生成的前期和中期 (t > decay_start) 加引导
        # 后期 (t < decay_start) 让模型专注于纹理去噪，避免破坏散斑细节
        if t > decay_start and guidance_scale > 0:
            
            # (A) 将预测图送入分割网络
            # 为了数值稳定性，最好确保 x_pred 在 [0,1] 或标准化范围内
            # seg_input = normalize(x_pred) 
            seg_logits = seg_model(x_pred)
            
            # (B) 计算对齐 Loss (Alignment Loss)
            # 我们希望 SegNet 预测的 mask 尽可能接近 GT mask
            # 使用 BCE Loss 或 Dice Loss
            loss_align = F.binary_cross_entropy_with_logits(seg_logits, mask)
            
            # (C) [可选] 计算不确定性/对抗 Loss (Uncertainty Loss)
            # 如果你想做 Hard Example Mining：
            # 我们希望在 Mask 的边界区域 (Boundary)，SegNet 感到困惑 (Entropy 最大化)
            probs = torch.sigmoid(seg_logits)
            entropy = -(probs * torch.log(probs + 1e-6) + (1-probs) * torch.log(1-probs + 1e-6))
            # 只关注边界的不确定性 (需要先提取 Mask 边缘)
            # loss_adv = - entropy.mean() # 简单的对抗：让网络整体困惑
            
            # 总 Loss
            total_loss = loss_align # + lambda * loss_adv
            
            # (D) 计算对 x_t 的梯度
            # 这一步告诉我们：如何修改当前的噪声 x_t，才能让预测出的 x_pred 更符合 Mask
            grad = torch.autograd.grad(total_loss, x_t)[0]
            
            # (E) 梯度归一化 (防止梯度爆炸毁掉图像)
            # 这是一个工程 Trick，非常重要
            grad_norm = torch.norm(grad.reshape(grad.shape[0], -1), dim=-1).mean()
            grad = grad / (grad_norm + 1e-8)
            
            gradient = grad

        # --- 梯度引导核心模块 End ---

    # 3. 修正速度场 (Correct the Flow)
    # 此时我们需要 detach，因为不再需要反向传播了
    x_pred = x_pred.detach()
    gradient = gradient.detach()
    
    # 计算原始 Flow (Velocity)
    # v = (x_1 - x_t) / (1 - t)  -> Flow Matching 公式
    v_theta = (x_pred - x_t.detach()) / (1 - t + 1e-5)
    
    # 加入梯度修正
    # 我们希望 Loss 变小，所以我们要沿着负梯度方向移动图像
    # 在 Flow Matching 中，这相当于修改速度场的方向
    # 注意：这里的正负号取决于你的求解器方向，通常 Loss 下降方向是 -grad
    v_guided = v_theta - guidance_scale * gradient

    # 4. 执行欧拉步 (Euler Step)
    x_next = x_t.detach() + dt * v_guided
    
    return x_next

四、 代码集成的注意事项引导强度的衰减 (Time-Dependent Scheduling):在采样开始时 ($t=1.0$)，轮廓未定，建议使用较大的 guidance_scale (例如 200-500)。随着 $t$ 减小，建议线性衰减 guidance_scale。当 $t < 0.2$ 时，建议关闭引导 (set scale to 0)。因为此时图像主要在生成高频纹理，强行加分割 Loss 会导致医学图像特有的“散斑”变成奇怪的“伪影”。分割网络的输入域:PixelGen 输出的 x_pred 通常在 [-1, 1] 或 [0, 1] 之间。请确保你的 SegNet 训练时使用的归一化方式与 x_pred 一致。如果不一致，需要在代码里加一个 transform。调试技巧:先设置 guidance_scale = 0，确保代码能跑通且结果与原来一致。然后设置一个较小的 scale，打印 loss_align 的值。你应该能看到随着时间步推进，Loss 迅速下降，这说明引导生效了。

五、 下一步动作 (Next Step)建议你现在的下一步是：将上述代码片段插入你的推理脚本中，选取一张 Mask，设置 guidance_scale 为一个非零值（如 100），跑一次生成，并保存中间步骤的 x_pred 图像。你需要确认：在 $t=0.5$ 左右时，生成的病灶轮廓是否已经“紧紧贴合”在 Mask 的边缘上了？如果是，你的实验就成功了一大半。