Datasets:

lupele
/

StatePlay-Reward-2280

# DiffusionNFT 三阶段后训练：源码分析与统一约定

分析日期：2026-10-13。本文与 Prompt_A/B/C/D 共同构成训练端实施包。这里只在本地新目录写文档；实际实现、GPU 调试和训练由训练端完成。

## 1. 分析对象与证据范围

训练代码基准是用户后来指定的 [lupele/stateplay-test](https://github.com/lupele/stateplay-test)，不是当前 Windows 目录里的旧 explicit-state 实现。

- 已克隆的训练仓库 commit：`1b3f5256372552469b4d33fa38bab8491ee1769b`。
- 已克隆的 [NVlabs/DiffusionNFT](https://github.com/NVlabs/DiffusionNFT) commit：`cbb14f84b8312b620390dfcbe2fab69c1383b104`。
- 两份 checkout 位于 `C:/Users/32297/AppData/Local/Temp/stateplay-rl-research-20261013/` 下，位于当前项目之外。
- 论文：本地 `2509.16117v2.pdf`，22 页；重点核对第 3-6 页公式、Algorithm 1、第 7-9 页实验与消融、第 14-18 页推导和 sampler 讨论、第 19 页 Appendix C。第 5、6 页已渲染检查数学公式。
- 数据与 VLM 评测补充证据来自当前 Windows 工程。这些文件没有出现在上述 GitHub checkout，训练端必须查找服务器上的真实对应文件，不能假定 checkout 自带它们。
- 本地未提供 `/private/StatePlay-main/outputs/latent_world/step-4572.safetensors`，也没有训练机的 GPU/API 环境。因此权重覆盖率、7 张 L20 的峰值显存、付费 API 请求、Qwen LoRA 训练均未在本地验证。

本文的源码链接固定到上述 commit，便于训练端复查。服务器如果有更新，应输出差异映射，不能为了匹配本文覆盖服务器现有工作。

## 2. 当前隐式模型的真实实现

| 功能 | 实际源码与接口 | 实施意义 |
|---|---|---|
| 初始化 | [`diffsynth/models/latent_state.py:45`](https://github.com/lupele/stateplay-test/blob/1b3f5256372552469b4d33fa38bab8491ee1769b/diffsynth/models/latent_state.py#L45)，`LatentStateInitializer` | 首帧 patch tokens 投影后被 learnable queries 读取；RL 默认冻结 |
| 模块 B | 同文件 `LatentStateTransition:64` | `action_embedding`、`step_embedding`、2 层 self-attention/MLP、`delta`、`norm`；精确路径 `dit.latent_state_rollout.transition`，全参数更新 |
| rollout | 同文件 `LatentStateRollout:91` | initializer + transition + `output_projection`；仅更新 transition 时不能把整个 rollout 设为 trainable |
| Coupling | 同文件 `LatentStateToVisualAttention:115` | video Q，state K/V；四个 Linear 是 `q/k/v/out`；标量 `gate` 在构造时零初始化 |
| 插入位置 | [`diffsynth/models/stateplay_dit.py:350`](https://github.com/lupele/stateplay-test/blob/1b3f5256372552469b4d33fa38bab8491ee1769b/diffsynth/models/stateplay_dit.py#L350)，`LatentStateVideoDiTBlock` | video self-attention、text cross-attention 后执行 `latent_state_attention`，再执行 FFN |
| Tokenizer | `latent_state.py:160`，`GameTransitionTokenizer` | 相邻 clean 帧、pair-role embedding、queries、FSQ；重建投影后平均帧特征的差分，`loss_tok` 是 SmoothL1 |
| 转移预测 | `latent_state.py:204`，`LatentTransitionPredictor` | 实际输入是 `G_seq_low[:, :-1] + action_embedding(action_seq[:, :-1])`，不是 `G_{i+1}` 或状态差分 |
| 模型构造 | `stateplay_dit.py:782`，`StatePlayModel` | 禁止 latent/explicit 同时开启，禁止 bidirectional latent attention，时间 patch 必须为 1 |
| latent forward | [`diffsynth/pipelines/stateplay.py:410`](https://github.com/lupele/stateplay-test/blob/1b3f5256372552469b4d33fa38bab8491ee1769b/diffsynth/pipelines/stateplay.py#L410)，`model_fn_stateplay_latent` | 返回字典 `pred_video/G_seq_low/G_seq/transition_logits/action_binned` |
| SFT 损失 | [`training/latent_state_training.py:100`](https://github.com/lupele/stateplay-test/blob/1b3f5256372552469b4d33fa38bab8491ee1769b/training/latent_state_training.py#L100)，`FlowMatchSFTLossWithLatentState` | 冻结 tokenizer 生成离散标签，video MSE + 0.1 transition CE；排除首 latent 槽 |
| 数据/构建 | `training/train.py:522,726`，`get_pipeline_inputs/build_dataset` | CSV prompt；latent 模式不需要 true state；视频与 action 的转换分别执行 |
| 分布式 SFT | `training/runner_with_state.py:40` | Accelerate，列表 collate，实际 per-rank batch 参数默认 4；不能沿用旧仓库 batch=1 的结论 |
| 原架构测试 | `tests/test_latent_state.py` | 有 shape、FSQ、3 步 backward、future-video invariance、baseline 等测试；不覆盖 RL |

默认 `C=3072, C_s=256, M=4, K=11`，30 个 DiT blocks。`f` 必须从实际 VAE/patchify 结果获得。480x832 经 VAE 得 30x52，patch 后每 latent 槽有 15x26=390 个 visual tokens。

```text
clean video latents       [B,48,f,30,52]
clean visual tokens      [B,f*390,3072]
first_frame_tokens       [B,390,3072]
keyboard_action          [B,T_action,11]
action_binned            [B,f,11]
G_seq_low                [B,f,4,256]
G_seq                    [B,f*4,3072]
z_indices                [B,f-1,4] int64
transition_logits        [B,f-1,4,512]
pred_video               [B,48,f,30,52]
```

递归只使用前 `f-1` 个 action bins；video action 注入使用全部 `f` 个 bins。CE 的第 0 步只依赖冻结的 initializer 与 predictor，对 B 没有直接梯度；后续步依赖此前的 transition。Coupling-only 的 CE 是常量，不应声称它训练了 LoRA。必须分别做 NFT/video-anchor/transition-anchor 的梯度测试。

## 3. 两个不能直接复用的入口

### 3.1 独立推理入口仍是 explicit state

`stateplay/pipeline.py:76,147` 的 `StatePlayPipeline.from_pretrained/__call__` 构造 `StatePlayDiT`，读取 initial/true state，去噪 video 和 state，要求模型返回 tuple。`stateplay/models/dit.py` 仍是 explicit-state block。不能让 implicit checkpoint 走这个入口并忽略 unexpected keys。

`StatePlayTrainingPipeline` 提供编码 units 与模型函数，但没有完整 latent-world-model 视频去噪入口。建议在新增 `rl_posttrain/adapters/world_model.py` 中实现专用 rollout：复用实际训练的 DiT、VAE、UMT5、动作预处理、Wan scheduler；每步读取 `outputs['pred_video']`，重钉首帧，保留采样最终 clean latent，再解码。服务器如有另一个已验证的 implicit sampler，优先包装它并记录来源。

### 3.2 FullModelLogger 名称不代表完整 checkpoint

`training/train.py:217` 的 `FullModelLogger` 调用 `ModelLogger.save_model`。`diffsynth/diffusion/logger.py:56` 遍历 `named_parameters()`，只导出 `requires_grad=True` 的参数，并去掉 `pipe.dit.` 前缀。它不保存冻结参数或 quantizer buffers。

因此 `step-4572` 可能是 scoped SFT 权重。正确加载流程是审计 keys/shape、重建相同 Wan backbone、加载对应 Stage 1 tokenizer、覆盖 SFT 参数，逐个解释 missing/unexpected。`LATENT_MODEL_DEFAULTS` 只是默认值，不能替代真实训练配置。tokenizer 路径默认候选 `/private/StatePlay-main/outputs/tokenizer/transition_tokenizer.pt`，必须核实 sha 和 SFT 使用版本。训练机应保存参数来源表，禁止任何新增的隐式模块随机初始化后继续 RL。

原 SFT `resume_from_ckpt` 只覆盖 DiT，没有 optimizer。RL 自建 resume 必须恢复 live、old、optimizer、scheduler、随机数、sampler ledger、in-flight batch；原 logger 的轻量文件不足以做到这一点。

## 4. 数据与评价源码核查

- 本地实际 CSV：`clips_5s/clips_5s/metadata_state_polish.csv`，10,000 行。
- columns：`video,action,distribution,prompt,strategy,category`。
- `distribution` 统计（不区分大小写）：normal 6,000，其余 macro_success/macro_fail/result_win/result_lose 各 1,000。原值有 `Macro_fail`、`Result_win` 等大小写变体。
- 此 CSV 的 `category` 是 NPC 策略，如 Control/Defense，不是上述机制类别。后续统一叫 `mechanics_class`，来源字段显式记为 `distribution`。
- 真实 episode_id 不在该 CSV 中，单个 clip 目录仅观察到 video/actions。Reward Model 拆分要寻找原采集索引；找不到时建立保守的重复/相似条件 cluster，并声明 episode 分组证据不足，不能伪造 episode_id。
- `training/data/action_utils.py:get_action_op/hold_last_upsample` 选择 11 个按钮、按 window=10 扩展；`prepare_action_binned` 用 adaptive max pool。注释里的采样频率说法不能取代实际数据。
- 实读 clip_0000000：20 fps、100 个视频帧、100 行 parquet；动作非零行是 0,10,...,90；parquet 还含状态列，但 scorer 输入只能选按钮、时间戳与合法条件。
- `diffsynth/core/data/operators.py:129` 的 `get_num_frames` 将不足 101 的 100 帧缩到 97。此时 `f=25`；101 帧时 `f=26`。当前 action loader 仍可能保留 100 行，须记录真实 bin 区间并复现 SFT 口径，不能悄悄截动作改变预训练条件。

本地评测 `evaluation/stateplay_eval.py:246` 的 `sampled_frame_parts` 使用 `np.linspace(0,N-1,min(24,N),dtype=int)`，RGB、JPEG、等比最长边缩放。`judge_openai_frames:342` 实际输入一条生成视频的抽帧和 3 张静态参考图，不提交同条件真实参考视频。默认 `judge_image_max_side=832`（不是普遍 512），GPT default 是 gpt-5.5。`parse_json_object` 解析的是五分类，不可用于四个数字 reward。

建议复用 frame/RGB/JPEG helper，新增五段视频的 group payload、严格 score parser、并发/恢复逻辑。主协议默认每段 24 帧、max_side=832；四候选+一参考共 120 帧，首图和 3 张静态示例另算，默认总图像数 124。视频太短时开发测试允许少于24，正式数据应验证 >=24。teacher/student 输入资产、时间戳与次序必须一致。

`evaluation/stateplay_eval.py:37-40` 将 macro_fail 广义描述为 miss/block/interruption；`dataset_builder/annotate_gemini.py:81-101` 在自采数据里主要用能量不足和没有执行区分 macro_fail。两者语义不同；原训练分布的类别不能强制成为候选未来答案。scorer 必须区分执行、命中、防御、whiff、fallback。

HUD 代码 `evaluation/hud/metrics.py:evaluate_clip` 提供 RVSA 上下界、coverage、变化事件等独立评测；本次未在相关源码检索到已经可调用的 Move-Acc/Att-Acc 实现。训练端查找现有 evaluator；若不存在，报告缺失并实现/核验协议，不能用训练 Reward 冒充这些指标。

## 5. DiffusionNFT 的真实计算与视频迁移

官方训练入口 [`scripts/train_nft_sd3.py`](https://github.com/NVlabs/DiffusionNFT/blob/cbb14f84b8312b620390dfcbe2fab69c1383b104/scripts/train_nft_sd3.py)：

- 419-444：SD3 transformer LoRA 与 `default/old` adapters；图像目标层不适合当前模型。
- 640-684：old 采样，保存 `latents_clean`，等所有 rewards 返回。
- 744-781：`PerPromptStatTracker` 聚合 reward；本项目必须按唯一 condition/group_id，不能用 NPC prompt 文本归组。
- 862-892：clean latent 前向加噪，同一 `x_t/t` 上计算 old 与 live velocity。
- 910-960：advantage clip、optimality probability、positive/negative velocity、自适应 x0 重建损失。
- 966-970：参考 velocity MSE 正则，代码称 KL，但不是显式的概率分布 KL。
- 980-1029：梯度累积、clip、optimizer、另一个 eval EMA。
- 1034-1039：采样 old adapter 的软更新。`return_decay:169` 用 optimizer global_step。
- `flow_grpo/stat_tracking.py` 支持组均值、全局/组标准差；配置 `config/nft.py` 中 NFT beta 与 `config.train.beta` 含义不同。
- `flow_grpo/diffusers_patch/solver.py` 和 `pipeline_with_logprob.py` 把采样与训练解耦；官方 helper 仍产生 trajectory list，但 NFT 核心不需要保存它。
- 官方 `save_ckpt:332` 保存 LoRA/optimizer/scaler，resume 后又将 old 复制为 live，不能直接继承为本研究精确恢复。

本地 Wan scheduler 的 `set_timesteps_wan/add_noise/training_target/step` 实际为：

```text
sigma = shift*u/(1+(shift-1)*u), shift 默认 5
t_model = 1000*sigma
x_sigma = (1-sigma)*x0 + sigma*epsilon
velocity target = epsilon - x0
x_next = x_sigma + (sigma_next-sigma)*v，采样时 sigma 下降
x0_hat = x_sigma - sigma*v
```

这里 `sigma` 才是公式的归一化时间；shift 改变采样网格，不再对预测速度乘 shift 导数，不使用 `x0-epsilon`。首槽为 condition，先构造噪声，再覆盖 `x_sigma[:,:,0:1]=first_frame_latents`。所有 NFT error、adaptive denominator、reference MSE 都排除首槽。

```text
S: 每组四个 0..100 的绝对分数
mu_g = mean(S_g)
std = population std；global 模式在当前完整已评分 batch 上计算
Z_g = advantage_clip * max(std, std_floor_points)
r = 0.5 + 0.5*clip((S-mu_g)/Z_g,-1,1)
v_pos = (1-beta_nft)*stopgrad(v_old) + beta_nft*v_live
v_neg = (1+beta_nft)*stopgrad(v_old) - beta_nft*v_live
e_pos/neg = (x_sigma-sigma*v_pos/neg-x0)[:,:,1:]
d_pos/neg = stopgrad(max(mean(abs(e_pos/neg)),1e-5))，逐视频统计
L_pos/neg = mean(e_pos/neg^2)/d_pos/neg
L_NFT = mean(advantage_clip/beta_nft * (r*L_pos+(1-r)*L_neg))
```

这保留官方 `/beta_nft` 与 `advantage_clip` loss 尺度，和论文 Eq.(5) 的原始 velocity-MSE 模式分开命名。默认 adaptive 模式不再乘 SFT scheduler.training_weight，避免双重加权。提供 `paper_velocity_mse` 做公式对照。

默认 `beta_nft=1, advantage_clip=5, std_floor_points=5`。Z 的 floor 是本研究稳定性扩展。standard 模式同分得到 r=0.5；guard 模式可跳过同分、极小 spread 或 `max(S)<50` 的整组，保留数据且不补抽。禁止给四条坏视频强制设一个 r=1。所有 gate 都记版本，做 standard/guard 消融。

使用采样 schedule 中均匀随机抽取一个 sigma、每次重绘 epsilon，作为期望损失的随机估计。官方 Appendix C 使用全部采样 timesteps；视频默认 `time_draws_per_visit=1, inner_epochs=2` 是算力适配，不冒称逐 timestep 复现。可开启 full_schedule 对照。采样 `cfg_scale=action_cfg_scale=1`、30 步 Wan Euler ODE；后续可验证高阶 ODE，但不是启动前提。

rollout与真实anchor使用独立scheduler实例：前者30步推理网格，后者原1000步训练网格及training_weight，避免可变scheduler状态交叉覆盖。当前seperated_timestep token时间构造按scalar t，默认per-rank microbatch1；提升batch时要验证每样本t语义。

old 是每批固定的采样策略，在本批两次 mini-batch 遍历完成后软更新：`eta=min(0.001*optimizer_step,0.5)`。原 SFT 是不可变 ref。另一个保存/评测 EMA 可选关闭，不能把三者混为一谈。B-only 可共享冻结 5B backbone，只保存/切换 B 的 live/old/ref；Coupling 模式增加独立 LoRA 快照。在 live forward 到 checkpoint recomputation/backward 完成期间禁止切换任何参数。

## 6. RL 代码与输出约定

训练端新代码根：`/private/StatePlay-main/rl_posttrain/`。持久化根：`/private/StatePlay-main/outputs/rl_posttrain/`，支持通过 `RL_RUN_ROOT` 改到容量充足的挂载盘。

```text
rl_posttrain/
  configs/{api_b_only,rm_qwen35,local_b_only,smoke}.yaml
  adapters/{world_model,checkpoint,parameter_modes}.py
  data/{conditions,sampler,manifest,frames}.py
  algorithms/{nft_loss,reward_transform,policy_bank,anchors}.py
  rewards/{base,api_group,qwen_group,monitor}.py
  reward_model/{dataset,collator,train,evaluate,serve}.py
  prompts/mechanics_reward_v1.txt
  {train_api,train_local,preflight,profile,validate_config,orchestrate}.py
  scripts/{run_api,train_rm,run_local,verify_all}.sh
  tests/，docs/，requirements-world.in，requirements-reward.in
outputs/rl_posttrain/<run_id>/
  plan/、conditions/、groups/、requests/、world/{api,local}/
  reward_model/、metrics/、logs/、reports/
```

上面都是要求训练端新增的规划文件；不能描述成已经存在的源码。A/B/C/D 给出具体职责。

保护原 checkpoint `/private/StatePlay-main/outputs/latent_world/step-4572.safetensors`：只读、记录 sha/大小/mtime、路径 realpath 检查输出不重叠、任何恢复不得覆盖。新输出有唯一 run_id，原始采样视频、reference、teacher prompt/raw response 永久保留。

## 7. 建议初值与预算

以下是研究初值，不是经过 L20 测得的最优值。

| 项目 | 建议 | 理由/调整规则 |
|---|---|---|
| 条件批 n | 28，全局 | 7 卡每卡4条件，112候选存磁盘/CPU；API worker上限30，本批最多28请求 |
| 每条件候选 | 4 | 用户要求；不同 seed、同一 old 版本 |
| m | 总共1遍 eligible 原训练集 | 先控制视频/API预算；A+C共一次，不是各自一次 |
| RL Stage A | 2,000条件，8,000候选，2,000次成功group请求 | 比几百条更适合初步学生训练，仍需要质量门槛 |
| RL Stage B | 不消耗新条件遍历 | 使用A保存的group数据；episode/condition cluster 80/10/10拆分 |
| RL Stage C | N_eligible-2,000；若N=10,000则8,000条件/32,000候选 | 接续ledger，不重置epoch |
| A扩展 | RM不足时每次+280条件，默认上限4,000 | 从剩余ledger扣除并减少C预算，不隐式开启新一遍 |
| rollout microbatch | 每卡1候选，依次生成 | 保留实际视频长度、避免把4候选同时塞入显存 |
| NFT microbatch | 每rank1视频、accum4、inner2 | 7卡有效batch28；完整112样本每次遍历4 steps，一批共8 steps |
| B LR / Coupling LR | 2e-5 / 1e-4 | B全参数保守更新，LoRA较小；梯度峰值/机制评测驱动调整 |
| Coupling LoRA | r=8, alpha=16, dropout=0 | 精确匹配30 blocks中latent_state_attention的q/k/v/out；约319万adapter参数 |
| anchor | `L_NFT + 0.1*L_FM_real + 0.01*L_trans_real` | 真实训练视频稳定性；不使用真实HUD状态监督 |
| ref penalty | 0，支持1e-4消融 | 避免默认额外reference大forward；启用时用不可变SFT，不是old |
| 学生 LoRA | r=16, alpha=32, dropout=0.05，LR=1e-4 | 初期JSON-SFT；先实测再定 |
| 学生batch | per-rank1完整group，accum4 | 7卡起始有效28groups；不是把四候选当四个独立样本 |
| 学生epochs | 起始2，最多3，按验证集选 | 避免小数据过拟合；不中断保留全部教师数据 |
| 审计 | C开始先56个新条件，之后每100批至少28组 | 首56组属于C的in-flight首批，不额外重抽；API不是每轮调用 |

尾批、过滤后的不整除 batch 必须用零权重 padding 或不等长求和修正 DDP，不重复真实条件凑整；按全局有效样本数归一化，记录实际 optimizer steps。以上近似steps只针对无过滤完整批。

## 8. Qwen 与 API 的外部核查

使用 OpenAI Docs 核对了 [gpt-6.1-sol 模型页](https://developers.openai.com/api/docs/models/gpt-6.1-sol)：支持图像输入，无原生视频输入；采用有序抽帧。实际账户/relay能否调用仍需训练端preflight。禁止换模型。payload容量以实际endpoint验证，不把公共文档当relay保证。

[Qwen 模型卡](https://huggingface.co/Qwen/Qwen3.5-9B)、[config](https://huggingface.co/Qwen/Qwen3.5-9B/blob/main/config.json)、[Transformers模型源码](https://github.com/huggingface/transformers/blob/main/src/transformers/models/qwen3_5/modeling_qwen3_5.py)确认它是多模态 `Qwen3_5ForConditionalGeneration`，文本层混合 DeltaNet 与 full attention。建议用保存的同一组有序图片，避免processor自动视频采样改变24帧协议。

推荐主路线是JSON分数SFT：原教师英文Prompt + 同组视频材料 -> 四分数字典，assistant-only CE；不新增未经验证的ranking loss。标量head+绝对回归+BT作为备选设计说明，不强制第一轮实现。与用户提到的StyleScore式scalar-head/BT区别是输出形式和目标不同；本地没有StyleScore论文，CVF全文获取失败，不能声称复现它的训练细节。

语言层LoRA精确筛选 `model.language_model.layers.*` 下的 full-attention `q_proj/k_proj/v_proj/o_proj`、DeltaNet `in_proj_qkv/in_proj_z/out_proj`、MLP `gate_proj/up_proj/down_proj`，以安装版named_modules最终核验；不误匹配视觉塔，不套Qwen2.5-VL名单。冻结vision/base，保留图像和候选边界，chat template设非thinking。

max_side832可能接近五万visual tokens/group，建议max_length65536；必须实测processor展开长度。训练不能materialize整个长序列的248320维vocab logits，采用安装版支持的answer-suffix `logits_to_keep`/chunked CE。不能删除视频帧或静默truncate解决OOM。先bf16+checkpointing、单组microbatch、ZeRO-3/vision feature缓存；不足再试NF4并确认hybrid层兼容。

分离world和reward虚拟环境，保留服务器已验证SFT依赖。DiffusionNFT setup.py 固定旧transformers==4.40.0，不应在当前世界模型环境直接pip install整个官方项目；阅读移植数学与小helper即可。Reward环境安装实际支持Qwen3.5的Transformers release，若release不支持则固定官方main的commit，记录PEFT/Accelerate/Torch/CUDA版本与lock；config里的4.57.0.dev0不是兼容性保证。

## 9. 必须报告的限制与验收

所有三阶段代码、fake scorer测试、真实checkpoint/三模式梯度、受控API、真实Qwen小样本LoRA保存/重载、7卡profile与恢复必须先完成，才进入长期A训练。学生软件链路通过不代表它的机制评分质量通过；正式B后另有质量门槛，未通过不得开始长期C。

主要风险是：缺少训练时tokenizer/配置、implicit推理入口不完整、100/97/101帧与action bins口径、Coupling gate失效、冻结主干被no_grad截梯度、7卡不整除尾批、API超时导致重复扣费、episode provenance缺失、长多模态上下文OOM、学生利用参考视频/类别/位置捷径以及reward hacking。四份Prompt均规定可执行诊断。

本地原工程没有 `.git`，`git status --short` 返回“not a git repository”。对六个源码/评测目录内10,282个源码/配置/文档文件的前后只读聚合SHA256均为 `FAEDF78E231FCC2F3CC31AAD7E3BFD65B5171F51FBC727C14F08B0F125058686`，已确认一致。两份外部checkout的git status均为空。持久化项目新增仅此提示词目录内五个Markdown，没有修改原工程源文件。

已完成五文档的code fence与关键约定检查，并运行12项标准库标量代数检查：RF的x0还原、三种beta下正负loss的stop-gradient分母有限差分/解析梯度、r=.5在live=old时梯度相抵、reward范围与同分行为。它们只验证本文数学说明，不构成完整NFT tensor实现、GPU训练、API或Qwen LoRA调试结果。训练端实际验收按Prompt_D执行。