Datasets:

lupele
/

StatePlay-Reward-2280

已克隆的训练仓库 commit：1b3f5256372552469b4d33fa38bab8491ee1769b。
已克隆的 NVlabs/DiffusionNFT commit：cbb14f84b8312b620390dfcbe2fab69c1383b104。
两份 checkout 位于 C:/Users/32297/AppData/Local/Temp/stateplay-rl-research-20261013/ 下，位于当前项目之外。
论文：本地 2509.16117v2.pdf，22 页；重点核对第 3-6 页公式、Algorithm 1、第 7-9 页实验与消融、第 14-18 页推导和 sampler 讨论、第 19 页 Appendix C。第 5、6 页已渲染检查数学公式。
数据与 VLM 评测补充证据来自当前 Windows 工程。这些文件没有出现在上述 GitHub checkout，训练端必须查找服务器上的真实对应文件，不能假定 checkout 自带它们。
本地未提供 /private/StatePlay-main/outputs/latent_world/step-4572.safetensors，也没有训练机的 GPU/API 环境。因此权重覆盖率、7 张 L20 的峰值显存、付费 API 请求、Qwen LoRA 训练均未在本地验证。

本文的源码链接固定到上述 commit，便于训练端复查。服务器如果有更新，应输出差异映射，不能为了匹配本文覆盖服务器现有工作。

2. 当前隐式模型的真实实现

功能	实际源码与接口	实施意义
初始化	`diffsynth/models/latent_state.py:45`，`LatentStateInitializer`	首帧 patch tokens 投影后被 learnable queries 读取；RL 默认冻结
模块 B	同文件 `LatentStateTransition:64`	`action_embedding`、`step_embedding`、2 层 self-attention/MLP、`delta`、`norm`；精确路径 `dit.latent_state_rollout.transition`，全参数更新
rollout	同文件 `LatentStateRollout:91`	initializer + transition + `output_projection`；仅更新 transition 时不能把整个 rollout 设为 trainable
Coupling	同文件 `LatentStateToVisualAttention:115`	video Q，state K/V；四个 Linear 是 `q/k/v/out`；标量 `gate` 在构造时零初始化
插入位置	`diffsynth/models/stateplay_dit.py:350`，`LatentStateVideoDiTBlock`	video self-attention、text cross-attention 后执行 `latent_state_attention`，再执行 FFN
Tokenizer	`latent_state.py:160`，`GameTransitionTokenizer`	相邻 clean 帧、pair-role embedding、queries、FSQ；重建投影后平均帧特征的差分，`loss_tok` 是 SmoothL1
转移预测	`latent_state.py:204`，`LatentTransitionPredictor`	实际输入是 `G_seq_low[:, :-1] + action_embedding(action_seq[:, :-1])`，不是 `G_{i+1}` 或状态差分
模型构造	`stateplay_dit.py:782`，`StatePlayModel`	禁止 latent/explicit 同时开启，禁止 bidirectional latent attention，时间 patch 必须为 1
latent forward	`diffsynth/pipelines/stateplay.py:410`，`model_fn_stateplay_latent`	返回字典 `pred_video/G_seq_low/G_seq/transition_logits/action_binned`
SFT 损失	`training/latent_state_training.py:100`，`FlowMatchSFTLossWithLatentState`	冻结 tokenizer 生成离散标签，video MSE + 0.1 transition CE；排除首 latent 槽
数据/构建	`training/train.py:522,726`，`get_pipeline_inputs/build_dataset`	CSV prompt；latent 模式不需要 true state；视频与 action 的转换分别执行
分布式 SFT	`training/runner_with_state.py:40`	Accelerate，列表 collate，实际 per-rank batch 参数默认 4；不能沿用旧仓库 batch=1 的结论
原架构测试	`tests/test_latent_state.py`	有 shape、FSQ、3 步 backward、future-video invariance、baseline 等测试；不覆盖 RL

默认 C=3072, C_s=256, M=4, K=11，30 个 DiT blocks。f 必须从实际 VAE/patchify 结果获得。480x832 经 VAE 得 30x52，patch 后每 latent 槽有 15x26=390 个 visual tokens。

clean video latents       [B,48,f,30,52]
clean visual tokens      [B,f*390,3072]
first_frame_tokens       [B,390,3072]
keyboard_action          [B,T_action,11]
action_binned            [B,f,11]
G_seq_low                [B,f,4,256]
G_seq                    [B,f*4,3072]
z_indices                [B,f-1,4] int64
transition_logits        [B,f-1,4,512]
pred_video               [B,48,f,30,52]

递归只使用前 f-1 个 action bins；video action 注入使用全部 f 个 bins。CE 的第 0 步只依赖冻结的 initializer 与 predictor，对 B 没有直接梯度；后续步依赖此前的 transition。Coupling-only 的 CE 是常量，不应声称它训练了 LoRA。必须分别做 NFT/video-anchor/transition-anchor 的梯度测试。

3. 两个不能直接复用的入口

3.1 独立推理入口仍是 explicit state

stateplay/pipeline.py:76,147 的 StatePlayPipeline.from_pretrained/__call__ 构造 StatePlayDiT，读取 initial/true state，去噪 video 和 state，要求模型返回 tuple。stateplay/models/dit.py 仍是 explicit-state block。不能让 implicit checkpoint 走这个入口并忽略 unexpected keys。

StatePlayTrainingPipeline 提供编码 units 与模型函数，但没有完整 latent-world-model 视频去噪入口。建议在新增 rl_posttrain/adapters/world_model.py 中实现专用 rollout：复用实际训练的 DiT、VAE、UMT5、动作预处理、Wan scheduler；每步读取 outputs['pred_video']，重钉首帧，保留采样最终 clean latent，再解码。服务器如有另一个已验证的 implicit sampler，优先包装它并记录来源。

3.2 FullModelLogger 名称不代表完整 checkpoint

training/train.py:217 的 FullModelLogger 调用 ModelLogger.save_model。diffsynth/diffusion/logger.py:56 遍历 named_parameters()，只导出 requires_grad=True 的参数，并去掉 pipe.dit. 前缀。它不保存冻结参数或 quantizer buffers。

因此 step-4572 可能是 scoped SFT 权重。正确加载流程是审计 keys/shape、重建相同 Wan backbone、加载对应 Stage 1 tokenizer、覆盖 SFT 参数，逐个解释 missing/unexpected。LATENT_MODEL_DEFAULTS 只是默认值，不能替代真实训练配置。tokenizer 路径默认候选 /private/StatePlay-main/outputs/tokenizer/transition_tokenizer.pt，必须核实 sha 和 SFT 使用版本。训练机应保存参数来源表，禁止任何新增的隐式模块随机初始化后继续 RL。

原 SFT resume_from_ckpt 只覆盖 DiT，没有 optimizer。RL 自建 resume 必须恢复 live、old、optimizer、scheduler、随机数、sampler ledger、in-flight batch；原 logger 的轻量文件不足以做到这一点。

4. 数据与评价源码核查

本地实际 CSV：clips_5s/clips_5s/metadata_state_polish.csv，10,000 行。
columns：video,action,distribution,prompt,strategy,category。
distribution 统计（不区分大小写）：normal 6,000，其余 macro_success/macro_fail/result_win/result_lose 各 1,000。原值有 Macro_fail、Result_win 等大小写变体。
此 CSV 的 category 是 NPC 策略，如 Control/Defense，不是上述机制类别。后续统一叫 mechanics_class，来源字段显式记为 distribution。
真实 episode_id 不在该 CSV 中，单个 clip 目录仅观察到 video/actions。Reward Model 拆分要寻找原采集索引；找不到时建立保守的重复/相似条件 cluster，并声明 episode 分组证据不足，不能伪造 episode_id。
training/data/action_utils.py:get_action_op/hold_last_upsample 选择 11 个按钮、按 window=10 扩展；prepare_action_binned 用 adaptive max pool。注释里的采样频率说法不能取代实际数据。
实读 clip_0000000：20 fps、100 个视频帧、100 行 parquet；动作非零行是 0,10,...,90；parquet 还含状态列，但 scorer 输入只能选按钮、时间戳与合法条件。
diffsynth/core/data/operators.py:129 的 get_num_frames 将不足 101 的 100 帧缩到 97。此时 f=25；101 帧时 f=26。当前 action loader 仍可能保留 100 行，须记录真实 bin 区间并复现 SFT 口径，不能悄悄截动作改变预训练条件。

本地评测 evaluation/stateplay_eval.py:246 的 sampled_frame_parts 使用 np.linspace(0,N-1,min(24,N),dtype=int)，RGB、JPEG、等比最长边缩放。judge_openai_frames:342 实际输入一条生成视频的抽帧和 3 张静态参考图，不提交同条件真实参考视频。默认 judge_image_max_side=832（不是普遍 512），GPT default 是 gpt-5.5。parse_json_object 解析的是五分类，不可用于四个数字 reward。

建议复用 frame/RGB/JPEG helper，新增五段视频的 group payload、严格 score parser、并发/恢复逻辑。主协议默认每段 24 帧、max_side=832；四候选+一参考共 120 帧，首图和 3 张静态示例另算，默认总图像数 124。视频太短时开发测试允许少于24，正式数据应验证 >=24。teacher/student 输入资产、时间戳与次序必须一致。

evaluation/stateplay_eval.py:37-40 将 macro_fail 广义描述为 miss/block/interruption；dataset_builder/annotate_gemini.py:81-101 在自采数据里主要用能量不足和没有执行区分 macro_fail。两者语义不同；原训练分布的类别不能强制成为候选未来答案。scorer 必须区分执行、命中、防御、whiff、fallback。

HUD 代码 evaluation/hud/metrics.py:evaluate_clip 提供 RVSA 上下界、coverage、变化事件等独立评测；本次未在相关源码检索到已经可调用的 Move-Acc/Att-Acc 实现。训练端查找现有 evaluator；若不存在，报告缺失并实现/核验协议，不能用训练 Reward 冒充这些指标。

5. DiffusionNFT 的真实计算与视频迁移

官方训练入口 scripts/train_nft_sd3.py：

419-444：SD3 transformer LoRA 与 default/old adapters；图像目标层不适合当前模型。
640-684：old 采样，保存 latents_clean，等所有 rewards 返回。
744-781：PerPromptStatTracker 聚合 reward；本项目必须按唯一 condition/group_id，不能用 NPC prompt 文本归组。
862-892：clean latent 前向加噪，同一 x_t/t 上计算 old 与 live velocity。
910-960：advantage clip、optimality probability、positive/negative velocity、自适应 x0 重建损失。
966-970：参考 velocity MSE 正则，代码称 KL，但不是显式的概率分布 KL。
980-1029：梯度累积、clip、optimizer、另一个 eval EMA。
1034-1039：采样 old adapter 的软更新。return_decay:169 用 optimizer global_step。
flow_grpo/stat_tracking.py 支持组均值、全局/组标准差；配置 config/nft.py 中 NFT beta 与 config.train.beta 含义不同。
flow_grpo/diffusers_patch/solver.py 和 pipeline_with_logprob.py 把采样与训练解耦；官方 helper 仍产生 trajectory list，但 NFT 核心不需要保存它。
官方 save_ckpt:332 保存 LoRA/optimizer/scaler，resume 后又将 old 复制为 live，不能直接继承为本研究精确恢复。

本地 Wan scheduler 的 set_timesteps_wan/add_noise/training_target/step 实际为：

sigma = shift*u/(1+(shift-1)*u), shift 默认 5
t_model = 1000*sigma
x_sigma = (1-sigma)*x0 + sigma*epsilon
velocity target = epsilon - x0
x_next = x_sigma + (sigma_next-sigma)*v，采样时 sigma 下降
x0_hat = x_sigma - sigma*v

这里 sigma 才是公式的归一化时间；shift 改变采样网格，不再对预测速度乘 shift 导数，不使用 x0-epsilon。首槽为 condition，先构造噪声，再覆盖 x_sigma[:,:,0:1]=first_frame_latents。所有 NFT error、adaptive denominator、reference MSE 都排除首槽。

S: 每组四个 0..100 的绝对分数
mu_g = mean(S_g)
std = population std；global 模式在当前完整已评分 batch 上计算
Z_g = advantage_clip * max(std, std_floor_points)
r = 0.5 + 0.5*clip((S-mu_g)/Z_g,-1,1)
v_pos = (1-beta_nft)*stopgrad(v_old) + beta_nft*v_live
v_neg = (1+beta_nft)*stopgrad(v_old) - beta_nft*v_live
e_pos/neg = (x_sigma-sigma*v_pos/neg-x0)[:,:,1:]
d_pos/neg = stopgrad(max(mean(abs(e_pos/neg)),1e-5))，逐视频统计
L_pos/neg = mean(e_pos/neg^2)/d_pos/neg
L_NFT = mean(advantage_clip/beta_nft * (r*L_pos+(1-r)*L_neg))

这保留官方 /beta_nft 与 advantage_clip loss 尺度，和论文 Eq.(5) 的原始 velocity-MSE 模式分开命名。默认 adaptive 模式不再乘 SFT scheduler.training_weight，避免双重加权。提供 paper_velocity_mse 做公式对照。

默认 beta_nft=1, advantage_clip=5, std_floor_points=5。Z 的 floor 是本研究稳定性扩展。standard 模式同分得到 r=0.5；guard 模式可跳过同分、极小 spread 或 max(S)<50 的整组，保留数据且不补抽。禁止给四条坏视频强制设一个 r=1。所有 gate 都记版本，做 standard/guard 消融。

使用采样 schedule 中均匀随机抽取一个 sigma、每次重绘 epsilon，作为期望损失的随机估计。官方 Appendix C 使用全部采样 timesteps；视频默认 time_draws_per_visit=1, inner_epochs=2 是算力适配，不冒称逐 timestep 复现。可开启 full_schedule 对照。采样 cfg_scale=action_cfg_scale=1、30 步 Wan Euler ODE；后续可验证高阶 ODE，但不是启动前提。

rollout与真实anchor使用独立scheduler实例：前者30步推理网格，后者原1000步训练网格及training_weight，避免可变scheduler状态交叉覆盖。当前seperated_timestep token时间构造按scalar t，默认per-rank microbatch1；提升batch时要验证每样本t语义。

old 是每批固定的采样策略，在本批两次 mini-batch 遍历完成后软更新：eta=min(0.001*optimizer_step,0.5)。原 SFT 是不可变 ref。另一个保存/评测 EMA 可选关闭，不能把三者混为一谈。B-only 可共享冻结 5B backbone，只保存/切换 B 的 live/old/ref；Coupling 模式增加独立 LoRA 快照。在 live forward 到 checkpoint recomputation/backward 完成期间禁止切换任何参数。

6. RL 代码与输出约定

训练端新代码根：/private/StatePlay-main/rl_posttrain/。持久化根：/private/StatePlay-main/outputs/rl_posttrain/，支持通过 RL_RUN_ROOT 改到容量充足的挂载盘。

rl_posttrain/
  configs/{api_b_only,rm_qwen35,local_b_only,smoke}.yaml
  adapters/{world_model,checkpoint,parameter_modes}.py
  data/{conditions,sampler,manifest,frames}.py
  algorithms/{nft_loss,reward_transform,policy_bank,anchors}.py
  rewards/{base,api_group,qwen_group,monitor}.py
  reward_model/{dataset,collator,train,evaluate,serve}.py
  prompts/mechanics_reward_v1.txt
  {train_api,train_local,preflight,profile,validate_config,orchestrate}.py
  scripts/{run_api,train_rm,run_local,verify_all}.sh
  tests/，docs/，requirements-world.in，requirements-reward.in
outputs/rl_posttrain/<run_id>/
  plan/、conditions/、groups/、requests/、world/{api,local}/
  reward_model/、metrics/、logs/、reports/

上面都是要求训练端新增的规划文件；不能描述成已经存在的源码。A/B/C/D 给出具体职责。

保护原 checkpoint /private/StatePlay-main/outputs/latent_world/step-4572.safetensors：只读、记录 sha/大小/mtime、路径 realpath 检查输出不重叠、任何恢复不得覆盖。新输出有唯一 run_id，原始采样视频、reference、teacher prompt/raw response 永久保留。

7. 建议初值与预算

以下是研究初值，不是经过 L20 测得的最优值。

项目	建议	理由/调整规则
条件批 n	28，全局	7 卡每卡4条件，112候选存磁盘/CPU；API worker上限30，本批最多28请求
每条件候选	4	用户要求；不同 seed、同一 old 版本
m	总共1遍 eligible 原训练集	先控制视频/API预算；A+C共一次，不是各自一次
RL Stage A	2,000条件，8,000候选，2,000次成功group请求	比几百条更适合初步学生训练，仍需要质量门槛
RL Stage B	不消耗新条件遍历	使用A保存的group数据；episode/condition cluster 80/10/10拆分
RL Stage C	N_eligible-2,000；若N=10,000则8,000条件/32,000候选	接续ledger，不重置epoch
A扩展	RM不足时每次+280条件，默认上限4,000	从剩余ledger扣除并减少C预算，不隐式开启新一遍
rollout microbatch	每卡1候选，依次生成	保留实际视频长度、避免把4候选同时塞入显存
NFT microbatch	每rank1视频、accum4、inner2	7卡有效batch28；完整112样本每次遍历4 steps，一批共8 steps
B LR / Coupling LR	2e-5 / 1e-4	B全参数保守更新，LoRA较小；梯度峰值/机制评测驱动调整
Coupling LoRA	r=8, alpha=16, dropout=0	精确匹配30 blocks中latent_state_attention的q/k/v/out；约319万adapter参数
anchor	`L_NFT + 0.1L_FM_real + 0.01L_trans_real`	真实训练视频稳定性；不使用真实HUD状态监督
ref penalty	0，支持1e-4消融	避免默认额外reference大forward；启用时用不可变SFT，不是old
学生 LoRA	r=16, alpha=32, dropout=0.05，LR=1e-4	初期JSON-SFT；先实测再定
学生batch	per-rank1完整group，accum4	7卡起始有效28groups；不是把四候选当四个独立样本
学生epochs	起始2，最多3，按验证集选	避免小数据过拟合；不中断保留全部教师数据
审计	C开始先56个新条件，之后每100批至少28组	首56组属于C的in-flight首批，不额外重抽；API不是每轮调用

尾批、过滤后的不整除 batch 必须用零权重 padding 或不等长求和修正 DDP，不重复真实条件凑整；按全局有效样本数归一化，记录实际 optimizer steps。以上近似steps只针对无过滤完整批。

8. Qwen 与 API 的外部核查

使用 OpenAI Docs 核对了 gpt-6.1-sol 模型页：支持图像输入，无原生视频输入；采用有序抽帧。实际账户/relay能否调用仍需训练端preflight。禁止换模型。payload容量以实际endpoint验证，不把公共文档当relay保证。

Qwen 模型卡、config、Transformers模型源码确认它是多模态 Qwen3_5ForConditionalGeneration，文本层混合 DeltaNet 与 full attention。建议用保存的同一组有序图片，避免processor自动视频采样改变24帧协议。

推荐主路线是JSON分数SFT：原教师英文Prompt + 同组视频材料 -> 四分数字典，assistant-only CE；不新增未经验证的ranking loss。标量head+绝对回归+BT作为备选设计说明，不强制第一轮实现。与用户提到的StyleScore式scalar-head/BT区别是输出形式和目标不同；本地没有StyleScore论文，CVF全文获取失败，不能声称复现它的训练细节。

语言层LoRA精确筛选 model.language_model.layers.* 下的 full-attention q_proj/k_proj/v_proj/o_proj、DeltaNet in_proj_qkv/in_proj_z/out_proj、MLP gate_proj/up_proj/down_proj，以安装版named_modules最终核验；不误匹配视觉塔，不套Qwen2.5-VL名单。冻结vision/base，保留图像和候选边界，chat template设非thinking。

max_side832可能接近五万visual tokens/group，建议max_length65536；必须实测processor展开长度。训练不能materialize整个长序列的248320维vocab logits，采用安装版支持的answer-suffix logits_to_keep/chunked CE。不能删除视频帧或静默truncate解决OOM。先bf16+checkpointing、单组microbatch、ZeRO-3/vision feature缓存；不足再试NF4并确认hybrid层兼容。

分离world和reward虚拟环境，保留服务器已验证SFT依赖。DiffusionNFT setup.py 固定旧transformers==4.40.0，不应在当前世界模型环境直接pip install整个官方项目；阅读移植数学与小helper即可。Reward环境安装实际支持Qwen3.5的Transformers release，若release不支持则固定官方main的commit，记录PEFT/Accelerate/Torch/CUDA版本与lock；config里的4.57.0.dev0不是兼容性保证。

9. 必须报告的限制与验收

所有三阶段代码、fake scorer测试、真实checkpoint/三模式梯度、受控API、真实Qwen小样本LoRA保存/重载、7卡profile与恢复必须先完成，才进入长期A训练。学生软件链路通过不代表它的机制评分质量通过；正式B后另有质量门槛，未通过不得开始长期C。

主要风险是：缺少训练时tokenizer/配置、implicit推理入口不完整、100/97/101帧与action bins口径、Coupling gate失效、冻结主干被no_grad截梯度、7卡不整除尾批、API超时导致重复扣费、episode provenance缺失、长多模态上下文OOM、学生利用参考视频/类别/位置捷径以及reward hacking。四份Prompt均规定可执行诊断。

本地原工程没有 .git，git status --short 返回“not a git repository”。对六个源码/评测目录内10,282个源码/配置/文档文件的前后只读聚合SHA256均为 FAEDF78E231FCC2F3CC31AAD7E3BFD65B5171F51FBC727C14F08B0F125058686，已确认一致。两份外部checkout的git status均为空。持久化项目新增仅此提示词目录内五个Markdown，没有修改原工程源文件。

已完成五文档的code fence与关键约定检查，并运行12项标准库标量代数检查：RF的x0还原、三种beta下正负loss的stop-gradient分母有限差分/解析梯度、r=.5在live=old时梯度相抵、reward范围与同分行为。它们只验证本文数学说明，不构成完整NFT tensor实现、GPU训练、API或Qwen LoRA调试结果。训练端实际验收按Prompt_D执行。