Hugging Face's logo

Datasets:
lupele
/
StatePlay-Reward-2280

Modalities:
Tabular
Text
Video
Formats:
json
Languages:
English
Chinese
Size:
1K - 10K
Tags:
video
image
stateplay
reward-model
Synthetic
Libraries:
Datasets
pandas
Polars
License:
Dataset card Data Studio Files
xet
 Community
1
StatePlay-Reward-2280 / docs /Prompt_D_Integration_Test_Execution.md
lupele's picture
lupele
Add files using upload-large-folder tool
0a30ceb verified
preview code
|
Raw History Blame Contribute Delete
15.9 kB

给训练端 Codex：三阶段集成、验收、汇报与正式执行

1. 总任务与执行顺序

项目 /private/StatePlay-main，7张NVIDIA L20。当前隐式模型以 lupele/stateplay-test 为基准，参考commit 1b3f5256372552469b4d33fa38bab8491ee1769b，核对服务器差异。新增代码集中在 rl_posttrain/，所有新输出在 /private/StatePlay-main/outputs/rl_posttrain/<run_id>/。

A：API gpt-6.1-sol Reward + DiffusionNFT；B：A永久group数据训练Qwen/Qwen3.5-9B LoRA Reward；C：A world checkpoint + B冻结Reward继续DiffusionNFT。

必须先全部实现A/B/C代码，完成下述开发验收和汇报，然后进入长期A。不得用“已经开始A”代替尚未实现的B/C。必要小样本/短视频/极少步/API限额测试属于调试。正式B之后另外验收RM质量，质量不足不启动长期C。

保护 /private/StatePlay-main/outputs/latent_world/step-4572.safetensors，严格只读、无覆盖/移动/重初始化；输出realpath与原路径不重叠。不要因RL任务改动无关SFT、推理、数据、权重。server原工程dirty changes先记录并保留；不reset/checkout撤销用户修改。

你必须自行阅读本地 2509.16117v2.pdf 算法/实现/Appendix C，并自行在工程外克隆 NVlabs/DiffusionNFT 真正代码。参考commit cbb14f84b8312b620390dfcbe2fab69c1383b104，记录自己的commit。读train_nft_sd3 loss/normalization/rollout/DDP/LoRA/EMA/checkpoint，不能只看README或把本Prompt当公式来源。

同时阅读A/B/C及 RL_Repository_Analysis.md。来源不同的本地评测文件不在GitHub仓库，应查服务器是否有；缺失记录并在RL目录实现必要兼容入口。正式代码的所有测试结果来自真实运行，不从静态阅读推断成功。

2. 统一约定与配置审计

共享 rl-plan-v1、rl-group-v1、mechanics_reward_v1.txt。核心初值：n28条件、四候选、A2,000条件、整体m1；B不消费新条件，C接余N-2,000。A若为数据不足扩展280条件块，C预算同步减少，A初始上限4,000。不可在三个阶段各跑m遍。

height480/width832、requested101但实际loaded帧数随SFT规则（100->97/f25，101/f26）；hold_window10、11按钮、原NPC prompt。每视频24帧、max_side832、首图+3静态示例默认总124图，四候选和reference同一次评分请求。API模型不得擅改。

NFT beta1、adv_clip5、std_floor5、global_std、mechanism_guard max>=50/spread>=1；支持standard消融。30步Euler/Wan sigma_shift5、CFG1、inner2、time_draw1；b1/rank、accum4；B LR2e-5、Coupling LR1e-4、Coupling LoRA8/16/0、anchor0.1FM+0.01CE、refMSE默认0。

学生LoRA16/32/.05、LR1e-4、per-rank1完整组、accum4、bf16、checkpointing、2epochs起始最多3、max_length65536、answer-only CE/非thinking。学生和joint拓扑都是实测初值，不得写成已验证最优。C保留RM卡后n可调整4*world_size，改动反映在config/step计划。

新增 validate_config.py 要实际检查：各阶段checkpoint路径和hash、同run_id、data split、group size、frame protocol、Prompt/processor版本、scorerID、算法超参数、GPU列表不重叠或明确timeslice、输出保护路径。配置缺必要路径时明确错误，不能静默fallback。

3. 开发验收矩阵

新增 rl_posttrain/tests/ 按下面功能建立测试和报告。小模型CPU测试与真实大模型GPU测试分开。

检查项 最小真实验证与通过证据
checkpoint加载 key/shape来源审计，latent组件完整，原SFT/base/tokenizer同hash；fixed seed原有有效latent推理与adapter输出对照
原文件保护 pre/post sha/size/mtime一致，输出realpath不同，禁止覆写测试
数据字段 actual columns/count，distribution机制类与category策略区分，首图/actions/NPC/reference的checksum与时间正确
原始条件遍历 train-only、每轮无重复、split/source cluster排除、断点接续同顺序，A/C cursor统一
候选组 每condition恰好4个唯一video_id/seed，同old版本，group完整；乱序依然映射准确
视频/latent final clean normalized latent保存与重载decode对照，禁止MP4 reencode替代；首帧固定
长度与动作 97/101两例、f25/f26、raw vs dense动作、pool bins、采样fps；不隐式改SFT口径
抽帧协议 linspace整数索引包含首尾、24帧、RGB/JPEG/等比832，teacher/student frame hashes一致
真实API 一request带4候选+reference，包含全部120帧及约定附图，返回4分正确；模型gpt-6.1-sol可用
并发/限流 fake30worker并发、429/5xx/超时/非法JSON分类、最大重试、rate预算、unknown状态；真实API严格限group数量
cache/resume succeeded不重复请求，worker claim互斥，request_map/raw response持久化，重启恢复，不虚称服务端exactly-once
Reward数学 全局/组std、r0..1、同分r.5、tiny spread与全坏gate、不给坏组强造positive，按group非prompt文本
NFT公式 Eq.(5)与official adaptive标量/张量/梯度对照；adv_clip/beta系数，不冒充PPO/KL
Flow Matching epsilon-x0方向、shift网格、t_model1000sigma、x0_hat，首槽error/denominator mask，SFT/NFT权重不叠加
B-only 只transition trainable，NFT对B非零gradient/参数变化，冻结initializer/output_projection/backbone/predictor/tokenizer
Coupling-only 仅30块q/k/v/out LoRA，多步adapter变化/gate参与、no-grad未截断、save/reload一致
Both B+LoRA都变化、冻结参数hash不变、DDP同步后跨rank一致
Anchors 原始train video FM和冻结tokenizer CE实际计算；后续CE可导回B，Coupling-only CE不伪称有梯度
Policy版本 old每批固定、batch后EMA，ref不变，live变化；checkpoint recomputation期间不切policy
DDP尾批 uneven/gated/dummy样本全局正确mean，所有rank同step，无复制真实条件填尾，无NCCL hang
Qwen完整输入 真实9B全组120帧及附图、processor/text/grid一致、无截断；长度、LM suffix logits节省显存的loss对照
Qwen LoRA 真named_modules、可训练名单、3步backward/变化、冻结vision、adapter/processor/save/reload，生成4合法分
本地scorer RM版本固定、统一GroupScorer、同input hash/candidate映射、C实际调用，不是mock替代
资源与恢复 7卡world、RM训练、joint分配实测显存/吞吐；A->C拓扑变化、optimizer/cursor/in-flight恢复
原入口回归 现有latent/SFT测试、已有有效推理和评测可继续调用；原explicit入口不能被假装latent入口

至少3步梯度测试，首步LoRA A可能为零不是失败，整体LoRA必须在后续实际改变；trained Coupling gate若全部0必须诊断。仅存在grad tensor不等于非零，不等于optimizer成功更新；报告norm与before/after参数差。

验证冻结模块用参数/bufferhash或逐tensor对照，小样本debug可以承受完整hash；长期每step不需要hash整个5B。tokenizer/noise目标可detach，live visual与冻结predictor必须保留输入autograd。不要用原SFT中未冻结主干的通用switch_train_mode复写RL冻结规则。

4. 数学与断点专门测试

官方参考 train_nft_sd3.py:927-970；实现 test_nft_math.py，无权重即可测：

  1. x_sigma与known target epsilon-x0，sigma=0/1及中间值；oracle x0_hat应等于x0，仅未来槽计误差。
  2. beta1时pos=live、neg=2old-live；beta.1等一般系数与官方一致。
  3. r=1只用positive、r=0只用negative、r=.5时在live=old的基本MSE RL梯度相抵；adaptive/denominator在该点也核验，不要求loss为0。
  4. denominator.detach与clamp1e-5、per-video reduction、reward广播、std population、adv_clip/beta尺度，与简化官方函数自动梯度对照。
  5. score [0,25,75,100]、同分组、近同分组、全部<50，standard与guard有明确区别。
  6. 两rank/七rank不等有效样本的分布式gradient与单进程全局mean一致；完整batch filtered=0无step。

恢复专测至少中断四个位置：候选生成一半、API返回一半、已评分未更新、完成一个optimizer step尚未完成整batch。重新启动后不得重新生成已完成视频、错位score、重复已提交step、漏消费条件。保存至少最近一个可恢复optimizer边界；未提交操作可重跑，必须说明恢复语义。

采样和SFT anchor scheduler用独立实例：rollout30步推理网格、真实anchor训练1000步与training_weight不能相互覆盖。当前latent forward的seperated_timestep分支以单scalar timestep构造token时间；默认per-rank microbatch1避免不同样本t广播错误，任何b>1优化必须额外验证共享/逐样本t语义。

5. 三阶段在长期训练前如何真实调试

建立独立 smoke_v1 run/ledger，使用少量train conditions，必要时短视频/小分辨率做基础测试，再跑原尺度完整组验证。受控API默认最多1个group；完整RM组数据可用这次实际教师响应重复用于3步软件调试，但不能把重复数据当有效数据规模或RM质量证据。

A用real checkpoint、fake scorer跑3步和save/resume，再做1次real API group验证；B用真实Qwen模型对完整group做3步LoRA、save/reload/score；C加载A smoke checkpoint+B smoke scorer完成3步local NFT与恢复。C smoke允许缺quality gate，正式C必须有gate，开关不可在正式config启用。

fake30worker压力test不需付30次请求，真实API能力测试与压力测试分别标注。短视频测试不能替代原480x832/f25或26的memory profile；必须最后跑完整组。不能称本地提示词作者替你做了GPU调试。

6. 要求创建的统一执行入口

preflight检查资源/路径/model/key存在性但不打印key；profile测实际组件；orchestrate区分 --development-smoke、--prepare-only、--execute-plan。所有运行命令支持配置路径/run_id/resume，shell脚本用set -euo pipefail，错误非零退出，不杀其他用户训练。

cd /private/StatePlay-main
python -m rl_posttrain.validate_config --all
python -m rl_posttrain.preflight --config rl_posttrain/configs/api_b_only.yaml --run-id study_v1
python -m pytest rl_posttrain/tests -q
python -m pytest tests/test_latent_state.py -q
python -m rl_posttrain.orchestrate --run-id smoke_v1 --development-smoke --api-group-limit 1
python -m rl_posttrain.profile --config rl_posttrain/configs/local_b_only.yaml \
  --run-id smoke_v1 --component joint --full-group
python -m rl_posttrain.orchestrate --run-id study_v1 --prepare-only

如服务器原测试依赖暂缺，只能注明未运行并修复环境/继续其他测试，不能直接把需要的回归gate勾成功。前面的CLI均是任务要求新增，不是保证仓库已有。

软件完成后 reports/integration_gate.json 记录commit/config/hash/test IDs与结果；严重未解决项使正式launcher拒绝启动。Reward质量gate另在B正式训练之后生成，避免要求正式A尚未发生时就已经有合格RM。

7. 正式前代码汇报，必须先交付

向用户汇报，至少包含：

  • 新增/必要修改文件、原工程改动范围、原SFT checkpoint哈希。
  • 实际阅读论文/官方/训练源码版本与核心迁移：Wan时间、首槽mask、正负loss、自适应权重、EMA策略。
  • A/B/C是否软件打通，真实API与Qwen调试区别，全部测试报告路径、未完成项。
  • B-only/Coupling-only/Both的trainable列表、grad norm、实际参数delta、冻结hash、adapter重载。
  • 英文Prompt全文保存位置、五视频请求结构、score mapping/cache/retry/unknown处理。
  • 数据实际类别/比例、源episode/cluster限制、n/m/预算、各阶段真实optimizer计划。
  • Qwen方法与真实LoRA target/超参数、split和metrics、长上下文显存/profile。
  • 7卡各阶段拓扑、峰值/吞吐、失败恢复；哪些参数仍是建议初值。
  • 正式命令、checkpoint/视频/教师资料/日志持久化路径、成本估计、known risks。

不存在已解决证据时不要写“完整验证通过”。先修复阻碍正式训练的问题。若用户已经授权在验收后正式执行，汇报之后按授权启动；没有长期执行授权则交付可运行结果与明确命令，正式执行作为最后待授权动作，不在实现过程中偷跑长期A。

8. 正式阶段命令与checkpoint衔接

准备可直接执行的script，配置填实测data/base/tokenizer路径及topology。按同一run study_v1：

cd /private/StatePlay-main
# 正式A：要求integration_gate通过；world起始7卡。
bash rl_posttrain/scripts/run_api.sh --run-id study_v1 \
  --config rl_posttrain/configs/api_b_only.yaml
# 正式B：读取A永久group数据；释放world GPU，选validated RM训练策略。
bash rl_posttrain/scripts/train_rm.sh --run-id study_v1 \
  --config rl_posttrain/configs/rm_qwen35.yaml
# 正式C：读取A final live/old/optimizer/ledger与RM final；先新56条件审计。
bash rl_posttrain/scripts/run_local.sh --run-id study_v1 \
  --config rl_posttrain/configs/local_b_only.yaml

也提供总入口 python -m rl_posttrain.orchestrate --run-id study_v1 --execute-plan，仅在具备正式授权和integration_gate后执行。它按stage状态机推进：A2,000条件 -> B质量评估 -> C首56新条件审计 -> C剩余条件。RM不足时暂停，提出按280条件块扩展A的记录，符合已批准的预算才继续；不静默把A+C变成多遍数据。

路径约定：

outputs/rl_posttrain/study_v1/plan/{config,epoch_order,cursor,stage_state}.*
outputs/rl_posttrain/study_v1/groups/<group_id>/...
outputs/rl_posttrain/study_v1/requests/...
outputs/rl_posttrain/study_v1/world/api/{checkpoints,final}/
outputs/rl_posttrain/study_v1/reward_model/{checkpoints,final,reports,splits}/
outputs/rl_posttrain/study_v1/world/local/{checkpoints,final}/
outputs/rl_posttrain/study_v1/{logs,metrics,reports}/

C恢复A的live和old、optimizer/RNG/counters，不能只加载live后重置old或从原SFT冷启动。ref始终原SFT。World checkpoint、teacher数据、Reward LoRA checkpoint及各类日志互不覆盖。不同参数模式正式消融使用新的run_id与相同可比较条件/seed计划，不在已开始的B-only实验中途切模式。

9. 日志、审计与独立评测

每group/step记录原始API或RM分、group mean/std/Z/optimality/gate、positive/negative/NFT loss、FM/CE anchor、梯度norm、参数模式/实际delta、optimizer/inner/draw counters、old版本/EMA eta、原始dataset epoch/cursor、GPU内存/吞吐、生成/评分时间、API usage/成本、RM版本与checkpoint。

独立eval比较原implicit SFT、B-only、Coupling-only、Both，以及API vs Local Reward。统一holdout条件/seed和采样协议，报告Mechanics Fidelity、Move-Acc、Att-Acc、RVSA、SSIM/LPIPS等实际可用指标与不确定性。原HUD仅用于独立评价，不倒灌训练Reward；reference未来不是唯一合法生成轨迹。

当前本地补充evaluation具有五分类Mechanics Fidelity和HUD RVSA，没有找到可调用Move-Acc/Att-Acc。训练端必须搜索实际工具，缺失时在报告列明并实现/核验其协议；不能拿teacher scalar score或“看起来不错”替代这些名字的数值。

监控RM：C首56条件及每100batch至少28组API审计，两个连续窗口MAE>15或有效pairagreement<65%触发pause，保存checkpoint并报告。高Reward不能证明机制改善，正式对比需独立指标与人工可见事件检查。

最后输出实现、调试、运行记录、当前阶段状态及剩余限制，不删除任何原始视频、真实参考、英文教师Prompt、API响应或历史RM版本。