File size: 29,347 Bytes
2c66cf3 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 | 2026-08-29:更新 `AGENTS.md` §6.5:每次修改后在 `progress.md` 追加 1~2 行;详细事实记录改为按需放置于 `documents/details/`。
2026-08-29:更新 `AGENTS.md` §6.4:A800 远程可视化列为第一阶段目标,常规 rollout/evaluation 改为按需录制视频。
2026-08-29:删除 `third_party/RLinf`、`openpi`、`LIBERO`、`lerobot` 内嵌的 `.git` 元数据,保留四个第三方源码目录。
2026-08-29:同步更新 `handoff/ppu_recap_task0/source_manifest.md` 与 patches 说明,标注第三方源码为无 Git 元数据的快照。
2026-08-29:同步修正 details 文档中的 Git 状态描述,并刷新项目/hand-off 校验清单。
2026-08-29:新增根目录 `.gitignore`:保留 `envs/*.yml`/`*.txt`,忽略本地环境实例及模型、数据、缓存、生成物,同时完整保留 `documents/`。
2026-08-29:完善根目录 `.gitignore`:忽略本地 `envs` 实例、checkpoint、dataset、cache 与生成物,保留环境锁定文件并显式全量保留 `documents/`。
2026-08-29:将环境忽略范围收窄为实际目录 `envs/rlinf-pi05/`,不影响 `envs/rlinf-pi05-conda-env.yml` 和 `pip-freeze.txt`。
2026-08-29:刷新 handoff 项目校验清单,将当前 `.gitignore`、`progress.md` 与 details 文档纳入校验。
2026-08-30:同步 `AGENTS.md`:A800 改为 headless/EGL 默认,不再开发远程可视化,MP4 仅在负责人明确要求时录制。
2026-08-30:新增 `documents/phase_plan_0830_baseline.md`,规划 Task 0 的 50-episode 阶段性 baseline 与 250-episode 正式 baseline、逐 episode 结果及 resume 门控。
2026-08-30:完成 B1/B2 基础实现:新增正式 baseline config、逐 episode原子结果工具、summary/validator 和 headless runner;smoke 默认改为不写 MP4,`results/` 仅忽略运行时产物。
2026-08-30:CPU dry-run/语法与空结果校验通过,列出 250 个唯一 key;fresh `nvidia-smi` 无法通信,按规则暂缓 GPU smoke。
2026-08-30:补充 init-state checksum、`status.json`、commands 记录与显式视频关闭;合成 success/failure、缺字段、重复和协议 hash 校验均通过,ruff/py_compile 通过。
2026-08-30:修正 formal runner 的 `--overwrite`/异常重试与 episode 文件路径校验;重新执行 dry-run、validator、py_compile 和 ruff,均通过。
2026-08-30:B3 fresh `nvidia-smi` 仍无法与 NVIDIA driver 通信;未启动 GPU workload,formal baseline 等 driver 恢复后从 dry-run 结果目录继续。
2026-08-30:修正 formal runner 使用内部 task name 作为 prompt 的问题,现改用官方 `task.language`;静态检查与 250-key dry-run 仍通过。
2026-08-30:B3 单卡 full-horizon smoke 与独立同 seed 重放通过(GPU2,520 steps);首帧/首 action checksum、结果字段一致,未生成 MP4。
2026-08-30:B4 pilot 已完成 trial 0~4,5/5 完整失败样本;GPU2 后续被其他用户占用,已改用空闲 GPU4,未抢占共享任务。
2026-08-30:B5 seed 0 的 50 个 Task 0 固定 init state 已完成(单卡分片、可 resume、未录 MP4);8/50 成功,结果待 summary/严格校验。
2026-08-30:B5 summary_v1 已生成并标记 `baseline_v1_complete`(N=50,8/50,Wilson 95% CI 约 [0.083, 0.285]);正式 250-key summary 保持 incomplete 以待 seed 1~4。
2026-08-30:B6 启动前检查 `/data` 可用约 562GB,baseline 结果约 360KB、checkpoint 约 7GB;本阶段关闭视频,预期新增占用很小。
2026-08-30:B6 已累计完成 120/250(seed0=50、seed1=40、seed2=30),双卡不重叠分片均无 error/视频;中途 summary/validator 通过。
2026-08-30:B6 已累计完成 200/250(seed0~3 各 50,seed4 尚未开始);GPU2 外部任务持续占用,后续继续用 GPU4 单卡,期间出现一次外部竞态 OOM 且未写入结果。
2026-08-30:B6 已累计完成 220/250(seed0~3 各 50、seed4=20),所有已落盘 episode 无 error/视频;GPU4 单卡继续补齐最后 30 条。
2026-08-30:B6 formal baseline 已完成 250/250(50/250 成功,`baseline_v2_complete`);严格 validator、全量 protocol/checkpoint/commit 一致性与 checksum 校验通过。
2026-08-30:完成 B7 冻结:修正 status 计划数、更新 Task 0 protocol 状态,新增 `documents/details/10_Task0_BaselineResult.md`;默认不录视频,RECAP After 仍待后续 checkpoint。
2026-08-30:回写 `phase_plan_0830_baseline.md` 执行状态与验收清单(B0–B7 已完成);复查命令、结果目录和 checksum 保持可追溯。
2026-08-30:清理 `documents/details/10_Task0_BaselineResult.md` 格式尾随空白,内容与冻结结果不变。
2026-08-30:新增 `scripts/record_task0_pi05_demo.py`,按需复现并录制正式 baseline 的 seed0/trial20 成功轨迹,不修改冻结结果。
2026-08-30:生成 256×256/20fps/13.45s 的 Task 0 成功 MP4;首观测、首动作、success step/return 与正式记录一致,ffprobe 与全量解码校验通过。
2026-08-30:更新 `AGENTS.md`,冻结 Task 0 SFT Before=50/250,并将当前阶段切换到具备 dev/formal 隔离和配对统计纪律的 RECAP 开发。
2026-08-30:新增 `documents/phase_plan_0830_开发recap.md`,规划 official assets、Value/Advantage/CFG 门控、A800/PPU 决策及同协议 After/PPT 证据链。
2026-08-30:执行 RECAP R0:baseline 250/250、0 missing/duplicate/error、协议与 checkpoint hash/checksum 均通过;新增 `documents/details/11_RECAP_RunManifest.md`,记录项目路径、磁盘与 GPU 快照。
2026-08-31:完成 RECAP R1 SFT dev-50(seed100,50/50,0 error,success 12/50=24.0%,无视频);新增独立 dev 配置与 `documents/details/12_RECAP_DevProtocol.md`,汇总/validator 通过。
2026-08-31:补齐 RECAP evaluator 的 cfg_model/guidance 与多种 checkpoint 权重入口兼容,并新增 `scripts/compare_task0_before_after.py` 及 dev/formal RECAP 占位配置;py_compile、Before/After 差异审计和 baseline/dev dry-run 通过。
2026-08-31:R2 核验确认 Gemma3 固定 revision 下载为 401(标记 `BLOCKED_GEMMA_ACCESS`);官方 RECAP 数据按固定 revision 在 canonical 目录断点下载中,新增 `task0_returns_recap_v1.yaml` 与 `documents/details/13_RECAP_R2_AssetsData.md`。
2026-08-31:为加速 Xet 数据下载,在项目环境固定加入 `hf-xet==1.1.10`(未升级 huggingface-hub),并同步 `envs/rlinf-pi05-pip-freeze.txt` 与 conda 复现文件。
2026-08-31:R2 数据补齐因远端视频限速暂停;canonical 目录保留约 2.0GB/267 个 MP4 与可 resume 元数据,R2 当前明确阻塞于 `BLOCKED_GEMMA_ACCESS`,未启动正式 Return/Value/Advantage/CFG。
2026-08-31:在完整 4,190 个 parquet 上完成 R3 官方 Return sidecar(sft/train/eval 行数 8,005/1,561,874/25,493,tag `recap_v1_fail300_g1`);key/finite/抽样递推校验通过,详见 `documents/details/14_RECAP_Returns.md`。
2026-08-31:修复 cfg_model 兼容改动误置 `_write_status` 代码块的问题;baseline/dev dry-run、py_compile 与 ruff 全部通过,历史 250 条结果未改动。
2026-08-31:补充 `documents/details/12_RECAP_DevProtocol.md`,记录 protocol diff checker 的正/反例及 cfg_model checkpoint 入口验证。
2026-08-31:dry-run 曾仅更新 formal baseline 的 commands/status 元数据,已按冻结快照精确恢复;episodes、protocol、summary 与 checkpoint hash 未变。
2026-08-31:新增 `scripts/validate_recap_data.py`,按固定远端 manifest 检查三 split parquet/视频/Return sidecar,并修正跨 chunk 抽样路径;py_compile/ruff 通过,当前 partial 数据按预期报告 train 视频缺失。
2026-08-31:核对远端 manifest 明确 SFT/train/eval 视频应为 60/8192/128 个;validator 当前准确报告 train image=78、wrist=1,未将错误的 SFT `total_videos=762` 当作真值。
2026-08-31:回写 `phase_plan_0830_开发recap.md` 执行状态:R0/R1 完成、R3 sidecar 完成;R2 以 `BLOCKED_GEMMA_ACCESS`/视频缺口暂停,Value/Advantage/CFG 未启动。
2026-08-31:负责人提供的临时 HF token 认证成功;官方 Gemma3 固定 revision 已下载并通过离线 config/tokenizer/模型加载与权重 SHA256 校验。
2026-08-31:在不覆盖 Return sidecar 的前提下续传 canonical train 视频(仅 `videos/**`);当前等待数据完整性 Gate,Value/Advantage/CFG 尚未启动。
2026-08-31:依据固定版 RLinf Value worker 新增 `configs/recap/task0_value_recap_v1.yaml`,先限定单卡 micro/global batch=1、1 step,等待数据 Gate 后做官方权重 preflight。
2026-08-31:测试 Xet/普通 HTTPS 后安装并固定 `hf-transfer==0.1.9`;16 文件并发约 18s,吞吐未显著改善,保留断点下载并记录实际状态。
2026-08-31:刷新 RECAP phase plan 状态:Gemma access Gate 已通过,R2 当前仅剩 train 视频完整性;新增 Value 官方权重 preflight 配置,未因数据/driver 未就绪提前启动 GPU。
2026-08-31:补记 Gemma3/SigLIP2 文件总量与权重 SHA256;Value 资产路径均可离线加载,token 未落盘。
2026-08-31:fresh `nvidia-smi` 当前仍无法通信,未启动 GPU 任务;train 视频下载保持可恢复运行,待数据和 driver 两个 Gate 均通过后进入 R4。
2026-08-31:新增 `scripts/download_recap_videos.py`,针对代理下 Xet 慢速提供 token 环境变量、固定 revision、视频 prefix、`.part` 原子落盘和可 resume 的 HTTP wrapper;未触碰 metadata/sidecar。
2026-08-31:修正 wrapper 的 `--max-files` 语义为“限制缺失文件数”,py_compile/ruff 通过,完整同步仍不截断远端 manifest。
2026-08-31:wrapper 小批量实测 32 个缺失 MP4 下载约 8.3s、原子落盘成功;已启动全部 6,103 个缺失 train 视频的可恢复同步。
2026-08-31:官方 Gemma3/SigLIP2 在既有单 episode fixture 上完成 CPU Value forward、保存/reload smoke(prediction 一致);完整 R4 GPU backward/resume 仍待 driver 与 canonical 数据 Gate。
2026-08-31:回写 phase plan 的 R4 状态:官方权重 CPU smoke 已列为已验证事实,但不改变“GPU backward/save/resume 未通过”的 Gate。
2026-08-31:HF token 认证成功后,固定 revision 的 Gemma/数据资产已完成获取;train 缺失视频 5612/5612、无失败。固定 validator 通过三 split 视频、parquet、Return sidecar 与抽样解码 Gate;R2_COMPLETE,R4 仍受 nvidia driver 不可用阻塞。
2026-08-31:R2 完成后用正式 Return tag 对三 split 做 ValueDataset/collator CPU 单样本核验(shape、长度、归一化 target 均通过);LeRobot 2.0 仅提示兼容性 warning,未转换数据。R4 当前标记 `R4_BLOCKED_A800_DRIVER`。
2026-08-31:R4 首次 GPU 命令安全退出:Ray placement 仍按 `all` 暴露 8 卡,导致 batch=1 配置校验失败(非 OOM);Value 配置改为显式 `actor: 7` 单卡 placement,待 fresh GPU check 后重试。
2026-08-31:R4 官方 Value GPU preflight 通过:GPU7 单卡完成完整数据 1-step forward/backward、held-out eval、checkpoint save;使用 `+runner.resume_dir` 恢复至 step2 成功,checkpoint 各约 6.8G,详见 `documents/details/15_RECAP_ValueOfficialPreflight.md`。
2026-08-31:冻结 R5 Value 训练约定并新增 `task0_value_recap_v1_formal.yaml`、`documents/details/16_RECAP_ValueFormalRun.md`:8,000 steps、500 验证/2,000 保存、四个预声明候选与 ≥100G 磁盘门;Hydra compose 校验通过,尚未启动正式训练。
2026-08-31:R5 首段在 step45 因 train wrist 两条 MP4 的 H.264 数据损坏退出(非 OOM、未保存 checkpoint);全帧扫描定位后保留 `.corrupt` 原件并按固定 revision 重下,修复后全量视频解码与数据 validator 均通过,详见 `documents/details/13_RECAP_R2_AssetsData.md`。
2026-08-31:新增 `scripts/diagnose_recap_value_decode.py`,复用官方 `ValueDataset` 并追踪 torchcodec 实际视频路径,用于定位全帧 ffmpeg 未捕获的随机 seek 解码错误;py_compile/diff check 通过。
2026-08-31:新增 `scripts/scan_recap_torchcodec.py`,按 LeRobot 的 approximate seek 对 MP4 分块扫描并仅输出失败路径;py_compile/diff check 通过,尚未运行全 train 扫描。
2026-08-31:torchcodec 全量扫描确认并修复 train wrist 共 5 条坏 MP4(001183/001185/001188/001193/001196);5 条重下后、SFT/eval 全量扫描均通过,R2 重新标记 `R2_COMPLETE_AFTER_VIDEO_REPAIR`。
2026-08-31:R5 修复后首个正式 Value 分段完成 `2000/2000`(约 34:52),生成约 6.8G checkpoint(full weights SHA256 `50c2b001248f897fae3f58cab5aae922c37ed352491d58553122502f6d7b81fd`);step500/1000/2000 eval loss/MAE=`5.43/0.347`,`5.88/0.0971`,`5.74/0.707`,无解码/OOM,待 resume 4000/6000/8000。
2026-08-31:从 TensorBoard 聚合事件补记 R5 step500/1000/1500/2000 held-out Spearman=`1.0/1.0/1.0/0.707280`;这些为完整 eval 数组指标,逐 batch 的 batch-1 `std`/Spearman 警告不作质量结论。
2026-08-31:R5 第二段从 `global_step_2000` resume 至 `4000/4000` 正常退出,生成约 6.8G checkpoint(full weights SHA256 `5f4aaba3790dbc7a0dfa15f38aca886b96f0b5081a536e4a2633064db4211f71`);step2500/3000/3500/4000 held-out Spearman=`0.871245/1.0/1.0/1.0`,待继续 6000/8000。
2026-08-31:R5 第三段从 `global_step_4000` resume 至 `6000/6000` 正常退出,生成约 6.8G checkpoint(full weights SHA256 `3d4d9ea8dcac70aa7781089e1338274a0c7e4827d20b31abb315282041c3574a`);step4500/5000/5500/6000 held-out Spearman=`0.929487/1.0/1.0/0.517811`,待继续 8000。
2026-08-31:R5 第四段从 `global_step_6000` resume 至 `8000/8000` 正常退出,生成约 6.8G checkpoint(full weights SHA256 `3ca9adf23a369d1ca29687f5e077a9f93356234bc348e5d564e69e34f23dff71`);step6500/7000/7500/8000 held-out Spearman=`1.0/1.0/0.792994/0.909386`,四候选训练完成,待独立 reload/选择。
2026-08-31:四个 Value checkpoint 独立 reload 均通过;按预冻结 held-out Spearman 规则选择 step4000(SHA256 `5f4aaba3790dbc7a0dfa15f38aca886b96f0b5081a536e4a2633064db4211f71`),写入 `documents/selected_value_manifest.json`,R5 Gate 完成,下一步 R6 Advantage。
2026-08-31:新增显式 R6 配置 `configs/recap/task0_advantage_recap_v1.yaml`,固定 selected step4000、returns/advantage tag、SFT+rollout 路径和 8-sample pilot 资源边界;尚未启动 GPU Advantage。
2026-08-31:R6 官方权重 Advantage pilot 完成(SFT/rollout 各8、总16,selected checkpoint missing/unexpected=0,数值全 finite,统一 threshold≈`-0.0129`、rollout positive=5/8);新增 `documents/details/17_RECAP_AdvantagePilot.md`,待 100-sample bounded pilot。
2026-08-31:R6 100+100 bounded pilot 完成(tag `recap_v1_step4000_pilot100`,sidecar/key/finite 校验通过,统一 threshold `-0.012778498318443243`、rollout positive `27/100`);batch=1 约 2.6 rows/s,完整估算约167小时,详见 `documents/details/17_RECAP_AdvantagePilot.md`。
2026-08-31:复查全量前 GPU 时 `nvidia-smi` 无法通信,未启动全量 Advantage;待驱动恢复后先做有界 batch-size/吞吐对照,必要时实现显式 shard/merge。
2026-08-31:新增 `scripts/compute_recap_advantage_sharded.py`,复用官方 Advantage 函数实现连续 shard、原子 parquet、断点跳过和全量统一 threshold merge;py_compile/ruff、full/100-row dry-run 与 slice 边界检查通过,尚未启动 GPU。
2026-08-31:同步 `phase_plan_0830_开发recap.md` 与 `documents/details/17_RECAP_AdvantagePilot.md`,明确 100-row 结果、驱动阻塞和 wrapper pilot→逐列对照→全量顺序。
2026-08-31:将 shard wrapper 的 lookahead 改为读取 `data.advantage_lookahead_step`,并复跑 py_compile、ruff、git diff --check。
2026-08-31:修正 `documents/details/17_RECAP_AdvantagePilot.md` 中已完成 100-row pilot 后仍指向“下一步 pilot”的旧表述,保持执行状态一致。
2026-08-31:完成 batch=8/16/32、workers=8 Advantage 有界对照;batch=8/16 未 OOM,workers=8 明显降低读取等待,batch=32 无额外提速,详见 R6 pilot 日志。
2026-08-31:wrapper 增加 `--batch-size/--workers/--prefetch-factor` 与 manifest runtime 记录,并同步 R6 执行顺序;py_compile/ruff/diff check 待本轮统一复跑。
2026-08-31:wrapper 100-row/50-shard GPU pilot 的四个 shard 均成功,首次 CPU merge 暴露配置名映射 KeyError;已修复为从 `dataset_path` 推导 split 名,py_compile/ruff/diff check 通过,可复用已有 shard merge。
2026-08-31:wrapper pilot merge-only 完成;与官方 batch=8/workers=8 sidecar 逐 key 对照,连续列最大绝对差约 `9e-8`、布尔标签完全一致,显式 shard/merge Gate 通过。
2026-08-31:新增 `configs/recap/task0_advantage_recap_v1_full.yaml`,冻结 selected Value step4000、batch=8/workers=8、full SFT+rollout 与正式 tag 默认值,未启动全量。
2026-08-31:完成 Advantage batch/workers 吞吐记录:batch=8/workers=8 train steady-state 约 15.6 rows/s(无 OOM),batch=16 约13.3、batch=32约7.4;修正完整任务估算为约28小时,并更新 R6 文档。
2026-08-31:正式 full Advantage 已在 fresh GPU7 检查后启动(tag `recap_v1_step4000_full`、25k-row shard、batch=8/workers=8);SFT shard 完成后进入 train shard,进程可中断后 resume。
2026-08-31:同步 phase plan 与 R6 事实文档,标记 full wrapper 当前已启动、SFT shard 完成后处理 train shard,最终 sidecar 仍待全部 shard 完成。
2026-08-31:full wrapper 的 SFT shard(8,005)与 train shard `[0,25000)` 已原子落盘并通过 row/key/finite 校验;train shard 连续 advantage 范围约 `[-0.01366,0.47859]`,当前进入下一 train shard。
2026-08-31:R6 事实文档补记 full 首个 train shard 与当前 `[25000,50000)` 进度;最终统一 threshold/sidecar 仍未生成。
2026-08-31:full wrapper train shard `[25000,50000)` 已完成并通过 row/key/finite 校验,当前进入 `[50000,75000)`;最终 sidecar/threshold 仍未生成。
2026-08-31:恢复后 full wrapper 已完成 train shard `[50000,75000)` 的计算/临时合并并进入 `[75000,100000)`;正式任务仍在 GPU7 可恢复运行,最终 sidecar/threshold 仍未生成。
2026-08-31:同步 R6 事实文档,修正正式 full run 已启动及当前 shard 进度,保留全部分片完成后再生成统一 sidecar/threshold 的约束。
2026-08-31:在不打断 GPU7 正式任务的前提下完成 GPU0/GPU1 的 workers=12/16 有界对照(各 4,000 行);workers=12 用时 550.15s、workers=16 用时 609.63s,sidecar 逐列完全一致,暂不切换正式参数。
2026-08-31:正式 full wrapper 已完成 train `[100000,125000)`,当前处理 `[125000,150000)`;SFT 与前五个 train shard 已通过 row/key/finite 校验,最终 sidecar/threshold 仍待全量完成。
2026-08-31:同步 phase plan 的 R6 状态、workers=12/16 实测结论和剩余时间估计;正式参数仍冻结为 batch=8/workers=8,R6 Gate 未完成。
2026-09-01:复核 R6 full run:进程在写完 train `[250000,275000)` 后消失,未发现 traceback/OOM/最终 merge 证据,确切外部原因暂无法判定。
2026-09-01:已在 fresh 检查通过的空闲 GPU3 以原固定配置 detached resume;自动跳过 12 个已验证 shard,当前继续计算 `[275000,300000)`。
2026-09-01:按负责人三卡授权暂停单卡 R6;wrapper 新增确定性多 worker shard 分配与 `--no-merge`,py_compile、ruff、dry-run 和 diff check 通过。
2026-09-01:GPU4/5/6 的 batch8/workers8 三卡测试在最长 303.17s 内完成 12,000 行,train 吞吐分别 11.41/11.89/12.05 rows/s,6 个 shard 全部通过 row/key/finite 校验。
2026-09-01:依据三卡测试结果正式恢复 R6;GPU4/5/6 的三个独立 worker 已分别领取 train `[300000,325000)`、`[325000,350000)`、`[275000,300000)`,均进入 Value inference,最终 merge 暂不执行。
2026-09-03:三卡分片全部完成并执行 CPU-only merge;R6 tag `recap_v1_step4000_full` 生成 SFT/train 正式 sidecar(共 1,569,879 行),manifest 已为 `complete`,统一 threshold=`-0.0127784983`。
2026-09-03:R6 Gate 校验通过:sidecar key/finite/positive 比例与哈希、return/data/video 完整性及两路 CFG dataloader 均正常;下一步进入 R7 C2/C3 显存与 checkpoint/resume 决策门。
2026-09-03:同步 `documents/phase_plan_0830_开发recap.md` 与 `documents/details/17_RECAP_AdvantagePilot.md` 的 R6 完成状态,防止后续按旧 shard 进度重复执行;未改变冻结参数。
2026-09-03:R7 单卡 CFG forward smoke 在 GPU6 通过(3,616,757,520 参数,loss=`0.0112966`,peak allocated≈`7.64GB`);C2 FSDP optimizer step 待第二张空闲 A800。
2026-09-03:新增 `documents/phase_plan_0903_CFG开发.md`,冻结 CFG 的 GC/配置语义修复、双卡 full-shard、checkpoint/resume、吞吐预算、dev/formal 与 PPU handoff 门控;尚未启动 CFG 训练。
2026-09-03:执行 CFG C0:三 split 数据/Return/Advantage/video validator 通过,sidecar hash 与 complete manifest 一致;当前 `nvidia-smi` 无法通信,标记 `BLOCKED_A800_DRIVER`,未启动 GPU workload。
2026-09-03:执行 CFG C1 CPU Gate:修复 `FSDPCfgWorker` 无条件关闭 GC 的问题,新增显存日志、正式 CFG 配置和冻结输入 validator;Hydra compose、py_compile、隔离 Ruff、sidecar/hash 与 fake-wrapper GC 测试通过,C2 等待 driver/双卡。
2026-09-03:完成 CFG 受保护启动器 `scripts/run_cfg_task0.sh` 的语法/help/diff 校验;当前 driver 下安全阻塞测试返回 rc=3 并记录 `BLOCKED_A800_DRIVER`,未启动 Ray/GPU workload。
2026-09-04:补强 CFG validator/launcher 的 C3 effective step 校验、路径/关键 override 防护,并重跑 canonical dataloader preflight(`CFG_DATALOADER_PASS`);C2/C3 CPU checks 通过,GPU 仍待 driver 恢复。
2026-09-04:新增 `scripts/validate_cfg_checkpoint.py`,完成 DCP/full-weights/key-shape/norm-stats 严格校验器;现有 Value checkpoint 的 fail-closed negative test、py_compile、隔离 Ruff 和 diff check 通过。
2026-09-04:完成 C2/C3 launcher dry-run 与 C3 effective step 校验,补充路径/关键字段/日志 PID 防护;真实 C2 因 `nvidia-smi` driver 通信失败安全退出 rc=3,未启动 Ray/GPU。
2026-09-04:主机级只读 `nvidia-smi` 复核确认 driver 正常但 8 张 A800 全部被其他进程占用;将当前 C2 阻塞归类修正为 `BLOCKED_GPU_AVAILABILITY`,未抢占任何卡。
2026-09-04:修正 launcher GPU idle 判断的 Bash 条件表达式,并以主机级 busy GPU 复测返回 `BLOCKED_GPU_AVAILABILITY`;`bash -n` 通过,未启动 workload。
2026-09-04:checkpoint validator 含 base 权重哈希的 negative fixture 通过预期校验(base SHA 与冻结值一致,Value checkpoint 仍 fail-closed);未触碰 GPU。
2026-09-04:修正 checkpoint validator 的 PaliGemma tied-weight alias/参数计数,固定独立参数为 812 个、`3,616,757,520`;base canonical coverage 通过,Value negative fixture 仍 fail-closed。
2026-09-04:整理 CFG launcher 日志根目录为 `logs/recap/cfg/<run_id>` 并记录 PID/PGID;C3 dry-run 的最终 command/preflight 通过,未启动 GPU。
2026-09-04:新增 C3 成功后原子附加 frozen norm stats 的 helper,并接入 launcher;全量静态检查和 dry-run 通过,未复制/修改已有 checkpoint。
2026-09-04:将 CFG GC policy 抽成可测试方法,fake worker 覆盖 true/false/错误状态三条路径并通过 `CFG_GC_POLICY_PASS`;worker py_compile、隔离 Ruff、diff check 通过。
2026-09-04:用官方 `train_cfg.py` 做绝对路径 Hydra job-only compose,验证 C2 base 与 C3 `20/20` overrides 的最终字段;未启动 Ray/GPU。
2026-09-04:更正 CFG 事实文档措辞:容器内 C2 预检的 rc=3 是设备隔离现象,主机级复核已归类为 busy GPU;不影响未启动 workload 的事实。
2026-09-04:GPU5/6 的首次 C2 在 Ray socket 路径过长处失败(无模型/optimizer);launcher 改用项目内 12 位哈希短路径,dry-run/bash syntax/diff check 通过,准备重试。
2026-09-04:更正上一条 progress 的字符排版,不改变 CFG 运行事实。
2026-09-04:修正 `scripts/run_cfg_task0.sh` 将所选物理 GPU 写入 RLinf `cluster.component_placement.actor`;防止 Ray worker 把 GPU5/6 错映射到忙碌的 0/1,静态检查待复跑。
2026-09-04:补充 Hydra comma 转义,支持非连续物理 GPU 对的 placement;已用 `actor=5,6` job-only compose 验证解析正确。
2026-09-04:C2 在物理 GPU5/6 通过:双卡 full-shard、GC runtime=true,1 step loss=`0.115`、grad_norm=`3.8`,峰值 allocated≈`22.45GB`/reserved≈`36.91GB`;无 checkpoint,准备 C3。
2026-09-04:新增受保护 `c3_resume` 模式(step20→21、save off、必须指定 checkpoint)及 validator 分支,为执行 C3 resume gate 做准备。
2026-09-04:首次 resume 被 Hydra struct mode 拒绝(未预声明 `runner.resume_dir`,未进入模型);launcher 改用 `+runner.resume_dir`,checkpoint 未改动。
2026-09-05:C3 resume 重试在模型初始化时因外部 PID 21666/21670 于空闲检查后抢占 GPU5/6(各约39.6GB)而 OOM;checkpoint 未改动,标记共享卡竞态并等待新窗口。
2026-09-05:当前无安全双卡窗口;启动项目内 tmux 只读等待器,每60秒复查并仅在 launcher 二次空闲门通过后自动重试 C3 resume。
2026-09-05:新增 `scripts/wait_for_cfg_resume_gpu.sh`,对共享 GPU 空闲窗口做有界、无侵入轮询;仅选两张安全卡并委托受保护 launcher,最多重试3次。
2026-09-05:将 C2/C3 设备映射、峰值、checkpoint 严格校验及 resume 竞态证据补入 `documents/details/18_RECAP_CFG_Training.md`;等待器仍运行,未改变训练输入。
2026-09-05:更正详情文档 Ray 临时目录事实为最终 6 位哈希/36 字节前缀,未改变运行结果。
2026-09-05:新增 C3.4 独立 smoke 配置,固定 step20 CFG checkpoint、非 dev/formal key、EGL 和 video=false;配置待执行单 episode。
2026-09-05:修复 `run_task0_pi05_baseline.py` 对 cfg_model NumPy action 输出的兼容性(保留 Tensor 路径);py_compile 后按原 C3.4 key 重试。
2026-09-05:C3.4 EGL 单 episode 重试通过(GPU0、520 env steps、51.013s、无错误、video=false);C3 Gate 完成,下一步 C4 双卡吞吐/GBS512 预算门。
2026-09-05:扩展 `validate_cfg_preflight.py`/`run_cfg_task0.sh` 的有界 C4 benchmark 模式(micro 1/2/4、matrix/GBS512 accumulation、workers≤16、无 checkpoint);dry-run/静态检查通过,待两张空闲 GPU 实测。
2026-09-05:新增 `wait_for_cfg_c4_gpu.sh`,仅轮询并在两张安全空闲卡出现后启动 C4 micro=1 matrix(12 steps、workers=8、无 checkpoint);非资源错误不自动重试。
2026-09-06:补记 C4 micro=1 双卡实测成功(约2.13 samples/s、粗略30k×512 ETA约83.6天),C4 micro2/GBS512 尚未完成且当前无活动任务。
2026-09-06:新增 `documents/PPU迁移交接_20260906.md`,给出 PPU 接手状态、兼容性门、约93.88GB推荐 rsync 清单、两跳命令与完整性校验。
2026-09-06:复核交接文档与 rsync dry-run(20,537 files、93.88GB),补充当前工作树尚未进入 HEAD 的提示;Markdown diff check 通过。
2026-10-04:为 HF 云端归档保存项目内私有凭据并将 `.secrets/` 加入 Git ignore;开始盘点和认证,尚未上传或删除本地大文件。
2026-10-04:创建两个公开 HF 归档仓库并加入 RL_post_train Collection;新增 `archive_project_to_hf.py`,支持白名单归档、续传及逐文件云端哈希核验,未删除本地内容。
2026-10-04:修正 HF license_link 必须为 HTTPS 的元数据要求;补充缓存归档逐成员 SHA256 和源文件变化判定,只允许未来清理哈希匹配的已备份文件。
2026-10-04:`project_env.sh` 自动指向项目内私有 `HF_TOKEN_PATH`,后续 source 即可复用凭据;不会在命令行或公开归档中写出 token。
2026-10-04:兼容 HF Hub 0.31.2 的 `RepoFile` 导入路径;已启动 tmux 公开归档续传,校验将在上传后由修正脚本执行,尚未清理原文件。
2026-10-04:归档 staging 刷新支持按仓库隔离,避免上传模型期间修改其待上传文件;清理预算经 inode 去重约 208.4 GiB(含此次新增暂存),保留环境与全部结论文档。
2026-10-04:新增 `documents/本地清理与HF归档计划_20261004.md`,列明公开备份、逐文件验收、约208.4GiB预算及恢复/保留边界;本轮仅上传和规划,未删除本地文件。
2026-10-04:归档脚本增加完成后的回执持久化、精确清理候选清单和公开回执哈希核验;全部完成后自动更新计划状态,但绝不自动删除原文件。
2026-10-04:无网络集成测试通过(真实 SDK 的 Git/LFS 字段、候选过滤、失败门和不删除原文件);成功记录移到公开回执核验之后,避免过早宣告完成。
|