Datasets:

cfy2yue
/

1102tmp

+# 紧急迁移：核心产物、重下载和接手顺序
+本文件按用户最新决定：**仅迁移核心代码、权重、文档、冻结清单与溯源；可重新下载的结构和可重建缓存不要求完整上传。** 初次全量上传已停止。HF 仓库 `cfy2yue/1102tmp`，目录 `mpnn_backup_20261104/`。
+## 先恢复什么
+以远端 `CORE_BACKUP_COMPLETE.json` 为核心备份完成凭证；`BACKUP_STATUS.json` 是进度。必须下载：
+1. `00_core_session.zip`：代码、已有文档、论文与阅读材料、正式 Lite/Large 的 best/last checkpoint、原始接手说明和脱敏 session。
+2. `10_core_metadata_docs.zip`：本次更新文档、完整冻结数据元信息、审计/采集溯源、实验输出元信息、公开仓库代码快照和最新 session。**同名文件以后者覆盖前者。**
+3. `CORE_SHA256SUMS`、`RESTORE.md`、`CORE_BACKUP_COMPLETE.json`。
+这些是独立 ZIP64，依次解压到同一目录，不能拼接 ZIP。`001_files.zip` 等早期已上传分卷是可选补充，包含部分旧实验或缓存；不把它们解释为完整数据集，也不必为了恢复核心工作下载它们。
+建议恢复到 `/home/chenfy/AIVC/mpnn`，模型项目在其 `ensemble_alignment/`。冻结 manifest/index/config 内有绝对路径。换路径时在新副本做显式重定位并生成新清单，不能静默改旧证据 SHA 或把旧资格批准套给新数据。
+## 会话与当前工作
+`continuation/` 中保存当前会话 `01a19fbf-e095-79d2-b913-456c002166c3` 的 JSONL 和 HANDOFF；HF token 已脱敏，未复制 `auth.json` 或全用户数据库。可将 JSONL 放入新机器 `~/.codex/sessions/2026/11/03/`，尝试 `codex resume 01a19fbf-e095-79d2-b913-456c002166c3`。若当地 Codex 索引未识别，开启新会话直接读取该 JSONL、HANDOFF 和本文件即可接续，不能保证不同 Codex 版本自动导入索引。
+原生 Goal 当前 **paused**。旧 `artifacts/work_status.json`、部分旧 handoff 的 active/queue 状态已过期，不能作为恢复 Goal/训练的授权。此次直接任务是数据与模型审查，关机时切换为紧急备份；没有新增 GPU 实验。旧独立 tmux fair 队列可能留下 partial，不能按目录存在就算完成，也不能在新机无预算重跑。
+先读 `TRAINING_REVISION_V5_AUDIT.md`，再读 `NATIVE_TRAINING_OUTCOME_V4.md`、`MODEL_CARDS_V4.md`、`CLAUDE_INDEPENDENT_REVIEW.md`、`REVIEW_RESOLUTION_V4.md`。新审查机器证据在 `artifacts/training_revision_v5/audit/report.json`，复现脚本为 `scripts/audit_training_revision_v5.py`。V5 方法/辅助监督尚未实现，不要把建议当已验证结果。
+正式 checkpoint：`artifacts/goal_v4/g3/native_seed17/runs/{lite,large}/{best,last}.pt`。Lite 60/best60，Large40/best30，原训练两档合计7.942832 GPUh。原 Goal 总预算30 GPUh，既有G4/G5队列cap合计7.76/8，余0.24不是新搜索额度。迁机后重新核对 ledger 与终态，不续跑已完成训练。
+## 环境恢复
+保留了 `requirements-gpu-v4.lock.txt`、`requirements-baselines-v4.lock.txt` 和 `docs/PORTABLE_ENVIRONMENT_V4.md`。虚拟环境未作为核心传输，按 Python3.11 重建，避免移植机器绝对路径依赖。
+```bash
+cd /home/chenfy/AIVC/mpnn/ensemble_alignment
+python3.11 -m venv ../.venv-alignment-portable-v4
+../.venv-alignment-portable-v4/bin/python -m pip install --extra-index-url https://download.pytorch.org/whl/cu118 -r requirements-gpu-v4.lock.txt
+../.venv-alignment-portable-v4/bin/python -m pip install --no-deps --no-build-isolation -e .
+../.venv-alignment-portable-v4/bin/python -m pip check
+```
+公开基线使用独立环境，不把其依赖混入训练环境。`requirements-baselines-v4.lock.txt` 有本机 editable 项时，先按新机器项目根解析这些本地项；照抄旧虚拟环境不保证可用。
+联网命令需要原机器的 `source /home/chenfy/.config/proxy-switch.sh` 然后 `vpn_on`。该代理脚本/代理凭据没有上传；新机器使用当地提供的 VPN 配置。HF token 也没有写入恢复脚本或压缩包。
+## 需要恢复的数据与精确溯源
+核心包保留 metadata，不保留完整坐标缓存。恢复任何来源时先比对旧采集 SHA；远端资源可能更新或下线。缺失/变化必须报告，不能当作相同源继续使用旧训练 gate。
+| 资源 | 已保存的定位/证据 | 恢复方式与边界 |
+|---|---|---|
+| MDposit reference | `data_audit/processed/mdposit/*/{audit,source_project,clustering}.json`；`reading/external/ensemble_model_data/mdposit_cluster_catalog_full.json` 与 `mdposit_nodes.json` | 全部已有代表来自单独选帧 API 请求；audit 记 source_api、topology_url、每一 coordinate_requests 的 URL、源帧号、bytes、SHA256。不要下载整段 trajectory |
+| MDposit replica | `data_audit/processed/mdposit_replicas/*/audit.json`、parent metadata、`all_progress.json` | 22,188 个 replica/449,493 代表帧；270–320 K。replica带 `.2/.3…` 端点，必须验证 mdIndex/mdNumber，不能退回reference |
+| DynamicMPNN processed | `reading/external/dynamicmpnn_zenodo.json`；`data_audit/processed/download_manifest.json` | Zenodo **19687631**，两个 train 处理后结构包；不是MD轨迹。公开包仅3个backbone原子，不能造O作为实测 |
+| DynamicMPNN 原始全序列结构 | `data_audit/processed/dynamicmpnn/original_structures/` 内审计；`artifacts/goal_v4/g0b/dynamic_*` registry | 依据既有registry恢复原始PDB/mmCIF并保持残基映射；不可用processed截断坐标替代完整实体 |
+| 静态 PDB | `data_audit/static_pdb/*.audit.json`，保存pdb_id/source/bytes/SHA/roles | `https://files.rcsb.org/download/{PDBID}.cif.gz`；按保存的ID列表下载，别重新抽train tranche |
+| ProteinMPNN清单/sample | `data_audit/raw/proteinmpnn/pdb_2021aug02_sample/{list.csv,valid_clusters.txt,test_clusters.txt}` | 原来只下sample；目录中的list.csv是完整清单，绝不表示完整坐标已经使用 |
+| ProteinMPNN完整训练库 | `repos/ProteinMPNN/training/README.md` | `https://files.ipd.uw.edu/pub/training_sets/pdb_2021aug02.tar.gz`，约16.5GB PDB biological assemblies，**尚未导入本模型训练** |
+| EPAC1 | `reading/external/processed_md/zenodo_14901404.json`、download_manifest | Zenodo **14901404**，已处理ensemble ZIP，可按需恢复；单一家族不是广覆盖训练库 |
+| alpha7、BioEmu及其他资源 | `reading/external/`、`data_audit/processed/resource_inventory.json`、`scripts/download_bioemu_benchmark_assets.py` 等 | 按既存机器清单URL/校验恢复；保留原holdout角色。processed/README的旧数量是历史快照，最终replica数量以上述final证据为准 |
+MD恢复的实际脚本（mpnn根目录运行，先 `--help` 查看冻结版本参数）：
+```bash
+python scripts/download_mdposit_representatives.py --workers 4 --report-prefix migration
+python scripts/download_mdposit_replicas.py --collections dynarepo mdcath --workers 4 --temperature-max 320 --report-prefix migration
+python scripts/audit_mdposit_representatives.py
+```
+上述通用采集器可能重新读取服务端当前聚类；**精确恢复优先重放旧 audit 的 topology_url 和 coordinate_requests URL，逐请求匹配SHA/字节/帧列表**，并保存新恢复日志，不覆盖旧audit。API路径虽然叫 `/trajectory`，URL必须含明确、有限的 `frames=` 参数与 `format=bin`；没有选帧或服务端不遵守字节上限则失败，不能fallback下载原始轨迹。帧号旧audit同时记0-based映射和实际URL的1-based参数，不再猜测+1。
+gzip容器时间戳等可能使重新生成 `representatives.pdb.gz` 的文件SHA不同；坐标请求的SHA和逐原子数值相同不等于容器SHA相同。保留旧audit作为历史证据；数值验证后生成独立恢复release及新资格，不能篡改旧SHA让gate通过。相同规则适用于重新生成npz与路径迁移。
+DynamicMPNN训练包：
+```bash
+cd /home/chenfy/AIVC/mpnn
+python scripts/download_processed_dynamicmpnn.py
+```
+该脚本按已存Zenodo记录下载、验证官方MD5与本地SHA；输出路径与状态见源码。不要急着调用覆盖性 `finalize_training_release.py` 重新抽样/切分；原 train/val/test/external角色已经冻结。公开仓库的origin与commit在 `reading/repository_manifest.json`；核心元信息包还保存了仓库代码与训练清单，未打包的公开checkpoint按各repo README/既有下载审计恢复。
+## 冻结数据与特征重建
+核心包保留 `ensemble_alignment/data/` 的 JSON/JSONL/CSV/FASTA/资格文件，及所有审计。主训练release是 `data/native_v4_dynamic_anchored/`；新增replica只是 `data/staging_v4_replicas/`，`training_approved=false`，不能自动塞入train。保留 `frozen_v2` 与所有旧test/external角色，不能为凑训练量删除保留组。
+完成结构恢复与路径核对后，可在**新目录**重建特征：
+```bash
+cd /home/chenfy/AIVC/mpnn/ensemble_alignment
+../.venv-alignment-portable-v4/bin/python scripts/prepare_incremental_cache.py --manifest data/native_v4_dynamic_anchored/manifest.jsonl --out data/cache_migration_rebuilt --workers 4
+```
+这只做cache完整性，不会自动获得科学训练资格；还须比较序列/状态/边/坐标/角色，检查失败项、source SHA、feature schema与新路径绑定。不要直接用旧 `curation_review` 训练新缓存。137GB旧特征缓存可重建，不是此次核心迁移必备文件。
+## 最后验收
+- 两个必需ZIP的远端LFS SHA256和大小等于 `CORE_SHA256SUMS`/完成报告。
+- 能找到正式best/last、锁定配置、脚本、完整session、核心冻结manifest/index、源audit与来源目录。
+- 此次上传成功只说明核心迁移完成，不代表原Goal完成、不代表全部训练坐标已经转移、不代表state-bias任务已验证。