Hugging Face's logo

Datasets:
SlowGuess
/
abforge-isambard-transfer

Tags:
abforge
transfer
isambard
License:
Dataset card Files
xet
 Community
abforge-isambard-transfer / code /Abforge_Training /docs /scratch_backup_manifest.md
SlowGuess's picture
SlowGuess
Upload Abforge training code snapshot
1ce6f9b verified
preview code
|
Raw
History Blame Contribute Delete
8.9 kB

ABForge scratch backup manifest

scratch ($WORK_ROOT) 会在 ~2 个月后清理。本文件记录要备份什么、备到哪、为什么， 以及与已有 GitHub / HF 资源的映射，便于核对。配套脚本：

  • scripts/backup_scratch_archive.py —— 轻量档案 → 私有 dataset 仓库
  • scripts/merge_and_upload_ablations.sh —— ablation/对照 checkpoint 转 HF 格式 → 私有 model 仓库
CODE_ROOT = /gpfs/radev/project/cohan/yz979/xucai/Abforge_Training   (project 持久盘 + GitHub, 不清理)
WORK_ROOT = /gpfs/radev/scratch/cohan/yz979/xucai/Abforge_Training   (scratch, 2 个月后清理 ← 备份对象)

0. 已安全、无需备份

资源 在哪
全部代码 (verl_proj / reward_part / slurm / scripts) project 持久盘 + GitHub SlowGuess/Abforge_1
最终模型 Task1/2 的 base/SFT/RL HF collection SlowGuess/abforge
已发布数据集 (rl/sft/eval 全量) HF SlowGuess/abforge-data（= 本地 hf_release/ 镜像，字节级一致）
基座 Qwen3-8B (models/ 84G) HF 可下载
hf_upload/(31G)、hf_release/(11G)、infer/*_merged_hf(92G) 已在 HF / 可从 ckpt 重生成
conda 环境 / 各类 cache / sif(12G) / tmp / __pycache__ 可重建

已验证的 HF↔本地映射（abforge-data 已覆盖 data/ 主体）：

  • rl_task1_30000.jsonl = data/rl_30000.jsonl（991088959 B 完全一致）
  • rl_task2_rubric_v2_30000.jsonl = data/rl_30000_rubric_v2.jsonl（一致）
  • sft_raw_pool_52813.jsonl = data/stage4/sft_data4_deepseek_combined.jsonl（一致）
  • ablationbench_1000.jsonl = data/stage3/bench_1000.jsonl；ablationbench_200_..._rubric_v2 = data/bench_200_rubric_v2.jsonl

已发布模型 ← checkpoint 来源（出自 scripts/upload_abforge_models.py）：

  • Task1-RL ← infer/task1_v18_3_ckpt100_bench44_merged_hf
  • Task1 ← infer/task1_v18_4_from_sft_ckpt100_bench44_merged_hf
  • Task2-RL ← infer/task2_v3_ckpt150_merged_hf ← v3 ckpt150 已在 HF

1. 私有 dataset 仓库：SlowGuess/abforge-scratch-archive (private)

轻量但会永久丢失的产物，核心档案约 ~5.5 GB。布局：

repo 路径 来源 (scratch) 大小 说明
results/ infer/*.jsonl 144 MB (256 文件) 所有评测/推理结果 = 论文数字来源
analysis/ analysis/task2_v3_rollouts/（去 __pycache__） 3.2 MB Task2 reward-hacking 研究 (step_050~200 rollouts + 脚本)
scripts/ server-only 脚本（见下） <1 MB 不在 git，丢了即没
meta/ hydra_outputs/ + wandb/(汇总) + 本 manifest ~5 MB run 超参/元数据
logs/logs.tar.gz logs/ 打包 5.3 G→压缩后数百 MB 训练曲线/排错日志 (662 文件)
data_local/ 见 §3，仅 abforge-data 没有的本地变体 可选, ~0.9 GB 默认含 filt26 RL 集 + bench 变体

server-only 脚本清单（scripts/ 子目录里）：

  • $WORK_ROOT/run_inference_local.py
  • $WORK_ROOT/run_inference_local_tm_only.py
  • $WORK_ROOT/run_inference_bailian.py
  • $WORK_ROOT/run_inference_claude_cli.py
  • $WORK_ROOT/run_eval_v18_bench44.sh
  • $WORK_ROOT/run_eval_v18_retry.sh
  • $WORK_ROOT/env_misha.sh
  • $WORK_ROOT/scripts/case_diff_v17_v18.py
  • $WORK_ROOT/scripts/compare_v17_v18_bench44.py

2. 私有 model 仓库：ablation + reward-hacking 对照（每个 ~16G HF 格式）

原始 FSDP 分片（global_step_*/actor 各 ~46G）不备；只把下列不在 HF、论文要引用的步转成 HF 格式上传。 转换用 verl_proj/scripts/model_merger.py --backend fsdp。

私有 model repo (建议名) 源 checkpoint (取 latest/canonical step) 类别
ABForge-Qwen3-8B-Task1-RL-tm-only abforge_task1/qwen3_8b_grpo_task1_tm_only_v1/global_step_100 tm_only 主
ABForge-Qwen3-8B-Task1-RL-tm-only-no-penalty abforge_task1/qwen3_8b_grpo_task1_tm_only_ablation_no_penalty/global_step_100 ablation
ABForge-Qwen3-8B-Task1-RL-tm-only-from-base abforge_task1/qwen3_8b_grpo_task1_tm_only_from_base_v1/global_step_100 ablation
ABForge-Qwen3-8B-Task1-SFT-no-think abforge_task1_sft/qwen3_8b_sft_t1_rqfix_filt26_ablation_no_think/global_step_317 ablation
ABForge-Qwen3-8B-Task2-RL-no-penalty abforge_task2/qwen3_8b_grpo_vllm_azurejudge_rubricv2_from_sft_cleaned285_ablation_no_penalty/global_step_140 ablation
ABForge-Qwen3-8B-Task2-SFT-no-think abforge_task2_sft/qwen3_8b_sft_t2_ablation_no_think/global_step_285 ablation
ABForge-Qwen3-8B-Task2-RL-v3-ckpt200-hacked abforge_task2/qwen3_8b_grpo_vllm_azurejudge_rubricv2_v3_test100/global_step_200 reward-hacking 对照（ckpt150 已在 HF 为 Task2-RL）

base 模型路径（merger 的 --hf_model_path，用于补 config/tokenizer）：Qwen3-8B 基座， 位于 $WORK_ROOT/models/（或直接用 HF Qwen/Qwen3-8B）。

3. data_local 选择（默认 = 本地独有 + 不易重生成）

包含（abforge-data 没有、且不是平凡可再生）：

  • rl_task1_25479_filt2_6.jsonl (820M) —— v18 用的 filt2_6 RL 集
  • bench_1000_rubric_v2_final_tagfixed.jsonl (37M)、bench_200_rubric_v2_final_tagfixed.jsonl (7.4M)
  • bench_44/50/150/3_rubric_v2.jsonl、bench_data_4_subset50_simple.jsonl

排除（已在 HF 或可由 git dataprocess/ 脚本重生成）：

  • rl_30000*.jsonl（=HF）、stage3/、stage4/（=HF sft_raw_pool / 可派生）
  • sft_remaining_* 分片、sft_data4_*（中间产物）
  • abforge_task{1,2}_{rl,sft}* 的 .parquet 目录（verl 预处理产物，可再生）

3b. 重跑复现性（re-run readiness）

清理后要能重跑 SFT / RL / eval，逐项核对：

重跑需要的东西 状态
代码 (verl_proj / reward_part / slurm / 数据预处理 verl_proj/examples/data_preprocess) ✅ git + project 持久盘
原始训练/评测数据 ✅ HF abforge-data + 本仓库 data_local/；verl 用的 .parquet 由预处理脚本再生
基座模型 Qwen3-8B ✅ HF 可下载（Qwen/Qwen3-8B）
reward server 的 API key ✅ secrets 已转存持久盘（见 §4）
server-only 推理/评测脚本 ✅ 本仓库 scripts/
conda 训练环境 ⚠️ 见下——scratch 上的已驱逐损坏、从未备份；已捕获冻结清单
vLLM 容器 sif/vllm-v0.20.2-cu129.sif ✅ 不用备：仅"本地 DS judge"变体用，launcher 会 apptainer pull docker://vllm/vllm-openai:v0.20.2-cu129 自动重拉；overlay .img 临时文件

conda 环境（最大复现风险）：launcher 激活的 $WORK_ROOT/conda/abforge_vllm（py3.10 / torch 2.6.0+cu124 / vllm 0.8.5.post1 / verl 0.2.0.dev0 / transformers 4.52.1 / flash_attn 2.8.3）位于 scratch，大文件已被驱逐成损坏空壳（如 libcusparse.so "invalid ELF header"），且从未备份。已据 *.dist-info 重建 209 包冻结清单 → docs/env_abforge_vllm_frozen.txt（也在 HF 档案库 meta/）。

✅ 已在持久盘重建并端到端验证（2026-06-13）：/gpfs/radev/pi/cohan/yz979/environment/miniconda3/envs/abforge_repro

  • GPU 冒烟通过：torch CUDA、flash_attn GPU 算子、vLLM 加载 Qwen3-8B 并生成均 OK；版本与冻结清单一致。
  • 重建脚本：scripts/build_repro_env.sh（被 slurm/build_repro_env.slurm 调用）+ scripts/smoke_repro_env.py（CPU/--gpu 冒烟，slurm/smoke_repro_gpu.slurm）。
  • 重建踩过的坑（脚本里已处理）：① flash-attn release wheel 需 glibc≥2.32 而 Misha 是 RHEL8(glibc2.28)，必须源码编译；② setup.py 默认偷下 wheel，要 FLASH_ATTENTION_FORCE_BUILD=TRUE；③ 系统 gcc8.5 太老（torch2.6 要 gcc≥9），往 env 装 conda gxx/gcc 12、CC/CXX 指向它；④ conda 编译器钩子非 nounset-safe，脚本不能 set -u；⑤ vLLM 用 spawn，测试脚本要 if __name__=="__main__" 守卫。

⚠️ 重跑前必改：训练 launcher 里 conda activate $WORK_ROOT/conda/abforge_vllm 在 scratch 清理后会失效，改成 conda activate .../envs/abforge_repro（或把该 scratch 路径做成指向 abforge_repro 的软链）。基座模型同理——models/Qwen3-8B 在驱逐，改用 HF Qwen/Qwen3-8B。

持久盘其它 fallback：…/envs/verl（verl0.8/vllm0.11/torch2.8，非 drop-in）。

4. ⚠️ secrets/ —— 绝不上 HF

$WORK_ROOT/secrets/（10 个文件：azure / judge_api / hf_slowguess / wandb / openrouter env，含活跃 API key） 即使私有仓库也不放。处理方式：复制到 project 持久盘的受限目录，或存入密码管理器。 （注意 hf_slowguess.env 里的写 token 是上传脚本要用的，本身不要进任何远端仓库。）