# ABForge scratch backup manifest

scratch (`$WORK_ROOT`) 会在 ~2 个月后清理。本文件记录**要备份什么、备到哪、为什么**，
以及与已有 GitHub / HF 资源的映射，便于核对。配套脚本：

- `scripts/backup_scratch_archive.py`  —— 轻量档案 → 私有 **dataset** 仓库
- `scripts/merge_and_upload_ablations.sh` —— ablation/对照 checkpoint 转 HF 格式 → 私有 **model** 仓库

```
CODE_ROOT = /gpfs/radev/project/cohan/yz979/xucai/Abforge_Training   (project 持久盘 + GitHub, 不清理)
WORK_ROOT = /gpfs/radev/scratch/cohan/yz979/xucai/Abforge_Training   (scratch, 2 个月后清理 ← 备份对象)
```

---

## 0. 已安全、无需备份

| 资源 | 在哪 |
|---|---|
| 全部代码 (verl_proj / reward_part / slurm / scripts) | project 持久盘 + GitHub `SlowGuess/Abforge_1` |
| 最终模型 Task1/2 的 base/SFT/RL | HF collection `SlowGuess/abforge` |
| 已发布数据集 (rl/sft/eval 全量) | HF `SlowGuess/abforge-data`（= 本地 `hf_release/` 镜像，字节级一致） |
| 基座 Qwen3-8B (`models/` 84G) | HF 可下载 |
| `hf_upload/`(31G)、`hf_release/`(11G)、`infer/*_merged_hf`(92G) | 已在 HF / 可从 ckpt 重生成 |
| conda 环境 / 各类 cache / `sif`(12G) / `tmp` / `__pycache__` | 可重建 |

**已验证的 HF↔本地映射**（abforge-data 已覆盖 data/ 主体）：
- `rl_task1_30000.jsonl` = `data/rl_30000.jsonl`（991088959 B 完全一致）
- `rl_task2_rubric_v2_30000.jsonl` = `data/rl_30000_rubric_v2.jsonl`（一致）
- `sft_raw_pool_52813.jsonl` = `data/stage4/sft_data4_deepseek_combined.jsonl`（一致）
- `ablationbench_1000.jsonl` = `data/stage3/bench_1000.jsonl`；`ablationbench_200_..._rubric_v2` = `data/bench_200_rubric_v2.jsonl`

**已发布模型 ← checkpoint 来源**（出自 `scripts/upload_abforge_models.py`）：
- `Task1-RL` ← `infer/task1_v18_3_ckpt100_bench44_merged_hf`
- `Task1`     ← `infer/task1_v18_4_from_sft_ckpt100_bench44_merged_hf`
- `Task2-RL` ← `infer/task2_v3_ckpt150_merged_hf`  ← **v3 ckpt150 已在 HF**

---

## 1. 私有 dataset 仓库：`SlowGuess/abforge-scratch-archive` (private)

轻量但会永久丢失的产物，核心档案约 **~5.5 GB**。布局：

| repo 路径 | 来源 (scratch) | 大小 | 说明 |
|---|---|---|---|
| `results/` | `infer/*.jsonl` | 144 MB (256 文件) | 所有评测/推理结果 = 论文数字来源 |
| `analysis/` | `analysis/task2_v3_rollouts/`（去 `__pycache__`） | 3.2 MB | Task2 reward-hacking 研究 (step_050~200 rollouts + 脚本) |
| `scripts/` | server-only 脚本（见下） | <1 MB | **不在 git**，丢了即没 |
| `meta/` | `hydra_outputs/` + `wandb/`(汇总) + 本 manifest | ~5 MB | run 超参/元数据 |
| `logs/logs.tar.gz` | `logs/` 打包 | 5.3 G→压缩后数百 MB | 训练曲线/排错日志 (662 文件) |
| `data_local/` | 见 §3，仅 abforge-data 没有的本地变体 | 可选, ~0.9 GB | 默认含 filt26 RL 集 + bench 变体 |

**server-only 脚本清单**（`scripts/` 子目录里）：
- `$WORK_ROOT/run_inference_local.py`
- `$WORK_ROOT/run_inference_local_tm_only.py`
- `$WORK_ROOT/run_inference_bailian.py`
- `$WORK_ROOT/run_inference_claude_cli.py`
- `$WORK_ROOT/run_eval_v18_bench44.sh`
- `$WORK_ROOT/run_eval_v18_retry.sh`
- `$WORK_ROOT/env_misha.sh`
- `$WORK_ROOT/scripts/case_diff_v17_v18.py`
- `$WORK_ROOT/scripts/compare_v17_v18_bench44.py`

---

## 2. 私有 model 仓库：ablation + reward-hacking 对照（每个 ~16G HF 格式）

原始 FSDP 分片（`global_step_*/actor` 各 ~46G）**不备**；只把下列**不在 HF、论文要引用的**步转成 HF 格式上传。
转换用 `verl_proj/scripts/model_merger.py --backend fsdp`。

| 私有 model repo (建议名) | 源 checkpoint (取 latest/canonical step) | 类别 |
|---|---|---|
| `ABForge-Qwen3-8B-Task1-RL-tm-only`               | `abforge_task1/qwen3_8b_grpo_task1_tm_only_v1/global_step_100` | tm_only 主 |
| `ABForge-Qwen3-8B-Task1-RL-tm-only-no-penalty`    | `abforge_task1/qwen3_8b_grpo_task1_tm_only_ablation_no_penalty/global_step_100` | ablation |
| `ABForge-Qwen3-8B-Task1-RL-tm-only-from-base`     | `abforge_task1/qwen3_8b_grpo_task1_tm_only_from_base_v1/global_step_100` | ablation |
| `ABForge-Qwen3-8B-Task1-SFT-no-think`             | `abforge_task1_sft/qwen3_8b_sft_t1_rqfix_filt26_ablation_no_think/global_step_317` | ablation |
| `ABForge-Qwen3-8B-Task2-RL-no-penalty`            | `abforge_task2/qwen3_8b_grpo_vllm_azurejudge_rubricv2_from_sft_cleaned285_ablation_no_penalty/global_step_140` | ablation |
| `ABForge-Qwen3-8B-Task2-SFT-no-think`             | `abforge_task2_sft/qwen3_8b_sft_t2_ablation_no_think/global_step_285` | ablation |
| `ABForge-Qwen3-8B-Task2-RL-v3-ckpt200-hacked`     | `abforge_task2/qwen3_8b_grpo_vllm_azurejudge_rubricv2_v3_test100/global_step_200` | reward-hacking 对照（ckpt150 已在 HF 为 Task2-RL） |

base 模型路径（merger 的 `--hf_model_path`，用于补 config/tokenizer）：Qwen3-8B 基座，
位于 `$WORK_ROOT/models/`（或直接用 HF `Qwen/Qwen3-8B`）。

---

## 3. data_local 选择（默认 = 本地独有 + 不易重生成）

**包含**（abforge-data 没有、且不是平凡可再生）：
- `rl_task1_25479_filt2_6.jsonl` (820M) —— v18 用的 filt2_6 RL 集
- `bench_1000_rubric_v2_final_tagfixed.jsonl` (37M)、`bench_200_rubric_v2_final_tagfixed.jsonl` (7.4M)
- `bench_44/50/150/3_rubric_v2.jsonl`、`bench_data_4_subset50_simple.jsonl`

**排除**（已在 HF 或可由 git `dataprocess/` 脚本重生成）：
- `rl_30000*.jsonl`（=HF）、`stage3/`、`stage4/`（=HF sft_raw_pool / 可派生）
- `sft_remaining_*` 分片、`sft_data4_*`（中间产物）
- `abforge_task{1,2}_{rl,sft}*` 的 `.parquet` 目录（verl 预处理产物，可再生）

---

## 3b. 重跑复现性（re-run readiness）

清理后要能重跑 SFT / RL / eval，逐项核对：

| 重跑需要的东西 | 状态 |
|---|---|
| 代码 (verl_proj / reward_part / slurm / 数据预处理 verl_proj/examples/data_preprocess) | ✅ git + project 持久盘 |
| 原始训练/评测数据 | ✅ HF `abforge-data` + 本仓库 `data_local/`；verl 用的 `.parquet` 由预处理脚本再生 |
| 基座模型 Qwen3-8B | ✅ HF 可下载（`Qwen/Qwen3-8B`） |
| reward server 的 API key | ✅ secrets 已转存持久盘（见 §4） |
| server-only 推理/评测脚本 | ✅ 本仓库 `scripts/` |
| **conda 训练环境** | ⚠️ **见下**——scratch 上的已驱逐损坏、从未备份；已捕获冻结清单 |
| vLLM 容器 `sif/vllm-v0.20.2-cu129.sif` | ✅ 不用备：仅"本地 DS judge"变体用，launcher 会 `apptainer pull docker://vllm/vllm-openai:v0.20.2-cu129` 自动重拉；overlay .img 临时文件 |

**conda 环境（最大复现风险）**：launcher 激活的 `$WORK_ROOT/conda/abforge_vllm`（py3.10 / torch 2.6.0+cu124 / vllm 0.8.5.post1 / verl 0.2.0.dev0 / transformers 4.52.1 / flash_attn 2.8.3）位于 scratch，**大文件已被驱逐成损坏空壳**（如 libcusparse.so "invalid ELF header"），且从未备份。已据 `*.dist-info` 重建 209 包冻结清单 → `docs/env_abforge_vllm_frozen.txt`（也在 HF 档案库 `meta/`）。

✅ **已在持久盘重建并端到端验证（2026-06-13）**：`/gpfs/radev/pi/cohan/yz979/environment/miniconda3/envs/abforge_repro`
- GPU 冒烟通过：torch CUDA、flash_attn GPU 算子、vLLM 加载 Qwen3-8B 并生成均 OK；版本与冻结清单一致。
- 重建脚本：`scripts/build_repro_env.sh`（被 `slurm/build_repro_env.slurm` 调用）+ `scripts/smoke_repro_env.py`（CPU/`--gpu` 冒烟，`slurm/smoke_repro_gpu.slurm`）。
- **重建踩过的坑（脚本里已处理）**：① flash-attn release wheel 需 glibc≥2.32 而 Misha 是 RHEL8(glibc2.28)，必须源码编译；② setup.py 默认偷下 wheel，要 `FLASH_ATTENTION_FORCE_BUILD=TRUE`；③ 系统 gcc8.5 太老（torch2.6 要 gcc≥9），往 env 装 conda `gxx/gcc 12`、`CC/CXX` 指向它；④ conda 编译器钩子非 nounset-safe，脚本不能 `set -u`；⑤ vLLM 用 spawn，测试脚本要 `if __name__=="__main__"` 守卫。

⚠️ **重跑前必改**：训练 launcher 里 `conda activate $WORK_ROOT/conda/abforge_vllm` 在 scratch 清理后会失效，改成 `conda activate .../envs/abforge_repro`（或把该 scratch 路径做成指向 abforge_repro 的软链）。基座模型同理——`models/Qwen3-8B` 在驱逐，改用 HF `Qwen/Qwen3-8B`。

持久盘其它 fallback：`…/envs/verl`（verl0.8/vllm0.11/torch2.8，**非 drop-in**）。

## 4. ⚠️ secrets/ —— 绝不上 HF

`$WORK_ROOT/secrets/`（10 个文件：azure / judge_api / hf_slowguess / wandb / openrouter env，含活跃 API key）
**即使私有仓库也不放**。处理方式：复制到 project 持久盘的受限目录，或存入密码管理器。
（注意 `hf_slowguess.env` 里的写 token 是上传脚本要用的，本身不要进任何远端仓库。）