#!/bin/bash
# DAPO (Stage 4) — 8 卡数据并行 launcher (torchrun + 手动梯度 all-reduce)
#
# 设计:
#   - 每个 rank 在自己的 GPU 上持有完整模型副本(policy+ref 两个 adapter),
#     用 rank-offset rng 各自采 batch_anchors//world_size 个「不同」anchor。
#   - 全局 token-mean: 每 rank backprop local_loss_sum / GLOBAL_active_tokens,
#     再 all-reduce-SUM 梯度 → 等价单进程对整个全局 batch 的 token-mean。
#   - dynamic-sampling 的 skip 决策按全局 reduce 后的 active 判定, 保证各 rank
#     的 collective 调用次数一致(无死锁)。
#   - TensorBoard 自动用 $TENSORBOARD_LOG_PATH;仅 rank 0 写。
#
# 前置: SFT 已产出 checkpoints/sft/Qwen3-8B/capability_lora.safetensors,
#        anchors 已由 10a_precompute_base_rank.py 产出 data/train/rl/anchors.jsonl。
#
# 用法:
#   bash scripts/train/run_dapo_8gpu.sh                # 全量 8 卡
#   NPROC=4 bash scripts/train/run_dapo_8gpu.sh        # 4 卡
#   bash scripts/train/run_dapo_8gpu.sh --epochs 1 --batch-anchors 8   # 小跑
set -e

PROJECT_ROOT=/mnt/train-gui-agent/zhangzeyu/mem_memory
cd "$PROJECT_ROOT"

# 🔴 写死 gjh_memo 解释器(同 run_cartridge_full_partition.sh 惯例)。PATH 里的
# torchrun 默认指向 base 环境(transformers 太新 → FlexQwen3 加载崩),绝不能用。
# 用 `python -m torch.distributed.run`(== torchrun,但绑定到指定解释器,最稳妥)。
PYTHON=${PYTHON:-/root/mambaforge/envs/gjh_memo/bin/python}

NPROC=${NPROC:-8}
MASTER_PORT=${MASTER_PORT:-29502}

# 缓解长序列 logprob 重算的显存碎片(报错信息自荐)。配合 rl_max_retrieval_tokens
# 一起把 DAPO 的峰值显存压到 80GB 卡能扛的范围。
export PYTORCH_CUDA_ALLOC_CONF=${PYTORCH_CUDA_ALLOC_CONF:-expandable_segments:True}

# 🔴 NCCL collective 超时(分钟)。只需覆盖 rank 间负载 skew(各 rank 独立跑 K 条 rollout,
# 序列长度方差大 → 最快比最慢早到 phase-2 all_reduce 约十几分钟)。step ~14min、实测 skew
# ~10min → 20min 够用。单 rank OOM 已由「OOM 容错对称 skip」处理(无人会卡等崩溃的 peer),
# 所以超时不必设大;20min 也能让真卡死在 ~20min 内暴露,而非干等 1 小时。
export NCCL_TIMEOUT_MIN=${NCCL_TIMEOUT_MIN:-20}
# 若再遇 collective 超时,打开 FlightRecorder 看是哪个 collective 卡住(调试用):
# export TORCH_NCCL_TRACE_BUFFER_SIZE=${TORCH_NCCL_TRACE_BUFFER_SIZE:-2000}

# export TENSORBOARD_LOG_PATH=${TENSORBOARD_LOG_PATH:-$PROJECT_ROOT/checkpoints/dapo/Qwen3-8B/tb}

echo "[run_dapo_8gpu] PYTHON=$PYTHON nproc_per_node=$NPROC  TENSORBOARD_LOG_PATH=${TENSORBOARD_LOG_PATH:-<unset→output_dir/tb>}"

"$PYTHON" -m torch.distributed.run \
  --standalone \
  --nproc_per_node="$NPROC" \
  --master_port="$MASTER_PORT" \
  scripts/train/10_run_dapo.py "$@"