#!/bin/bash
# SFT (Stage 3) — 8 卡数据并行 launcher (torchrun + 手动梯度 all-reduce)
#
# 设计:
#   - 每个 rank 在自己的 GPU 上持有完整模型副本(device_map={"":local_rank}),
#     按 user 切分 disjoint 数据分片,step 前 all-reduce LoRA 梯度(SUM)。
#   - global_batch_size 是「有效 batch」: 每 rank 累积 global_batch//world_size 个
#     micro-sample, 等价于单卡同 batch/lr → 8 卡只买 wall-clock, 不改训练数学。
#   - TensorBoard 自动用平台注入的 $TENSORBOARD_LOG_PATH;未注入则落 <output_dir>/tb。
#     仅 rank 0 写日志。
#
# 用法:
#   bash scripts/train/run_sft_8gpu.sh                 # 全量 8 卡
#   NPROC=4 bash scripts/train/run_sft_8gpu.sh         # 4 卡
#   bash scripts/train/run_sft_8gpu.sh --max-users 2 --phase-a-epochs 1 --phase-b-epochs 1  # 冒烟
set -e

PROJECT_ROOT=/mnt/train-gui-agent/zhangzeyu/mem_memory
cd "$PROJECT_ROOT"

# 🔴 写死 gjh_memo 解释器(同 run_cartridge_full_partition.sh 惯例)。PATH 里的
# torchrun 默认指向 base 环境(transformers 太新 → FlexQwen3 加载崩),绝不能用。
# 用 `python -m torch.distributed.run`(== torchrun,但绑定到指定解释器,最稳妥)。
PYTHON=${PYTHON:-/root/mambaforge/envs/gjh_memo/bin/python}

NPROC=${NPROC:-8}
MASTER_PORT=${MASTER_PORT:-29501}

# 平台会注入 $TENSORBOARD_LOG_PATH;此处仅在本地调试时给个兜底(可注释掉)
# export TENSORBOARD_LOG_PATH=${TENSORBOARD_LOG_PATH:-$PROJECT_ROOT/checkpoints/sft/Qwen3-8B/tb}

echo "[run_sft_8gpu] PYTHON=$PYTHON nproc_per_node=$NPROC  TENSORBOARD_LOG_PATH=${TENSORBOARD_LOG_PATH:-<unset→output_dir/tb>}"

"$PYTHON" -m torch.distributed.run \
  --standalone \
  --nproc_per_node="$NPROC" \
  --master_port="$MASTER_PORT" \
  scripts/train/09_run_sft.py "$@"