File size: 1,804 Bytes
4968ea3 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 | #!/bin/bash
# SFT (Stage 3) — 8 卡数据并行 launcher (torchrun + 手动梯度 all-reduce)
#
# 设计:
# - 每个 rank 在自己的 GPU 上持有完整模型副本(device_map={"":local_rank}),
# 按 user 切分 disjoint 数据分片,step 前 all-reduce LoRA 梯度(SUM)。
# - global_batch_size 是「有效 batch」: 每 rank 累积 global_batch//world_size 个
# micro-sample, 等价于单卡同 batch/lr → 8 卡只买 wall-clock, 不改训练数学。
# - TensorBoard 自动用平台注入的 $TENSORBOARD_LOG_PATH;未注入则落 <output_dir>/tb。
# 仅 rank 0 写日志。
#
# 用法:
# bash scripts/train/run_sft_8gpu.sh # 全量 8 卡
# NPROC=4 bash scripts/train/run_sft_8gpu.sh # 4 卡
# bash scripts/train/run_sft_8gpu.sh --max-users 2 --phase-a-epochs 1 --phase-b-epochs 1 # 冒烟
set -e
PROJECT_ROOT=/mnt/train-gui-agent/zhangzeyu/mem_memory
cd "$PROJECT_ROOT"
# 🔴 写死 gjh_memo 解释器(同 run_cartridge_full_partition.sh 惯例)。PATH 里的
# torchrun 默认指向 base 环境(transformers 太新 → FlexQwen3 加载崩),绝不能用。
# 用 `python -m torch.distributed.run`(== torchrun,但绑定到指定解释器,最稳妥)。
PYTHON=${PYTHON:-/root/mambaforge/envs/gjh_memo/bin/python}
NPROC=${NPROC:-8}
MASTER_PORT=${MASTER_PORT:-29501}
# 平台会注入 $TENSORBOARD_LOG_PATH;此处仅在本地调试时给个兜底(可注释掉)
# export TENSORBOARD_LOG_PATH=${TENSORBOARD_LOG_PATH:-$PROJECT_ROOT/checkpoints/sft/Qwen3-8B/tb}
echo "[run_sft_8gpu] PYTHON=$PYTHON nproc_per_node=$NPROC TENSORBOARD_LOG_PATH=${TENSORBOARD_LOG_PATH:-<unset→output_dir/tb>}"
"$PYTHON" -m torch.distributed.run \
--standalone \
--nproc_per_node="$NPROC" \
--master_port="$MASTER_PORT" \
scripts/train/09_run_sft.py "$@"
|