File size: 1,368 Bytes
4968ea3 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 | #!/bin/bash
# DEBUG: 8 卡 FULL fine-tune SFT,全程日志落 debug_logs/ 供排查 cache.py:176 崩点。
# 与 run_sft_8gpu.sh 同一启动方式,只是:
# - 固定 config = sft_qwen25_full.yaml (finetune_mode=full, ZeRO-1)
# - stdout+stderr 全部 tee 到 debug_logs/sft_8gpu_full.log (带时间戳)
# - 不限 epoch,自然跑到 Phase B 复现崩点
#
# 用法: bash scripts/train/debug_sft_8gpu_full.sh
# 注意: full 模式必须 >=4 卡(ZeRO 分片优化器状态),这里默认 8 卡。
set -e
PROJECT_ROOT=/mnt/train-gui-agent/zhangzeyu/mem_memory
cd "$PROJECT_ROOT"
mkdir -p debug_logs
PYTHON=${PYTHON:-/root/mambaforge/envs/gjh_memo/bin/python}
NPROC=${NPROC:-8}
MASTER_PORT=${MASTER_PORT:-29502} # 与 lora 脚本不同端口,可同机错峰但不要同时占 8 卡
LOG=debug_logs/sft_8gpu_full.log
echo "[debug_sft_8gpu_full] PYTHON=$PYTHON nproc=$NPROC -> $LOG"
echo "===== $(date '+%F %T') START 8gpu FULL SFT (config=sft_qwen25_full.yaml) =====" | tee "$LOG"
export TORCH_NCCL_TRACE_BUFFER_SIZE=${TORCH_NCCL_TRACE_BUFFER_SIZE:-1048576}
"$PYTHON" -m torch.distributed.run \
--standalone \
--nproc_per_node="$NPROC" \
--master_port="$MASTER_PORT" \
scripts/train/09_run_sft.py \
--config configs/train/sft_qwen25_full.yaml \
2>&1 | tee -a "$LOG"
echo "===== $(date '+%F %T') END (exit=${PIPESTATUS[0]}) =====" | tee -a "$LOG"
|