| # DEBUG: 8 卡 FULL fine-tune SFT,全程日志落 debug_logs/ 供排查 cache.py:176 崩点。 | |
| # 与 run_sft_8gpu.sh 同一启动方式,只是: | |
| # - 固定 config = sft_qwen25_full.yaml (finetune_mode=full, ZeRO-1) | |
| # - stdout+stderr 全部 tee 到 debug_logs/sft_8gpu_full.log (带时间戳) | |
| # - 不限 epoch,自然跑到 Phase B 复现崩点 | |
| # | |
| # 用法: bash scripts/train/debug_sft_8gpu_full.sh | |
| # 注意: full 模式必须 >=4 卡(ZeRO 分片优化器状态),这里默认 8 卡。 | |
| set -e | |
| PROJECT_ROOT=/mnt/train-gui-agent/zhangzeyu/mem_memory | |
| cd "$PROJECT_ROOT" | |
| mkdir -p debug_logs | |
| PYTHON=${PYTHON:-/root/mambaforge/envs/gjh_memo/bin/python} | |
| NPROC=${NPROC:-8} | |
| MASTER_PORT=${MASTER_PORT:-29502} # 与 lora 脚本不同端口,可同机错峰但不要同时占 8 卡 | |
| LOG=debug_logs/sft_8gpu_full.log | |
| echo "[debug_sft_8gpu_full] PYTHON=$PYTHON nproc=$NPROC -> $LOG" | |
| echo "===== $(date '+%F %T') START 8gpu FULL SFT (config=sft_qwen25_full.yaml) =====" | tee "$LOG" | |
| export TORCH_NCCL_TRACE_BUFFER_SIZE=${TORCH_NCCL_TRACE_BUFFER_SIZE:-1048576} | |
| "$PYTHON" -m torch.distributed.run \ | |
| --standalone \ | |
| --nproc_per_node="$NPROC" \ | |
| --master_port="$MASTER_PORT" \ | |
| scripts/train/09_run_sft.py \ | |
| --config configs/train/sft_qwen25_full.yaml \ | |
| 2>&1 | tee -a "$LOG" | |
| echo "===== $(date '+%F %T') END (exit=${PIPESTATUS[0]}) =====" | tee -a "$LOG" | |