#!/bin/bash
# DEBUG: 8 卡 FULL fine-tune SFT,全程日志落 debug_logs/ 供排查 cache.py:176 崩点。
# 与 run_sft_8gpu.sh 同一启动方式,只是:
#   - 固定 config = sft_qwen25_full.yaml (finetune_mode=full, ZeRO-1)
#   - stdout+stderr 全部 tee 到 debug_logs/sft_8gpu_full.log (带时间戳)
#   - 不限 epoch,自然跑到 Phase B 复现崩点
#
# 用法:  bash scripts/train/debug_sft_8gpu_full.sh
# 注意:  full 模式必须 >=4 卡(ZeRO 分片优化器状态),这里默认 8 卡。
set -e

PROJECT_ROOT=/mnt/train-gui-agent/zhangzeyu/mem_memory
cd "$PROJECT_ROOT"
mkdir -p debug_logs

PYTHON=${PYTHON:-/root/mambaforge/envs/gjh_memo/bin/python}
NPROC=${NPROC:-8}
MASTER_PORT=${MASTER_PORT:-29502}   # 与 lora 脚本不同端口,可同机错峰但不要同时占 8 卡
LOG=debug_logs/sft_8gpu_full.log

echo "[debug_sft_8gpu_full] PYTHON=$PYTHON nproc=$NPROC  -> $LOG"
echo "===== $(date '+%F %T') START 8gpu FULL SFT (config=sft_qwen25_full.yaml) =====" | tee "$LOG"

export TORCH_NCCL_TRACE_BUFFER_SIZE=${TORCH_NCCL_TRACE_BUFFER_SIZE:-1048576}

"$PYTHON" -m torch.distributed.run \
  --standalone \
  --nproc_per_node="$NPROC" \
  --master_port="$MASTER_PORT" \
  scripts/train/09_run_sft.py \
  --config configs/train/sft_qwen25_full.yaml \
  2>&1 | tee -a "$LOG"

echo "===== $(date '+%F %T') END (exit=${PIPESTATUS[0]}) =====" | tee -a "$LOG"