sapply.sh

#!/bin/bash
# ==========================================================
# 用法：
#   ./sapply.sh <gpu_num> <job_name> [--debug | --long]
#
# 参数说明：
#   <gpu_num>    : GPU 数量（必填，如 0 / 1 / 2）
#   <job_name>   : 任务名称（必填）
#   --debug      : 使用 Debug 分区（2 小时限制）
#   --long       : 使用 24 小时长队列（默认是 12 小时）
#
# 资源分配规则：
#   每块 GPU 分配 16 个 CPU 逻辑核心；
#   每个 CPU 逻辑核心分配 8G 内存；
#   若 GPU=0，则默认申请 16C × 8G = 128G。
#
# 注意：
#   --debug 和 --long 不能同时使用！
#
# 示例：
#   ./sapply.sh 1 VGEN-zb --debug
#   ./sapply.sh 1 VGEN-zb
#   ./sapply.sh 1 VGEN-zb --long
#   ./sapply.sh 0 cpuonly
# ==========================================================

GPU_NUM="$1"
JOB_NAME="$2"
FLAG="$3"

# ==========================================================
# 自动执行配置：申请到资源后自动运行
# ==========================================================
AUTO_PROJECT_DIR="/home/dyvm6xra/dyvm6xrauser11/workspace/cz/Helios"
AUTO_CONDA_ENV="helios"
AUTO_RUN_CMD="bash temp.sh"

# ==========================================================
# 参数检查
# ==========================================================
if [[ -z "$GPU_NUM" || -z "$JOB_NAME" ]]; then
    echo "❌ 参数错误！"
    echo "用法: ./sapply.sh <gpu_num> <job_name> [--debug | --long]"
    exit 1
fi

if ! [[ "$GPU_NUM" =~ ^[0-9]+$ ]]; then
    echo "❌ GPU 数量必须是非负整数，例如 0 / 1 / 2"
    exit 1
fi

if [[ "$FLAG" != "" && "$FLAG" != "--debug" && "$FLAG" != "--long" ]]; then
    echo "❌ 未知参数: $FLAG"
    echo "用法: ./sapply.sh <gpu_num> <job_name> [--debug | --long]"
    exit 1
fi

if [[ "$FLAG" == "--debug" && "$4" == "--long" ]] || [[ "$FLAG" == "--long" && "$4" == "--debug" ]]; then
    echo "❌ 错误：--debug 和 --long 不能同时使用！"
    exit 1
fi

if [[ -n "$4" ]]; then
    echo "❌ 参数过多或参数错误: $4"
    echo "用法: ./sapply.sh <gpu_num> <job_name> [--debug | --long]"
    exit 1
fi

# ==========================================================
# 默认参数：12 小时队列
# ==========================================================
PARTITION="q-dyvm6xra"
QOS_FLAG="-q qos_g5_12hrs"
TIME_LIMIT="12:00:00"

if [[ "$FLAG" == "--debug" ]]; then
    PARTITION="q-g7hdnrvb"
    QOS_FLAG=""
    TIME_LIMIT="2:00:00"
elif [[ "$FLAG" == "--long" ]]; then
    PARTITION="q-dyvm6xra"
    QOS_FLAG="-q qos_g5_24hrs"
    TIME_LIMIT="24:00:00"
fi

# ==========================================================
# 资源配置
# ==========================================================
CPU_PER_GPU=16
MEM_PER_CPU=8G

if [[ "$GPU_NUM" -eq 0 ]]; then
    TOTAL_CPU=16
    GPU_FLAG=""
else
    TOTAL_CPU=$(( GPU_NUM * CPU_PER_GPU ))
    GPU_FLAG="--gres=gpu:${GPU_NUM}"
fi

# ==========================================================
# Tmux 会话名
# ==========================================================
SESSION_NAME="${JOB_NAME}_$$"

echo "=========================================================="
echo "✅ 提交任务参数："
echo "GPU 数量     : ${GPU_NUM}"
echo "CPU 数量     : ${TOTAL_CPU} cores"
echo "内存配置     : ${MEM_PER_CPU} per CPU"
echo "任务名称     : ${JOB_NAME}"
echo "分区         : ${PARTITION}"
echo "时间限制     : ${TIME_LIMIT}"
echo "QOS          : ${QOS_FLAG:--}"
echo "Tmux 会话    : ${SESSION_NAME}"
echo "自动目录     : ${AUTO_PROJECT_DIR}"
echo "自动环境     : ${AUTO_CONDA_ENV}"
echo "自动命令     : ${AUTO_RUN_CMD}"
echo "=========================================================="
echo "⏳ 正在创建后台 tmux，并在里面提交 salloc 申请..."
echo

# ==========================================================
# 动态生成拿到资源后执行的内部脚本
# ==========================================================
INNER_SCRIPT="/home/dyvm6xra/dyvm6xrauser11/workspace/cz/.sapply_${SESSION_NAME}_inner.sh"

cat << EOF > "${INNER_SCRIPT}"
#!/bin/bash

echo "✅ 成功分配计算节点! 当前 Job ID: \${SLURM_JOB_ID}"

sleep 1

# ==========================================================
# 当前窗口改名为 salloc，用来持有资源
# ==========================================================
tmux rename-window -t "${SESSION_NAME}:0" "salloc" 2>/dev/null || true

# ==========================================================
# 1. run 窗口：自动进入项目目录，激活环境，运行 temp.sh
#    在这个窗口 Ctrl-C，只会停止 temp.sh，不会释放 GPU。
# ==========================================================
tmux new-window -t "${SESSION_NAME}" -n "run" "srun --jobid=\${SLURM_JOB_ID} --overlap --pty bash -lc '
echo \"==========================================================\"
echo \"🚀 进入计算节点，开始自动初始化任务环境...\"
echo \"==========================================================\"

cd \"${AUTO_PROJECT_DIR}\" || {
    echo \"❌ 找不到项目目录: ${AUTO_PROJECT_DIR}\"
    echo \"将保留交互 shell，方便你手动排查。\"
    exec bash -i
}

source ~/.bashrc >/dev/null 2>&1 || true

if command -v conda >/dev/null 2>&1; then
    eval \"\\\$(conda shell.bash hook)\" >/dev/null 2>&1 || true
elif [[ -f ~/miniconda3/etc/profile.d/conda.sh ]]; then
    source ~/miniconda3/etc/profile.d/conda.sh
elif [[ -f ~/anaconda3/etc/profile.d/conda.sh ]]; then
    source ~/anaconda3/etc/profile.d/conda.sh
else
    echo \"❌ 找不到 conda，请检查 conda 安装路径。\"
    echo \"将保留交互 shell，方便你手动排查。\"
    exec bash -i
fi

conda activate \"${AUTO_CONDA_ENV}\" || {
    echo \"❌ conda 环境激活失败: ${AUTO_CONDA_ENV}\"
    echo \"将保留交互 shell，方便你手动排查。\"
    exec bash -i
}

echo \"✅ 当前目录: \\\$(pwd)\"
echo \"✅ 当前 Conda 环境: \\\$CONDA_DEFAULT_ENV\"
echo \"🚀 自动执行命令: ${AUTO_RUN_CMD}\"
echo \"==========================================================\"
echo \"提示：在本窗口按 Ctrl-C 只会停止自动任务，不会释放 GPU。\"
echo \"真正释放 GPU：切到 salloc 窗口输入 q，或关闭整个 tmux session。\"
echo \"==========================================================\"

set +e

trap '\\''
    echo
    echo \"⚠️ 捕获 Ctrl-C：自动任务已被中断，但 salloc / GPU 资源仍会保留。\"
    echo \"现在会进入交互 shell，你可以继续手动运行命令。\"
'\\'' INT

${AUTO_RUN_CMD}
RUN_EXIT_CODE=\\\$?

trap - INT

echo
echo \"==========================================================\"
echo \"✅ 自动命令已结束: ${AUTO_RUN_CMD}\"
echo \"退出码: \\\$RUN_EXIT_CODE\"
echo \"当前 GPU 资源仍然保留。\"
echo \"如需释放资源：切到 salloc 窗口输入 q。\"
echo \"==========================================================\"

exec bash -i
'"

# ==========================================================
# 2. gpustat 窗口
# ==========================================================
tmux new-window -t "${SESSION_NAME}" -n "gpustat" "srun --jobid=\${SLURM_JOB_ID} --overlap --pty bash -lc '
source ~/.bashrc >/dev/null 2>&1 || true

if command -v conda >/dev/null 2>&1; then
    eval \"\\\$(conda shell.bash hook)\" >/dev/null 2>&1 || true
elif [[ -f ~/miniconda3/etc/profile.d/conda.sh ]]; then
    source ~/miniconda3/etc/profile.d/conda.sh
elif [[ -f ~/anaconda3/etc/profile.d/conda.sh ]]; then
    source ~/anaconda3/etc/profile.d/conda.sh
fi

conda activate \"${AUTO_CONDA_ENV}\" >/dev/null 2>&1 || true

if command -v gpustat >/dev/null 2>&1; then
    watch -n 1 gpustat
else
    echo \"❌ gpustat: command not found\"
    echo \"你可以在 ${AUTO_CONDA_ENV} 环境里安装：pip install gpustat\"
    echo
    echo \"当前仍保留交互 shell。\"
    exec bash -i
fi
'"

# ==========================================================
# 3. bash2 备用窗口
# ==========================================================
tmux new-window -t "${SESSION_NAME}" -n "bash2" "srun --jobid=\${SLURM_JOB_ID} --overlap --pty bash -lc '
source ~/.bashrc >/dev/null 2>&1 || true

if command -v conda >/dev/null 2>&1; then
    eval \"\\\$(conda shell.bash hook)\" >/dev/null 2>&1 || true
elif [[ -f ~/miniconda3/etc/profile.d/conda.sh ]]; then
    source ~/miniconda3/etc/profile.d/conda.sh
elif [[ -f ~/anaconda3/etc/profile.d/conda.sh ]]; then
    source ~/anaconda3/etc/profile.d/conda.sh
fi

conda activate \"${AUTO_CONDA_ENV}\" >/dev/null 2>&1 || true
cd \"${AUTO_PROJECT_DIR}\" 2>/dev/null || true

echo \"==========================================================\"
echo \"✅ bash2 已进入计算节点\"
echo \"当前目录: \\\$(pwd)\"
echo \"当前 Conda 环境: \\\$CONDA_DEFAULT_ENV\"
echo \"==========================================================\"

exec bash -i
'"

# 默认切到 run 窗口
tmux select-window -t "${SESSION_NAME}:run" 2>/dev/null || true

# ==========================================================
# 4. salloc 持有窗口
#    只要这个脚本不退出，GPU allocation 就不会释放。
# ==========================================================
echo "=========================================================="
echo "✅ salloc holder 正在运行"
echo "Job ID: \${SLURM_JOB_ID}"
echo
echo "窗口说明："
echo "  run     : 自动运行 ${AUTO_RUN_CMD}"
echo "  gpustat : 查看 GPU 状态"
echo "  bash2   : 备用交互 shell"
echo "  salloc  : 持有 GPU 资源，不建议跑实验"
echo
echo "重要："
echo "  在 run / bash2 里 Ctrl-C 不会释放 GPU。"
echo "  如需释放 GPU，请切到 salloc 窗口输入 q。"
echo "=========================================================="

trap '
    echo
    echo "⚠️ 这是 salloc 持有窗口。"
    echo "Ctrl-C 不会释放资源；如需释放 GPU，请输入 q。"
' INT

while true; do
    echo
    read -r -p "[salloc:\${SLURM_JOB_ID}] 输入 q 释放资源，输入 r 新开一个计算节点 shell，直接回车继续持有: " ans

    case "\$ans" in
        q|Q|quit|exit)
            echo "🛑 准备退出 salloc，释放 GPU 资源..."
            break
            ;;
        r|R)
            NEW_WIN_NAME="bash_\$(date +%H%M%S)"
            tmux new-window -t "${SESSION_NAME}" -n "\${NEW_WIN_NAME}" "srun --jobid=\${SLURM_JOB_ID} --overlap --pty bash -lc '
source ~/.bashrc >/dev/null 2>&1 || true

if command -v conda >/dev/null 2>&1; then
    eval \"\\\$(conda shell.bash hook)\" >/dev/null 2>&1 || true
elif [[ -f ~/miniconda3/etc/profile.d/conda.sh ]]; then
    source ~/miniconda3/etc/profile.d/conda.sh
elif [[ -f ~/anaconda3/etc/profile.d/conda.sh ]]; then
    source ~/anaconda3/etc/profile.d/conda.sh
fi

conda activate \"${AUTO_CONDA_ENV}\" >/dev/null 2>&1 || true
cd \"${AUTO_PROJECT_DIR}\" 2>/dev/null || true

exec bash -i
'"
            tmux select-window -t "${SESSION_NAME}:\${NEW_WIN_NAME}" 2>/dev/null || true
            ;;
        "")
            echo "继续持有资源。"
            ;;
        *)
            echo "未知输入: \$ans"
            echo "输入 q 释放资源，输入 r 新开 shell，或直接回车继续持有。"
            ;;
    esac
done

trap - INT
EOF

chmod +x "${INNER_SCRIPT}"

# ==========================================================
# 启动脱机 tmux session，内部运行 salloc
# ==========================================================
env TMUX= tmux new-session -d -s "${SESSION_NAME}" \
    "salloc -p ${PARTITION} ${QOS_FLAG} -t ${TIME_LIMIT} -A dyvm6xra --job-name=${JOB_NAME} ${GPU_FLAG} -c ${TOTAL_CPU} --mem-per-cpu=${MEM_PER_CPU} ${INNER_SCRIPT}; rm -f ${INNER_SCRIPT}"

# ==========================================================
# 进入对应 tmux 会话
# ==========================================================
if [[ -z "$TMUX" ]]; then
    tmux attach-session -t "${SESSION_NAME}"
else
    tmux switch-client -t "${SESSION_NAME}"
fi