#!/bin/bash # ========================================================== # 用法: # ./sapply.sh [--debug | --long] # # 参数说明: # : GPU 数量(必填,如 0 / 1 / 2) # : 任务名称(必填) # --debug : 使用 Debug 分区(2 小时限制) # --long : 使用 24 小时长队列(默认是 12 小时) # # 资源分配规则: # 每块 GPU 分配 16 个 CPU 逻辑核心; # 每个 CPU 逻辑核心分配 8G 内存; # 若 GPU=0,则默认申请 16C × 8G = 128G。 # # 注意: # --debug 和 --long 不能同时使用! # # 示例: # ./sapply.sh 1 VGEN-zb --debug # ./sapply.sh 1 VGEN-zb # ./sapply.sh 1 VGEN-zb --long # ./sapply.sh 0 cpuonly # ========================================================== GPU_NUM="$1" JOB_NAME="$2" FLAG="$3" # ========================================================== # 自动执行配置:申请到资源后自动运行 # ========================================================== AUTO_PROJECT_DIR="/home/dyvm6xra/dyvm6xrauser11/workspace/cz/Helios" AUTO_CONDA_ENV="helios" AUTO_RUN_CMD="bash temp.sh" # ========================================================== # 参数检查 # ========================================================== if [[ -z "$GPU_NUM" || -z "$JOB_NAME" ]]; then echo "❌ 参数错误!" echo "用法: ./sapply.sh [--debug | --long]" exit 1 fi if ! [[ "$GPU_NUM" =~ ^[0-9]+$ ]]; then echo "❌ GPU 数量必须是非负整数,例如 0 / 1 / 2" exit 1 fi if [[ "$FLAG" != "" && "$FLAG" != "--debug" && "$FLAG" != "--long" ]]; then echo "❌ 未知参数: $FLAG" echo "用法: ./sapply.sh [--debug | --long]" exit 1 fi if [[ "$FLAG" == "--debug" && "$4" == "--long" ]] || [[ "$FLAG" == "--long" && "$4" == "--debug" ]]; then echo "❌ 错误:--debug 和 --long 不能同时使用!" exit 1 fi if [[ -n "$4" ]]; then echo "❌ 参数过多或参数错误: $4" echo "用法: ./sapply.sh [--debug | --long]" exit 1 fi # ========================================================== # 默认参数:12 小时队列 # ========================================================== PARTITION="q-dyvm6xra" QOS_FLAG="-q qos_g5_12hrs" TIME_LIMIT="12:00:00" if [[ "$FLAG" == "--debug" ]]; then PARTITION="q-g7hdnrvb" QOS_FLAG="" TIME_LIMIT="2:00:00" elif [[ "$FLAG" == "--long" ]]; then PARTITION="q-dyvm6xra" QOS_FLAG="-q qos_g5_24hrs" TIME_LIMIT="24:00:00" fi # ========================================================== # 资源配置 # ========================================================== CPU_PER_GPU=16 MEM_PER_CPU=8G if [[ "$GPU_NUM" -eq 0 ]]; then TOTAL_CPU=16 GPU_FLAG="" else TOTAL_CPU=$(( GPU_NUM * CPU_PER_GPU )) GPU_FLAG="--gres=gpu:${GPU_NUM}" fi # ========================================================== # Tmux 会话名 # ========================================================== SESSION_NAME="${JOB_NAME}_$$" echo "==========================================================" echo "✅ 提交任务参数:" echo "GPU 数量 : ${GPU_NUM}" echo "CPU 数量 : ${TOTAL_CPU} cores" echo "内存配置 : ${MEM_PER_CPU} per CPU" echo "任务名称 : ${JOB_NAME}" echo "分区 : ${PARTITION}" echo "时间限制 : ${TIME_LIMIT}" echo "QOS : ${QOS_FLAG:--}" echo "Tmux 会话 : ${SESSION_NAME}" echo "自动目录 : ${AUTO_PROJECT_DIR}" echo "自动环境 : ${AUTO_CONDA_ENV}" echo "自动命令 : ${AUTO_RUN_CMD}" echo "==========================================================" echo "⏳ 正在创建后台 tmux,并在里面提交 salloc 申请..." echo # ========================================================== # 动态生成拿到资源后执行的内部脚本 # ========================================================== INNER_SCRIPT="/home/dyvm6xra/dyvm6xrauser11/workspace/cz/.sapply_${SESSION_NAME}_inner.sh" cat << EOF > "${INNER_SCRIPT}" #!/bin/bash echo "✅ 成功分配计算节点! 当前 Job ID: \${SLURM_JOB_ID}" sleep 1 # ========================================================== # 当前窗口改名为 salloc,用来持有资源 # ========================================================== tmux rename-window -t "${SESSION_NAME}:0" "salloc" 2>/dev/null || true # ========================================================== # 1. run 窗口:自动进入项目目录,激活环境,运行 temp.sh # 在这个窗口 Ctrl-C,只会停止 temp.sh,不会释放 GPU。 # ========================================================== tmux new-window -t "${SESSION_NAME}" -n "run" "srun --jobid=\${SLURM_JOB_ID} --overlap --pty bash -lc ' echo \"==========================================================\" echo \"🚀 进入计算节点,开始自动初始化任务环境...\" echo \"==========================================================\" cd \"${AUTO_PROJECT_DIR}\" || { echo \"❌ 找不到项目目录: ${AUTO_PROJECT_DIR}\" echo \"将保留交互 shell,方便你手动排查。\" exec bash -i } source ~/.bashrc >/dev/null 2>&1 || true if command -v conda >/dev/null 2>&1; then eval \"\\\$(conda shell.bash hook)\" >/dev/null 2>&1 || true elif [[ -f ~/miniconda3/etc/profile.d/conda.sh ]]; then source ~/miniconda3/etc/profile.d/conda.sh elif [[ -f ~/anaconda3/etc/profile.d/conda.sh ]]; then source ~/anaconda3/etc/profile.d/conda.sh else echo \"❌ 找不到 conda,请检查 conda 安装路径。\" echo \"将保留交互 shell,方便你手动排查。\" exec bash -i fi conda activate \"${AUTO_CONDA_ENV}\" || { echo \"❌ conda 环境激活失败: ${AUTO_CONDA_ENV}\" echo \"将保留交互 shell,方便你手动排查。\" exec bash -i } echo \"✅ 当前目录: \\\$(pwd)\" echo \"✅ 当前 Conda 环境: \\\$CONDA_DEFAULT_ENV\" echo \"🚀 自动执行命令: ${AUTO_RUN_CMD}\" echo \"==========================================================\" echo \"提示:在本窗口按 Ctrl-C 只会停止自动任务,不会释放 GPU。\" echo \"真正释放 GPU:切到 salloc 窗口输入 q,或关闭整个 tmux session。\" echo \"==========================================================\" set +e trap '\\'' echo echo \"⚠️ 捕获 Ctrl-C:自动任务已被中断,但 salloc / GPU 资源仍会保留。\" echo \"现在会进入交互 shell,你可以继续手动运行命令。\" '\\'' INT ${AUTO_RUN_CMD} RUN_EXIT_CODE=\\\$? trap - INT echo echo \"==========================================================\" echo \"✅ 自动命令已结束: ${AUTO_RUN_CMD}\" echo \"退出码: \\\$RUN_EXIT_CODE\" echo \"当前 GPU 资源仍然保留。\" echo \"如需释放资源:切到 salloc 窗口输入 q。\" echo \"==========================================================\" exec bash -i '" # ========================================================== # 2. gpustat 窗口 # ========================================================== tmux new-window -t "${SESSION_NAME}" -n "gpustat" "srun --jobid=\${SLURM_JOB_ID} --overlap --pty bash -lc ' source ~/.bashrc >/dev/null 2>&1 || true if command -v conda >/dev/null 2>&1; then eval \"\\\$(conda shell.bash hook)\" >/dev/null 2>&1 || true elif [[ -f ~/miniconda3/etc/profile.d/conda.sh ]]; then source ~/miniconda3/etc/profile.d/conda.sh elif [[ -f ~/anaconda3/etc/profile.d/conda.sh ]]; then source ~/anaconda3/etc/profile.d/conda.sh fi conda activate \"${AUTO_CONDA_ENV}\" >/dev/null 2>&1 || true if command -v gpustat >/dev/null 2>&1; then watch -n 1 gpustat else echo \"❌ gpustat: command not found\" echo \"你可以在 ${AUTO_CONDA_ENV} 环境里安装:pip install gpustat\" echo echo \"当前仍保留交互 shell。\" exec bash -i fi '" # ========================================================== # 3. bash2 备用窗口 # ========================================================== tmux new-window -t "${SESSION_NAME}" -n "bash2" "srun --jobid=\${SLURM_JOB_ID} --overlap --pty bash -lc ' source ~/.bashrc >/dev/null 2>&1 || true if command -v conda >/dev/null 2>&1; then eval \"\\\$(conda shell.bash hook)\" >/dev/null 2>&1 || true elif [[ -f ~/miniconda3/etc/profile.d/conda.sh ]]; then source ~/miniconda3/etc/profile.d/conda.sh elif [[ -f ~/anaconda3/etc/profile.d/conda.sh ]]; then source ~/anaconda3/etc/profile.d/conda.sh fi conda activate \"${AUTO_CONDA_ENV}\" >/dev/null 2>&1 || true cd \"${AUTO_PROJECT_DIR}\" 2>/dev/null || true echo \"==========================================================\" echo \"✅ bash2 已进入计算节点\" echo \"当前目录: \\\$(pwd)\" echo \"当前 Conda 环境: \\\$CONDA_DEFAULT_ENV\" echo \"==========================================================\" exec bash -i '" # 默认切到 run 窗口 tmux select-window -t "${SESSION_NAME}:run" 2>/dev/null || true # ========================================================== # 4. salloc 持有窗口 # 只要这个脚本不退出,GPU allocation 就不会释放。 # ========================================================== echo "==========================================================" echo "✅ salloc holder 正在运行" echo "Job ID: \${SLURM_JOB_ID}" echo echo "窗口说明:" echo " run : 自动运行 ${AUTO_RUN_CMD}" echo " gpustat : 查看 GPU 状态" echo " bash2 : 备用交互 shell" echo " salloc : 持有 GPU 资源,不建议跑实验" echo echo "重要:" echo " 在 run / bash2 里 Ctrl-C 不会释放 GPU。" echo " 如需释放 GPU,请切到 salloc 窗口输入 q。" echo "==========================================================" trap ' echo echo "⚠️ 这是 salloc 持有窗口。" echo "Ctrl-C 不会释放资源;如需释放 GPU,请输入 q。" ' INT while true; do echo read -r -p "[salloc:\${SLURM_JOB_ID}] 输入 q 释放资源,输入 r 新开一个计算节点 shell,直接回车继续持有: " ans case "\$ans" in q|Q|quit|exit) echo "🛑 准备退出 salloc,释放 GPU 资源..." break ;; r|R) NEW_WIN_NAME="bash_\$(date +%H%M%S)" tmux new-window -t "${SESSION_NAME}" -n "\${NEW_WIN_NAME}" "srun --jobid=\${SLURM_JOB_ID} --overlap --pty bash -lc ' source ~/.bashrc >/dev/null 2>&1 || true if command -v conda >/dev/null 2>&1; then eval \"\\\$(conda shell.bash hook)\" >/dev/null 2>&1 || true elif [[ -f ~/miniconda3/etc/profile.d/conda.sh ]]; then source ~/miniconda3/etc/profile.d/conda.sh elif [[ -f ~/anaconda3/etc/profile.d/conda.sh ]]; then source ~/anaconda3/etc/profile.d/conda.sh fi conda activate \"${AUTO_CONDA_ENV}\" >/dev/null 2>&1 || true cd \"${AUTO_PROJECT_DIR}\" 2>/dev/null || true exec bash -i '" tmux select-window -t "${SESSION_NAME}:\${NEW_WIN_NAME}" 2>/dev/null || true ;; "") echo "继续持有资源。" ;; *) echo "未知输入: \$ans" echo "输入 q 释放资源,输入 r 新开 shell,或直接回车继续持有。" ;; esac done trap - INT EOF chmod +x "${INNER_SCRIPT}" # ========================================================== # 启动脱机 tmux session,内部运行 salloc # ========================================================== env TMUX= tmux new-session -d -s "${SESSION_NAME}" \ "salloc -p ${PARTITION} ${QOS_FLAG} -t ${TIME_LIMIT} -A dyvm6xra --job-name=${JOB_NAME} ${GPU_FLAG} -c ${TOTAL_CPU} --mem-per-cpu=${MEM_PER_CPU} ${INNER_SCRIPT}; rm -f ${INNER_SCRIPT}" # ========================================================== # 进入对应 tmux 会话 # ========================================================== if [[ -z "$TMUX" ]]; then tmux attach-session -t "${SESSION_NAME}" else tmux switch-client -t "${SESSION_NAME}" fi