fsdp_slrum.sh

#!/bin/bash
#SBATCH --job-name=olmo2-sft-v5-0723-64GPUs-86w-0719-prob
#SBATCH --partition=AISS2024110101
#SBATCH --nodes=8                            # 节点数可根据你想用的调整
#SBATCH --ntasks-per-node=8                 # 每节点 8 个进程（即 8 GPU）
#SBATCH --gpus-per-node=8
#SBATCH --cpus-per-task=16                   # 每个 GPU 分配 8 CPU 核
#SBATCH --time=48:00:00
#SBATCH --output=logs/%x-%j.out

# ======= 环境激活 ========
module load cuda/12.1                       # 根据集群环境选择
source /home/projects/protein/zyk/.bashrc # 你的 conda 环境名

# ======= 通用分布式参数 ========
GPUS_PER_NODE=8
NNODES=$SLURM_NNODES
NODE_RANK=$SLURM_NODEID
MASTER_ADDR=$(scontrol show hostnames "$SLURM_JOB_NODELIST" | head -n 1)
MASTER_PORT=29501

export NCCL_ASYNC_ERROR_HANDLING=1
export TORCH_NCCL_BLOCKING_WAIT=1

# ======= 启动训练 =========
torchrun \
  --nnodes=$NNODES \
  --nproc_per_node=$GPUS_PER_NODE \
  --node_rank=$NODE_RANK \
  --master_addr=$MASTER_ADDR \
  --master_port=$MASTER_PORT \
  train5.py \
    --batch-size 8 \
    --model_path "/home/projects/protein/zyk/seminat_v5/models/OLMo-2-0425-1B" \
    --decoder_layers 1 \
    --encoder_layers 1 \
    --mlp False \
    --position_embedding_type "absolute" \
    --base "pretrained" \
    --save_path "ckp/olmo2-sft-v5-0723-64GPUs-86w-0719-prob" \
    --save_name "olmo2-sft-v5-0723-64GPUs-86w-0719-prob" \
    --data_type SemiNATForMultiRoundMaskInputStream \
    --run_name "olmo2-sft-v5-0723-64GPUs-86w-0719-prob" \
    --epochs 10 \
    --chunk_size_limit 5 \
    --save_steps 10000 \
    --lr 5e-4 \
    --weight_decay 0.1 \
    --eps 1e-8 \
    --dtype bf16 \
    --betas 0.9 0.95 \
    --warmup_ratio 0.1 \
    --data_path "/home/projects/protein/zyk/seminat_v5/data/olmo2_base_prob_multi_0719_86w.jsonl" \
    --max_length 2048 \
    --data_processess_num 8 \
    --attn_implementation "flash_attention_2" \
    --use_wandb \
    "$@"