#!/bin/bash #SBATCH --partition=scavenger-gpu #SBATCH --exclude=dcc-youlab-gpu-28,dcc-gehmlab-gpu-56 #SBATCH --array=0-19 # 50 configurations to test #SBATCH --ntasks=1 #SBATCH --nodes=1 #SBATCH --cpus-per-task=1 #SBATCH --mem-per-cpu=8G #SBATCH --gres=gpu:1 #SBATCH --time=8:00:00 #SBATCH --output=/work/jf381/code/code/ICL_LOG/data_generation/%A_%a_%j.out #SBATCH --error=/work/jf381/code/code/ICL_LOG/data_generation/%A_%a_%j.err #SBATCH --requeue set -e # 基本设置参数 SLURM_ID=0 seed=2 n_layer_icl=2 kernel="softmax" option="--use_ff" icl_type=2 batch_size=200 # 数据类型设置 data_type="cone" test_data_type="cone" test_mode=0 # 样本设置 context_size=40 query_size=60 n_samples=$((context_size+query_size)) # 设置噪声水平 add_noises=0 # 根据SLURM_ARRAY_TASK_ID选择角度范围 case $1 in # 范围宽度 = 90度 (π/2) 0) min_cone_angle=0.01 max_cone_angle=1.5708 ;; # 范围宽度 = 60度 (π/3) 1) min_cone_angle=0.01 max_cone_angle=1.0572 ;; 2) min_cone_angle=0.1384 max_cone_angle=1.1856 ;; 3) min_cone_angle=0.2668 max_cone_angle=1.3140 ;; 4) min_cone_angle=0.3952 max_cone_angle=1.4424 ;; 5) min_cone_angle=0.5236 max_cone_angle=1.5708 ;; # 范围宽度 = 45度 (π/4) 6) min_cone_angle=0.01 max_cone_angle=0.7954 ;; 7) min_cone_angle=0.2038 max_cone_angle=0.9892 ;; 8) min_cone_angle=0.3977 max_cone_angle=1.1831 ;; 9) min_cone_angle=0.5915 max_cone_angle=1.3769 ;; 10) min_cone_angle=0.7854 max_cone_angle=1.5708 ;; # 范围宽度 = 30度 (π/6) 11) min_cone_angle=0.01 max_cone_angle=0.5336 ;; 12) min_cone_angle=0.2692 max_cone_angle=0.7928 ;; 13) min_cone_angle=0.5284 max_cone_angle=1.0520 ;; 14) min_cone_angle=0.7876 max_cone_angle=1.3112 ;; 15) min_cone_angle=1.0472 max_cone_angle=1.5708 ;; # 范围宽度 = 22.5度 (π/8) 16) min_cone_angle=0.01 max_cone_angle=0.4027 ;; 17) min_cone_angle=0.3019 max_cone_angle=0.6946 ;; 18) min_cone_angle=0.5938 max_cone_angle=0.9865 ;; 19) min_cone_angle=0.8856 max_cone_angle=1.2783 ;; 20) min_cone_angle=1.1781 max_cone_angle=1.5708 ;; # 范围宽度 = 15度 (π/12) 21) min_cone_angle=0.01 max_cone_angle=0.2718 ;; 22) min_cone_angle=0.3345 max_cone_angle=0.5963 ;; 23) min_cone_angle=0.6590 max_cone_angle=0.9208 ;; 24) min_cone_angle=0.9835 max_cone_angle=1.2453 ;; 25) min_cone_angle=1.3090 max_cone_angle=1.5708 ;; # 范围宽度 = 11.25度 (π/16) 26) min_cone_angle=0.01 max_cone_angle=0.2063 ;; 27) min_cone_angle=0.3509 max_cone_angle=0.5472 ;; 28) min_cone_angle=0.6917 max_cone_angle=0.8880 ;; 29) min_cone_angle=1.0326 max_cone_angle=1.2289 ;; 30) min_cone_angle=1.3745 max_cone_angle=1.5708 ;; # 范围宽度 = 7.5度 (π/24) 31) min_cone_angle=0.01 max_cone_angle=0.1409 ;; 32) min_cone_angle=0.3673 max_cone_angle=0.4982 ;; 33) min_cone_angle=0.7245 max_cone_angle=0.8554 ;; 34) min_cone_angle=1.0818 max_cone_angle=1.2127 ;; 35) min_cone_angle=1.4399 max_cone_angle=1.5708 ;; # 范围宽度 = 5度 (π/36) 36) min_cone_angle=0.01 max_cone_angle=0.0973 ;; 37) min_cone_angle=0.3836 max_cone_angle=0.4709 ;; 38) min_cone_angle=0.7572 max_cone_angle=0.8445 ;; 39) min_cone_angle=1.1309 max_cone_angle=1.2182 ;; 40) min_cone_angle=1.5045 max_cone_angle=1.5708 ;; # 范围宽度 = 2.5度 (π/72) 41) min_cone_angle=0.01 max_cone_angle=0.0536 ;; 42) min_cone_angle=0.3918 max_cone_angle=0.4354 ;; 43) min_cone_angle=0.7736 max_cone_angle=0.8172 ;; 44) min_cone_angle=1.1554 max_cone_angle=1.1990 ;; 45) min_cone_angle=1.5372 max_cone_angle=1.5708 ;; # 添加额外的测试案例以达到50个 # 一些特殊的角度区间 46) min_cone_angle=0.3491 # 20° max_cone_angle=0.6981 # 40° ;; 47) min_cone_angle=0.7854 # 45° max_cone_angle=1.0472 # 60° ;; 48) min_cone_angle=1.0472 # 60° max_cone_angle=1.3090 # 75° ;; 49) min_cone_angle=0.1745 # 10° max_cone_angle=0.3491 # 20° ;; esac # code/ICL_Jay/script/data_generate_cone_angle.sh echo "生成角度范围为 $min_cone_angle 到 $max_cone_angle 弧度的数据" echo "SLURM_ARRAY_TASK_ID = $SLURM_ARRAY_TASK_ID" echo "n_layer_icl = $n_layer_icl" echo "kernel = $kernel" echo "option = $option" echo "icl_type = $icl_type" echo "n_samples = $n_samples" echo "context_size = $context_size" # SLURM_ARRAY_TASK_ID=0 # 执行数据生成 # 由于需要为每个角度范围生成多个epoch的数据,我们使用slurm_tasks=20和slurm_id=0来分配生成任务 # 这样每个角度范围配置将生成20个不同epoch的数据(足够训练和测试) python /work/jf381/code/code/ICL_Jay/train_end2end_new_stage.py \ --test_mode $test_mode \ --n_epochs 3001 \ --data_type $data_type \ --n_layer_icl $n_layer_icl \ --test_data_type $test_data_type \ --add_noises $add_noises \ --kernel $kernel \ --load_pretrain_model -1 \ --icl_type $icl_type \ --suffix "data_range_${min_cone_angle}_${max_cone_angle}" \ --figure_suffix "data_range_${min_cone_angle}_${max_cone_angle}" \ --train_context_size $context_size \ --test_context_size $context_size \ --n_samples $n_samples \ --seed $seed \ --batch_size $batch_size \ --data_generation \ --slurm_id $SLURM_ARRAY_TASK_ID \ --slurm_tasks 20 \ --min_cone_angle $min_cone_angle \ --max_cone_angle $max_cone_angle \ $option