carin-jf381-data / ICL_code /ICL_Jay /script /data_generate_cone_angle.sh
jasonfan's picture
2026-03-19: ICL code
64bce2a verified
#!/bin/bash
#SBATCH --partition=scavenger-gpu
#SBATCH --exclude=dcc-youlab-gpu-28,dcc-gehmlab-gpu-56
#SBATCH --array=0-19 # 50 configurations to test
#SBATCH --ntasks=1
#SBATCH --nodes=1
#SBATCH --cpus-per-task=1
#SBATCH --mem-per-cpu=8G
#SBATCH --gres=gpu:1
#SBATCH --time=8:00:00
#SBATCH --output=/work/jf381/code/code/ICL_LOG/data_generation/%A_%a_%j.out
#SBATCH --error=/work/jf381/code/code/ICL_LOG/data_generation/%A_%a_%j.err
#SBATCH --requeue
set -e
# 基本设置参数
SLURM_ID=0
seed=2
n_layer_icl=2
kernel="softmax"
option="--use_ff"
icl_type=2
batch_size=200
# 数据类型设置
data_type="cone"
test_data_type="cone"
test_mode=0
# 样本设置
context_size=40
query_size=60
n_samples=$((context_size+query_size))
# 设置噪声水平
add_noises=0
# 根据SLURM_ARRAY_TASK_ID选择角度范围
case $1 in
# 范围宽度 = 90度 (π/2)
0)
min_cone_angle=0.01
max_cone_angle=1.5708
;;
# 范围宽度 = 60度 (π/3)
1)
min_cone_angle=0.01
max_cone_angle=1.0572
;;
2)
min_cone_angle=0.1384
max_cone_angle=1.1856
;;
3)
min_cone_angle=0.2668
max_cone_angle=1.3140
;;
4)
min_cone_angle=0.3952
max_cone_angle=1.4424
;;
5)
min_cone_angle=0.5236
max_cone_angle=1.5708
;;
# 范围宽度 = 45度 (π/4)
6)
min_cone_angle=0.01
max_cone_angle=0.7954
;;
7)
min_cone_angle=0.2038
max_cone_angle=0.9892
;;
8)
min_cone_angle=0.3977
max_cone_angle=1.1831
;;
9)
min_cone_angle=0.5915
max_cone_angle=1.3769
;;
10)
min_cone_angle=0.7854
max_cone_angle=1.5708
;;
# 范围宽度 = 30度 (π/6)
11)
min_cone_angle=0.01
max_cone_angle=0.5336
;;
12)
min_cone_angle=0.2692
max_cone_angle=0.7928
;;
13)
min_cone_angle=0.5284
max_cone_angle=1.0520
;;
14)
min_cone_angle=0.7876
max_cone_angle=1.3112
;;
15)
min_cone_angle=1.0472
max_cone_angle=1.5708
;;
# 范围宽度 = 22.5度 (π/8)
16)
min_cone_angle=0.01
max_cone_angle=0.4027
;;
17)
min_cone_angle=0.3019
max_cone_angle=0.6946
;;
18)
min_cone_angle=0.5938
max_cone_angle=0.9865
;;
19)
min_cone_angle=0.8856
max_cone_angle=1.2783
;;
20)
min_cone_angle=1.1781
max_cone_angle=1.5708
;;
# 范围宽度 = 15度 (π/12)
21)
min_cone_angle=0.01
max_cone_angle=0.2718
;;
22)
min_cone_angle=0.3345
max_cone_angle=0.5963
;;
23)
min_cone_angle=0.6590
max_cone_angle=0.9208
;;
24)
min_cone_angle=0.9835
max_cone_angle=1.2453
;;
25)
min_cone_angle=1.3090
max_cone_angle=1.5708
;;
# 范围宽度 = 11.25度 (π/16)
26)
min_cone_angle=0.01
max_cone_angle=0.2063
;;
27)
min_cone_angle=0.3509
max_cone_angle=0.5472
;;
28)
min_cone_angle=0.6917
max_cone_angle=0.8880
;;
29)
min_cone_angle=1.0326
max_cone_angle=1.2289
;;
30)
min_cone_angle=1.3745
max_cone_angle=1.5708
;;
# 范围宽度 = 7.5度 (π/24)
31)
min_cone_angle=0.01
max_cone_angle=0.1409
;;
32)
min_cone_angle=0.3673
max_cone_angle=0.4982
;;
33)
min_cone_angle=0.7245
max_cone_angle=0.8554
;;
34)
min_cone_angle=1.0818
max_cone_angle=1.2127
;;
35)
min_cone_angle=1.4399
max_cone_angle=1.5708
;;
# 范围宽度 = 5度 (π/36)
36)
min_cone_angle=0.01
max_cone_angle=0.0973
;;
37)
min_cone_angle=0.3836
max_cone_angle=0.4709
;;
38)
min_cone_angle=0.7572
max_cone_angle=0.8445
;;
39)
min_cone_angle=1.1309
max_cone_angle=1.2182
;;
40)
min_cone_angle=1.5045
max_cone_angle=1.5708
;;
# 范围宽度 = 2.5度 (π/72)
41)
min_cone_angle=0.01
max_cone_angle=0.0536
;;
42)
min_cone_angle=0.3918
max_cone_angle=0.4354
;;
43)
min_cone_angle=0.7736
max_cone_angle=0.8172
;;
44)
min_cone_angle=1.1554
max_cone_angle=1.1990
;;
45)
min_cone_angle=1.5372
max_cone_angle=1.5708
;;
# 添加额外的测试案例以达到50个
# 一些特殊的角度区间
46)
min_cone_angle=0.3491 # 20°
max_cone_angle=0.6981 # 40°
;;
47)
min_cone_angle=0.7854 # 45°
max_cone_angle=1.0472 # 60°
;;
48)
min_cone_angle=1.0472 # 60°
max_cone_angle=1.3090 # 75°
;;
49)
min_cone_angle=0.1745 # 10°
max_cone_angle=0.3491 # 20°
;;
esac
# code/ICL_Jay/script/data_generate_cone_angle.sh
echo "生成角度范围为 $min_cone_angle$max_cone_angle 弧度的数据"
echo "SLURM_ARRAY_TASK_ID = $SLURM_ARRAY_TASK_ID"
echo "n_layer_icl = $n_layer_icl"
echo "kernel = $kernel"
echo "option = $option"
echo "icl_type = $icl_type"
echo "n_samples = $n_samples"
echo "context_size = $context_size"
# SLURM_ARRAY_TASK_ID=0
# 执行数据生成
# 由于需要为每个角度范围生成多个epoch的数据,我们使用slurm_tasks=20和slurm_id=0来分配生成任务
# 这样每个角度范围配置将生成20个不同epoch的数据(足够训练和测试)
python /work/jf381/code/code/ICL_Jay/train_end2end_new_stage.py \
--test_mode $test_mode \
--n_epochs 3001 \
--data_type $data_type \
--n_layer_icl $n_layer_icl \
--test_data_type $test_data_type \
--add_noises $add_noises \
--kernel $kernel \
--load_pretrain_model -1 \
--icl_type $icl_type \
--suffix "data_range_${min_cone_angle}_${max_cone_angle}" \
--figure_suffix "data_range_${min_cone_angle}_${max_cone_angle}" \
--train_context_size $context_size \
--test_context_size $context_size \
--n_samples $n_samples \
--seed $seed \
--batch_size $batch_size \
--data_generation \
--slurm_id $SLURM_ARRAY_TASK_ID \
--slurm_tasks 20 \
--min_cone_angle $min_cone_angle \
--max_cone_angle $max_cone_angle \
$option