File size: 1,601 Bytes
8c01d88 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 | #!/bin/bash
# 初始化
set -e
echo "任务开始运行"
eval "$(path_to_your_miniconda3/bin/conda) shell.bash hook" # 激活 conda 环境
conda info --envs
conda activate your_conda_env
echo "conda环境已激活：$(which python)"
# 配置代理
export http_proxy=
export https_proxy=
echo "http_proxy: ${http_proxy}"
# 脚本参数配置
MODEL="" # path to your model
PROJECT_DIR="" # path to your project root dir
# 定义输入和输出的基础目录
INPUT_BASE_DIR="$PROJECT_DIR/data/questions/task3_metadata_v3"
OUTPUT_BASE_DIR="$PROJECT_DIR/data/questions/task3_v3"
cd $PROJECT_DIR
# 查找 INPUT_BASE_DIR 下所有的 .jsonl 文件
# find 命令会递归查找 train, test, val 所有子目录
find "$INPUT_BASE_DIR" -name "*.jsonl" | while read input_file; do
# 1. 生成输出文件路径
# 将输入路径中的 "task3_metadata_v3" 替换为 "task3_v3"
output_file="${input_file/task3_metadata_v3/task3_v3}"
# 2. 自动创建输出文件所在的文件夹（如果不存在的话）
# $(dirname "$output_file") 获取文件所在的目录路径
mkdir -p "$(dirname "$output_file")"
echo "--------------------------------------------------"
echo "正在处理: $input_file"
echo "输出目标: $output_file"
# 3. 执行 Python 脚本
python scripts/run_llm_cot_vllm.py \
--input_file "$input_file" \
--output_file "$output_file" \
--image_root "$PROJECT_DIR" \
--model "$MODEL" \
--tp_size 2 \
--gpu_memory_utilization 0.9
done
echo "所有任务处理完成！" |