#!/bin/bash # 初始化 set -e echo "任务开始运行" eval "$(path_to_your_miniconda3/bin/conda) shell.bash hook" # 激活 conda 环境 conda info --envs conda activate your_conda_env echo "conda环境已激活:$(which python)" # 配置代理 export http_proxy= export https_proxy= echo "http_proxy: ${http_proxy}" # 脚本参数配置 MODEL="" # path to your model PROJECT_DIR="" # path to your project root dir # 定义输入和输出的基础目录 INPUT_BASE_DIR="$PROJECT_DIR/data/questions/task3_metadata_v3" OUTPUT_BASE_DIR="$PROJECT_DIR/data/questions/task3_v3" cd $PROJECT_DIR # 查找 INPUT_BASE_DIR 下所有的 .jsonl 文件 # find 命令会递归查找 train, test, val 所有子目录 find "$INPUT_BASE_DIR" -name "*.jsonl" | while read input_file; do # 1. 生成输出文件路径 # 将输入路径中的 "task3_metadata_v3" 替换为 "task3_v3" output_file="${input_file/task3_metadata_v3/task3_v3}" # 2. 自动创建输出文件所在的文件夹(如果不存在的话) # $(dirname "$output_file") 获取文件所在的目录路径 mkdir -p "$(dirname "$output_file")" echo "--------------------------------------------------" echo "正在处理: $input_file" echo "输出目标: $output_file" # 3. 执行 Python 脚本 python scripts/run_llm_cot_vllm.py \ --input_file "$input_file" \ --output_file "$output_file" \ --image_root "$PROJECT_DIR" \ --model "$MODEL" \ --tp_size 2 \ --gpu_memory_utilization 0.9 done echo "所有任务处理完成!"