deploy/template/task3/run.sh

#!/bin/bash

# 初始化
set -e

echo "任务开始运行"
eval "$(path_to_your_miniconda3/bin/conda) shell.bash hook"      # 激活 conda 环境
conda info --envs
conda activate your_conda_env
echo "conda环境已激活：$(which python)"

# 配置代理
export http_proxy=
export https_proxy=

echo "http_proxy: ${http_proxy}"

# 脚本参数配置
MODEL=""        # path to your model
PROJECT_DIR=""  # path to your project root dir

# 定义输入和输出的基础目录
INPUT_BASE_DIR="$PROJECT_DIR/data/questions/task3_metadata_v3"
OUTPUT_BASE_DIR="$PROJECT_DIR/data/questions/task3_v3"

cd $PROJECT_DIR

# 查找 INPUT_BASE_DIR 下所有的 .jsonl 文件
# find 命令会递归查找 train, test, val 所有子目录
find "$INPUT_BASE_DIR" -name "*.jsonl" | while read input_file; do
    
    # 1. 生成输出文件路径
    # 将输入路径中的 "task3_metadata_v3" 替换为 "task3_v3"
    output_file="${input_file/task3_metadata_v3/task3_v3}"
    
    # 2. 自动创建输出文件所在的文件夹（如果不存在的话）
    # $(dirname "$output_file") 获取文件所在的目录路径
    mkdir -p "$(dirname "$output_file")"

    echo "--------------------------------------------------"
    echo "正在处理: $input_file"
    echo "输出目标: $output_file"

    # 3. 执行 Python 脚本
    python scripts/run_llm_cot_vllm.py \
        --input_file "$input_file" \
        --output_file "$output_file" \
        --image_root "$PROJECT_DIR" \
        --model "$MODEL" \
        --tp_size 2 \
        --gpu_memory_utilization 0.9

done

echo "所有任务处理完成！"