scripts/run_llm_cot_vllm.py

# scripts/run_llm_cot.py

import argparse
import json
import os
import sys
from dotenv import load_dotenv

# 加载环境变量
load_dotenv()

sys.path.append(os.path.join(os.path.dirname(__file__), '..'))

# [修改] 引入新的 VLLMClient
from src.llm_generation.vllm_client import VLLMClient 
from src.llm_generation.generator import CoTGenerator

def load_jsonl(path):
    data = []
    with open(path, 'r') as f:
        for line in f:
            if line.strip(): # 防止空行报错
                data.append(json.loads(line))
    return data

def save_jsonl(data, path):
    # 确保输出目录存在
    os.makedirs(os.path.dirname(path), exist_ok=True)
    with open(path, 'w', encoding='utf-8') as f:
        for item in data:
            f.write(json.dumps(item, ensure_ascii=False) + '\n')

def main():
    parser = argparse.ArgumentParser()
    parser.add_argument("--input_file", type=str, required=True)
    parser.add_argument("--output_file", type=str, required=True)
    parser.add_argument("--image_root", type=str, required=True, help="Root directory for images")
    
    parser.add_argument("--model", type=str, required=True, help="Path to local model or HF model ID")
    
    # [新增] vLLM 特定参数
    parser.add_argument("--tp_size", type=int, default=1, help="Tensor Parallel size (number of GPUs)")
    parser.add_argument("--gpu_memory_utilization", type=float, default=0.9, help="GPU memory utilization limit")
    
    args = parser.parse_args()

    print(f"Loading oracle data from {args.input_file}...")
    oracle_data = load_jsonl(args.input_file)
    
    # [修改] 初始化 VLLMClient 而不是 AIAPIClient
    # 这里的 client 接口与之前的 AIAPIClient 保持鸭子类型兼容（都有 call_chat 方法）
    client = VLLMClient(
        model_path=args.model,
        tensor_parallel_size=args.tp_size,
        gpu_memory_utilization=args.gpu_memory_utilization
    )
    
    # 初始化 Generator
    # 假设 CoTGenerator 内部逻辑是调用 client.call_chat(...)
    generator = CoTGenerator(
        client,
        image_root=args.image_root,
        model_name=args.model
    )

    print("Starting CoT generation with vLLM...")
    
    # 注意：如果 CoTGenerator.process_batch 是逐条循环调用 client.call_chat，
    # 在 vLLM 中速度会比 API 快，但不如 vLLM 的批量推理快。
    # 为了保证核心逻辑不变，我们维持现状。
    final_data = generator.process_batch(oracle_data)

    print(f"Saving {len(final_data)} entries to {args.output_file}...")
    save_jsonl(final_data, args.output_file)
    print("Done!")

if __name__ == "__main__":
    main()