File size: 2,667 Bytes
e380e4a | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 | # scripts/run_llm_cot.py
import argparse
import json
import os
import sys
from dotenv import load_dotenv
# 加载环境变量
load_dotenv()
sys.path.append(os.path.join(os.path.dirname(__file__), '..'))
# [修改] 引入新的 VLLMClient
from src.llm_generation.vllm_client import VLLMClient
from src.llm_generation.generator import CoTGenerator
def load_jsonl(path):
data = []
with open(path, 'r') as f:
for line in f:
if line.strip(): # 防止空行报错
data.append(json.loads(line))
return data
def save_jsonl(data, path):
# 确保输出目录存在
os.makedirs(os.path.dirname(path), exist_ok=True)
with open(path, 'w', encoding='utf-8') as f:
for item in data:
f.write(json.dumps(item, ensure_ascii=False) + '\n')
def main():
parser = argparse.ArgumentParser()
parser.add_argument("--input_file", type=str, required=True)
parser.add_argument("--output_file", type=str, required=True)
parser.add_argument("--image_root", type=str, required=True, help="Root directory for images")
parser.add_argument("--model", type=str, required=True, help="Path to local model or HF model ID")
# [新增] vLLM 特定参数
parser.add_argument("--tp_size", type=int, default=1, help="Tensor Parallel size (number of GPUs)")
parser.add_argument("--gpu_memory_utilization", type=float, default=0.9, help="GPU memory utilization limit")
args = parser.parse_args()
print(f"Loading oracle data from {args.input_file}...")
oracle_data = load_jsonl(args.input_file)
# [修改] 初始化 VLLMClient 而不是 AIAPIClient
# 这里的 client 接口与之前的 AIAPIClient 保持鸭子类型兼容（都有 call_chat 方法）
client = VLLMClient(
model_path=args.model,
tensor_parallel_size=args.tp_size,
gpu_memory_utilization=args.gpu_memory_utilization
)
# 初始化 Generator
# 假设 CoTGenerator 内部逻辑是调用 client.call_chat(...)
generator = CoTGenerator(
client,
image_root=args.image_root,
model_name=args.model
)
print("Starting CoT generation with vLLM...")
# 注意：如果 CoTGenerator.process_batch 是逐条循环调用 client.call_chat，
# 在 vLLM 中速度会比 API 快，但不如 vLLM 的批量推理快。
# 为了保证核心逻辑不变，我们维持现状。
final_data = generator.process_batch(oracle_data)
print(f"Saving {len(final_data)} entries to {args.output_file}...")
save_jsonl(final_data, args.output_file)
print("Done!")
if __name__ == "__main__":
main()
|