Veblen34's picture
Upload folder using huggingface_hub
cd6775d verified
Raw
History Blame Contribute Delete
432 Bytes
#!/bin/bash
# [ragqa] 可选答案生成服务(端口 60000)。原始 llama_vllm.py 属于 opro-para,未纳入本包。
# 多数文本检索驱动用 50001 的 vLLM 服务生成答案,无需本脚本。
# 如需使用,请把 RAGQA_ANS_SERVER_SCRIPT 指向你的 llama_vllm.py。
: "${RAGQA_ANS_SERVER_SCRIPT:?未纳入本包;如需 60000 答案服务请设置 RAGQA_ANS_SERVER_SCRIPT}"
python "$RAGQA_ANS_SERVER_SCRIPT"