File size: 638 Bytes
6ab3ba0 86d14ea 7a2497d 27aeb85 86d14ea c268821 c923d4a a1ed11d 86d14ea 5360f6b 27aeb85 29525fc 27aeb85 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 | FROM michaelf34/infinity:latest
# 国内加速（可选）
ENV HF_HOME=/data/huggingface
# 模型选择（轻量模型，适合免费 CPU）免费空间总量不要超过10亿
# BAAI/bge-small-zh-v1.5（中英文，轻量，24M 参数）
# 注意：CMD 中不要重复写 infinity_emb，直接写子命令和参数
# CMD ["v2", "--model-id", "sentence-transformers/all-MiniLM-L6-v2", "--port", "7860"]
CMD ["v2", \
"--model-id", "BAAI/bge-small-zh-v1.5", \
"--batch-size", "8", \
"--model-id", "sentence-transformers/all-MiniLM-L6-v2", \
"--batch-size", "4", \
"--url-prefix", "/v1", \
"--port", "7860"] |