File size: 683 Bytes
8640295 d17bf05 d6aca1e 8640295 d17bf05 8640295 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 | # 基于官方的 Python 基础镜像
FROM python:3.10-slim
# 设置工作目录
WORKDIR /app
# 安装系统依赖(如果需要)
RUN apt-get update && apt-get install -y --no-install-recommends gcc && apt-get clean && rm -rf /var/lib/apt/lists/*
# 安装 Python 依赖
#COPY requirements.txt .
#RUN pip install --no-cache-dir -r requirements.txt
# 安装 vLLM
RUN pip install vllm
# 将应用代码复制到容器中
COPY . .
# 设置环境变量(如果需要)
ENV HF_API_KEY="your_huggingface_api_key"
# 暴露端口(vLLM 默认使用 8000 端口)
EXPOSE 7860
# 启动 vLLM 服务并加载模型
CMD ["vllm", "serve", "deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B"] |