vllmds / Dockerfile
jokyo3's picture
Update Dockerfile
d6aca1e verified
raw
history blame contribute delete
683 Bytes
# 基于官方的 Python 基础镜像
FROM python:3.10-slim
# 设置工作目录
WORKDIR /app
# 安装系统依赖(如果需要)
RUN apt-get update && apt-get install -y --no-install-recommends gcc && apt-get clean && rm -rf /var/lib/apt/lists/*
# 安装 Python 依赖
#COPY requirements.txt .
#RUN pip install --no-cache-dir -r requirements.txt
# 安装 vLLM
RUN pip install vllm
# 将应用代码复制到容器中
COPY . .
# 设置环境变量(如果需要)
ENV HF_API_KEY="your_huggingface_api_key"
# 暴露端口(vLLM 默认使用 8000 端口)
EXPOSE 7860
# 启动 vLLM 服务并加载模型
CMD ["vllm", "serve", "deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B"]