File size: 683 Bytes
8640295
 
 
 
 
 
 
 
 
 
d17bf05
d6aca1e
8640295
 
 
 
 
 
 
 
 
 
 
d17bf05
8640295
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
# 基于官方的 Python 基础镜像
FROM python:3.10-slim

# 设置工作目录
WORKDIR /app

# 安装系统依赖(如果需要)
RUN apt-get update && apt-get install -y --no-install-recommends gcc && apt-get clean && rm -rf /var/lib/apt/lists/*

# 安装 Python 依赖
#COPY requirements.txt .
#RUN pip install --no-cache-dir -r requirements.txt

# 安装 vLLM
RUN pip install vllm

# 将应用代码复制到容器中
COPY . .

# 设置环境变量(如果需要)
ENV HF_API_KEY="your_huggingface_api_key"

# 暴露端口(vLLM 默认使用 8000 端口)
EXPOSE 7860

# 启动 vLLM 服务并加载模型
CMD ["vllm", "serve", "deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B"]