Rid3 commited on
Commit
03c7403
·
verified ·
1 Parent(s): 340725f

Update Dockerfile

Browse files
Files changed (1) hide show
  1. Dockerfile +7 -7
Dockerfile CHANGED
@@ -1,26 +1,26 @@
1
  FROM python:3.10-slim
2
 
3
- # Устанавливаем системные либы, чтобы ИИ мог "дышать"
4
  RUN apt-get update && apt-get install -y \
 
 
 
5
  libopenblas-dev \
6
  && rm -rf /var/lib/apt/lists/*
7
 
8
- # Настройка пользователя
9
  RUN useradd -m -u 1000 user
10
  USER user
11
  ENV PATH="/home/user/.local/bin:$PATH"
12
 
13
  WORKDIR /app
14
 
15
- # Ставим базу
16
  RUN pip install --no-cache-dir fastapi uvicorn huggingface_hub pydantic
17
 
18
- # Качаем готовую либу из официального репозитория пре-билдов для CPU
19
- # Это проскочит за секунды без компиляции
20
- RUN pip install llama-cpp-python \
21
  --extra-index-url https://abetlen.github.io/llama-cpp-python/whl/cpu
22
 
23
- # Копируем твой основной файл
24
  COPY --chown=user app.py .
25
 
26
  EXPOSE 7860
 
1
  FROM python:3.10-slim
2
 
3
+ # Ставим компиляторы (на всякий случай) и либы
4
  RUN apt-get update && apt-get install -y \
5
+ build-essential \
6
+ gcc \
7
+ g++ \
8
  libopenblas-dev \
9
  && rm -rf /var/lib/apt/lists/*
10
 
 
11
  RUN useradd -m -u 1000 user
12
  USER user
13
  ENV PATH="/home/user/.local/bin:$PATH"
14
 
15
  WORKDIR /app
16
 
17
+ # Базовые пакеты
18
  RUN pip install --no-cache-dir fastapi uvicorn huggingface_hub pydantic
19
 
20
+ # Ставим конкретную версию, для которой есть готовые сборки (WHL)
21
+ RUN pip install llama-cpp-python==0.2.90 \
 
22
  --extra-index-url https://abetlen.github.io/llama-cpp-python/whl/cpu
23
 
 
24
  COPY --chown=user app.py .
25
 
26
  EXPOSE 7860