Rid3 commited on
Commit
1bad7a0
·
verified ·
1 Parent(s): 5b7b7b8

Update Dockerfile

Browse files
Files changed (1) hide show
  1. Dockerfile +13 -9
Dockerfile CHANGED
@@ -1,29 +1,33 @@
1
  FROM python:3.10-slim
2
 
3
- # Устанавливаем базовые инструменты, чтобы система понимала C++ код библиотеки
4
  RUN apt-get update && apt-get install -y \
 
 
5
  build-essential \
6
- libstdc++6 \
7
  && rm -rf /var/lib/apt/lists/*
8
 
9
- # Создаем пользователя для Hugging Face
10
  RUN useradd -m -u 1000 user
11
  USER user
12
  ENV PATH="/home/user/.local/bin:$PATH"
13
 
14
  WORKDIR /app
15
 
16
- # Обновляем pip и ставим зависимости
17
  RUN pip install --no-cache-dir --upgrade pip
18
- RUN pip install --no-cache-dir huggingface_hub fastapi uvicorn pydantic
19
 
20
- # Ставим библиотеку напрямую из стандартного репозитория.
21
- # Она автоматически подберет версию "manylinux", которая идеально подходит для Hugging Face.
22
- RUN pip install --no-cache-dir llama-cpp-python
 
 
 
 
23
 
24
  # Копируем твой app.py
25
  COPY --chown=user app.py .
26
 
27
  EXPOSE 7860
28
 
29
- CMD ["uvicorn", "app:app", "--host", "0.0.0.0", "--port", "7860"]
 
1
  FROM python:3.10-slim
2
 
3
+ # Устанавливаем только минимально необходимые системные зависимости
4
  RUN apt-get update && apt-get install -y \
5
+ libopenblas-dev \
6
+ ninja-build \
7
  build-essential \
8
+ pkg-config \
9
  && rm -rf /var/lib/apt/lists/*
10
 
 
11
  RUN useradd -m -u 1000 user
12
  USER user
13
  ENV PATH="/home/user/.local/bin:$PATH"
14
 
15
  WORKDIR /app
16
 
17
+ # Обновляем pip
18
  RUN pip install --no-cache-dir --upgrade pip
 
19
 
20
+ # Устанавливаем зависимости API и HF Hub
21
+ RUN pip install --no-cache-dir fastapi uvicorn huggingface_hub pydantic
22
+
23
+ # КЛЮЧЕВОЙ МОМЕНТ: Устанавливаем llama-cpp-python с использованием ПРЕДСКОМПИЛИРОВАННЫХ колес
24
+ # Это предотвратит долгую сборку и ошибку таймаута
25
+ RUN pip install llama-cpp-python \
26
+ --extra-index-url https://abetlen.github.io/llama-cpp-python/whl/cpu
27
 
28
  # Копируем твой app.py
29
  COPY --chown=user app.py .
30
 
31
  EXPOSE 7860
32
 
33
+ CMD ["uvicorn", "app:app", "--host", "0.0.0.0", "--port", "7860"]