Rid3 commited on
Commit
100e9e4
·
verified ·
1 Parent(s): 16734a0

Update Dockerfile

Browse files
Files changed (1) hide show
  1. Dockerfile +14 -13
Dockerfile CHANGED
@@ -1,32 +1,33 @@
1
  FROM python:3.10-slim
2
 
3
- # === Установка системных зависимостей ===
4
  RUN apt-get update && apt-get install -y \
5
- build-essential \
6
- cmake \
7
  libopenblas-dev \
8
  curl \
9
  && rm -rf /var/lib/apt/lists/*
10
 
11
  WORKDIR /app
12
 
13
- # === Установка Python зависимостей ===
14
  RUN pip install --no-cache-dir fastapi uvicorn huggingface_hub pydantic
15
 
16
- # === Установка llama-cpp-python с принудительной сборкой под CPU ===
17
- # Добавляем флаги для OpenBLAS и отключаем ненужные backends
18
- RUN CMAKE_ARGS="-DLLAMA_BLAS=ON -DLLAMA_BLAS_VENDOR=OpenBLAS -DLLAMA_CUBLAS=OFF" \
19
- pip install --no-cache-dir llama-cpp-python \
20
- --force-reinstall --no-binary llama-cpp-python
 
 
 
 
 
 
21
 
22
- # Создаём непривилегированного пользователя
23
  RUN useradd -m -u 1000 user
24
  USER user
25
- ENV HOME=/home/user \
26
- PATH="/home/user/.local/bin:${PATH}"
27
 
28
  COPY --chown=user app.py .
29
 
30
  EXPOSE 7860
31
 
32
- CMD ["uvicorn", "app:app", "--host", "0.0.0.0", "--port", "7860", "--workers", "1"]
 
1
  FROM python:3.10-slim
2
 
3
+ # Минимальные зависимости (без тяжёлого build-essential на постоянной основе)
4
  RUN apt-get update && apt-get install -y \
 
 
5
  libopenblas-dev \
6
  curl \
7
  && rm -rf /var/lib/apt/lists/*
8
 
9
  WORKDIR /app
10
 
11
+ # Установка Python пакетов
12
  RUN pip install --no-cache-dir fastapi uvicorn huggingface_hub pydantic
13
 
14
+ # === Самый быстрый способ на HF Spaces — готовый CPU wheel ===
15
+ # Вариант 1: Через официальный индекс (часто работает)
16
+ RUN pip install llama-cpp-python \
17
+ --extra-index-url https://abetlen.github.io/llama-cpp-python/whl/cpu
18
+
19
+ # Если выше не сработает — попробуй конкретный wheel (более стабильный вариант):
20
+ # RUN pip install https://github.com/abetlen/llama-cpp-python/releases/download/v0.3.19/llama_cpp_python-0.3.19-cp310-cp310-linux_x86_64.whl
21
+
22
+ # Или ещё один проверенный способ:
23
+ # RUN CMAKE_ARGS="-DLLAMA_BLAS=ON -DLLAMA_BLAS_VENDOR=OpenBLAS" \
24
+ # pip install llama-cpp-python --no-cache-dir --force-reinstall --no-binary llama-cpp-python
25
 
 
26
  RUN useradd -m -u 1000 user
27
  USER user
 
 
28
 
29
  COPY --chown=user app.py .
30
 
31
  EXPOSE 7860
32
 
33
+ CMD ["uvicorn", "app:app", "--host", "0.0.0.0", "--port", "7860"]