Rid3 commited on
Commit
340725f
·
verified ·
1 Parent(s): bebdfd4

Update Dockerfile

Browse files
Files changed (1) hide show
  1. Dockerfile +12 -5
Dockerfile CHANGED
@@ -1,19 +1,26 @@
1
  FROM python:3.10-slim
2
 
3
- # Создаем пользователя HF
 
 
 
 
 
4
  RUN useradd -m -u 1000 user
5
  USER user
6
  ENV PATH="/home/user/.local/bin:$PATH"
7
 
8
  WORKDIR /app
9
 
10
- # Ставим легкие зависимости
11
  RUN pip install --no-cache-dir fastapi uvicorn huggingface_hub pydantic
12
 
13
- # ЖЕСТКАЯ ССЫЛКА НА СОБРАННЫЙ ДВИЖОК. 0 секунд компиляции.
14
- RUN pip install --no-cache-dir https://github.com/abetlen/llama-cpp-python/releases/download/v0.2.56/llama_cpp_python-0.2.56-cp310-cp310-manylinux_2_17_x86_64.manylinux2014_x86_64.whl
 
 
15
 
16
- # Закидываем твой код
17
  COPY --chown=user app.py .
18
 
19
  EXPOSE 7860
 
1
  FROM python:3.10-slim
2
 
3
+ # Устанавливаем системные либы, чтобы ИИ мог "дышать"
4
+ RUN apt-get update && apt-get install -y \
5
+ libopenblas-dev \
6
+ && rm -rf /var/lib/apt/lists/*
7
+
8
+ # Настройка пользователя
9
  RUN useradd -m -u 1000 user
10
  USER user
11
  ENV PATH="/home/user/.local/bin:$PATH"
12
 
13
  WORKDIR /app
14
 
15
+ # Ставим базу
16
  RUN pip install --no-cache-dir fastapi uvicorn huggingface_hub pydantic
17
 
18
+ # Качаем готовую либу из официального репозитория пре-билдов для CPU
19
+ # Это проскочит за секунды без компиляции
20
+ RUN pip install llama-cpp-python \
21
+ --extra-index-url https://abetlen.github.io/llama-cpp-python/whl/cpu
22
 
23
+ # Копируем твой основной файл
24
  COPY --chown=user app.py .
25
 
26
  EXPOSE 7860