Rid3 commited on
Commit
e38b137
·
verified ·
1 Parent(s): 5ab3ea9

Update Dockerfile

Browse files
Files changed (1) hide show
  1. Dockerfile +6 -7
Dockerfile CHANGED
@@ -1,21 +1,20 @@
1
  FROM python:3.10-slim
2
 
 
3
  RUN apt-get update && apt-get install -y \
4
- build-essential \
5
- cmake \
6
- gcc \
7
- g++ \
8
  libopenblas-dev \
9
  curl \
10
  && rm -rf /var/lib/apt/lists/*
11
 
12
  WORKDIR /app
13
 
 
14
  RUN pip install --no-cache-dir fastapi uvicorn huggingface_hub pydantic
15
 
16
- # Ставим ПОСЛЕДНЮЮ версию llama-cpp-python (без фиксации 0.2.90)
17
- ENV CMAKE_ARGS="-DLLAMA_BLAS=ON -DLLAMA_BLAS_VENDOR=OpenBLAS"
18
- RUN pip install --no-cache-dir --no-binary llama-cpp-python llama-cpp-python
 
19
 
20
  RUN useradd -m -u 1000 user
21
  USER user
 
1
  FROM python:3.10-slim
2
 
3
+ # Минимальные библиотеки для работы (уже без компиляторов)
4
  RUN apt-get update && apt-get install -y \
 
 
 
 
5
  libopenblas-dev \
6
  curl \
7
  && rm -rf /var/lib/apt/lists/*
8
 
9
  WORKDIR /app
10
 
11
+ # Устанавливаем зависимости
12
  RUN pip install --no-cache-dir fastapi uvicorn huggingface_hub pydantic
13
 
14
+ # СКАЧИВАЕМ ПРЕДСОБРАННЫЙ llama-cpp-python (самый свежий, с поддержкой mllama/Llama 3.2)
15
+ # Ссылка на официальный репозиторий с wheels для CPU
16
+ RUN pip install llama-cpp-python \
17
+ --extra-index-url https://abetlen.github.io/llama-cpp-python/whl/cpu
18
 
19
  RUN useradd -m -u 1000 user
20
  USER user