Update Dockerfile

Dockerfile

@@ -1,51 +1,72 @@
+# Используем легкий Python 3.10
 FROM python:3.10-slim
 
 # -------------------------
-# Базовые переменные
+# Настройки окружения
 # -------------------------
+# Не создавать .pyc файлы
 ENV PYTHONDONTWRITEBYTECODE=1
+# Вывод логов без буферизации (видим всё сразу)
 ENV PYTHONUNBUFFERED=1
 
-# Оптимизация сборки llama.cpp
-ENV CMAKE_ARGS="-DLLAMA_BLAS=OFF -DLLAMA_OPENMP=ON"
+# -------------------------
+# Настройки компиляции (САМОЕ ВАЖНОЕ)
+# -------------------------
+# 1. FORCE_CMAKE=1: Заставляет pip использовать CMake
+# 2. LLAMA_BLAS=ON: Включаем математическое ускорение
+# 3. LLAMA_BLAS_VENDOR=OpenBLAS: Указываем библиотеку ускорения
+# 4. LLAMA_OPENMP=ON: Включаем многопоточность
+ENV FORCE_CMAKE=1
+ENV CMAKE_ARGS="-DLLAMA_BLAS=ON -DLLAMA_BLAS_VENDOR=OpenBLAS -DLLAMA_OPENMP=ON"
+
+# Ограничиваем сборку 2 потоками, чтобы сервер HF не завис от нехватки памяти
 ENV MAKEFLAGS="-j2"
 
 WORKDIR /app
 
 # -------------------------
-# Системные зависимости
+# 1. Системные зависимости
 # -------------------------
+# Добавляем libopenblas-dev для ускорения
 RUN apt-get update && apt-get install -y \
     build-essential \
     cmake \
     git \
+    libopenblas-dev \
     && rm -rf /var/lib/apt/lists/*
 
 # -------------------------
-# Python зависимости
+# 2. Python зависимости
 # -------------------------
 RUN pip install --upgrade pip
 
 COPY requirements.txt .
+
+# Устанавливаем всё, КРОМЕ llama-cpp-python (чтобы не сбить кэш)
 RUN pip install --no-cache-dir -r requirements.txt
 
 # -------------------------
-# llama-cpp-python (сборка из исходников)
+# 3. Сборка llama-cpp-python
 # -------------------------
-RUN pip install --no-cache-dir llama-cpp-python
+# --no-binary: заставляет pip компилировать из исходников, используя наши ENV настройки
+RUN pip install --no-cache-dir --force-reinstall --no-binary llama-cpp-python llama-cpp-python
 
 # -------------------------
-# Код приложения
+# 4. Код приложения
 # -------------------------
 COPY . .
 
 # -------------------------
-# Папка для моделей
+# 5. Права доступа и папки
 # -------------------------
-RUN mkdir -p /app/models && chmod 777 /app/models
+# Создаем папки для моделей и кэша.
+# chmod 777 важно, так как HF запускает контейнер от имени пользователя user 1000, а не root.
+RUN mkdir -p /app/models && \
+    mkdir -p /app/cache_db && \
+    chmod -R 777 /app
 
 # -------------------------
-# Порт и запуск
+# 6. Запуск
 # -------------------------
 EXPOSE 7860