QJMKWB commited on
Commit
20d37b0
·
verified ·
1 Parent(s): 3d088d0

Update Dockerfile

Browse files
Files changed (1) hide show
  1. Dockerfile +9 -9
Dockerfile CHANGED
@@ -1,7 +1,8 @@
1
  FROM python:3.10-slim
2
 
3
- # Potrebujeme curl na stiahnutie, nič viac
4
  RUN apt-get update && apt-get install -y \
 
5
  curl \
6
  && rm -rf /var/lib/apt/lists/*
7
 
@@ -13,16 +14,15 @@ ENV HOME=/home/user \
13
 
14
  WORKDIR $HOME/app
15
 
16
- # 1. Inštalácia hotovej binárky (tá, ktorú si vybral)
17
- RUN pip install --no-cache-dir \
18
- https://github.com/abetlen/llama-cpp-python/releases/download/v0.3.1/llama_cpp_python-0.3.1-cp310-cp310-linux_x86_64.whl
19
-
20
- # 2. Inštalácia serverových doplnkov (vyžaduje už nainštalované llama-cpp-python)
21
- RUN pip install --no-cache-dir sse-starlette starlette-context pydantic-settings fastapi uvicorn
22
-
23
- # 3. Zvyšok tvojich knižníc
24
  RUN pip install --no-cache-dir huggingface_hub hf_transfer
25
 
 
 
 
 
 
 
26
  COPY --chown=user app.py .
27
 
28
  CMD ["python", "app.py"]
 
1
  FROM python:3.10-slim
2
 
3
+ # Základné knižnice, ktoré Debian potrebuje na beh binárnych knižníc
4
  RUN apt-get update && apt-get install -y \
5
+ libgomp1 \
6
  curl \
7
  && rm -rf /var/lib/apt/lists/*
8
 
 
14
 
15
  WORKDIR $HOME/app
16
 
17
+ # 1. Nainštalujeme hf_transfer pre rýchle sťahovanie modelu
 
 
 
 
 
 
 
18
  RUN pip install --no-cache-dir huggingface_hub hf_transfer
19
 
20
+ # 2. KLÚČOVÝ KROK: Inštalácia predkompilovanej binárky pre GLIBC (Debian)
21
+ # Táto URL obsahuje správne "manylinux" kolesá, ktoré nebudú hľadať musl
22
+ RUN pip install llama-cpp-python[server] \
23
+ --extra-index-url https://abetlen.github.io/llama-cpp-python/whl/cpu \
24
+ --no-cache-dir
25
+
26
  COPY --chown=user app.py .
27
 
28
  CMD ["python", "app.py"]