koh1018 commited on
Commit
f2b9596
·
1 Parent(s): 43bf256

하드웨어 가속 옵션 끄기

Browse files
Files changed (1) hide show
  1. Dockerfile +5 -0
Dockerfile CHANGED
@@ -20,6 +20,11 @@ ENV PATH="/home/user/.local/bin:${PATH}"
20
  # 7. requirements.txt 파일을 복사하고 라이브러리를 설치.
21
  # 이제 user가 /app 폴더의 주인이므로 --chown 플래그는 필요 없음.
22
  COPY ./requirements.txt requirements.txt
 
 
 
 
 
23
  RUN pip install --no-cache-dir --upgrade -r requirements.txt
24
 
25
  # 8. 나머지 모든 소스 코드를 작업 폴더에 복사.
 
20
  # 7. requirements.txt 파일을 복사하고 라이브러리를 설치.
21
  # 이제 user가 /app 폴더의 주인이므로 --chown 플래그는 필요 없음.
22
  COPY ./requirements.txt requirements.txt
23
+
24
+ # llama-cpp-python을 설치할 때, 불필요한 하드웨어 가속 옵션을 모두 끄고
25
+ # 가장 기본적인 CPU 버전으로만 컴파일하도록 지시하여 리소스 초과를 막음.
26
+ ARG CMAKE_ARGS="-DLLAMA_CUBLAS=OFF -DLLAMA_HIPBLAS=OFF -DLLAMA_OPENBLAS=OFF"
27
+
28
  RUN pip install --no-cache-dir --upgrade -r requirements.txt
29
 
30
  # 8. 나머지 모든 소스 코드를 작업 폴더에 복사.