Dockerfile

# 1. 파이썬 이미지를 지정.
FROM python:3.9

# 2. C++ 컴파일러(gcc/g++) 버전 11과 필수 빌드 도구들을 설치.
RUN apt-get update && apt-get install -y build-essential gcc-11 g++-11 cmake

# 3. 파이썬의 패키지 설치 도구(pip) 자체를 최신 버전으로 업그레이드.
RUN python3 -m pip install --upgrade pip setuptools wheel

# 4. 컨테이너 내부에 코드를 저장할 작업 폴더를 만듦.
WORKDIR /app

# 5. 보안을 위해 권한이 제한된 사용자(user)를 생성하고 소유권을 이전.
RUN useradd -m -u 1000 user
RUN chown -R user:user /app
USER user

# 6. 환경 변수를 설정.
ENV PATH="/home/user/.local/bin:${PATH}"

# 7. requirements.txt 파일을 복사.
COPY --chown=user ./requirements.txt requirements.txt

# 8. llama-cpp-python을 '똑똑하게' 설치하기 위한 모든 옵션을 설정.
#    - CMAKE_ARGS: 불필요한 GPU 옵션을 모두 끔.
#    - FORCE_CMAKE=1: CMake를 강제로 사용하도록 함.
#    - CC/CXX: 방금 설치한 gcc-11/g++-11을 컴파일러로 명시적으로 지정.
ARG CMAKE_ARGS="-DLLAMA_CUBLAS=OFF -DLLAMA_HIPBLAS=OFF -DLLAMA_OPENBLAS=OFF"
ENV FORCE_CMAKE=1
ENV CC=gcc-11
ENV CXX=g++-11

# 9. 라이브러리 설치.
RUN pip install --no-cache-dir --upgrade -r /code/requirements.txt

# 10. 나머지 모든 소스 코드를 작업 폴더에 복사.
COPY --chown=user . /app

# 11. 모든 준비가 끝나면, 서버를 실행.
CMD ["uvicorn", "app:app", "--host", "0.0.0.0", "--port", "7860"]