Dockerfile

FROM python:3.10-slim

ENV PYTHONUNBUFFERED=1 \
    PIP_NO_CACHE_DIR=1 \
    HF_HUB_DISABLE_TELEMETRY=1 \
    # ép cache vào thư mục có quyền ghi
    HF_HOME=/data/hf \
    HF_HUB_CACHE=/data/hf/hub \
    TRANSFORMERS_CACHE=/data/hf/transformers \
    XDG_CACHE_HOME=/data/.cache

# tool cơ bản
RUN apt-get update && apt-get install -y git && rm -rf /var/lib/apt/lists/*

# Tạo thư mục cache và nới quyền ghi
RUN mkdir -p /data/hf/hub /data/hf/transformers /data/.cache && chmod -R 777 /data

# Quan trọng: pin numpy < 2 để tránh xung đột
RUN pip install --upgrade pip && pip install "numpy<2"

# Torch CPU (nếu bạn dùng GPU Space thì cài torch GPU, và bỏ extra-index-url)

RUN pip install torch --index-url https://download.pytorch.org/whl/cpu

# Lib cần thiết
RUN pip install fastapi uvicorn[standard] transformers accelerate sentencepiece huggingface_hub

WORKDIR /app
COPY requirements.txt /app/requirements.txt
RUN pip install -r /app/requirements.txt || true

COPY app.py /app/app.py

EXPOSE 7860
CMD ["uvicorn", "app:app", "--host", "0.0.0.0", "--port", "7860"]