Arabic-AI-API / Dockerfile
yut23387's picture
Update Dockerfile
2008d7f verified
raw
history blame contribute delete
661 Bytes
# ⚠️ هنا السر: حددنا الإصدار 0.2.90 بدل latest اللي كانت بايظة
# الصورة دي موجودة وسليمة 100% وفيها السيرفر جاهز
FROM ghcr.io/abetlen/llama-cpp-python:v0.3.5
# 1. متغيرات الموديل بتاعك
ENV HF_REPO_ID="yut23387/Llama-3-8B-Merged-Model-Q4_K_M-GGUF"
ENV HF_MODEL_FILE="llama-3-8b-merged-model-q4_k_m.gguf"
# 2. أمر التشغيل (السيرفر جاهز جوا الصورة مش محتاج تسطيب)
CMD python3 -m llama_cpp.server \
--model_hf_repo_id $HF_REPO_ID \
--model_hf_file $HF_MODEL_FILE \
--host 0.0.0.0 \
--port 7860 \
--n_ctx 8192