File size: 661 Bytes
1f341a3
 
2008d7f
1f341a3
2f62d28
 
 
1f341a3
c905108
2f62d28
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
# ⚠️ هنا السر: حددنا الإصدار 0.2.90 بدل latest اللي كانت بايظة
# الصورة دي موجودة وسليمة 100% وفيها السيرفر جاهز
FROM ghcr.io/abetlen/llama-cpp-python:v0.3.5
# 1. متغيرات الموديل بتاعك
ENV HF_REPO_ID="yut23387/Llama-3-8B-Merged-Model-Q4_K_M-GGUF"
ENV HF_MODEL_FILE="llama-3-8b-merged-model-q4_k_m.gguf"

# 2. أمر التشغيل (السيرفر جاهز جوا الصورة مش محتاج تسطيب)
CMD python3 -m llama_cpp.server \
    --model_hf_repo_id $HF_REPO_ID \
    --model_hf_file $HF_MODEL_FILE \
    --host 0.0.0.0 \
    --port 7860 \
    --n_ctx 8192