Spaces:
Runtime error
Runtime error
File size: 661 Bytes
1f341a3 2008d7f 1f341a3 2f62d28 1f341a3 c905108 2f62d28 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 |
# ⚠️ هنا السر: حددنا الإصدار 0.2.90 بدل latest اللي كانت بايظة
# الصورة دي موجودة وسليمة 100% وفيها السيرفر جاهز
FROM ghcr.io/abetlen/llama-cpp-python:v0.3.5
# 1. متغيرات الموديل بتاعك
ENV HF_REPO_ID="yut23387/Llama-3-8B-Merged-Model-Q4_K_M-GGUF"
ENV HF_MODEL_FILE="llama-3-8b-merged-model-q4_k_m.gguf"
# 2. أمر التشغيل (السيرفر جاهز جوا الصورة مش محتاج تسطيب)
CMD python3 -m llama_cpp.server \
--model_hf_repo_id $HF_REPO_ID \
--model_hf_file $HF_MODEL_FILE \
--host 0.0.0.0 \
--port 7860 \
--n_ctx 8192 |