Commit ·
6f85038
1
Parent(s): bc1be15
Add updated Dockerfile and app.py with proper cache handling
Browse files
app.py
CHANGED
|
@@ -4,15 +4,28 @@ from pydantic import BaseModel
|
|
| 4 |
from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
|
| 5 |
from llama_cpp import Llama
|
| 6 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 7 |
app = FastAPI(
|
| 8 |
title="MGZON Smart Assistant",
|
| 9 |
-
description="دمج نموذج T5 المدرب مع Mistral
|
| 10 |
)
|
| 11 |
|
| 12 |
# -------------------------------------------------
|
| 13 |
# 1️⃣ تحميل نموذج T5 المدرب من Hub
|
| 14 |
# -------------------------------------------------
|
| 15 |
-
T5_REPO = "MGZON/mgzon-flan-t5-base" # إذا رفعت النموذج إلى مستودع آخر ا
|
| 16 |
t5_tokenizer = AutoTokenizer.from_pretrained(T5_REPO)
|
| 17 |
t5_model = AutoModelForSeq2SeqLM.from_pretrained(T5_REPO)
|
| 18 |
|
|
@@ -20,35 +33,46 @@ t5_model = AutoModelForSeq2SeqLM.from_pretrained(T5_REPO)
|
|
| 20 |
# 2️⃣ تحميل ملف Mistral .gguf (تم تنزيله بواسطة setup.sh)
|
| 21 |
# -------------------------------------------------
|
| 22 |
gguf_path = os.path.abspath("models/mistral-7b-instruct-v0.1.Q4_K_M.gguf")
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 23 |
mistral = Llama(
|
| 24 |
model_path=gguf_path,
|
| 25 |
n_ctx=2048,
|
| 26 |
-
n_threads=8, # عدد الـ threads المتاح داخل Space (CPU)
|
| 27 |
# إذا كان لديك GPU داخل Space يمكنك إضافة n_gpu_layers=35
|
| 28 |
)
|
| 29 |
|
| 30 |
# -------------------------------------------------
|
| 31 |
-
#
|
| 32 |
# -------------------------------------------------
|
| 33 |
class AskRequest(BaseModel):
|
| 34 |
question: str
|
| 35 |
-
max_new_tokens: int = 150
|
| 36 |
|
|
|
|
|
|
|
|
|
|
| 37 |
@app.post("/ask")
|
| 38 |
def ask(req: AskRequest):
|
| 39 |
q = req.question.strip()
|
| 40 |
if not q:
|
| 41 |
raise HTTPException(status_code=400, detail="Empty question")
|
| 42 |
|
| 43 |
-
# اختيار النموذج
|
|
|
|
| 44 |
if any(tok in q.lower() for tok in ["mgzon", "flan", "t5"]):
|
| 45 |
-
# --------- T5 ----------
|
| 46 |
inputs = t5_tokenizer(q, return_tensors="pt", truncation=True, max_length=256)
|
| 47 |
out_ids = t5_model.generate(**inputs, max_length=req.max_new_tokens)
|
| 48 |
answer = t5_tokenizer.decode(out_ids[0], skip_special_tokens=True)
|
| 49 |
model_name = "MGZON‑FLAN‑T5"
|
| 50 |
else:
|
| 51 |
-
# --------- Mistral ----------
|
| 52 |
out = mistral(prompt=q, max_tokens=req.max_new_tokens)
|
| 53 |
answer = out["choices"][0]["text"].strip()
|
| 54 |
model_name = "Mistral‑7B‑GGUF"
|
|
|
|
| 4 |
from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
|
| 5 |
from llama_cpp import Llama
|
| 6 |
|
| 7 |
+
# -------------------------------------------------
|
| 8 |
+
# إعداد مسار الـ cache (فقط إذا لم يكن معرفًا سلفًا)
|
| 9 |
+
# -------------------------------------------------
|
| 10 |
+
CACHE_DIR = "/app/.cache" # نفس المسار الذي عرّفته في Dockerfile
|
| 11 |
+
os.makedirs(CACHE_DIR, exist_ok=True)
|
| 12 |
+
|
| 13 |
+
# تأكد من أن المكتبتين تقرأ المتغيّرات البيئية
|
| 14 |
+
os.environ.setdefault("TRANSFORMERS_CACHE", CACHE_DIR)
|
| 15 |
+
os.environ.setdefault("HF_HOME", CACHE_DIR)
|
| 16 |
+
|
| 17 |
+
# -------------------------------------------------
|
| 18 |
+
# إنشاء التطبيق
|
| 19 |
+
# -------------------------------------------------
|
| 20 |
app = FastAPI(
|
| 21 |
title="MGZON Smart Assistant",
|
| 22 |
+
description="دمج نموذج T5 المدرب مع Mistral‑7B (GGUF) داخل Space"
|
| 23 |
)
|
| 24 |
|
| 25 |
# -------------------------------------------------
|
| 26 |
# 1️⃣ تحميل نموذج T5 المدرب من Hub
|
| 27 |
# -------------------------------------------------
|
| 28 |
+
T5_REPO = "MGZON/mgzon-flan-t5-base" # إذا رفعت النموذج إلى مستودع آخر غير هذا غير الاسم
|
| 29 |
t5_tokenizer = AutoTokenizer.from_pretrained(T5_REPO)
|
| 30 |
t5_model = AutoModelForSeq2SeqLM.from_pretrained(T5_REPO)
|
| 31 |
|
|
|
|
| 33 |
# 2️⃣ تحميل ملف Mistral .gguf (تم تنزيله بواسطة setup.sh)
|
| 34 |
# -------------------------------------------------
|
| 35 |
gguf_path = os.path.abspath("models/mistral-7b-instruct-v0.1.Q4_K_M.gguf")
|
| 36 |
+
if not os.path.exists(gguf_path):
|
| 37 |
+
# في حالة عدم وجود الملف (مثلاً إذا لم يُنفّذ setup.sh) نُظهر رسالة واضحة
|
| 38 |
+
raise RuntimeError(
|
| 39 |
+
f"ملف Mistral .gguf غير موجود في {gguf_path}. "
|
| 40 |
+
"تأكد من أن ملف setup.sh تم تنفيذه أثناء الـ build."
|
| 41 |
+
)
|
| 42 |
+
|
| 43 |
mistral = Llama(
|
| 44 |
model_path=gguf_path,
|
| 45 |
n_ctx=2048,
|
| 46 |
+
n_threads=8, # عدد الـ threads المتاح داخل Space (CPU فقط)
|
| 47 |
# إذا كان لديك GPU داخل Space يمكنك إضافة n_gpu_layers=35
|
| 48 |
)
|
| 49 |
|
| 50 |
# -------------------------------------------------
|
| 51 |
+
# تعريف شكل الطلب (JSON)
|
| 52 |
# -------------------------------------------------
|
| 53 |
class AskRequest(BaseModel):
|
| 54 |
question: str
|
| 55 |
+
max_new_tokens: int = 150 # عدد الكلمات التي تريد استخراجها (يمكن تعديلها)
|
| 56 |
|
| 57 |
+
# -------------------------------------------------
|
| 58 |
+
# نقطة النهاية /ask
|
| 59 |
+
# -------------------------------------------------
|
| 60 |
@app.post("/ask")
|
| 61 |
def ask(req: AskRequest):
|
| 62 |
q = req.question.strip()
|
| 63 |
if not q:
|
| 64 |
raise HTTPException(status_code=400, detail="Empty question")
|
| 65 |
|
| 66 |
+
# منطق بسيط لاختيار النموذج:
|
| 67 |
+
# إذا احتوى السؤال على كلمة مفتاحية نستخدم T5، وإلا نستخدم Mistral
|
| 68 |
if any(tok in q.lower() for tok in ["mgzon", "flan", "t5"]):
|
| 69 |
+
# --------- نموذج T5 ----------
|
| 70 |
inputs = t5_tokenizer(q, return_tensors="pt", truncation=True, max_length=256)
|
| 71 |
out_ids = t5_model.generate(**inputs, max_length=req.max_new_tokens)
|
| 72 |
answer = t5_tokenizer.decode(out_ids[0], skip_special_tokens=True)
|
| 73 |
model_name = "MGZON‑FLAN‑T5"
|
| 74 |
else:
|
| 75 |
+
# --------- نموذج Mistral ----------
|
| 76 |
out = mistral(prompt=q, max_tokens=req.max_new_tokens)
|
| 77 |
answer = out["choices"][0]["text"].strip()
|
| 78 |
model_name = "Mistral‑7B‑GGUF"
|