ibrahimlasfar commited on
Commit
6f85038
·
1 Parent(s): bc1be15

Add updated Dockerfile and app.py with proper cache handling

Browse files
Files changed (1) hide show
  1. app.py +32 -8
app.py CHANGED
@@ -4,15 +4,28 @@ from pydantic import BaseModel
4
  from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
5
  from llama_cpp import Llama
6
 
 
 
 
 
 
 
 
 
 
 
 
 
 
7
  app = FastAPI(
8
  title="MGZON Smart Assistant",
9
- description="دمج نموذج T5 المدرب مع Mistral 7B (GGUF) داخل Space"
10
  )
11
 
12
  # -------------------------------------------------
13
  # 1️⃣ تحميل نموذج T5 المدرب من Hub
14
  # -------------------------------------------------
15
- T5_REPO = "MGZON/mgzon-flan-t5-base" # إذا رفعت النموذج إلى مستودع آخر استبدل الاسم
16
  t5_tokenizer = AutoTokenizer.from_pretrained(T5_REPO)
17
  t5_model = AutoModelForSeq2SeqLM.from_pretrained(T5_REPO)
18
 
@@ -20,35 +33,46 @@ t5_model = AutoModelForSeq2SeqLM.from_pretrained(T5_REPO)
20
  # 2️⃣ تحميل ملف Mistral .gguf (تم تنزيله بواسطة setup.sh)
21
  # -------------------------------------------------
22
  gguf_path = os.path.abspath("models/mistral-7b-instruct-v0.1.Q4_K_M.gguf")
 
 
 
 
 
 
 
23
  mistral = Llama(
24
  model_path=gguf_path,
25
  n_ctx=2048,
26
- n_threads=8, # عدد الـ threads المتاح داخل Space (CPU)
27
  # إذا كان لديك GPU داخل Space يمكنك إضافة n_gpu_layers=35
28
  )
29
 
30
  # -------------------------------------------------
31
- # 3️⃣ طلب API
32
  # -------------------------------------------------
33
  class AskRequest(BaseModel):
34
  question: str
35
- max_new_tokens: int = 150
36
 
 
 
 
37
  @app.post("/ask")
38
  def ask(req: AskRequest):
39
  q = req.question.strip()
40
  if not q:
41
  raise HTTPException(status_code=400, detail="Empty question")
42
 
43
- # اختيار النموذج بناءً على كلمة مفتاحية (يمكنك تعديل المنطق)
 
44
  if any(tok in q.lower() for tok in ["mgzon", "flan", "t5"]):
45
- # --------- T5 ----------
46
  inputs = t5_tokenizer(q, return_tensors="pt", truncation=True, max_length=256)
47
  out_ids = t5_model.generate(**inputs, max_length=req.max_new_tokens)
48
  answer = t5_tokenizer.decode(out_ids[0], skip_special_tokens=True)
49
  model_name = "MGZON‑FLAN‑T5"
50
  else:
51
- # --------- Mistral ----------
52
  out = mistral(prompt=q, max_tokens=req.max_new_tokens)
53
  answer = out["choices"][0]["text"].strip()
54
  model_name = "Mistral‑7B‑GGUF"
 
4
  from transformers import AutoTokenizer, AutoModelForSeq2SeqLM
5
  from llama_cpp import Llama
6
 
7
+ # -------------------------------------------------
8
+ # إعداد مسار الـ cache (فقط إذا لم يكن معرفًا سلفًا)
9
+ # -------------------------------------------------
10
+ CACHE_DIR = "/app/.cache" # نفس المسار الذي عرّفته في Dockerfile
11
+ os.makedirs(CACHE_DIR, exist_ok=True)
12
+
13
+ # تأكد من أن المكتبتين تقرأ المتغيّرات البيئية
14
+ os.environ.setdefault("TRANSFORMERS_CACHE", CACHE_DIR)
15
+ os.environ.setdefault("HF_HOME", CACHE_DIR)
16
+
17
+ # -------------------------------------------------
18
+ # إنشاء التطبيق
19
+ # -------------------------------------------------
20
  app = FastAPI(
21
  title="MGZON Smart Assistant",
22
+ description="دمج نموذج T5 المدرب مع Mistral7B (GGUF) داخل Space"
23
  )
24
 
25
  # -------------------------------------------------
26
  # 1️⃣ تحميل نموذج T5 المدرب من Hub
27
  # -------------------------------------------------
28
+ T5_REPO = "MGZON/mgzon-flan-t5-base" # إذا رفعت النموذج إلى مستودع آخر غير هذا غير الاسم
29
  t5_tokenizer = AutoTokenizer.from_pretrained(T5_REPO)
30
  t5_model = AutoModelForSeq2SeqLM.from_pretrained(T5_REPO)
31
 
 
33
  # 2️⃣ تحميل ملف Mistral .gguf (تم تنزيله بواسطة setup.sh)
34
  # -------------------------------------------------
35
  gguf_path = os.path.abspath("models/mistral-7b-instruct-v0.1.Q4_K_M.gguf")
36
+ if not os.path.exists(gguf_path):
37
+ # في حالة عدم وجود الملف (مثلاً إذا لم يُنفّذ setup.sh) نُظهر رسالة واضحة
38
+ raise RuntimeError(
39
+ f"ملف Mistral .gguf غير موجود في {gguf_path}. "
40
+ "تأكد من أن ملف setup.sh تم تنفيذه أثناء الـ build."
41
+ )
42
+
43
  mistral = Llama(
44
  model_path=gguf_path,
45
  n_ctx=2048,
46
+ n_threads=8, # عدد الـ threads المتاح داخل Space (CPU فقط)
47
  # إذا كان لديك GPU داخل Space يمكنك إضافة n_gpu_layers=35
48
  )
49
 
50
  # -------------------------------------------------
51
+ # تعريف شكل الطلب (JSON)
52
  # -------------------------------------------------
53
  class AskRequest(BaseModel):
54
  question: str
55
+ max_new_tokens: int = 150 # عدد الكلمات التي تريد استخراجها (يمكن تعديلها)
56
 
57
+ # -------------------------------------------------
58
+ # نقطة النهاية /ask
59
+ # -------------------------------------------------
60
  @app.post("/ask")
61
  def ask(req: AskRequest):
62
  q = req.question.strip()
63
  if not q:
64
  raise HTTPException(status_code=400, detail="Empty question")
65
 
66
+ # منطق بسيط لاختيار النموذج:
67
+ # إذا احتوى السؤال على كلمة مفتاحية نستخدم T5، وإلا نستخدم Mistral
68
  if any(tok in q.lower() for tok in ["mgzon", "flan", "t5"]):
69
+ # --------- نموذج T5 ----------
70
  inputs = t5_tokenizer(q, return_tensors="pt", truncation=True, max_length=256)
71
  out_ids = t5_model.generate(**inputs, max_length=req.max_new_tokens)
72
  answer = t5_tokenizer.decode(out_ids[0], skip_special_tokens=True)
73
  model_name = "MGZON‑FLAN‑T5"
74
  else:
75
+ # --------- نموذج Mistral ----------
76
  out = mistral(prompt=q, max_tokens=req.max_new_tokens)
77
  answer = out["choices"][0]["text"].strip()
78
  model_name = "Mistral‑7B‑GGUF"