Update app.py

app.py

@@ -2,9 +2,10 @@ import os
 import subprocess
 import time
 import requests
+import threading
 from huggingface_hub import hf_hub_download
 from fastapi import FastAPI, Request
-from fastapi.responses import StreamingResponse
+from fastapi.responses import StreamingResponse, JSONResponse
 import uvicorn
 
 APP_DIR = "/app"
@@ -15,6 +16,9 @@ LLAMA_PORT = 8080
 
 os.makedirs(MODEL_DIR, exist_ok=True)
 
+# متغير عام لتتبع حالة الخادم الداخلي
+backend_ready = False
+
 
 def build_llama_cpp():
     """بناء llama.cpp من المصدر إن لم يكن الملف التنفيذي موجودًا مسبقًا."""
@@ -90,22 +94,41 @@ def wait_for_server(timeout_seconds: int = 180):
     print("[run] تحذير: انتهت مهلة الانتظار، سيتم المتابعة رغم ذلك.")
 
 
-# ---------------------------------------------------------------------------
-# التنفيذ عند بدء التطبيق
-# ---------------------------------------------------------------------------
-build_llama_cpp()
-model_path, mmproj_path = download_model()
-llama_process = start_llama_server(model_path, mmproj_path)
-wait_for_server()
+def setup_backend():
+    """هذه الدالة تقوم بتجميع وتنزيل وتشغيل النموذج، وستعمل في الخلفية."""
+    global backend_ready
+    try:
+        build_llama_cpp()
+        model_path, mmproj_path = download_model()
+        start_llama_server(model_path, mmproj_path)
+        wait_for_server()
+        backend_ready = True
+        print("[setup] اكتمل إعداد النموذج وهو جاهز الآن لاستقبال الطلبات.")
+    except Exception as e:
+        print(f"[setup] حدث خطأ أثناء إعداد النموذج: {e}")
+
 
 # ---------------------------------------------------------------------------
-# Reverse proxy: أي طلب يصل إلى منفذ المساحة يُمرَّر مباشرة إلى واجهة llama.cpp
+# إعداد الواجهة (تطبيق FastAPI)
 # ---------------------------------------------------------------------------
 app = FastAPI()
 
+@app.on_event("startup")
+def startup_event():
+    # تشغيل عملية التنزيل والبناء في مسار منفصل (Thread)
+    # هذا يضمن أن يعمل تطبيق FastAPI فوراً دون انتظار التنزيل
+    thread = threading.Thread(target=setup_backend)
+    thread.start()
 
 @app.api_route("/{path:path}", methods=["GET", "POST", "PUT", "DELETE", "OPTIONS"])
 async def proxy(path: str, request: Request):
+    # إذا لم يكتمل تنزيل النموذج بعد، يتم إرجاع رسالة توضيحية بدلاً من خطأ اتصال
+    if not backend_ready:
+        return JSONResponse(
+            status_code=503,
+            content={"error": "النموذج لا يزال قيد التنزيل والإعداد في الخلفية. يرجى المحاولة بعد قليل."}
+        )
+
     url = f"http://127.0.0.1:{LLAMA_PORT}/{path}"
     body = await request.body()
     forward_headers = {
@@ -133,4 +156,4 @@ async def proxy(path: str, request: Request):
 
 if __name__ == "__main__":
     port = int(os.environ.get("PORT", 7860))
-    uvicorn.run(app, host="0.0.0.0", port=port)
+    uvicorn.run(app, host="0.0.0.0", port=port)