Update app.py

app.py

@@ -1,7 +1,6 @@
 import subprocess
 import time
 import requests
-import json
 import os
 import gradio as gr
 from huggingface_hub import hf_hub_download
@@ -13,6 +12,7 @@ MODEL_PATH = hf_hub_download(
     repo_id="LiquidAI/LFM2.5-350M-GGUF",
     filename="LFM2.5-350M-Q8_0.gguf"
 )
+
 print("Model downloaded:", MODEL_PATH)
 
 # =========================
@@ -21,25 +21,51 @@ print("Model downloaded:", MODEL_PATH)
 server = subprocess.Popen([
     "./llama/llama-server",
     "-m", MODEL_PATH,
-    "-c", "8192",       # reduced from 50024 → much faster prefill
-    "-t", "4",          # match real CPU cores; 8 often over-subscribes
-    "-b", "1024",       # doubled batch size
-    "-ub", "512",
+
+    # smaller context to fit the 350M model memory footprint
+    "-c", "5024",
+
+    # use more CPU threads
+    "-t", "8",
+
+    # batch processing
+    "-b", "512",
+
+    # no GPU on free CPU spaces
     "-ngl", "0",
+
     "--host", "0.0.0.0",
-    "--port", "8080",
-            # avoids page-fault stalls on cold reads
+    "--port", "8080"
 ])
 
-print("Starting llama-server, waiting 8 seconds...")
-time.sleep(8)
+# Wait for the server to spin up
+print("Starting llama-server, waiting 10 seconds...")
+time.sleep(10)
+
 
 # =========================
-# 3. SYSTEM PROMPT (built once, not on every call)
+# 3. GRADIO CHAT FUNCTION
 # =========================
-SYSTEM_PROMPT = """أنت مستشار وباحث قانوني أول، متخصص في المنظومة القضائية والتشريعية بالجمهورية الجزائرية الديمقراطية الشعبية. مهمتك الأساسية هي اعطاء الجريمة.
-
-
+def chat(user_fact, history):
+    # نظام التوجيه القانوني المكثف لتوفير حجم الذاكرة (Context Window)
+    system_prompt = """أنت مستشار وباحث قانوني أول، متخصص في المنظومة القضائية والتشريعية بالجمهورية الجزائرية الديمقراطية الشعبية. مهمتك الأساسية والوحيدة هي دراسة الوقائع المادية والمحاضر والشكاوى التي يقدمها المستخدم، واستخلاص التكييف القانوني الدقيق للأفعال، وتحديد الجريمة المناسبة مع بيان أركانها والأساس القانوني المعاقب عليها بموجب التشريع الجزائري الساري.
+---
+### أولاً: المنهجية القانونية الصارمة للتحليل:
+عند استقبالك لأي واقعة أو محضر، يجب عليك اتباع الخطوات التحليلية التالية داخلياً قبل صياغة الإجابة:
+1. **تصفية الوقائع:** استبعاد العناصر غير القانونية مثل الأسماء الشخصية، الألقاب، الأماكن، والتواريخ غير المؤثرة، والتركيز على السلوك المادي والأدوات المستعملة والنتائج المترتبة.
+2. **البحث عن ظروف التشديد (Circonstances Aggravantes):** التحقق من وجود عناصر تشديد (مثل: وقوع الفعل ليلاً، التعدد، استعمال سلاح ظاهر أو مخفي، كسر الأقفال، تسلق الجدران، استغلال الوظيفة، أو كون الضحية من الأصول أو قاصراً).
+3. **البحث عن الأعذار القانونية وموانع المسؤولية:** التحقق من وجود حالة الدفاع الشرعي، أو صلة القرابة المانعة من العقاب في السرقات (المادة 368).
+4. **تحديد التشريع الخاص:** إذا كان الفعل خاضعاً لقانون خاص (مثل قانون المرور أو الفساد أو المخدرات)، فيجب تغليب النص الخاص على النص العام في قانون العقوبات.
+---
+### ثانياً: قواعد المخرجات الصارمة:
+- يمنع منعاً باتاً كتابة أي أسماء حقيقية، أو ألقاب، أو مواقع جغرافية محددة في المخرجات.
+- يجب الالتزام بالهيكل الموحد المذكور أدناه دون أي مقدمات ترحيبية أو تعليقات جانبية.
+- صياغة الإجابة يجب أن تكون باللغة العربية الفصحى القانونية السليمة.
+الهيكل الإلزامي للمخرجات:
+الجريمة: [الوصف القانوني الدقيق للجريمة بذكر تكييفها وطبيعتها وظروفها]
+النص القانوني: [المواد القانونية المعاقب عليها واسم القانون بدقة]
+---
+### ثالثاً: قاعدة البيانات المرجعية للجرائم (أمثلة توضيحية للتعلم):
 #### 1. الجرائم ضد الأشخاص (الاعتداءات، الجروح، التهديد، الخطف):
 - الفعل: قيام الجاني بضرب الشاكي بواسطة عصى خشب��ة على مستوى الرأس، مسبباً له عجزاً عن العمل لمدة 20 يوماً.
   الجريمة: جنحة الضرب والجرح العمدي باستعمال سلاح.
@@ -56,7 +82,7 @@ SYSTEM_PROMPT = """أنت مستشار وباحث قانوني أول، متخص
 - الفعل: قيام أشخاص باختطاف طفل قاصر واحتجازه في مستودع لطلب فدية مالية من أهله.
   الجريمة: جناية الاختطاف بدافع طلب فدية.
   النص القانوني: المادة 293 bis من قانون العقوبات.
-- الفعل: اتهام سليم لزميله بالسرقة أمام الشاكي مع علمه التام ببراءته بهدف تشويه سمعته.
+- الفعل: اتهام سليم لزميله بالسرقة أمام الشرطة مع علمه التام ببراءته بهدف تشويه سمعته.
   الجريمة: جنحة الوشاية الكاذبة.
   النص القانوني: المادة 300 من قانون العقوبات.
 #### 2. الجرائم ضد الأموال (السرقات، النصب، خيانة الأمانة، التخريب):
@@ -106,62 +132,42 @@ SYSTEM_PROMPT = """أنت مستشار وباحث قانوني أول، متخص
 ---
 قم بدراسة وتحليل الواقعة التالية بدقة متناهية، ثم استخرج مخرجاتك القانونية ملتزماً بالصياغة القانونية والهيكل الموحد المعتمد:"""
 
-# =========================
-# 4. GRADIO CHAT FUNCTION — streaming
-# =========================
-def chat(user_fact, history):
+    # دمج التوجيهات مع الواقعة التي أدخلها المستخدم حالياً
+    full_prompt = (
+        f"{system_prompt}\n\n"
+        f"الفعل: {user_fact}\n"
+        f"الرد:"
+    )
+
     payload = {
         "messages": [
-            {"role": "system", "content": SYSTEM_PROMPT},
-            {"role": "user",   "content": f"الفعل: {user_fact}"}
-        ],
-        "stream": True,
-        "temperature": 0.9,   # low = more deterministic / accurate
-        "top_p": 0.9,
-        "max_tokens": 512,    # legal output is short; cap prevents runaway gen
-        "repeat_penalty": 1.1,
+            {"role": "user", "content": full_prompt}
+        ]
     }
 
     try:
         r = requests.post(
             "http://127.0.0.1:8080/v1/chat/completions",
             json=payload,
-            stream=True,
-            timeout=120
+            timeout=300
         )
         r.raise_for_status()
-
-        result = ""
-        for raw in r.iter_lines():
-            if not raw:
-                continue
-            line = raw if isinstance(raw, str) else raw.decode("utf-8")
-            if not line.startswith("data: "):
-                continue
-            data = line[6:]
-            if data.strip() == "[DONE]":
-                break
-            try:
-                chunk = json.loads(data)
-                delta = chunk["choices"][0]["delta"].get("content") or ""
-                result += delta
-                yield result      # streams tokens live to Gradio
-            except (KeyError, json.JSONDecodeError):
-                continue
-
+        return r.json()["choices"][0]["message"]["content"].strip()
     except Exception as e:
-        yield f"حدث خطأ أثناء الاتصال بالخادم الداخلي: {str(e)}"
-
+        return f"حدث خطأ أثناء الاتصال بالخادم الداخلي: {str(e)}"
 
 # =========================
-# 5. GRADIO UI
+# 4. GRADIO UI
 # =========================
+# تم تهيئة واجهة المستخدم للتركيز على إدخال الوقائع واستخراج التكييف القانوني
 demo = gr.ChatInterface(
     fn=chat,
     title="مساعد تكييف الجرائم - قانون العقوبات الجزائري",
-    description="أدخل تفاصيل الواقعة أو الفعل، وسيقوم النظام بتحديد الوصف القانوني للجريمة والمادة المعاقب عليها.",
-
+    description="أدخل تفاصيل الواقعة أو الفعل، وسيقوم النظام بتحديد الوصف القانوني للجريمة والمادة المعاقب عليها."
 )
 
 if __name__ == "__main__":
-    demo.launch(server_name="0.0.0.0", server_port=7860)
+    demo.launch(
+        server_name="0.0.0.0",
+        server_port=7860
+    )