Update app.py

app.py

@@ -21,7 +21,7 @@ def load_model():
         model_path = hf_hub_download(repo_id=MODEL_REPO, filename=MODEL_FILE)
         llm = Llama(
             model_path=model_path,
-            n_ctx=1536,
+            n_ctx=2048,          # متوازن مع 18GB RAM (يمكن رفعه لـ 3076 إذا توفرت رامات إضافية)
             n_threads=4,
             n_gpu_layers=0,
             use_mmap=True,
@@ -33,16 +33,40 @@ def load_model():
 def startup():
     load_model()
 
+def format_qwen_chat(messages: list, system_prompt: str) -> str:
+    """بناء قالب محادثة Qwen3 الصحيح مع حفظ السياق"""
+    prompt = f"<|im_start|>system\n{system_prompt}<|im_end|>\n"
+    # نحتفظ بآخر 5 رسائل فقط لتوفير سياق الذاكرة على السيرفر المجاني
+    history = messages[-5:] if len(messages) > 5 else messages
+    for msg in history:
+        role = "user" if msg["role"] == "user" else "assistant"
+        prompt += f"<|im_start|>{role}\n{msg['content']}<|im_end|>\n"
+    prompt += "<|im_start|>assistant\n"
+    return prompt
+
 async def generate_stream(messages: list, mode: str):
     system_prompt = build_system_prompt(mode)
-    user_msg = messages[-1]['content']
-    prompt = f"<|system|>\n{system_prompt}\n<|user|>\n{user_msg}\n<|assistant|>\n"
     
+    # وضع البحث: حقن النتائج بتعليمات واضحة
     if mode == "search":
-        search_res = search_web(user_msg)
-        prompt = f"<|system|>\n{system_prompt}\n<|user|>\n{user_msg}\n[SEARCH RESULTS]\n{search_res}\n<|assistant|>\n"
+        query = messages[-1]['content']
+        search_res = search_web(query)
+        # نضيف النتائج كرسالة نظام قبل آخر رسالة مستخدم
+        messages = messages.copy()
+        messages.insert(-1, {"role": "system", "content": f"[SEARCH RESULTS]\n{search_res}\n\nINSTRUCTION: Use the above results to answer accurately. If irrelevant, rely on your knowledge."})
 
-    for token in llm(prompt, max_tokens=1200, stop=["<|user|>", "<|end|>"], stream=True, temperature=0.7):
+    prompt = format_qwen_chat(messages, system_prompt)
+    
+    # إعدادات توليد محسنة لنماذج MoE الكبيرة
+    for token in llm(
+        prompt, 
+        max_tokens=2048, 
+        stop=["<|im_end|>", "<|user|>"], 
+        stream=True, 
+        temperature=0.7,
+        repeat_penalty=1.1,  # منع التكرار
+        top_p=0.9
+    ):
         yield json.dumps({"token": token["choices"][0]["text"]}) + "\n"
         await asyncio.sleep(0.01)