Update app.py

app.py

@@ -1,22 +1,39 @@
 import gradio as gr
 from huggingface_hub import hf_hub_download
 from llama_cpp import Llama
+import os
 
-# তোমার নিজের রিপো থেকে GGUF মডেল লোড
+# ১. মডেল ডাউনলোড
+print("⏳ মডেল ডাউনলোড হচ্ছে...")
 model_path = hf_hub_download(
     repo_id="saiful-ai-dev/MotionMindX", 
     filename="Qwen2.5-3B-Instruct-Q4_K_M.gguf"
 )
 
-# মডেল সেটআপ (threads বাড়িয়ে দিলাম স্পিড পাওয়ার জন্য)
-llm = Llama(model_path=model_path, n_ctx=2048, n_threads=2)
+# ২. মডেল সেটআপ (অল্প র‍্যাম ব্যবহারের জন্য সেটিংস)
+print("🚀 মডেল মেমরিতে লোড হচ্ছে...")
+llm = Llama(
+    model_path=model_path,
+    n_ctx=1024,      # কনটেক্সট উইন্ডো কিছুটা কমালাম যাতে ক্রাশ না করে
+    n_threads=2,     # ফ্রি সিপিপিইউ-র জন্য ২ থ্রেড পারফেক্ট
+    n_gpu_layers=0   # যেহেতু আমাদের জিপিইউ নেই
+)
 
 def respond(message, history):
-    prompt = f"<|im_start|>system\nYou are Motion Mind X, a helpful tutor.<|im_end|>\n<|im_start|>user\n{message}<|im_end|>\n<|im_start|>assistant\n"
-    response = llm(prompt, max_tokens=512, stop=["<|im_end|>"], echo=False)
+    # প্রম্পট ফরম্যাট
+    prompt = f"<|im_start|>system\nYou are Motion Mind X, a friendly SSC/HSC tutor from Bangladesh. Respond in Bengali or English as appropriate.<|im_end|>\n<|im_start|>user\n{message}<|im_end|>\n<|im_start|>assistant\n"
+    
+    # জেনারেশন
+    response = llm(
+        prompt, 
+        max_tokens=256, 
+        stop=["<|im_end|>", "user:", "assistant:"], 
+        echo=False
+    )
     return response['choices'][0]['text']
 
-demo = gr.ChatInterface(respond, title="Motion Mind X 🚀 (GGUF Mode)")
+# ৩. ইন্টারফেস লঞ্চ
+demo = gr.ChatInterface(respond, title="Motion Mind X 🚀")
 
 if __name__ == "__main__":
-    demo.launch()
+    demo.launch(server_name="0.0.0.0", server_port=7860)