Update app.py

app.py

@@ -1,39 +1,36 @@
 import gradio as gr
-from huggingface_hub import hf_hub_download
-from llama_cpp import Llama
-import os
+from transformers import pipeline
+import torch
 
-# ১. মডেল ডাউনলোড
-print("⏳ মডেল ডাউনলোড হচ্ছে...")
-model_path = hf_hub_download(
-    repo_id="saiful-ai-dev/MotionMindX", 
-    filename="Qwen2.5-3B-Instruct-Q4_K_M.gguf"
-)
+# ৩বি মডেল লোড করার সবথেকে নিরাপদ উপায়
+model_id = "Qwen/Qwen2.5-3B-Instruct" 
+
+print("⏳ এআই টিউটর লোড হচ্ছে... এটি ২-৩ মিনিট সময় নেবে।")
 
-# ২. মডেল সেটআপ (অল্প র‍্যাম ব্যবহারের জন্য সেটিংস)
-print("🚀 মডেল মেমরিতে লোড হচ্ছে...")
-llm = Llama(
-    model_path=model_path,
-    n_ctx=1024,      # কনটেক্সট উইন্ডো কিছুটা কমালাম যাতে ক্রাশ না করে
-    n_threads=2,     # ফ্রি সিপিপিইউ-র জন্য ২ থ্রেড পারফেক্ট
-    n_gpu_layers=0   # যেহেতু আমাদের জিপিইউ নেই
+# মেমোরি বাঁচানোর জন্য বিশেষ সেটিংস
+pipe = pipeline(
+    "text-generation",
+    model=model_id,
+    model_kwargs={"torch_dtype": torch.float32, "low_cpu_mem_usage": True},
+    device_map="auto"
 )
 
 def respond(message, history):
-    # প্রম্পট ফরম্যাট
-    prompt = f"<|im_start|>system\nYou are Motion Mind X, a friendly SSC/HSC tutor from Bangladesh. Respond in Bengali or English as appropriate.<|im_end|>\n<|im_start|>user\n{message}<|im_end|>\n<|im_start|>assistant\n"
+    messages = [
+        {"role": "system", "content": "You are Motion Mind X, a friendly SSC/HSC tutor from Bangladesh. Respond clearly in Bengali/English."},
+        {"role": "user", "content": message},
+    ]
     
-    # জেনারেশন
-    response = llm(
-        prompt, 
-        max_tokens=256, 
-        stop=["<|im_end|>", "user:", "assistant:"], 
-        echo=False
-    )
-    return response['choices'][0]['text']
+    # জেনারেশন শুরু
+    out = pipe(messages, max_new_tokens=512)
+    return out[0]['generated_text'][-1]['content']
 
-# ৩. ইন্টারফেস লঞ্চ
-demo = gr.ChatInterface(respond, title="Motion Mind X 🚀")
+# চ্যাট ইন্টারফেস
+demo = gr.ChatInterface(
+    respond, 
+    title="Motion Mind X 🚀",
+    examples=["SSC গণিত প্রস্তুতি কীভাবে নেব?", "HSC English 2nd paper grammar help"]
+)
 
 if __name__ == "__main__":
-    demo.launch(server_name="0.0.0.0", server_port=7860)
+    demo.launch()