Update app.py

app.py

@@ -0,0 +1,48 @@
+import gradio as gr
+from llama_cpp import Llama
+from huggingface_hub import hf_hub_download
+
+# 1. मॉडल डाउनलोड करना (डायरेक्ट सर्वर पर)
+# हमें 5GB का DeepSeek-R1-Distill मॉडल चाहिए
+print("⏳ मॉडल डाउनलोड हो रहा है... (इसमें 1-2 मिनट लगेंगे)")
+model_path = hf_hub_download(
+    repo_id="unsloth/DeepSeek-R1-Distill-Llama-8B-GGUF",
+    filename="DeepSeek-R1-Distill-Llama-8B-Q4_K_M.gguf"
+)
+print("✅ मॉडल डाउनलोड हो गया!")
+
+# 2. दिमाग लोड करना (16GB RAM का फायदा)
+llm = Llama(
+    model_path=model_path,
+    n_ctx=4096,        # याददाश्त (Context)
+    n_threads=2,       # CPU Cores
+    verbose=False
+)
+
+# 3. सोचने वाला फंक्शन
+def chat_function(message, history):
+    system_prompt = """You are a helpful AI assistant named Ahamad-Bot.
+    You answer questions accurately and concisely.
+    """
+    
+    # प्रॉम्प्ट तैयार करना
+    prompt = f"<|system|>\n{system_prompt}\n<|user|>\n{message}\n<|assistant|>\n"
+    
+    output = llm(
+        prompt,
+        max_tokens=512,  # जवाब की लंबाई
+        stop=["<|user|>", "<|end|>"],
+        echo=False
+    )
+    return output['choices'][0]['text']
+
+# 4. इंटरफेस (App)
+demo = gr.ChatInterface(
+    fn=chat_function,
+    title="🤖 Ahamad AI (DeepSeek Brain)",
+    description="यह मॉडल DeepSeek-R1 पर चल रहा है।",
+    examples=["राजस्थान की अगली राजधानी क्या हो सकती है?", "Python कैसे सीखें?"],
+)
+
+if __name__ == "__main__":
+    demo.launch()