Update app.py

app.py

@@ -2,34 +2,37 @@ import gradio as gr
 from transformers import AutoModelForCausalLM, AutoTokenizer
 from huggingface_hub import login
 import torch
-import os
+import os  
 
-# الحصول على التوكن من Secrets
+# 🔹 الحصول على التوكن من Secrets
 hf_token = os.getenv("HF_TOKEN")
 
-# تسجيل الدخول إلى Hugging Face
+# 🔹 تسجيل الدخول إلى Hugging Face
 if hf_token:
     login(token=hf_token)
 else:
     raise ValueError("Hugging Face token is missing. Please check your secrets.")
 
-# استخدام نموذج TinyLlama الأخف
+# 🔹 استخدام نموذج TinyLlama الأخف
 model_name = "TinyLlama/TinyLlama-1.1B-Chat-v1.0"
 
-# تحديد الجهاز المناسب (GPU أو CPU)
+# 🔹 تحديد الجهاز المناسب (GPU أو CPU)
 device = "cuda" if torch.cuda.is_available() else "cpu"
 
-# تحميل النموذج والمحول
+# 🔹 تحميل النموذج والمحول
 model = AutoModelForCausalLM.from_pretrained(
     model_name,
     torch_dtype=torch.float16 if torch.cuda.is_available() else torch.float32,
     device_map="auto",
-    token=hf_token,
     trust_remote_code=True
 )
+
 tokenizer = AutoTokenizer.from_pretrained(model_name)
 
-# ردود مخصصة
+# 🔹 حل مشكلة الـ padding
+tokenizer.pad_token = tokenizer.eos_token  
+
+# 🔹 ردود مخصصة
 custom_responses = {
     "ما هو هدفك؟": "هدفي هو تقديم المساعدة والإجابة على أسئلتك بأفضل طريقة ممكنة.",
     "who created you?": "I was created by George.",
@@ -42,8 +45,11 @@ custom_responses = {
     "你的编程者是谁？": "我的编程者是 George。",
 }
 
-# دالة الدردشة
+# 🔹 دالة الدردشة
 def chatbot(user_input):
+    if not user_input.strip():  # التأكد من أن الإدخال ليس فارغًا
+        return "Please enter a message."
+
     user_input = user_input.lower()
 
     # التحقق من الردود المخصصة أولاً
@@ -52,14 +58,15 @@ def chatbot(user_input):
             return answer
 
     # معالجة الإدخال باستخدام النموذج
-    inputs = tokenizer(user_input, return_tensors="pt").to(device)
+    inputs = tokenizer(user_input, return_tensors="pt", padding=True, truncation=True).to(device)
 
-    with torch.no_grad():  # تقليل استهلاك الذاكرة
-        output = model.generate(**inputs, max_length=100)
+    with torch.no_grad():  # تحسين الأداء
+        output = model.generate(**inputs, max_length=150, pad_token_id=tokenizer.eos_token_id)
 
     response = tokenizer.decode(output[0], skip_special_tokens=True)
+    
     return response
 
-# تشغيل الواجهة مع Gradio
-iface = gr.Interface(fn=chatbot, inputs="text", outputs="text")
+# 🔹 تشغيل الواجهة مع Gradio
+iface = gr.Interface(fn=chatbot, inputs="text", outputs="text", title="Octagon 2.0 Chatbot")
 iface.launch(share=True)