Update app.py

app.py

@@ -20,11 +20,12 @@ except Exception as e:
     print(f"--- ❌ Download Failed: {e} ---")
     model_path = kagglehub.model_download("ruicompany/onyx-gpt2large/transformers/default")
 
-# 🛠 تحويل الموديل لصيغة CTranslate2 (تنفذ مرة واحدة عند التشغيل)
+# 🛠 تحويل الموديل لصيغة CTranslate2
 ct2_model_path = "onyx_ct2_model"
 if not os.path.exists(ct2_model_path):
     print("--- ⚙️ Converting model to CTranslate2 format (int8) ---")
     converter = ctranslate2.converters.TransformersConverter(model_path)
+    # تحديث الـ compute_type لـ int8 ليتناسب مع الـ CPU ويختفي الـ Warning
     converter.convert(ct2_model_path, quantization="int8", force=True)
 
 # تحميل الـ Tokenizer والـ Generator
@@ -32,7 +33,7 @@ tokenizer = transformers.AutoTokenizer.from_pretrained(model_path)
 generator = ctranslate2.Generator(ct2_model_path, device="cpu")
 
 def chat_onyx(message, history):
-    # بناء الـ Prompt مع تقليص الذاكرة لسرعة الاستجابة
+    # بناء الـ Prompt مع تقليص الذاكرة
     recent_history = history[-3:] if len(history) > 3 else history
     prompt = ""
     for user_msg, assistant_msg in recent_history:
@@ -42,14 +43,13 @@ def chat_onyx(message, history):
     # تحويل النص لـ Tokens
     tokens = tokenizer.convert_ids_to_tokens(tokenizer.encode(prompt))
     
-    # الـ Streaming باستخدام Generator الخاص بـ CTranslate2
+    # 🚀 التعديل هنا: حذف include_prompt_in_result لأنه غير مدعوم في generate_tokens
     step_results = generator.generate_tokens(
         tokens,
         max_length=150,
         sampling_topk=40,
         sampling_temperature=0.7,
-        end_token=tokenizer.eos_token,
-        include_prompt_in_result=False
+        end_token=tokenizer.eos_token
     )
 
     partial_text = ""
@@ -58,11 +58,12 @@ def chat_onyx(message, history):
         partial_text += word
         yield partial_text
 
-# واجهة Gradio الاحترافية
-with gr.Blocks(theme=gr.themes.Soft()) as demo:
+# واجهة Gradio
+with gr.Blocks() as demo: # شلنا الثيم من هون لتجنب التنبيه
     gr.Markdown("# 💎 ONYX AI - Turbo CTranslate2 Mode")
-    gr.Markdown(f"**Eng. Rawan**, ONYX is now optimized with CTranslate2 & INT8 Quantization.")
+    gr.Markdown(f"**Eng. Rawan**, ONYX is now optimized and stable.")
     gr.ChatInterface(fn=chat_onyx)
 
 if __name__ == "__main__":
-    demo.launch()
+    # نقلنا الثيم لهون حسب تعليمات Gradio 6.0
+    demo.launch(theme=gr.themes.Soft())