Update app.py

app.py

@@ -2,69 +2,47 @@ import streamlit as st
 from transformers import AutoModelForCausalLM, AutoTokenizer
 import torch
 
-# إعداد الصفحة
-st.set_page_config(page_title="Qwen-72B Chat", page_icon="🤖")
-st.title("💬 دردشة مع Qwen-72B العربي")
+st.set_page_config(page_title="Chat with AI", page_icon="🤖")
+st.title("💬 دردشة مع AI")
 
-# تحميل الموديل مرة واحدة فقط
-@st.cache_resource(show_spinner="جاري تحميل الموديل...")
+@st.cache_resource(show_spinner="جاري التحميل...")
 def load_model():
-    model_name = "Qwen/Qwen-72B-Chat"
-    tokenizer = AutoTokenizer.from_pretrained(model_name, trust_remote_code=True)
-    
-    model = AutoModelForCausalLM.from_pretrained(
-        model_name,
-        load_in_8bit=True,
-        device_map="auto",
-        trust_remote_code=True
-    )
+    # نستخدم نسخة أصغر وأبسط
+    model_name = "microsoft/DialoGPT-large"  # حجمه 1.3GB فقط
+    tokenizer = AutoTokenizer.from_pretrained(model_name)
+    model = AutoModelForCausalLM.from_pretrained(model_name)
     return tokenizer, model
 
-# تحميل الموديل
 tokenizer, model = load_model()
 
-# واجهة المحادثة
 if "messages" not in st.session_state:
     st.session_state.messages = []
 
-# عرض الرسائل السابقة
 for message in st.session_state.messages:
     with st.chat_message(message["role"]):
         st.markdown(message["content"])
 
-# حقل الإدخال
-if prompt := st.chat_input("اكتب رسالتك هنا..."):
-    # إضافة رسالة المستخدم
+if prompt := st.chat_input("اكتب رسالتك..."):
     st.session_state.messages.append({"role": "user", "content": prompt})
     with st.chat_message("user"):
         st.markdown(prompt)
 
-    # توليد الرد
     with st.chat_message("assistant"):
         with st.spinner("جاري التفكير..."):
-            # تحويل المحادثة لنص
-            conversation = ""
-            for msg in st.session_state.messages:
-                if msg["role"] == "user":
-                    conversation += f"Human: {msg['content']}\n"
-                else:
-                    conversation += f"Assistant: {msg['content']}\n"
-            conversation += "Assistant: "
+            # تجهيز الإدخال
+            inputs = tokenizer.encode(prompt + tokenizer.eos_token, return_tensors="pt")
             
             # توليد الرد
-            inputs = tokenizer(conversation, return_tensors="pt").to(model.device)
-            
             with torch.no_grad():
                 outputs = model.generate(
-                    **inputs,
-                    max_new_tokens=300,
-                    temperature=0.7,
+                    inputs,
+                    max_length=1000,
+                    pad_token_id=tokenizer.eos_token_id,
                     do_sample=True,
-                    pad_token_id=tokenizer.eos_token_id
+                    temperature=0.7
                 )
             
-            response = tokenizer.decode(outputs[0][inputs.input_ids.shape[1]:], skip_special_tokens=True)
+            response = tokenizer.decode(outputs[:, inputs.shape[-1]:][0], skip_special_tokens=True)
             st.markdown(response)
     
-    # حفظ الرد
     st.session_state.messages.append({"role": "assistant", "content": response})