anaspro commited on
Commit
e729685
·
1 Parent(s): 76b3b0f
Files changed (1) hide show
  1. app.py +10 -7
app.py CHANGED
@@ -96,14 +96,17 @@ def format_conversation_history(chat_history):
96
 
97
  @spaces.GPU()
98
  def generate_response(input_data, chat_history, max_new_tokens, temperature, top_p, top_k, repetition_penalty):
99
- # حذف الهستوري كله - نبدأ محادثة جديدة دايماً
100
- # chat_history = [] # تعطيل الهستوري
101
-
102
- new_message = {"role": "user", "content": input_data}
103
-
104
  # Build messages for Llama chat template
105
  messages = [{"role": "system", "content": DEFAULT_SYSTEM_PROMPT}]
106
- # لا نضيف chat_history القديم
 
 
 
 
 
 
 
 
107
 
108
  # استخدام ChatPipeline المخصص مع streaming
109
  streamer = TextIteratorStreamer(tokenizer, skip_prompt=True, skip_special_tokens=True)
@@ -153,7 +156,7 @@ demo = gr.ChatInterface(
153
  - 💬 لهجة محادثة طبيعية
154
  - 🔧 دعم فني واستكشاف الأخطاء
155
  - 📋 معلومات الخدمات والإرشاد
156
- - 🎯 مدعوم بـ موديل anaspro العراقي (Llama 3.1 محسن للعربية العراقية)
157
 
158
  احجي مع أليكس لحل مشاكلك التقنية، استفسر عن الخدمات، أو احصل على معلومات المنتجات.""",
159
  fill_height=True,
 
96
 
97
  @spaces.GPU()
98
  def generate_response(input_data, chat_history, max_new_tokens, temperature, top_p, top_k, repetition_penalty):
 
 
 
 
 
99
  # Build messages for Llama chat template
100
  messages = [{"role": "system", "content": DEFAULT_SYSTEM_PROMPT}]
101
+
102
+ # Add chat history if available
103
+ if chat_history:
104
+ for item in chat_history:
105
+ if item["role"] in ["user", "assistant"]:
106
+ messages.append({"role": item["role"], "content": item["content"]})
107
+
108
+ # Add current user message
109
+ messages.append({"role": "user", "content": input_data})
110
 
111
  # استخدام ChatPipeline المخصص مع streaming
112
  streamer = TextIteratorStreamer(tokenizer, skip_prompt=True, skip_special_tokens=True)
 
156
  - 💬 لهجة محادثة طبيعية
157
  - 🔧 دعم فني واستكشاف الأخطاء
158
  - 📋 معلومات الخدمات والإرشاد
159
+ - 🎯 مدعوم بـ موديل Unsloth Meta-Llama-3.1-8B-Instruct (مع تحسينات الأداء)
160
 
161
  احجي مع أليكس لحل مشاكلك التقنية، استفسر عن الخدمات، أو احصل على معلومات المنتجات.""",
162
  fill_height=True,