anaspro
commited on
Commit
·
e729685
1
Parent(s):
76b3b0f
update
Browse files
app.py
CHANGED
|
@@ -96,14 +96,17 @@ def format_conversation_history(chat_history):
|
|
| 96 |
|
| 97 |
@spaces.GPU()
|
| 98 |
def generate_response(input_data, chat_history, max_new_tokens, temperature, top_p, top_k, repetition_penalty):
|
| 99 |
-
# حذف الهستوري كله - نبدأ محادثة جديدة دايماً
|
| 100 |
-
# chat_history = [] # تعطيل الهستوري
|
| 101 |
-
|
| 102 |
-
new_message = {"role": "user", "content": input_data}
|
| 103 |
-
|
| 104 |
# Build messages for Llama chat template
|
| 105 |
messages = [{"role": "system", "content": DEFAULT_SYSTEM_PROMPT}]
|
| 106 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 107 |
|
| 108 |
# استخدام ChatPipeline المخصص مع streaming
|
| 109 |
streamer = TextIteratorStreamer(tokenizer, skip_prompt=True, skip_special_tokens=True)
|
|
@@ -153,7 +156,7 @@ demo = gr.ChatInterface(
|
|
| 153 |
- 💬 لهجة محادثة طبيعية
|
| 154 |
- 🔧 دعم فني واستكشاف الأخطاء
|
| 155 |
- 📋 معلومات الخدمات والإرشاد
|
| 156 |
-
- 🎯 مدعوم بـ موديل
|
| 157 |
|
| 158 |
احجي مع أليكس لحل مشاكلك التقنية، استفسر عن الخدمات، أو احصل على معلومات المنتجات.""",
|
| 159 |
fill_height=True,
|
|
|
|
| 96 |
|
| 97 |
@spaces.GPU()
|
| 98 |
def generate_response(input_data, chat_history, max_new_tokens, temperature, top_p, top_k, repetition_penalty):
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 99 |
# Build messages for Llama chat template
|
| 100 |
messages = [{"role": "system", "content": DEFAULT_SYSTEM_PROMPT}]
|
| 101 |
+
|
| 102 |
+
# Add chat history if available
|
| 103 |
+
if chat_history:
|
| 104 |
+
for item in chat_history:
|
| 105 |
+
if item["role"] in ["user", "assistant"]:
|
| 106 |
+
messages.append({"role": item["role"], "content": item["content"]})
|
| 107 |
+
|
| 108 |
+
# Add current user message
|
| 109 |
+
messages.append({"role": "user", "content": input_data})
|
| 110 |
|
| 111 |
# استخدام ChatPipeline المخصص مع streaming
|
| 112 |
streamer = TextIteratorStreamer(tokenizer, skip_prompt=True, skip_special_tokens=True)
|
|
|
|
| 156 |
- 💬 لهجة محادثة طبيعية
|
| 157 |
- 🔧 دعم فني واستكشاف الأخطاء
|
| 158 |
- 📋 معلومات الخدمات والإرشاد
|
| 159 |
+
- 🎯 مدعوم بـ موديل Unsloth Meta-Llama-3.1-8B-Instruct (مع تحسينات الأداء)
|
| 160 |
|
| 161 |
احجي مع أليكس لحل مشاكلك التقنية، استفسر عن الخدمات، أو احصل على معلومات المنتجات.""",
|
| 162 |
fill_height=True,
|