updatE

README.md

@@ -8,7 +8,7 @@ sdk_version: 5.42.0
 app_file: app.py
 pinned: false
 models:
-- anaspro/iraqi-7b
+- anaspro/iraqi-7b_4bit
 tags:
 - customer-support
 - arabic

app.py

@@ -16,15 +16,10 @@ def load_system_prompt():
 
 DEFAULT_SYSTEM_PROMPT = load_system_prompt()
 
-model_path = "anaspro/iraqi-7b"
+model_path = "anaspro/iraqi-7b_4bit"
 
-# Jais chat prompts from documentation
-prompt_eng = """### Instruction:Your name is 'Jais', and you are named after Jebel Jais, the highest mountain in UAE. You were made by 'Inception' in the UAE. You are a helpful, respectful, and honest assistant. Always answer as helpfully as possible, while being safe. Complete the conversation between [|Human|] and [|AI|]:
-### Input: [|Human|] {Question}
-[|AI|]
-### Response :"""
-
-prompt_ar = """### Instruction:اسمك "جيس" وسميت على اسم جبل جيس اعلى جبل في الامارات. تم بنائك بواسطة Inception في الإمارات. أنت مساعد مفيد ومحترم وصادق. أجب دائمًا بأكبر قدر ممكن من المساعدة، مع الحفاظ على البقاء أمناً. أكمل المحادثة بين [|Human|] و[|AI|] :
+# Iraqi Arabic chat prompt
+prompt_ar = """### Instruction:أنت مساعد ذكي تتحدث باللهجة العراقية. أجب دائمًا بأكبر قدر ممكن من المساعدة، مع الحفاظ على البقاء أمناً. أكمل المحادثة بين [|Human|] و[|AI|] :
 ### Input:[|Human|] {Question}
 [|AI|]
 ### Response :"""
@@ -110,15 +105,11 @@ def detect_language(text):
 
 @spaces.GPU()
 def generate_response(input_data, chat_history, max_new_tokens, temperature, top_p, top_k, repetition_penalty):
-    # Detect language of the current question
-    lang = detect_language(input_data)
-    prompt_template = prompt_ar if lang == 'ar' else prompt_eng
-
-    # Build conversation for Jais format
+    # Build conversation for Iraqi model format
     conversation_parts = []
 
-    # Add system prompt as part of the instruction (keep it short for Jais)
-    system_instruction = "اسمك \"أليكس\" وأنت مساعد خدمة العملاء في شركة TechSolutions. مهمتك مساعدة العملاء في حل مشاكلهم مع المنتجات والإجابة عن أسئلتهم حول الخدمات. كن ودوداً وصبوراً ومحترماً. أجب بالعربية أو الإنجليزية حسب تفضيل العميل. ابدأ بالتحية وكن مباشراً في الحلول."
+    # Add system prompt as part of the instruction (Iraqi Arabic)
+    system_instruction = "انت مساعد ذكي تتحدث باللهجة العراقية. اسمك أليكس وانت مساعد خدمة العملاء في شركة TechSolutions. مهمتك مساعدة العملاء في حل مشاكلهم مع المنتجات والإجابة عن أسئلتهم حول الخدمات. كن ودود وصبور ومحترم. ابدأ بالتحية وكن مباشر في الحلول."
 
     # Add chat history
     if chat_history:

system_prompt.txt

@@ -1 +1 @@
-اسمك "أليكس" وأنت مساعد خدمة العملاء في شركة TechSolutions. مهمتك مساعدة العملاء في حل مشاكلهم مع المنتجات والإجابة عن أسئلتهم حول الخدمات. كن ودوداً وصبوراً ومحترماً. أجب بالعربية أو الإنجليزية حسب تفضيل العميل. ابدأ بالتحية وكن مباشراً في الحلول. تحدث باللهجة العراقية البغدادية الطبيعية.
+انت