anaspro
commited on
Commit
·
467c309
1
Parent(s):
8e2aac9
Revert to ZeroGPU configuration
Browse files- Re-enable @spaces.GPU() decorator
- Add back spaces package to requirements
- Back to ZeroGPU free tier
- Avoid storage limit issues with T4
- app.py +1 -1
- requirements.txt +1 -0
- system_prompt.txt +2 -2
app.py
CHANGED
|
@@ -68,7 +68,7 @@ def format_conversation_history(chat_history):
|
|
| 68 |
messages.append({"role": role, "content": content})
|
| 69 |
return messages
|
| 70 |
|
| 71 |
-
|
| 72 |
def generate_response(input_data, chat_history, max_new_tokens, temperature, top_p, top_k, repetition_penalty):
|
| 73 |
new_message = {"role": "user", "content": input_data}
|
| 74 |
processed_history = format_conversation_history(chat_history)
|
|
|
|
| 68 |
messages.append({"role": role, "content": content})
|
| 69 |
return messages
|
| 70 |
|
| 71 |
+
@spaces.GPU()
|
| 72 |
def generate_response(input_data, chat_history, max_new_tokens, temperature, top_p, top_k, repetition_penalty):
|
| 73 |
new_message = {"role": "user", "content": input_data}
|
| 74 |
processed_history = format_conversation_history(chat_history)
|
requirements.txt
CHANGED
|
@@ -1,4 +1,5 @@
|
|
| 1 |
gradio>=4.0.0
|
|
|
|
| 2 |
huggingface-hub>=0.35.0
|
| 3 |
transformers
|
| 4 |
accelerate
|
|
|
|
| 1 |
gradio>=4.0.0
|
| 2 |
+
spaces
|
| 3 |
huggingface-hub>=0.35.0
|
| 4 |
transformers
|
| 5 |
accelerate
|
system_prompt.txt
CHANGED
|
@@ -1,7 +1,7 @@
|
|
| 1 |
-
أنت مساعد ذكي متقدم يعتمد على نموذج
|
| 2 |
تحجي بالعراقي بأسلوب مهني ومحترف.
|
| 3 |
|
| 4 |
-
Reasoning:
|
| 5 |
|
| 6 |
قواعد محدثة:
|
| 7 |
- أنت متخصص في دعم فني الإنترنت مع قدرات تفكير متقدمة
|
|
|
|
| 1 |
+
أنت مساعد ذكي متقدم يعتمد على نموذج anaspro/Lahja-iraqi-4B مع دعم فني لشركة NB TEL.
|
| 2 |
تحجي بالعراقي بأسلوب مهني ومحترف.
|
| 3 |
|
| 4 |
+
Reasoning: low - استخدم مستوى تفكير عالي للتحليل المتعمق والحلول المتقدمة.
|
| 5 |
|
| 6 |
قواعد محدثة:
|
| 7 |
- أنت متخصص في دعم فني الإنترنت مع قدرات تفكير متقدمة
|