Spaces:
Runtime error
Runtime error
Update app.py
Browse files
app.py
CHANGED
|
@@ -20,31 +20,33 @@ model = AutoModelForCausalLM.from_pretrained(model_name)
|
|
| 20 |
chat_history = []
|
| 21 |
# تابع پاسخدهی
|
| 22 |
def student_bot(question):
|
| 23 |
-
|
| 24 |
-
|
| 25 |
-
prompt = """پرسش: زمان انتخاب واحد چه زمانی است؟
|
| 26 |
پاسخ: معمولا در پایان هر ترم تحصیلی، یعنی شهریور و بهمن انجام میشود.
|
| 27 |
|
| 28 |
پرسش: زمان حذف و اضافه کی هست؟
|
| 29 |
پاسخ: حدود یک هفته بعد از شروع ترم تحصیلی است.
|
| 30 |
-
""" + "\n".join(chat_history[-3:]) + "\nپاسخ:"
|
| 31 |
-
|
| 32 |
-
for key in faq_dict:
|
| 33 |
-
if key in question:
|
| 34 |
-
return faq_dict[key]
|
| 35 |
|
|
|
|
|
|
|
| 36 |
|
| 37 |
inputs = tokenizer(prompt, return_tensors="pt")
|
| 38 |
outputs = model.generate(
|
| 39 |
**inputs,
|
| 40 |
max_new_tokens=60,
|
| 41 |
-
pad_token_id=tokenizer.eos_token_id
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 42 |
)
|
| 43 |
answer = tokenizer.decode(outputs[0], skip_special_tokens=True)
|
| 44 |
return answer.split("پاسخ:")[-1].strip()
|
| 45 |
|
| 46 |
|
| 47 |
|
|
|
|
| 48 |
# رابط Gradio
|
| 49 |
gr.Interface(
|
| 50 |
fn=student_bot,
|
|
|
|
| 20 |
chat_history = []
|
| 21 |
# تابع پاسخدهی
|
| 22 |
def student_bot(question):
|
| 23 |
+
prompt = f"""پرسش: زمان انتخاب واحد چه زمانی است؟
|
|
|
|
|
|
|
| 24 |
پاسخ: معمولا در پایان هر ترم تحصیلی، یعنی شهریور و بهمن انجام میشود.
|
| 25 |
|
| 26 |
پرسش: زمان حذف و اضافه کی هست؟
|
| 27 |
پاسخ: حدود یک هفته بعد از شروع ترم تحصیلی است.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 28 |
|
| 29 |
+
پرسش: {question}
|
| 30 |
+
پاسخ:"""
|
| 31 |
|
| 32 |
inputs = tokenizer(prompt, return_tensors="pt")
|
| 33 |
outputs = model.generate(
|
| 34 |
**inputs,
|
| 35 |
max_new_tokens=60,
|
| 36 |
+
pad_token_id=tokenizer.eos_token_id,
|
| 37 |
+
repetition_penalty=1.8,
|
| 38 |
+
no_repeat_ngram_size=3,
|
| 39 |
+
temperature=0.7,
|
| 40 |
+
top_p=0.9,
|
| 41 |
+
top_k=50,
|
| 42 |
+
do_sample=True
|
| 43 |
)
|
| 44 |
answer = tokenizer.decode(outputs[0], skip_special_tokens=True)
|
| 45 |
return answer.split("پاسخ:")[-1].strip()
|
| 46 |
|
| 47 |
|
| 48 |
|
| 49 |
+
|
| 50 |
# رابط Gradio
|
| 51 |
gr.Interface(
|
| 52 |
fn=student_bot,
|