Spaces:
Sleeping
Sleeping
Remove repetition penalty and no_repeat_ngram_size parameters from text generation settings, and simplify user message handling in respond function to enhance clarity and focus in chatbot interactions.
Browse files
app.py
CHANGED
|
@@ -27,8 +27,6 @@ text_generator = pipeline(
|
|
| 27 |
temperature=0.7,
|
| 28 |
eos_token_id=tokenizer.eos_token_id, # Dừng khi gặp EOS token
|
| 29 |
pad_token_id=tokenizer.pad_token_id, # Sử dụng pad token
|
| 30 |
-
repetition_penalty=1.2, # Tránh lặp vô hạn (penalty > 1.0)
|
| 31 |
-
no_repeat_ngram_size=3, # Tránh lặp n-gram 3 từ
|
| 32 |
)
|
| 33 |
|
| 34 |
model.eval()
|
|
@@ -42,7 +40,6 @@ def respond(
|
|
| 42 |
"""
|
| 43 |
Tạo phản hồi từ model coding assistant sử dụng pipeline
|
| 44 |
"""
|
| 45 |
-
history = []
|
| 46 |
# Xử lý message - có thể là dict hoặc string
|
| 47 |
if isinstance(message, dict):
|
| 48 |
user_message = message.get("content", "")
|
|
@@ -53,8 +50,6 @@ def respond(
|
|
| 53 |
if not user_message:
|
| 54 |
return "Xin lỗi, tôi không nhận được câu hỏi của bạn."
|
| 55 |
|
| 56 |
-
user_message += "Chỉ cần phản hồi theo đúng yêu cầu, không cần tạo thêm vấn đề"
|
| 57 |
-
|
| 58 |
# Sử dụng pipeline để generate text
|
| 59 |
generated = text_generator(user_message, num_return_sequences=1)
|
| 60 |
|
|
|
|
| 27 |
temperature=0.7,
|
| 28 |
eos_token_id=tokenizer.eos_token_id, # Dừng khi gặp EOS token
|
| 29 |
pad_token_id=tokenizer.pad_token_id, # Sử dụng pad token
|
|
|
|
|
|
|
| 30 |
)
|
| 31 |
|
| 32 |
model.eval()
|
|
|
|
| 40 |
"""
|
| 41 |
Tạo phản hồi từ model coding assistant sử dụng pipeline
|
| 42 |
"""
|
|
|
|
| 43 |
# Xử lý message - có thể là dict hoặc string
|
| 44 |
if isinstance(message, dict):
|
| 45 |
user_message = message.get("content", "")
|
|
|
|
| 50 |
if not user_message:
|
| 51 |
return "Xin lỗi, tôi không nhận được câu hỏi của bạn."
|
| 52 |
|
|
|
|
|
|
|
| 53 |
# Sử dụng pipeline để generate text
|
| 54 |
generated = text_generator(user_message, num_return_sequences=1)
|
| 55 |
|