cochi1706 commited on
Commit
ef0de3c
·
1 Parent(s): 4d7fde3

Remove repetition penalty and no_repeat_ngram_size parameters from text generation settings, and simplify user message handling in respond function to enhance clarity and focus in chatbot interactions.

Browse files
Files changed (1) hide show
  1. app.py +0 -5
app.py CHANGED
@@ -27,8 +27,6 @@ text_generator = pipeline(
27
  temperature=0.7,
28
  eos_token_id=tokenizer.eos_token_id, # Dừng khi gặp EOS token
29
  pad_token_id=tokenizer.pad_token_id, # Sử dụng pad token
30
- repetition_penalty=1.2, # Tránh lặp vô hạn (penalty > 1.0)
31
- no_repeat_ngram_size=3, # Tránh lặp n-gram 3 từ
32
  )
33
 
34
  model.eval()
@@ -42,7 +40,6 @@ def respond(
42
  """
43
  Tạo phản hồi từ model coding assistant sử dụng pipeline
44
  """
45
- history = []
46
  # Xử lý message - có thể là dict hoặc string
47
  if isinstance(message, dict):
48
  user_message = message.get("content", "")
@@ -53,8 +50,6 @@ def respond(
53
  if not user_message:
54
  return "Xin lỗi, tôi không nhận được câu hỏi của bạn."
55
 
56
- user_message += "Chỉ cần phản hồi theo đúng yêu cầu, không cần tạo thêm vấn đề"
57
-
58
  # Sử dụng pipeline để generate text
59
  generated = text_generator(user_message, num_return_sequences=1)
60
 
 
27
  temperature=0.7,
28
  eos_token_id=tokenizer.eos_token_id, # Dừng khi gặp EOS token
29
  pad_token_id=tokenizer.pad_token_id, # Sử dụng pad token
 
 
30
  )
31
 
32
  model.eval()
 
40
  """
41
  Tạo phản hồi từ model coding assistant sử dụng pipeline
42
  """
 
43
  # Xử lý message - có thể là dict hoặc string
44
  if isinstance(message, dict):
45
  user_message = message.get("content", "")
 
50
  if not user_message:
51
  return "Xin lỗi, tôi không nhận được câu hỏi của bạn."
52
 
 
 
53
  # Sử dụng pipeline để generate text
54
  generated = text_generator(user_message, num_return_sequences=1)
55