Finetune một LLM để nó:
- Học thuộc lòng một bộ QnAs có sẵn từ một domain
- Các tài liệu thuộc domain để có thể trả lời các câu hỏi ngoài bộ QnAs nhưng vẫn trong domain
- Các kỹ năng tối thiểu khác như:
- RAG (glaive_rag_v1.json)
- Minimum basic skills (math, summary, translation) (rút gọn từ bagel github)
VẤN ĐỀ:
LLM bị lẫn lộn giữa data của domains với data đã được train => Mẹo, Cứ các 3 words (splited by space) chèn một NEW INVISIBLE TOKEN vào để làm cho mẫu data này khác với các mẫu data đã được học !?!
=> Thử xem nó sẽ works ntn !!!