| Finetune một LLM để nó: | |
| 1. Học thuộc lòng một bộ QnAs có sẵn từ một domain | |
| 2. Các tài liệu thuộc domain để có thể trả lời các câu hỏi ngoài bộ QnAs nhưng vẫn trong domain | |
| 3. Các kỹ năng tối thiểu khác như: | |
| - RAG (glaive_rag_v1.json) | |
| - Minimum basic skills (math, summary, translation) (rút gọn từ bagel github) | |
| VẤN ĐỀ: | |
| LLM bị lẫn lộn giữa data của domains với data đã được train => Mẹo, Cứ các 3 words (splited by space) chèn một NEW INVISIBLE TOKEN vào để làm cho mẫu data này khác với các mẫu data đã được học !?! | |
| => Thử xem nó sẽ works ntn !!! |