update
Browse files- .gitignore +3 -0
- README.md +13 -0
- glaive_rag_v1.jsonl.xz +3 -0
.gitignore
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
*.json
|
| 2 |
+
*.jsonl
|
| 3 |
+
*.txt
|
README.md
ADDED
|
@@ -0,0 +1,13 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
Finetune một LLM để nó:
|
| 2 |
+
1. Học thuộc lòng một bộ QnAs có sẵn từ một domain
|
| 3 |
+
2. Các tài liệu thuộc domain để có thể trả lời các câu hỏi ngoài bộ QnAs nhưng vẫn trong domain
|
| 4 |
+
3. Các kỹ năng tối thiểu khác như:
|
| 5 |
+
- RAG (glaive_rag_v1.json)
|
| 6 |
+
- Minimum basic skills (math, summary, translation) (rút gọn từ bagel github)
|
| 7 |
+
|
| 8 |
+
|
| 9 |
+
VẤN ĐỀ:
|
| 10 |
+
|
| 11 |
+
LLM bị lẫn lộn giữa data của domains với data đã được train => Mẹo, Cứ các 3 words (splited by space) chèn một NEW INVISIBLE TOKEN vào để làm cho mẫu data này khác với các mẫu data đã được học !?!
|
| 12 |
+
|
| 13 |
+
=> Thử xem nó sẽ works ntn !!!
|
glaive_rag_v1.jsonl.xz
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:55c01c7c45ee7ad93f69048b13d97051d8620a72230aa12e048bb45e2abfdc3b
|
| 3 |
+
size 49068180
|