| <a href="https://huggingface.co/collections/Symato/dot-66f7743758b5ce30d51d56db"><svg xmlns="http://www.w3.org/2000/svg" | |
| viewBox="0 0 530 160"> | |
| <rect x="10" y="10" width="500" height="140" fill="#f0f0f0" stroke="#000000" stroke-width="2"/> | |
| <circle cx="120" cy="80" r="55" fill="#4CAF50"/> | |
| <text x="120" y="90" font-family="Arial, sans-serif" font-size="32" text-anchor="middle" fill="white">DOT</text> | |
| <text x="330" y="90" font-family="Arial, sans-serif" font-size="32" text-anchor="middle" fill="#333">Do One Thing</text> | |
| </svg></a> | |
| # Excite: Bài toán tìm nội dung trích dẫn trong văn bản | |
|  | |
| Có rất ít dataset có liên quan tới `citation`, 2 datasets chúng tôi tìm thấy là | |
| - https://huggingface.co/datasets/THUDM/LongCite-45k | |
| - https://huggingface.co/datasets/THUDM/webglm-qa | |
| Chúng tôi dịch webgml-qa (chất lượng rất tốt) và phần answer của longcite sang tiếng Việt, rồi tạo citing data từ đó. | |
| longcite rất lớn nên chúng tôi chỉ chọn những sample có đội dài ctxlen <= ~24k. | |
| Ngoài phần dữ liệu tiếng Anh ở trên. Chúng tôi sử dụng llama 3.1 405b để tạo thêm citing data hoàn toàn từ tiếng Việt với các bản tin đã được phân loại nội dung. | |
| ```sh | |
| wc -l *.jsonl | |
| 3285 longcite__24k_ctxlen__0.jsonl | |
| 3250 longcite__24k_ctxlen__1.jsonl | |
| 3313 longcite__24k_ctxlen__2.jsonl | |
| 3127 longcite__24k_ctxlen__3.jsonl | |
| 8844 synth__doi_song__cite.jsonl | |
| 14372 synth__giao_duc__cite.jsonl | |
| 7864 synth__khoa_hoc__cite.jsonl | |
| 10114 synth__kinh_te_a__cite.jsonl | |
| 9804 synth__kinh_te_b__cite.jsonl | |
| 8327 synth__phap_luat__cite.jsonl | |
| 2853 synth__xa_hoi_2__cite.jsonl | |
| 27524 webglm-qa__train_a__cite.jsonl | |
| 27246 webglm-qa__train_b__cite.jsonl | |
| 23368 webglm-qa__train_c__cite.jsonl | |
| 18300 webglm-qa__train_d__cite.jsonl | |
| 171591 total | |
| ``` | |