p-storm commited on
Commit
73eaab4
·
verified ·
1 Parent(s): 4c055c7

Upload folder using huggingface_hub

Browse files
Files changed (5) hide show
  1. .gitattributes +1 -0
  2. README.md +94 -0
  3. test.csv +0 -0
  4. train.csv +3 -0
  5. validation.csv +0 -0
.gitattributes CHANGED
@@ -58,3 +58,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
58
  # Video files - compressed
59
  *.mp4 filter=lfs diff=lfs merge=lfs -text
60
  *.webm filter=lfs diff=lfs merge=lfs -text
 
 
58
  # Video files - compressed
59
  *.mp4 filter=lfs diff=lfs merge=lfs -text
60
  *.webm filter=lfs diff=lfs merge=lfs -text
61
+ train.csv filter=lfs diff=lfs merge=lfs -text
README.md ADDED
@@ -0,0 +1,94 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ language:
3
+ - vi
4
+ license: apache-2.0
5
+ task_categories:
6
+ - question-answering
7
+ - multiple-choice
8
+ tags:
9
+ - vietnamese
10
+ - mcqa
11
+ - reading-comprehension
12
+ - derived-dataset
13
+ size_categories:
14
+ - 1K<n<10K
15
+ ---
16
+
17
+ # VSMRC/mrc (bản tách cột A/B/C/D)
18
+
19
+ ## Dataset này là gì
20
+
21
+ Đây là **bản định dạng lại** (reformatted / derived) của dataset gốc [`VSMRC/mrc`](https://huggingface.co/datasets/VSMRC/mrc) — phần multiple-choice reading comprehension trong bộ VSMRC (Vietnamese Text Segmentation and Multiple-Choice Reading Comprehension Dataset), do nhóm tác giả tại Đại học
22
+ Công nghệ, ĐHQGHN công bố.
23
+
24
+ Dataset gốc đã có sẵn cột `choices` (list Python) và `correctchoice` (số nguyên 0-3) — bản này chỉ **map lại thành các cột `A`, `B`, `C`, `D`, `answer`** cho khớp định dạng các pipeline MCQA quen dùng ký hiệu chữ cái (A/B/C/D) thay vì index số. **Toàn bộ các cột gốc không liên quan trực tiếp đến việc tách A/B/C/D được giữ nguyên**, không xoá:
25
+ - `context` — đoạn văn Wikipedia làm ngữ cảnh cho câu hỏi
26
+ - `questiontype` — loại câu hỏi (`fact_check`, `reasoning`, `list`, `fill_blank`,...)
27
+ - `segmenttextwordcount` — số từ trong đoạn văn
28
+ - `questiontextwordcount` — số từ trong câu hỏi
29
+
30
+ **Không có nội dung nào bị thay đổi** — chỉ ánh xạ lại `choices[i]` / `correctchoice` sang `A/B/C/D`, giữ nguyên 100% văn bản gốc.
31
+
32
+ ## Schema
33
+
34
+ | Cột | Kiểu | Mô tả | Nguồn |
35
+ |---|---|---|---|
36
+ | `id` | int | Số thứ tự dòng (sinh mới khi convert) | mới |
37
+ | `question` | string | Câu hỏi | gốc (`question`) |
38
+ | `A` | string | Nội dung đáp án A | gốc (`choices[0]`) |
39
+ | `B` | string | Nội dung đáp án B | gốc (`choices[1]`) |
40
+ | `C` | string | Nội dung đáp án C | gốc (`choices[2]`) |
41
+ | `D` | string | Nội dung đáp án D | gốc (`choices[3]`) |
42
+ | `answer` | string | Đáp án đúng: `A`/`B`/`C`/`D` | gốc (`correctchoice`, map số -> chữ) |
43
+ | `context` | string | Đoạn văn ngữ cảnh | gốc, giữ nguyên |
44
+ | `questiontype` | string | Loại câu hỏi | gốc, giữ nguyên |
45
+ | `segmenttextwordcount` | int | Số từ đoạn văn | gốc, giữ nguyên |
46
+ | `questiontextwordcount` | int | Số từ câu hỏi | gốc, giữ nguyên |
47
+
48
+ **Lưu ý:** dataset gốc có một số câu chỉ 2-3 lựa chọn (không phải lúc nào cũng đủ 4). Bản này **chỉ giữ lại câu có đúng 4 lựa chọn** để khớp schema A/B/C/D — các câu 2-3 lựa chọn bị loại bỏ khỏi bản derived này (vẫn còn nguyên trong dataset gốc nếu cần).
49
+
50
+ ## Nguồn gốc / Cách tạo
51
+
52
+ Được tạo bằng script `prepare_data_vsmrc.py` — tải dataset gốc qua `datasets.load_dataset("VSMRC/mrc")`, lọc câu có đúng 4 phần tử trong `choices`, map `correctchoice` (0/1/2/3) sang `A`/`B`/`C`/`D`, giữ nguyên các cột còn lại.
53
+
54
+ ## Bản quyền và giấy phép
55
+
56
+ Dataset gốc dùng license **Apache-2.0** — sử dụng tự do, kể cả mục đích thương mại, chỉ cần giữ thông báo bản quyền/attribution. Khi sử dụng, vui lòng trích dẫn bài báo gốc:
57
+
58
+ ```bibtex
59
+ @inproceedings{10.1145/3778265.3778272,
60
+ author = {Nguyen Hai, Toan and Nguyen Viet, Ha and Xuan Truong, Quan and Do Minh, Duc},
61
+ title = {A Vietnamese Dataset for Text Segmentation and Multiple Choices Reading Comprehension},
62
+ year = {2025},
63
+ publisher = {Association for Computing Machinery},
64
+ address = {New York, NY, USA},
65
+ booktitle = {Proceedings of the 2025 7th International Conference on Big-data Service and Intelligent Computation},
66
+ location = {Bangkok, Thailand}
67
+ }
68
+ ```
69
+
70
+ Dataset gốc: https://huggingface.co/datasets/VSMRC/mrc
71
+ Bài báo: https://arxiv.org/abs/2506.15978
72
+
73
+ ## Cách dùng
74
+
75
+ ```python
76
+ from datasets import load_dataset
77
+
78
+ ds = load_dataset("p-storm/VSMRC-mrc-ABCD", split="test")
79
+ print(ds[0])
80
+ # {'id': 0,
81
+ # 'question': 'Maya Harris đã tốt nghiệp cử nhân nghệ thuật vào năm nào?',
82
+ # 'A': '1988', 'B': '1989', 'C': '1990', 'D': '1992', 'answer': 'B',
83
+ # 'context': "Maya Harris theo học phổ thông tại Trung học Bishop O'Dowd...",
84
+ # 'question_type': 'fact_check',
85
+ # 'segment_text_word_count': 139,
86
+ # 'question_text_word_count': 12}
87
+ ```
88
+
89
+ Hoặc tải trực tiếp CSV nếu upload dạng file thay vì dùng `datasets`:
90
+
91
+ ```python
92
+ import pandas as pd
93
+ df = pd.read_csv("hf://datasets/p-storm/VSMRC-mrc-ABCD/test.csv")
94
+ ```
test.csv ADDED
The diff for this file is too large to render. See raw diff
 
train.csv ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:c66eede8d56a025e61721b0061041aa3aec95e9c609f5af4b6b1dd0b264ccfb5
3
+ size 13724957
validation.csv ADDED
The diff for this file is too large to render. See raw diff