Datasets:
Upload folder using huggingface_hub
Browse files- .gitattributes +1 -0
- README.md +94 -0
- test.csv +0 -0
- train.csv +3 -0
- validation.csv +0 -0
.gitattributes
CHANGED
|
@@ -58,3 +58,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
|
|
| 58 |
# Video files - compressed
|
| 59 |
*.mp4 filter=lfs diff=lfs merge=lfs -text
|
| 60 |
*.webm filter=lfs diff=lfs merge=lfs -text
|
|
|
|
|
|
| 58 |
# Video files - compressed
|
| 59 |
*.mp4 filter=lfs diff=lfs merge=lfs -text
|
| 60 |
*.webm filter=lfs diff=lfs merge=lfs -text
|
| 61 |
+
train.csv filter=lfs diff=lfs merge=lfs -text
|
README.md
ADDED
|
@@ -0,0 +1,94 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
language:
|
| 3 |
+
- vi
|
| 4 |
+
license: apache-2.0
|
| 5 |
+
task_categories:
|
| 6 |
+
- question-answering
|
| 7 |
+
- multiple-choice
|
| 8 |
+
tags:
|
| 9 |
+
- vietnamese
|
| 10 |
+
- mcqa
|
| 11 |
+
- reading-comprehension
|
| 12 |
+
- derived-dataset
|
| 13 |
+
size_categories:
|
| 14 |
+
- 1K<n<10K
|
| 15 |
+
---
|
| 16 |
+
|
| 17 |
+
# VSMRC/mrc (bản tách cột A/B/C/D)
|
| 18 |
+
|
| 19 |
+
## Dataset này là gì
|
| 20 |
+
|
| 21 |
+
Đây là **bản định dạng lại** (reformatted / derived) của dataset gốc [`VSMRC/mrc`](https://huggingface.co/datasets/VSMRC/mrc) — phần multiple-choice reading comprehension trong bộ VSMRC (Vietnamese Text Segmentation and Multiple-Choice Reading Comprehension Dataset), do nhóm tác giả tại Đại học
|
| 22 |
+
Công nghệ, ĐHQGHN công bố.
|
| 23 |
+
|
| 24 |
+
Dataset gốc đã có sẵn cột `choices` (list Python) và `correctchoice` (số nguyên 0-3) — bản này chỉ **map lại thành các cột `A`, `B`, `C`, `D`, `answer`** cho khớp định dạng các pipeline MCQA quen dùng ký hiệu chữ cái (A/B/C/D) thay vì index số. **Toàn bộ các cột gốc không liên quan trực tiếp đến việc tách A/B/C/D được giữ nguyên**, không xoá:
|
| 25 |
+
- `context` — đoạn văn Wikipedia làm ngữ cảnh cho câu hỏi
|
| 26 |
+
- `questiontype` — loại câu hỏi (`fact_check`, `reasoning`, `list`, `fill_blank`,...)
|
| 27 |
+
- `segmenttextwordcount` — số từ trong đoạn văn
|
| 28 |
+
- `questiontextwordcount` — số từ trong câu hỏi
|
| 29 |
+
|
| 30 |
+
**Không có nội dung nào bị thay đổi** — chỉ ánh xạ lại `choices[i]` / `correctchoice` sang `A/B/C/D`, giữ nguyên 100% văn bản gốc.
|
| 31 |
+
|
| 32 |
+
## Schema
|
| 33 |
+
|
| 34 |
+
| Cột | Kiểu | Mô tả | Nguồn |
|
| 35 |
+
|---|---|---|---|
|
| 36 |
+
| `id` | int | Số thứ tự dòng (sinh mới khi convert) | mới |
|
| 37 |
+
| `question` | string | Câu hỏi | gốc (`question`) |
|
| 38 |
+
| `A` | string | Nội dung đáp án A | gốc (`choices[0]`) |
|
| 39 |
+
| `B` | string | Nội dung đáp án B | gốc (`choices[1]`) |
|
| 40 |
+
| `C` | string | Nội dung đáp án C | gốc (`choices[2]`) |
|
| 41 |
+
| `D` | string | Nội dung đáp án D | gốc (`choices[3]`) |
|
| 42 |
+
| `answer` | string | Đáp án đúng: `A`/`B`/`C`/`D` | gốc (`correctchoice`, map số -> chữ) |
|
| 43 |
+
| `context` | string | Đoạn văn ngữ cảnh | gốc, giữ nguyên |
|
| 44 |
+
| `questiontype` | string | Loại câu hỏi | gốc, giữ nguyên |
|
| 45 |
+
| `segmenttextwordcount` | int | Số từ đoạn văn | gốc, giữ nguyên |
|
| 46 |
+
| `questiontextwordcount` | int | Số từ câu hỏi | gốc, giữ nguyên |
|
| 47 |
+
|
| 48 |
+
**Lưu ý:** dataset gốc có một số câu chỉ 2-3 lựa chọn (không phải lúc nào cũng đủ 4). Bản này **chỉ giữ lại câu có đúng 4 lựa chọn** để khớp schema A/B/C/D — các câu 2-3 lựa chọn bị loại bỏ khỏi bản derived này (vẫn còn nguyên trong dataset gốc nếu cần).
|
| 49 |
+
|
| 50 |
+
## Nguồn gốc / Cách tạo
|
| 51 |
+
|
| 52 |
+
Được tạo bằng script `prepare_data_vsmrc.py` — tải dataset gốc qua `datasets.load_dataset("VSMRC/mrc")`, lọc câu có đúng 4 phần tử trong `choices`, map `correctchoice` (0/1/2/3) sang `A`/`B`/`C`/`D`, giữ nguyên các cột còn lại.
|
| 53 |
+
|
| 54 |
+
## Bản quyền và giấy phép
|
| 55 |
+
|
| 56 |
+
Dataset gốc dùng license **Apache-2.0** — sử dụng tự do, kể cả mục đích thương mại, chỉ cần giữ thông báo bản quyền/attribution. Khi sử dụng, vui lòng trích dẫn bài báo gốc:
|
| 57 |
+
|
| 58 |
+
```bibtex
|
| 59 |
+
@inproceedings{10.1145/3778265.3778272,
|
| 60 |
+
author = {Nguyen Hai, Toan and Nguyen Viet, Ha and Xuan Truong, Quan and Do Minh, Duc},
|
| 61 |
+
title = {A Vietnamese Dataset for Text Segmentation and Multiple Choices Reading Comprehension},
|
| 62 |
+
year = {2025},
|
| 63 |
+
publisher = {Association for Computing Machinery},
|
| 64 |
+
address = {New York, NY, USA},
|
| 65 |
+
booktitle = {Proceedings of the 2025 7th International Conference on Big-data Service and Intelligent Computation},
|
| 66 |
+
location = {Bangkok, Thailand}
|
| 67 |
+
}
|
| 68 |
+
```
|
| 69 |
+
|
| 70 |
+
Dataset gốc: https://huggingface.co/datasets/VSMRC/mrc
|
| 71 |
+
Bài báo: https://arxiv.org/abs/2506.15978
|
| 72 |
+
|
| 73 |
+
## Cách dùng
|
| 74 |
+
|
| 75 |
+
```python
|
| 76 |
+
from datasets import load_dataset
|
| 77 |
+
|
| 78 |
+
ds = load_dataset("p-storm/VSMRC-mrc-ABCD", split="test")
|
| 79 |
+
print(ds[0])
|
| 80 |
+
# {'id': 0,
|
| 81 |
+
# 'question': 'Maya Harris đã tốt nghiệp cử nhân nghệ thuật vào năm nào?',
|
| 82 |
+
# 'A': '1988', 'B': '1989', 'C': '1990', 'D': '1992', 'answer': 'B',
|
| 83 |
+
# 'context': "Maya Harris theo học phổ thông tại Trung học Bishop O'Dowd...",
|
| 84 |
+
# 'question_type': 'fact_check',
|
| 85 |
+
# 'segment_text_word_count': 139,
|
| 86 |
+
# 'question_text_word_count': 12}
|
| 87 |
+
```
|
| 88 |
+
|
| 89 |
+
Hoặc tải trực tiếp CSV nếu upload dạng file thay vì dùng `datasets`:
|
| 90 |
+
|
| 91 |
+
```python
|
| 92 |
+
import pandas as pd
|
| 93 |
+
df = pd.read_csv("hf://datasets/p-storm/VSMRC-mrc-ABCD/test.csv")
|
| 94 |
+
```
|
test.csv
ADDED
|
The diff for this file is too large to render.
See raw diff
|
|
|
train.csv
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:c66eede8d56a025e61721b0061041aa3aec95e9c609f5af4b6b1dd0b264ccfb5
|
| 3 |
+
size 13724957
|
validation.csv
ADDED
|
The diff for this file is too large to render.
See raw diff
|
|
|