|
|
--- |
|
|
dataset_info: |
|
|
features: |
|
|
- name: title |
|
|
dtype: string |
|
|
- name: url |
|
|
dtype: string |
|
|
- name: context |
|
|
dtype: string |
|
|
- name: question |
|
|
dtype: string |
|
|
- name: id |
|
|
dtype: string |
|
|
- name: answer |
|
|
struct: |
|
|
- name: text |
|
|
dtype: string |
|
|
- name: answer_start |
|
|
dtype: int32 |
|
|
- name: html_answer_text |
|
|
dtype: string |
|
|
- name: html_answer_start |
|
|
dtype: int32 |
|
|
- name: raw_html |
|
|
dtype: string |
|
|
splits: |
|
|
- name: train |
|
|
num_bytes: 18035275959 |
|
|
num_examples: 83486 |
|
|
- name: validation |
|
|
num_bytes: 2237211705 |
|
|
num_examples: 10165 |
|
|
download_size: 3201562886 |
|
|
dataset_size: 20272487664 |
|
|
configs: |
|
|
- config_name: default |
|
|
data_files: |
|
|
- split: train |
|
|
path: data/train-* |
|
|
- split: validation |
|
|
path: data/validation-* |
|
|
--- |
|
|
|
|
|
# KorQuAD 2.0 |
|
|
|
|
|
## Dataset Overview |
|
|
KorQuAD 2.0은 총 93,651개 질문-답변 쌍으로 구성된 한국어 Machine Reading Comprehension 데이터셋입니다. |
|
|
- 주어진 지문이 1–2문단이 아닌 **Wikipedia article 전체**에서 답을 찾아야 하며, 매우 긴 문서를 효율적으로 탐색할 수 있어야 합니다. |
|
|
- **표(tables)**와 **리스트(lists)**를 포함한 HTML 구조 이해가 요구됩니다. |
|
|
- 답변 단위가 단어·구(sub-span)를 넘어 **문단(paragraphs), 표, 리스트** 등 다양한 길이와 형태를 가질 수 있습니다. |
|
|
|
|
|
## 구성 |
|
|
- **위키피디아 문서**: 47,957개 |
|
|
- **질의응답 쌍(QA pairs)**: 총 93,651개 |
|
|
- **훈련 세트(Training)**: 83,486개 |
|
|
- **개발 세트(Dev/Validation)**: 10,165개 |
|
|
|
|
|
## Usage |
|
|
```python |
|
|
from datasets import load_dataset |
|
|
|
|
|
dataset = load_dataset("LGCNS/KorQuAD_2.0") |
|
|
train = dataset["train"] |
|
|
validation = dataset["validation"] |
|
|
``` |
|
|
|
|
|
## License |
|
|
KorQuAD 2.0은 CC BY-ND 2.0 KR 라이선스를 따릅니다. |
|
|
|
