File size: 1,815 Bytes
8f638e3 383f6a3 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 |
---
dataset_info:
features:
- name: title
dtype: string
- name: url
dtype: string
- name: context
dtype: string
- name: question
dtype: string
- name: id
dtype: string
- name: answer
struct:
- name: text
dtype: string
- name: answer_start
dtype: int32
- name: html_answer_text
dtype: string
- name: html_answer_start
dtype: int32
- name: raw_html
dtype: string
splits:
- name: train
num_bytes: 18035275959
num_examples: 83486
- name: validation
num_bytes: 2237211705
num_examples: 10165
download_size: 3201562886
dataset_size: 20272487664
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
- split: validation
path: data/validation-*
---
# KorQuAD 2.0
## Dataset Overview
KorQuAD 2.0은 총 93,651개 질문-답변 쌍으로 구성된 한국어 Machine Reading Comprehension 데이터셋입니다.
- 주어진 지문이 1–2문단이 아닌 **Wikipedia article 전체**에서 답을 찾아야 하며, 매우 긴 문서를 효율적으로 탐색할 수 있어야 합니다.
- **표(tables)**와 **리스트(lists)**를 포함한 HTML 구조 이해가 요구됩니다.
- 답변 단위가 단어·구(sub-span)를 넘어 **문단(paragraphs), 표, 리스트** 등 다양한 길이와 형태를 가질 수 있습니다.
## 구성
- **위키피디아 문서**: 47,957개
- **질의응답 쌍(QA pairs)**: 총 93,651개
- **훈련 세트(Training)**: 83,486개
- **개발 세트(Dev/Validation)**: 10,165개
## Usage
```python
from datasets import load_dataset
dataset = load_dataset("LGCNS/KorQuAD_2.0")
train = dataset["train"]
validation = dataset["validation"]
```
## License
KorQuAD 2.0은 CC BY-ND 2.0 KR 라이선스를 따릅니다.
|