metadata
dataset_info:
features:
- name: title
dtype: string
- name: url
dtype: string
- name: context
dtype: string
- name: question
dtype: string
- name: id
dtype: string
- name: answer
struct:
- name: text
dtype: string
- name: answer_start
dtype: int32
- name: html_answer_text
dtype: string
- name: html_answer_start
dtype: int32
- name: raw_html
dtype: string
splits:
- name: train
num_bytes: 18035275959
num_examples: 83486
- name: validation
num_bytes: 2237211705
num_examples: 10165
download_size: 3201562886
dataset_size: 20272487664
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
- split: validation
path: data/validation-*
KorQuAD 2.0
Dataset Overview
KorQuAD 2.0은 총 93,651개 질문-답변 쌍으로 구성된 한국어 Machine Reading Comprehension 데이터셋입니다.
- 주어진 지문이 1–2문단이 아닌 Wikipedia article 전체에서 답을 찾아야 하며, 매우 긴 문서를 효율적으로 탐색할 수 있어야 합니다.
- **표(tables)**와 **리스트(lists)**를 포함한 HTML 구조 이해가 요구됩니다.
- 답변 단위가 단어·구(sub-span)를 넘어 문단(paragraphs), 표, 리스트 등 다양한 길이와 형태를 가질 수 있습니다.
구성
- 위키피디아 문서: 47,957개
- 질의응답 쌍(QA pairs): 총 93,651개
- 훈련 세트(Training): 83,486개
- 개발 세트(Dev/Validation): 10,165개
Usage
from datasets import load_dataset
dataset = load_dataset("LGCNS/KorQuAD_2.0")
train = dataset["train"]
validation = dataset["validation"]
License
KorQuAD 2.0은 CC BY-ND 2.0 KR 라이선스를 따릅니다.