docs: update README YAML for dataset viewer preview
Browse files
README.md
CHANGED
|
@@ -1,3 +1,205 @@
|
|
| 1 |
-
---
|
| 2 |
-
|
| 3 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
---
|
| 2 |
+
language:
|
| 3 |
+
- ko
|
| 4 |
+
license: cc-by-sa-4.0
|
| 5 |
+
size_categories:
|
| 6 |
+
- 1K<n<10K
|
| 7 |
+
configs:
|
| 8 |
+
- config_name: default
|
| 9 |
+
data_files:
|
| 10 |
+
- split: test
|
| 11 |
+
path: data/test/dialogues_*.json
|
| 12 |
+
task_categories:
|
| 13 |
+
- text-classification
|
| 14 |
+
- token-classification
|
| 15 |
+
- question-answering
|
| 16 |
+
- text-generation
|
| 17 |
+
- zero-shot-classification
|
| 18 |
+
tags:
|
| 19 |
+
- SGD
|
| 20 |
+
- NLU
|
| 21 |
+
- DST
|
| 22 |
+
- NER
|
| 23 |
+
- Intent
|
| 24 |
+
- QA
|
| 25 |
+
pretty_name: KoSGD
|
| 26 |
+
---
|
| 27 |
+
|
| 28 |
+
# KoSGD: Korean Schema-Guided Dialogue Dataset
|
| 29 |
+
|
| 30 |
+
**KoSGD**는 Google Research의 [Schema-Guided Dialogue(SGD)](https://arxiv.org/abs/1909.05855) 데이터셋을 한국어로 변환한 대규모 Task-Oriented Dialogue(ToD) 데이터셋입니다.
|
| 31 |
+
|
| 32 |
+
---
|
| 33 |
+
|
| 34 |
+
## Overview
|
| 35 |
+
|
| 36 |
+
| 항목 | 내용 |
|
| 37 |
+
|:-----|:-----|
|
| 38 |
+
| **도메인** | 21개 서비스 (알람, 버스, 호텔, 식당 등) |
|
| 39 |
+
| **대화 턴** | 84,594 턴 |
|
| 40 |
+
| **번역 방식** | 기계 번역 + 전수 휴먼 검수 |
|
| 41 |
+
| **공개 범위** | Test set 공개 (Train/Validation 추후 공개) |
|
| 42 |
+
|
| 43 |
+
- **전수 휴먼 검수**: 자연스러운 한국어 표현과 정확한 의미 전달에 중점
|
| 44 |
+
- **Annotation 오류 수정**: 번역 과정에서 발견된 원본 SGD의 오류 함께 수정
|
| 45 |
+
- **용어 명확화**: 원본에서 암묵적으로 사용되던 개념을 명시적으로 정의
|
| 46 |
+
|
| 47 |
+
---
|
| 48 |
+
|
| 49 |
+
## Key Concepts
|
| 50 |
+
|
| 51 |
+
### Canonical Value vs Value
|
| 52 |
+
|
| 53 |
+
| 용어 | 정의 | 예시 |
|
| 54 |
+
|:-----|:-----|:-----|
|
| 55 |
+
| **Value** | 사용자 발화에서 원문 그대로 추출한 값 | `"8일"`, `"오후 12시"` |
|
| 56 |
+
| **Canonical Value** | 슬롯에 대해 사전 정의된 정규화 값 | `"2019-03-08"`, `"12:00"` |
|
| 57 |
+
|
| 58 |
+
---
|
| 59 |
+
|
| 60 |
+
## Dataset Details
|
| 61 |
+
|
| 62 |
+
<details>
|
| 63 |
+
<summary><b>서비스(도메인) 목록 - 21개</b></summary>
|
| 64 |
+
|
| 65 |
+
| 서비스 | 원본 SGD | 설명 |
|
| 66 |
+
|:-------|:---------|:-----|
|
| 67 |
+
| 알람_1 | Alarm_1 | 알람을 쉽게 가져오고 설정 및 관리 |
|
| 68 |
+
| 버스_3 | Buses_3 | 저렴하고 편안한 전국 버스 여행 |
|
| 69 |
+
| 이벤트_3 | Events_3 | 지역 문화 행사 티켓 검색 및 예약 |
|
| 70 |
+
| 비행_4 | Flights_4 | 저렴한 항공편 검색 및 예약 |
|
| 71 |
+
| 집_2 | Homes_2 | 구매 및 임대할 부동산 검색 서비스 |
|
| 72 |
+
| 호텔_2 | Hotels_2 | 단기 체류를 위한 숙소 검색 및 예약 |
|
| 73 |
+
| 호텔_4 | Hotels_4 | 숙박 검색 및 예약 포털 |
|
| 74 |
+
| 미디어_3 | Media_3 | 드라마, 영화, 다큐멘터리 등 무제한 스트리밍 |
|
| 75 |
+
| 메세지_1 | Messaging_1 | 연락처와 연결 및 위치 공유 |
|
| 76 |
+
| 영화_1 | Movies_1 | 영화 검색, 상영 시간 확인, 티켓 예약 |
|
| 77 |
+
| 영화_3 | Movies_3 | 영화 및 TV 리뷰 집계 |
|
| 78 |
+
| 음악_3 | Music_3 | 맞춤형 무료 음악 스트리밍 플랫폼 |
|
| 79 |
+
| 결제_1 | Payment_1 | 앱, 웹, 스토어에서 빠르고 간편한 결제 |
|
| 80 |
+
| 차량렌트_3 | RentalCars_3 | 글로벌 렌터카 솔루션 |
|
| 81 |
+
| 식당_2 | Restaurants_2 | 레스토랑 검색 및 예약 서비스 |
|
| 82 |
+
| 승차공유_2 | RideSharing_2 | 목적지까지 택시 예약 |
|
| 83 |
+
| 서비스_1 | Services_1 | 헤어 스타일리스트 검색 및 예약 |
|
| 84 |
+
| 서비스_4 | Services_4 | 심리상담사 검색 및 예약 |
|
| 85 |
+
| 열차_1 | Trains_1 | 도시 간 기차 여행 검색 및 예약 |
|
| 86 |
+
| 여행_1 | Travel_1 | 관광 명소와 관심 지점 데이터베이스 |
|
| 87 |
+
| 날씨_1 | Weather_1 | 특정 장소와 날짜에 대한 날씨 확인 |
|
| 88 |
+
</details>
|
| 89 |
+
|
| 90 |
+
<details>
|
| 91 |
+
<summary><b>데이터 구조</b></summary>
|
| 92 |
+
|
| 93 |
+
### 파일 구성
|
| 94 |
+
|
| 95 |
+
```
|
| 96 |
+
KoSGD/
|
| 97 |
+
├── dialogues_001.json ~ dialogues_034.json # 대화 데이터 (34개)
|
| 98 |
+
└── extended_schema.json # 서비스 스키마 정의
|
| 99 |
+
```
|
| 100 |
+
|
| 101 |
+
### 대화 데이터 구조
|
| 102 |
+
|
| 103 |
+
```json
|
| 104 |
+
{
|
| 105 |
+
"dialogue_id": "1_00000",
|
| 106 |
+
"services": ["식당_2"],
|
| 107 |
+
"turns": [
|
| 108 |
+
{
|
| 109 |
+
"speaker": "USER",
|
| 110 |
+
"utterance": "안녕하세요. 8일에 식당 예약 좀 부탁드려도 될까요?",
|
| 111 |
+
"frames": [{
|
| 112 |
+
"service": "식당_2",
|
| 113 |
+
"actions": [{
|
| 114 |
+
"act": "INFORM",
|
| 115 |
+
"slot": "예약일",
|
| 116 |
+
"values": ["8일"],
|
| 117 |
+
"canonical_values": ["2019-03-08"]
|
| 118 |
+
}],
|
| 119 |
+
"slots": [{"slot": "예약일", "start": 7, "exclusive_end": 9}],
|
| 120 |
+
"state": {
|
| 121 |
+
"active_intent": "ReserveRestaurant",
|
| 122 |
+
"requested_slots": [],
|
| 123 |
+
"slot_values": {"예약일": ["8일"]}
|
| 124 |
+
}
|
| 125 |
+
}]
|
| 126 |
+
}
|
| 127 |
+
]
|
| 128 |
+
}
|
| 129 |
+
```
|
| 130 |
+
|
| 131 |
+
### Action 유형
|
| 132 |
+
|
| 133 |
+
| Act | 설명 | 사용 주체 |
|
| 134 |
+
|:----|:-----|:----------|
|
| 135 |
+
| `INFORM` | 슬롯 값 제공 | USER, SYSTEM |
|
| 136 |
+
| `INFORM_INTENT` | 의도 표현 | USER |
|
| 137 |
+
| `REQUEST` | 슬롯 값 요청 | USER, SYSTEM |
|
| 138 |
+
| `CONFIRM` | 값 확인 요청 | SYSTEM |
|
| 139 |
+
| `AFFIRM` / `NEGATE` | 긍정/부정 응답 | USER |
|
| 140 |
+
| `SELECT` | 선택지에서 선택 | USER |
|
| 141 |
+
| `OFFER` | 옵션 제안 | SYSTEM |
|
| 142 |
+
| `NOTIFY_SUCCESS` / `NOTIFY_FAILURE` | 작업 성공/실패 알림 | SYSTEM |
|
| 143 |
+
| `REQ_MORE` | 추가 요청 확인 | SYSTEM |
|
| 144 |
+
| `GOODBYE` / `THANK_YOU` | 대화 종료/감사 | USER, SYSTEM |
|
| 145 |
+
|
| 146 |
+
### 스키마 정의 구조
|
| 147 |
+
|
| 148 |
+
```json
|
| 149 |
+
{
|
| 150 |
+
"service_name": "알람_1",
|
| 151 |
+
"description": "알람을 쉽게 가져오고 설정 및 관리",
|
| 152 |
+
"slots": [{
|
| 153 |
+
"name": "알람_시간",
|
| 154 |
+
"description": "알람이 설정된 시간",
|
| 155 |
+
"is_categorical": false,
|
| 156 |
+
"possible_values": ["06:00", "06:30", ...]
|
| 157 |
+
}],
|
| 158 |
+
"intents": [{
|
| 159 |
+
"name": "AddAlarm",
|
| 160 |
+
"description": "새 알람 설정하기",
|
| 161 |
+
"is_transactional": true,
|
| 162 |
+
"required_slots": ["새_알람_시간"],
|
| 163 |
+
"optional_slots": {"새_알람_이름": "새 알람"},
|
| 164 |
+
"result_slots": ["새_알람_시간", "새_알람_이름"]
|
| 165 |
+
}]
|
| 166 |
+
}
|
| 167 |
+
```
|
| 168 |
+
기존 SGD 데이터셋과 다르게, extended_schema파일에서 is_categorical의 값이 false인 경우에도 Action에서 사용하는 Canonical Values를 수집해서 제공합니다.
|
| 169 |
+
</details>
|
| 170 |
+
|
| 171 |
+
---
|
| 172 |
+
|
| 173 |
+
## Citation
|
| 174 |
+
|
| 175 |
+
### Original SGD Dataset (Google Research)
|
| 176 |
+
|
| 177 |
+
```bibtex
|
| 178 |
+
@inproceedings{rastogi2020towards,
|
| 179 |
+
title={Towards scalable multi-domain conversational agents: The schema-guided dialogue dataset},
|
| 180 |
+
author={Rastogi, Abhinav and Zang, Xiaoxue and Sunkara, Srinivas and Gupta, Raghav and Khaitan, Pranav},
|
| 181 |
+
booktitle={Proceedings of the AAAI conference on artificial intelligence},
|
| 182 |
+
volume={34},
|
| 183 |
+
number={05},
|
| 184 |
+
pages={8689--8696},
|
| 185 |
+
year={2020}
|
| 186 |
+
}
|
| 187 |
+
```
|
| 188 |
+
|
| 189 |
+
### KoSGD Dataset (AIWORKX)
|
| 190 |
+
|
| 191 |
+
```bibtex
|
| 192 |
+
@misc{AIWORKX_KOSGD,
|
| 193 |
+
author = {AIWORKX},
|
| 194 |
+
title = {KoSGD: Korean Schema-Guided Dialogue ToD Dataset},
|
| 195 |
+
year = {2026},
|
| 196 |
+
publisher = {Hugging Face},
|
| 197 |
+
url = {https://huggingface.co/datasets/AIWORKX/KoSGD},
|
| 198 |
+
}
|
| 199 |
+
```
|
| 200 |
+
|
| 201 |
+
---
|
| 202 |
+
|
| 203 |
+
## Additional Notes
|
| 204 |
+
|
| 205 |
+
- Train/Validation 데이터셋은 추후 공개 예정입니다.
|