AIWORKX commited on
Commit
1dd8715
·
verified ·
1 Parent(s): cb64977

docs: update README YAML for dataset viewer preview

Browse files
Files changed (1) hide show
  1. README.md +205 -3
README.md CHANGED
@@ -1,3 +1,205 @@
1
- ---
2
- license: cc-by-sa-4.0
3
- ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ language:
3
+ - ko
4
+ license: cc-by-sa-4.0
5
+ size_categories:
6
+ - 1K<n<10K
7
+ configs:
8
+ - config_name: default
9
+ data_files:
10
+ - split: test
11
+ path: data/test/dialogues_*.json
12
+ task_categories:
13
+ - text-classification
14
+ - token-classification
15
+ - question-answering
16
+ - text-generation
17
+ - zero-shot-classification
18
+ tags:
19
+ - SGD
20
+ - NLU
21
+ - DST
22
+ - NER
23
+ - Intent
24
+ - QA
25
+ pretty_name: KoSGD
26
+ ---
27
+
28
+ # KoSGD: Korean Schema-Guided Dialogue Dataset
29
+
30
+ **KoSGD**는 Google Research의 [Schema-Guided Dialogue(SGD)](https://arxiv.org/abs/1909.05855) 데이터셋을 한국어로 변환한 대규모 Task-Oriented Dialogue(ToD) 데이터셋입니다.
31
+
32
+ ---
33
+
34
+ ## Overview
35
+
36
+ | 항목 | 내용 |
37
+ |:-----|:-----|
38
+ | **도메인** | 21개 서비스 (알람, 버스, 호텔, 식당 등) |
39
+ | **대화 턴** | 84,594 턴 |
40
+ | **번역 방식** | 기계 번역 + 전수 휴먼 검수 |
41
+ | **공개 범위** | Test set 공개 (Train/Validation 추후 공개) |
42
+
43
+ - **전수 휴먼 검수**: 자연스러운 한국어 표현과 정확한 의미 전달에 중점
44
+ - **Annotation 오류 수정**: 번역 과정에서 발견된 원본 SGD의 오류 함께 수정
45
+ - **용어 명확화**: 원본에서 암묵적으로 사용되던 개념을 명시적으로 정의
46
+
47
+ ---
48
+
49
+ ## Key Concepts
50
+
51
+ ### Canonical Value vs Value
52
+
53
+ | 용어 | 정의 | 예시 |
54
+ |:-----|:-----|:-----|
55
+ | **Value** | 사용자 발화에서 원문 그대로 추출한 값 | `"8일"`, `"오후 12시"` |
56
+ | **Canonical Value** | 슬롯에 대해 사전 정의된 정규화 값 | `"2019-03-08"`, `"12:00"` |
57
+
58
+ ---
59
+
60
+ ## Dataset Details
61
+
62
+ <details>
63
+ <summary><b>서비스(도메인) 목록 - 21개</b></summary>
64
+
65
+ | 서비스 | 원본 SGD | 설명 |
66
+ |:-------|:---------|:-----|
67
+ | 알람_1 | Alarm_1 | 알람을 쉽게 가져오고 설정 및 관리 |
68
+ | 버스_3 | Buses_3 | 저렴하고 편안한 전국 버스 여행 |
69
+ | 이벤트_3 | Events_3 | 지역 문화 행사 티켓 검색 및 예약 |
70
+ | 비행_4 | Flights_4 | 저렴한 항공편 검색 및 예약 |
71
+ | 집_2 | Homes_2 | 구매 및 임대할 부동산 검색 서비스 |
72
+ | 호텔_2 | Hotels_2 | 단기 체류를 위한 숙소 검색 및 예약 |
73
+ | 호텔_4 | Hotels_4 | 숙박 검색 및 예약 포털 |
74
+ | 미디어_3 | Media_3 | 드라마, 영화, 다큐멘터리 등 무제한 스트리밍 |
75
+ | 메세지_1 | Messaging_1 | 연락처와 연결 및 위치 공유 |
76
+ | 영화_1 | Movies_1 | 영화 검색, 상영 시간 확인, 티켓 예약 |
77
+ | 영화_3 | Movies_3 | 영화 및 TV 리뷰 집계 |
78
+ | 음악_3 | Music_3 | 맞춤형 무료 음악 스트리밍 플랫폼 |
79
+ | 결제_1 | Payment_1 | 앱, 웹, 스토어에서 빠르고 간편한 결제 |
80
+ | 차량렌트_3 | RentalCars_3 | 글로벌 렌터카 솔루션 |
81
+ | 식당_2 | Restaurants_2 | 레스토랑 검색 및 예약 서비스 |
82
+ | 승차공유_2 | RideSharing_2 | 목적지까지 택시 예약 |
83
+ | 서비스_1 | Services_1 | 헤어 스타일리스트 검색 및 예약 |
84
+ | 서비스_4 | Services_4 | 심리상담사 검색 및 예약 |
85
+ | 열차_1 | Trains_1 | 도시 간 기차 여행 검색 및 예약 |
86
+ | 여행_1 | Travel_1 | 관광 명소와 관심 지점 데이터베이스 |
87
+ | 날씨_1 | Weather_1 | 특정 장소와 날짜에 대한 날씨 확인 |
88
+ </details>
89
+
90
+ <details>
91
+ <summary><b>데이터 구조</b></summary>
92
+
93
+ ### 파일 구성
94
+
95
+ ```
96
+ KoSGD/
97
+ ├── dialogues_001.json ~ dialogues_034.json # 대화 데이터 (34개)
98
+ └── extended_schema.json # 서비스 스키마 정의
99
+ ```
100
+
101
+ ### 대화 데이터 구조
102
+
103
+ ```json
104
+ {
105
+ "dialogue_id": "1_00000",
106
+ "services": ["식당_2"],
107
+ "turns": [
108
+ {
109
+ "speaker": "USER",
110
+ "utterance": "안녕하세요. 8일에 식당 예약 좀 부탁드려도 될까요?",
111
+ "frames": [{
112
+ "service": "식당_2",
113
+ "actions": [{
114
+ "act": "INFORM",
115
+ "slot": "예약일",
116
+ "values": ["8일"],
117
+ "canonical_values": ["2019-03-08"]
118
+ }],
119
+ "slots": [{"slot": "예약일", "start": 7, "exclusive_end": 9}],
120
+ "state": {
121
+ "active_intent": "ReserveRestaurant",
122
+ "requested_slots": [],
123
+ "slot_values": {"예약일": ["8일"]}
124
+ }
125
+ }]
126
+ }
127
+ ]
128
+ }
129
+ ```
130
+
131
+ ### Action 유형
132
+
133
+ | Act | 설명 | 사용 주체 |
134
+ |:----|:-----|:----------|
135
+ | `INFORM` | 슬롯 값 제공 | USER, SYSTEM |
136
+ | `INFORM_INTENT` | 의도 표현 | USER |
137
+ | `REQUEST` | 슬롯 값 요청 | USER, SYSTEM |
138
+ | `CONFIRM` | 값 확인 요청 | SYSTEM |
139
+ | `AFFIRM` / `NEGATE` | 긍정/부정 응답 | USER |
140
+ | `SELECT` | 선택지에서 선택 | USER |
141
+ | `OFFER` | 옵션 제안 | SYSTEM |
142
+ | `NOTIFY_SUCCESS` / `NOTIFY_FAILURE` | 작업 성공/실패 알림 | SYSTEM |
143
+ | `REQ_MORE` | 추가 요청 확인 | SYSTEM |
144
+ | `GOODBYE` / `THANK_YOU` | 대화 종료/감사 | USER, SYSTEM |
145
+
146
+ ### 스키마 정의 구조
147
+
148
+ ```json
149
+ {
150
+ "service_name": "알람_1",
151
+ "description": "알람을 쉽게 가져오고 설정 및 관리",
152
+ "slots": [{
153
+ "name": "알람_시간",
154
+ "description": "알람이 설정된 시간",
155
+ "is_categorical": false,
156
+ "possible_values": ["06:00", "06:30", ...]
157
+ }],
158
+ "intents": [{
159
+ "name": "AddAlarm",
160
+ "description": "새 알람 설정하기",
161
+ "is_transactional": true,
162
+ "required_slots": ["새_알람_시간"],
163
+ "optional_slots": {"새_알람_이름": "새 알람"},
164
+ "result_slots": ["새_알람_시간", "새_알람_이름"]
165
+ }]
166
+ }
167
+ ```
168
+ 기존 SGD 데이터셋과 다르게, extended_schema파일에서 is_categorical의 값이 false인 경우에도 Action에서 사용하는 Canonical Values를 수집해서 제공합니다.
169
+ </details>
170
+
171
+ ---
172
+
173
+ ## Citation
174
+
175
+ ### Original SGD Dataset (Google Research)
176
+
177
+ ```bibtex
178
+ @inproceedings{rastogi2020towards,
179
+ title={Towards scalable multi-domain conversational agents: The schema-guided dialogue dataset},
180
+ author={Rastogi, Abhinav and Zang, Xiaoxue and Sunkara, Srinivas and Gupta, Raghav and Khaitan, Pranav},
181
+ booktitle={Proceedings of the AAAI conference on artificial intelligence},
182
+ volume={34},
183
+ number={05},
184
+ pages={8689--8696},
185
+ year={2020}
186
+ }
187
+ ```
188
+
189
+ ### KoSGD Dataset (AIWORKX)
190
+
191
+ ```bibtex
192
+ @misc{AIWORKX_KOSGD,
193
+ author = {AIWORKX},
194
+ title = {KoSGD: Korean Schema-Guided Dialogue ToD Dataset},
195
+ year = {2026},
196
+ publisher = {Hugging Face},
197
+ url = {https://huggingface.co/datasets/AIWORKX/KoSGD},
198
+ }
199
+ ```
200
+
201
+ ---
202
+
203
+ ## Additional Notes
204
+
205
+ - Train/Validation 데이터셋은 추후 공개 예정입니다.