docs: update dataset card
Browse files
README.md
CHANGED
|
@@ -29,20 +29,29 @@ pretty_name: KoSGD
|
|
| 29 |
|
| 30 |
**KoSGD**는 Google Research의 [Schema-Guided Dialogue(SGD)](https://arxiv.org/abs/1909.05855) 데이터셋을 한국어로 변환한 대규모 Task-Oriented Dialogue(ToD) 데이터셋입니다.
|
| 31 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 32 |
---
|
| 33 |
|
| 34 |
-
## Overview
|
| 35 |
|
| 36 |
-
|
| 37 |
-
|:-----|:-----|
|
| 38 |
-
| **도메인** | 21개 서비스 (알람, 버스, 호텔, 식당 등) |
|
| 39 |
-
| **대화 턴** | 84,594 턴 |
|
| 40 |
-
| **번역 방식** | 기계 번역 + 전수 휴먼 검수 |
|
| 41 |
-
| **공개 범위** | Test set 공개 (Train/Validation 추후 공개) |
|
| 42 |
|
| 43 |
-
|
| 44 |
-
|
| 45 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 46 |
|
| 47 |
---
|
| 48 |
|
|
|
|
| 29 |
|
| 30 |
**KoSGD**는 Google Research의 [Schema-Guided Dialogue(SGD)](https://arxiv.org/abs/1909.05855) 데이터셋을 한국어로 변환한 대규모 Task-Oriented Dialogue(ToD) 데이터셋입니다.
|
| 31 |
|
| 32 |
+
기존의 목적 지향 대화(ToD) 데이터셋은 고정된 도메인 내에서만 작동하는 경우가 많았습니다. Google의 SGD 데이터셋은 **'Schema-Guided'** 방식을 도입하여, 새로운 서비스 스키마만 주어지면 모델이 Zero-shot으로 대응할 수 있도록 설계되었습니다.
|
| 33 |
+
|
| 34 |
+
**KoSGD는 왜 만들어졌나요?**
|
| 35 |
+
- **한국어 일반화 성능 평가**: 한국어 LLM이 다양한 도메인(21개 이상)에서 스키마를 얼마나 정확히 이해하고 태스크를 수행하는지 측정하기 위함입니다.
|
| 36 |
+
- **고도화된 번역 및 검수**: 기계 번역 후 전문 인력이 **전수 휴먼 검수**를 진행하여, 구어체 표현의 자연스러움과 ToD 특유의 논리적 연결성을 확보했습니다.
|
| 37 |
+
- **원본 오류 수정**: 번역 과정에서 발견된 원본 SGD의 어노테이션 불일치와 오류를 대폭 수정하여 데이터 품질을 높였습니다.
|
| 38 |
+
|
| 39 |
+
|
| 40 |
---
|
| 41 |
|
| 42 |
+
## Dataset Overview
|
| 43 |
|
| 44 |
+
KoSGD는 한국어 LLM이 다중 도메인(21개 이상) 환경에서 얼마나 유연하게 대화 상태를 추적하고 적절한 응답을 생성하는지 종합적으로 평가하기 위해 설계되었습니다. 단순 번역을 넘어선 전수 검수를 통해 고품질의 한국어 대화 데이터를 제공합니다.
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 45 |
|
| 46 |
+
| Key | Description |
|
| 47 |
+
| :--- | :--- |
|
| 48 |
+
| **Dataset Name** | KoSGD (Korean Schema-Guided Dialogue) |
|
| 49 |
+
| **Data Type** | 다중 도메인 목적 지향 대화 (ToD) 데이터셋 |
|
| 50 |
+
| **Domains** | 21개 서비스 (알람, 호텔, 식당, 항공, 날씨 등) |
|
| 51 |
+
| **Size** | 총 84,594 턴 (Test set 기준) |
|
| 52 |
+
| **Methodology** | 기계 번역 + **전문 검수 인력 전수 교정** |
|
| 53 |
+
| **Improvements** | 원본 어노테이션 오류 수정 및 한국어 정규화 값(Canonical Value) 최적화 |
|
| 54 |
+
| **License** | CC BY-SA 4.0 |
|
| 55 |
|
| 56 |
---
|
| 57 |
|