YenYein's picture
Update README.md
c23db8e verified
|
Raw
History Blame Contribute Delete
2.59 kB
---
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
dataset_info:
features:
- name: text
dtype: string
- name: news_date
dtype: string
- name: style_cluster
dtype: int64
- name: style_label
dtype: string
- name: cluster_prob
dtype: float64
splits:
- name: train
num_bytes: 6791613
num_examples: 33692
download_size: 3813822
dataset_size: 6791613
---
# Style-Aware YouTube News Comments Dataset (ver.1)
## 개요
한국 유튜브 뉴스 댓글의 **표현 스타일**을 분류한 데이터셋입니다.
MindCast 감정 분류기의 style-aware data construction 파이프라인으로 생성되었습니다.
## 생성 파이프라인
Raw comments (MindCastSogang/Youtube_news_preprocessed_data)
→ [전처리] HTML 태그/엔티티 제거, URL 제거
→ [Step 1] Qwen2.5-14B-Instruct로 스타일 descriptor 생성
(감정 내용 제외, 어투/문장구조/언어적장치/격식 서술)
→ [Step 2] KR-SBERT (snunlp/KR-SBERT-V40K-klueNLI-augSTS) 임베딩
→ [Step 3] UMAP (10D, cosine) → HDBSCAN 클러스터링
(min_cluster_size=500, min_samples=10)
→ [Step 4] Qwen2.5-14B-Instruct로 클러스터별 taxonomy 자동 명명
→ [Step 5] 동일 이름 클러스터 병합 → style_label 확정
## 데이터 통계
| 항목 | 값 |
|---|---|
| 전체 샘플 수 | 33,692 |
| 스타일 클래스 수 | 12 |
| 수집 기간 | 2020-01-01 ~ 2023-10-31 |
## 스타일 레이블 분포
| 스타일 | 샘플 수 |
|---|---|
| 공격적 비판형 | 6,732 |
| 중립적 명령형 | 5,867 |
| 냉소적 비꼼형 | 4,942 |
| 냉소적 비판형 | 3,547 |
| 냉소적 우회형 | 3,352 |
| 공격적 냉소형 | 3,224 |
| 냉소적 반복강조형 | 2,003 |
| 직접적 감정표출형 | 1,216 |
| 공격적 직접형 | 1,049 |
| 냉소적 비꼬는형 | 625 |
| 냉소적 비속어 사용형 | 610 |
| 중립적 간결형 | 525 |
## 컬럼 설명
| 컬럼 | 설명 |
|---|---|
| text | 전처리된 댓글 텍스트 |
| news_title | 댓글이 달린 뉴스 제목 |
| news_date | 뉴스 날짜 (YYYY-MM-DD) |
| style_cluster | HDBSCAN 원본 클러스터 ID |
| style_label | 병합 후 최종 스타일 레이블 |
| cluster_prob | HDBSCAN 클러스터 소속 확률 |
## 원본 데이터
- 출처: MindCastSogang/Youtube_news_preprocessed_data
- noise 샘플 제외 (HDBSCAN -1 레이블)
## 사용 예시
```python
from datasets import load_dataset
dataset = load_dataset("MindCastSogang/style_aware_data_ver1")
```
## 라이선스
MindCast / Sogang University — 연구 목적 한정