metadata
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
dataset_info:
features:
- name: text
dtype: string
- name: news_date
dtype: string
- name: style_cluster
dtype: int64
- name: style_label
dtype: string
- name: cluster_prob
dtype: float64
splits:
- name: train
num_bytes: 6791613
num_examples: 33692
download_size: 3813822
dataset_size: 6791613
Style-Aware YouTube News Comments Dataset (ver.1)
개요
한국 유튜브 뉴스 댓글의 표현 스타일을 분류한 데이터셋입니다.
MindCast 감정 분류기의 style-aware data construction 파이프라인으로 생성되었습니다.
생성 파이프라인
Raw comments (MindCastSogang/Youtube_news_preprocessed_data) → [전처리] HTML 태그/엔티티 제거, URL 제거 → [Step 1] Qwen2.5-14B-Instruct로 스타일 descriptor 생성 (감정 내용 제외, 어투/문장구조/언어적장치/격식 서술) → [Step 2] KR-SBERT (snunlp/KR-SBERT-V40K-klueNLI-augSTS) 임베딩 → [Step 3] UMAP (10D, cosine) → HDBSCAN 클러스터링 (min_cluster_size=500, min_samples=10) → [Step 4] Qwen2.5-14B-Instruct로 클러스터별 taxonomy 자동 명명 → [Step 5] 동일 이름 클러스터 병합 → style_label 확정
데이터 통계
| 항목 | 값 |
|---|---|
| 전체 샘플 수 | 33,692 |
| 스타일 클래스 수 | 12 |
| 수집 기간 | 2020-01-01 ~ 2023-10-31 |
스타일 레이블 분포
| 스타일 | 샘플 수 |
|---|---|
| 공격적 비판형 | 6,732 |
| 중립적 명령형 | 5,867 |
| 냉소적 비꼼형 | 4,942 |
| 냉소적 비판형 | 3,547 |
| 냉소적 우회형 | 3,352 |
| 공격적 냉소형 | 3,224 |
| 냉소적 반복강조형 | 2,003 |
| 직접적 감정표출형 | 1,216 |
| 공격적 직접형 | 1,049 |
| 냉소적 비꼬는형 | 625 |
| 냉소적 비속어 사용형 | 610 |
| 중립적 간결형 | 525 |
컬럼 설명
| 컬럼 | 설명 |
|---|---|
| text | 전처리된 댓글 텍스트 |
| news_title | 댓글이 달린 뉴스 제목 |
| news_date | 뉴스 날짜 (YYYY-MM-DD) |
| style_cluster | HDBSCAN 원본 클러스터 ID |
| style_label | 병합 후 최종 스타일 레이블 |
| cluster_prob | HDBSCAN 클러스터 소속 확률 |
원본 데이터
- 출처: MindCastSogang/Youtube_news_preprocessed_data
- noise 샘플 제외 (HDBSCAN -1 레이블)
사용 예시
from datasets import load_dataset
dataset = load_dataset("MindCastSogang/style_aware_data_ver1")
라이선스
MindCast / Sogang University — 연구 목적 한정