| --- |
| configs: |
| - config_name: default |
| data_files: |
| - split: train |
| path: data/train-* |
| dataset_info: |
| features: |
| - name: text |
| dtype: string |
| - name: news_date |
| dtype: string |
| - name: style_cluster |
| dtype: int64 |
| - name: style_label |
| dtype: string |
| - name: cluster_prob |
| dtype: float64 |
| splits: |
| - name: train |
| num_bytes: 6791613 |
| num_examples: 33692 |
| download_size: 3813822 |
| dataset_size: 6791613 |
| --- |
| # Style-Aware YouTube News Comments Dataset (ver.1) |
|
|
| ## 개요 |
| 한국 유튜브 뉴스 댓글의 **표현 스타일**을 분류한 데이터셋입니다. |
| MindCast 감정 분류기의 style-aware data construction 파이프라인으로 생성되었습니다. |
|
|
| ## 생성 파이프라인 |
| Raw comments (MindCastSogang/Youtube_news_preprocessed_data) |
| → [전처리] HTML 태그/엔티티 제거, URL 제거 |
| → [Step 1] Qwen2.5-14B-Instruct로 스타일 descriptor 생성 |
| (감정 내용 제외, 어투/문장구조/언어적장치/격식 서술) |
| → [Step 2] KR-SBERT (snunlp/KR-SBERT-V40K-klueNLI-augSTS) 임베딩 |
| → [Step 3] UMAP (10D, cosine) → HDBSCAN 클러스터링 |
| (min_cluster_size=500, min_samples=10) |
| → [Step 4] Qwen2.5-14B-Instruct로 클러스터별 taxonomy 자동 명명 |
| → [Step 5] 동일 이름 클러스터 병합 → style_label 확정 |
| |
| ## 데이터 통계 |
| |
| | 항목 | 값 | |
| |---|---| |
| | 전체 샘플 수 | 33,692 | |
| | 스타일 클래스 수 | 12 | |
| | 수집 기간 | 2020-01-01 ~ 2023-10-31 | |
| |
| ## 스타일 레이블 분포 |
| |
| | 스타일 | 샘플 수 | |
| |---|---| |
| | 공격적 비판형 | 6,732 | |
| | 중립적 명령형 | 5,867 | |
| | 냉소적 비꼼형 | 4,942 | |
| | 냉소적 비판형 | 3,547 | |
| | 냉소적 우회형 | 3,352 | |
| | 공격적 냉소형 | 3,224 | |
| | 냉소적 반복강조형 | 2,003 | |
| | 직접적 감정표출형 | 1,216 | |
| | 공격적 직접형 | 1,049 | |
| | 냉소적 비꼬는형 | 625 | |
| | 냉소적 비속어 사용형 | 610 | |
| | 중립적 간결형 | 525 | |
| |
| ## 컬럼 설명 |
| |
| | 컬럼 | 설명 | |
| |---|---| |
| | text | 전처리된 댓글 텍스트 | |
| | news_title | 댓글이 달린 뉴스 제목 | |
| | news_date | 뉴스 날짜 (YYYY-MM-DD) | |
| | style_cluster | HDBSCAN 원본 클러스터 ID | |
| | style_label | 병합 후 최종 스타일 레이블 | |
| | cluster_prob | HDBSCAN 클러스터 소속 확률 | |
|
|
| ## 원본 데이터 |
| - 출처: MindCastSogang/Youtube_news_preprocessed_data |
| - noise 샘플 제외 (HDBSCAN -1 레이블) |
| |
| ## 사용 예시 |
| |
| ```python |
| from datasets import load_dataset |
| dataset = load_dataset("MindCastSogang/style_aware_data_ver1") |
| ``` |
| |
| ## 라이선스 |
| MindCast / Sogang University — 연구 목적 한정 |
| |