The dataset viewer is not available for this split.
Cannot load the dataset split (in streaming mode) to extract the first rows.
Error code: StreamingRowsError
Exception: CastError
Message: Couldn't cast
text: string
news_title: string
news_date: string
style_cluster: int64
style_label: string
cluster_prob: double
-- schema metadata --
pandas: '{"index_columns": [], "column_indexes": [], "columns": [{"name":' + 791
to
{'text': Value('string'), 'news_date': Value('string'), 'style_cluster': Value('int64'), 'style_label': Value('string'), 'cluster_prob': Value('float64')}
because column names don't match
Traceback: Traceback (most recent call last):
File "/src/services/worker/src/worker/utils.py", line 99, in get_rows_or_raise
return get_rows(
^^^^^^^^^
File "/src/libs/libcommon/src/libcommon/utils.py", line 272, in decorator
return func(*args, **kwargs)
^^^^^^^^^^^^^^^^^^^^^
File "/src/services/worker/src/worker/utils.py", line 77, in get_rows
rows_plus_one = list(itertools.islice(ds, rows_max_number + 1))
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.12/site-packages/datasets/iterable_dataset.py", line 2815, in __iter__
for key, example in ex_iterable:
^^^^^^^^^^^
File "/usr/local/lib/python3.12/site-packages/datasets/iterable_dataset.py", line 2352, in __iter__
for key, pa_table in self._iter_arrow():
^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.12/site-packages/datasets/iterable_dataset.py", line 2377, in _iter_arrow
for key, pa_table in self.ex_iterable._iter_arrow():
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.12/site-packages/datasets/iterable_dataset.py", line 536, in _iter_arrow
for key, pa_table in iterator:
^^^^^^^^
File "/usr/local/lib/python3.12/site-packages/datasets/iterable_dataset.py", line 419, in _iter_arrow
for key, pa_table in self.generate_tables_fn(**gen_kwags):
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.12/site-packages/datasets/packaged_modules/parquet/parquet.py", line 220, in _generate_tables
yield Key(file_idx, batch_idx), self._cast_table(pa_table)
^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.12/site-packages/datasets/packaged_modules/parquet/parquet.py", line 156, in _cast_table
pa_table = table_cast(pa_table, self.info.features.arrow_schema)
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.12/site-packages/datasets/table.py", line 2369, in table_cast
return cast_table_to_schema(table, schema)
^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
File "/usr/local/lib/python3.12/site-packages/datasets/table.py", line 2297, in cast_table_to_schema
raise CastError(
datasets.table.CastError: Couldn't cast
text: string
news_title: string
news_date: string
style_cluster: int64
style_label: string
cluster_prob: double
-- schema metadata --
pandas: '{"index_columns": [], "column_indexes": [], "columns": [{"name":' + 791
to
{'text': Value('string'), 'news_date': Value('string'), 'style_cluster': Value('int64'), 'style_label': Value('string'), 'cluster_prob': Value('float64')}
because column names don't matchNeed help to make the dataset viewer work? Make sure to review how to configure the dataset viewer, and open a discussion for direct support.
Style-Aware YouTube News Comments Dataset (ver.1)
개요
한국 유튜브 뉴스 댓글의 표현 스타일을 분류한 데이터셋입니다.
MindCast 감정 분류기의 style-aware data construction 파이프라인으로 생성되었습니다.
생성 파이프라인
Raw comments (MindCastSogang/Youtube_news_preprocessed_data) → [전처리] HTML 태그/엔티티 제거, URL 제거 → [Step 1] Qwen2.5-14B-Instruct로 스타일 descriptor 생성 (감정 내용 제외, 어투/문장구조/언어적장치/격식 서술) → [Step 2] KR-SBERT (snunlp/KR-SBERT-V40K-klueNLI-augSTS) 임베딩 → [Step 3] UMAP (10D, cosine) → HDBSCAN 클러스터링 (min_cluster_size=500, min_samples=10) → [Step 4] Qwen2.5-14B-Instruct로 클러스터별 taxonomy 자동 명명 → [Step 5] 동일 이름 클러스터 병합 → style_label 확정
데이터 통계
| 항목 | 값 |
|---|---|
| 전체 샘플 수 | 33,692 |
| 스타일 클래스 수 | 12 |
| 수집 기간 | 2020-01-01 ~ 2023-10-31 |
스타일 레이블 분포
| 스타일 | 샘플 수 |
|---|---|
| 공격적 비판형 | 6,732 |
| 중립적 명령형 | 5,867 |
| 냉소적 비꼼형 | 4,942 |
| 냉소적 비판형 | 3,547 |
| 냉소적 우회형 | 3,352 |
| 공격적 냉소형 | 3,224 |
| 냉소적 반복강조형 | 2,003 |
| 직접적 감정표출형 | 1,216 |
| 공격적 직접형 | 1,049 |
| 냉소적 비꼬는형 | 625 |
| 냉소적 비속어 사용형 | 610 |
| 중립적 간결형 | 525 |
컬럼 설명
| 컬럼 | 설명 |
|---|---|
| text | 전처리된 댓글 텍스트 |
| news_title | 댓글이 달린 뉴스 제목 |
| news_date | 뉴스 날짜 (YYYY-MM-DD) |
| style_cluster | HDBSCAN 원본 클러스터 ID |
| style_label | 병합 후 최종 스타일 레이블 |
| cluster_prob | HDBSCAN 클러스터 소속 확률 |
원본 데이터
- 출처: MindCastSogang/Youtube_news_preprocessed_data
- noise 샘플 제외 (HDBSCAN -1 레이블)
사용 예시
from datasets import load_dataset
dataset = load_dataset("MindCastSogang/style_aware_data_ver1")
라이선스
MindCast / Sogang University — 연구 목적 한정
- Downloads last month
- 36