---
license: other
language:
  - ko
tags:
  - korean
  - pretraining
  - handiff
size_categories:
  - 100M<n<1B
---

# HanDiff Korean Corpus v2 (Full, Private)

이 데이터셋은 HanDiff 한국어 Diffusion LLM 사전학습용 정제 코퍼스입니다.
샤드(`data/shards/**`)는 포함하지 않습니다 — 학습 시점에 build-corpus가 자동 생성합니다.

## 통계

- 총 파일: 8 JSONL + tokenizer
- 총 크기: 3554.2 MB
- 총 문서: 885,637
- 형식: parquet (zstd-19, ~28% of raw JSONL)

## 소스별 라이선스 매트릭스

| Source | License | Docs | Bytes | Domain |
|---|---|---|---|---|
| kowiki_v1.jsonl | CC-BY-SA-4.0 | 454,589 | 1650.0 MB | 백과 (위키) |
| aihub_110_nonmun.jsonl | LicenseRef-NIA-Research | 213,216 | 380.9 MB | 학술 논문 |
| aihub_110_pannrei.jsonl | LicenseRef-NIA-Research | 69,904 | 734.3 MB | 법률 판례 |
| aihub_110_beoblyeong.jsonl | LicenseRef-NIA-Research | 86,510 | 696.9 MB | 법령 제·개정문 |
| aihub_71557_news.jsonl | LicenseRef-NIA-Research | 3,935 | 53.5 MB | 뉴스 본문 |
| aihub_86_emotion.jsonl | LicenseRef-NIA-Research | 51,630 | 28.7 MB | 감성 대화 |
| aihub_116_dialog.jsonl | LicenseRef-NIA-Research | 5,853 | 4.9 MB | 도메인 대화 (음식점/숙박/관광 등) |

## 사용

```bash
# 일괄 다운로드 + JSONL 복원 + 샤드 빌드
./scripts/hf/fetch_dataset.sh   # parquet → JSONL 자동 변환
cargo run -p build-corpus --release -- \
    --config configs/corpus/aihub_v2_extended.toml \
    --output data/shards/aihub_v2_extended
```

또는 datasets 라이브러리:

```python
from datasets import load_dataset
ds = load_dataset('neuralfoundry-coder/handiff-ko-corpus-v2', split='train', streaming=True)
```

## 라이선스

- **kowiki**: CC BY-SA 4.0 — 출처 표기 필요, 동일 라이선스 배포
- **AI Hub (110/71557/86/116)**: NIA Research Use License — **상업 사용 금지**, 연구·학술 목적만

본 repo는 사용 편의를 위해 **public**으로 공개되어 있으나,
AI Hub (NIA-Research) 데이터는 **연구·학술 목적**의 사용으로만 제한됩니다.
상업 사용은 금지됩니다.
샘플 검토용 mini repo: `neuralfoundry-coder/handiff-ko-corpus-v2-sample`

## 변경 이력

- v2: kowiki + aihub_110(논문/판례/법령) + aihub_71557(뉴스) + aihub_86(감성대화) + aihub_116(대화)