metadata
license: other
language:
- ko
tags:
- korean
- pretraining
- handiff
size_categories:
- 100M<n<1B
HanDiff Korean Corpus v2 (Full, Private)
이 데이터셋은 HanDiff 한국어 Diffusion LLM 사전학습용 정제 코퍼스입니다.
샤드(data/shards/**)는 포함하지 않습니다 — 학습 시점에 build-corpus가 자동 생성합니다.
통계
- 총 파일: 8 JSONL + tokenizer
- 총 크기: 3554.2 MB
- 총 문서: 885,637
- 형식: parquet (zstd-19, ~28% of raw JSONL)
소스별 라이선스 매트릭스
| Source | License | Docs | Bytes | Domain |
|---|---|---|---|---|
| kowiki_v1.jsonl | CC-BY-SA-4.0 | 454,589 | 1650.0 MB | 백과 (위키) |
| aihub_110_nonmun.jsonl | LicenseRef-NIA-Research | 213,216 | 380.9 MB | 학술 논문 |
| aihub_110_pannrei.jsonl | LicenseRef-NIA-Research | 69,904 | 734.3 MB | 법률 판례 |
| aihub_110_beoblyeong.jsonl | LicenseRef-NIA-Research | 86,510 | 696.9 MB | 법령 제·개정문 |
| aihub_71557_news.jsonl | LicenseRef-NIA-Research | 3,935 | 53.5 MB | 뉴스 본문 |
| aihub_86_emotion.jsonl | LicenseRef-NIA-Research | 51,630 | 28.7 MB | 감성 대화 |
| aihub_116_dialog.jsonl | LicenseRef-NIA-Research | 5,853 | 4.9 MB | 도메인 대화 (음식점/숙박/관광 등) |
사용
# 일괄 다운로드 + JSONL 복원 + 샤드 빌드
./scripts/hf/fetch_dataset.sh # parquet → JSONL 자동 변환
cargo run -p build-corpus --release -- \
--config configs/corpus/aihub_v2_extended.toml \
--output data/shards/aihub_v2_extended
또는 datasets 라이브러리:
from datasets import load_dataset
ds = load_dataset('neuralfoundry-coder/handiff-ko-corpus-v2', split='train', streaming=True)
라이선스
- kowiki: CC BY-SA 4.0 — 출처 표기 필요, 동일 라이선스 배포
- AI Hub (110/71557/86/116): NIA Research Use License — 상업 사용 금지, 연구·학술 목적만
본 repo는 사용 편의를 위해 public으로 공개되어 있으나,
AI Hub (NIA-Research) 데이터는 연구·학술 목적의 사용으로만 제한됩니다.
상업 사용은 금지됩니다.
샘플 검토용 mini repo: neuralfoundry-coder/handiff-ko-corpus-v2-sample
변경 이력
- v2: kowiki + aihub_110(논문/판례/법령) + aihub_71557(뉴스) + aihub_86(감성대화) + aihub_116(대화)