| --- |
| license: other |
| language: |
| - ko |
| tags: |
| - korean |
| - pretraining |
| - handiff |
| size_categories: |
| - 100M<n<1B |
| --- |
| |
| # HanDiff Korean Corpus v2 (Full, Private) |
|
|
| 이 데이터셋은 HanDiff 한국어 Diffusion LLM 사전학습용 정제 코퍼스입니다. |
| 샤드(`data/shards/**`)는 포함하지 않습니다 — 학습 시점에 build-corpus가 자동 생성합니다. |
|
|
| ## 통계 |
|
|
| - 총 파일: 8 JSONL + tokenizer |
| - 총 크기: 3554.2 MB |
| - 총 문서: 885,637 |
| - 형식: parquet (zstd-19, ~28% of raw JSONL) |
|
|
| ## 소스별 라이선스 매트릭스 |
|
|
| | Source | License | Docs | Bytes | Domain | |
| |---|---|---|---|---| |
| | kowiki_v1.jsonl | CC-BY-SA-4.0 | 454,589 | 1650.0 MB | 백과 (위키) | |
| | aihub_110_nonmun.jsonl | LicenseRef-NIA-Research | 213,216 | 380.9 MB | 학술 논문 | |
| | aihub_110_pannrei.jsonl | LicenseRef-NIA-Research | 69,904 | 734.3 MB | 법률 판례 | |
| | aihub_110_beoblyeong.jsonl | LicenseRef-NIA-Research | 86,510 | 696.9 MB | 법령 제·개정문 | |
| | aihub_71557_news.jsonl | LicenseRef-NIA-Research | 3,935 | 53.5 MB | 뉴스 본문 | |
| | aihub_86_emotion.jsonl | LicenseRef-NIA-Research | 51,630 | 28.7 MB | 감성 대화 | |
| | aihub_116_dialog.jsonl | LicenseRef-NIA-Research | 5,853 | 4.9 MB | 도메인 대화 (음식점/숙박/관광 등) | |
| |
| ## 사용 |
| |
| ```bash |
| # 일괄 다운로드 + JSONL 복원 + 샤드 빌드 |
| ./scripts/hf/fetch_dataset.sh # parquet → JSONL 자동 변환 |
| cargo run -p build-corpus --release -- \ |
| --config configs/corpus/aihub_v2_extended.toml \ |
| --output data/shards/aihub_v2_extended |
| ``` |
| |
| 또는 datasets 라이브러리: |
|
|
| ```python |
| from datasets import load_dataset |
| ds = load_dataset('neuralfoundry-coder/handiff-ko-corpus-v2', split='train', streaming=True) |
| ``` |
|
|
| ## 라이선스 |
|
|
| - **kowiki**: CC BY-SA 4.0 — 출처 표기 필요, 동일 라이선스 배포 |
| - **AI Hub (110/71557/86/116)**: NIA Research Use License — **상업 사용 금지**, 연구·학술 목적만 |
|
|
| 본 repo는 사용 편의를 위해 **public**으로 공개되어 있으나, |
| AI Hub (NIA-Research) 데이터는 **연구·학술 목적**의 사용으로만 제한됩니다. |
| 상업 사용은 금지됩니다. |
| 샘플 검토용 mini repo: `neuralfoundry-coder/handiff-ko-corpus-v2-sample` |
|
|
| ## 변경 이력 |
|
|
| - v2: kowiki + aihub_110(논문/판례/법령) + aihub_71557(뉴스) + aihub_86(감성대화) + aihub_116(대화) |
