File size: 2,594 Bytes
80da5bb 6193368 80da5bb 6193368 80da5bb 6193368 80da5bb 6193368 80da5bb 6193368 80da5bb 6193368 3a0d2d3 6193368 80da5bb 6193368 80da5bb 6193368 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 | ---
license: other
license_name: mixed-cc-by-sa-4.0-and-nia-research
language:
- ko
tags:
- korean
- sample
- handiff
size_categories:
- n<1K
---
# HanDiff Korean Corpus v2 — Sample
> ⚠️ **사용자 책임 고지**: 본 샘플은 7개 소스(라이선스 상이)에서 각 10건씩 추출했습니다.
> AI Hub(NIA-Research) 출처 데이터는 **상업적 사용·재배포가 금지**됩니다.
> 라이선스 준수 책임은 사용자에게 있습니다. 자세한 사항은 §라이선스 + §사용자 책임 참조.
각 소스에서 무작위 10건을 추출한 inspection sample 입니다.
전체 데이터는 `neuralfoundry-coder/handiff-ko-corpus-v2` 에서 확인하세요.
## 포함 파일
각 소스별 `<source>_sample.jsonl` (10건) + 통합 `samples_all.jsonl` + tokenizer.
각 record에는 `source_id` + `license` 필드가 있어 라이선스 추적이 가능합니다.
| Source | License | 도메인 |
|---|---|---|
| kowiki_v1.jsonl | CC-BY-SA-4.0 | 백과 (위키) |
| aihub_110_nonmun.jsonl | LicenseRef-NIA-Research | 학술 논문 |
| aihub_110_pannrei.jsonl | LicenseRef-NIA-Research | 법률 판례 |
| aihub_110_beoblyeong.jsonl | LicenseRef-NIA-Research | 법령 제·개정문 |
| aihub_71557_news.jsonl | LicenseRef-NIA-Research | 뉴스 본문 |
| aihub_86_emotion.jsonl | LicenseRef-NIA-Research | 감성 대화 |
| aihub_116_dialog.jsonl | LicenseRef-NIA-Research | 도메인 대화 |
## 사용 (예: 토크나이저 호환성 점검)
```bash
huggingface-cli download neuralfoundry-coder/handiff-ko-corpus-v2-sample \
--repo-type dataset --local-dir samples/
head samples/samples_all.jsonl
```
## 라이선스 (요약)
- **kowiki**: [CC BY-SA 4.0](https://creativecommons.org/licenses/by-sa/4.0/) — 출처 표기 + 동일 라이선스
- **aihub_110, 71557, 86, 116**: AI Hub NIA Research Use License — **상업 사용 금지**, 연구·학술만.
- 약관: <https://aihub.or.kr/intrcn/agreement/agreement.do>
## 사용자 책임 (Disclaimer)
1. **라이선스 준수 책임은 사용자(다운로더)에게 있습니다**.
2. 본 샘플의 공개 배포는 원 라이선스 의무를 사용자가 면제받음을 의미하지 **않습니다**.
3. AI Hub 출처 record를 상업적으로 사용한 경우의 모든 법적 책임은 사용자에게 있으며,
업로더(neuralfoundry-coder)는 어떠한 책임도 지지 않습니다.
4. 본 데이터셋은 ‘있는 그대로(AS IS)’ 제공되며, 보증은 없습니다.
전체 데이터셋: <https://huggingface.co/datasets/neuralfoundry-coder/handiff-ko-corpus-v2> |