metadata
license: other
license_name: mixed-cc-by-sa-4.0-and-nia-research
language:
- ko
tags:
- korean
- sample
- handiff
size_categories:
- n<1K
HanDiff Korean Corpus v2 — Sample
⚠️ 사용자 책임 고지: 본 샘플은 7개 소스(라이선스 상이)에서 각 10건씩 추출했습니다. AI Hub(NIA-Research) 출처 데이터는 상업적 사용·재배포가 금지됩니다. 라이선스 준수 책임은 사용자에게 있습니다. 자세한 사항은 §라이선스 + §사용자 책임 참조.
각 소스에서 무작위 10건을 추출한 inspection sample 입니다.
전체 데이터는 neuralfoundry-coder/handiff-ko-corpus-v2 에서 확인하세요.
포함 파일
각 소스별 <source>_sample.jsonl (10건) + 통합 samples_all.jsonl + tokenizer.
각 record에는 source_id + license 필드가 있어 라이선스 추적이 가능합니다.
| Source | License | 도메인 |
|---|---|---|
| kowiki_v1.jsonl | CC-BY-SA-4.0 | 백과 (위키) |
| aihub_110_nonmun.jsonl | LicenseRef-NIA-Research | 학술 논문 |
| aihub_110_pannrei.jsonl | LicenseRef-NIA-Research | 법률 판례 |
| aihub_110_beoblyeong.jsonl | LicenseRef-NIA-Research | 법령 제·개정문 |
| aihub_71557_news.jsonl | LicenseRef-NIA-Research | 뉴스 본문 |
| aihub_86_emotion.jsonl | LicenseRef-NIA-Research | 감성 대화 |
| aihub_116_dialog.jsonl | LicenseRef-NIA-Research | 도메인 대화 |
사용 (예: 토크나이저 호환성 점검)
huggingface-cli download neuralfoundry-coder/handiff-ko-corpus-v2-sample \
--repo-type dataset --local-dir samples/
head samples/samples_all.jsonl
라이선스 (요약)
- kowiki: CC BY-SA 4.0 — 출처 표기 + 동일 라이선스
- aihub_110, 71557, 86, 116: AI Hub NIA Research Use License — 상업 사용 금지, 연구·학술만.
사용자 책임 (Disclaimer)
- 라이선스 준수 책임은 사용자(다운로더)에게 있습니다.
- 본 샘플의 공개 배포는 원 라이선스 의무를 사용자가 면제받음을 의미하지 않습니다.
- AI Hub 출처 record를 상업적으로 사용한 경우의 모든 법적 책임은 사용자에게 있으며, 업로더(neuralfoundry-coder)는 어떠한 책임도 지지 않습니다.
- 본 데이터셋은 ‘있는 그대로(AS IS)’ 제공되며, 보증은 없습니다.
전체 데이터셋: https://huggingface.co/datasets/neuralfoundry-coder/handiff-ko-corpus-v2