File size: 2,594 Bytes
80da5bb
 
6193368
80da5bb
 
 
 
 
 
 
 
 
 
6193368
 
 
 
 
80da5bb
 
6193368
80da5bb
 
 
 
6193368
80da5bb
 
 
 
 
 
 
 
 
 
 
 
 
 
6193368
 
80da5bb
 
 
6193368
 
3a0d2d3
6193368
 
 
 
80da5bb
6193368
 
 
 
 
80da5bb
6193368
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
---
license: other
license_name: mixed-cc-by-sa-4.0-and-nia-research
language:
  - ko
tags:
  - korean
  - sample
  - handiff
size_categories:
  - n<1K
---

# HanDiff Korean Corpus v2 — Sample

> ⚠️ **사용자 책임 고지**: 본 샘플은 7개 소스(라이선스 상이)에서 각 10건씩 추출했습니다.
> AI Hub(NIA-Research) 출처 데이터는 **상업적 사용·재배포가 금지**됩니다.
> 라이선스 준수 책임은 사용자에게 있습니다. 자세한 사항은 §라이선스 + §사용자 책임 참조.

각 소스에서 무작위 10건을 추출한 inspection sample 입니다.
전체 데이터는 `neuralfoundry-coder/handiff-ko-corpus-v2` 에서 확인하세요.

## 포함 파일

각 소스별 `<source>_sample.jsonl` (10건) + 통합 `samples_all.jsonl` + tokenizer.
각 record에는 `source_id` + `license` 필드가 있어 라이선스 추적이 가능합니다.

| Source | License | 도메인 |
|---|---|---|
| kowiki_v1.jsonl | CC-BY-SA-4.0 | 백과 (위키) |
| aihub_110_nonmun.jsonl | LicenseRef-NIA-Research | 학술 논문 |
| aihub_110_pannrei.jsonl | LicenseRef-NIA-Research | 법률 판례 |
| aihub_110_beoblyeong.jsonl | LicenseRef-NIA-Research | 법령 제·개정문 |
| aihub_71557_news.jsonl | LicenseRef-NIA-Research | 뉴스 본문 |
| aihub_86_emotion.jsonl | LicenseRef-NIA-Research | 감성 대화 |
| aihub_116_dialog.jsonl | LicenseRef-NIA-Research | 도메인 대화 |

## 사용 (예: 토크나이저 호환성 점검)

```bash
huggingface-cli download neuralfoundry-coder/handiff-ko-corpus-v2-sample \
    --repo-type dataset --local-dir samples/
head samples/samples_all.jsonl
```

## 라이선스 (요약)

- **kowiki**: [CC BY-SA 4.0](https://creativecommons.org/licenses/by-sa/4.0/) — 출처 표기 + 동일 라이선스
- **aihub_110, 71557, 86, 116**: AI Hub NIA Research Use License — **상업 사용 금지**, 연구·학술만.
  - 약관: <https://aihub.or.kr/intrcn/agreement/agreement.do>

## 사용자 책임 (Disclaimer)

1. **라이선스 준수 책임은 사용자(다운로더)에게 있습니다**.
2. 본 샘플의 공개 배포는 원 라이선스 의무를 사용자가 면제받음을 의미하지 **않습니다**.
3. AI Hub 출처 record를 상업적으로 사용한 경우의 모든 법적 책임은 사용자에게 있으며,
   업로더(neuralfoundry-coder)는 어떠한 책임도 지지 않습니다.
4. 본 데이터셋은 ‘있는 그대로(AS IS)’ 제공되며, 보증은 없습니다.

전체 데이터셋: <https://huggingface.co/datasets/neuralfoundry-coder/handiff-ko-corpus-v2>