README.md

---
language:
- ko
license: other
task_categories:
- sentence-similarity
- feature-extraction
pretty_name: Korean Embedding Sionic SQuAD Train 60K
size_categories:
- 10K<n<100K
configs:
- config_name: default
  data_files:
  - split: train
    path: data/train.jsonl
---

# Korean Embedding — Sionic SQuAD train-family 60K

KorQuAD v1.0의 **원본 train split만** 질문→정답 문맥 retrieval 형식으로 변환한
60,000-row target-adaptation 데이터다. Sionic retrieval 9종 중
`SQuADKorV1`의 train-family 신호를 명시적으로 보강한다.

## 사용 조건과 점수 공개 방식

`release_eligible: false`인 performance/non-commercial 실험용 composite다. 이
저장소의 통합 라이선스는 `other`이며 upstream 권리를 재허가하지 않는다. Hub metadata는
KorQuAD source를 `CC-BY-ND-4.0`으로 표시하고, upstream dataset card 본문은
`CC BY-ND 2.0 KR`도 명시한다. 사용자는 원 source 조건을 직접 확인해야 한다.

이 데이터로 학습한 모델은 `SQuADKorV1 train-family exposed`로 공개해야 하며 그
task에서 zero-shot이라고 주장하면 안 된다. MTEB 변환 평가 repository
`yjoonjang/squad_kor_v1`의 test나 원본 KorQuAD validation을 loader 입력으로 읽지
않았고 평가 query/qrel exact match는 0이다. 다만 독립적인 KorQuAD train과
MIRACL/MrTidy가 모두 Wikipedia를 원천으로 사용하므로 평가 blocklist와 exact corpus
text가 겹친다. 이 overlap은 아래에 그대로 공개하며 clean zero-shot 데이터가 아니다.

## 고정 source와 변환

| 항목 | 값 |
|---|---|
| Source | `KorQuAD/squad_kor_v1` |
| Revision | `01aad23853355e5f4f6317eeaaa8186811424834` |
| Config/split | `squad_kor_v1/train` |
| 원본 rows | 60,407 |
| 출력 rows | 60,000 |
| 고유 원본 문맥 | 9,606 |
| 제거한 중복 question/context pair | 153 |
| Query | `question` |
| Positive | answer를 포함하는 `context` |
| Bootstrap negatives | 다른 문맥 7개, deterministic |

bootstrap negative는 데이터 형식·초기 학습을 위한 후보일 뿐 최종 hard negative라고
주장하지 않는다. 최종 후보 학습 전에는 현재 student로 corpus를 재임베딩하고
positive-relative false-negative filter와 score-rank quantile sampling을 적용한다.

## 스키마와 사용법

```json
{
  "messages": [{"role": "user", "content": "Instruct: ...\nQuery: 질문"}],
  "positive_messages": [[{"role": "user", "content": "정답 문맥"}]],
  "negative_messages": [
    [{"role": "user", "content": "다른 문맥 1"}],
    [{"role": "user", "content": "다른 문맥 2"}]
  ]
}
```

```python
from datasets import load_dataset

ds = load_dataset(
    "LLM-OS-Models/korean-embedding-performance-v1-sionic-squad-train-60k",
    split="train",
)
print(ds[0]["messages"][0]["content"])
```

## 품질 감사

- 60,000/60,000 row hash 일치, provenance index mismatch 0
- 모든 row가 negative 7개 보유
- query body 4자 미만 0
- query style heuristic: natural question 59,254 (98.76%)
- query length p50/p95: 32/57 characters
- positive length p50/p95: 462/862 characters
- positive 중복 50,394는 같은 문맥에 평균 약 6.3개의 서로 다른 질문이 달린 원본
  KorQuAD 구조이며 오류가 아니다.
- 15-task exact blocklist의 query/evaluation-text match: **0**
- retrieval corpus match: 고유 6,426 contexts. MIRACL 6,376,
  MrTidy 5,863, SQuADKorV1 3이며 task 간 같은 hash가 중복될 수 있다.
- corpus-match training occurrences: positive 40,079, bootstrap negative 282,029

`metadata/training_data_quality_audit.json`에 전체 통계와 입력 SHA를 저장한다.
`metadata/benchmark_overlap_audit.json`에는 원문 없이 matched SHA, role/source count,
benchmark task 위치를 저장한다.

## 무결성과 재현

- seed: `42`
- `data/train.jsonl` SHA-256:
  `5def1584d2e9b62cbedb3428cc49b1e7eeed674c48ec7e514f40ec54b6a63e07`
- `metadata/provenance.jsonl` SHA-256:
  `e26d81fc3ca5a957c36353c522d280606de0195986c2ea784b8101df45646ea5`

```bash
.venv-train/bin/python scripts/build_performance_mix.py \
  --phase sionic_squad_train_60k \
  --output-dir outputs/data/performance-v1/sionic-squad-train-60k
```

데이터 build나 validation loss만으로 성능 향상을 주장하지 않는다. Sionic 9 전체,
공식 MTEB Korean v1, clean 종합 회귀 평가를 완료한 모델만 승격한다.