README.md

metadata

language:
  - ko
license: other
task_categories:
  - sentence-similarity
  - feature-extraction
pretty_name: Korean Embedding Sionic SQuAD Train 60K
size_categories:
  - 10K<n<100K
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train.jsonl

Korean Embedding — Sionic SQuAD train-family 60K

KorQuAD v1.0의 원본 train split만 질문→정답 문맥 retrieval 형식으로 변환한 60,000-row target-adaptation 데이터다. Sionic retrieval 9종 중 SQuADKorV1의 train-family 신호를 명시적으로 보강한다.

사용 조건과 점수 공개 방식

release_eligible: false인 performance/non-commercial 실험용 composite다. 이 저장소의 통합 라이선스는 other이며 upstream 권리를 재허가하지 않는다. Hub metadata는 KorQuAD source를 CC-BY-ND-4.0으로 표시하고, upstream dataset card 본문은 CC BY-ND 2.0 KR도 명시한다. 사용자는 원 source 조건을 직접 확인해야 한다.

이 데이터로 학습한 모델은 SQuADKorV1 train-family exposed로 공개해야 하며 그 task에서 zero-shot이라고 주장하면 안 된다. MTEB 변환 평가 repository yjoonjang/squad_kor_v1의 test나 원본 KorQuAD validation을 loader 입력으로 읽지 않았고 평가 query/qrel exact match는 0이다. 다만 독립적인 KorQuAD train과 MIRACL/MrTidy가 모두 Wikipedia를 원천으로 사용하므로 평가 blocklist와 exact corpus text가 겹친다. 이 overlap은 아래에 그대로 공개하며 clean zero-shot 데이터가 아니다.

고정 source와 변환

항목	값
Source	KorQuAD/squad_kor_v1
Revision	01aad23853355e5f4f6317eeaaa8186811424834
Config/split	squad_kor_v1/train
원본 rows	60,407
출력 rows	60,000
고유 원본 문맥	9,606
제거한 중복 question/context pair	153
Query	question
Positive	answer를 포함하는 context
Bootstrap negatives	다른 문맥 7개, deterministic

bootstrap negative는 데이터 형식·초기 학습을 위한 후보일 뿐 최종 hard negative라고 주장하지 않는다. 최종 후보 학습 전에는 현재 student로 corpus를 재임베딩하고 positive-relative false-negative filter와 score-rank quantile sampling을 적용한다.

스키마와 사용법

{
  "messages": [{"role": "user", "content": "Instruct: ...\nQuery: 질문"}],
  "positive_messages": [[{"role": "user", "content": "정답 문맥"}]],
  "negative_messages": [
    [{"role": "user", "content": "다른 문맥 1"}],
    [{"role": "user", "content": "다른 문맥 2"}]
  ]
}

from datasets import load_dataset

ds = load_dataset(
    "LLM-OS-Models/korean-embedding-performance-v1-sionic-squad-train-60k",
    split="train",
)
print(ds[0]["messages"][0]["content"])

품질 감사

• 60,000/60,000 row hash 일치, provenance index mismatch 0
• 모든 row가 negative 7개 보유
• query body 4자 미만 0
• query style heuristic: natural question 59,254 (98.76%)
• query length p50/p95: 32/57 characters
• positive length p50/p95: 462/862 characters
• positive 중복 50,394는 같은 문맥에 평균 약 6.3개의 서로 다른 질문이 달린 원본 KorQuAD 구조이며 오류가 아니다.
• 15-task exact blocklist의 query/evaluation-text match: 0
• retrieval corpus match: 고유 6,426 contexts. MIRACL 6,376, MrTidy 5,863, SQuADKorV1 3이며 task 간 같은 hash가 중복될 수 있다.
• corpus-match training occurrences: positive 40,079, bootstrap negative 282,029

metadata/training_data_quality_audit.json에 전체 통계와 입력 SHA를 저장한다. metadata/benchmark_overlap_audit.json에는 원문 없이 matched SHA, role/source count, benchmark task 위치를 저장한다.

무결성과 재현

• seed: 42
• data/train.jsonl SHA-256: 5def1584d2e9b62cbedb3428cc49b1e7eeed674c48ec7e514f40ec54b6a63e07
• metadata/provenance.jsonl SHA-256: e26d81fc3ca5a957c36353c522d280606de0195986c2ea784b8101df45646ea5

.venv-train/bin/python scripts/build_performance_mix.py \
  --phase sionic_squad_train_60k \
  --output-dir outputs/data/performance-v1/sionic-squad-train-60k

데이터 build나 validation loss만으로 성능 향상을 주장하지 않는다. Sionic 9 전체, 공식 MTEB Korean v1, clean 종합 회귀 평가를 완료한 모델만 승격한다.