warmly NMT 데이터 v1 + 공용 평가셋 (B안 파일럿, 2026-07-14)
HF: neureps/warmly-nmt-data — 이 디렉토리의 학습 데이터는 v1/, 평가셋은 eval/로 업로드됨.
(stage0-*.jsonl은 D안 증류 평가 산출물 — HF는 warmly-distill-data의 v1/eval/, 설명은 /mnt/e/Data/nmt-distill/README.md.)
용도: "0.8B 영어 댓글 생성 + 소형 EN→KO 번역기" 트랙의 파일럿 학습·평가.
산출 모델: neureps/warmly-nmt-{small100,kobart}-enko. 파이프라인: warmly-08b/scripts/nmt-gen.ts.
학습 데이터 (HF v1/)
| 파일 | 건수 | 무엇인가 |
|---|---|---|
train.jsonl |
883 | EN→KO 쌍 — src=0.8B-enko 영어 댓글(페르소나 제어토큰 <persona_*> 접두), tgt=Qwen3.5-2B 한국어 번역(교사). CPU 생성 한계(~30/분)로 883에서 중단 |
valid.jsonl |
— | 검증셋 (동일 형식) |
en-comments.jsonl |
— | 0.8B-enko가 생성한 영어 댓글 원본 (temp 0.45, 하늘은 평이 프롬프트) |
ko-targets.jsonl |
— | 2B 교사의 한국어 타깃 원본 |
captions.jsonl |
— | 0.8B 비전 캡션 뱅크 (합성) |
anchors.jsonl |
372 | 골드 앵커 — 앱 교사 데이터(training/comment-data*.ts)에서 유래한 고정 표본 |
한계(v2를 만든 이유): 883쌍 + 2B 교사 오역(puppy→사자) → 파인튜닝판 오역 5~6/20. v2는 8B 교사+1,410쌍.
공용 평가셋 (HF eval/ — b3 검증, 2026-07-14)
| 파일 | 무엇인가 |
|---|---|
testset40.jsonl |
고정 테스트 40문장 — 실제 파이프라인 산출물에서 수집(제로샷 8 + 오역 사례 11 + 실분포 영어 댓글 15 + 이모지 혼합 4 + 자기비하 답글 2) |
testset40-ref8b.jsonl |
Qwen3-8B 교사 참조 번역 (품질 상한 근사 — 중국어 누출 2건 있음, 절대 기준 아님) |
testset40-nllbft.jsonl |
NLLB-600M 파인튜닝판의 testset40 출력 (chrF 채점 원본) |
bakeoff.jsonl |
제로샷 선발전 전문 — 40문장 × 4후보(SMaLL-100/NLLB-600M/NLLB-1.3B/8B참조). "스케일 효과 있음" 판정의 근거 |
라이선스: 전부 합성 데이터 (0.8B/2B/8B Qwen 계열 생성 = Apache-2.0). 실사용자 사진·개인정보 없음.