warmly NMT 데이터 v2 (B안 2차, 2026-07-15)
HF: neureps/warmly-nmt-data → v2/.
용도: NLLB-600M EN→KO 파인튜닝 (v1의 진단 반영: 교사를 2B→Qwen3-8B로, 883→1,410쌍, 이모지 마스킹).
산출 모델: neureps/warmly-nmt-nllb600-enko. 스크립트: ~/Project/qwen-prune/nmt/{translate_plain8b,build_plain,train_nllb}.py.
| 파일 | 건수 | 무엇인가 |
|---|---|---|
captions.jsonl |
764 | 합성 캡션 뱅크 (Qwen3-8B, 희귀동물 배제 — 8B 교사도 희귀동물은 붕괴하므로) |
en-comments.jsonl |
2,400 | 0.8B-enko 영어 댓글 (GPU 경로, 거부 환각 0건 확인) |
plain-pairs.jsonl |
— | 8B 평이(페르소나 무관) 번역 쌍 원본 |
train.jsonl |
1,410 | 학습셋 — 이모지 제거(마스킹 특례는 런타임 래퍼 담당)·필터(중국어 누출 64건 제거) 후 |
valid.jsonl |
300 | 검증셋 |
v1과의 차이: ①교사 2B→8B(오역 감소) ②883→1,410쌍 ③이모지는 데이터에서 제거하고 런타임 마스킹→재부착 래퍼(nmt/emoji_util.py)로 처리 ④페르소나 제어토큰 없이 평이 번역(말투는 생성 측 담당).
결과: chrF 36.2→40.1, 자연성 8B 근접·이모지 보존, broth/whiskers급 흔한 어휘 오역 잔존(600M 어휘력 천장) — 게이트 경계.
라이선스: 전부 합성 데이터 (Qwen 계열 생성 = Apache-2.0). 실사용자 사진·개인정보 없음. (참고: 이 데이터로 파인튜닝된 NLLB 모델 자체는 CC-BY-NC-4.0 상속 — 데이터와 별개.)