| # warmly NMT 데이터 v2 (B안 2차, 2026-07-15) | |
| **HF: `neureps/warmly-nmt-data` → `v2/`**. | |
| 용도: NLLB-600M EN→KO 파인튜닝 (v1의 진단 반영: 교사를 2B→Qwen3-8B로, 883→1,410쌍, 이모지 마스킹). | |
| 산출 모델: `neureps/warmly-nmt-nllb600-enko`. 스크립트: `~/Project/qwen-prune/nmt/{translate_plain8b,build_plain,train_nllb}.py`. | |
| | 파일 | 건수 | 무엇인가 | | |
| | --- | --- | --- | | |
| | `captions.jsonl` | 764 | 합성 캡션 뱅크 (Qwen3-8B, 희귀동물 배제 — 8B 교사도 희귀동물은 붕괴하므로) | | |
| | `en-comments.jsonl` | 2,400 | 0.8B-enko 영어 댓글 (GPU 경로, 거부 환각 0건 확인) | | |
| | `plain-pairs.jsonl` | — | 8B 평이(페르소나 무관) 번역 쌍 원본 | | |
| | `train.jsonl` | 1,410 | 학습셋 — 이모지 제거(마스킹 특례는 런타임 래퍼 담당)·필터(중국어 누출 64건 제거) 후 | | |
| | `valid.jsonl` | 300 | 검증셋 | | |
| v1과의 차이: ①교사 2B→8B(오역 감소) ②883→1,410쌍 ③이모지는 데이터에서 제거하고 런타임 마스킹→재부착 래퍼(`nmt/emoji_util.py`)로 처리 ④페르소나 제어토큰 없이 평이 번역(말투는 생성 측 담당). | |
| 결과: chrF 36.2→40.1, 자연성 8B 근접·이모지 보존, broth/whiskers급 흔한 어휘 오역 잔존(600M 어휘력 천장) — 게이트 경계. | |
| 라이선스: 전부 합성 데이터 (Qwen 계열 생성 = Apache-2.0). 실사용자 사진·개인정보 없음. | |
| (참고: 이 데이터로 파인튜닝된 NLLB 모델 자체는 CC-BY-NC-4.0 상속 — 데이터와 별개.) | |