--- library_name: transformers license: mit base_model: - alirezamsh/small100 language: - en - ko pipeline_tag: translation tags: - nmt - korean - warmly - pilot --- # warmly-nmt-small100-enko — EN→KO 댓글 번역 파인튜닝 (B안 파일럿 v1, 게이트 미달) ⚠️ **파일럿 산출물 — 품질 게이트 미달로 채택되지 않음.** 재현·비교 연구용으로 보존합니다. [SMaLL-100](https://huggingface.co/alirezamsh/small100) (330M 다국어 NMT)를 [Warmly(온기)](https://github.com/neureps/warmly)의 "B안: 0.8B 영어 댓글 생성 + 소형 번역기" 트랙을 위해 EN→KO 감성 댓글 도메인으로 파인튜닝한 모델입니다 (2026-07-14, 883쌍, 교사 Qwen3.5-2B). ## 결과 요약 - **가설 입증**: 내용 충실 번역 성공 (chrF 24 — 한국어 전용 KoBART가 en→ko를 아예 못 배운 것(chrF 5.67)과 대조). "0.8B의 한국어 접지 부족을 번역기로 우회"가 가능함을 확인. - **게이트 미달 사유**: 오역 5~6건/20 (broth→곰팡이, alpine→알프리카 등 — 학습 883쌍 + 2B 교사 오역이 원인), 이모지 소실. - **후속**: v2에서 NLLB-600M(8B 교사, 1410쌍)으로 개선 → [neureps/warmly-nmt-nllb600-enko](https://huggingface.co/neureps/warmly-nmt-nllb600-enko). 제로샷 선발전에서 NLLB-1.3B가 승자(오역 ~3-4)로 판정됨. ## 학습·추론 주의 - transformers 5에서는 SMaLL-100 토크나이저에 compat shim 필요 (`nmt/small100_compat.py`, qwen-prune 프로젝트) - 학습 시 `no_repeat_ngram_size=3` 없으면 EOS를 못 배워 무한 반복 - 원본(비프루닝) vocab로 학습된 체크포인트 ## 파일 `best/` 체크포인트: `model.safetensors` (1.3GB, fp32) + 토크나이저 일체.