| # warmly NMT 데이터 v1 + 공용 평가셋 (B안 파일럿, 2026-07-14) |
|
|
| **HF: `neureps/warmly-nmt-data`** — 이 디렉토리의 학습 데이터는 `v1/`, 평가셋은 `eval/`로 업로드됨. |
| (`stage0-*.jsonl`은 D안 증류 평가 산출물 — HF는 `warmly-distill-data`의 `v1/eval/`, 설명은 `/mnt/e/Data/nmt-distill/README.md`.) |
| 용도: "0.8B 영어 댓글 생성 + 소형 EN→KO 번역기" 트랙의 파일럿 학습·평가. |
| 산출 모델: `neureps/warmly-nmt-{small100,kobart}-enko`. 파이프라인: `warmly-08b/scripts/nmt-gen.ts`. |
|
|
| ## 학습 데이터 (HF `v1/`) |
|
|
| | 파일 | 건수 | 무엇인가 | |
| | --- | --- | --- | |
| | `train.jsonl` | 883 | EN→KO 쌍 — src=0.8B-enko 영어 댓글(페르소나 제어토큰 `<persona_*>` 접두), tgt=Qwen3.5-2B 한국어 번역(교사). CPU 생성 한계(~30/분)로 883에서 중단 | |
| | `valid.jsonl` | — | 검증셋 (동일 형식) | |
| | `en-comments.jsonl` | — | 0.8B-enko가 생성한 영어 댓글 원본 (temp 0.45, 하늘은 평이 프롬프트) | |
| | `ko-targets.jsonl` | — | 2B 교사의 한국어 타깃 원본 | |
| | `captions.jsonl` | — | 0.8B 비전 캡션 뱅크 (합성) | |
| | `anchors.jsonl` | 372 | 골드 앵커 — 앱 교사 데이터(`training/comment-data*.ts`)에서 유래한 고정 표본 | |
|
|
| 한계(v2를 만든 이유): 883쌍 + 2B 교사 오역(puppy→사자) → 파인튜닝판 오역 5~6/20. v2는 8B 교사+1,410쌍. |
|
|
| ## 공용 평가셋 (HF `eval/` — b3 검증, 2026-07-14) |
|
|
| | 파일 | 무엇인가 | |
| | --- | --- | |
| | `testset40.jsonl` | 고정 테스트 40문장 — 실제 파이프라인 산출물에서 수집(제로샷 8 + 오역 사례 11 + 실분포 영어 댓글 15 + 이모지 혼합 4 + 자기비하 답글 2) | |
| | `testset40-ref8b.jsonl` | Qwen3-8B 교사 참조 번역 (품질 상한 근사 — 중국어 누출 2건 있음, 절대 기준 아님) | |
| | `testset40-nllbft.jsonl` | NLLB-600M 파인튜닝판의 testset40 출력 (chrF 채점 원본) | |
| | `bakeoff.jsonl` | 제로샷 선발전 전문 — 40문장 × 4후보(SMaLL-100/NLLB-600M/NLLB-1.3B/8B참조). "스케일 효과 있음" 판정의 근거 | |
|
|
| 라이선스: 전부 합성 데이터 (0.8B/2B/8B Qwen 계열 생성 = Apache-2.0). 실사용자 사진·개인정보 없음. |
|
|
