| # KAWK-50M 한국어 전용 설계 |
|
|
| KAWK-50M은 Supra 계열의 규모와 BASE→장문맥 CPT 개발 순서만 참고한다. |
| 영어 모델의 vocabulary, 층 배분, 데이터 비율 및 평가 방식을 복제하지 않는다. |
|
|
| ## 모델과 토크나이저 |
|
|
| - Llama 계열 decoder-only Transformer |
| - 51,542,528 parameters |
| - 한국어 SentencePiece Unigram vocabulary 20,000 |
| - 14 layers, hidden size 512, SwiGLU intermediate size 1,408 |
| - attention heads 8, KV heads 4 |
| - tied input/output embeddings |
| - BASE context 1,024, long-context CPT 5,120 |
| - NFC 완성형 한글과 byte fallback 사용 |
|
|
| 32K 영어 vocabulary 대신 한국어 20K vocabulary를 사용해 절약한 embedding |
| parameter를 14개 Transformer layer에 배분한다. 한국어 문서 안에 자연스럽게 |
| 등장하는 영문·숫자는 유지하지만 영어·코드·수학 전용 문서는 학습하지 않는다. |
|
|
| ## 복구 BASE 학습 |
|
|
| 이전 23B 학습은 label 이중 시프트 오류가 있었으므로 총 학습량으로 계산하지 |
| 않는다. 올바른 `labels = input_ids` objective로 복구한 100M 체크포인트에서: |
|
|
| 1. 한국어 일반 문서 1B 추가 학습 |
| 2. 겹치지 않는 sample 구간에서 한국어 일반 문서 5B 추가 학습 |
| 3. 각 단계에서 loss, UTF-8 byte loss, 한국어 생성 샘플 평가 |
|
|
| 각 단계가 이전 단계보다 개선되지 않으면 자동으로 다음 학습을 중단한다. |
|
|
| ## 한국어 장문맥 CPT |
|
|
| - 총 3B tokens, sequence length 5,120 |
| - 한국어 일반 BASE 문서 2.9B |
| - 한국어 RAG 문서 50M |
| - 한국어 대화 문서 50M |
| - ChatML 원문은 `지침`, `사용자`, `도우미` 역할명으로 평문화 |
| - 영어·코드·수학·reasoning 전용 source 제외 |
|
|
| RoPE는 언어별 장치가 아니다. KAWK에서는 1,024 이하 위치의 분포를 압축하지 |
| 않고 `max_position_embeddings=5120`, `rope_theta=10000`으로 전체 가중치 CPT를 |
| 수행한다. 최종 평가는 한국어 validation 문서에서 1,024-token 위치 구간별 |
| loss를 측정해 뒤쪽 문맥의 성능 붕괴를 별도로 확인한다. |
|
|
