# KAWK-50M 한국어 전용 설계

KAWK-50M은 Supra 계열의 규모와 BASE→장문맥 CPT 개발 순서만 참고한다.
영어 모델의 vocabulary, 층 배분, 데이터 비율 및 평가 방식을 복제하지 않는다.

## 모델과 토크나이저

- Llama 계열 decoder-only Transformer
- 51,542,528 parameters
- 한국어 SentencePiece Unigram vocabulary 20,000
- 14 layers, hidden size 512, SwiGLU intermediate size 1,408
- attention heads 8, KV heads 4
- tied input/output embeddings
- BASE context 1,024, long-context CPT 5,120
- NFC 완성형 한글과 byte fallback 사용

32K 영어 vocabulary 대신 한국어 20K vocabulary를 사용해 절약한 embedding
parameter를 14개 Transformer layer에 배분한다. 한국어 문서 안에 자연스럽게
등장하는 영문·숫자는 유지하지만 영어·코드·수학 전용 문서는 학습하지 않는다.

## 복구 BASE 학습

이전 23B 학습은 label 이중 시프트 오류가 있었으므로 총 학습량으로 계산하지
않는다. 올바른 `labels = input_ids` objective로 복구한 100M 체크포인트에서:

1. 한국어 일반 문서 1B 추가 학습
2. 겹치지 않는 sample 구간에서 한국어 일반 문서 5B 추가 학습
3. 각 단계에서 loss, UTF-8 byte loss, 한국어 생성 샘플 평가

각 단계가 이전 단계보다 개선되지 않으면 자동으로 다음 학습을 중단한다.

## 한국어 장문맥 CPT

- 총 3B tokens, sequence length 5,120
- 한국어 일반 BASE 문서 2.9B
- 한국어 RAG 문서 50M
- 한국어 대화 문서 50M
- ChatML 원문은 `지침`, `사용자`, `도우미` 역할명으로 평문화
- 영어·코드·수학·reasoning 전용 source 제외

RoPE는 언어별 장치가 아니다. KAWK에서는 1,024 이하 위치의 분포를 압축하지
않고 `max_position_embeddings=5120`, `rope_theta=10000`으로 전체 가중치 CPT를
수행한다. 최종 평가는 한국어 validation 문서에서 1,024-token 위치 구간별
loss를 측정해 뒤쪽 문맥의 성능 붕괴를 별도로 확인한다.