runpod/README.md

# RunPod RTX 5090 실행

`KAWK-1.5-50M Korean Base`의 기준 환경은 RTX 5090 32GB 한 장입니다.
엄격 한국어 20B 베이스 사전학습 후 같은 가중치를 5,120 컨텍스트로
확장하여 3B 토큰을 계속학습합니다.

## Pod 권장값

- GPU: NVIDIA GeForce RTX 5090 1장
- 이미지: CUDA 12.8 계열 RunPod PyTorch
- Container disk: 20GB 이상
- Persistent volume: **200GB 권장**
- 프로젝트 경로: `/workspace/KAWK50M`

20B `uint16` 토큰은 약 40GB입니다. 원문·정제본, 비교 체크포인트,
중간 체크포인트까지 유지하므로 100GB volume은 빠듯합니다.

## 환경 준비

```bash
cd /workspace/KAWK50M
bash runpod/bootstrap.sh
```

`bootstrap.sh`는 시스템 Python을 변경하지 않고 `.venv`를 만들며 이미지의
CUDA PyTorch를 재사용합니다.

## 전체 빌드

초기 341만 엄격 정제 문서를 토큰화합니다.

```bash
bash runpod/tokenize_v2_initial.sh
```

고정된 FineWeb2 revision에서 20B까지 직접 스트리밍·필터·토큰화합니다.
원문을 별도로 저장하지 않으므로 volume 사용량을 줄일 수 있습니다.

```bash
bash runpod/stream_v2_20b.sh
```

중단 후 재개:

```bash
RESUME=1 bash runpod/stream_v2_20b.sh
```

20B manifest가 생긴 뒤 전체 후속 단계를 자동 실행:

```bash
bash runpod/continue_kawk_1_5_after_stream.sh
```

이 스크립트는 다음을 순서대로 수행합니다.

1. 1,024 컨텍스트 20B 베이스 사전학습
2. 고정 revision·허용 라이선스 한국어 RAG/대화 필터링
3. 코드, LaTeX, 수학/코드 source, 영어 중심 행 제외
4. 2.9B 장문 + 0.1B 구조 데이터 CPT 혼합
5. 5,120 컨텍스트 3B 계속학습
6. validation loss, UTF-8 byte loss, 생성 평가
7. 모델 카드와 SHA-256 체크섬 생성

## 속도 기준

실측 RTX 5090 합성 벤치마크:

- 1,024 컨텍스트: 약 266K tokens/s
- 5,120 컨텍스트, batch 4 × accumulation 6: 약 116K tokens/s
- 5,120 단계 peak VRAM: 약 8.5GiB

계산만 보면 20B는 약 21시간, 3B CPT는 약 7.2시간입니다. 데이터 공급,
평가와 체크포인트 저장 시간은 별도입니다.

## 로그와 결과

```text
/workspace/kawk-v2-stream-20b-wrapper.log
/workspace/kawk-v2-stream-20b-worker-00.log ... worker-03.log
/workspace/kawk-1.5-build-continuation.log
reports/v2-20b/
reports/kawk-1.5-50m-v2/
runs/kawk50m-v2-20b-5090/
runs/kawk-1.5-50m-v2-cpt-3b-5090/
```

상태 확인:

```bash
cat data/tokenized-v2-20b/manifest.json
tail -n 30 reports/v2-20b/train.log
tail -n 30 reports/kawk-1.5-50m-v2/train.log
nvidia-smi
```

Pod를 삭제하기 전에 최종 체크포인트, `MODEL_CARD.md`, 평가 JSON,
`checksums.sha256`을 로컬이나 별도 영구 저장소에 복사하십시오.