| # RunPod RTX 5090 실행 |
|
|
| `KAWK-1.5-50M Korean Base`의 기준 환경은 RTX 5090 32GB 한 장입니다. |
| 엄격 한국어 20B 베이스 사전학습 후 같은 가중치를 5,120 컨텍스트로 |
| 확장하여 3B 토큰을 계속학습합니다. |
|
|
| ## Pod 권장값 |
|
|
| - GPU: NVIDIA GeForce RTX 5090 1장 |
| - 이미지: CUDA 12.8 계열 RunPod PyTorch |
| - Container disk: 20GB 이상 |
| - Persistent volume: **200GB 권장** |
| - 프로젝트 경로: `/workspace/KAWK50M` |
|
|
| 20B `uint16` 토큰은 약 40GB입니다. 원문·정제본, 비교 체크포인트, |
| 중간 체크포인트까지 유지하므로 100GB volume은 빠듯합니다. |
|
|
| ## 환경 준비 |
|
|
| ```bash |
| cd /workspace/KAWK50M |
| bash runpod/bootstrap.sh |
| ``` |
|
|
| `bootstrap.sh`는 시스템 Python을 변경하지 않고 `.venv`를 만들며 이미지의 |
| CUDA PyTorch를 재사용합니다. |
|
|
| ## 전체 빌드 |
|
|
| 초기 341만 엄격 정제 문서를 토큰화합니다. |
|
|
| ```bash |
| bash runpod/tokenize_v2_initial.sh |
| ``` |
|
|
| 고정된 FineWeb2 revision에서 20B까지 직접 스트리밍·필터·토큰화합니다. |
| 원문을 별도로 저장하지 않으므로 volume 사용량을 줄일 수 있습니다. |
|
|
| ```bash |
| bash runpod/stream_v2_20b.sh |
| ``` |
|
|
| 중단 후 재개: |
|
|
| ```bash |
| RESUME=1 bash runpod/stream_v2_20b.sh |
| ``` |
|
|
| 20B manifest가 생긴 뒤 전체 후속 단계를 자동 실행: |
|
|
| ```bash |
| bash runpod/continue_kawk_1_5_after_stream.sh |
| ``` |
|
|
| 이 스크립트는 다음을 순서대로 수행합니다. |
|
|
| 1. 1,024 컨텍스트 20B 베이스 사전학습 |
| 2. 고정 revision·허용 라이선스 한국어 RAG/대화 필터링 |
| 3. 코드, LaTeX, 수학/코드 source, 영어 중심 행 제외 |
| 4. 2.9B 장문 + 0.1B 구조 데이터 CPT 혼합 |
| 5. 5,120 컨텍스트 3B 계속학습 |
| 6. validation loss, UTF-8 byte loss, 생성 평가 |
| 7. 모델 카드와 SHA-256 체크섬 생성 |
|
|
| ## 속도 기준 |
|
|
| 실측 RTX 5090 합성 벤치마크: |
|
|
| - 1,024 컨텍스트: 약 266K tokens/s |
| - 5,120 컨텍스트, batch 4 × accumulation 6: 약 116K tokens/s |
| - 5,120 단계 peak VRAM: 약 8.5GiB |
|
|
| 계산만 보면 20B는 약 21시간, 3B CPT는 약 7.2시간입니다. 데이터 공급, |
| 평가와 체크포인트 저장 시간은 별도입니다. |
|
|
| ## 로그와 결과 |
|
|
| ```text |
| /workspace/kawk-v2-stream-20b-wrapper.log |
| /workspace/kawk-v2-stream-20b-worker-00.log ... worker-03.log |
| /workspace/kawk-1.5-build-continuation.log |
| reports/v2-20b/ |
| reports/kawk-1.5-50m-v2/ |
| runs/kawk50m-v2-20b-5090/ |
| runs/kawk-1.5-50m-v2-cpt-3b-5090/ |
| ``` |
|
|
| 상태 확인: |
|
|
| ```bash |
| cat data/tokenized-v2-20b/manifest.json |
| tail -n 30 reports/v2-20b/train.log |
| tail -n 30 reports/kawk-1.5-50m-v2/train.log |
| nvidia-smi |
| ``` |
|
|
| Pod를 삭제하기 전에 최종 체크포인트, `MODEL_CARD.md`, 평가 JSON, |
| `checksums.sha256`을 로컬이나 별도 영구 저장소에 복사하십시오. |
|
|
