runpod/README.md

RunPod RTX 5090 실행

KAWK-1.5-50M Korean Base의 기준 환경은 RTX 5090 32GB 한 장입니다. 엄격 한국어 20B 베이스 사전학습 후 같은 가중치를 5,120 컨텍스트로 확장하여 3B 토큰을 계속학습합니다.

Pod 권장값

• GPU: NVIDIA GeForce RTX 5090 1장
• 이미지: CUDA 12.8 계열 RunPod PyTorch
• Container disk: 20GB 이상
• Persistent volume: 200GB 권장
• 프로젝트 경로: /workspace/KAWK50M

20B uint16 토큰은 약 40GB입니다. 원문·정제본, 비교 체크포인트, 중간 체크포인트까지 유지하므로 100GB volume은 빠듯합니다.

환경 준비

cd /workspace/KAWK50M
bash runpod/bootstrap.sh

bootstrap.sh는 시스템 Python을 변경하지 않고 .venv를 만들며 이미지의 CUDA PyTorch를 재사용합니다.

전체 빌드

초기 341만 엄격 정제 문서를 토큰화합니다.

bash runpod/tokenize_v2_initial.sh

고정된 FineWeb2 revision에서 20B까지 직접 스트리밍·필터·토큰화합니다. 원문을 별도로 저장하지 않으므로 volume 사용량을 줄일 수 있습니다.

bash runpod/stream_v2_20b.sh

중단 후 재개:

RESUME=1 bash runpod/stream_v2_20b.sh

20B manifest가 생긴 뒤 전체 후속 단계를 자동 실행:

bash runpod/continue_kawk_1_5_after_stream.sh

이 스크립트는 다음을 순서대로 수행합니다.

1. 1,024 컨텍스트 20B 베이스 사전학습
2. 고정 revision·허용 라이선스 한국어 RAG/대화 필터링
3. 코드, LaTeX, 수학/코드 source, 영어 중심 행 제외
4. 2.9B 장문 + 0.1B 구조 데이터 CPT 혼합
5. 5,120 컨텍스트 3B 계속학습
6. validation loss, UTF-8 byte loss, 생성 평가
7. 모델 카드와 SHA-256 체크섬 생성

속도 기준

실측 RTX 5090 합성 벤치마크:

• 1,024 컨텍스트: 약 266K tokens/s
• 5,120 컨텍스트, batch 4 × accumulation 6: 약 116K tokens/s
• 5,120 단계 peak VRAM: 약 8.5GiB

계산만 보면 20B는 약 21시간, 3B CPT는 약 7.2시간입니다. 데이터 공급, 평가와 체크포인트 저장 시간은 별도입니다.

로그와 결과

/workspace/kawk-v2-stream-20b-wrapper.log
/workspace/kawk-v2-stream-20b-worker-00.log ... worker-03.log
/workspace/kawk-1.5-build-continuation.log
reports/v2-20b/
reports/kawk-1.5-50m-v2/
runs/kawk50m-v2-20b-5090/
runs/kawk-1.5-50m-v2-cpt-3b-5090/

상태 확인:

cat data/tokenized-v2-20b/manifest.json
tail -n 30 reports/v2-20b/train.log
tail -n 30 reports/kawk-1.5-50m-v2/train.log
nvidia-smi

Pod를 삭제하기 전에 최종 체크포인트, MODEL_CARD.md, 평가 JSON, checksums.sha256을 로컬이나 별도 영구 저장소에 복사하십시오.