File size: 4,223 Bytes
bd41168 6ba08fe bd41168 6ba08fe bd41168 6ba08fe bd41168 6ba08fe bd41168 6ba08fe bd41168 6ba08fe bd41168 6ba08fe bd41168 6ba08fe bd41168 6ba08fe bd41168 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 | ---
license: other
language:
- en
task_categories:
- text-generation
tags:
- llm0to1
- pretrain
- tokenized
pretty_name: "LLM0to1 사전학습 토큰화본 — 코드"
size_categories:
- n>1T
---
# LLM0to1 사전학습 토큰화본 — 코드
10B 규모 한/영 이중언어 LLM **LLM0to1-10b** 를 바닥부터 학습할 때 실제로 투입된
**코드 코퍼스의 토큰화본**. 총 **27종 / 59.1B 토큰**.
## 왜 원문 텍스트가 아니라 토큰화본인가
이 코퍼스들은 공개 데이터셋을 스트리밍으로 받아 **곧바로 토큰화**했고 중간 텍스트를 보관하지 않았다.
따라서 이 `.ds` 파일이 **학습에 들어간 데이터의 유일한 사본**이다.
단점만 있는 건 아니다. 토큰화본은 학습 입력 그 자체이므로,
재토큰화 과정에서 생길 수 있는 차이 없이 **학습을 그대로 재현**할 수 있다.
## 원본 출처
`bigcode/starcoderdata`(언어별 서브셋) · `bigcode/commitpackft` · `bigcode/jupyter-code-text-pairs` · `deepmind/code_contests`
`code_c` 와 `code_c2` 처럼 `2` 가 붙은 것은 정제기 v2(`code_data_prep_v2.py`)로 다시 만든 판이다. 둘 다 학습에 투입됐다.
## 수록 목록
| 코퍼스 | 토큰 |
|---|---|
| `code_c2` | 5.41B |
| `code_cpp` | 4.62B |
| `code_sql` | 4.52B |
| `code_c` | 4.24B |
| `code_cpp2` | 3.72B |
| `code_go` | 3.33B |
| `code_python2` | 3.26B |
| `code_php` | 3.19B |
| `code_c-sharp` | 3.07B |
| `code_java2` | 2.68B |
| `code_rust` | 2.61B |
| `code_python` | 2.56B |
| `code_javascript2` | 2.28B |
| `code_java` | 2.10B |
| `code_javascript` | 1.78B |
| `code_kotlin` | 1.43B |
| `code_typescript` | 1.30B |
| `code_ruby` | 1.20B |
| `code_shell` | 1.07B |
| `code_lua` | 0.97B |
| `code_dart` | 0.92B |
| `code_scala` | 0.74B |
| `code_assembly` | 0.68B |
| `code_fortran` | 0.63B |
| `code_julia` | 0.46B |
| `code_erlang` | 0.22B |
| `code_r` | 0.09B |
## 파일 형식
각 코퍼스는 `<코퍼스명>.tar.zst` 하나로 묶여 있다. 압축을 풀면:
```
<코퍼스명>/
00000_unshuffled.ds 토큰 ID 연속열 (uint32, little-endian)
00000_unshuffled.ds.index 문서 경계 오프셋
00000_unshuffled.ds.metadata 원본 파일·행 매핑
00001_unshuffled.ds ...
```
datatrove/nanotron 토큰화 산출물이다. `zstd` 로 약 14% 까지 줄어드는데,
vocab 이 160k 라 uint32 의 상위 2바이트가 대부분 0 이기 때문이다.
## 사용법
### 1) 내려받아 압축 풀기
```bash
huggingface-cli download izlley2/llm0to1-pt-tokenized-code --repo-type dataset --local-dir ./tok
cd tok && for f in *.tar.zst; do zstd -d "$f" -c | tar -x; done
```
### 2) 텍스트로 되돌려 내용 확인
```python
import numpy as np
from transformers import AutoTokenizer
tok = AutoTokenizer.from_pretrained("izlley2/llm0to1-tokenizer") # vocab 160k, byte-level BPE
ids = np.fromfile("<코퍼스명>/00000_unshuffled.ds", dtype=np.uint32)
print(f"{len(ids):,} 토큰")
print(tok.decode(ids[:2000]))
```
### 3) 학습에 바로 투입 (nanotron)
압축 푼 디렉토리를 config 의 데이터 폴더로 지정한다:
```yaml
data_stages:
- name: my_stage
start_training_step: 1
data:
dataset:
dataset_folder:
/path/to/tok/<코퍼스명>: 1.0 # 값은 믹스 가중치
```
## 주의
- **토크나이저가 반드시 이것이어야 한다** — `izlley2/llm0to1-tokenizer`.
vocab 크기가 다른 토크나이저로 디코딩하면 완전히 다른 텍스트가 나온다.
- `.ds` 는 문서 구분자 없이 이어붙인 토큰열이다. 문서 단위로 나누려면 `.ds.index` 를 함께 읽어야 한다.
- 원본 데이터셋들의 라이선스가 각각 적용된다. 위 "원본 출처" 를 확인할 것.
## 관련
- **`izlley2/llm0to1-repro-manifest`** — 코퍼스 116종 전체의 출처·전처리 스크립트·토큰수·믹스 가중치
- `izlley2/llm0to1-tokenizer` — 토크나이저
- `izlley2/LLM0to1-10b-step20000`, `-step83000` — 사전학습 체크포인트(HF 포맷)
- `izlley2/LLM0to1-10b-step83000-nanotron` — 같은 체크포인트(nanotron 포맷, 학습 재개용)
---
*LLM0to1-10b 사전학습 재현용 아카이브.*
|