| --- |
| license: other |
| language: |
| - en |
| task_categories: |
| - text-generation |
| tags: |
| - llm0to1 |
| - pretrain |
| - tokenized |
| pretty_name: "LLM0to1 사전학습 토큰화본 — 코드" |
| size_categories: |
| - n>1T |
| --- |
| |
| # LLM0to1 사전학습 토큰화본 — 코드 |
|
|
| 10B 규모 한/영 이중언어 LLM **LLM0to1-10b** 를 바닥부터 학습할 때 실제로 투입된 |
| **코드 코퍼스의 토큰화본**. 총 **27종 / 59.1B 토큰**. |
|
|
| ## 왜 원문 텍스트가 아니라 토큰화본인가 |
|
|
| 이 코퍼스들은 공개 데이터셋을 스트리밍으로 받아 **곧바로 토큰화**했고 중간 텍스트를 보관하지 않았다. |
| 따라서 이 `.ds` 파일이 **학습에 들어간 데이터의 유일한 사본**이다. |
|
|
| 단점만 있는 건 아니다. 토큰화본은 학습 입력 그 자체이므로, |
| 재토큰화 과정에서 생길 수 있는 차이 없이 **학습을 그대로 재현**할 수 있다. |
|
|
| ## 원본 출처 |
|
|
| `bigcode/starcoderdata`(언어별 서브셋) · `bigcode/commitpackft` · `bigcode/jupyter-code-text-pairs` · `deepmind/code_contests` |
|
|
| `code_c` 와 `code_c2` 처럼 `2` 가 붙은 것은 정제기 v2(`code_data_prep_v2.py`)로 다시 만든 판이다. 둘 다 학습에 투입됐다. |
|
|
| ## 수록 목록 |
|
|
| | 코퍼스 | 토큰 | |
| |---|---| |
| | `code_c2` | 5.41B | |
| | `code_cpp` | 4.62B | |
| | `code_sql` | 4.52B | |
| | `code_c` | 4.24B | |
| | `code_cpp2` | 3.72B | |
| | `code_go` | 3.33B | |
| | `code_python2` | 3.26B | |
| | `code_php` | 3.19B | |
| | `code_c-sharp` | 3.07B | |
| | `code_java2` | 2.68B | |
| | `code_rust` | 2.61B | |
| | `code_python` | 2.56B | |
| | `code_javascript2` | 2.28B | |
| | `code_java` | 2.10B | |
| | `code_javascript` | 1.78B | |
| | `code_kotlin` | 1.43B | |
| | `code_typescript` | 1.30B | |
| | `code_ruby` | 1.20B | |
| | `code_shell` | 1.07B | |
| | `code_lua` | 0.97B | |
| | `code_dart` | 0.92B | |
| | `code_scala` | 0.74B | |
| | `code_assembly` | 0.68B | |
| | `code_fortran` | 0.63B | |
| | `code_julia` | 0.46B | |
| | `code_erlang` | 0.22B | |
| | `code_r` | 0.09B | |
|
|
| ## 파일 형식 |
|
|
| 각 코퍼스는 `<코퍼스명>.tar.zst` 하나로 묶여 있다. 압축을 풀면: |
|
|
| ``` |
| <코퍼스명>/ |
| 00000_unshuffled.ds 토큰 ID 연속열 (uint32, little-endian) |
| 00000_unshuffled.ds.index 문서 경계 오프셋 |
| 00000_unshuffled.ds.metadata 원본 파일·행 매핑 |
| 00001_unshuffled.ds ... |
| ``` |
|
|
| datatrove/nanotron 토큰화 산출물이다. `zstd` 로 약 14% 까지 줄어드는데, |
| vocab 이 160k 라 uint32 의 상위 2바이트가 대부분 0 이기 때문이다. |
|
|
| ## 사용법 |
|
|
| ### 1) 내려받아 압축 풀기 |
|
|
| ```bash |
| huggingface-cli download izlley2/llm0to1-pt-tokenized-code --repo-type dataset --local-dir ./tok |
| cd tok && for f in *.tar.zst; do zstd -d "$f" -c | tar -x; done |
| ``` |
|
|
| ### 2) 텍스트로 되돌려 내용 확인 |
|
|
| ```python |
| import numpy as np |
| from transformers import AutoTokenizer |
| |
| tok = AutoTokenizer.from_pretrained("izlley2/llm0to1-tokenizer") # vocab 160k, byte-level BPE |
| ids = np.fromfile("<코퍼스명>/00000_unshuffled.ds", dtype=np.uint32) |
| print(f"{len(ids):,} 토큰") |
| print(tok.decode(ids[:2000])) |
| ``` |
|
|
| ### 3) 학습에 바로 투입 (nanotron) |
|
|
| 압축 푼 디렉토리를 config 의 데이터 폴더로 지정한다: |
|
|
| ```yaml |
| data_stages: |
| - name: my_stage |
| start_training_step: 1 |
| data: |
| dataset: |
| dataset_folder: |
| /path/to/tok/<코퍼스명>: 1.0 # 값은 믹스 가중치 |
| ``` |
|
|
| ## 주의 |
|
|
| - **토크나이저가 반드시 이것이어야 한다** — `izlley2/llm0to1-tokenizer`. |
| vocab 크기가 다른 토크나이저로 디코딩하면 완전히 다른 텍스트가 나온다. |
| - `.ds` 는 문서 구분자 없이 이어붙인 토큰열이다. 문서 단위로 나누려면 `.ds.index` 를 함께 읽어야 한다. |
| - 원본 데이터셋들의 라이선스가 각각 적용된다. 위 "원본 출처" 를 확인할 것. |
|
|
| ## 관련 |
|
|
| - **`izlley2/llm0to1-repro-manifest`** — 코퍼스 116종 전체의 출처·전처리 스크립트·토큰수·믹스 가중치 |
| - `izlley2/llm0to1-tokenizer` — 토크나이저 |
| - `izlley2/LLM0to1-10b-step20000`, `-step83000` — 사전학습 체크포인트(HF 포맷) |
| - `izlley2/LLM0to1-10b-step83000-nanotron` — 같은 체크포인트(nanotron 포맷, 학습 재개용) |
|
|
| --- |
| *LLM0to1-10b 사전학습 재현용 아카이브.* |
|
|
