Rewrite card: public tokenizer link + usage guide

README.md

@@ -2,78 +2,131 @@
 license: other
 language:
 - en
+task_categories:
+- text-generation
 tags:
 - llm0to1
 - pretrain
 - tokenized
-pretty_name: "llm0to1-pt-tokenized-code"
+pretty_name: "LLM0to1 사전학습 토큰화본 — 코드"
+size_categories:
+- n>1T
 ---
 
-# llm0to1-pt-tokenized-code
-
-**LLM0to1-10b**(10B 한/영 이중언어 LLM) 사전학습에 **실제로 투입된 토큰화 코퍼스**.
-원문 텍스트가 보존되지 않은 코퍼스가 포함되어 있어, 이 토큰화본이 유일한 사본이자
-학습을 그대로 재현할 수 있는 입력이다.
-
-- 원본 출처: bigcode/starcoderdata 언어별 서브셋 + commitpackft/code_contests/jupyter
-- 토크나이저: [izlley/llm0to1-tokenizer](https://huggingface.co/izlley/llm0to1-tokenizer) (byte-level BPE, vocab 160,000)
-- 형식: **datatrove/nanotron 토큰화 산출물** — `<shard>.ds`(uint32 토큰 ID 연속열) + `.ds.index` + `.ds.metadata`
-- 압축: 코퍼스 단위 `tar` + `zstd`(uint32 상위바이트가 0에 가까워 약 14% 로 축소)
-
-## 수록 코퍼스
-
-| corpus | 토큰 | 압축크기 |
-|---|---|---|
-| `code_assembly` | 0.68B | 0.41GB |
-| `code_c` | 4.24B | 3.02GB |
-| `code_c-sharp` | 3.07B | 2.51GB |
-| `code_c2` | 5.41B | 3.86GB |
-| `code_cpp` | 4.62B | 3.47GB |
-| `code_cpp2` | 3.72B | 2.78GB |
-| `code_dart` | 0.92B | 0.77GB |
-| `code_erlang` | 0.22B | 0.17GB |
-| `code_fortran` | 0.63B | 0.45GB |
-| `code_go` | 3.33B | 2.26GB |
-| `code_java` | 2.10B | 1.78GB |
-| `code_java2` | 2.68B | 2.28GB |
-| `code_javascript` | 1.78B | 1.67GB |
-| `code_javascript2` | 2.28B | 2.13GB |
-| `code_julia` | 0.46B | 0.41GB |
-| `code_kotlin` | 1.43B | 1.38GB |
-| `code_lua` | 0.97B | 0.78GB |
-| `code_php` | 3.19B | 2.57GB |
-| `code_python` | 2.56B | 2.40GB |
-| `code_python2` | 3.26B | 3.06GB |
-| `code_r` | 0.09B | 0.08GB |
-| `code_ruby` | 1.20B | 1.12GB |
-| `code_rust` | 2.61B | 1.98GB |
-| `code_scala` | 0.74B | 0.66GB |
-| `code_shell` | 1.07B | 1.06GB |
-| `code_sql` | 4.52B | 2.52GB |
-| `code_typescript` | 1.30B | 1.25GB |
-
-## 복원
+# LLM0to1 사전학습 토큰화본 — 코드
+
+10B 규모 한/영 이중언어 LLM **LLM0to1-10b** 를 바닥부터 학습할 때 실제로 투입된
+**코드 코퍼스의 토큰화본**. 총 **27종 / 59.1B 토큰**.
+
+## 왜 원문 텍스트가 아니라 토큰화본인가
+
+이 코퍼스들은 공개 데이터셋을 스트리밍으로 받아 **곧바로 토큰화**했고 중간 텍스트를 보관하지 않았다.
+따라서 이 `.ds` 파일이 **학습에 들어간 데이터의 유일한 사본**이다.
+
+단점만 있는 건 아니다. 토큰화본은 학습 입력 그 자체이므로,
+재토큰화 과정에서 생길 수 있는 차이 없이 **학습을 그대로 재현**할 수 있다.
+
+## 원본 출처
+
+`bigcode/starcoderdata`(언어별 서브셋) · `bigcode/commitpackft` · `bigcode/jupyter-code-text-pairs` · `deepmind/code_contests`
+
+`code_c` 와 `code_c2` 처럼 `2` 가 붙은 것은 정제기 v2(`code_data_prep_v2.py`)로 다시 만든 판이다. 둘 다 학습에 투입됐다.
+
+## 수록 목록
+
+| 코퍼스 | 토큰 |
+|---|---|
+| `code_c2` | 5.41B |
+| `code_cpp` | 4.62B |
+| `code_sql` | 4.52B |
+| `code_c` | 4.24B |
+| `code_cpp2` | 3.72B |
+| `code_go` | 3.33B |
+| `code_python2` | 3.26B |
+| `code_php` | 3.19B |
+| `code_c-sharp` | 3.07B |
+| `code_java2` | 2.68B |
+| `code_rust` | 2.61B |
+| `code_python` | 2.56B |
+| `code_javascript2` | 2.28B |
+| `code_java` | 2.10B |
+| `code_javascript` | 1.78B |
+| `code_kotlin` | 1.43B |
+| `code_typescript` | 1.30B |
+| `code_ruby` | 1.20B |
+| `code_shell` | 1.07B |
+| `code_lua` | 0.97B |
+| `code_dart` | 0.92B |
+| `code_scala` | 0.74B |
+| `code_assembly` | 0.68B |
+| `code_fortran` | 0.63B |
+| `code_julia` | 0.46B |
+| `code_erlang` | 0.22B |
+| `code_r` | 0.09B |
+
+## 파일 형식
+
+각 코퍼스는 `<코퍼스명>.tar.zst` 하나로 묶여 있다. 압축을 풀면:
+
+```
+<코퍼스명>/
+  00000_unshuffled.ds            토큰 ID 연속열 (uint32, little-endian)
+  00000_unshuffled.ds.index      문서 경계 오프셋
+  00000_unshuffled.ds.metadata   원본 파일·행 매핑
+  00001_unshuffled.ds ...
+```
+
+datatrove/nanotron 토큰화 산출물이다. `zstd` 로 약 14% 까지 줄어드는데,
+vocab 이 160k 라 uint32 의 상위 2바이트가 대부분 0 이기 때문이다.
+
+## 사용법
+
+### 1) 내려받아 압축 풀기
 
 ```bash
-huggingface-cli download izlley2/llm0to1-pt-tokenized-code --repo-type dataset --local-dir .
-zstd -d corpus.tar.zst -c | tar -x        # → <corpus>/*.ds
+huggingface-cli download izlley2/llm0to1-pt-tokenized-code --repo-type dataset --local-dir ./tok
+cd tok && for f in *.tar.zst; do zstd -d "$f" -c | tar -x; done
 ```
 
-`.ds` 는 uint32 리틀엔디언 토큰 ID 의 연속열이다. 텍스트로 되돌리려면:
+### 2) 텍스트로 되돌려 내용 확인
 
 ```python
 import numpy as np
 from transformers import AutoTokenizer
-tok = AutoTokenizer.from_pretrained("izlley/llm0to1-tokenizer")
-ids = np.fromfile("00000_unshuffled.ds", dtype=np.uint32)
+
+tok = AutoTokenizer.from_pretrained("izlley2/llm0to1-tokenizer")   # vocab 160k, byte-level BPE
+ids = np.fromfile("<코퍼스명>/00000_unshuffled.ds", dtype=np.uint32)
+print(f"{len(ids):,} 토큰")
 print(tok.decode(ids[:2000]))
 ```
 
-nanotron 으로 그대로 학습에 쓰려면 디렉토리를 `data_stages[].data.dataset.dataset_folder` 에 지정한다.
+### 3) 학습에 바로 투입 (nanotron)
+
+압축 푼 디렉토리를 config 의 데이터 폴더로 지정한다:
+
+```yaml
+data_stages:
+  - name: my_stage
+    start_training_step: 1
+    data:
+      dataset:
+        dataset_folder:
+          /path/to/tok/<코퍼스명>: 1.0      # 값은 믹스 가중치
+```
+
+## 주의
+
+- **토크나이저가 반드시 이것이어야 한다** — `izlley2/llm0to1-tokenizer`.
+  vocab 크기가 다른 토크나이저로 디코딩하면 완전히 다른 텍스트가 나온다.
+- `.ds` 는 문서 구분자 없이 이어붙인 토큰열이다. 문서 단위로 나누려면 `.ds.index` 를 함께 읽어야 한다.
+- 원본 데이터셋들의 라이선스가 각각 적용된다. 위 "원본 출처" 를 확인할 것.
 
-## 재현 매니페스트
+## 관련
 
-코퍼스별 출처·전처리 스크립트·믹스 가중치 전체는 `izlley/llm0to1-repro-manifest` 를 참조.
+- **`izlley2/llm0to1-repro-manifest`** — 코퍼스 116종 전체의 출처·전처리 스크립트·토큰수·믹스 가중치
+- `izlley2/llm0to1-tokenizer` — 토크나이저
+- `izlley2/LLM0to1-10b-step20000`, `-step83000` — 사전학습 체크포인트(HF 포맷)
+- `izlley2/LLM0to1-10b-step83000-nanotron` — 같은 체크포인트(nanotron 포맷, 학습 재개용)
 
 ---
 *LLM0to1-10b 사전학습 재현용 아카이브.*