Update tokenizer guide

tokenizer/README.md

@@ -9,9 +9,13 @@
 | 파일 | 설명 |
 |---|---|
 | `tokenizer.json` | 학습 완료된 토크나이저 (HuggingFace `tokenizers` 포맷) |
-| `train_tokenizer.py` | BPE 학습 스크립트 (재학습 시 사용) |
-| `encode_demo.py` | 도메인별 인코딩·디코딩 검증 스크립트 |
-| `audit_tokenizer.py` | 압축률, roundtrip, special token, context 초과율 감사 |
+| `README.md` | 토크나이저 설계와 사용법 |
+| `PREPROCESSING.md` | 토크나이저 학습 전처리 규칙 |
+| `DATASET_USAGE.md` | JSONL 체크포인트 사용 규칙 |
+
+재학습·감사 스크립트는 루트 정리를 위해 숨김 내부 폴더
+`.workspace_internal/tokenizer_tools/`에 둔다. 배포/업로드되는
+`tokenizer/` 폴더에는 실제 사용에 필요한 토크나이저와 문서만 둔다.
 
 ---
 
@@ -100,21 +104,21 @@ Byte-level BPE를 채택한 핵심 이유: 한글·코드·수식이 혼재하
 데이터가 추가된 후 토크나이저를 재학습하는 명령:
 
 ```bash
-# 기본: checkpoint/curated/raw JSONL을 round-robin으로 샘플링
-python3 tokenizer/train_tokenizer.py
+# 기본: dataset/*/dataset/*.jsonl 체크포인트를 round-robin으로 샘플링
+python3 .workspace_internal/tokenizer_tools/train_tokenizer.py
 
 # 현재 권장 32k 재학습
-python3 tokenizer/train_tokenizer.py --vocab-size 32000 --lines-per-file 3000 --max-total-lines 180000
+python3 .workspace_internal/tokenizer_tools/train_tokenizer.py --vocab-size 32000 --lines-per-file 3000 --max-total-lines 180000
 
 # 더 큰 실험용 64k. MoE+MTP head 파라미터가 크게 늘어나므로 ablation으로만 권장
-python3 tokenizer/train_tokenizer.py --vocab-size 64000 --lines-per-file 5000 --max-total-lines 300000
+python3 .workspace_internal/tokenizer_tools/train_tokenizer.py --vocab-size 64000 --lines-per-file 5000 --max-total-lines 300000
 ```
 
 재학습 후에는 반드시 검증을 실행하세요:
 
 ```bash
-python3 tokenizer/encode_demo.py
-python3 tokenizer/audit_tokenizer.py --max-records 5000
+python3 .workspace_internal/tokenizer_tools/encode_demo.py
+python3 .workspace_internal/tokenizer_tools/audit_tokenizer.py --max-records 5000
 ```
 
 라운드트립 결과가 `OK`인지 확인합니다.
@@ -156,5 +160,5 @@ fim_prefix_id = vocab["<|fim_prefix|>"]  # 0
 - OS: macOS (Apple M4, 48GB)
 - Python: 3.x
 - tokenizers: 0.23.1
-- 학습 데이터: `data/curated_upload/*.jsonl` 60개 파일에서 파일당 3,000개, 총 180,000 샘플
+- 학습 데이터: `dataset/*/dataset/*.jsonl` 체크포인트에서 파일당 3,000개, 총 180,000 샘플
 - 학습 시간: 약 30초 내외 (M4, 32k smoke 기준)