| import json |
| from tokenizers import Tokenizer |
|
|
| |
| TOKENIZER_FILE = "avc_video_tokenizer_final/tokenizer.json" |
| INPUT_VIDEO = "test_video.h264" |
| OUTPUT_TOKEN_FILE = "tokens_output.json" |
|
|
| def test_encode(): |
| |
| print(f"⏳ Đang load tokenizer từ: {TOKENIZER_FILE}") |
| tokenizer = Tokenizer.from_file(TOKENIZER_FILE) |
| print(f" Vocab Size: {tokenizer.get_vocab_size()}") |
|
|
| |
| with open(INPUT_VIDEO, "rb") as f: |
| video_bytes = f.read() |
| |
| |
| |
| video_string = video_bytes.decode("latin-1") |
|
|
| |
| print("🔄 Đang mã hóa (Encoding)...") |
| encoding = tokenizer.encode(video_string) |
| |
| |
| token_ids = encoding.ids |
| tokens_str = encoding.tokens |
|
|
| |
| original_size = len(video_bytes) |
| token_count = len(token_ids) |
| compression_ratio = original_size / token_count |
|
|
| print("-" * 30) |
| print(f"📊 KẾT QUẢ TOKENIZE:") |
| print(f" - Kích thước gốc (Bytes): {original_size:,}") |
| print(f" - Số lượng Tokens (Ids): {token_count:,}") |
| print(f" - Tỉ lệ nén (Compression): {compression_ratio:.2f}x (1 token đại diện cho ~{compression_ratio:.2f} bytes)") |
| print("-" * 30) |
| print(f"🔍 10 Token đầu tiên (String): {tokens_str[:10]}") |
| print(f"🔍 10 Token ID đầu tiên: {token_ids[:10]}") |
|
|
| |
| with open(OUTPUT_TOKEN_FILE, "w") as f: |
| json.dump(token_ids, f) |
| print(f"✅ Đã lưu danh sách token vào: {OUTPUT_TOKEN_FILE}") |
|
|
| if __name__ == "__main__": |
| test_encode() |