special_token_test.py

from transformers import AutoTokenizer
import os

# 模型路徑
MODEL_PATH = "/home/at0842/ycl466704.ai13/.cache/huggingface/hub/models--openai--gpt-oss-20b/snapshots/6cee5e81ee83917806bbde320786a8fb61efebee"

if not os.path.exists(MODEL_PATH):
    print(f"❌ 錯誤：找不到模型路徑 {MODEL_PATH}")
    exit()

print(f"⏳ 正在初始化 Tokenizer...")
tokenizer = AutoTokenizer.from_pretrained(MODEL_PATH, trust_remote_code=True)

# 1. 取得官方定義的特殊 ID 列表
# 注意：在 Transformers 中，通常是使用 all_special_ids
special_ids = tokenizer.all_special_ids

print("\n" + "="*50)
print(f"📊 官方定義的特殊 ID 列表 (共 {len(special_ids)} 個):")
print(special_ids)
print("="*50)

# 2. 解碼這些 ID 看看它們分別是什麼標籤
print("\n🔍 特殊 ID 與對應文字明細：")
for tid in sorted(special_ids):
    t_text = tokenizer.decode([tid])
    # 印出 ID 和對應的文字，repr 幫助看清空格或換行
    print(f"ID: {tid:7} | Text: {repr(t_text):15}")

# 3. 額外檢查：看看是否有大於 200,000 的 Added Tokens 沒被列入
# 有些自定義頻道標籤可能在 added_tokens 裡但不在 all_special_ids
print("\n" + "="*50)
print("💡 額外檢查：Added Tokens (自定義標籤)")
added_tokens = tokenizer.get_added_vocab()
for token_str, token_id in sorted(added_tokens.items(), key=lambda x: x[1]):
    if token_id not in special_ids:
        print(f"ID: {token_id:7} | Text: {repr(token_str):15} (不在官方 special_ids 內)")