Update token goal to 1 billion and improve remaining tokens calculation; add text encoding test script

prepare/discord.txt

@@ -1,3 +1,8 @@
+原來
+今天運動會
+他有什麼問題
+還是退賽
+你的training 也這麼高嗎
 夠了!你們真是夠了!
 從無聊腦包的複製文
 到後來超噁爛的糞改圖
@@ -353,4 +358,50 @@ TM搞的這個東西真的是剛剛好就是剛剛好怎麼樣
 那不都是一個集體嗎
 「長官，這台車也太滑了吧，要不要掛個補機？」
 「不用，你隨便從專車裡抓個貴賓坐車頭就好
-增重就能增加抓地力」
+增重就能增加抓地力」
+團隊搞內鬥，你也找自己問題好不好？
+設計師跳槽，你也找自己問題好不好？
+隊友老爸搞事，你也找自己問題好不好？
+什麼都找自己問題，找自己問題，
+全部找自己問題好不好？
+為什麼麥拉倫都機械飛升了
+你升級，他媽的是負的
+更新困難也找自己問題，
+你媽我不更新 我被撞也找自己問題，
+你瘋了這能說？這幹嘛不能說啊，
+就新出來這個季中更新，他媽的，
+還要找回以前的統治力，
+就完全閉口不提，是什麼原因導致你這樣的，就不去解決問題，就解決你啊！
+我也不知道為什麼會這樣子啊，
+告訴我，我能怎麼開，
+我等升級，我還只能開Max專屬的，
+我就只能開著不習慣的車，
+慢個0.7秒的排位賽成績，Q2被淘汰
+決賽一開始，後面的美國人頂我一下，然後退賽
+我能怎麼辦，我他媽能怎麼辦？
+車迷又要繼續噴，這不把人搞瘋嗎？
+你告訴我怎麼開，啊？
+然後Max就跟個暴民一樣，
+"啊哈哈哈哈哈哈哈哈哈哈哈"
+他老爸就在那邊搞內鬥然後
+"啊~ 燒死你呀~"
+Ric就在那邊"哎呦痛太痛了"就在那邊搞笑，你媽那臭逼的，你告訴我怎麼開
+去走一圈直接提早下課
+有點晚了
+哇
+感覺我錯過很多
+回去來看
+欸不對
+我有專題跟期末考等著我
+太細節了吧
+好像是因為娜娜明跟釘崎死掉
+我就倒讚
+我剛泡
+要來配最新集的咒術囉
+不然我們私聊
+這裡感覺快s群了
+這張我以前在一個日本妹子ig上看過餒
+要不要跟我打瓦
+我包C
+包C 還是 鮑吸
+為什麼上班還可以聊

prepare/est.py

@@ -33,8 +33,9 @@ def main():
     files = ["fb.txt", "threads.txt", "tbrain.txt", "ptt.txt", "dcard.txt", "discord.txt"]
     
     total_tokens = 0
-    # 31K tokens
-    goal = 31000
+    # 1B tokens
+    goal = 1000000000
+    
     
     # Process each file
     for file_path in files:
@@ -47,7 +48,7 @@ def main():
     
     print(f"\nTotal tokens across all files: {total_tokens}")
     print(f"Goal: {goal}")
-    print(f"Remaining: {goal - total_tokens}")
+    print(f"Remaining(percentage): {(goal - total_tokens) / goal * 100:.2f}%")
 
 if __name__ == "__main__":
     main()

prepare/test.py

@@ -0,0 +1,9 @@
+from transformers import AutoTokenizer
+
+# encoding
+text = "這張我以前在一個日本妹子ig上看過餒"
+tokenizer = AutoTokenizer.from_pretrained("intfloat/multilingual-e5-large")
+tokens = tokenizer.encode(text)
+print(tokens)
+print(tokenizer.decode(tokens))
+print(tokenizer.decode(tokens, skip_special_tokens=True))