{ "created_at": "2026-05-20T09:22:25.391814+00:00", "input": "datasets\\AnimeName\\dmhy_weak.jsonl", "output": "datasets\\AnimeName\\dmhy_weak_char.jsonl", "vocab_output": "datasets\\AnimeName\\vocab.char.json", "tokenizer_variant": "char", "projection": { "B-X": "first char keeps B-X; remaining chars become I-X", "I-X": "all chars keep I-X", "O": "all chars keep O" }, "row_count": 632002, "source_token_count": 16309261, "char_token_count": 37425364, "unique_char_count": 6195, "vocab_size": 6199, "max_vocab_size": null, "vocab_coverage": 1.0, "label_counts": { "B-TITLE": 730045, "I-TITLE": 10985624, "O": 10662175, "B-SEASON": 69989, "I-SEASON": 130584, "B-EPISODE": 546614, "I-EPISODE": 1419338, "B-RESOLUTION": 539054, "I-RESOLUTION": 2585958, "B-SOURCE": 1291674, "I-SOURCE": 3829949, "B-GROUP": 510324, "I-GROUP": 3946375, "B-SPECIAL": 51539, "I-SPECIAL": 126122 }, "char_length": { "min": 4, "mean": 59.217160705187645, "p50": 60, "p90": 83, "p95": 91, "p99": 107, "max": 170 }, "examples": [ { "file_id": 1, "filename": "Witch.Hat.Atelier.S01E07.1080p.NF.WEB-DL.JPN.AAC2.0.H.264.MSubs-ToonsHub", "tokens": [ "W", "i", "t", "c", "h", ".", "H", "a", "t", ".", "A", "t", "e", "l", "i", "e", "r", ".", "S", "0", "1", "E", "0", "7", ".", "1", "0", "8", "0", "p", ".", "N", "F", ".", "W", "E", "B", "-", "D", "L", ".", "J", "P", "N", ".", "A", "A", "C", "2", ".", "0", ".", "H", ".", "2", "6", "4", ".", "M", "S", "u", "b", "s", "-", "T", "o", "o", "n", "s", "H", "u", "b" ], "labels": [ "B-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "O", "B-SEASON", "I-SEASON", "I-SEASON", "B-EPISODE", "I-EPISODE", "I-EPISODE", "O", "B-RESOLUTION", "I-RESOLUTION", "I-RESOLUTION", "I-RESOLUTION", "I-RESOLUTION", "O", "B-SOURCE", "I-SOURCE", "O", "B-SOURCE", "I-SOURCE", "I-SOURCE", "I-SOURCE", "I-SOURCE", "I-SOURCE", "O", "B-SOURCE", "I-SOURCE", "I-SOURCE", "O", "B-SOURCE", "I-SOURCE", "I-SOURCE", "I-SOURCE", "I-SOURCE", "I-SOURCE", "O", "B-SOURCE", "I-SOURCE", "I-SOURCE", "I-SOURCE", "I-SOURCE", "O", "B-SOURCE", "I-SOURCE", "I-SOURCE", "I-SOURCE", "I-SOURCE", "O", "O", "O", "O", "O", "O", "O", "O", "O" ], "tokenizer_variant": "char", "source_token_count": 28, "char_token_count": 72 }, { "file_id": 2, "filename": "[LoliHouse] Maid-san wa Taberu Dake - 07 [WebRip 1080p HEVC-10bit AAC ASSx2]", "tokens": [ "[", "L", "o", "l", "i", "H", "o", "u", "s", "e", "]", " ", "M", "a", "i", "d", "-", "s", "a", "n", " ", "w", "a", " ", "T", "a", "b", "e", "r", "u", " ", "D", "a", "k", "e", " ", "-", " ", "0", "7", " ", "[", "W", "e", "b", "R", "i", "p", " ", "1", "0", "8", "0", "p", " ", "H", "E", "V", "C", "-", "1", "0", "b", "i", "t", " ", "A", "A", "C", " ", "A", "S", "S", "x", "2", "]" ], "labels": [ "O", "B-GROUP", "I-GROUP", "I-GROUP", "I-GROUP", "I-GROUP", "I-GROUP", "I-GROUP", "I-GROUP", "I-GROUP", "O", "O", "B-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "O", "O", "O", "B-EPISODE", "I-EPISODE", "O", "O", "B-SOURCE", "I-SOURCE", "I-SOURCE", "I-SOURCE", "I-SOURCE", "I-SOURCE", "O", "B-RESOLUTION", "I-RESOLUTION", "I-RESOLUTION", "I-RESOLUTION", "I-RESOLUTION", "O", "B-SOURCE", "I-SOURCE", "I-SOURCE", "I-SOURCE", "O", "O", "O", "O", "O", "O", "O", "B-SOURCE", "I-SOURCE", "I-SOURCE", "O", "B-SOURCE", "I-SOURCE", "I-SOURCE", "I-SOURCE", "O", "O" ], "tokenizer_variant": "char", "source_token_count": 33, "char_token_count": 76 }, { "file_id": 3, "filename": "[ANi] 異世界悠閒農家 2 - 06 [1080P][Baha][WEB-DL][AAC AVC][CHT]", "tokens": [ "[", "A", "N", "i", "]", " ", "異", "世", "界", "悠", "閒", "農", "家", " ", "2", " ", "-", " ", "0", "6", " ", "[", "1", "0", "8", "0", "P", "]", "[", "B", "a", "h", "a", "]", "[", "W", "E", "B", "-", "D", "L", "]", "[", "A", "A", "C", " ", "A", "V", "C", "]", "[", "C", "H", "T", "]" ], "labels": [ "O", "B-GROUP", "I-GROUP", "I-GROUP", "O", "O", "B-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "O", "B-SEASON", "O", "O", "O", "B-EPISODE", "I-EPISODE", "O", "O", "B-RESOLUTION", "I-RESOLUTION", "I-RESOLUTION", "I-RESOLUTION", "I-RESOLUTION", "O", "O", "B-SOURCE", "I-SOURCE", "I-SOURCE", "I-SOURCE", "O", "O", "B-SOURCE", "I-SOURCE", "I-SOURCE", "I-SOURCE", "I-SOURCE", "I-SOURCE", "O", "O", "B-SOURCE", "I-SOURCE", "I-SOURCE", "O", "B-SOURCE", "I-SOURCE", "I-SOURCE", "O", "O", "B-SOURCE", "I-SOURCE", "I-SOURCE", "O" ], "tokenizer_variant": "char", "source_token_count": 35, "char_token_count": 56 }, { "file_id": 4, "filename": "[ANi] 木頭風紀委員和迷你裙 JK 的故事 - 06 [1080P][Baha][WEB-DL][AAC AVC][CHT]", "tokens": [ "[", "A", "N", "i", "]", " ", "木", "頭", "風", "紀", "委", "員", "和", "迷", "你", "裙", " ", "J", "K", " ", "的", "故", "事", " ", "-", " ", "0", "6", " ", "[", "1", "0", "8", "0", "P", "]", "[", "B", "a", "h", "a", "]", "[", "W", "E", "B", "-", "D", "L", "]", "[", "A", "A", "C", " ", "A", "V", "C", "]", "[", "C", "H", "T", "]" ], "labels": [ "O", "B-GROUP", "I-GROUP", "I-GROUP", "O", "O", "B-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "O", "O", "O", "B-EPISODE", "I-EPISODE", "O", "O", "B-RESOLUTION", "I-RESOLUTION", "I-RESOLUTION", "I-RESOLUTION", "I-RESOLUTION", "O", "O", "B-SOURCE", "I-SOURCE", "I-SOURCE", "I-SOURCE", "O", "O", "B-SOURCE", "I-SOURCE", "I-SOURCE", "I-SOURCE", "I-SOURCE", "I-SOURCE", "O", "O", "B-SOURCE", "I-SOURCE", "I-SOURCE", "O", "B-SOURCE", "I-SOURCE", "I-SOURCE", "O", "O", "B-SOURCE", "I-SOURCE", "I-SOURCE", "O" ], "tokenizer_variant": "char", "source_token_count": 42, "char_token_count": 64 }, { "file_id": 5, "filename": "[KissSub][Shunkashuutou Daikousha - Haru no Mai][05][1080P][GB][MP4]", "tokens": [ "[", "K", "i", "s", "s", "S", "u", "b", "]", "[", "S", "h", "u", "n", "k", "a", "s", "h", "u", "u", "t", "o", "u", " ", "D", "a", "i", "k", "o", "u", "s", "h", "a", " ", "-", " ", "H", "a", "r", "u", " ", "n", "o", " ", "M", "a", "i", "]", "[", "0", "5", "]", "[", "1", "0", "8", "0", "P", "]", "[", "G", "B", "]", "[", "M", "P", "4", "]" ], "labels": [ "O", "B-GROUP", "I-GROUP", "I-GROUP", "I-GROUP", "I-GROUP", "I-GROUP", "I-GROUP", "O", "O", "B-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "I-TITLE", "O", "B-EPISODE", "I-EPISODE", "I-EPISODE", "I-EPISODE", "O", "B-RESOLUTION", "I-RESOLUTION", "I-RESOLUTION", "I-RESOLUTION", "I-RESOLUTION", "O", "O", "B-SOURCE", "I-SOURCE", "O", "O", "O", "O", "O", "O" ], "tokenizer_variant": "char", "source_token_count": 24, "char_token_count": 68 } ] }