| { |
| "created_at": "2026-05-20T09:22:25.391814+00:00", |
| "input": "datasets\\AnimeName\\dmhy_weak.jsonl", |
| "output": "datasets\\AnimeName\\dmhy_weak_char.jsonl", |
| "vocab_output": "datasets\\AnimeName\\vocab.char.json", |
| "tokenizer_variant": "char", |
| "projection": { |
| "B-X": "first char keeps B-X; remaining chars become I-X", |
| "I-X": "all chars keep I-X", |
| "O": "all chars keep O" |
| }, |
| "row_count": 632002, |
| "source_token_count": 16309261, |
| "char_token_count": 37425364, |
| "unique_char_count": 6195, |
| "vocab_size": 6199, |
| "max_vocab_size": null, |
| "vocab_coverage": 1.0, |
| "label_counts": { |
| "B-TITLE": 730045, |
| "I-TITLE": 10985624, |
| "O": 10662175, |
| "B-SEASON": 69989, |
| "I-SEASON": 130584, |
| "B-EPISODE": 546614, |
| "I-EPISODE": 1419338, |
| "B-RESOLUTION": 539054, |
| "I-RESOLUTION": 2585958, |
| "B-SOURCE": 1291674, |
| "I-SOURCE": 3829949, |
| "B-GROUP": 510324, |
| "I-GROUP": 3946375, |
| "B-SPECIAL": 51539, |
| "I-SPECIAL": 126122 |
| }, |
| "char_length": { |
| "min": 4, |
| "mean": 59.217160705187645, |
| "p50": 60, |
| "p90": 83, |
| "p95": 91, |
| "p99": 107, |
| "max": 170 |
| }, |
| "examples": [ |
| { |
| "file_id": 1, |
| "filename": "Witch.Hat.Atelier.S01E07.1080p.NF.WEB-DL.JPN.AAC2.0.H.264.MSubs-ToonsHub", |
| "tokens": [ |
| "W", |
| "i", |
| "t", |
| "c", |
| "h", |
| ".", |
| "H", |
| "a", |
| "t", |
| ".", |
| "A", |
| "t", |
| "e", |
| "l", |
| "i", |
| "e", |
| "r", |
| ".", |
| "S", |
| "0", |
| "1", |
| "E", |
| "0", |
| "7", |
| ".", |
| "1", |
| "0", |
| "8", |
| "0", |
| "p", |
| ".", |
| "N", |
| "F", |
| ".", |
| "W", |
| "E", |
| "B", |
| "-", |
| "D", |
| "L", |
| ".", |
| "J", |
| "P", |
| "N", |
| ".", |
| "A", |
| "A", |
| "C", |
| "2", |
| ".", |
| "0", |
| ".", |
| "H", |
| ".", |
| "2", |
| "6", |
| "4", |
| ".", |
| "M", |
| "S", |
| "u", |
| "b", |
| "s", |
| "-", |
| "T", |
| "o", |
| "o", |
| "n", |
| "s", |
| "H", |
| "u", |
| "b" |
| ], |
| "labels": [ |
| "B-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "O", |
| "B-SEASON", |
| "I-SEASON", |
| "I-SEASON", |
| "B-EPISODE", |
| "I-EPISODE", |
| "I-EPISODE", |
| "O", |
| "B-RESOLUTION", |
| "I-RESOLUTION", |
| "I-RESOLUTION", |
| "I-RESOLUTION", |
| "I-RESOLUTION", |
| "O", |
| "B-SOURCE", |
| "I-SOURCE", |
| "O", |
| "B-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "O", |
| "B-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "O", |
| "B-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "O", |
| "B-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "O", |
| "B-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "O", |
| "O", |
| "O", |
| "O", |
| "O", |
| "O", |
| "O", |
| "O", |
| "O" |
| ], |
| "tokenizer_variant": "char", |
| "source_token_count": 28, |
| "char_token_count": 72 |
| }, |
| { |
| "file_id": 2, |
| "filename": "[LoliHouse] Maid-san wa Taberu Dake - 07 [WebRip 1080p HEVC-10bit AAC ASSx2]", |
| "tokens": [ |
| "[", |
| "L", |
| "o", |
| "l", |
| "i", |
| "H", |
| "o", |
| "u", |
| "s", |
| "e", |
| "]", |
| " ", |
| "M", |
| "a", |
| "i", |
| "d", |
| "-", |
| "s", |
| "a", |
| "n", |
| " ", |
| "w", |
| "a", |
| " ", |
| "T", |
| "a", |
| "b", |
| "e", |
| "r", |
| "u", |
| " ", |
| "D", |
| "a", |
| "k", |
| "e", |
| " ", |
| "-", |
| " ", |
| "0", |
| "7", |
| " ", |
| "[", |
| "W", |
| "e", |
| "b", |
| "R", |
| "i", |
| "p", |
| " ", |
| "1", |
| "0", |
| "8", |
| "0", |
| "p", |
| " ", |
| "H", |
| "E", |
| "V", |
| "C", |
| "-", |
| "1", |
| "0", |
| "b", |
| "i", |
| "t", |
| " ", |
| "A", |
| "A", |
| "C", |
| " ", |
| "A", |
| "S", |
| "S", |
| "x", |
| "2", |
| "]" |
| ], |
| "labels": [ |
| "O", |
| "B-GROUP", |
| "I-GROUP", |
| "I-GROUP", |
| "I-GROUP", |
| "I-GROUP", |
| "I-GROUP", |
| "I-GROUP", |
| "I-GROUP", |
| "I-GROUP", |
| "O", |
| "O", |
| "B-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "O", |
| "O", |
| "O", |
| "B-EPISODE", |
| "I-EPISODE", |
| "O", |
| "O", |
| "B-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "O", |
| "B-RESOLUTION", |
| "I-RESOLUTION", |
| "I-RESOLUTION", |
| "I-RESOLUTION", |
| "I-RESOLUTION", |
| "O", |
| "B-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "O", |
| "O", |
| "O", |
| "O", |
| "O", |
| "O", |
| "O", |
| "B-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "O", |
| "B-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "O", |
| "O" |
| ], |
| "tokenizer_variant": "char", |
| "source_token_count": 33, |
| "char_token_count": 76 |
| }, |
| { |
| "file_id": 3, |
| "filename": "[ANi] 異世界悠閒農家 2 - 06 [1080P][Baha][WEB-DL][AAC AVC][CHT]", |
| "tokens": [ |
| "[", |
| "A", |
| "N", |
| "i", |
| "]", |
| " ", |
| "異", |
| "世", |
| "界", |
| "悠", |
| "閒", |
| "農", |
| "家", |
| " ", |
| "2", |
| " ", |
| "-", |
| " ", |
| "0", |
| "6", |
| " ", |
| "[", |
| "1", |
| "0", |
| "8", |
| "0", |
| "P", |
| "]", |
| "[", |
| "B", |
| "a", |
| "h", |
| "a", |
| "]", |
| "[", |
| "W", |
| "E", |
| "B", |
| "-", |
| "D", |
| "L", |
| "]", |
| "[", |
| "A", |
| "A", |
| "C", |
| " ", |
| "A", |
| "V", |
| "C", |
| "]", |
| "[", |
| "C", |
| "H", |
| "T", |
| "]" |
| ], |
| "labels": [ |
| "O", |
| "B-GROUP", |
| "I-GROUP", |
| "I-GROUP", |
| "O", |
| "O", |
| "B-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "O", |
| "B-SEASON", |
| "O", |
| "O", |
| "O", |
| "B-EPISODE", |
| "I-EPISODE", |
| "O", |
| "O", |
| "B-RESOLUTION", |
| "I-RESOLUTION", |
| "I-RESOLUTION", |
| "I-RESOLUTION", |
| "I-RESOLUTION", |
| "O", |
| "O", |
| "B-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "O", |
| "O", |
| "B-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "O", |
| "O", |
| "B-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "O", |
| "B-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "O", |
| "O", |
| "B-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "O" |
| ], |
| "tokenizer_variant": "char", |
| "source_token_count": 35, |
| "char_token_count": 56 |
| }, |
| { |
| "file_id": 4, |
| "filename": "[ANi] 木頭風紀委員和迷你裙 JK 的故事 - 06 [1080P][Baha][WEB-DL][AAC AVC][CHT]", |
| "tokens": [ |
| "[", |
| "A", |
| "N", |
| "i", |
| "]", |
| " ", |
| "木", |
| "頭", |
| "風", |
| "紀", |
| "委", |
| "員", |
| "和", |
| "迷", |
| "你", |
| "裙", |
| " ", |
| "J", |
| "K", |
| " ", |
| "的", |
| "故", |
| "事", |
| " ", |
| "-", |
| " ", |
| "0", |
| "6", |
| " ", |
| "[", |
| "1", |
| "0", |
| "8", |
| "0", |
| "P", |
| "]", |
| "[", |
| "B", |
| "a", |
| "h", |
| "a", |
| "]", |
| "[", |
| "W", |
| "E", |
| "B", |
| "-", |
| "D", |
| "L", |
| "]", |
| "[", |
| "A", |
| "A", |
| "C", |
| " ", |
| "A", |
| "V", |
| "C", |
| "]", |
| "[", |
| "C", |
| "H", |
| "T", |
| "]" |
| ], |
| "labels": [ |
| "O", |
| "B-GROUP", |
| "I-GROUP", |
| "I-GROUP", |
| "O", |
| "O", |
| "B-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "O", |
| "O", |
| "O", |
| "B-EPISODE", |
| "I-EPISODE", |
| "O", |
| "O", |
| "B-RESOLUTION", |
| "I-RESOLUTION", |
| "I-RESOLUTION", |
| "I-RESOLUTION", |
| "I-RESOLUTION", |
| "O", |
| "O", |
| "B-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "O", |
| "O", |
| "B-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "O", |
| "O", |
| "B-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "O", |
| "B-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "O", |
| "O", |
| "B-SOURCE", |
| "I-SOURCE", |
| "I-SOURCE", |
| "O" |
| ], |
| "tokenizer_variant": "char", |
| "source_token_count": 42, |
| "char_token_count": 64 |
| }, |
| { |
| "file_id": 5, |
| "filename": "[KissSub][Shunkashuutou Daikousha - Haru no Mai][05][1080P][GB][MP4]", |
| "tokens": [ |
| "[", |
| "K", |
| "i", |
| "s", |
| "s", |
| "S", |
| "u", |
| "b", |
| "]", |
| "[", |
| "S", |
| "h", |
| "u", |
| "n", |
| "k", |
| "a", |
| "s", |
| "h", |
| "u", |
| "u", |
| "t", |
| "o", |
| "u", |
| " ", |
| "D", |
| "a", |
| "i", |
| "k", |
| "o", |
| "u", |
| "s", |
| "h", |
| "a", |
| " ", |
| "-", |
| " ", |
| "H", |
| "a", |
| "r", |
| "u", |
| " ", |
| "n", |
| "o", |
| " ", |
| "M", |
| "a", |
| "i", |
| "]", |
| "[", |
| "0", |
| "5", |
| "]", |
| "[", |
| "1", |
| "0", |
| "8", |
| "0", |
| "P", |
| "]", |
| "[", |
| "G", |
| "B", |
| "]", |
| "[", |
| "M", |
| "P", |
| "4", |
| "]" |
| ], |
| "labels": [ |
| "O", |
| "B-GROUP", |
| "I-GROUP", |
| "I-GROUP", |
| "I-GROUP", |
| "I-GROUP", |
| "I-GROUP", |
| "I-GROUP", |
| "O", |
| "O", |
| "B-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "I-TITLE", |
| "O", |
| "B-EPISODE", |
| "I-EPISODE", |
| "I-EPISODE", |
| "I-EPISODE", |
| "O", |
| "B-RESOLUTION", |
| "I-RESOLUTION", |
| "I-RESOLUTION", |
| "I-RESOLUTION", |
| "I-RESOLUTION", |
| "O", |
| "O", |
| "B-SOURCE", |
| "I-SOURCE", |
| "O", |
| "O", |
| "O", |
| "O", |
| "O", |
| "O" |
| ], |
| "tokenizer_variant": "char", |
| "source_token_count": 24, |
| "char_token_count": 68 |
| } |
| ] |
| } |
|
|
