AnimeName / dmhy_weak_char.manifest.json
ModerRAS's picture
Clean thin parser training labels
255d53e
{
"created_at": "2026-05-20T09:22:25.391814+00:00",
"input": "datasets\\AnimeName\\dmhy_weak.jsonl",
"output": "datasets\\AnimeName\\dmhy_weak_char.jsonl",
"vocab_output": "datasets\\AnimeName\\vocab.char.json",
"tokenizer_variant": "char",
"projection": {
"B-X": "first char keeps B-X; remaining chars become I-X",
"I-X": "all chars keep I-X",
"O": "all chars keep O"
},
"row_count": 632002,
"source_token_count": 16309261,
"char_token_count": 37425364,
"unique_char_count": 6195,
"vocab_size": 6199,
"max_vocab_size": null,
"vocab_coverage": 1.0,
"label_counts": {
"B-TITLE": 730045,
"I-TITLE": 10985624,
"O": 10662175,
"B-SEASON": 69989,
"I-SEASON": 130584,
"B-EPISODE": 546614,
"I-EPISODE": 1419338,
"B-RESOLUTION": 539054,
"I-RESOLUTION": 2585958,
"B-SOURCE": 1291674,
"I-SOURCE": 3829949,
"B-GROUP": 510324,
"I-GROUP": 3946375,
"B-SPECIAL": 51539,
"I-SPECIAL": 126122
},
"char_length": {
"min": 4,
"mean": 59.217160705187645,
"p50": 60,
"p90": 83,
"p95": 91,
"p99": 107,
"max": 170
},
"examples": [
{
"file_id": 1,
"filename": "Witch.Hat.Atelier.S01E07.1080p.NF.WEB-DL.JPN.AAC2.0.H.264.MSubs-ToonsHub",
"tokens": [
"W",
"i",
"t",
"c",
"h",
".",
"H",
"a",
"t",
".",
"A",
"t",
"e",
"l",
"i",
"e",
"r",
".",
"S",
"0",
"1",
"E",
"0",
"7",
".",
"1",
"0",
"8",
"0",
"p",
".",
"N",
"F",
".",
"W",
"E",
"B",
"-",
"D",
"L",
".",
"J",
"P",
"N",
".",
"A",
"A",
"C",
"2",
".",
"0",
".",
"H",
".",
"2",
"6",
"4",
".",
"M",
"S",
"u",
"b",
"s",
"-",
"T",
"o",
"o",
"n",
"s",
"H",
"u",
"b"
],
"labels": [
"B-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"O",
"B-SEASON",
"I-SEASON",
"I-SEASON",
"B-EPISODE",
"I-EPISODE",
"I-EPISODE",
"O",
"B-RESOLUTION",
"I-RESOLUTION",
"I-RESOLUTION",
"I-RESOLUTION",
"I-RESOLUTION",
"O",
"B-SOURCE",
"I-SOURCE",
"O",
"B-SOURCE",
"I-SOURCE",
"I-SOURCE",
"I-SOURCE",
"I-SOURCE",
"I-SOURCE",
"O",
"B-SOURCE",
"I-SOURCE",
"I-SOURCE",
"O",
"B-SOURCE",
"I-SOURCE",
"I-SOURCE",
"I-SOURCE",
"I-SOURCE",
"I-SOURCE",
"O",
"B-SOURCE",
"I-SOURCE",
"I-SOURCE",
"I-SOURCE",
"I-SOURCE",
"O",
"B-SOURCE",
"I-SOURCE",
"I-SOURCE",
"I-SOURCE",
"I-SOURCE",
"O",
"O",
"O",
"O",
"O",
"O",
"O",
"O",
"O"
],
"tokenizer_variant": "char",
"source_token_count": 28,
"char_token_count": 72
},
{
"file_id": 2,
"filename": "[LoliHouse] Maid-san wa Taberu Dake - 07 [WebRip 1080p HEVC-10bit AAC ASSx2]",
"tokens": [
"[",
"L",
"o",
"l",
"i",
"H",
"o",
"u",
"s",
"e",
"]",
" ",
"M",
"a",
"i",
"d",
"-",
"s",
"a",
"n",
" ",
"w",
"a",
" ",
"T",
"a",
"b",
"e",
"r",
"u",
" ",
"D",
"a",
"k",
"e",
" ",
"-",
" ",
"0",
"7",
" ",
"[",
"W",
"e",
"b",
"R",
"i",
"p",
" ",
"1",
"0",
"8",
"0",
"p",
" ",
"H",
"E",
"V",
"C",
"-",
"1",
"0",
"b",
"i",
"t",
" ",
"A",
"A",
"C",
" ",
"A",
"S",
"S",
"x",
"2",
"]"
],
"labels": [
"O",
"B-GROUP",
"I-GROUP",
"I-GROUP",
"I-GROUP",
"I-GROUP",
"I-GROUP",
"I-GROUP",
"I-GROUP",
"I-GROUP",
"O",
"O",
"B-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"O",
"O",
"O",
"B-EPISODE",
"I-EPISODE",
"O",
"O",
"B-SOURCE",
"I-SOURCE",
"I-SOURCE",
"I-SOURCE",
"I-SOURCE",
"I-SOURCE",
"O",
"B-RESOLUTION",
"I-RESOLUTION",
"I-RESOLUTION",
"I-RESOLUTION",
"I-RESOLUTION",
"O",
"B-SOURCE",
"I-SOURCE",
"I-SOURCE",
"I-SOURCE",
"O",
"O",
"O",
"O",
"O",
"O",
"O",
"B-SOURCE",
"I-SOURCE",
"I-SOURCE",
"O",
"B-SOURCE",
"I-SOURCE",
"I-SOURCE",
"I-SOURCE",
"O",
"O"
],
"tokenizer_variant": "char",
"source_token_count": 33,
"char_token_count": 76
},
{
"file_id": 3,
"filename": "[ANi] 異世界悠閒農家 2 - 06 [1080P][Baha][WEB-DL][AAC AVC][CHT]",
"tokens": [
"[",
"A",
"N",
"i",
"]",
" ",
"異",
"世",
"界",
"悠",
"閒",
"農",
"家",
" ",
"2",
" ",
"-",
" ",
"0",
"6",
" ",
"[",
"1",
"0",
"8",
"0",
"P",
"]",
"[",
"B",
"a",
"h",
"a",
"]",
"[",
"W",
"E",
"B",
"-",
"D",
"L",
"]",
"[",
"A",
"A",
"C",
" ",
"A",
"V",
"C",
"]",
"[",
"C",
"H",
"T",
"]"
],
"labels": [
"O",
"B-GROUP",
"I-GROUP",
"I-GROUP",
"O",
"O",
"B-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"O",
"B-SEASON",
"O",
"O",
"O",
"B-EPISODE",
"I-EPISODE",
"O",
"O",
"B-RESOLUTION",
"I-RESOLUTION",
"I-RESOLUTION",
"I-RESOLUTION",
"I-RESOLUTION",
"O",
"O",
"B-SOURCE",
"I-SOURCE",
"I-SOURCE",
"I-SOURCE",
"O",
"O",
"B-SOURCE",
"I-SOURCE",
"I-SOURCE",
"I-SOURCE",
"I-SOURCE",
"I-SOURCE",
"O",
"O",
"B-SOURCE",
"I-SOURCE",
"I-SOURCE",
"O",
"B-SOURCE",
"I-SOURCE",
"I-SOURCE",
"O",
"O",
"B-SOURCE",
"I-SOURCE",
"I-SOURCE",
"O"
],
"tokenizer_variant": "char",
"source_token_count": 35,
"char_token_count": 56
},
{
"file_id": 4,
"filename": "[ANi] 木頭風紀委員和迷你裙 JK 的故事 - 06 [1080P][Baha][WEB-DL][AAC AVC][CHT]",
"tokens": [
"[",
"A",
"N",
"i",
"]",
" ",
"木",
"頭",
"風",
"紀",
"委",
"員",
"和",
"迷",
"你",
"裙",
" ",
"J",
"K",
" ",
"的",
"故",
"事",
" ",
"-",
" ",
"0",
"6",
" ",
"[",
"1",
"0",
"8",
"0",
"P",
"]",
"[",
"B",
"a",
"h",
"a",
"]",
"[",
"W",
"E",
"B",
"-",
"D",
"L",
"]",
"[",
"A",
"A",
"C",
" ",
"A",
"V",
"C",
"]",
"[",
"C",
"H",
"T",
"]"
],
"labels": [
"O",
"B-GROUP",
"I-GROUP",
"I-GROUP",
"O",
"O",
"B-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"O",
"O",
"O",
"B-EPISODE",
"I-EPISODE",
"O",
"O",
"B-RESOLUTION",
"I-RESOLUTION",
"I-RESOLUTION",
"I-RESOLUTION",
"I-RESOLUTION",
"O",
"O",
"B-SOURCE",
"I-SOURCE",
"I-SOURCE",
"I-SOURCE",
"O",
"O",
"B-SOURCE",
"I-SOURCE",
"I-SOURCE",
"I-SOURCE",
"I-SOURCE",
"I-SOURCE",
"O",
"O",
"B-SOURCE",
"I-SOURCE",
"I-SOURCE",
"O",
"B-SOURCE",
"I-SOURCE",
"I-SOURCE",
"O",
"O",
"B-SOURCE",
"I-SOURCE",
"I-SOURCE",
"O"
],
"tokenizer_variant": "char",
"source_token_count": 42,
"char_token_count": 64
},
{
"file_id": 5,
"filename": "[KissSub][Shunkashuutou Daikousha - Haru no Mai][05][1080P][GB][MP4]",
"tokens": [
"[",
"K",
"i",
"s",
"s",
"S",
"u",
"b",
"]",
"[",
"S",
"h",
"u",
"n",
"k",
"a",
"s",
"h",
"u",
"u",
"t",
"o",
"u",
" ",
"D",
"a",
"i",
"k",
"o",
"u",
"s",
"h",
"a",
" ",
"-",
" ",
"H",
"a",
"r",
"u",
" ",
"n",
"o",
" ",
"M",
"a",
"i",
"]",
"[",
"0",
"5",
"]",
"[",
"1",
"0",
"8",
"0",
"P",
"]",
"[",
"G",
"B",
"]",
"[",
"M",
"P",
"4",
"]"
],
"labels": [
"O",
"B-GROUP",
"I-GROUP",
"I-GROUP",
"I-GROUP",
"I-GROUP",
"I-GROUP",
"I-GROUP",
"O",
"O",
"B-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"I-TITLE",
"O",
"B-EPISODE",
"I-EPISODE",
"I-EPISODE",
"I-EPISODE",
"O",
"B-RESOLUTION",
"I-RESOLUTION",
"I-RESOLUTION",
"I-RESOLUTION",
"I-RESOLUTION",
"O",
"O",
"B-SOURCE",
"I-SOURCE",
"O",
"O",
"O",
"O",
"O",
"O"
],
"tokenizer_variant": "char",
"source_token_count": 24,
"char_token_count": 68
}
]
}