vidai / tokenizer.json
aiexplorations's picture
Upload tokenizer.json with huggingface_hub
e5f32a5 verified
{
"model_type": "vidai",
"input_vocab_size": 256,
"input_encoding": "ascii",
"output_vocab": [
"<pad>",
"<bos>",
"<eos>",
"<unk>",
"+",
"-",
"*",
"/",
"**",
"%",
"sqrt",
"abs",
"floor",
"ceil",
"sin",
"cos",
"tan",
"log",
"exp",
"x",
"y",
"z",
"a",
"b",
"c",
"d",
"n",
"m",
"t",
"r",
"v",
"g",
"k",
"alpha",
"beta",
"gamma",
"delta",
"theta",
"phi",
"psi",
"omega",
"lambda",
"mu",
"sigma",
"tau",
"pi",
"e",
"i",
"0",
"1",
"2",
"3",
"4",
"5",
"6",
"7",
"8",
"9",
".",
"(",
")",
" ",
",",
"/"
],
"output_vocab_size": 64,
"pad_token": "<pad>",
"bos_token": "<bos>",
"eos_token": "<eos>",
"unk_token": "<unk>",
"pad_token_id": 0,
"bos_token_id": 1,
"eos_token_id": 2,
"unk_token_id": 3
}