{
"add_prefix_space": true,
"auto_map": {
"AutoTokenizer": [
"tokenization_parserker.ParserkerTokenizer",
null
]
},
"backend": "tokenizers",
"bos_token": "",
"clean_up_tokenization_spaces": false,
"cls_token": "",
"eos_token": "",
"errors": "replace",
"is_local": true,
"local_files_only": false,
"mask_token": "",
"model_max_length": 512,
"pad_token": "",
"sep_token": "",
"tokenizer_class": "ParserkerTokenizer",
"trim_offsets": true,
"unk_token": "",
"use_fast": true
}