{ "add_prefix_space": true, "auto_map": { "AutoTokenizer": [ "tokenization_parserker.ParserkerTokenizer", null ] }, "backend": "tokenizers", "bos_token": "", "clean_up_tokenization_spaces": false, "cls_token": "", "eos_token": "", "errors": "replace", "is_local": true, "local_files_only": false, "mask_token": "", "model_max_length": 512, "pad_token": "", "sep_token": "", "tokenizer_class": "ParserkerTokenizer", "trim_offsets": true, "unk_token": "", "use_fast": true }