tokenizer_config.json

{
  "auto_map": {
    "AutoTokenizer": [
      "tokenization_tiny_log.TinyLogTokenizer",
      null
    ]
  },
  "model_max_length": 96,
  "pad_token": "[PAD]",
  "padding_side": "right",
  "tokenizer_class": "TinyLogTokenizer",
  "truncation_side": "right",
  "unk_token": "[UNK]",
  "vocab_size": 1024
}