| { | |
| "additional_special_tokens": [ | |
| "[CLS]", | |
| "[PAD]", | |
| "[UNK]", | |
| "[SEP]", | |
| "[MASK]", | |
| "AAA", | |
| "AAU", | |
| "AAC", | |
| "AAG", | |
| "AUA", | |
| "AUU", | |
| "AUC", | |
| "AUG", | |
| "ACA", | |
| "ACU", | |
| "ACC", | |
| "ACG", | |
| "AGA", | |
| "AGU", | |
| "AGC", | |
| "AGG", | |
| "UAA", | |
| "UAU", | |
| "UAC", | |
| "UAG", | |
| "UUA", | |
| "UUU", | |
| "UUC", | |
| "UUG", | |
| "UCA", | |
| "UCU", | |
| "UCC", | |
| "UCG", | |
| "UGA", | |
| "UGU", | |
| "UGC", | |
| "UGG", | |
| "CAA", | |
| "CAU", | |
| "CAC", | |
| "CAG", | |
| "CUA", | |
| "CUU", | |
| "CUC", | |
| "CUG", | |
| "CCA", | |
| "CCU", | |
| "CCC", | |
| "CCG", | |
| "CGA", | |
| "CGU", | |
| "CGC", | |
| "CGG", | |
| "GAA", | |
| "GAU", | |
| "GAC", | |
| "GAG", | |
| "GUA", | |
| "GUU", | |
| "GUC", | |
| "GUG", | |
| "GCA", | |
| "GCU", | |
| "GCC", | |
| "GCG", | |
| "GGA", | |
| "GGU", | |
| "GGC", | |
| "GGG" | |
| ], | |
| "bos_token": { | |
| "content": "[CLS]", | |
| "lstrip": false, | |
| "normalized": true, | |
| "rstrip": false, | |
| "single_word": false | |
| }, | |
| "cls_token": { | |
| "content": "[CLS]", | |
| "lstrip": false, | |
| "normalized": true, | |
| "rstrip": false, | |
| "single_word": false | |
| }, | |
| "eos_token": { | |
| "content": "[SEP]", | |
| "lstrip": false, | |
| "normalized": true, | |
| "rstrip": false, | |
| "single_word": false | |
| }, | |
| "mask_token": { | |
| "content": "[MASK]", | |
| "lstrip": true, | |
| "normalized": true, | |
| "rstrip": false, | |
| "single_word": false | |
| }, | |
| "pad_token": { | |
| "content": "[PAD]", | |
| "lstrip": false, | |
| "normalized": true, | |
| "rstrip": false, | |
| "single_word": false | |
| }, | |
| "sep_token": { | |
| "content": "[SEP]", | |
| "lstrip": false, | |
| "normalized": true, | |
| "rstrip": false, | |
| "single_word": false | |
| }, | |
| "unk_token": { | |
| "content": "[UNK]", | |
| "lstrip": false, | |
| "normalized": true, | |
| "rstrip": false, | |
| "single_word": false | |
| } | |
| } | |