{ "backend": "tokenizers", "bos_token": "<|startoftext|>", "clean_up_tokenization_spaces": false, "eos_token": "<|return|>", "falcon_latex_tokens": [ "\\blindtext", "\\newpage", "\\boxed", "\\framebox", "\\fbox", "\\tag", "\\nonumber", "\\item", "\\centering", "\\caption", "\\includegraphics", "\\label", "\\multicolumn", "\\cline", "\\hline", "\\end", "\\begin", "\\tableofcontents", "\\maketitle", "\\date", "\\author", "\\title", "\\chapter", "\\subsubsection", "\\subsection", "\\section", "\\noindent", "\\newline", "\\par", "\\ddot", "\\dot", "\\bar", "\\iff", "\\implies", "\\neg", "\\lor", "\\land", "\\qquad", "\\quad", "\\arctan", "\\arccos", "\\arcsin", "\\cot", "\\sec", "\\csc", "\\tan", "\\cos", "\\sin", "\\widetilde", "\\widehat", "\\complement", "\\varnothing", "\\tilde", "\\hat", "\\vec", "\\mathfrak", "\\mathcal", "\\mathbb", "\\emptyset", "\\bot", "\\aleph", "\\Re", "\\Im", "\\ell", "\\hbar", "\\exists", "\\forall", "\\partial", "\\nabla", "\\infty", "\\binom", "\\overline", "\\sqrt", "\\tfrac", "\\dfrac", "\\frac", "\\textsc", "\\textsf", "\\texttt", "\\emph", "\\underline", "\\textit", "\\textbf", "\\bigoplus", "\\bigcap", "\\bigcup", "\\prod", "\\sum", "\\oint", "\\iiint", "\\iint", "\\int", "\\right", "\\left", "\\Bigr", "\\Bigl", "\\bigr", "\\bigl", "\\rceil", "\\lceil", "\\rfloor", "\\lfloor", "\\rangle", "\\langle", "\\overleftarrow", "\\overleftrightarrow", "\\overrightarrow", "\\Longleftrightarrow", "\\longleftrightarrow", "\\longrightarrow", "\\longleftarrow", "\\Longrightarrow", "\\Longleftarrow", "\\gets", "\\to", "\\mapsto", "\\Updownarrow", "\\Downarrow", "\\Uparrow", "\\updownarrow", "\\downarrow", "\\uparrow", "\\Leftrightarrow", "\\Rightarrow", "\\Leftarrow", "\\leftrightarrow", "\\rightarrow", "\\leftarrow", "\\perp", "\\propto", "\\ni", "\\notin", "\\in", "\\supseteq", "\\supset", "\\sqsupseteq", "\\sqsubseteq", "\\subseteq", "\\subset", "\\cong", "\\approx", "\\simeq", "\\sim", "\\equiv", "\\neq", "\\geq", "\\leq", "\\oslash", "\\otimes", "\\ominus", "\\oplus", "\\wedge", "\\vee", "\\sqcup", "\\sqcap", "\\uplus", "\\cup", "\\cap", "\\cdot", "\\bullet", "\\circ", "\\star", "\\ast", "\\div", "\\times", "\\mp", "\\pm", "\\omega", "\\psi", "\\chi", "\\varphi", "\\varsigma", "\\phi", "\\upsilon", "\\tau", "\\sigma", "\\rho", "\\pi", "\\xi", "\\nu", "\\mu", "\\lambda", "\\kappa", "\\iota", "\\theta", "\\eta", "\\zeta", "\\epsilon", "\\delta", "\\gamma", "\\beta", "\\alpha" ], "is_local": true, "latex_token_source": "tiiuae/Falcon-H1-Tiny-90M-Instruct", "local_files_only": false, "model_input_names": [ "input_ids", "attention_mask" ], "model_max_length": 1000000000000000019884624838656, "pad_token": "<|return|>", "tokenizer_class": "PreTrainedTokenizerFast" }