{"config": {"height": 64, "front": [32, 64, 96], "channels": 192, "expansion": 384, "blocks": 6, "kernel": 9, "se_reduction": 4, "attn_layers": 2, "attn_heads": 8, "attn_ffn": 768, "dec_layers": 3, "dec_heads": 8, "dec_ffn": 768, "max_tokens": 320, "n_tokens": 652}, "tokens": [" ", "!", "\"", "$", "'", "(", ")", "*", "+", ",", "-", ".", "/", "0", "1", "2", "3", "4", "5", "6", "7", "8", "9", ":", ";", "<", "=", ">", "?", "@", "A", "B", "C", "D", "E", "F", "G", "H", "I", "J", "K", "L", "M", "N", "O", "P", "Q", "R", "S", "T", "U", "V", "W", "X", "Y", "Z", "[", "\\ ", "\\!", "\\#", "\\%", "\\&", "\\,", "\\/", "\\:", "\\;", "\\AA", "\\Bar", "\\Bbbk", "\\Big", "\\Bigg", "\\Biggl", "\\Biggr", "\\Bigl", "\\Bigr", "\\Bumpeq", "\\Cap", "\\Cup", "\\Ddot", "\\Delta", "\\Dot", "\\Downarrow", "\\Game", "\\Gamma", "\\Hat", "\\Im", "\\Join", "\\L", "\\Lambda", "\\Leftarrow", "\\Leftrightarrow", "\\Lleftarrow", "\\Longleftarrow", "\\Longleftrightarrow", "\\Longrightarrow", "\\Lsh", "\\O", "\\Omega", "\\P", "\\Phi", "\\Pi", "\\Pr", "\\Psi", "\\Re", "\\Rightarrow", "\\Rrightarrow", "\\Rsh", "\\S", "\\Sigma", "\\Subset", "\\Supset", "\\Theta", "\\Tilde", "\\Uparrow", "\\Updownarrow", "\\Upsilon", "\\Vdash", "\\Vec", "\\Vert", "\\Vvdash", "\\Xi", "\\_", "\\acute", "\\aleph", "\\alpha", "\\amalg", "\\angle", "\\approx", "\\approxeq", "\\arcsin", "\\arctan", "\\arg", "\\ast", "\\asymp", "\\atop", "\\b", "\\backprime", "\\backsim", "\\backsimeq", "\\backslash", "\\bar", "\\barwedge", "\\because", "\\beta", "\\beth", "\\between", "\\bf", "\\big", "\\bigcap", "\\bigcirc", "\\bigcup", "\\bigg", "\\biggl", "\\biggr", "\\bigl", "\\bigoplus", "\\bigr", "\\bigstar", "\\bigtriangledown", "\\bigtriangleup", "\\bigwedge", "\\binom", "\\blacktriangle", "\\blacktriangledown", "\\blacktriangleleft", "\\blacktriangleright", "\\bmod", "\\boldmath", "\\boldsymbol", "\\bot", "\\bowtie", "\\boxdot", "\\boxminus", "\\boxplus", "\\boxtimes", "\\breve", "\\bullet", "\\bumpeq", "\\cal", "\\cap", "\\cdot", "\\cdots", "\\centering", "\\cfrac", "\\check", "\\checkmark", "\\chi", "\\circ", "\\circeq", "\\circledast", "\\circledcirc", "\\circleddash", "\\clubsuit", "\\colon", "\\complement", "\\cong", "\\copyright", "\\cos", "\\cosh", "\\cot", "\\coth", "\\csc", "\\cup", "\\curlyeqprec", "\\curlyeqsucc", "\\curlyvee", "\\curlywedge", "\\curvearrowleft", "\\curvearrowright", "\\d", "\\dag", "\\dagger", "\\daleth", "\\dashv", "\\ddag", "\\ddagger", "\\ddot", "\\deg", "\\delta", "\\diagup", "\\diamond", "\\diamondsuit", "\\dim", "\\displaystyle", "\\div", "\\divideontimes", "\\dot", "\\doteq", "\\dotplus", "\\dots", "\\dotsb", "\\dotsc", "\\doublebarwedge", "\\downarrow", "\\downdownarrows", "\\downharpoonleft", "\\downharpoonright", "\\ell", "\\emph", "\\emptyset", "\\enspace", "\\ensuremath", "\\epsilon", "\\eqcirc", "\\eqsim", "\\eqslantgtr", "\\eqslantless", "\\equiv", "\\eta", "\\eth", "\\exists", "\\exp", "\\fallingdotseq", "\\flat", "\\forall", "\\frac", "\\frown", "\\gamma", "\\ge", "\\geq", "\\geqq", "\\geqslant", "\\gets", "\\gg", "\\ggg", "\\gimel", "\\gnapprox", "\\gneq", "\\gneqq", "\\gnsim", "\\grave", "\\gtrapprox", "\\gtrdot", "\\gtreqless", "\\gtreqqless", "\\gtrless", "\\gtrsim", "\\hat", "\\hbar", "\\hdots", "\\heartsuit", "\\hookleftarrow", "\\hookrightarrow", "\\hslash", "\\i", "\\iff", "\\iiint", "\\iint", "\\imath", "\\implies", "\\in", "\\infty", "\\int", "\\intercal", "\\iota", "\\it", "\\j", "\\jmath", "\\kappa", "\\ker", "\\l", "\\lVert", "\\lambda", "\\land", "\\langle", "\\lbrace", "\\lbrack", "\\lceil", "\\ldots", "\\le", "\\left", "\\leftarrow", "\\leftarrowtail", "\\leftharpoondown", "\\leftharpoonup", "\\leftleftarrows", "\\leftrightarrow", "\\leftrightarrows", "\\leftrightharpoons", "\\leftrightsquigarrow", "\\leftthreetimes", "\\leq", "\\leqq", "\\leqslant", "\\lessapprox", "\\lessdot", "\\lesseqgtr", "\\lesseqqgtr", "\\lessgtr", "\\lesssim", "\\lfloor", "\\lg", "\\lim", "\\limits", "\\ll", "\\llcorner", "\\lll", "\\ln", "\\lnapprox", "\\lneq", "\\lneqq", "\\lnot", "\\lnsim", "\\log", "\\longleftarrow", "\\longleftrightarrow", "\\longmapsto", "\\longrightarrow", "\\looparrowleft", "\\looparrowright", "\\lor", "\\lrcorner", "\\ltimes", "\\lvert", "\\mapsto", "\\mathbb", "\\mathbf", "\\mathcal", "\\mathfrak", "\\mathinner", "\\mathit", "\\mathnormal", "\\mathop", "\\mathopen", "\\mathord", "\\mathrel", "\\mathring", "\\mathrm", "\\mathscr", "\\mathsection", "\\mathsf", "\\mathtt", "\\measuredangle", "\\mho", "\\mid", "\\mod", "\\models", "\\mp", "\\mu", "\\multimap", "\\nLeftarrow", "\\nLeftrightarrow", "\\nRightarrow", "\\nVDash", "\\nVdash", "\\nabla", "\\natural", "\\ncong", "\\ne", "\\nearrow", "\\neg", "\\neq", "\\nexists", "\\ngeq", "\\ngtr", "\\ni", "\\nleftarrow", "\\nleftrightarrow", "\\nleq", "\\nless", "\\nmid", "\\nonumber", "\\normalfont", "\\not", "\\notin", "\\nparallel", "\\nprec", "\\nrightarrow", "\\nsim", "\\nsubseteq", "\\nsucc", "\\nsupseteq", "\\ntrianglelefteq", "\\ntrianglerighteq", "\\nu", "\\nvDash", "\\nvdash", "\\nwarrow", "\\o", "\\odot", "\\oint", "\\omega", "\\ominus", "\\operatorname", "\\operatorname*", "\\oplus", "\\oslash", "\\otimes", "\\overleftarrow", "\\overleftrightarrow", "\\overline", "\\overrightarrow", "\\overset", "\\parallel", "\\partial", "\\perp", "\\phantom", "\\phi", "\\pi", "\\pitchfork", "\\pm", "\\pmb", "\\pmod", "\\pounds", "\\prec", "\\precapprox", "\\preccurlyeq", "\\preceq", "\\precneqq", "\\precnsim", "\\precsim", "\\prime", "\\prod", "\\propto", "\\protect", "\\psi", "\\qquad", "\\quad", "\\rVert", "\\rangle", "\\rbrace", "\\rbrack", "\\rceil", "\\rfloor", "\\rho", "\\right", "\\rightarrow", "\\rightarrowtail", "\\rightharpoondown", "\\rightharpoonup", "\\rightleftarrows", "\\rightleftharpoons", "\\rightrightarrows", "\\rightsquigarrow", "\\rightthreetimes", "\\risingdotseq", "\\romannumeral", "\\rtimes", "\\rvert", "\\sb", "\\scriptscriptstyle", "\\scriptsize", "\\scriptstyle", "\\searrow", "\\sec", "\\setminus", "\\sf", "\\sharp", "\\sigma", "\\sim", "\\simeq", "\\sin", "\\sinh", "\\slash", "\\small", "\\smash", "\\smile", "\\sp", "\\spadesuit", "\\sphericalangle", "\\sqcap", "\\sqcup", "\\sqrt", "\\sqsubset", "\\sqsubseteq", "\\sqsupset", "\\sqsupseteq", "\\stackrel", "\\star", "\\subset", "\\subseteq", "\\subseteqq", "\\subsetneq", "\\substack", "\\succ", "\\succapprox", "\\succcurlyeq", "\\succeq", "\\succnapprox", "\\succneqq", "\\succnsim", "\\succsim", "\\sum", "\\supset", "\\supseteq", "\\supsetneq", "\\supsetneqq", "\\surd", "\\swarrow", "\\tan", "\\tau", "\\textbf", "\\textit", "\\textless", "\\textmd", "\\textmu", "\\textnormal", "\\textrm", "\\textsc", "\\textsf", "\\textsl", "\\textstyle", "\\textsubscript", "\\textsuperscript", "\\texttt", "\\textup", "\\therefore", "\\theta", "\\tilde", "\\times", "\\tiny", "\\to", "\\top", "\\triangle", "\\triangledown", "\\triangleleft", "\\trianglelefteq", "\\triangleq", "\\triangleright", "\\trianglerighteq", "\\tt", "\\twoheadleftarrow", "\\twoheadrightarrow", "\\ulcorner", "\\underbrace", "\\underline", "\\underset", "\\uparrow", "\\updownarrow", "\\upharpoonleft", "\\upharpoonright", "\\uplus", "\\upsilon", "\\upuparrows", "\\urcorner", "\\vDash", "\\varDelta", "\\varLambda", "\\varOmega", "\\varPhi", "\\varPsi", "\\varepsilon", "\\varkappa", "\\varnothing", "\\varphi", "\\varpi", "\\varrho", "\\varsigma", "\\vartheta", "\\vartriangle", "\\vartriangleleft", "\\vartriangleright", "\\vdash", "\\vdots", "\\vec", "\\vee", "\\veebar", "\\vert", "\\vphantom", "\\wedge", "\\widehat", "\\widetilde", "\\wp", "\\wr", "\\xi", "\\xrightarrow", "\\zeta", "\\{", "\\|", "\\}", "]", "^", "_", "`", "a", "b", "c", "d", "e", "f", "g", "h", "i", "j", "k", "l", "m", "n", "o", "p", "q", "r", "s", "t", "u", "v", "w", "x", "y", "z", "{", "|", "}", "~", "°", "–", "’", "⁄"]}