请教下这个base模型应该怎么部署推理？文件列表看着也不是很全，缺少tokenizer
如果是vllm的话可以使用dummy tokenizer或者使用step 3.5 flash的tokenizer部署。
我看step 3.5 flash和step 3.5 flash base的config.json中，vocab_size不一样，这个会有影响吗
· Sign up or log in to comment
