Chat_template?

by Liangmingxin - opened Feb 6, 2024

tokenizer_config.json里方便加个Chat_template字段吗？然后用jinja的模板给个值，这样方便vllm部署。或者说是否用的标准chatml格式？

收到反馈请求，我们的模板是 ChatGLM2 的模板，目前还没加上

有计划基于ChatGLM3-6B 更新一版吗？

Conversational AI (CoAI) group from Tsinghua University org Feb 28, 2024

已更新chat _template

tokenizer_config.json里方便加个Chat_template字段吗？然后用jinja的模板给个值，这样方便vllm部署。或者说是否用的标准chatml格式？

Conversational AI (CoAI) group from Tsinghua University org Feb 28, 2024

有计划基于ChatGLM3-6B 更新一版吗？

CharacterGLM正在持续迭代中，欢迎关注👏

JinfengZhou changed discussion status to closed Feb 28, 2024

Upload images, audio, and videos by dragging in the text input, pasting, or clicking here.

Tap or paste here to upload images

· Sign up or log in to comment