GGUF
conversational

能上传未量化的版本吗?或者出一个1.5B的模型

#3
by apshaiqu - opened

我在笔记本上用cpu跑,这个模型比之前用的sakura-1.5b-qwen2.5-v1.0效果好很多。就是有点略大,想量化一个Q4_K_M版本。

Sign up or log in to comment