glm-4-9b-FP8 / README.md
boboliu's picture
Update README.md
4c77e5f verified
metadata
license: other
language:
  - zh
pipeline_tag: text-generation

GLM-4-9b Quantized with AutoFP8

使用 m-a-p/COIG-CQIA 的 COIG_pc 集作为校准量化的 glm-4-9b 基座

通常来讲你不会这样用基座模型。