ByteDance-Seed

/

Seed-X-PPO-7B-GPTQ-Int8

like 9

Follow

ByteDance Seed 3.21k

config.json 文件里 "head_dim": null,
在 vllm 0.8.5 显卡为 2080ti 22g，启动时会出错，改为
"head_dim": 128,
后正常。