Vì sao tensor type là F32

#10
by xuanthanhmail - opened

Model gốc InterVL sử dụng BF16 sao Vintern lại chuyển thành F32 dẫn đến model size tăng gấp đôi, có cách nào an toàn để chuyển lại BF16? Cám ơn

Sign up or log in to comment