Prompt tuning
Em chào anh,
Anh cho em hỏi model 2.7b và 2.7b-chat khác nhau gì không ạ. Em có một project nhỏ làm về Vision Language và muốn dùng mô hình của nhóm ạ, thì em không biết mình sẽ có thể prompt tuning tốt trên mô hình nào. Và cho em hỏi về phần prompt template thì bên mình sẽ có template riêng hay sẽ dùng template như Vietcuna luôn ạ.
Em cảm ơn.
Hi @nhatanh1210 , nếu bạn có ý định làm Vision Language (như LLaVA) thì bạn nên dùng bản 2.7b-chat nha, vì bản 2.7b thường là base model nếu bạn muốn dùng phải finetune thêm rất nhiều nha.
Về prompt template thì bản 2.7b không có cố định vì là base model, bạn có thể tải về và finetune theo prompt template nào cũng dc, còn 2.7b chat thì sẽ theo prompt template ChatML như bọn mình có up ở trong model card bạn nhé!
Nếu bạn có câu hỏi thì hỏi mình sẽ trả lời nhé!