Safetensors
Russian
llama

Можно ли дообучить эту модель?

#3
by companyit0dev - opened

Пробую дообучить модель на 100 вопрос-ответах диалоговый помощник при помощи SFTTrainer.
но после обучения модель генерирует набор английских букв бессмысленный.
а если загрузить отдельно (peft base, adapter) то модель просто зависает на генерации(макс токенов - 128)
видеокарта 12Гб.

Sign up or log in to comment