T-lite-it-2.1-rkllm / data_quant.json
Sinclear's picture
Upload folder using huggingface_hub
8010433 verified
Raw
History Blame Contribute Delete
1.82 kB
[
{
"input": "Human: Привет! Как тебя зовут?\nAssistant: ",
"target": "Привет! Я языковая модель, обученная для работы на устройствах с NPU Rockchip."
},
{
"input": "Human: Что ты умеешь делать?\nAssistant: ",
"target": "Я могу отвечать на вопросы, помогать с текстом, объяснять концепции и поддерживать беседу."
},
{
"input": "Human: Расскажи о себе.\nAssistant: ",
"target": "Я компактная языковая модель, оптимизированная для работы на edge-устройствах."
},
{
"input": "Human: Какой у тебя размер контекста?\nAssistant: ",
"target": "Я поддерживаю контекст до 4096 токенов."
},
{
"input": "Human: На каких устройствах ты работаешь?\nAssistant: ",
"target": "Я работаю на устройствах с процессором Rockchip RK3588, RK3576, RK3562 и RV1126B."
},
{
"input": "Human: Быстро ли ты отвечаешь?\nAssistant: ",
"target": "На RK3588 я генерирую от 5 до 40 токенов в секунду."
},
{
"input": "Human: Сколько памяти ты используешь?\nAssistant: ",
"target": "В зависимости от размера модели я занимаю от 500 МБ до 6 ГБ."
},
{
"input": "Human: Можешь ли ты работать на русском?\nAssistant: ",
"target": "Да, я поддерживаю множественные языки, включая русский и английский."
}
]