metadata
license: gpl-3.0
'##:::'##:'##::::'##::'######:: ##::'##:: ##:::: ##:'##... ##: ##:'##::: ##:::: ##: ##:::..:: #####:::: #########:. ######:: ##. ##::: ##.... ##::..... ##: ##:. ##:: ##:::: ##:'##::: ##: ##::. ##: ##:::: ##:. ######:: ..::::..::..:::::..:::......:::
Образ KHSLiveUSB основан на Debian 13 Trixie Для запуска легковесных моделей нейросетей
В образ интегрированы следующие инструменты:
- llama.cpp (версия: )
- stable-diffusion.cpp (версия: )
Модели:
- перевод текста
- Qwen Coder
- medgemma
- Flux
Сетевые инструменты:
- Reticulum Network Stack (rns, nomadnet)
Мониторинг утилизации ресурсов:
- nmon
- lm-sensors
- psensor
Установка:
- Записать образ на usb флэшку с помощью dd или любых других инструментов, таких как Rufus или Balena Etcher для оптимальной скорости работы лучше использовать флешки с хорошей скоростью чтения/записи
Образ протестирован на:
AMD Ryzen AI 9 365 (32Gb RAM)
Stable-Diffusion -> Flux (~9Gb)
10 min
Intel Core i5 9400F (8Gb RAM)
Illegal instruction решается пересборкой llama под новое железо запуск модели medgemma-4b-it-Q4_K_M (2.3Gb) ~9 t/s
