metadata
license: gpl-3.0
Образ KHSLiveUSB основан на Debian 13 Trixie Для запуска легковесных моделей нейросетей
В образ интегрированы следующие инструменты:
- llama.cpp (версия: )
- stable-diffusion.cpp (версия: )
Модели:
- перевод текста
- Qwen Coder
- medgemma
- Flux
Сетевые инструменты:
- Reticulum Network Stack (rns, nomadnet)
Мониторинг утилизации ресурсов:
- nmon
- lm-sensors
- psensor
Образ протестирован на:
AMD Ryzen AI 9 365 (32Gb RAM)
Stable-Diffusion -> Flux (~9Gb)
10 min
Intel Core i5 9400F (8Gb RAM)
Illegal instruction решается пересборкой llama под новое железо запуск модели medgemma-4b-it-Q4_K_M (2.3Gb) ~9 t/s
