cyberunit/KHSLiveUSB

  _  ___    _  _____ 
 | |/ / |  | |/ ____|
 | ' /| |__| | (___  
 |  < |  __  |\___ \ 
 | . \| |  | |____) |
 | |\_\_|  |_|_____/ 
 | (_)               
 | |___   _____      
 | | \ \ / / _ \     
 | | |\ V /  __/     
 |_|_| \_/ \___|     

Образ KHSLiveUSB основан на Debian 13 Trixie Для запуска легковесных моделей нейросетей

В образ интегрированы следующие инструменты:

• llama.cpp (версия: )
• stable-diffusion.cpp (версия: )
• whisper.cpp

Модели:

• перевод whisper-large.v3
• Qwen Coder
• medgemma
• Flux

Сетевые инструменты:

• Reticulum Network Stack (rns, nomadnet)

Мониторинг утилизации ресурсов:

• nmon
• lm-sensors
• psensor

Установка:

• Записать образ на usb флэшку с помощью dd или любых других инструментов, таких как Rufus или Balena Etcher для оптимальной скорости работы лучше использовать флешки с хорошей скоростью чтения/записи

Образ протестирован на:

AMD Ryzen AI 9 365 (32Gb RAM)

Stable-Diffusion -> Flux (~9Gb) 10 min

Intel Core i5 9400F (8Gb RAM)

Illegal instruction решается пересборкой llama под новое железо запуск модели medgemma-4b-it-Q4_K_M (2.3Gb)

~9 t/s