| | --- |
| | license: gpl-3.0 |
| | --- |
| | ```php |
| | _ ___ _ _____ |
| | | |/ / | | |/ ____| |
| | | ' /| |__| | (___ |
| | | < | __ |\___ \ |
| | | . \| | | |____) | |
| | | |\_\_| |_|_____/ |
| | | (_) |
| | | |___ _____ |
| | | | \ \ / / _ \ |
| | | | |\ V / __/ |
| | |_|_| \_/ \___| |
| | ``` |
| | Образ KHSLiveUSB основан на Debian 13 Trixie |
| | Для запуска легковесных моделей нейросетей |
| |
|
| |
|
| | В образ интегрированы следующие инструменты: |
| | - llama.cpp (версия: ) |
| | - stable-diffusion.cpp (версия: ) |
| | - whisper.cpp |
| |
|
| | Модели: |
| | - перевод whisper-large.v3 |
| | - Qwen Coder |
| | - medgemma |
| | - Flux |
| |
|
| | Сетевые инструменты: |
| | - Reticulum Network Stack (rns, nomadnet) |
| |
|
| | Мониторинг утилизации ресурсов: |
| | - nmon |
| | - lm-sensors |
| | - psensor |
| |
|
| | Установка: |
| | - Записать образ на usb флэшку с помощью dd или любых других инструментов, таких как Rufus или Balena Etcher |
| | для оптимальной скорости работы лучше использовать флешки с хорошей скоростью чтения/записи |
| |
|
| |
|
| |
|
| | ### Образ протестирован на: |
| |
|
| | <details> |
| |
|
| | <summary> <b>AMD Ryzen AI 9 365 (32Gb RAM)</b> </summary> |
| | |
| |  |
| | Stable-Diffusion -> Flux (~9Gb) |
| |  |
| | 10 min |
| | </details> |
| |
|
| | <details> |
| |
|
| | <summary> <b>Intel Core i5 9400F (8Gb RAM)</b> </summary> |
| | Illegal instruction решается пересборкой llama под новое железо |
| | запуск модели medgemma-4b-it-Q4_K_M (2.3Gb) |
| |
|
| | ~9 t/s |
| |  |
| |
|
| |  |
| | </details> |
| |
|
| |
|