KHSLiveUSB / README.md
cyberunit's picture
Update README.md
c45611d verified
---
license: gpl-3.0
---
```php
_ ___ _ _____
| |/ / | | |/ ____|
| ' /| |__| | (___
| < | __ |\___ \
| . \| | | |____) |
| |\_\_| |_|_____/
| (_)
| |___ _____
| | \ \ / / _ \
| | |\ V / __/
|_|_| \_/ \___|
```
Образ KHSLiveUSB основан на Debian 13 Trixie
Для запуска легковесных моделей нейросетей
В образ интегрированы следующие инструменты:
- llama.cpp (версия: )
- stable-diffusion.cpp (версия: )
- whisper.cpp
Модели:
- перевод whisper-large.v3
- Qwen Coder
- medgemma
- Flux
Сетевые инструменты:
- Reticulum Network Stack (rns, nomadnet)
Мониторинг утилизации ресурсов:
- nmon
- lm-sensors
- psensor
Установка:
- Записать образ на usb флэшку с помощью dd или любых других инструментов, таких как Rufus или Balena Etcher
для оптимальной скорости работы лучше использовать флешки с хорошей скоростью чтения/записи
### Образ протестирован на:
<details>
<summary> <b>AMD Ryzen AI 9 365 (32Gb RAM)</b> </summary>
![image](images/amd_cfg.png)
Stable-Diffusion -> Flux (~9Gb)
![image](images/amd_sd.png)
10 min
</details>
<details>
<summary> <b>Intel Core i5 9400F (8Gb RAM)</b> </summary>
Illegal instruction решается пересборкой llama под новое железо
запуск модели medgemma-4b-it-Q4_K_M (2.3Gb)
~9 t/s
![image](images/intel_cfg.png)
![image](images/intel_medgemma.png)
</details>