File size: 1,760 Bytes
ec6c9ac
 
 
5ad4c97
49ff61e
 
 
 
 
 
 
 
 
 
 
5ad4c97
ec6c9ac
 
 
 
 
 
 
c45611d
ec6c9ac
 
c45611d
ec6c9ac
 
bafe29b
 
ec6c9ac
 
 
 
 
 
 
579639d
0af0c9a
e20c06d
0af0c9a
 
 
3b17c1a
 
 
 
 
 
847ec7c
6f7e790
579639d
 
 
3b17c1a
 
 
 
 
 
 
847ec7c
3b17c1a
579639d
 
 
3b17c1a
ec6c9ac
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
---
license: gpl-3.0
---
```php
  _  ___    _  _____ 
 | |/ / |  | |/ ____|
 | ' /| |__| | (___  
 |  < |  __  |\___ \ 
 | . \| |  | |____) |
 | |\_\_|  |_|_____/ 
 | (_)               
 | |___   _____      
 | | \ \ / / _ \     
 | | |\ V /  __/     
 |_|_| \_/ \___|     
```
Образ KHSLiveUSB основан на Debian 13 Trixie
Для запуска легковесных моделей нейросетей


В образ интегрированы следующие инструменты:
- llama.cpp (версия: )
- stable-diffusion.cpp (версия: )
- whisper.cpp

Модели:
- перевод whisper-large.v3
- Qwen Coder
- medgemma
- Flux

Сетевые инструменты:
- Reticulum Network Stack (rns, nomadnet)

Мониторинг утилизации ресурсов:
- nmon
- lm-sensors
- psensor

Установка:
- Записать образ на usb флэшку с помощью dd или любых других инструментов, таких как Rufus или Balena Etcher
для оптимальной скорости работы лучше использовать флешки с хорошей скоростью чтения/записи



### Образ протестирован на:

<details>

  <summary> <b>AMD Ryzen AI 9 365 (32Gb RAM)</b> </summary>
  
![image](images/amd_cfg.png)
Stable-Diffusion -> Flux (~9Gb)
![image](images/amd_sd.png)
10 min
</details>

<details>

  <summary> <b>Intel Core i5 9400F (8Gb RAM)</b> </summary>
  Illegal instruction решается пересборкой llama под новое железо
  запуск модели medgemma-4b-it-Q4_K_M (2.3Gb)

  ~9 t/s
![image](images/intel_cfg.png)

![image](images/intel_medgemma.png)
</details>