Update README.md
Browse files
README.md
CHANGED
|
@@ -130,25 +130,36 @@ medgemma-4b-it-Q4_K_M (2.3Gb)
|
|
| 130 |
|
| 131 |
> Всё собрал, запускаю DeepSeek вижу бессмыслицу и Китайские Иероглифы
|
| 132 |
> или все окна закрываются сами без ошибок
|
| 133 |
-
|
|
|
|
| 134 |
- Недостаточно RAM памяти
|
| 135 |
-
- ошибка при копировании образа
|
| 136 |
- после сборки New Build не выполнена команда sync
|
| 137 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 138 |
https://huggingface.co/cyberunit/DeepSeek-R1-0528-Qwen3-8B-Q4_K_M-GGUF/tree/main
|
| 139 |
-
|
| 140 |
```php
|
| 141 |
-
cd ~
|
| 142 |
-
rm run_deepseek.sh
|
| 143 |
-
wget https://huggingface.co/cyberunit/DeepSeek-R1-0528-Qwen3-8B-Q4_K_M-GGUF/raw/main/run_deepseek.sh
|
| 144 |
-
sudo chmod +x run_deepseek.sh
|
| 145 |
cd ~/models
|
| 146 |
-
|
| 147 |
-
wget https://huggingface.co/cyberunit/DeepSeek-R1-0528-Qwen3-8B-Q4_K_M-GGUF/resolve/main/deepseek-r1-0528-qwen3-8b-q4_k_m.gguf
|
| 148 |
```
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 149 |
|
| 150 |
-
|
| 151 |
-
> У меня слабый интернет канал, и долго выкачивать 15Гб образа, будет ли образ на 8Гб
|
| 152 |
|
| 153 |
Чуть позже будет образ на 8Gb с Medgemm'ой и Reticulum'ом
|
| 154 |
Возможно будут образы на базе и других дистрибутивов и без иксов.
|
|
|
|
| 130 |
|
| 131 |
> Всё собрал, запускаю DeepSeek вижу бессмыслицу и Китайские Иероглифы
|
| 132 |
> или все окна закрываются сами без ошибок
|
| 133 |
+
|
| 134 |
+
Возможные причины:
|
| 135 |
- Недостаточно RAM памяти
|
|
|
|
| 136 |
- после сборки New Build не выполнена команда sync
|
| 137 |
+
|
| 138 |
+
>Не хочу ни DeepSeek ни Qwen ни Medgemma, хочу запустить свою модель нейросети
|
| 139 |
+
|
| 140 |
+
Запускать ваши модели можно как с внешних носителей USB/SSD/HDD
|
| 141 |
+
так и предварительно загрузив их в директорию `/home/user/models/`
|
| 142 |
+
- Убедитесь в наличии стабильного интернет соединения !
|
| 143 |
+
- Удалите ненужную вам модель освободив достаточно места для новой.
|
| 144 |
+
- Скачайте нужную вам модель в формате `.gguf` в директорию `~/models`
|
| 145 |
+
например из нашего репозитория:
|
| 146 |
https://huggingface.co/cyberunit/DeepSeek-R1-0528-Qwen3-8B-Q4_K_M-GGUF/tree/main
|
| 147 |
+
качать модель можно как браузером, так и через консоль выполнив следующие команды:
|
| 148 |
```php
|
|
|
|
|
|
|
|
|
|
|
|
|
| 149 |
cd ~/models
|
| 150 |
+
wget https://huggingface.co/cyberunit/DeepSeek-R1-0528-Qwen3-8B-Q4_K_M-GGUF/raw/main/run_deepseek.sh
|
|
|
|
| 151 |
```
|
| 152 |
+
- Создайте на рабочем столе Ярлык для запуска вашей модели
|
| 153 |
+
по аналогии с DeepSeek или Medgemma (проверив адреса вызываемых ярлыком скриптов)
|
| 154 |
+
- Скопируйте конфиг с уже имеющегося например:
|
| 155 |
+
```php
|
| 156 |
+
cd ~
|
| 157 |
+
cp run_deepseek.sh run_new_model.sh
|
| 158 |
+
```
|
| 159 |
+
- Отредактируйте `~/run_new_model.sh` указав в 6 строке название и адрес вашей новой модели.
|
| 160 |
+
Если вы всё сделали правильно, то llama-server подгрузит вашу новую модель.
|
| 161 |
|
| 162 |
+
> У меня слабый интернет канал, и долго выкачивать 16Гб образа, будет ли образ на 8Гб
|
|
|
|
| 163 |
|
| 164 |
Чуть позже будет образ на 8Gb с Medgemm'ой и Reticulum'ом
|
| 165 |
Возможно будут образы на базе и других дистрибутивов и без иксов.
|