cyberunit commited on
Commit
8a3690e
·
verified ·
1 Parent(s): 8eb0f50

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +23 -12
README.md CHANGED
@@ -130,25 +130,36 @@ medgemma-4b-it-Q4_K_M (2.3Gb)
130
 
131
  > Всё собрал, запускаю DeepSeek вижу бессмыслицу и Китайские Иероглифы
132
  > или все окна закрываются сами без ошибок
133
- Возможные причины
 
134
  - Недостаточно RAM памяти
135
- - ошибка при копировании образа
136
  - после сборки New Build не выполнена команда sync
137
- можно попробовать заменить эту битую .gguf модель, на новую из нашего репозитория:
 
 
 
 
 
 
 
 
138
  https://huggingface.co/cyberunit/DeepSeek-R1-0528-Qwen3-8B-Q4_K_M-GGUF/tree/main
139
- или выполнить в консоли следующие команды:
140
  ```php
141
- cd ~
142
- rm run_deepseek.sh
143
- wget https://huggingface.co/cyberunit/DeepSeek-R1-0528-Qwen3-8B-Q4_K_M-GGUF/raw/main/run_deepseek.sh
144
- sudo chmod +x run_deepseek.sh
145
  cd ~/models
146
- rm DeepSeek-R1-0528-Qwen3-8B-Q4_K_M.gguf
147
- wget https://huggingface.co/cyberunit/DeepSeek-R1-0528-Qwen3-8B-Q4_K_M-GGUF/resolve/main/deepseek-r1-0528-qwen3-8b-q4_k_m.gguf
148
  ```
 
 
 
 
 
 
 
 
 
149
 
150
-
151
- > У меня слабый интернет канал, и долго выкачивать 15Гб образа, будет ли образ на 8Гб
152
 
153
  Чуть позже будет образ на 8Gb с Medgemm'ой и Reticulum'ом
154
  Возможно будут образы на базе и других дистрибутивов и без иксов.
 
130
 
131
  > Всё собрал, запускаю DeepSeek вижу бессмыслицу и Китайские Иероглифы
132
  > или все окна закрываются сами без ошибок
133
+
134
+ Возможные причины:
135
  - Недостаточно RAM памяти
 
136
  - после сборки New Build не выполнена команда sync
137
+
138
+ >Не хочу ни DeepSeek ни Qwen ни Medgemma, хочу запустить свою модель нейросети
139
+
140
+ Запускать ваши модели можно как с внешних носителей USB/SSD/HDD
141
+ так и предварительно загрузив их в директорию `/home/user/models/`
142
+ - Убедитесь в наличии стабильного интернет соединения !
143
+ - Удалите ненужную вам модель освободив достаточно места для новой.
144
+ - Скачайте нужную вам модель в формате `.gguf` в директорию `~/models`
145
+ например из нашего репозитория:
146
  https://huggingface.co/cyberunit/DeepSeek-R1-0528-Qwen3-8B-Q4_K_M-GGUF/tree/main
147
+ качать модель можно как браузером, так и через консоль выполнив следующие команды:
148
  ```php
 
 
 
 
149
  cd ~/models
150
+ wget https://huggingface.co/cyberunit/DeepSeek-R1-0528-Qwen3-8B-Q4_K_M-GGUF/raw/main/run_deepseek.sh
 
151
  ```
152
+ - Создайте на рабочем столе Ярлык для запуска вашей модели
153
+ по аналогии с DeepSeek или Medgemma (проверив адреса вызываемых ярлыком скриптов)
154
+ - Скопируйте конфиг с уже имеющегося например:
155
+ ```php
156
+ cd ~
157
+ cp run_deepseek.sh run_new_model.sh
158
+ ```
159
+ - Отредактируйте `~/run_new_model.sh` указав в 6 строке название и адрес вашей новой модели.
160
+ Если вы всё сделали правильно, то llama-server подгрузит вашу новую модель.
161
 
162
+ > У меня слабый интернет канал, и долго выкачивать 16Гб образа, будет ли образ на 8Гб
 
163
 
164
  Чуть позже будет образ на 8Gb с Medgemm'ой и Reticulum'ом
165
  Возможно будут образы на базе и других дистрибутивов и без иксов.