Update README.md
Browse files
README.md
CHANGED
|
@@ -244,4 +244,45 @@ model_interface = gr.load(
|
|
| 244 |
# Запуск интерфейса
|
| 245 |
model_interface.launch()
|
| 246 |
```
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 247 |
|
|
|
|
| 244 |
# Запуск интерфейса
|
| 245 |
model_interface.launch()
|
| 246 |
```
|
| 247 |
+
## Установка в LM Studio
|
| 248 |
+
|
| 249 |
+
LM Studio — это удобное приложение для локального запуска языковых моделей. Чтобы установить и использовать модель `felguk-audio.box` в LM Studio, выполните следующие шаги:
|
| 250 |
+
|
| 251 |
+
1. **Скачайте и установите LM Studio**:
|
| 252 |
+
- Перейдите на официальный сайт [LM Studio](https://lmstudio.ai/).
|
| 253 |
+
- Скачайте версию для вашей операционной системы (Windows, macOS, Linux).
|
| 254 |
+
- Установите приложение.
|
| 255 |
+
|
| 256 |
+
2. **Загрузите модель в формате GGUF**:
|
| 257 |
+
- Убедитесь, что ваша модель `felguk-audio.box` доступна в формате GGUF. Если модель еще не конвертирована, используйте инструменты, такие как `llama.cpp`, для конвертации.
|
| 258 |
+
- Загрузите файл модели (например, `felguk-audio.box.gguf`) на ваш компьютер.
|
| 259 |
+
|
| 260 |
+
3. **Добавьте модель в LM Studio**:
|
| 261 |
+
- Откройте LM Studio.
|
| 262 |
+
- Перейдите на вкладку **"Models"**.
|
| 263 |
+
- Нажмите **"Download a model"** и выберите **"From a file"**.
|
| 264 |
+
- Укажите путь к файлу `felguk-audio.box.gguf`.
|
| 265 |
+
|
| 266 |
+
4. **Запустите модель**:
|
| 267 |
+
- После загрузки модели выберите её в списке.
|
| 268 |
+
- Перейдите на вкладку **"Chat"**.
|
| 269 |
+
- Настройте параметры модели (например, температура, максимальная длина токенов).
|
| 270 |
+
- Начните взаимодействие с моделью.
|
| 271 |
+
|
| 272 |
+
---
|
| 273 |
+
|
| 274 |
+
### Пример использования
|
| 275 |
+
|
| 276 |
+
1. **Запустите LM Studio**.
|
| 277 |
+
2. Выберите модель `felguk-audio.box` из списка.
|
| 278 |
+
3. Введите запрос в текстовое поле и нажмите **Enter**.
|
| 279 |
+
4. Модель обработает запрос и вернёт ответ.
|
| 280 |
+
|
| 281 |
+
---
|
| 282 |
+
|
| 283 |
+
### Примечания
|
| 284 |
+
- Если модель не поддерживает формат GGUF, конвертируйте её с помощью инструментов, таких как `llama.cpp`.
|
| 285 |
+
- Убедитесь, что ваш компьютер соответствует системным требованиям для запуска модели (например, наличие достаточного объема оперативной памяти и видеопамяти).
|
| 286 |
+
|
| 287 |
+
Теперь вы можете использовать модель `felguk-audio.box` локально через LM Studio! 🚀
|
| 288 |
|