File size: 5,717 Bytes
ac17011 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 |
# Braindler Final Model - GGUF Versions
Высококачественные квантизированные версии модели Braindler для использования с **llama.cpp**, **Ollama**, **LM Studio** и другими.
## 📦 Доступные версии
| Квантизация | Размер | Качество | Рекомендация |
|-------------|--------|----------|--------------|
| **Q2_K** | 68 MB | Минимальное | Для ограниченных устройств 📱 |
| **Q3_K_S** | 73 MB | Низкое | Для слабых устройств 💻 |
| **Q4_K_S** | 84 MB | Среднее | Хороший баланс ⚖️ |
| **Q4_K_M** | 90 MB | Хорошее | ⭐ **РЕКОМЕНДУЕТСЯ** для большинства |
| **Q5_K_M** | 99 MB | Высокое | Отличное качество 💎 |
| **Q8_0** | 133 MB | Отличное | Почти без потерь 🏆 |
| **F16** | 244 MB | Без потерь | Для GPU/референса 🎯 |
## 🚀 Использование с Ollama
### 1. Создайте Modelfile
```dockerfile
FROM ./braindler_final_model_Q4_K_M.gguf
TEMPLATE """{{- if .System }}
System: {{ .System }}
{{- end }}
User: {{ .Prompt }}
Assistant:"""
PARAMETER temperature 0.7
PARAMETER top_p 0.9
PARAMETER top_k 40
PARAMETER num_ctx 2048
SYSTEM """Ты - Braindler, образовательный ассистент для детей и взрослых, изучающих русский язык. Помогаешь учить буквы, цифры, цвета и слова. Отвечай дружелюбно и понятно."""
```
### 2. Создайте модель в Ollama
```bash
ollama create braindler -f Modelfile
```
### 3. Запустите модель
```bash
ollama run braindler
```
```bash
>>> Как произносится буква А?
Буква 'А' произносится как 'а'. Попробуй произнести её вслух: а.
>>> Назови слова на букву Б
Слова на букву 'б': банан, бабочка, барабан, белка
```
## 🔧 Использование с llama.cpp
```bash
# Запуск интерактивного чата
./llama.cpp/build/bin/llama-cli \
-m braindler_final_model_Q4_K_M.gguf \
-p "User: Как произносится буква А?\nAssistant:" \
-n 128 \
--temp 0.7 \
--top-p 0.9
# Использование с GPU Metal (Apple Silicon)
./llama.cpp/build/bin/llama-cli \
-m braindler_final_model_Q4_K_M.gguf \
-ngl 99 \
-p "User: Расскажи о цифре 5\nAssistant:"
```
## 💻 Использование с LM Studio
1. Скачайте любую GGUF версию
2. Откройте LM Studio
3. Перетащите файл `.gguf` в окно
4. Загрузите модель и начните чат
## 📊 Характеристики модели
- **Архитектура**: GPT-2 (125M параметров)
- **Базовая модель**: nativemind/braindler_full_trained_model
- **Датасеты для fine-tuning**:
- mozgach_trener (97 примеров) - алфавит, цифры, цвета, фигуры
- alice_gift (66 примеров) - дополнительные текстовые данные
- **Язык**: Русский 🇷🇺
- **Контекст**: 2048 токенов
- **Лицензия**: NativeMindNONC (Non-Commercial)
## 🎯 Применение
- Образовательные приложения для детей
- Обучение русскому языку
- Интерактивные образовательные чат-боты
- Голосовые ассистенты
- Локальные AI приложения без интернета
## 📖 Примеры промптов
```
User: Как правильно произнести букву 'А'?
Assistant: Буква 'А' произносится как 'а'. Попробуй произнести её вслух: а.
User: Назови слова на букву Б
Assistant: Слова на букву 'б': банан, бабочка, барабан, белка
User: Расскажи о цвете красный
Assistant: Цвет 'красный' - это один из основных цветов. Это цвет яблока, помидора и клубники. Яркий и теплый цвет.
User: Что такое треугольник?
Assistant: Треугольник - это фигура с 3 сторонами и 3 углами. Похож на крышу дома или пирамиду.
```
## ⚙️ Рекомендации по выбору версии
### Для мобильных/слабых устройств
→ **Q2_K** или **Q3_K_S** (68-73 MB)
### Для десктопов/ноутбуков
→ **Q4_K_M** (90 MB) ⭐ лучший баланс
### Для производственного использования
→ **Q5_K_M** (99 MB) высокое качество
### Для максимального качества
→ **Q8_0** (133 MB) или **F16** (244 MB)
## 🔗 Ссылки
- **HuggingFace Model**: https://huggingface.co/nativemind/braindler_final_model
- **Dataset 1**: https://huggingface.co/datasets/nativemind/mozgach_trener
- **Dataset 2**: https://huggingface.co/datasets/nativemind/mozgach_alice_gift
## 📧 Контакты
- **Email**: anton.v.dodonov@gmail.com
- **HuggingFace**: nativemind
- **Дата**: 2025-10-20
---
© 2025 NativeMind. Для некоммерческого использования.
**Образование должно быть доступным!** 🎓
|