# Braindler Final Model - GGUF Versions Высококачественные квантизированные версии модели Braindler для использования с **llama.cpp**, **Ollama**, **LM Studio** и другими. ## 📦 Доступные версии | Квантизация | Размер | Качество | Рекомендация | |-------------|--------|----------|--------------| | **Q2_K** | 68 MB | Минимальное | Для ограниченных устройств 📱 | | **Q3_K_S** | 73 MB | Низкое | Для слабых устройств 💻 | | **Q4_K_S** | 84 MB | Среднее | Хороший баланс ⚖️ | | **Q4_K_M** | 90 MB | Хорошее | ⭐ **РЕКОМЕНДУЕТСЯ** для большинства | | **Q5_K_M** | 99 MB | Высокое | Отличное качество 💎 | | **Q8_0** | 133 MB | Отличное | Почти без потерь 🏆 | | **F16** | 244 MB | Без потерь | Для GPU/референса 🎯 | ## 🚀 Использование с Ollama ### 1. Создайте Modelfile ```dockerfile FROM ./braindler_final_model_Q4_K_M.gguf TEMPLATE """{{- if .System }} System: {{ .System }} {{- end }} User: {{ .Prompt }} Assistant:""" PARAMETER temperature 0.7 PARAMETER top_p 0.9 PARAMETER top_k 40 PARAMETER num_ctx 2048 SYSTEM """Ты - Braindler, образовательный ассистент для детей и взрослых, изучающих русский язык. Помогаешь учить буквы, цифры, цвета и слова. Отвечай дружелюбно и понятно.""" ``` ### 2. Создайте модель в Ollama ```bash ollama create braindler -f Modelfile ``` ### 3. Запустите модель ```bash ollama run braindler ``` ```bash >>> Как произносится буква А? Буква 'А' произносится как 'а'. Попробуй произнести её вслух: а. >>> Назови слова на букву Б Слова на букву 'б': банан, бабочка, барабан, белка ``` ## 🔧 Использование с llama.cpp ```bash # Запуск интерактивного чата ./llama.cpp/build/bin/llama-cli \ -m braindler_final_model_Q4_K_M.gguf \ -p "User: Как произносится буква А?\nAssistant:" \ -n 128 \ --temp 0.7 \ --top-p 0.9 # Использование с GPU Metal (Apple Silicon) ./llama.cpp/build/bin/llama-cli \ -m braindler_final_model_Q4_K_M.gguf \ -ngl 99 \ -p "User: Расскажи о цифре 5\nAssistant:" ``` ## 💻 Использование с LM Studio 1. Скачайте любую GGUF версию 2. Откройте LM Studio 3. Перетащите файл `.gguf` в окно 4. Загрузите модель и начните чат ## 📊 Характеристики модели - **Архитектура**: GPT-2 (125M параметров) - **Базовая модель**: nativemind/braindler_full_trained_model - **Датасеты для fine-tuning**: - mozgach_trener (97 примеров) - алфавит, цифры, цвета, фигуры - alice_gift (66 примеров) - дополнительные текстовые данные - **Язык**: Русский 🇷🇺 - **Контекст**: 2048 токенов - **Лицензия**: NativeMindNONC (Non-Commercial) ## 🎯 Применение - Образовательные приложения для детей - Обучение русскому языку - Интерактивные образовательные чат-боты - Голосовые ассистенты - Локальные AI приложения без интернета ## 📖 Примеры промптов ``` User: Как правильно произнести букву 'А'? Assistant: Буква 'А' произносится как 'а'. Попробуй произнести её вслух: а. User: Назови слова на букву Б Assistant: Слова на букву 'б': банан, бабочка, барабан, белка User: Расскажи о цвете красный Assistant: Цвет 'красный' - это один из основных цветов. Это цвет яблока, помидора и клубники. Яркий и теплый цвет. User: Что такое треугольник? Assistant: Треугольник - это фигура с 3 сторонами и 3 углами. Похож на крышу дома или пирамиду. ``` ## ⚙️ Рекомендации по выбору версии ### Для мобильных/слабых устройств → **Q2_K** или **Q3_K_S** (68-73 MB) ### Для десктопов/ноутбуков → **Q4_K_M** (90 MB) ⭐ лучший баланс ### Для производственного использования → **Q5_K_M** (99 MB) высокое качество ### Для максимального качества → **Q8_0** (133 MB) или **F16** (244 MB) ## 🔗 Ссылки - **HuggingFace Model**: https://huggingface.co/nativemind/braindler_final_model - **Dataset 1**: https://huggingface.co/datasets/nativemind/mozgach_trener - **Dataset 2**: https://huggingface.co/datasets/nativemind/mozgach_alice_gift ## 📧 Контакты - **Email**: anton.v.dodonov@gmail.com - **HuggingFace**: nativemind - **Дата**: 2025-10-20 --- © 2025 NativeMind. Для некоммерческого использования. **Образование должно быть доступным!** 🎓