README_GGUF.md

Braindler Final Model - GGUF Versions

Высококачественные квантизированные версии модели Braindler для использования с llama.cpp, Ollama, LM Studio и другими.

📦 Доступные версии

Квантизация	Размер	Качество	Рекомендация
Q2_K	68 MB	Минимальное	Для ограниченных устройств 📱
Q3_K_S	73 MB	Низкое	Для слабых устройств 💻
Q4_K_S	84 MB	Среднее	Хороший баланс ⚖️
Q4_K_M	90 MB	Хорошее	⭐ РЕКОМЕНДУЕТСЯ для большинства
Q5_K_M	99 MB	Высокое	Отличное качество 💎
Q8_0	133 MB	Отличное	Почти без потерь 🏆
F16	244 MB	Без потерь	Для GPU/референса 🎯

🚀 Использование с Ollama

1. Создайте Modelfile

FROM ./braindler_final_model_Q4_K_M.gguf

TEMPLATE """{{- if .System }}
System: {{ .System }}
{{- end }}
User: {{ .Prompt }}
Assistant:"""

PARAMETER temperature 0.7
PARAMETER top_p 0.9
PARAMETER top_k 40
PARAMETER num_ctx 2048

SYSTEM """Ты - Braindler, образовательный ассистент для детей и взрослых, изучающих русский язык. Помогаешь учить буквы, цифры, цвета и слова. Отвечай дружелюбно и понятно."""

2. Создайте модель в Ollama

ollama create braindler -f Modelfile

3. Запустите модель

ollama run braindler

>>> Как произносится буква А?
Буква 'А' произносится как 'а'. Попробуй произнести её вслух: а.

>>> Назови слова на букву Б
Слова на букву 'б': банан, бабочка, барабан, белка

🔧 Использование с llama.cpp

# Запуск интерактивного чата
./llama.cpp/build/bin/llama-cli \
  -m braindler_final_model_Q4_K_M.gguf \
  -p "User: Как произносится буква А?\nAssistant:" \
  -n 128 \
  --temp 0.7 \
  --top-p 0.9

# Использование с GPU Metal (Apple Silicon)
./llama.cpp/build/bin/llama-cli \
  -m braindler_final_model_Q4_K_M.gguf \
  -ngl 99 \
  -p "User: Расскажи о цифре 5\nAssistant:"

💻 Использование с LM Studio

1. Скачайте любую GGUF версию
2. Откройте LM Studio
3. Перетащите файл .gguf в окно
4. Загрузите модель и начните чат

📊 Характеристики модели

• Архитектура: GPT-2 (125M параметров)
• Базовая модель: nativemind/braindler_full_trained_model
• Датасеты для fine-tuning:
  • mozgach_trener (97 примеров) - алфавит, цифры, цвета, фигуры
  • alice_gift (66 примеров) - дополнительные текстовые данные
• Язык: Русский 🇷🇺
• Контекст: 2048 токенов
• Лицензия: NativeMindNONC (Non-Commercial)

🎯 Применение

• Образовательные приложения для детей
• Обучение русскому языку
• Интерактивные образовательные чат-боты
• Голосовые ассистенты
• Локальные AI приложения без интернета

📖 Примеры промптов

User: Как правильно произнести букву 'А'?
Assistant: Буква 'А' произносится как 'а'. Попробуй произнести её вслух: а.

User: Назови слова на букву Б
Assistant: Слова на букву 'б': банан, бабочка, барабан, белка

User: Расскажи о цвете красный
Assistant: Цвет 'красный' - это один из основных цветов. Это цвет яблока, помидора и клубники. Яркий и теплый цвет.

User: Что такое треугольник?
Assistant: Треугольник - это фигура с 3 сторонами и 3 углами. Похож на крышу дома или пирамиду.

⚙️ Рекомендации по выбору версии

Для мобильных/слабых устройств

→ Q2_K или Q3_K_S (68-73 MB)

Для десктопов/ноутбуков

→ Q4_K_M (90 MB) ⭐ лучший баланс

Для производственного использования

→ Q5_K_M (99 MB) высокое качество

Для максимального качества

→ Q8_0 (133 MB) или F16 (244 MB)

🔗 Ссылки

• HuggingFace Model: https://huggingface.co/nativemind/braindler_final_model
• Dataset 1: https://huggingface.co/datasets/nativemind/mozgach_trener
• Dataset 2: https://huggingface.co/datasets/nativemind/mozgach_alice_gift

📧 Контакты

• Email: anton.v.dodonov@gmail.com
• HuggingFace: nativemind
• Дата: 2025-10-20

---

© 2025 NativeMind. Для некоммерческого использования.

Образование должно быть доступным! 🎓