| --- |
| license: gpl-3.0 |
| language: |
| - ru |
| pipeline_tag: text-generation |
| tags: |
| - llama |
| - russian |
| - creative-writing |
| - fanfiction |
| - lightweight |
| - cpu-friendly |
| --- |
| |
| # K.AI 2 — Живая русскоязычная модель для генерации текстов |
|
|
| **K.AI 2** — это компактная языковая модель, обученная **с нуля** на русскоязычных фанфиках. Цель проекта — создать «живую» нейросеть, которая отвечает естественно, без пластикового привкуса корпоративных LLM, и при этом **не требует датацентров** для работы. Модель запускается даже на MacBook 2011 года и выдаёт ~50 токенов/сек благодаря собственному движку [XLLM](https://xelltech.ru/kai_landing.html). |
|
|
| Это **Base Model** — модель без инструктивной настройки и без каких-либо фильтров. Она генерирует текст как есть: и про любовь, и про кровь. Единственное ограничение — её собственный «мозг»: без грамотного промпта модель склонна скатываться в романтику. |
|
|
| > ⚠️ **Модель нецензурирована.** Она может генерировать контент любого характера. Используйте ответственно. |
|
|
| --- |
|
|
| ## Model Details |
|
|
| ### Описание |
|
|
| K.AI 2 — это сверхлёгкая LLM на архитектуре Llama 3, обученная с нуля на ~2 ГБ русскоязычных фанфиков. Это **не файнтюн** существующей модели — веса обучены полностью с нуля. Модель понимает **только русский язык**. |
|
|
| Ключевая идея: максимально компактная и оптимизированная модель, способная генерировать живые, эмоциональные тексты на потребительском (и даже устаревшем) железе. |
|
|
| - **Разработчик:** [XellTech](https://xelltech.ru) |
| - **Тип модели:** Causal Language Model (Base, без instruct-тюнинга) |
| - **Архитектура:** Llama 3 (8 слоёв, 512 dim, QKV, RoPE) |
| - **Язык:** Русский |
| - **Лицензия:** GPL-3.0 |
| - **Обучена с нуля:** Да (не является дообучением) |
|
|
| ### Ресурсы |
|
|
| - 🌐 **Лендинг проекта, XLLM, файлы модели:** [xelltech.ru/kai_landing.html](https://xelltech.ru/kai_landing.html) |
| - 💬 **Веб-интерфейс для генерации:** [kai.xelltech.ru](https://kai.xelltech.ru) |
|
|
| --- |
|
|
| ## Использование |
|
|
| ### Для чего подходит |
|
|
| - Генерация фанфиков и художественных текстов на русском языке |
| - Эксперименты с локальными LLM на слабом железе |
| - Тестирование и исследование поведения маленьких моделей |
| - Развлечение и творчество без ограничений |
|
|
| ### Как запустить |
|
|
| Рекомендуемый способ запуска — через **XLLM**, собственный inference-движок на C++, оптимизированный специально под эту модель. Работает на Linux, Windows и **macOS вплоть до 10.6.8**. |
|
|
| Скачать XLLM и файлы модели: [xelltech.ru/kai_landing.html](https://xelltech.ru/kai_landing.html) |
|
|
| Или попробуйте прямо в браузере: [kai.xelltech.ru](https://kai.xelltech.ru) |
|
|
| ### Для чего НЕ подходит |
|
|
| - Задачи, требующие фактологической точности (модель галлюцинирует) |
| - Любые языки, кроме русского |
| - Использование как instruct/chat-модели (это base model, без выравнивания) |
| - Продакшн-системы и критичные приложения |
|
|
| --- |
|
|
| ## Особенности и ограничения |
|
|
| ### Характер модели |
|
|
| - **Живой стиль** — тексты звучат эмоционально и естественно, а не как корпоративная болванка |
| - **Без фильтрации** — модель не отказывается от тем, генерирует всё подряд |
| - **Романтический уклон** — модель обожает любовные линии и склонна затягивать туда даже жёсткие сюжеты. Без тщательной настройки промпта «ум падает в бездну» романтики |
| - **Маленький мозг** — это компактная модель; качество и связность текста ограничены её размером |
|
|
| ### Риски |
|
|
| - Генерация NSFW, жестокого или неприемлемого контента без каких-либо предупреждений |
| - Фактологические ошибки и галлюцинации |
| - Стереотипы и предвзятости, унаследованные из обучающих данных (фанфики) |
|
|
| --- |
|
|
| ## Обучение |
|
|
| ### Данные |
|
|
| ~2 ГБ русскоязычных фанфиков. Модель обучена **с нуля** — это не дообучение какой-либо существующей модели. |
|
|
| ### Архитектура |
|
|
| | Параметр | Значение | |
| |---|---| |
| | Базовая архитектура | Llama 3 | |
| | Количество слоёв | 8 | |
| | Размерность | 512 | |
| | Внимание | QKV с RoPE | |
| | Язык | Только русский | |
|
|
| ### Производительность |
|
|
| | Устройство | Скорость | |
| |---|---| |
| | MacBook (2011) через XLLM | ~50 токенов/сек | |
|
|
| --- |
|
|
| ## Техническая инфраструктура |
|
|
| ### Движок — XLLM |
|
|
| Собственный inference-движок на C++, разработанный XellTech. Ключевые особенности: |
|
|
| - Экстремальная оптимизация под маленькие модели |
| - Поддержка macOS 10.6.8+, Linux, Windows |
| - Минимальные требования к железу |
| - Подробнее: [xelltech.ru/kai_landing.html](https://xelltech.ru/kai_landing.html) |
|
|
| --- |
|
|
| ## Цитирование |
|
|
| Если вы используете K.AI 2 в своих проектах или исследованиях: |
|
|
| ``` |
| @misc{kai2, |
| title={K.AI 2: Compact Russian Language Model for Creative Text Generation}, |
| author={XellTech}, |
| year={2025}, |
| url={https://xelltech.ru/kai_landing.html} |
| } |
| ``` |
|
|
| --- |
|
|
| ## Контакт |
|
|
| - Сайт: [xelltech.ru](https://xelltech.ru) |
| - Проект K.AI: [xelltech.ru/kai_landing.html](https://xelltech.ru/kai_landing.html) |
