Add README

README.md

@@ -1,258 +1,23 @@
 ---
-language:
-- ru
-- en
-license: apache-2.0
-base_model: unsloth/Ministral-3-3B-Instruct-2512-bnb-4bit
 tags:
-- reasoning
-- r1
-- deepseek-r1
-- ministral
 - gguf
-- cot
-- chain-of-thought
-- russian
-- code
-- math
-- text-generation
-- unsloth
 - llama.cpp
-- lmstudio
-- ollama
-- vllm
-- jan
-- openclaw
-- hermes-agent
-datasets:
-- fwizzer1/ru-deepthink-mega
-pipeline_tag: text-generation
-widget:
-- text: "[SYSTEM_PROMPT]Ты — русскоязычная языковая модель Fwizzer-R1-3B-RU. Твоя задача — рассуждать пошагово внутри тегов <think>(мысли вслух) и </think>(окончательный ответ), затем давать точный и полезный ответ.[/SYSTEM_PROMPT][INST] Кто ты и в чём твоя специализация? [/INST]"
-  example_title: "Кто ты? (Идентификация)"
-- text: "[SYSTEM_PROMPT]Ты — русскоязычная языковая модель Fwizzer-R1-3B-RU. Твоя задача — рассуждать пошагово внутри тегов <think>(мысли вслух) и </think>(окончательный ответ), затем давать точный и полезный ответ.[/SYSTEM_PROMPT][INST] В коробке лежат 10 синих, 8 красных и 6 зеленых шаров. Какова вероятность вытащить подряд два шара разного цвета? [/INST]"
-  example_title: "Логика и вероятность"
-- text: "[SYSTEM_PROMPT]Ты — русскоязычная языковая модель Fwizzer-R1-3B-RU. Твоя задача — рассуждать пошагово внутри тегов <think>(мысли вслух) и </think>(окончательный ответ), затем давать точный и полезный ответ.[/SYSTEM_PROMPT][INST] Напиши асинхронный генератор на Python с обработкой таймаутов. [/INST]"
-  example_title: "Python Кодинг"
-model-index:
-- name: Fwizzer-R1-3B-v2
-  results:
-  - task:
-      type: text-generation
-      name: Text Generation
-    dataset:
-      name: GSM8K
-      type: gsm8k
-    metrics:
-    - name: Accuracy
-      type: accuracy
-      value: 82.4
-  - task:
-      type: text-generation
-      name: Text Generation
-    dataset:
-      name: MATH
-      type: math
-    metrics:
-    - name: Accuracy
-      type: accuracy
-      value: 54.8
-  - task:
-      type: text-generation
-      name: Text Generation
-    dataset:
-      name: HumanEval
-      type: humaneval
-    metrics:
-    - name: Pass@1
-      type: pass@1
-      value: 63.5
----
-
-<div align="center">
-
-# 🧠 Fwizzer-R1-3B-v2 (RU / Multilingual)
-### Новое поколение компактного русскоязычного рассуждающего ИИ
-#### Глубокое пошаговое мышление (DeepThink Chain-of-Thought) на базе архитектуры Ministral-3B
-
-[![Hugging Face](https://img.shields.io/badge/%F0%9F%A4%97%20Hugging%20Face-fwizzer1%2FFwizzer--R1--3B--v2-blue)](https://huggingface.co/fwizzer1/Fwizzer-R1-3B-v2)
-[![Base Model](https://img.shields.io/badge/Base%20Model-Ministral--3B-orange)](https://huggingface.co/mistralai/Ministral-3-3B-Instruct-2512)
-[![Parameters](https://img.shields.io/badge/Parameters-3.29B-yellow)](https://huggingface.co/fwizzer1/Fwizzer-R1-3B-v2)
-[![Context](https://img.shields.io/badge/Context-32K%20Tokens-purple)](https://huggingface.co/fwizzer1/Fwizzer-R1-3B-v2)
-[![License](https://img.shields.io/badge/License-Apache%202.0-green)](https://www.apache.org/licenses/LICENSE-2.0)
-[![Dataset](https://img.shields.io/badge/Dataset-ru--deepthink--mega-red)](https://huggingface.co/datasets/fwizzer1/ru-deepthink-mega)
-
-[🇷🇺 Описание на русском](#-описание-модели) • [🚀 Быстрый старт](#-быстрый-старт) • [🌐 14 Платформ](#-поддержка-14-платформ) • [📊 Бенчмарки](#-бенчмарки) • [📦 GGUF Квантование](#-gguf-квантование)
-
-</div>
-
----
-
-## 🌟 Описание модели
-
-**Fwizzer-R1-3B-v2** — флагманская 3-миллиардная открытая языковая модель, обученная по методологии DeepSeek-R1 для решения математических, алгоритмических и текстовых задач повышенной сложности на **русском** и **английском** языках.
-
-Модель построена на базе новейшей архитектуры **Ministral-3B** от Mistral AI и обучена на мега-датасете [`fwizzer1/ru-deepthink-mega`](https://huggingface.co/datasets/fwizzer1/ru-deepthink-mega), состоящем из тысяч подробных цепочек рассуждений (Chain-of-Thought).
-
-### 🔑 Ключевые особен��ости
-* 💡 **Автономное пошаговое рассуждение (DeepThink CoT)**: Модель формирует последовательный план и проверяет граничные случаи внутри тегов `<think>...</think>`, после чего выдаёт чистый ответ.
-* 🛡️ **Level-0 Встроенный пресет**: Системный промпт и калиброванные гиперпараметры вшиты в токенизатор и структуру модели. Модель готова к работе в любом клиенте без ручных настроек.
-* ⚡ **Низкие требования к железу**: Требует всего **2.2–4.0 ГБ видеопамяти**, комфортно работает на встроенных видеокартах, ноутбуках и даже Raspberry Pi 5.
-* 🎯 **Языковая адаптивность**: При вопросе на русском — рассуждает и отвечает на русском; при вопросе на английском — на английском.
-
----
-
-## 🧠 Встроенный системный промпт (Level-0 Native Prompt)
-
-В модель встроен следующий системный промпт (автоматически активируется при отсутствии внешнего):
-```text
-Ты — русскоязычная языковая модель Fwizzer-R1-3B-RU. Твоя задача — рассуждать пошагово внутри тегов <think>(мысли вслух) и </think>(окончательный ответ), затем давать точный и полезный ответ. Ответ давай на языке вопроса (если вопрос на русском — отвечай на русском, if in English — reason and respond in English, if in Chinese — in Chinese).
-```
-
-### Рекомендуемые параметры генерации
-| Параметр | Рекомендованное значение | Описание |
-| :--- | :--- | :--- |
-| **Temperature** | `0.6` | Баланс между логической строгостью и гибкостью |
-| **Top-P** | `0.95` | Фильтрация ядра вероятностей |
-| **Repeat Penalty** | `1.15` | Предотвращение зацикливания мыслей |
-| **Context Length** | `8192` (до `32768`) | Размер контекстного окна |
-| **Stop Tokens** | `</s>`, `[INST]`, `[/INST]` | Терминирующие токены |
-
----
-
-## 📦 GGUF Квантование (Готовые веса для скачивания)
-
-В репозитории доступны официальные квантованные версии GGUF в папке [`ru/`](https://huggingface.co/fwizzer1/Fwizzer-R1-3B-v2/tree/main/ru):
-
-| Файл | Квантование | Размер | Требуемая VRAM / RAM | Назначение |
-| :--- | :--- | :--- | :--- | :--- |
-| [**`ru/Fwizzer-R1-3B-v2Speed.gguf`**](https://huggingface.co/fwizzer1/Fwizzer-R1-3B-v2/resolve/main/ru/Fwizzer-R1-3B-v2Speed.gguf) | `Q4_K_M` | 2.1 ГБ | ~2.5 ГБ | Максимальная скорость, слабые ПК, мобильные устройства |
-| [**`ru/Fwizzer-R1-3B-v2Balanced.gguf`**](https://huggingface.co/fwizzer1/Fwizzer-R1-3B-v2/resolve/main/ru/Fwizzer-R1-3B-v2Balanced.gguf) | `Q5_K_M` | 2.5 ГБ | ~3.0 ГБ | **Рекомендуемый выбор**: идеальный баланс качества и скорости |
-| [**`ru/Fwizzer-R1-3B-v2Max.gguf`**](https://huggingface.co/fwizzer1/Fwizzer-R1-3B-v2/resolve/main/ru/Fwizzer-R1-3B-v2Max.gguf) | `Q8_0` | 3.6 ГБ | ~4.2 ГБ | Максимальная точность математики и сложного кода |
-
----
-
-## 🌐 Поддержка 14 платформ (Руководство по запуску)
-
-### 1. 📓 Google Colab
-Запуск на бесплатной Tesla T4 в один клик:
-```python
-!pip install "unsloth[colab-new] @ git+https://github.com/unslothai/unsloth.git"
-!pip install --no-deps "xformers<0.0.27" trl peft accelerate bitsandbytes
-
-from unsloth import FastLanguageModel
-model, tokenizer = FastLanguageModel.from_pretrained(
-    model_name = "fwizzer1/Fwizzer-R1-3B-v2",
-    max_seq_length = 8192,
-    load_in_4bit = True,
-)
-FastLanguageModel.for_inference(model)
-
-prompt = tokenizer.apply_chat_template(
-    [{"role": "user", "content": "Объясни парадокс Монти Холла с расчетом вероятностей."}],
-    tokenize = False,
-    add_generation_prompt = True
-)
-inputs = tokenizer([prompt], return_tensors = "pt").to("cuda")
-outputs = model.generate(**inputs, max_new_tokens = 1024, temperature = 0.6)
-print(tokenizer.decode(outputs[0], skip_special_tokens = False))
-```
-
-### 2. 🏆 Kaggle Notebooks
-Загрузка и инференс на GPU Kaggle:
-```python
-from unsloth import FastLanguageModel
-model, tokenizer = FastLanguageModel.from_pretrained("fwizzer1/Fwizzer-R1-3B-v2", load_in_4bit=True)
-```
-
-### 3. 🦙 llama.cpp & llama-server
-#### Интерактивный CLI:
-```bash
-llama-cli -m ru/Fwizzer-R1-3B-v2Balanced.gguf -p "[INST] Привет! Кто ты? [/INST]" -c 8192 --temp 0.6 --top-p 0.95 --repeat-penalty 1.15
-```
-#### Высокопроизводительный сервер:
-```bash
-llama-server -m ru/Fwizzer-R1-3B-v2Balanced.gguf --jinja -c 8192 --port 8080 --host 0.0.0.0
-```
-
-### 4. 🖥️ LM Studio
-1. Скачайте `Fwizzer-R1-3B-v2Balanced.gguf`.
-2. В LM Studio загрузите модель. Пресет `Fwizzer-R1.preset.json` подтянется автоматически.
-3. В интерфейсе чата блоки `<think>` автоматически сворачиваются с плавной анимацией рассуждений!
-
-### 5. 📱 Jan AI
-Скопируйте `Fwizzer-R1-3B-v2Balanced.gguf` и файл `jan-model.json` в папку `~/jan/models/fwizzer-r1-3b-v2`. Модель готова к локальной работе без интернета.
-
-### 6. ⚡ vLLM (Для высоконагруженных сервисов)
-```bash
-vllm serve fwizzer1/Fwizzer-R1-3B-v2     --port 8000     --max-model-len 8192     --gpu-memory-utilization 0.9
-```
-
-### 7. 🦙 Ollama
-Создайте модель из встроенного `Modelfile`:
-```bash
-ollama create fwizzer-r1-3b-v2 -f ./Modelfile
-ollama run fwizzer-r1-3b-v2 "Напиши алгоритм Дейкстры на Python"
-```
-
-### 8. 🦥 Unsloth Desktop
-Откройте Unsloth Desktop, выберите `fwizzer1/Fwizzer-R1-3B-v2` для запуска или дообучения.
-
-### 9. 🥧 Pi (Raspberry Pi 5 / Одноплатники)
-На 8GB Raspberry Pi 5 модель Speed выдаёт отличную скорость:
-```bash
-./llama-cli -m ru/Fwizzer-R1-3B-v2Speed.gguf -t 4 -c 4096 -p "[INST] Привет! [/INST]"
-```
-
-### 10. 🐳 Docker Model Runner
-```bash
-docker run --gpus all -v $(pwd):/models -p 8080:8080 ghcr.io/ggerganov/llama.cpp:server     -m /models/ru/Fwizzer-R1-3B-v2Balanced.gguf -c 8192 --host 0.0.0.0 --port 8080
-```
-
-### 11. 🍋 Lemonade
-Импортируйте GGUF в Lemonade AI с сохранением дефолтных параметров `temperature=0.6`.
-
-### 12. 🤖 Hermes Agent
-Укажите в `agent.json`:
-```json
-{
-  "model": "fwizzer1/Fwizzer-R1-3B-v2",
-  "temperature": 0.6,
-  "thinking_tokens": true
-}
-```
-
-### 13. ⚛️ Atomic Chat
-Подключите модель по локальному адресу `http://localhost:8080/v1`.
-
-### 14. 🦞 OpenClaw
-В конфигурации OpenClaw укажите парсинг тегов `think` для отображения скрытых цепочек рассуждений.
-
+- unsloth
+- vision-language-model
 ---
 
-## 📊 Бенчмарки и Сравнение
-
-| Модель | Параметры | GSM8K (Math) | MATH (Hard) | HumanEval (Code) | IFEval (Instructions) |
-| :--- | :--- | :--- | :--- | :--- | :--- |
-| **Fwizzer-R1-3B-v2 (Ours)** | **3.29B** | **82.4%** | **54.8%** | **63.5%** | **71.2%** |
-| Ministral-3B Base | 3.29B | 61.2% | 32.4% | 48.1% | 58.6% |
-| Llama-3.2-3B-Instruct | 3.21B | 65.4% | 34.1% | 50.6% | 62.1% |
-| Qwen-2.5-3B-Instruct | 3.09B | 76.8% | 46.2% | 58.2% | 66.8% |
+# Fwizzer-R1-3B-v2 : GGUF
 
----
-
-## 📜 Лицензия (License)
-Модель распространяется по свободной лицензии **Apache-2.0**. Разрешено коммерческое и некоммерческое использование.
+This model was finetuned and converted to GGUF format using [Unsloth](https://github.com/unslothai/unsloth).
 
----
+**Example usage**:
+- For text only LLMs:    `llama-cli -hf fwizzer1/Fwizzer-R1-3B-v2 --jinja`
+- For multimodal models: `llama-mtmd-cli -hf fwizzer1/Fwizzer-R1-3B-v2 --jinja`
 
-## 🖋️ Цитирование (Citation)
-```bibtex
-@misc{fwizzer2026r1v2,
-  title={Fwizzer-R1-3B-v2: Advanced Multilingual Reasoning Model},
-  author={Fwizzer Team},
-  year={2026},
-  publisher={Hugging Face},
-  howpublished={\url{https://huggingface.co/fwizzer1/Fwizzer-R1-3B-v2}}
-}
-```
+## Available Model files:
+- `Ministral-3-3B-Instruct-2512.Q8_0.gguf`
+- `Ministral-3-3B-Instruct-2512.Q5_K_M.gguf`
+- `Ministral-3-3B-Instruct-2512.Q4_K_M.gguf`
+- `Ministral-3-3B-Instruct-2512.F16-mmproj.gguf`
+This was trained 2x faster with [Unsloth](https://github.com/unslothai/unsloth)
+[<img src="https://raw.githubusercontent.com/unslothai/unsloth/main/images/unsloth%20made%20with%20love.png" width="200"/>](https://github.com/unslothai/unsloth)