---
license: apache-2.0
language:
- hu
- en
library_name: transformers
pipeline_tag: image-text-to-text
base_model: Qwen/Qwen3.8-27B
base_model_relation: finetune
tags:
- magyar
- hungarian
- taltos
- reasoning
- vision-language
---
# ✦ TÁLTOS-27B ✦
### Magyar nyelvre hangolt, gondolkodó, képlátó nyelvi modell
*„A táltos tud, lát és magyaráz."*
**Gondolkodó mód** · **Képértés** · **262 144 token** · **Egy GPU-n futtatható**
---
## Mire való
A Táltos-27B akkor a jó választás, ha **magyarul** kell dolgoznod, és számít, hogy a szöveg úgy szóljon, ahogy egy magyar ember írná. A hangolása három dologra ment el: természetes magyar fogalmazásra, magyar nyelvű gondolatmenetre, és arra, hogy a modell megmondja, ha valamiben bizonytalan.
| ✍️ Fogalmazás | 🧠 Gondolkodás | 👁️ Képértés | 📚 Hosszú szöveg |
|:---:|:---:|:---:|:---:|
| Levél, összefoglaló, átirat, hivatalos szöveg magyarul | Lépésenkénti levezetés **magyar nyelven** | Képek és videók értelmezése | 262 144 token egy menetben |
---
## Specifikáció
| Tulajdonság | Érték |
|:---|:---|
| Paraméterszám | 27,8 milliárd (dense) |
| Architektúra | 64 réteg, hibrid Gated DeltaNet + Gated Attention |
| Kontextusablak | 262 144 token |
| Multimodalitás | Kép és videó bemenet |
| Gondolkodó mód | Kapcsolható (`enable_thinking`) |
| Alapmodell | [`Qwen/Qwen3.8-27B`](https://huggingface.co/Qwen/Qwen3.8-27B) |
| Licenc | Apache 2.0 |
| Kiadás | 2026. augusztus |
---
## Eredmények
Fej-fej melletti összehasonlítás az alapmodellel, 55 magyar feladaton (érettségi példák, fogalmazás, nyelvtan, kultúra, érvelés). A győztest egy **független modellcsalád** (Gemma-4-31B) választotta ki, a válaszok sorrendje véletlenítve.
| Kimenetel | Arány |
|:---|:---:|
| 🏆 **Táltos-27B a jobb** | **50,9 %** |
| Alapmodell a jobb | 40,0 % |
| Holtverseny | 9,1 % |
| **Összesített preferencia** | **55,5 %** |
Ahol a legnagyobb a különbség: **érettségi feladatok** (18 : 13), **érvelés és vita** (2 : 0), **hamis állítások kiigazítása**.
| Nyelvi mutató | Alapmodell | Táltos-27B |
|:---|:---:|:---:|
| Magyar ékezetsűrűség | 0,0728 | **0,0753** |
| Átlagos válaszhossz | 1 775 kar. | **1 649 kar.** |
A magyar nyelvtani pontosság érezhetően javult. Egy panaszlevél-feladatban az alapmodell olyan alakokat adott vissza, mint *„felhívni a figyelmetükre"* vagy *„a fizetendő összegetől"*, a Táltos ezeket helyesen írja.
---
## Így készült
```
magyar feladat
│
▼
┌──────────────┐ ┌───────────────────┐ ┌──────────────────┐
│ szakmai │───────▶│ anyanyelvi │───────▶│ magyar │
│ vázlat │ │ magyar szöveg │ │ gondolatmenet │
└──────────────┘ └───────────────────┘ └──────────────────┘
```
A tanítóadat saját fejlesztésű, **háromlépcsős eljárással** készült. A kulcsötlet, hogy a nyelvi modellek az **átfogalmazásban** lényegesen erősebbek, mint a nyílt végű magyar szövegalkotásban, így a tartalmi minőség és a magyar megformálás szétválasztható és külön-külön maximalizálható.
Erre épült egy célzott finomhangolás, amely a teljes hálózatot érinti, majd az eredmény visszaolvadt az alapmodellbe. A tanítás **egyetlen NVIDIA L40S GPU-n** futott le.
---
## Használat
### vLLM (ajánlott)
```bash
vllm serve Flashtond22/Taltos-27B \
--served-model-name taltos \
--max-model-len 32768 \
--reasoning-parser qwen3
```
```python
from openai import OpenAI
client = OpenAI(base_url="http://localhost:8000/v1", api_key="-")
válasz = client.chat.completions.create(
model="taltos",
messages=[{"role": "user", "content": "Foglald össze három mondatban, mi volt a kiegyezés."}],
extra_body={"chat_template_kwargs": {"enable_thinking": False}},
)
print(válasz.choices[0].message.content)
```
### Transformers
```python
from transformers import AutoModelForCausalLM, AutoProcessor
import torch
MODEL = "Flashtond22/Taltos-27B"
proc = AutoProcessor.from_pretrained(MODEL)
model = AutoModelForCausalLM.from_pretrained(MODEL, dtype=torch.bfloat16, device_map="auto")
üzenetek = [{"role": "user", "content": "Miért különleges a magyar magánhangzó-harmónia?"}]
prompt = proc.apply_chat_template(üzenetek, add_generation_prompt=True,
enable_thinking=True, tokenize=False)
be = proc(prompt, return_tensors="pt").to(model.device)
ki = model.generate(**be, max_new_tokens=1200, temperature=0.7, top_p=0.92)
print(proc.decode(ki[0][be.input_ids.shape[1]:], skip_special_tokens=True))
```
### Ajánlott rendszerüzenet
```text
Te vagy a Táltos, magyar nyelvre hangolt mesterséges intelligencia.
Természetes, anyanyelvi magyarsággal válaszolsz: helyes szórenddel,
ragozással, tükörfordítás nélkül. Pontos vagy és lényegre törő.
Ha valamit nem tudsz, azt megmondod ahelyett, hogy kitalálnád.
```
**Ajánlott paraméterek:** `temperature = 0.7`, `top_p = 0.92`. Gondolkodó módban adj legalább 2000 token keretet.
---
## Változatok és hardverigény
Minden formátum elkészült, hogy a lehető legtöbb gépen elfusson.
| Formátum | Repó | Méret | VRAM | Mire jó |
|:---|:---|:---:|:---:|:---|
| **bf16** | [Taltos-27B](https://huggingface.co/Flashtond22/Taltos-27B) | 56 GB | ~58 GB | Szerver, továbbtanítás, maximális minőség |
| **FP8** | [Taltos-27B-FP8](https://huggingface.co/Flashtond22/Taltos-27B-FP8) | 30 GB | ~32 GB | vLLM egyetlen 40 GB-os kártyán |
| **GGUF** | [Taltos-27B-GGUF](https://huggingface.co/Flashtond22/Taltos-27B-GGUF) | 10 GB-tól | 12 GB-tól | Otthoni gép, Ollama, LM Studio, CPU |
### GGUF változatok
| Kvantálás | Méret | VRAM | Minőség | Kinek |
|:---|:---:|:---:|:---:|:---|
| `Q8_0` | 29 GB | 31 GB | 🟢🟢🟢🟢🟢 | Gyakorlatilag az eredeti |
| `Q6_K` | 23 GB | 25 GB | 🟢🟢🟢🟢🟢 | A különbség alig mérhető |
| `Q5_K_M` | 20 GB | 22 GB | 🟢🟢🟢🟢 | 24 GB-os kártyán elfér |
| **`Q4_K_M`** | **17 GB** | **19 GB** | **🟢🟢🟢🟢** | **A legjobb arány, ezt ajánljuk** |
| `Q3_K_M` | 13 GB | 15 GB | 🟡🟡🟡 | Hosszú levezetéseknél már hibázik |
| `Q2_K` | 10 GB | 12 GB | 🟠🟠 | Csak ha a hardver mást nem enged |
> **Hol romlik a minőség.** `Q4_K_M` fölött a különbség a legtöbb feladatban észrevehetetlen. `Q3_K_M`-nél megjelennek az első hibák a hosszabb matematikai levezetésekben és a ritkább szakszavaknál, beszélgetésre és fogalmazásra viszont még jó. `Q2_K`-nál a romlás egyértelmű: a magyar nyelvhelyesség nagyrészt megmarad, de a tényszerű pontosság és a többlépéses gondolkodás gyengül.
**Mind a hat változat elérhető és letölthető.**
### Indítás egy paranccsal (Ollama)
```bash
ollama run hf.co/Flashtond22/Taltos-27B-GGUF:Q4_K_M
```
---
## Korlátok
A Táltos-27B a magyar nyelvi teljesítményre lett hangolva. A világtudás, a matematikai és programozási képesség az alapmodelltől származik, ezeken a hangolás nem változtatott.
Nincs internet-hozzáférése, ezért a friss eseményekről nem tud. Konkrét számoknál, dátumoknál és ritka neveknél tévedhet, ilyenkor érdemes ellenőrizni a választ. Orvosi, jogi vagy pénzügyi döntés egyedüli alapjaként ne használd.
---
## Licenc és eredet
A Táltos-27B a [`Qwen/Qwen3.8-27B`](https://huggingface.co/Qwen/Qwen3.8-27B) modellből származik, amelyet az Alibaba Tongyi Lab adott ki Apache 2.0 licenc alatt. A Táltos-27B szintén **Apache 2.0** licencű: szabadon használható, módosítható és üzleti célra is alkalmazható.
**✦ TÁLTOS-27B ✦**
*Magyar fejlesztés*
---
🇬🇧 English
**Táltos-27B** is a 27.8B-parameter Hungarian-specialised language model built on `Qwen/Qwen3.8-27B` (Apache 2.0). It keeps the base model's knowledge, reasoning, vision capability and 262K context window, and adds native-quality Hungarian phrasing plus Hungarian-language chain-of-thought.
**Training approach.** Instruction data was produced with a three-stage in-house pipeline that separates *content quality* from *Hungarian phrasing*, exploiting the fact that language models are considerably stronger at rewriting than at open-ended Hungarian generation. A targeted fine-tune across the full network followed, then merged back into the base weights. Everything ran on a single NVIDIA L40S.
**Results.** In head-to-head comparison on 55 Hungarian tasks judged by an independent model family (Gemma-4-31B, randomised answer order), Táltos-27B was preferred in **55.5 %** of cases. The largest gains appear on secondary-school exam problems, argumentation, and correcting false premises. Hungarian grammatical accuracy improved noticeably.
**Limitations.** World knowledge, maths and coding come from the base model and are unchanged. No internet access, so recent events are unknown. Verify specific figures, dates and rare names. Not for sole reliance in medical, legal or financial decisions.
Apache 2.0, same as the base model.