📟 brainrot-BM-3B (LoRA)

Revoluční komunikační zařízení boomer → Gen Z. Napíšete normální český text, model ho přepíše do Gen Z „brainrot“ stylu ve třech stupních intenzity.

Technicky jde o LoRA adaptér nad base modelem ibm-granite/granite-4.1-3b-base, dotrénovaný na soukromém skibidi datasetu.

Vyzkoušet bez instalace: Space BM-3B

Stupně

Stupeň Co udělá
1 Text nechá skoro beze změny a přidá tematická emoji.
2 Úvod velkými písmeny, mix češtiny a anglického slangu, herní metafory, hodně emoji.
3 Plný chaos: caps lock, zdi emoji, slang a memy. Sdělení by mělo zůstat zachované.

Formát promptu

Model je base, nemá chat template. Vstup musí vypadat přesně takhle, včetně konců řádků:

<level>3</level>
<text>
Sem přijde původní text.
</text>

Model za </text> rovnou napíše přepis a skončí tokenem konce textu. Doporučené vzorkování: teplota 0,8 a top-p 0,95.

Použití

import torch
from peft import AutoPeftModelForCausalLM
from transformers import AutoTokenizer

repo = "Kuba-cs/brainrot-BM-3B-lora"
tokenizer = AutoTokenizer.from_pretrained(repo)
model = AutoPeftModelForCausalLM.from_pretrained(repo, torch_dtype=torch.bfloat16, device_map="auto")

def brainrot(text, level=2):
    prompt = f"<level>{level}</level>\n<text>\n{text.strip()}\n</text>\n"
    inputs = tokenizer(prompt, return_tensors="pt").to(model.device)
    out = model.generate(
        **inputs, max_new_tokens=1536, do_sample=True, temperature=0.8, top_p=0.95,
        pad_token_id=tokenizer.eos_token_id,
    )
    return tokenizer.decode(out[0][inputs["input_ids"].shape[1]:], skip_special_tokens=True).strip()

print(brainrot("Vážení kolegové, porada se koná ve čtvrtek v 9:00 v zasedací místnosti.", level=3))

Trénink

  • Metoda: supervised fine-tuning přes Unsloth, 16bit LoRA (r = 64, alpha = 64) na attention i MLP projekcích.
  • Data: zhruba 1,5 tisíce českých párů originál → přepis ve třech stupních. Originály pocházejí z různých žánrů (web, komunitní Q&A, FAQ, instrukce), přepisy jsou syntetické.
  • Loss jen na přepisu: prompt je při tréninku zamaskovaný.
  • Vyvážené epochy: vzácnější žánry a stupně se v každé epoše přiměřeně opakují a jsou rovnoměrně rozprostřené, takže každý batch je mix.
  • Nastavení: learning rate 2e-4 s cosine rozvrhem, batch 16, nejvýš 4 epochy; použit je checkpoint s nejnižší eval loss na odložených originálech (5 %, po žánrech).

Omezení

  • Jen čeština. Slovenština ani jiné jazyky v trénovacích datech nejsou.
  • Může změnit fakta. Data, časy, čísla, jména a odkazy si ve výstupu vždy zkontrolujte, model je občas poplete nebo si něco přidá.
  • Syntetická data. Styl odpovídá tomu, jak si „brainrot“ představuje generátor dat, ne tomu, jak skutečně píše kdokoli konkrétní.
  • Je to parodie. Hodí se na pobavení, ne na oficiální komunikaci.
  • Dlouhé výstupy. Stupeň 3 bývá výrazně delší než vstup.

Licence

Base model Granite 4.1 je pod licencí Apache 2.0.

Downloads last month
33
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for Kuba-cs/brainrot-BM-3B-lora

Adapter
(2)
this model

Space using Kuba-cs/brainrot-BM-3B-lora 1