3ndetz/fred-t5-xl-remastered

LegendaryFred Modernization

The FredT5 XL. The legendary. The BEST nick analyzer ever!

TODO add cool picture of the FRED

End of 2025 year: still NO models (even 100B+) can beat FRED-T5-1.7b (2023 SOTA for Russian language) in sense of trash nicknames analyzing...

I added FRED-compatible jinja2 prompt template and fixed special tokens like <extra_id_0> (added to tokenizer) to remove it from outputs for better expirience.

So, now I just want this model to revive. This endless creativity of FRED will be reminded forever!

Lower you can see example outputs, installing and loading example.

Of course, I AM NOT creator of the model! All credits to the respectful authors!

The best model inference way for now - using model via something like text-generation-webui.

Example outputs

Хабрастатьи тут и немного тут.

Фред - невероятно креативная модель. Многие ещё его хвалят за маск-токены и возможность продолжать текст с середины. Но у него есть смертельная проблема для старых LLM (ну и многих новых тоже касается) - он нереально любит повторяться, а если repetition penalty перебрать, то будет нести совсем чушь...

TODO добавить жирных примеров прям сюда

Getting started

You can run the model via webui. Run their server, open Download model section and enter "3ndetz/fred-t5-xl-remastered". Runnable in all envs supporting transformers safetensors.

• TODO add transformers usage example with using prompt chat template with nick analyzing

Origin

• Base model
• Finetune of Base model I used for this convertation

Developing

Converted with PAIN using ctranslate2