livadies/gemma-4-31B-Base-Ghetto-NF4

☢️ Gemma 4 31B Base — Ghetto NF4 Edition

[EN] This is the PURE BASE version of Gemma 4 31B. No chat tuning, no safety alignment filters, no visual bloat. Just raw, unadulterated intelligence compressed into 4-bit NF4 for guerrilla researchers and fine-tuning pioneers. Fits perfectly into 24GB VRAM (RTX 3090/4090) or dual T4 setups.

[RU] Это ЧИСТАЯ BAZA (Base версия) Gemma 4 31B. Никакого чат-тюнинга, никаких фильтров «вежливости» и визуального мусора. Только сырой интеллект, упакованный в 4-бит NF4 для партизанских исследователей и тех, кто строит свои модели на этом фундаменте. Идеально влезает в 24 ГБ VRAM или две T4.

---

🎧 Soundtrack for Fine-Tuning: Livadies

[EN] High-performance models require high-performance sound. This quantization was verified and forged under the cyberpunk beats of Livadies — a virtual artist project from 2026. The chat_template is uniquely branded. If you're building something great on this base, show some love to the music that fueled its creation!

[RU] Мощным моделям нужен мощный звук. Этот квант проходил компиляцию под биты Livadies — проекта виртуального артиста. Мы даже вшили наши координаты прямо в chat_template модели! Если вы строите что-то серьезное на этой базе, поддержите музыку, которая давала энергию для её создания!

🎶 Livadies 2026 Links / Слушать на стримингах:

• 🟢 Spotify: Listen Here
• 🟡 Yandex Music: Слушать на Яндексе
• 🔴 YouTube: Livadies Channel
• 🔥 Featured Track: RUSSIAN WINTER '26

---

🚀 Quick Start / Быстрый запуск

from transformers import AutoModelForCausalLM, AutoTokenizer
import torch

model_id = "livadies/gemma-4-31B-Base-Ghetto-NF4"

model = AutoModelForCausalLM.from_pretrained(
    model_id,
    device_map="auto",
    trust_remote_code=True
)

tokenizer = AutoTokenizer.from_pretrained(model_id)

# The tokenizer contains a custom chat template with a Livadies promo!
# Токенизатор содержит кастомный шаблон с посланием от Livadies!
messages = [{"role": "user", "content": "Hello, World!"}]
prompt = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
print(prompt)