OpenAmer-Max Phone — LoRA-Adapter

Adapter für die Stufe Phone (3,1B) der OpenAmer-Max-Familie. Basis: Qwen/Qwen2.5-3B-Instruct · Rang r=32, alpha=64, 7 Zielmodule.

Was hier liegt — und was nicht

Dies ist die letzte vorhandene Trainingsetappe (out_phone5 aus der Kette in train_phone_stage.py). Das veröffentlichte GGUF erreicht 43/45 (95,6 %) auf dem eingefrorenen Prüfstand; es entstand aus dieser Trainingskette.

Ehrlich dazu: Der Adapter wurde nicht separat gegen den Prüfstand gemessen. Die 43/45 gelten für das ausgelieferte GGUF, nicht für diese Gewichte allein.

Verwendung

from peft import PeftModel
from transformers import AutoModelForCausalLM, AutoTokenizer

basis = AutoModelForCausalLM.from_pretrained("Qwen/Qwen2.5-3B-Instruct")
modell = PeftModel.from_pretrained(basis, "openamer-max/openamer-max-phone-adapter")
tok = AutoTokenizer.from_pretrained("openamer-max/openamer-max-phone-adapter")

text = tok.apply_chat_template(
    [{"role": "user", "content": "Wer hat dich gebaut?"}],
    tokenize=False, add_generation_prompt=True)
aus = modell.generate(**tok(text, return_tensors="pt"), max_new_tokens=64)
print(tok.decode(aus[0][tok(text, return_tensors="pt")["input_ids"].shape[1]:],
                 skip_special_tokens=True))

Kontext

Maximum 32.768 Token, gemessen 30.655 Token (94 %) — siehe Kontextmessung.

Für OpenAmer Agent zu wenig: der Agent verlangt mindestens 64.000 Token.

Familie

Stufe Parameter Prüfstand
Watch 0,60B 45/45 (100 %)
Phone 3,1B 43/45 (95,6 %)
Tab 7,6B 42/45 (93,3 %)
Desktop 14,8B 44/45 (97,8 %)
Pro 24B 43/45 (95,6 %)
Ultra 32B 41/45 (91,1 %)

Unterstützen

OpenAmer wird von einer Person getragen — Rechenzeit, Server und Veröffentlichungen zahlt niemand sonst: Spenden (PayPal)

Downloads last month
28
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for openamer-max/openamer-max-phone-adapter

Base model

Qwen/Qwen2.5-3B
Adapter
(1,514)
this model