Instructions to use openamer-max/openamer-max-phone-adapter with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- PEFT
How to use openamer-max/openamer-max-phone-adapter with PEFT:
from peft import PeftModel from transformers import AutoModelForCausalLM base_model = AutoModelForCausalLM.from_pretrained("Qwen/Qwen2.5-3B-Instruct") model = PeftModel.from_pretrained(base_model, "openamer-max/openamer-max-phone-adapter") - Notebooks
- Google Colab
- Kaggle
OpenAmer-Max Phone — LoRA-Adapter
Adapter für die Stufe Phone (3,1B) der OpenAmer-Max-Familie.
Basis: Qwen/Qwen2.5-3B-Instruct · Rang r=32, alpha=64, 7 Zielmodule.
Was hier liegt — und was nicht
Dies ist die letzte vorhandene Trainingsetappe (out_phone5 aus der Kette
in train_phone_stage.py). Das veröffentlichte GGUF erreicht 43/45 (95,6 %)
auf dem eingefrorenen Prüfstand; es entstand aus dieser Trainingskette.
Ehrlich dazu: Der Adapter wurde nicht separat gegen den Prüfstand gemessen. Die 43/45 gelten für das ausgelieferte GGUF, nicht für diese Gewichte allein.
Verwendung
from peft import PeftModel
from transformers import AutoModelForCausalLM, AutoTokenizer
basis = AutoModelForCausalLM.from_pretrained("Qwen/Qwen2.5-3B-Instruct")
modell = PeftModel.from_pretrained(basis, "openamer-max/openamer-max-phone-adapter")
tok = AutoTokenizer.from_pretrained("openamer-max/openamer-max-phone-adapter")
text = tok.apply_chat_template(
[{"role": "user", "content": "Wer hat dich gebaut?"}],
tokenize=False, add_generation_prompt=True)
aus = modell.generate(**tok(text, return_tensors="pt"), max_new_tokens=64)
print(tok.decode(aus[0][tok(text, return_tensors="pt")["input_ids"].shape[1]:],
skip_special_tokens=True))
Kontext
Maximum 32.768 Token, gemessen 30.655 Token (94 %) — siehe Kontextmessung.
Für OpenAmer Agent zu wenig: der Agent verlangt mindestens 64.000 Token.
Familie
| Stufe | Parameter | Prüfstand |
|---|---|---|
| Watch | 0,60B | 45/45 (100 %) |
| Phone | 3,1B | 43/45 (95,6 %) |
| Tab | 7,6B | 42/45 (93,3 %) |
| Desktop | 14,8B | 44/45 (97,8 %) |
| Pro | 24B | 43/45 (95,6 %) |
| Ultra | 32B | 41/45 (91,1 %) |
Unterstützen
OpenAmer wird von einer Person getragen — Rechenzeit, Server und Veröffentlichungen zahlt niemand sonst: Spenden (PayPal)
- Downloads last month
- 28