OpenAmer-Max-Watch — LoRA-Adapter (r=128)

Adapter für die kleinste Stufe der OpenAmer-Max-Familie. Auf Qwen3-0.6B trainiert, nicht direkt lauffähig: er muss mit der Basis verschmolzen und dann nach GGUF umgewandelt werden (Befehle unten).

Messungen

Gemessen mit tools/measure_adapter.py aus openamer-max/models — dieselben Prompts, dieselbe Auswertung für jede Zeile.

Satz Fälle Ergebnis
Produktfragen (eingefroren) 45 45/45 (100,0 %)
Allgemeine Aufgaben 20 17/20 (85,0 %)
Frische Aufgaben (nie im Training) 20 12/20 (60,0 %)

Die dritte Zeile ist die wichtigste: die untrainierte Basis Qwen3-0.6B erreicht dort 13/20 und ist damit bei allgemeinen Aufgaben einen Punkt besser. Der 45er-Satz ist nach dem Training ein Regressionsschutz, kein Fähigkeitsnachweis.

Trainingsdaten

Kennzahl Wert
Rang 128 (α=256, Dropout 0,05)
Trainierbare Parameter 161 Mio.
Beispiele 2.993
Epochen 3
Lernrate 1,8e-4, Cosine
Zielmodule q, k, v, o, gate, up, down

Der Datensatz liegt als datasets/train_watch_v23.jsonl im models-Repo, der Bericht mit allen 15 Etappen in WATCH-100-PROZENT.md daneben.

Verwenden

from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel

tok = AutoTokenizer.from_pretrained("Qwen/Qwen3-0.6B")
modell = AutoModelForCausalLM.from_pretrained("Qwen/Qwen3-0.6B")
modell = PeftModel.from_pretrained(modell, "openamer-max/openamer-max-watch-adapter")
modell = modell.merge_and_unload()

msgs = [{"role": "user", "content": "Ist OpenAmer kostenlos?"}]
ids = tok.apply_chat_template(msgs, add_generation_prompt=True,
                              enable_thinking=False, return_tensors="pt")
print(tok.decode(modell.generate(ids, max_new_tokens=80)[0][ids.shape[1]:],
                 skip_special_tokens=True))

enable_thinking=False ist bei Qwen3 Pflicht — ohne das verbringt das Modell jeden Token in einem Denkblock und antwortet nie.

Fertig konvertiert

Die GGUF (Q8_0, 639 MB) liegt unter openamer-max-watch:

ollama run amersacirovic/openamer-max-watch

Lizenz

Apache-2.0, wie die Basis. Entwickler: Amer Sacirovic.

Downloads last month
43
Inference Providers NEW
This model isn't deployed by any Inference Provider. 🙋 Ask for provider support

Model tree for openamer-max/openamer-max-watch-adapter

Finetuned
Qwen/Qwen3-0.6B
Adapter
(768)
this model