card: pelna struktura (styl Pollock) + benchmarki 2x2 PL/EN (lm-eval 0.4.12, eval_pl_bench)

README.md

@@ -2,19 +2,131 @@
 language:
 - pl
 license: cc-by-sa-4.0
+library_name: transformers
+pipeline_tag: text-generation
 tags:
 - gpt2
 - gollem
 - polish
 - sft
-private: true
+- from-scratch
+- amd-rocm
+base_model: SlayerLab/goLLeM-110M-PL
+model-index:
+- name: goLLeM-110M-PL-SFT-merged
+  results:
+  - task: {type: text-classification, name: Polish topic classification}
+    dataset: {type: sdadas/8tags, name: 8Tags, split: test}
+    metrics:
+    - {type: accuracy, value: 0.110247, name: Accuracy}
+    - {type: f1, value: 0.034779, name: Macro-F1}
+  - task: {type: text-classification, name: Polish sentiment (in-domain)}
+    dataset: {type: allegro/klej-polemo2-in, name: PolEmo2-IN, split: test}
+    metrics:
+    - {type: accuracy, value: 0.423823, name: Accuracy}
+    - {type: f1, value: 0.242625, name: Macro-F1}
+  - task: {type: text-classification, name: Polish sentiment (out-of-domain)}
+    dataset: {type: allegro/klej-polemo2-out, name: PolEmo2-OUT, split: test}
+    metrics:
+    - {type: accuracy, value: 0.356275, name: Accuracy}
+    - {type: f1, value: 0.169887, name: Macro-F1}
+  - task: {type: text-generation, name: Zero-shot evaluation}
+    dataset: {type: blimp, name: BLiMP, split: train}
+    metrics: [{type: acc, value: 0.5404}]
+  - task: {type: text-generation, name: Zero-shot evaluation}
+    dataset: {type: EleutherAI/lambada_openai, name: LAMBADA OpenAI, split: test}
+    metrics: [{type: acc, value: 0.0223}, {type: perplexity, value: 55056.11}]
+  - task: {type: text-generation, name: Zero-shot evaluation}
+    dataset: {type: hellaswag, name: HellaSwag, split: validation}
+    metrics: [{type: acc_norm, value: 0.2817}]
+  - task: {type: text-generation, name: Zero-shot evaluation}
+    dataset: {type: piqa, name: PIQA, split: validation}
+    metrics: [{type: acc_norm, value: 0.5065}]
+  - task: {type: text-generation, name: Zero-shot evaluation}
+    dataset: {type: sciq, name: SciQ, split: test}
+    metrics: [{type: acc_norm, value: 0.6000}]
+  - task: {type: text-generation, name: Zero-shot evaluation}
+    dataset: {type: allenai/ai2_arc, config: ARC-Easy, name: ARC-Easy, split: test}
+    metrics: [{type: acc_norm, value: 0.2597}]
+  - task: {type: text-generation, name: Zero-shot evaluation}
+    dataset: {type: allenai/ai2_arc, config: ARC-Challenge, name: ARC-Challenge, split: test}
+    metrics: [{type: acc_norm, value: 0.2270}]
 ---
+
 # GoLLeM-110M-PL-SFT-merged
 
-SFT (instruction-tuned) wersja GoLLeM-110M-PL na zbiorze grounded-QA (26 194 par, 4 autorow, CC-BY-SA-inherit).
+> **Wydanie eksperymentalne / Experimental release.** Model nie jest przeznaczony do zastosowań produkcyjnych ani wysokiego ryzyka.
+
+Instruction-tuned (SFT) wersja **GoLLeM-110M-PL** — małego, polskojęzycznego modelu bazowego typu decoder-only, wytrenowanego **od zera** na konsumenckiej karcie **AMD Radeon RX 7900 XTX** (ROCm/WSL2, Windows), bez NVIDII i bez chmury. Implementacja GPT-2 (nanoGPT-style) + własny polski tokenizer BPE. Wersja `merged` = wagi SFT scalone do formatu `GPT2LMHeadModel` (ładowalne standardowym `transformers`).
+
+## Architektura i tokenizer
+
+| Właściwość | Wartość |
+|---|---:|
+| Typ | GPT-2-style decoder-only Transformer |
+| Warstwy / głowy / d_model | 12 / 12 / 768 |
+| Maksymalny kontekst | 512 tokenów |
+| Słownik | 32 000 (polski byte-level BPE, dynaword-32k) |
+| Parametry | ~110M (weight-tied embeddings) |
+| Token specjalny | `<|endoftext|>` = 0 |
+| Format | `GPT2LMHeadModel`, safetensors |
+
+## Baza, dane i trening
+
+- **Model bazowy:** [SlayerLab/goLLeM-110M-PL](https://huggingface.co/SlayerLab/goLLeM-110M-PL) (ckpt_00060733), pretrenowany od zera na korpusie **dynaword-expansion** (HPLT v3.0 `pol_Latn`, ~1,35 mld tokenów, 1 epoka), PII-scrubbed.
+- **SFT:** grounded-QA, **26 194 par** (4 autorów, CC-BY-SA-inherit); 3 epoki, lr 2e-5, weight decay 0.1, batch 16 × accum 4 (efektywny 64), ~3 min 40 s na RX 7900 XTX (ROCm).
+- **Gate treningowy:** PII 0, regurgitacja 0 (model składa ze wzorców, nie recytuje danych); forma odpowiedzi 15/15 (0 kontynuacji, 0 boilerplate).
+
+## Ewaluacja
+
+Zero-shot, pełne splity. **Bateria EN:** `lm-evaluation-harness` 0.4.12 (te same taski i wersja co karta [Pollock](https://huggingface.co/SlayerLab/pollock-mini-lm-125m)). **Bateria PL:** port protokołu dmpod (`eval_pl_bench`, mean-loglikelihood-per-token, length-normalized, accuracy + macro-F1). Pomiar: SlayerLab (Latarnik/Hart), 2026-08-27, RX 7900 XTX.
+
+**Bateria PL** (random: 8Tags .125, PolEmo2 .25):
+
+| Benchmark | Accuracy | Macro-F1 | Próbki |
+|---|---:|---:|---:|
+| 8Tags | 0.1102 | 0.0348 | 4 372 |
+| PolEmo2-IN | 0.4238 | 0.2426 | 722 |
+| PolEmo2-OUT | 0.3563 | 0.1699 | 494 |
+
+**Bateria EN** (random: BLiMP/PIQA .5, reszta ~.25):
+
+| Benchmark | Metryka | Wynik |
+|---|---|---:|
+| BLiMP | acc | 0.5404 |
+| LAMBADA OpenAI | acc | 0.0223 (ppl 55056) |
+| HellaSwag | acc_norm | 0.2817 |
+| PIQA | acc_norm | 0.5065 |
+| SciQ | acc_norm | 0.6000 |
+| ARC-Easy | acc_norm | 0.2597 |
+| ARC-Challenge | acc_norm | 0.2270 |
+
+**Interpretacja (uczciwie):** to model **polski**. Na baterii EN wypada ~losowo (LAMBADA ppl 55056 = nie przewiduje angielskiego następnego słowa) — angielskie benchmarki mierzą tu transfer międzyjęzykowy, nie kompetencję. Sygnał jest tam, gdzie powinien: PolEmo2-IN 0.424 (nad losowym 0.25). Uwaga porównawcza: względem bazy GoLLeM-110M-PL SFT nie podniósł zdolności zero-shot klasyfikacji (8Tags pozostaje ~losowo; wzrost accuracy PolEmo2 idzie w parze ze spadkiem macro-F1 = przesunięcie ku klasie większościowej). Model najlepiej traktować jako **completion/instruction-following bazowej skali**, nie jako klasyfikator. Confound porównań z modelami innej klasy: różny słownik i długość kontekstu.
+
+## Użycie
+
+```python
+import torch
+from transformers import AutoModelForCausalLM, AutoTokenizer
+
+model_id = "SlayerLab/goLLeM-110M-PL-SFT-merged"
+tok = AutoTokenizer.from_pretrained(model_id)
+model = AutoModelForCausalLM.from_pretrained(model_id).eval()
+
+ids = tok("Polska to kraj położony w", return_tensors="pt").input_ids
+out = model.generate(ids, max_new_tokens=80, do_sample=True, temperature=0.8,
+                     top_k=40, repetition_penalty=1.3, pad_token_id=0)
+print(tok.decode(out[0], skip_special_tokens=True))
+```
+
+## Ograniczenia i odpowiedzialne użycie
+
+- Mały model (110M) — generuje **pewnie brzmiące nieprawdy** i potrafi dryfować z tematu; wiedza faktograficzna jest ograniczona skalą.
+- Trenowany i oceniany głównie po polsku; po angielsku ~losowo.
+- Kontekst 512 tokenów, brak filtrów bezpieczeństwa na wyjściu.
+- **PII:** może generować prawdopodobnie brzmiące imiona/adresy = **konfabulacje**, nie dane realnych osób; kontaktowe PII (telefon/e-mail/PESEL) było scrubowane w korpusie (model zwraca tagi `[Telefon]`/`[PII]`). Weryfikacja wyjścia po stronie użytkownika.
+
+## Licencja i pochodzenie
 
-- **Base:** GoLLeM-110M-PL (ckpt_00060733)
-- **Trening:** 3 epoki, lr 2e-5, wd 0.1, B16/accum4 (efektywny 64), ~3m40s na ROCm 7900 XTX
-- **Eval:** forma 15/15 (0 kontynuacji, 0 boilerplate), fakty = sufit 110M (przewidziane)
-- **Gate:** PII 0, regurgitacja 0 (sklada ze szablonow, nie recytuje)
-- **Wywolanie:** GPT2LMHeadModel, vocab 32000, n_positions 512, 12L/12H/768d
+- Licencja: **CC-BY-SA-4.0** (dziedziczona po danych SFT grounded-QA, CC-BY-SA-inherit).
+- Model i trening: **Arkadiusz Słota / SlayerLab**. Architektura oparta na GPT-2 / nanoGPT.