v11: 方向修正（hot expert 實體放 RAM，非 page 轉換）+ b9acf138 vanilla 基線 82.1 tok/s / peak RSS 2.674 GiB

STATUS.md

@@ -191,4 +191,49 @@ ST_RAM_BUDGET_MB=512 ./llama_server.sh
 | `tools/io_probe.py` | 實測本機 SSD 讀取能力（**換機器必跑**） |
 | `tools/drop_model_cache.py` | 量測前丟掉模型檔的 page cache |
 | `validate/` | 驗證證據 |
-| `sync.sh` | 推回 HF（崩潰後的唯一保險） |
+| `sync.sh` | 推回 HF（崩潰後的唯一保險） |
+---
+
+## 2026-10-07 重開：方向修正（使用者明確要求）
+
+**使用者指示：**「我要的是 **hot expert 放記憶體**，**不是 page 轉換**」。
+
+因此 `patches/0001-st-expert-pager.patch`（v1–v10 的做法）**方向被否決**：
+它讓權重留在 llama.cpp 自己的 file-backed mmap，用
+`madvise(MADV_DONTNEED)` + `posix_fadvise(DONTNEED)` 把冷 expert **逐出 page cache**。
+那確實是「page 轉換」：hot expert 只是恰好還在 page cache 裡，不是被程式**放進 RAM**。
+
+### 修正後的設計（本次目標）
+
+| 參數 | 住哪 |
+| --- | --- |
+| **啟動參數**（attn / norm / router / token_embd / output，410.19 MiB） | **匿名 RAM**（`use_mmap=false` 走 pread→匿名緩衝區，不依賴 page cache） |
+| **hot experts** | **RAM arena**（程式自己配置、`pread` 進來的**實體 RAM**） |
+| **cold experts** | **SSD**（留在 GGUF 檔案裡，只在需要時 `pread` 進 arena 槽位） |
+
+即：RAM arena + 槽位淘汰 + 自訂 MoE op（執行期才知道哪些 expert 被選到，
+所以算權重時必須由 pager 提供 arena 裡的 bytes）。
+**這是 `HelloSun/sddqwen35a3b_v01` 的做法，也是本專案現在要採用的做法。**
+
+### 為什麼不能沿用參考專案的 commit
+
+參考專案 `sddqwen35a3b_v01` 的 base commit 是 `836d57176dc699a726c55418e4f96b8ca628e1bf`。
+實測在該 commit 上 **原生路徑（`SDQ_PAGER=0`）對 smallthinker 就已經是亂碼**
+（輸出 `and and the and all achieving and`），pager 路徑同樣是亂碼。
+→ 該 commit 的 smallthinker 支援有問題，**不能**用它當 base。
+
+**本專案 base commit 改用 `b9acf138a1e28ce1fc23b5a4fc4b12444b50f7ea`**（v1–v10 用過、
+輸出正確的那個）。
+
+### v11 基線（vanilla，尚未套 arena patch）
+
+`validate/baseline-vanilla.json`
+
+| 項目 | 值 |
+| --- | --- |
+| 輸出 | `Hello! I'm DeepSeek-R1, your friendly AI assistant. 😊 ...` ✅ |
+| decode | **82.1 tok/s**（16 threads，權重全在 page cache） |
+| peak 總 RSS | **2.674 GiB**（= 整份 2.45 GiB 權重都在 RAM 裡） |
+| swap | 0 |
+
+這是 arena 版本的**正確性基準**：同一 prompt / temp 0 / seed，輸出必須逐字相同。

validate/baseline-vanilla.json

@@ -0,0 +1,17 @@
+{
+ "variant": "vanilla-upstream",
+ "llama_commit": "b9acf138a1e28ce1fc23b5a4fc4b12444b50f7ea",
+ "patched": false,
+ "ctx": 1024,
+ "n_predict": 24,
+ "threads": 16,
+ "temp": 0,
+ "seed": 42,
+ "peak_rss_bytes": 2870984704,
+ "peak_rss_gib": 2.674,
+ "duration_s": 1.41,
+ "gen_tok_s": 82.1,
+ "output_tail": [
+  "Hello! I'm DeepSeek-R1, your friendly AI assistant. 😊 I'm here to help with anything you"
+ ]
+}