v10: model card 加上完整實測數據（記憶體/速度/SSD/權重組成）；修 pager expert 總量高估 7% 的 bug

AGENTS.md

@@ -35,7 +35,7 @@ SmallThinker-4B-A0.6B-Instruct（Q4_K_M，2508 MiB，MoE 32 層 × 32 experts）
    不該影響任何一個 token 的數值。
 
 實測成果（`validate/ab-test.json`，`all_passed: true`）：
-peak RSS 從上游的 **2.564 GiB** 降到 **0.601 GiB**（預算 256 MiB），
+peak RSS 從上游的 **2.565 GiB** 降到 **0.596 GiB**（預算 256 MiB，−76.8%），
 swap 全程 0，冷權重真的從 SSD 重讀 2.3 GiB，輸出四種設定逐字相同。
 
 ## 已知的坑（不要重蹈）

README.md

@@ -1,37 +1,247 @@
+---
+license: apache-2.0
+library_name: llama-cpp-python
+tags:
+  - gguf
+  - llama.cpp
+  - moe
+  - ssd-offload
+  - smallthinker
+  - expert-paging
+  - low-ram
+base_model:
+  - Tiiny/SmallThinker-4BA0.6B-Instruct-GGUF
+pipeline_tag: text-generation
+---
+
 # SmallThinker-4B-A0.6B — 熱參數在 RAM、冷參數在 SSD
 
-用 llama.cpp 跑 `Tiiny/SmallThinker-4BA0.6B-Instruct-GGUF` 的
-`SmallThinker-4B-A0.6B-Instruct.Q4_K.gguf`（2.45 GiB，MoE：32 層 × 32 experts，
-每 token 用 4 個）。權重永遠以 file-backed `mmap` 留在 SSD，RAM 只放熱的權重
-（expert arena）＋ KV ＋ compute buffer。
+在 llama.cpp 上跑 [`Tiiny/SmallThinker-4BA0.6B-Instruct-GGUF`](https://huggingface.co/Tiiny/SmallThinker-4BA0.6B-Instruct-GGUF)
+的 `SmallThinker-4B-A0.6B-Instruct.Q4_K.gguf`（2,630,212,704 bytes = 2508 MiB），
+**expert 級 SSD 分頁**：權重永遠是 SSD 上的 file-backed `mmap`，RAM 只留熱的
+expert 權重，用不到的 expert 會被明確丟回 SSD。
+
+**計算路徑完全沒動過** —— 仍然是 llama.cpp 自己的 `mul_mat_id`，
+所以輸出與上游**逐字元相同**。這是本專案唯一不妥協的正確性條件。
 
 ```bash
-./llama_server.sh              # port 8080
-./llama_server.sh --plan       # 只印推導出來的參數
-./llama_server.sh --verify     # 啟動 + 打一次 chat + 量記憶體
-ST_RAM_BUDGET_MB=512 ./llama_server.sh   # 手動壓低 RAM 預算做實驗
+./llama_server.sh                        # port 8080
+./llama_server.sh --plan                 # 只印推導出來的參數
+./llama_server.sh --verify               # 啟動 + 打一次 chat + 量記憶體
+ST_RAM_BUDGET_MB=256 ./llama_server.sh   # 手動壓低 RAM 預算
+ST_PAGER=0 ./llama_server.sh             # 關閉分頁，回到上游行為
 ```
 
-進度真相來源：[STATUS.md](STATUS.md)。續作指引：[AGENTS.md](AGENTS.md)。
+---
+
+## 實測結果
+
+本機：16 vCPU、**無 GPU**、檔案系統 **overlayfs**、2026-10-07。
+完整證據：[`validate/ab-test.json`](validate/ab-test.json)（`all_passed: true`）、
+[`validate/last-run.json`](validate/last-run.json)。
+
+### 記憶體 vs 分頁預算
+
+同一份 `llama-cli`、同一個 prompt、同一個 seed（`--seed 42`）、ctx 1024、8 threads：
+
+| 設定 | peak 總 RSS | 匿名 | 檔案對映 | swap | SSD 重讀 | 命中率 | 淘汰次數 |
+| --- | --- | --- | --- | --- | --- | --- | --- |
+| `ST_PAGER=0`（上游） | **2.565 GiB** | 0.103 | 2.559 | **0** | — | — | — |
+| 預算 1024 MiB | **1.301 GiB** | 0.103 | 1.300 | **0** | 2317 MiB | 57.4% | 2,894 |
+| 預算 512 MiB | **0.833 GiB** | 0.103 | 0.836 | **0** | 2316 MiB | 55.1% | 4,572 |
+| 預算 256 MiB | **0.596 GiB** | 0.103 | 0.592 | **0** | 2320 MiB | 53.7% | 5,625 |
+| 預算 128 MiB | **0.661 GiB** | 0.103 | 0.657 | **0** | 2317 MiB | 54.1% | 5,298 |
 
-## 實測成果
+**總 RSS 從 2.565 GiB 降到 0.596 GiB（−76.8%），swap 全程 0。**
 
-| 設定 | peak 總 RSS | swap | 冷權重 SSD 重讀 | 輸出 |
+> 量的是**總 RSS**（含 file-backed mmap 的權重頁），不是只有匿名記憶體 ——
+> 權重頁會算進 RSS 且真的佔用系統 RAM。只看匿名記憶體會嚴重低估（本實測 0.103 GiB）。
+> 峰值由**模型載入**決定，不是 prefill：實測 prompt 2 token 與 211 token 的峰值幾乎一樣。
+
+`預算 128 MiB` 反而比 `256 MiB` 高一點：預算已逼近 hot window 內必須保留的下限
+（`ST_HOT_TOKENS=8` × 32 層 × 4 experts/層），再壓沒有意義，命中率也沒比較好。
+
+### 速度代價
+
+| 設定 | prefill | decode | 耗時 |
+| --- | --- | --- | --- |
+| `ST_PAGER=0`（上游，權重全在 RAM） | 178.7 t/s | **55.4 t/s** | 9.06 s |
+| 預算 1024 MiB | 7.8 t/s | **22.9 t/s** | 7.85 s |
+| 預算 512 MiB | 7.9 t/s | **21.6 t/s** | 7.67 s |
+| 預算 256 MiB | 8.1 t/s | **19.7 t/s** | 7.88 s |
+| 預算 128 MiB | 7.9 t/s | **20.9 t/s** | 8.13 s |
+
+**用約 2.4~2.8× 的 decode 速度換 3~4.3× 的記憶體。** 這是 demand paging 的必然代價：
+被丟掉的 expert 下次要用時必須重新讀 SSD。
+
+### 本機 SSD 讀取能力（[`validate/io-probe.json`](validate/io-probe.json)）
+
+| threads | 1 | 2 | 4 | 8 |
 | --- | --- | --- | --- | --- |
-| 上游行為（`ST_PAGER=0`） | 2.564 GiB | 0 | — | 基準 |
-| 預算 512 MiB | **0.833 GiB** | 0 | 2315 MiB | **逐字相同** |
-| 預算 256 MiB | **0.601 GiB** | 0 | 2320 MiB | **逐字相同** |
+| 循序讀取 | 337 MB/s | 667 MB/s | 1328 MB/s | 2558 MB/s |
+
+4K 隨機讀 ≈ 1767 IOPS。**換機器務必用 `tools/io_probe.py` 重測**，
+decode 速度幾乎完全由它決定。
+
+### 端到端（`llama_server.sh --verify`，`ST_RAM_BUDGET_MB=512`）
+
+| 項目 | 值 |
+| --- | --- |
+| peak 總 RSS | 1.090 GiB |
+| VmSwap | **0** |
+| expert 常駐 / 預算 | **510.3 / 512.0 MiB** ✅ |
+| 分頁命中率 | 41.2% |
+| `read_bytes`（整個行程） | 2.44 GiB |
+| chat 輸出 | `A **MoE (Model Parallelism) layer** enables a neural network to` |
+
+1.090 GiB 的組成：非 expert 權重 410 MiB（常駐）+ expert 分頁 510 MiB
++ KV / compute buffer / 執行檔（llama-server 開 4 個 slot）。
+
+---
+
+## 模型事實（全部從 GGUF metadata 實測，不是抄設定檔）
+
+| 項目 | 值 |
+| --- | --- |
+| arch | `smallthinker` |
+| 層數 | 32 |
+| hidden | 1536 |
+| experts / 每 token 用 | 32 / 4 |
+| expert FFN | 768 |
+| attention heads / KV heads | 12 / 2 |
+| key_len / val_len | 128 / 128 |
+| context_length（模型上限） | 32768 |
+| 量化 | Q4_K_M |
+| 檔案 | 2,630,212,704 bytes（2508 MiB） |
+
+### 權重組成
+
+| | 位元組 | 佔檔案 |
+| --- | --- | --- |
+| **expert 權重（1024 個）** | 2,194,145,280（**2092.5 MiB**） | **83.4%** |
+| 其餘（embedding / attention / norms / router） | 430,065,024（410.2 MiB） | 16.6% |
+
+expert 佔 83.4% —— 所以「熱在 RAM、冷在 SSD」這件事基本上就是
+「expert 權重怎麼放」。
+
+**每個 expert 是三段連續位元組**（`blk.N.ffn_{gate,up,down}_exps.weight`，
+expert 維度是最外層 `ne[2]`，所以單一 expert 是一段連續區間）：
+
+| 段 | shape | layer 0 每個 expert |
+| --- | --- | --- |
+| gate | [1536, 768, 32] | 663,552 B（Q4_K） |
+| up | [1536, 768, 32] | 663,552 B（Q4_K） |
+| down | [768, 1536, 32] | 967,680 B（**Q6_K**） |
+| 合計 | | 2.19 MiB |
 
-證據：`validate/ab-test.json`（`all_passed: true`）與 `validate/last-run.json`。
+⚠️ **`down_exps` 的量化型別逐層不同**：32 層裡有 **16 層是 Q6_K、16 層是 Q4_K**
+（層號 0,1,2,3,6,9,12,15,18,21,24,27,28,29,30,31 是 Q6_K）。
+所以「一個 expert 多大」必須**逐層算**：Q6_K 層 70.03 MiB/層、Q4_K 層 60.75 MiB/層，
+平均 2.04 MiB/個。拿 layer 0 當全模型常數會把總量高估 148 MiB（7%）。
+
+---
+
+## 機制
+
+```
+llama.cpp 正常載入（權重留在 SSD 的 file-backed mmap）
+        │
+        ├─ 每層 top-k 選完 expert 之後，插入一個 ggml custom op
+        │     ├─ 讀出這一層這批 token 用到哪些 expert，標成「熱」
+        │     └─ 若 resident 超過預算 → 用 LFU→LRU 順序淘汰最冷的
+        │            a. madvise(MADV_DONTNEED)   拿掉本行程 PTE → RSS 下降
+        │            b. posix_fadvise(DONTNEED)   丟掉 page cache → 下次真的讀 SSD
+        │
+        └─ 計算本身：完全不動，仍是上游 ggml_mul_mat_id
+```
+
+淘汰的兩步驟**順序不能換**：
+只做 (a) → RSS 下降但 `read_bytes` 不變（頁還在 page cache）；
+只做 (b) → page cache 下降但行程 RSS 不變（VMA 還映射著）。
+（核心的 `invalidate_mapping_pages()` 會跳過仍被 VMA 映射的頁，所以必須先 (a)。）
+
+### 與 `HelloSun/sddqwen35a3b_v01` 的取捨
+
+| | sddqwen35a3b_v01 | 本專案 |
+| --- | --- | --- |
+| 權重怎麼進 RAM | `pread` 進自己配置的 arena | 留在 llama.cpp 自己的 mmap |
+| MoE 計算 | **自訂 ggml op**，自己重寫 Q4_K 點積 | **不動**，用上游 `mul_mat_id` |
+| 輸出正確性 | 要另外驗證 kernel 寫對沒有 | 逐字等於上游，結構上不可能錯 |
+| SSD 讀取 | 預取可與計算重疊 | demand paging（碰到缺頁才讀） |
+| 程式碼量 | ~2800 行 | ~550 行 |
+
+**放棄 I/O 預取，換取「計算路徑完全沒動過」的保證。**
+
+---
+
+## 環境變數
+
+| 變數 | 預設 | 說明 |
+| --- | --- | --- |
+| `ST_PAGER` | `1` | `0` = 關閉分頁（上游行為，做 A/B 用） |
+| `ST_RAM_BUDGET_MB` | 自動偵測 | expert 權重可以常駐 RAM 的上限 |
+| `ST_RESERVE_MB` | `0` | KV + compute 預留，從預算扣掉 |
+| `ST_ARENA_MB` | `0` | 直接指定 expert 常駐量（有值優先） |
+| `ST_HOT_TOKENS` | `8` | 最近 N 個 tick 用過的 expert 不淘汰 |
+| `ST_VERBOSE` | `0` | 印每次淘汰 + 實際 RSS |
+| `ST_STATS_FILE` | — | 行程退出時把統計寫成 JSON（`SIGUSR2` 也會寫） |
+| `ST_EVICT_MODE` | `both` | 診斷用：`both`/`madvise`/`fadvise`/`none` |
+
+## ⚠️ 必看的坑
+
+1. **`-DGGML_CPU_REPACK=OFF` 是硬性要求**（`llama_server.sh` 已自動加上）。
+   開著時 ggml 把 Q4_K 轉成 repack 格式放進**匿名**緩衝區，權重就離開 mmap。
+   這時 `madvise(MADV_DONTNEED)` 不是「讀 SSD」，而是**把那塊記憶體歸零**
+   → 輸出變成 `papers bases abstract…` 之類的亂碼，但行程看起來完全正常、
+   tok/s 只掉一點。patch 裡也有 `in_map` 檢查會擋下並印出 buffer 型別。
+2. **分頁開著時一定要關掉 `MAP_POPULATE`**，否則整個 2.45 GiB 會在
+   「載入模型」那一瞬間全部 fault 進 page cache，峰值立刻爆掉 ——
+   而且分頁統計看起來完全正常（sweep 有跑、帳面 resident 也對），光看統計抓不到。
+
+完整清單（每條都有實測證據）在 [`STATUS.md`](STATUS.md) 的「踩過的坑」表格。
 
 ## 檔案
 
 | 檔案 | 用途 |
 | --- | --- |
-| `llama_server.sh` | 一鍵啟動（自動抓 llama.cpp / 套 patch / 編譯 / 下載權重） |
-| `patches/` | llama.cpp 改動（expert 分頁） |
-| `tools/verify_run.py` | 打一次 chat request 並量 total RSS / swap / SSD 讀取 |
-| `tools/io_probe.py` | 實測本機 SSD 讀取能力（**換機器必跑**） |
-| `tools/drop_model_cache.py` | 量測前丟掉模型檔的 page cache |
-| `validate/` | 驗證證據（JSON） |
-| `sync.sh` | 推回 HF（崩潰後的唯一保險） |
+| [`llama_server.sh`](llama_server.sh) | 一鍵啟動（自動抓 llama.cpp / 套 patch / 編譯 / 下載權重） |
+| [`patches/0001-st-expert-pager.patch`](patches/0001-st-expert-pager.patch) | llama.cpp 改動 |
+| [`tools/ab_test.py`](tools/ab_test.py) | A/B 驗證（RSS / swap / SSD 讀取 / 輸出比對） |
+| [`tools/verify_run.py`](tools/verify_run.py) | 對 llama-server 打 chat 並量記憶體 |
+| [`tools/io_probe.py`](tools/io_probe.py) | 實測本機 SSD 讀取能力（**換機器必跑**） |
+| [`tools/drop_model_cache.py`](tools/drop_model_cache.py) | 量測前丟掉模型檔的 page cache |
+| [`STATUS.md`](STATUS.md) | **進度真相來源** |
+| [`AGENTS.md`](AGENTS.md) | 續作指引（假設 agent 崩潰後只看這兩個檔案） |
+
+## 重現
+
+```bash
+git clone https://huggingface.co/HelloSun/SmallThinker4b
+cd SmallThinker4b
+
+# 端到端驗證
+ST_RAM_BUDGET_MB=512 ./llama_server.sh --verify
+
+# A/B 驗證（baseline vs 各種預算）
+python3 tools/ab_test.py --bin <path>/llama-cli --model <path>/model.gguf \
+    --budget 1024 --budget 512 --budget 256 --out validate/ab-test.json
+
+# 本機 SSD 讀取能力
+python3 tools/io_probe.py --model <path>/model.gguf --out validate/io-probe.json
+```
+
+## 進度與續作
+
+工作成果保存在這個 repo（`./sync.sh "改了什麼"` 即可上傳）。
+**假設 agent 崩潰**：clone 這個 repo → 讀 `STATUS.md` → 讀 `AGENTS.md` → 接著做。
+本機很不穩，**每改完程式並編譯過就上傳，不要累積**。
+
+尚未做（見 `STATUS.md` 的「下一步」）：I/O 預取（讓 SSD 讀取與計算重疊）、
+KV cache 也放 SSD、限制 prefill 批次大小以壓低 prefill 階段峰值。
+
+## 授權
+
+本 repo 的程式碼（`llama_server.sh` / `patches/` / `tools/`）沿用
+llama.cpp 的 MIT。模型權重屬於
+[`Tiiny/SmallThinker-4BA0.6B-Instruct-GGUF`](https://huggingface.co/Tiiny/SmallThinker-4BA0.6B-Instruct-GGUF)
+（Apache-2.0），本 repo **不含**權重。

STATUS.md

@@ -23,7 +23,7 @@ file-backed `mmap`；RAM 只留「熱的」expert 權重 + KV + compute buffer
 | context_length（模型上限） | 32768 |
 | 量化 | Q4_K_M |
 
-**expert 權重總量 2241 MiB / 2508 MiB = 89%。** 也就是說「熱在 RAM、冷在 SSD」
+**expert 權重總量 2092.5 MiB / 2508 MiB = 83.4%。** 也就是說「熱在 RAM、冷在 SSD」
 這件事基本上就是「expert 權重怎麼放」。
 
 每個 expert 是三段連續位元組（`blk.N.ffn_{gate,up,down}_exps.weight`，
@@ -34,9 +34,12 @@ expert 維度是最外層）：
 | gate | [1536, 768, 32] | 663,552 B（Q4_K） |
 | up | [1536, 768, 32] | 663,552 B（Q4_K） |
 | down | [768, 1536, 32] | 967,680 B（Q6_K） |
-| **合計** | | **2,294,784 B ≈ 2.19 MiB** |
+| **合計** | | **2,294,784 B = 2.19 MiB** |
 
-共 32 × 32 = 1024 個 expert。
+共 32 × 32 = 1024 個 expert，整體平均 2.04 MiB/個（因為 16 層的 down 是 Q4_K）。
+
+逐層實測（`tools` 之外，用 gguf-py 直接算）：Q6_K down 的層 70.03 MiB/層、
+Q4_K down 的層 60.75 MiB/層；Q6_K 的層號是 0,1,2,3,6,9,12,15,18,21,24,27,28,29,30,31。
 
 ⚠️ **三段的量化型別逐層可能不同**（實測有些層的 `down_exps` 是 Q4_K 而非 Q6_K，
 `nb[2` 就不同）。所以「每個 expert 多大」必須**逐 slot 算**，
@@ -55,11 +58,11 @@ expert 維度是最外層）：
 
 | 設定 | peak 總 RSS | swap | SSD 重讀 | 命中率 | 淘汰次數 | 輸出逐字相同 |
 | --- | --- | --- | --- | --- | --- | --- |
-| `ST_PAGER=0`（上游行為） | **2.564 GiB** | 0 | — | — | — | 基準 |
+| `ST_PAGER=0`（上游行為） | **2.565 GiB** | 0 | — | — | — | 基準 |
 | 預算 1024 MiB | **1.301 GiB** | 0 | 2317 MiB | 57.4% | 2894 | ✅ |
-| 預算 512 MiB | **0.833 GiB** | 0 | 2315 MiB | 55.1% | 4572 | ✅ |
-| 預算 256 MiB | **0.601 GiB** | 0 | 2320 MiB | 53.7% | 5625 | ✅ |
-| 預算 128 MiB | **0.664 GiB** | 0 | 2317 MiB | 54.2% | 5298 | ✅ |
+| 預算 512 MiB | **0.833 GiB** | 0 | 2316 MiB | 55.1% | 4572 | ✅ |
+| 預算 256 MiB | **0.596 GiB** | 0 | 2320 MiB | 53.7% | 5625 | ✅ |
+| 預算 128 MiB | **0.661 GiB** | 0 | 2317 MiB | 54.1% | 5298 | ✅ |
 
 同一份 `llama-cli`、同一個 prompt、同一個 seed，四種設定的輸出**完全相同**：
 
@@ -76,7 +79,7 @@ expert 維度是最外層）：
 
 | 項目 | 值 |
 | --- | --- |
-| peak 總 RSS | **1.092 GiB**（非 expert 權重 267 MiB + expert 分頁 510 MiB + KV/compute/sampler） |
+| peak 總 RSS | **1.090 GiB**（非 expert 權重 410 MiB + expert 分頁 510 MiB + KV/compute/sampler） |
 | VmSwap | **0** |
 | expert 常駐 / 預算 | **510.3 / 512.0 MiB** ✅ |
 | 命中率 | 41.2% |

patches/0001-st-expert-pager.patch

@@ -126,10 +126,10 @@ index 1f3b80b08..c7b77476e 100644
  
 diff --git a/src/st_pager.cpp b/src/st_pager.cpp
 new file mode 100644
-index 000000000..9cdbc0068
+index 000000000..12da88c88
 --- /dev/null
 +++ b/src/st_pager.cpp
-@@ -0,0 +1,579 @@
+@@ -0,0 +1,588 @@
 +// ST expert pager —— 熱 expert 留在 RAM，冷 expert 丟回 SSD
 +//
 +// 設計取捨（為什麼不照抄 sddqwen35a3b_v01 的 pread arena）：
@@ -409,8 +409,13 @@ index 000000000..9cdbc0068
 +            if (il == 0) {
 +                n_expert        = (int) ne2;
 +                g_part_bytes[p] = nb2;
-+                slot_bytes     += nb2;
-+            } else if ((int) ne2 != n_expert) {
++            }
++            // **逐層**累加，不能用 layer 0 的大小代表全部：
++            // 實測這個模型有 16 層的 down_exps 是 Q6_K、16 層是 Q4_K，
++            // 用 layer 0 會把總量高估 148 MiB（2092 → 2241 MiB，差 7%）。
++            slot_bytes += nb2;
++
++            if ((int) ne2 != n_expert) {
 +                // 只要求 expert **數量**一致。三段的量化型別可以逐層不同
 +                // （實測 down_exps 有些層是 Q6_K、有些是 Q4_K），
 +                // 所以位元組數逐 slot 存，不拿 layer 0 當基準。
@@ -427,7 +432,7 @@ index 000000000..9cdbc0068
 +    g_n_expert   = n_expert;
 +    g_slot_bytes = slot_bytes;
 +    g_n_layer    = (int) layers.size();
-+    const size_t total_expert_bytes = slot_bytes * (size_t) g_n_expert * (size_t) g_n_layer;
++    const size_t total_expert_bytes = slot_bytes * (size_t) g_n_expert;
 +
 +    g_slots.assign((size_t) g_n_layer * g_n_expert, slot{});
 +    for (int il = 0; il < g_n_layer; il++) {
@@ -470,11 +475,15 @@ index 000000000..9cdbc0068
 +    }
 +
 +    fprintf(stderr,
-+        "[st] expert pager 就緒：%d 層 × %d experts = %d 個，"
-+        "每個 %zu bytes（gate %zu + up %zu + down %zu，以 layer 0 為例），"
-+        "expert 總量 %.1f MiB，預算 %.1f MiB，hot window %d tick\n",
++        "[st] expert pager 就緒：%d 層 × %d experts = %d 個 expert，"
++        "expert 權重總量 %.1f MiB（平均每個 %.2f MiB；逐層量化型別不同，"
++        "以 layer 0 為例是 gate %zu + up %zu + down %zu = %.2f MiB），"
++        "預算 %.1f MiB，hot window %d tick\n",
 +        g_n_layer, g_n_expert, g_n_layer * g_n_expert,
-+        slot_bytes, g_part_bytes[0], g_part_bytes[1], g_part_bytes[2],
++        (double) total_expert_bytes / (1024.0 * 1024.0),
++        (double) total_expert_bytes / (double) (g_n_layer * g_n_expert) / (1024.0 * 1024.0),
++        g_part_bytes[0], g_part_bytes[1], g_part_bytes[2],
++        (double) (g_part_bytes[0] + g_part_bytes[1] + g_part_bytes[2]) / (1024.0 * 1024.0),
 +        (double) total_expert_bytes / (1024.0 * 1024.0),
 +        (double) g_budget / (1024.0 * 1024.0), g_hot_tokens);
 +    return true;

validate/ab-test.json

@@ -1,5 +1,5 @@
 {
-  "when": "2026-10-07T16:27:36+0200",
+  "when": "2026-10-07T16:47:19+0200",
   "model": "/root/work/models/SmallThinker-4B-A0.6B-Instruct.Q4_K.gguf",
   "model_size_mib": 2508,
   "prompt": "Hello, who are you?",
@@ -12,183 +12,376 @@
         "ST_PAGER": "0"
       },
       "rc": 0,
-      "seconds": 8.77,
+      "seconds": 9.06,
       "peak": {
-        "total_rss_gb": 2.5642,
+        "total_rss_gb": 2.5648,
         "anon_rss_gb": 0.1033,
-        "file_rss_gb": 2.5584,
+        "file_rss_gb": 2.559,
         "peak_swap_gb": 0.0,
-        "hwm_rss_gb": 2.5642
+        "hwm_rss_gb": 2.5648
       },
       "decode": {
-        "total_rss_gb": 2.5642,
+        "total_rss_gb": 2.5648,
         "note": "prefill 後的峰值；prefill 會摸遍全部 expert，所以 peak 不代表 decode"
       },
       "rss_timeline_mib": [
         [
-          0.001,
-          0.9
+          0.0,
+          0.8
         ],
         [
-          0.207,
-          75.7
+          0.205,
+          76.1
         ],
         [
-          0.412,
-          76.6
+          0.41,
+          74.4
         ],
         [
-          0.618,
-          131.8
+          0.619,
+          124.9
         ],
         [
           0.825,
-          201.6
+          195.9
+        ],
+        [
+          1.032,
+          263.6
+        ],
+        [
+          1.239,
+          333.7
         ],
         [
-          1.034,
-          272.6
+          1.454,
+          402.4
         ],
         [
-          1.243,
-          344.4
+          1.664,
+          473.7
         ],
         [
-          1.451,
-          415.4
+          1.873,
+          544.7
         ],
         [
-          1.661,
-          486.4
+          2.088,
+          616.2
         ],
         [
-          1.871,
-          558.2
+          2.299,
+          688.0
         ],
         [
-          2.082,
-          628.2
+          2.511,
+          759.8
         ],
         [
-          2.294,
-          700.2
+          2.724,
+          830.6
         ],
         [
-          2.507,
-          772.2
+          2.938,
+          902.1
         ],
         [
-          2.725,
-          845.8
+          3.152,
+          974.8
         ],
         [
-          2.945,
-          919.8
+          3.366,
+          1045.4
         ],
         [
-          3.167,
-          995.3
+          3.582,
+          1116.1
         ],
         [
-          3.4,
-          1072.8
+          3.803,
+          1190.9
         ],
         [
-          3.618,
-          1147.3
+          4.026,
+          1265.4
         ],
         [
-          3.836,
-          1220.1
+          4.245,
+          1338.0
         ],
         [
-          4.056,
-          1293.9
+          4.465,
+          1411.0
         ],
         [
-          4.276,
-          1367.7
+          4.686,
+          1485.0
         ],
         [
-          4.509,
-          1444.9
+          4.909,
+          1560.5
         ],
         [
-          4.735,
-          1519.7
+          5.135,
+          1634.3
         ],
         [
-          4.966,
-          1597.7
+          5.358,
+          1709.6
         ],
         [
-          5.198,
-          1675.3
+          5.581,
+          1784.6
         ],
         [
-          5.438,
-          1754.3
+          5.811,
+          1859.6
         ],
         [
-          5.665,
-          1830.3
+          6.047,
+          1937.9
         ],
         [
-          5.894,
-          1907.3
+          6.277,
+          2014.4
         ],
         [
-          6.123,
-          1984.9
+          6.506,
+          2090.7
         ],
         [
-          6.357,
-          2061.1
+          6.734,
+          2166.2
         ],
         [
-          6.59,
-          2140.4
+          6.964,
+          2243.7
         ],
         [
-          6.821,
-          2218.9
+          7.196,
+          2320.7
         ],
         [
-          7.052,
-          2295.9
+          7.433,
+          2399.8
         ],
         [
-          7.284,
-          2372.7
+          7.67,
+          2477.3
         ],
         [
-          7.524,
-          2452.5
+          7.907,
+          2556.6
         ],
         [
-          7.782,
-          2537.0
+          8.148,
+          2620.6
         ],
         [
-          8.03,
-          2620.0
+          8.385,
+          2626.3
         ],
         [
-          8.276,
-          2625.7
+          8.634,
+          2626.3
         ],
         [
-          8.525,
-          2625.7
+          8.901,
+          2626.3
         ]
       ],
       "io_delta": {},
-      "timing_line": "[ Prompt: 190.1 t/s | Generation: 61.3 t/s ]",
+      "timing_line": "[ Prompt: 178.7 t/s | Generation: 55.4 t/s ]",
       "output": "Hello! 😊 I'm DeepSeek-R1, your friendly AI assistant. I'm here to help with all kinds of questions, learning, and creative tasks",
       "output_matches_baseline": true,
       "swap_zero": true,
       "rc_ok": true
     },
+    "budget1024mb": {
+      "env": {
+        "ST_PAGER": "1",
+        "ST_RAM_BUDGET_MB": "1024",
+        "ST_RESERVE_MB": "200"
+      },
+      "rc": 0,
+      "seconds": 7.85,
+      "peak": {
+        "total_rss_gb": 1.3009,
+        "anon_rss_gb": 0.103,
+        "file_rss_gb": 1.2995,
+        "peak_swap_gb": 0.0,
+        "hwm_rss_gb": 1.3009
+      },
+      "decode": {
+        "total_rss_gb": 1.3009,
+        "note": "prefill 後的峰值；prefill 會摸遍全部 expert，所以 peak 不代表 decode"
+      },
+      "rss_timeline_mib": [
+        [
+          0.0,
+          0.5
+        ],
+        [
+          0.205,
+          72.8
+        ],
+        [
+          0.409,
+          71.1
+        ],
+        [
+          0.613,
+          115.4
+        ],
+        [
+          0.822,
+          172.7
+        ],
+        [
+          1.043,
+          229.1
+        ],
+        [
+          1.257,
+          289.1
+        ],
+        [
+          1.471,
+          348.1
+        ],
+        [
+          1.685,
+          405.3
+        ],
+        [
+          1.902,
+          465.1
+        ],
+        [
+          2.122,
+          557.5
+        ],
+        [
+          2.345,
+          688.3
+        ],
+        [
+          2.576,
+          742.5
+        ],
+        [
+          2.811,
+          825.9
+        ],
+        [
+          3.057,
+          912.6
+        ],
+        [
+          3.3,
+          996.3
+        ],
+        [
+          3.547,
+          1089.1
+        ],
+        [
+          3.797,
+          1180.5
+        ],
+        [
+          4.064,
+          1194.8
+        ],
+        [
+          4.315,
+          1209.3
+        ],
+        [
+          4.574,
+          1236.3
+        ],
+        [
+          4.83,
+          1246.3
+        ],
+        [
+          5.082,
+          1253.1
+        ],
+        [
+          5.338,
+          1213.9
+        ],
+        [
+          5.628,
+          1224.6
+        ],
+        [
+          5.887,
+          1226.6
+        ],
+        [
+          6.15,
+          1220.7
+        ],
+        [
+          6.413,
+          1252.2
+        ],
+        [
+          6.678,
+          1297.8
+        ],
+        [
+          6.942,
+          1322.2
+        ],
+        [
+          7.205,
+          1320.0
+        ],
+        [
+          7.474,
+          1320.2
+        ],
+        [
+          7.738,
+          1324.9
+        ]
+      ],
+      "io_delta": {},
+      "timing_line": "[ Prompt: 7.8 t/s | Generation: 22.9 t/s ]",
+      "output": "Hello! 😊 I'm DeepSeek-R1, your friendly AI assistant. I'm here to help with all kinds of questions, learning, and creative tasks",
+      "pager": {
+        "routing_calls": 8448,
+        "expert_touches": 64544,
+        "hits": 37015,
+        "misses": 2273,
+        "evictions": 2894,
+        "evicted_bytes": 6197382144,
+        "sweeps": 864,
+        "resident_bytes": 863972352,
+        "budget_bytes": 864026624,
+        "hit_rate": 0.5735,
+        "proc_self_read_bytes": 2429124608,
+        "proc_self_rchar": 11947223
+      },
+      "output_matches_baseline": true,
+      "swap_zero": true,
+      "rc_ok": true,
+      "rss_vs_baseline": -1.2639,
+      "decode_rss_vs_baseline": -1.2639,
+      "decode_rss_lower_than_baseline": true,
+      "rss_lower_than_baseline": true,
+      "ssd_reads_mib": 2316.6,
+      "cold_weights_really_read_from_ssd": true,
+      "pager_hit_rate": 0.5735,
+      "pager_evictions": 2894,
+      "pager_misses": 2273,
+      "pager_resident_mib": 823.9,
+      "pager_budget_mib": 824.0
+    },
     "budget512mb": {
       "env": {
         "ST_PAGER": "1",
@@ -196,154 +389,158 @@
         "ST_RESERVE_MB": "200"
       },
       "rc": 0,
-      "seconds": 7.54,
+      "seconds": 7.67,
       "peak": {
-        "total_rss_gb": 0.8332,
+        "total_rss_gb": 0.8327,
         "anon_rss_gb": 0.103,
-        "file_rss_gb": 0.8308,
+        "file_rss_gb": 0.8363,
         "peak_swap_gb": 0.0,
-        "hwm_rss_gb": 0.8332
+        "hwm_rss_gb": 0.8327
       },
       "decode": {
-        "total_rss_gb": 0.8332,
+        "total_rss_gb": 0.8327,
         "note": "prefill 後的峰值；prefill 會摸遍全部 expert，所以 peak 不代表 decode"
       },
       "rss_timeline_mib": [
         [
           0.0,
-          0.6
+          0.9
         ],
         [
-          0.208,
-          75.7
+          0.206,
+          75.8
         ],
         [
-          0.414,
-          76.2
+          0.413,
+          72.4
         ],
         [
-          0.622,
-          141.0
+          0.62,
+          136.1
         ],
         [
-          0.834,
-          200.4
+          0.828,
+          193.1
         ],
         [
-          1.047,
-          261.3
+          1.041,
+          253.0
         ],
         [
-          1.261,
-          317.8
+          1.257,
+          312.0
         ],
         [
-          1.477,
-          380.5
+          1.472,
+          375.3
         ],
         [
-          1.694,
-          439.4
+          1.687,
+          436.7
         ],
         [
-          1.914,
-          509.0
+          1.904,
+          507.1
         ],
         [
-          2.144,
-          646.4
+          2.127,
+          638.1
         ],
         [
-          2.395,
-          739.6
+          2.352,
+          726.1
         ],
         [
-          2.645,
-          731.2
+          2.576,
+          699.4
         ],
         [
-          2.889,
-          716.3
+          2.803,
+          739.9
         ],
         [
-          3.136,
-          703.3
+          3.041,
+          727.5
         ],
         [
-          3.406,
-          714.2
+          3.263,
+          714.7
         ],
         [
-          3.662,
-          709.8
+          3.487,
+          703.7
         ],
         [
-          3.907,
-          707.7
+          3.71,
+          744.8
         ],
         [
-          4.133,
-          706.1
+          3.941,
+          726.0
         ],
         [
-          4.357,
-          714.0
+          4.161,
+          725.3
         ],
         [
-          4.582,
-          717.4
+          4.383,
+          733.5
         ],
         [
-          4.806,
-          714.7
+          4.606,
+          733.0
+        ],
+        [
+          4.827,
+          736.0
         ],
         [
-          5.031,
-          711.4
+          5.048,
+          725.0
         ],
         [
-          5.258,
-          709.2
+          5.271,
+          719.1
         ],
         [
-          5.486,
-          711.9
+          5.494,
+          717.1
         ],
         [
-          5.709,
-          691.6
+          5.722,
+          694.0
         ],
         [
-          5.933,
-          732.7
+          5.945,
+          736.3
         ],
         [
-          6.156,
-          756.3
+          6.18,
+          761.5
         ],
         [
-          6.389,
-          812.4
+          6.422,
+          815.8
         ],
         [
-          6.627,
-          834.9
+          6.663,
+          836.8
         ],
         [
-          6.865,
-          846.6
+          6.93,
+          840.2
         ],
         [
-          7.1,
-          847.0
+          7.184,
+          844.3
         ],
         [
-          7.356,
-          852.7
+          7.443,
+          852.4
         ]
       ],
       "io_delta": {},
-      "timing_line": "[ Prompt: 7.9 t/s | Generation: 23.1 t/s ]",
+      "timing_line": "[ Prompt: 7.9 t/s | Generation: 21.6 t/s ]",
       "output": "Hello! 😊 I'm DeepSeek-R1, your friendly AI assistant. I'm here to help with all kinds of questions, learning, and creative tasks",
       "pager": {
         "routing_calls": 8448,
@@ -356,17 +553,17 @@
         "resident_bytes": 327075840,
         "budget_bytes": 327155712,
         "hit_rate": 0.5514,
-        "proc_self_read_bytes": 2426560512,
+        "proc_self_read_bytes": 2428149760,
         "proc_self_rchar": 11947223
       },
       "output_matches_baseline": true,
       "swap_zero": true,
       "rc_ok": true,
-      "rss_vs_baseline": -1.731,
-      "decode_rss_vs_baseline": -1.731,
+      "rss_vs_baseline": -1.7321,
+      "decode_rss_vs_baseline": -1.7321,
       "decode_rss_lower_than_baseline": true,
       "rss_lower_than_baseline": true,
-      "ssd_reads_mib": 2314.1,
+      "ssd_reads_mib": 2315.7,
       "cold_weights_really_read_from_ssd": true,
       "pager_hit_rate": 0.5514,
       "pager_evictions": 4572,
@@ -381,16 +578,16 @@
         "ST_RESERVE_MB": "200"
       },
       "rc": 0,
-      "seconds": 7.77,
+      "seconds": 7.88,
       "peak": {
-        "total_rss_gb": 0.6013,
+        "total_rss_gb": 0.5956,
         "anon_rss_gb": 0.1029,
-        "file_rss_gb": 0.6017,
+        "file_rss_gb": 0.5922,
         "peak_swap_gb": 0.0,
-        "hwm_rss_gb": 0.6013
+        "hwm_rss_gb": 0.5956
       },
       "decode": {
-        "total_rss_gb": 0.6013,
+        "total_rss_gb": 0.5956,
         "note": "prefill 後的峰值；prefill 會摸遍全部 expert，所以 peak 不代表 decode"
       },
       "rss_timeline_mib": [
@@ -399,148 +596,144 @@
           0.4
         ],
         [
-          0.206,
-          76.1
+          0.207,
+          72.9
         ],
         [
-          0.412,
-          71.5
+          0.413,
+          71.1
         ],
         [
-          0.619,
-          133.1
+          0.624,
+          128.7
         ],
         [
-          0.828,
-          188.8
+          0.835,
+          189.3
         ],
         [
-          1.039,
-          211.1
-        ],
-        [
-          1.25,
-          224.4
+          1.047,
+          212.1
         ],
         [
-          1.46,
-          246.7
+          1.259,
+          228.5
         ],
         [
-          1.671,
-          270.4
+          1.474,
+          246.9
         ],
         [
-          1.885,
-          285.9
+          1.69,
+          267.0
         ],
         [
-          2.102,
-          363.2
+          1.907,
+          291.7
         ],
         [
-          2.325,
-          483.0
+          2.128,
+          388.4
         ],
         [
-          2.549,
-          480.7
+          2.352,
+          482.7
         ],
         [
-          2.769,
-          456.0
+          2.577,
+          490.7
         ],
         [
-          2.986,
-          435.9
+          2.802,
+          467.5
         ],
         [
-          3.205,
-          481.1
+          3.024,
+          448.6
         ],
         [
-          3.423,
-          462.3
+          3.25,
+          437.3
         ],
         [
-          3.64,
-          444.1
+          3.489,
+          482.6
         ],
         [
-          3.858,
-          477.7
+          3.719,
+          491.9
         ],
         [
-          4.077,
-          464.8
+          3.952,
+          489.6
         ],
         [
-          4.3,
-          461.9
+          4.184,
+          481.9
         ],
         [
-          4.524,
-          470.7
+          4.417,
+          451.6
         ],
         [
-          4.743,
-          470.7
+          4.652,
+          458.8
         ],
         [
-          4.963,
-          465.0
+          4.887,
+          455.6
         ],
         [
-          5.185,
-          457.7
+          5.122,
+          453.0
         ],
         [
-          5.404,
-          456.4
+          5.36,
+          450.3
         ],
         [
-          5.623,
-          460.3
+          5.6,
+          459.5
         ],
         [
-          5.841,
-          444.7
+          5.834,
+          447.4
         ],
         [
-          6.06,
-          483.1
+          6.068,
+          496.0
         ],
         [
-          6.28,
-          511.2
+          6.301,
+          517.2
         ],
         [
-          6.51,
-          563.8
+          6.543,
+          560.1
         ],
         [
-          6.743,
-          593.6
+          6.785,
+          580.2
         ],
         [
-          6.987,
-          603.9
+          7.024,
+          593.8
         ],
         [
-          7.234,
-          608.2
+          7.263,
+          593.4
         ],
         [
-          7.479,
-          614.6
+          7.504,
+          603.1
         ],
         [
-          7.733,
-          77.2
+          7.743,
+          606.7
         ]
       ],
       "io_delta": {},
-      "timing_line": "[ Prompt: 8.1 t/s | Generation: 21.6 t/s ]",
+      "timing_line": "[ Prompt: 8.1 t/s | Generation: 19.7 t/s ]",
       "output": "Hello! 😊 I'm DeepSeek-R1, your friendly AI assistant. I'm here to help with all kinds of questions, learning, and creative tasks",
       "pager": {
         "routing_calls": 8448,
@@ -553,17 +746,17 @@
         "resident_bytes": 57701376,
         "budget_bytes": 58720256,
         "hit_rate": 0.537,
-        "proc_self_read_bytes": 2432499712,
+        "proc_self_read_bytes": 2433163264,
         "proc_self_rchar": 11947223
       },
       "output_matches_baseline": true,
       "swap_zero": true,
       "rc_ok": true,
-      "rss_vs_baseline": -1.9629,
-      "decode_rss_vs_baseline": -1.9629,
+      "rss_vs_baseline": -1.9692,
+      "decode_rss_vs_baseline": -1.9692,
       "decode_rss_lower_than_baseline": true,
       "rss_lower_than_baseline": true,
-      "ssd_reads_mib": 2319.8,
+      "ssd_reads_mib": 2320.4,
       "cold_weights_really_read_from_ssd": true,
       "pager_hit_rate": 0.537,
       "pager_evictions": 5625,
@@ -578,16 +771,16 @@
         "ST_RESERVE_MB": "200"
       },
       "rc": 0,
-      "seconds": 7.69,
+      "seconds": 8.13,
       "peak": {
-        "total_rss_gb": 0.6643,
-        "anon_rss_gb": 0.1029,
-        "file_rss_gb": 0.6689,
+        "total_rss_gb": 0.6614,
+        "anon_rss_gb": 0.103,
+        "file_rss_gb": 0.657,
         "peak_swap_gb": 0.0,
-        "hwm_rss_gb": 0.6643
+        "hwm_rss_gb": 0.6614
       },
       "decode": {
-        "total_rss_gb": 0.6643,
+        "total_rss_gb": 0.6614,
         "note": "prefill 後的峰值；prefill 會摸遍全部 expert，所以 peak 不代表 decode"
       },
       "rss_timeline_mib": [
@@ -596,136 +789,144 @@
           0.4
         ],
         [
-          0.206,
-          76.2
+          0.207,
+          65.7
         ],
         [
-          0.412,
-          71.5
+          0.415,
+          71.2
         ],
         [
-          0.618,
-          134.8
+          0.624,
+          76.7
         ],
         [
-          0.827,
-          189.1
+          0.834,
+          137.4
         ],
         [
-          1.038,
-          248.9
+          1.048,
+          194.3
         ],
         [
-          1.251,
-          306.3
+          1.264,
+          251.2
         ],
         [
-          1.464,
-          319.8
+          1.482,
+          300.9
         ],
         [
-          1.681,
-          346.8
+          1.703,
+          322.4
         ],
         [
-          1.903,
-          361.4
+          1.928,
+          340.0
         ],
         [
-          2.128,
-          489.9
+          2.151,
+          363.3
+        ],
+        [
+          2.383,
+          508.0
+        ],
+        [
+          2.619,
+          553.7
         ],
         [
-          2.364,
-          555.3
+          2.857,
+          519.9
         ],
         [
-          2.601,
-          557.8
+          3.112,
+          507.3
         ],
         [
-          2.84,
-          555.9
+          3.361,
+          553.1
         ],
         [
-          3.077,
-          539.4
+          3.608,
+          541.7
         ],
         [
-          3.316,
-          528.6
+          3.856,
+          547.3
         ],
         [
-          3.56,
-          535.8
+          4.107,
+          542.7
         ],
         [
-          3.801,
-          538.3
+          4.358,
+          544.0
         ],
         [
-          4.038,
-          530.6
+          4.599,
+          548.5
         ],
         [
-          4.276,
-          542.2
+          4.839,
+          562.8
         ],
         [
-          4.515,
-          525.9
+          5.082,
+          518.0
         ],
         [
-          4.755,
-          529.8
+          5.32,
+          519.3
         ],
         [
-          4.997,
-          522.7
+          5.556,
+          529.6
         ],
         [
-          5.239,
-          538.4
+          5.794,
+          524.4
         ],
         [
-          5.482,
-          543.8
+          6.033,
+          521.3
         ],
         [
-          5.724,
-          546.0
+          6.271,
+          564.9
         ],
         [
-          5.967,
-          536.0
+          6.509,
+          547.8
         ],
         [
-          6.211,
-          581.3
+          6.746,
+          623.4
         ],
         [
-          6.46,
-          637.1
+          6.992,
+          643.7
         ],
         [
-          6.713,
-          660.9
+          7.234,
+          656.7
         ],
         [
-          6.968,
-          669.3
+          7.475,
+          667.5
         ],
         [
-          7.222,
-          679.7
+          7.716,
+          670.3
         ],
         [
-          7.473,
-          675.8
+          7.955,
+          675.6
         ]
       ],
       "io_delta": {},
-      "timing_line": "[ Prompt: 8.3 t/s | Generation: 21.8 t/s ]",
+      "timing_line": "[ Prompt: 7.9 t/s | Generation: 20.9 t/s ]",
       "output": "Hello! 😊 I'm DeepSeek-R1, your friendly AI assistant. I'm here to help with all kinds of questions, learning, and creative tasks",
       "pager": {
         "routing_calls": 8448,
@@ -738,14 +939,14 @@
         "resident_bytes": 132240384,
         "budget_bytes": 134217728,
         "hit_rate": 0.5415,
-        "proc_self_read_bytes": 2429865984,
+        "proc_self_read_bytes": 2429915136,
         "proc_self_rchar": 11947223
       },
       "output_matches_baseline": true,
       "swap_zero": true,
       "rc_ok": true,
-      "rss_vs_baseline": -1.8999,
-      "decode_rss_vs_baseline": -1.8999,
+      "rss_vs_baseline": -1.9034,
+      "decode_rss_vs_baseline": -1.9034,
       "decode_rss_lower_than_baseline": true,
       "rss_lower_than_baseline": true,
       "ssd_reads_mib": 2317.3,

validate/last-run.json

@@ -1,40 +1,40 @@
 {
-  "when": "2026-10-07T16:29:51+0200",
+  "when": "2026-10-07T16:47:29+0200",
   "model": "/root/work/models/SmallThinker-4B-A0.6B-Instruct.Q4_K.gguf",
   "port": 8080,
-  "pid": 35228,
+  "pid": 38517,
   "ram_budget_mb": 512,
   "arena_mb": -1875,
   "expert_slots": 252,
   "chat": {
     "prompt_tokens": 37,
     "completion_tokens": 16,
-    "seconds": 3.67,
-    "tok_per_s": 4.364,
+    "seconds": 3.89,
+    "tok_per_s": 4.1168,
     "content": "A **MoE (Model Parallelism) layer** enables a neural network to",
     "timings": {
       "cache_n": 0,
       "prompt_n": 37,
-      "prompt_ms": 2984.837,
-      "prompt_per_token_ms": 80.67127027027027,
-      "prompt_per_second": 12.395986782527824,
+      "prompt_ms": 3122.416,
+      "prompt_per_token_ms": 84.38962162162163,
+      "prompt_per_second": 11.849798361268965,
       "predicted_n": 16,
-      "predicted_ms": 663.495,
-      "predicted_per_token_ms": 44.233,
-      "predicted_per_second": 22.60755544502973
+      "predicted_ms": 744.758,
+      "predicted_per_token_ms": 49.650533333333335,
+      "predicted_per_second": 20.140770559027224
     }
   },
   "peak": {
-    "total_rss_gb": 1.091,
+    "total_rss_gb": 1.0901,
     "anon_rss_gb": 0.1931,
-    "file_rss_gb": 1.0853,
+    "file_rss_gb": 1.0845,
     "peak_swap_gb": 0.0,
-    "hwm_rss_gb": 1.091
+    "hwm_rss_gb": 1.0901
   },
   "io_delta": {
-    "read_bytes": 1156587520,
+    "read_bytes": 1160712192,
     "rchar": 0,
-    "write_bytes": 0
+    "write_bytes": 4096
   },
   "pager": {
     "routing_calls": 4608,
@@ -47,7 +47,7 @@
     "resident_bytes": 535071744,
     "budget_bytes": 536870912,
     "hit_rate": 0.4122,
-    "proc_self_read_bytes": 2439876608,
+    "proc_self_read_bytes": 2439696384,
     "proc_self_rchar": 11946335
   },
   "pager_expert_resident_mib": 510.3,