25 days ago
-
勘誤:修正與實測資料不符的敘述
HelloSun
本 repo 的 4 處敘述與自己的量測結果/程式碼不一致,本次逐條修正:
1. README §1 的「arena 2.90 GiB = 266 個槽位 / peak RSS 10.3 GiB」與第 3 節
矩陣矛盾。實際 4 GiB 預算是 arena 1.79 GiB、164 槽、peak RSS 2233 MB
(2.18 GiB)。10.3 GiB 那組數字在任何 RAM 預算下都不存在,而且與其他四列
一致的「RSS ≈ arena + 390 MB」關係不符(2.90 GiB arena 不可能配 10.3 GiB RSS)。
2. README §1 把回答寫成乾淨的 `capital of France is **Paris**.`。實際輸出是
`'m happy to help! The capital of France is **Paris**.<|end▁of▁sentence|> of * {@link ...`
—— 答完後有 EOS 與 Java 樣板碼亂補。改為逐字引用並註明退化風險。
3. results/verify_dequant.txt 印 21 列,但 blk.0.ffn_down_exps 與
blk.26.ffn_down_exps 各被重複印一次(6 列重複),獨立比對只有 15 列。
移除重複列,README §6.1 的 21/21 改為 15/15。
4. README §4.2 由三組 A/B 宣稱「明確 AVX512 不比 -march=native 慢」。但
native 那一列自身三次重跑是 1.71/1.09/1.03(相差 1.66x),內部落差大於
列間差距,沒有統計力。改為只能宣稱「三種設定都能正確產出且不踩 assert」,
速度無法區分。
另外補上三項原本漏報、但影響重現的事實:
- 第 3 節矩陣實際量測用的是 `-march=native -mno-amx-*`,不是第 4.2 節那組可攜
選項(JSON build.note 有記,README 未揭露)。AMX 同樣關閉,數學等價。
- 矩陣用 `SDQ_RESERVE_MB=2048`,pager 程式預設是 900 MB。此值直接決定 arena
大小,不帶此…
28 days ago
-
新增 HARDWARE.md(每個環境數字附量測指令、區分硬限制與 pager budget)與 results/upstream_hardware_audit.md(上游 sddqwen35a3b_v01 硬體/環境/容量敘述的審查與勘誤)