sddqwen35a3b / cpp /sdq_cli.cpp

Commit History

修 8GB 預算的兩個真實缺陷:ubatch 預設 512→128(長提示詞會 bad_alloc 崩潰)、預留 1150→900MB(預留 700 時峰值 RSS 8231MB 超出預算)
4068c44
verified

HelloSun commited on

I/O 段平行定案:預設 3×n_threads(實測 +45%)、I/O 池對齊緩衝計入 RAM 帳目、修正 SDQ_IO_THREADS 設定時機
900b73c
verified

HelloSun commited on

I/O 段平行:一個 expert 的 gate/up/down 同時讀(4.16→5.6+ tok/s)+ SDQ_ROUTE_LOG 路由重疊分析工具 + io 實驗 suite
fb8018e
verified

HelloSun commited on

S4 前置:mode C 排程(+53%)、實驗 harness、docs/04;patch 已更新
5601477
verified

HelloSun commited on

S2 修 Q6_K 解碼 bug、補 barrier 與 ggml_build_forward_expand、mode B 成預設(跨 thread 數 bitwise 決定性且 SSD 讀取少 2.7 倍)、新增 docs/03_results.md
be4cff1
verified

HelloSun commited on

v1: 專案骨架 + SDQ expert pager 完整 patch(C++ 引擎原始碼)
a8b0793
verified

HelloSun commited on