## 投稿先候補 第一候補: - PrismML-Eng/llama.cpp の Issue / feature discussion 理由: - Bonsai 2固有runtime / ternary kernel実験に近い。 - 新しいGGUF型を要求せず、既存PQ2_0/PTQ1_0の意味論でmicrobenchmarkできる。 - mainline採用を求める話ではなく、まずforkでCPU PoCを測る範囲に限定できる。 ## 自分の言葉で最初に伝える要点 - 「速くなる」と断定しない。性能仮説を測りたい。 - 主対象はbatch-1 ternary GEMV。 - 中心アイデアは、LNS productを `S1|E4|L3` として扱い、K個のproductを最終的に8本のphase aggregateへ縮約すること。 - correctness baselineは `A[L3] += sign × (1<4->2->1` の3 dependent stages。 - shared scaleも可能ならlog offset ADDで適用する。 - negative resultでも、state-set build / POPCOUNT / LUT / dependency depthのどこが支配したか分かれば有用。 ## 実装者に聞きたいこと 必要なら2〜3個に絞る: - Tile64/Tile32で `packed product ADD -> phase routing -> eight integer accumulators` をfuseするなら、現在のggml scheduling/layout上どこに置くのが自然か。 - standalone CPU microbenchmarkならPQ2_0 / predecoded ternary masksから始めるのが妥当か。 - row costの比較で、total cyclesだけでなくdependent critical-path stagesを測る方法として何が自然か。 - pure fractional-LNS add/sub LUTを実験するなら、どのSIMD width / table layoutが扱いやすいか。 ## 最初の投稿では削った方がよい話 - 特許の長い検討 - 研究新規性の主張 - FPGA/ASICまで含む将来構想 - prefill全般を置き換える話 - Tensor Coreより速いという主張 - Q9.6またはpure-LNSが絶対に正しいという主張 - 1000行級仕様の本文貼り付け ## 添付/リンクするなら優先度 1. `BitState_PoC_technical_brief_EN_v0.5.md` 2. `BitState_PoC_experiment_matrix_EN_v0.5.md` 3. `bitstate_poc_test_vectors_v2.json` 4. `BitState_HSDR_v0.5_WHT-RMSNorm-premise.md` 5. `LNS8_base74_8step_zone8_popcount_demo_JA_v0.8_bitslice128_validation.xlsx` ## タイトルを自分で考える際に含めたい概念 - experimental / PoC - ternary GEMV - state-domain reduction - POPCOUNT - dependency breaking - batch-1 decode - Bonsai 2 「proposal to replace GEMM」や「new LNS architecture」など大きすぎる表現は避ける。 ## 投稿後の返答で守る点 - 実測がない部分は仮説と明示する。 - pairwise LNS add自体は既知技法として扱い、独自性を主張しない。 - BitStateでまず検証したいのは `packed 8-bit product ADD -> K→8 phase reduction -> 8-state finalization` のcost structure。POPCOUNT state-set pathはその一候補として比較する。 - dyadic referenceの方が速い可能性も普通に認める。 - activation quantization品質、state-count correctness、pure-LNS rounding、kernel速度を別問題として扱う。 - AIに返信本文そのものを書かせず、技術内容の確認だけに使う。