BitState / Bitstate /BitState_GitHub_author_notes_JA_v0.5.md
mktnhr's picture
Upload 12 files
8520e5f verified
|
Raw History Blame Contribute Delete
3.79 kB

投稿先候補

第一候補:

  • PrismML-Eng/llama.cpp の Issue / feature discussion

理由:

  • Bonsai 2固有runtime / ternary kernel実験に近い。
  • 新しいGGUF型を要求せず、既存PQ2_0/PTQ1_0の意味論でmicrobenchmarkできる。
  • mainline採用を求める話ではなく、まずforkでCPU PoCを測る範囲に限定できる。

自分の言葉で最初に伝える要点

  • 「速くなる」と断定しない。性能仮説を測りたい。
  • 主対象はbatch-1 ternary GEMV。
  • 中心アイデアは、LNS productを S1|E4|L3 として扱い、K個のproductを最終的に8本のphase aggregateへ縮約すること。
  • correctness baselineは A[L3] += sign × (1<<E4) のdirect 8-phase integer accumulation。K=4096/5120でも最後は8本。
  • phase maskはTile64/Tile32上の中間routing selectorで、Excel v0.8で128項の一致を確認済み。
  • POPCOUNT histogramは別候補。signed populationは P-N または Ntotal-2Nneg でexactに取れる。
  • どちらが速いかは未測定で、K→8 routing/reduction costをbenchmarkする。
  • direct 8-phase dyadic pathをreferenceとして残し、full histogram→shift/addは等価な別実装として比較する。
  • v0.5では、histogram候補についてPOPCOUNT後のstateをfractional-LNSへfoldし、balanced LNS add/sub treeで最後までlinear化しない候補も試す。
  • 最終8 phaseなら 8->4->2->1 の3 dependent stages。
  • shared scaleも可能ならlog offset ADDで適用する。
  • negative resultでも、state-set build / POPCOUNT / LUT / dependency depthのどこが支配したか分かれば有用。

実装者に聞きたいこと

必要なら2〜3個に絞る:

  • Tile64/Tile32で packed product ADD -> phase routing -> eight integer accumulators をfuseするなら、現在のggml scheduling/layout上どこに置くのが自然か。
  • standalone CPU microbenchmarkならPQ2_0 / predecoded ternary masksから始めるのが妥当か。
  • row costの比較で、total cyclesだけでなくdependent critical-path stagesを測る方法として何が自然か。
  • pure fractional-LNS add/sub LUTを実験するなら、どのSIMD width / table layoutが扱いやすいか。

最初の投稿では削った方がよい話

  • 特許の長い検討
  • 研究新規性の主張
  • FPGA/ASICまで含む将来構想
  • prefill全般を置き換える話
  • Tensor Coreより速いという主張
  • Q9.6またはpure-LNSが絶対に正しいという主張
  • 1000行級仕様の本文貼り付け

添付/リンクするなら優先度

  1. BitState_PoC_technical_brief_EN_v0.5.md
  2. BitState_PoC_experiment_matrix_EN_v0.5.md
  3. bitstate_poc_test_vectors_v2.json
  4. BitState_HSDR_v0.5_WHT-RMSNorm-premise.md
  5. LNS8_base74_8step_zone8_popcount_demo_JA_v0.8_bitslice128_validation.xlsx

タイトルを自分で考える際に含めたい概念

  • experimental / PoC
  • ternary GEMV
  • state-domain reduction
  • POPCOUNT
  • dependency breaking
  • batch-1 decode
  • Bonsai 2

「proposal to replace GEMM」や「new LNS architecture」など大きすぎる表現は避ける。

投稿後の返答で守る点

  • 実測がない部分は仮説と明示する。
  • pairwise LNS add自体は既知技法として扱い、独自性を主張しない。
  • BitStateでまず検証したいのは packed 8-bit product ADD -> K→8 phase reduction -> 8-state finalization のcost structure。POPCOUNT state-set pathはその一候補として比較する。
  • dyadic referenceの方が速い可能性も普通に認める。
  • activation quantization品質、state-count correctness、pure-LNS rounding、kernel速度を別問題として扱う。
  • AIに返信本文そのものを書かせず、技術内容の確認だけに使う。