|
Download Bitstate/BitState_GitHub_author_notes_JA_v0.5.md from mktnhr/BitState: direct link, hf CLI and curl.
- Browser
- Download file 3.79 kB
-
https://huggingface.co/datasets/mktnhr/BitState/resolve/main/Bitstate/BitState_GitHub_author_notes_JA_v0.5.md
- Command line
-
hf download hf://datasets/mktnhr/BitState/Bitstate/BitState_GitHub_author_notes_JA_v0.5.md
-
curl -L -o BitState_GitHub_author_notes_JA_v0.5.md https://huggingface.co/datasets/mktnhr/BitState/resolve/main/Bitstate/BitState_GitHub_author_notes_JA_v0.5.md
3.79 kB
投稿先候補
第一候補:
- PrismML-Eng/llama.cpp の Issue / feature discussion
理由:
- Bonsai 2固有runtime / ternary kernel実験に近い。
- 新しいGGUF型を要求せず、既存PQ2_0/PTQ1_0の意味論でmicrobenchmarkできる。
- mainline採用を求める話ではなく、まずforkでCPU PoCを測る範囲に限定できる。
自分の言葉で最初に伝える要点
- 「速くなる」と断定しない。性能仮説を測りたい。
- 主対象はbatch-1 ternary GEMV。
- 中心アイデアは、LNS productを
S1|E4|L3として扱い、K個のproductを最終的に8本のphase aggregateへ縮約すること。 - correctness baselineは
A[L3] += sign × (1<<E4)のdirect 8-phase integer accumulation。K=4096/5120でも最後は8本。 - phase maskはTile64/Tile32上の中間routing selectorで、Excel v0.8で128項の一致を確認済み。
- POPCOUNT histogramは別候補。signed populationは
P-NまたはNtotal-2Nnegでexactに取れる。 - どちらが速いかは未測定で、K→8 routing/reduction costをbenchmarkする。
- direct 8-phase dyadic pathをreferenceとして残し、full histogram→shift/addは等価な別実装として比較する。
- v0.5では、histogram候補についてPOPCOUNT後のstateをfractional-LNSへfoldし、balanced LNS add/sub treeで最後までlinear化しない候補も試す。
- 最終8 phaseなら
8->4->2->1の3 dependent stages。 - shared scaleも可能ならlog offset ADDで適用する。
- negative resultでも、state-set build / POPCOUNT / LUT / dependency depthのどこが支配したか分かれば有用。
実装者に聞きたいこと
必要なら2〜3個に絞る:
- Tile64/Tile32で
packed product ADD -> phase routing -> eight integer accumulatorsをfuseするなら、現在のggml scheduling/layout上どこに置くのが自然か。 - standalone CPU microbenchmarkならPQ2_0 / predecoded ternary masksから始めるのが妥当か。
- row costの比較で、total cyclesだけでなくdependent critical-path stagesを測る方法として何が自然か。
- pure fractional-LNS add/sub LUTを実験するなら、どのSIMD width / table layoutが扱いやすいか。
最初の投稿では削った方がよい話
- 特許の長い検討
- 研究新規性の主張
- FPGA/ASICまで含む将来構想
- prefill全般を置き換える話
- Tensor Coreより速いという主張
- Q9.6またはpure-LNSが絶対に正しいという主張
- 1000行級仕様の本文貼り付け
添付/リンクするなら優先度
BitState_PoC_technical_brief_EN_v0.5.mdBitState_PoC_experiment_matrix_EN_v0.5.mdbitstate_poc_test_vectors_v2.jsonBitState_HSDR_v0.5_WHT-RMSNorm-premise.mdLNS8_base74_8step_zone8_popcount_demo_JA_v0.8_bitslice128_validation.xlsx
タイトルを自分で考える際に含めたい概念
- experimental / PoC
- ternary GEMV
- state-domain reduction
- POPCOUNT
- dependency breaking
- batch-1 decode
- Bonsai 2
「proposal to replace GEMM」や「new LNS architecture」など大きすぎる表現は避ける。
投稿後の返答で守る点
- 実測がない部分は仮説と明示する。
- pairwise LNS add自体は既知技法として扱い、独自性を主張しない。
- BitStateでまず検証したいのは
packed 8-bit product ADD -> K→8 phase reduction -> 8-state finalizationのcost structure。POPCOUNT state-set pathはその一候補として比較する。 - dyadic referenceの方が速い可能性も普通に認める。
- activation quantization品質、state-count correctness、pure-LNS rounding、kernel速度を別問題として扱う。
- AIに返信本文そのものを書かせず、技術内容の確認だけに使う。