# BitState / HSDR PoC — 性能期待値と実装ターゲット v0.5 **Status:** 実装前の性能仮説 / PoC motivation。性能保証ではない。 **Primary target:** low-bit / ternary LLM GEMV、batch-1 decodeを最優先。 **Reference:** `BitState_PoC_technical_brief_EN_v0.5.md`、`BitState_HSDR_v0.5_ja_WHT-RMSNorm-premise.md`、`LNS8_base74_8step_zone8_popcount_demo_JA_v0.8_bitslice128_validation.xlsx` --- ## 1. 何を狙うPoCか BitState/HSDRの現在の中心課題は、LNS8 productを実数へ展開してから通常のMACを行うのではなく、productを最後まで低bit stateとして扱い、巨大なGEMV/GEMM reductionを8本のphase aggregateへ落とせるか、という点にある。 final product stateを ```text S1 | E4 | L3 ``` とみなすと、direct dyadic pathは各productについて ```text phase = L3 payload = sign * (1 << E4) A[phase] += payload ``` となる。 したがって、1 output dotに `K=4096` / `5120` のproductがあっても、最終的に残す必要がある整数状態は ```text A[0] ... A[7] ``` の8本だけである。最後に8種類のfractional-log係数を適用し、8項だけを数値実体化すればよい。 BitStateが性能上狙いたいのは、Tensor Coreのpeak FLOPSと競争することではない。 > **decode-likeな低arithmetical-intensity領域で、product生成とreductionをADD / SHIFT / Boolean / mask / ballot / POPCOUNT中心へ落とし、計算側の時間をweight-fetch時間の陰へ押し込む。最終的にkernelをmemory-bandwidth-boundへ近づける。** これが達成できれば、BitState PoCとして非常に強い成功とみなす。 --- ## 2. 現在比較すべき4方式 | 方式 | 強み | 弱み | 特に期待する領域 | |---|---|---|---| | **A. direct masked ADD** | explicit transpose不要。`L3 -> selector`、`E4 -> shift`、`S1 -> +/-` をそのまま整数SIMD/SIMTへ写像できる | 8-wayのmask / grouped reductionを各Tileで処理する必要がある | 最初のperformance baseline。CPU/GPU双方で実装しやすい | | **B. bitslice + POPCOUNT** | transpose後は1 Boolean演算で32/64 laneを同時処理できる。複数条件をbitset上で合成できる | CPUではstate-set生成 / bit transposeの固定費がある | 64-lane state processingの密度がtranspose費を上回るかを検証 | | **B + state-set再利用** | state-set構築費を多数output rowへamortizeできる。row側がAND/XOR/POPCOUNT中心まで単純化する可能性 | activation側state-setを再利用可能なモデル / factorizationが必要 | ternary、shared-scale、Bonsai2系。最も大化けする可能性がある | | **GPU ballot版B** | CPUのexplicit transposeをsubgroup ballotで置換できる。subgroupのlane集合がそのままbitsetになる | subgroup feature差、register pressure、workgroup merge設計が必要 | GPUでBitState state-set化を最も自然に試せる候補 | AとBはfallback関係ではない。同じ数学を異なるhardware representationで実装する競合kernelである。 ```text A: lane/SIMD/SIMT state -> phase selector -> masked/grouped integer reduction -> A[8] B: lane state -> bitset / ballot state-set -> Boolean membership intersection -> POPCOUNT / shift reduction -> A[8] ``` --- ## 3. 期待できる性能上の理由 ### 3.1 LNS productの主演算をMULから整数ADDへ置換できる LNS8 magnitude productは、必要なlog-domain offsetを反映した後、基本的にcode ADDとして生成できる。 ```text activation code + weight / scale log offset --------------------------- final product state ``` signはXOR / maskで処理する。 低bit product生成の段階で一般的なFP/INT multiplyを避けられることが最初の利点である。 ### 3.2 K個のproductをK個の実数へ展開しない 通常の見方では、`K=4096`なら4096個のproductを数値として扱い、長いreductionを行う。 BitStateではproductを ```text S1 = sign E4 = power-of-two shift position L3 = 8-way destination ``` として扱うため、K個すべてについて「実数値そのもの」を知る必要がない。 ### 3.3 最終linear materializationは8項だけ K項の処理後に残るのは `A[0..7]` だけであり、2の冪でない係数を適用する場所は8 phaseだけでよい。 したがって最終materializationそのものは支配項になりにくい。支配項は **K product states -> 8 aggregates** のrouting / reductionである。 ### 3.4 8 accumulatorでdependencyを分散できる 1本のserial accumulatorへK回依存するのではなく、phaseごとに独立した8本へ分けられる。 ```text A0 A1 A2 A3 A4 A5 A6 A7 ``` CPUでは複数execution port / SIMD lane、GPUではsubgroup / warp内groupingを使って、依存鎖を複数本へ分散できる可能性がある。 ### 3.5 bitslice後は条件判定密度が非常に高い Tile64をbitsliceすると、例えば ```text M[101] = L2 & ~L1 & L0 ``` という数個のBoolean演算で、64 laneすべてについて `phase==5` のmembershipを一斉に生成できる。 さらに `E4` / sign条件も同じ64bit bitsetへANDできる。 ```text phase condition AND exponent condition AND sign condition -> 64-lane membership mask -> POPCOUNT ``` この「64 scalar predicatesを1本のBoolean expressionへ変換する」密度が、transpose費を超えられるかがCPU bitslice PoCの中心テーマになる。 ### 3.6 GPUではbit transposeがballotへ置き換わる可能性がある GPU subgroupでは、各invocationが持つpredicateをballotで一つのsubgroup maskへ投影できる。 ```text 32/64 lane state ↓ subgroup ballot ↓ state membership bitset ``` したがってCPUで必要なexplicit bit transposeが、GPUではbackend-native subgroup operationへ変わる。 これはGPU版Bを特に試す価値がある理由である。 --- ## 4. CPUターゲット ### 4.1 理論整合性ターゲット 最初のcorrectness確認は特殊vector命令を要求しない。 ```text 64-bit integer AND / OR / XOR / NOT SHIFT integer ADD / SUB POPCOUNT ``` でTile64のstate-set pathを表現できる。 ### 4.2 実用PoCの推奨baseline: x86-64 AVX2 + POPCNT 最初に性能を測るCPU baselineとしては、**AVX2 + POPCNT**が扱いやすい。 A方式では、native masked ADDがなくても ```text vector compare -> AND / zeroing -> vector ADD ``` でphase選択を実装できる。 B方式では、AVX2/SWARをstate extraction / transpose front-endに使い、最終membership maskをscalar 64-bit POPCNTへ渡す構成を試せる。 このbaselineなら、特殊な最新CPUだけを対象にせず、比較的広いx86-64環境でPoCできる。 ### 4.3 上位最適化: AVX-512 AVX-512では次が期待できる。 - native mask register - masked integer ADD - wider vector lane processing - CPUによってはvector POPCOUNT - 多数のvector registerによるregister-resident working set A方式ではmask routingがより直接的になり、B方式ではmask/state-set処理をさらにwideにできる。 ただしAVX-512をBitState成立の必須条件にはしない。**AVX2で成立性を見て、AVX-512で上限を探る**順序を推奨する。 ### 4.4 ARM NEON / SVEも論理的には適用可能である。特にSVE predicateはphase membership maskと概念的な相性が良い。 最初のPoCはx86-64を優先し、数値仕様とstate semanticsを固定した後にbackendを増やす。 --- ## 5. GPUターゲット — Vulkan Computeを第一級backendとして扱える CUDA固有機能はBitStateの必須条件ではない。 BitStateで主に必要なのは: ```text integer ADD / SHIFT Boolean ops subgroup ballot bit count subgroup shuffle / reduction workgroup shared memory ``` であり、Vulkan Computeで表現可能である。 ### 5.1 実用baselineとしてVulkan 1.3を推奨 Vulkan subgroup自体は1.1以降のcore APIでqueryできるため、理論上の最低線は1.3より古くてもよい。 一方PoCの実用baselineとして **Vulkan 1.3** を選ぶ理由は: - modern compute toolchainとして扱いやすい - subgroup size controlがcoreへ昇格している - NVIDIA / AMD / Intelを同じbackend abstractionで試せる - CUDA専用kernelにせず、BitStateのbackend independenceを検証できる ためである。 ただし `BALLOT` / `ARITHMETIC` / `SHUFFLE` はdevice capabilityをqueryして使用する。Vulkan version番号だけで全機能を仮定しない。 ### 5.2 shaderInt8は有利だが必須ではない Vulkan 1.3ではshaderInt8は必須機能ではないため、feature queryが必要である。 shaderInt8が使える場合: ```text packed LNS8 -> low-bit / INT8 product state generation -> subgroup state reduction ``` を狙う。 無い場合でも: ```text packed uint8 storage -> uint32へ展開 -> integer ADD / SHIFT / Boolean / subgroup ops ``` でBitStateのアルゴリズム自体は検証できる。 したがって古めのVulkan GPUもPoC対象から即座に外す必要はない。 ### 5.3 subgroup widthを固定しない BitState GPU backendは ```text Tile = subgroup size ``` として設計し、32固定を前提にしない。 NVIDIA的な32-laneでも、AMD等の別subgroup幅でも、同じstate-set semanticsを維持する。 subgroup sizeを要求できるdeviceでは、32/64等をbenchmarkして最適点を測る。 --- ## 6. GPUで期待したいHSDR階層 例えば `K=4096` を複数subgroupで処理する。 ```text Global memory ↓ packed low-bit load ↓ product state generation ↓ subgroup-local state reduction ↓ 各subgroup: A[0..7] ↓ workgroup shared memory ↓ 複数subgroupの8-way partialをmerge ↓ A[0..7] ↓ 8 phaseだけfinal materialization ``` 例えば4 subgroupでK方向を分割した場合、subgroup間へ渡す中間結果は概念上 ```text 4 subgroup × 8 integers = 32 integers ``` まで縮められる。 この階層はHSDRの ```text individual products -> subgroup-local state aggregates -> workgroup-local 8 aggregates -> final 8-value materialization ``` とGPU hardware hierarchyが自然に一致する可能性がある。 --- ## 7. 性能期待値 — 予測ではなくEngineering Target 現段階で「x倍高速」と予測する根拠はない。PoCでは、次の順に成功レベルを定義する。 ### Level 0 — correctness - direct decode - direct 8-phase accumulation - bitslice / POPCOUNT histogram - GPU subgroup implementation が同じ `A[0..7]` と最終値を返す。 ここはbit-exactを要求する。 ### Level 1 — compute structureが成立 profile上、次が確認できる。 - product生成がpacked integer ADD中心 - K項をFP productへ展開していない - state routing / population reductionがregister / subgroup中心 - intermediate stateをglobal memoryへ大量に書き戻していない - final materializationが支配項でない この時点でBitStateの計算モデルがhardwareへ自然に写像できたと判断する。 ### Level 2 — optimized low-bit kernelと同じ性能圏へ入る 初期実装の最重要目標は、いきなり既存kernelを上回ることではない。 **layout / register scheduling / subgroup mappingを詰めた後に、既存optimized low-bit GEMVと同じorderのlatencyへ入れるか**を見る。 ここまで来れば、state reductionという異なる計算方式に実装投資する価値が十分ある。 ### Level 3 — memory-bandwidth-boundへ近づく 最も狙いたい状態は: ```text compute/state-reduction cost <= weight supply cost ``` となり、profile上の支配要因がALU / dependencyではなくmemory trafficへ移ること。 これはBitStateの本命成功条件である。 ### Stretch Goal — sustainable memory bandwidthの70〜80%+付近 これは**予測値ではなく、やる気の出るstretch target**とする。 対象hardwareで別途測定したsustainable streaming bandwidthに対し、decode kernelの実効weight bandwidthが70〜80%級まで到達し、compute側が明確に支配項でなくなれば非常に強い結果である。 hardware、weight layout、cache、batch、quantization formatによって達成可能値は大きく変わるため、数値そのものを性能保証として扱わない。 --- ## 8. どの方式に最も期待するか ### A. direct masked ADD — 最初に作るべき基準kernel 期待理由: - transpose不要 - 数学が単純 - CPU SIMD / GPU SIMTへ直接写像可能 - Excel / scalar referenceとの比較が容易 この方式が十分速ければ、BitStateはPOPCOUNTを必須とせず成立する。 ### B. CPU bitslice + POPCOUNT — 転置後の高密度処理に期待 期待理由: - Tile64全体を64bit Boolean演算で扱える - membership条件の合成が非常に安い - intermediate maskのlive rangeが短い - 64 scalar predicateを少数Boolean opsへ縮められる 勝負点は明確で、**transpose/state-set build costを後段の64-lane同時処理が回収できるか**である。 ### B + state-set reuse — CPU側で最も大化けし得る候補 activation state-setを一度作り、多数output rowでreuseできる場合、固定費を大きく償却できる。 特にternary weightならrowごとの処理を ```text activation state mask AND weight non-zero/sign mask -> POPCOUNT ``` へ寄せられる可能性がある。 この領域はBitState/HSDRのdependency-breaking仮説と最も強く噛み合う。 ### GPU ballot版B — GPU側で最も試したい候補 CPUのbit transposeをsubgroup ballotへ置換できるため、B方式の最大の弱点が軽くなる可能性がある。 さらにGPUには: - 多数subgroupの同時実行 - subgroup register communication - workgroup shared memory - output-row parallelism がある。 BitStateの ```text state -> subgroup set -> 8 aggregates -> workgroup merge ``` という階層がhardware topologyへ自然に一致するかもしれない。 **GPU PoCを作る理由として最も期待値が高い部分の一つである。** --- ## 9. 最初の実装順序 性能探索は次の順序を推奨する。 1. **Scalar direct A[8]** correctness reference。`A[L3] += ±(1< A[8] reduction 7. subgroup/workgroup merge 8. final 8-phase materialization 9. total kernel latency 10. effective weight bandwidth ``` CPU: - cycles / output row - cycles / weight - instructions / weight - uops / IPC - POPCNT throughput - cache misses - measured memory bandwidth - register spillの有無 GPU: - kernel latency - effective GB/s - achieved memory throughput - registers / invocation - occupancy - subgroup width - ballot / shuffle / arithmetic cost - shared-memory traffic - spill / local-memory traffic - memory stall vs execution stall --- ## 11. PoCの価値は「勝つこと」だけではない このPoCは、Tensor Coreを置き換えるという主張ではない。 また、BitStateが必ず既存optimized GEMVを上回るという性能claimでもない。 検証したい問いは狭い。 > **巨大Kを持つ低bit GEMVにおいて、productを実数化せずstateのまま扱い、8-way routing / wide Boolean state-set / subgroup ballot / POPCOUNTによってreduction overheadを十分小さくし、kernelをmemory-bandwidth-boundへ押し込める領域が存在するか。** 負けても、次のどこが支配したかを切り分けられればPoCとして価値がある。 ```text product decode phase routing bit transpose state-set construction POPCOUNT register pressure subgroup reduction shared-memory merge memory traffic ``` 逆に、一つでも現実的なCPU/GPUで ```text compute overhead << model weight transfer cost ``` へ近づく領域が見つかれば、BitStateをさらに詰める十分な理由になる。 --- ## 12. 一緒に試してほしいポイント BitStateは現時点では性能仮説であり、実装者の知見で大きく化ける余地がある。 特に知見が欲しいのは: - AVX2/AVX-512での最小cost 8-way integer routing - Tile64 bit transposeの実測最小cost - POPCNTとmask-generationのinstruction scheduling - register-resident state-set layout - Vulkan subgroup ballot / arithmeticの実測cost - 32 vs 64 subgroup sizeの差 - multi-subgroup K splitの最適数 - workgroup shared-memory mergeの最小化 - low-bit weight loadとstate reductionのpipeline / double buffering - model row layoutとcoalesced / sequential memory accessの統合 このPoCで最も知りたいのは、「理論上できるか」ではなく、**ordinary CPU/GPUの生のinteger / bit hardwareへ落としたとき、どこまでmemory wallへ迫れるか**である。 > **目標はFLOPSを増やすことではない。必要なFLOPSそのものを減らし、最後までstateとして運び、weightを読み切る速度に計算を追いつかせること。**