Download Bitstate/BitState_PoC_performance_expectations_JA_v0.5.md from mktnhr/BitState: direct link, hf CLI and curl.
- Browser
- Download file 18.1 kB
-
https://huggingface.co/datasets/mktnhr/BitState/resolve/main/Bitstate/BitState_PoC_performance_expectations_JA_v0.5.md
- Command line
-
hf download hf://datasets/mktnhr/BitState/Bitstate/BitState_PoC_performance_expectations_JA_v0.5.md
-
curl -L -o BitState_PoC_performance_expectations_JA_v0.5.md https://huggingface.co/datasets/mktnhr/BitState/resolve/main/Bitstate/BitState_PoC_performance_expectations_JA_v0.5.md
BitState / HSDR PoC — 性能期待値と実装ターゲット v0.5
Status: 実装前の性能仮説 / PoC motivation。性能保証ではない。
Primary target: low-bit / ternary LLM GEMV、batch-1 decodeを最優先。
Reference: BitState_PoC_technical_brief_EN_v0.5.md、BitState_HSDR_v0.5_ja_WHT-RMSNorm-premise.md、LNS8_base74_8step_zone8_popcount_demo_JA_v0.8_bitslice128_validation.xlsx
1. 何を狙うPoCか
BitState/HSDRの現在の中心課題は、LNS8 productを実数へ展開してから通常のMACを行うのではなく、productを最後まで低bit stateとして扱い、巨大なGEMV/GEMM reductionを8本のphase aggregateへ落とせるか、という点にある。
final product stateを
S1 | E4 | L3
とみなすと、direct dyadic pathは各productについて
phase = L3
payload = sign * (1 << E4)
A[phase] += payload
となる。
したがって、1 output dotに K=4096 / 5120 のproductがあっても、最終的に残す必要がある整数状態は
A[0] ... A[7]
の8本だけである。最後に8種類のfractional-log係数を適用し、8項だけを数値実体化すればよい。
BitStateが性能上狙いたいのは、Tensor Coreのpeak FLOPSと競争することではない。
decode-likeな低arithmetical-intensity領域で、product生成とreductionをADD / SHIFT / Boolean / mask / ballot / POPCOUNT中心へ落とし、計算側の時間をweight-fetch時間の陰へ押し込む。最終的にkernelをmemory-bandwidth-boundへ近づける。
これが達成できれば、BitState PoCとして非常に強い成功とみなす。
2. 現在比較すべき4方式
| 方式 | 強み | 弱み | 特に期待する領域 |
|---|---|---|---|
| A. direct masked ADD | explicit transpose不要。L3 -> selector、E4 -> shift、S1 -> +/- をそのまま整数SIMD/SIMTへ写像できる |
8-wayのmask / grouped reductionを各Tileで処理する必要がある | 最初のperformance baseline。CPU/GPU双方で実装しやすい |
| B. bitslice + POPCOUNT | transpose後は1 Boolean演算で32/64 laneを同時処理できる。複数条件をbitset上で合成できる | CPUではstate-set生成 / bit transposeの固定費がある | 64-lane state processingの密度がtranspose費を上回るかを検証 |
| B + state-set再利用 | state-set構築費を多数output rowへamortizeできる。row側がAND/XOR/POPCOUNT中心まで単純化する可能性 | activation側state-setを再利用可能なモデル / factorizationが必要 | ternary、shared-scale、Bonsai2系。最も大化けする可能性がある |
| GPU ballot版B | CPUのexplicit transposeをsubgroup ballotで置換できる。subgroupのlane集合がそのままbitsetになる | subgroup feature差、register pressure、workgroup merge設計が必要 | GPUでBitState state-set化を最も自然に試せる候補 |
AとBはfallback関係ではない。同じ数学を異なるhardware representationで実装する競合kernelである。
A: lane/SIMD/SIMT state
-> phase selector
-> masked/grouped integer reduction
-> A[8]
B: lane state
-> bitset / ballot state-set
-> Boolean membership intersection
-> POPCOUNT / shift reduction
-> A[8]
3. 期待できる性能上の理由
3.1 LNS productの主演算をMULから整数ADDへ置換できる
LNS8 magnitude productは、必要なlog-domain offsetを反映した後、基本的にcode ADDとして生成できる。
activation code
+ weight / scale log offset
---------------------------
final product state
signはXOR / maskで処理する。
低bit product生成の段階で一般的なFP/INT multiplyを避けられることが最初の利点である。
3.2 K個のproductをK個の実数へ展開しない
通常の見方では、K=4096なら4096個のproductを数値として扱い、長いreductionを行う。
BitStateではproductを
S1 = sign
E4 = power-of-two shift position
L3 = 8-way destination
として扱うため、K個すべてについて「実数値そのもの」を知る必要がない。
3.3 最終linear materializationは8項だけ
K項の処理後に残るのは A[0..7] だけであり、2の冪でない係数を適用する場所は8 phaseだけでよい。
したがって最終materializationそのものは支配項になりにくい。支配項は K product states -> 8 aggregates のrouting / reductionである。
3.4 8 accumulatorでdependencyを分散できる
1本のserial accumulatorへK回依存するのではなく、phaseごとに独立した8本へ分けられる。
A0 A1 A2 A3 A4 A5 A6 A7
CPUでは複数execution port / SIMD lane、GPUではsubgroup / warp内groupingを使って、依存鎖を複数本へ分散できる可能性がある。
3.5 bitslice後は条件判定密度が非常に高い
Tile64をbitsliceすると、例えば
M[101] = L2 & ~L1 & L0
という数個のBoolean演算で、64 laneすべてについて phase==5 のmembershipを一斉に生成できる。
さらに E4 / sign条件も同じ64bit bitsetへANDできる。
phase condition
AND exponent condition
AND sign condition
-> 64-lane membership mask
-> POPCOUNT
この「64 scalar predicatesを1本のBoolean expressionへ変換する」密度が、transpose費を超えられるかがCPU bitslice PoCの中心テーマになる。
3.6 GPUではbit transposeがballotへ置き換わる可能性がある
GPU subgroupでは、各invocationが持つpredicateをballotで一つのsubgroup maskへ投影できる。
32/64 lane state
↓
subgroup ballot
↓
state membership bitset
したがってCPUで必要なexplicit bit transposeが、GPUではbackend-native subgroup operationへ変わる。
これはGPU版Bを特に試す価値がある理由である。
4. CPUターゲット
4.1 理論整合性ターゲット
最初のcorrectness確認は特殊vector命令を要求しない。
64-bit integer
AND / OR / XOR / NOT
SHIFT
integer ADD / SUB
POPCOUNT
でTile64のstate-set pathを表現できる。
4.2 実用PoCの推奨baseline: x86-64 AVX2 + POPCNT
最初に性能を測るCPU baselineとしては、AVX2 + POPCNTが扱いやすい。
A方式では、native masked ADDがなくても
vector compare
-> AND / zeroing
-> vector ADD
でphase選択を実装できる。
B方式では、AVX2/SWARをstate extraction / transpose front-endに使い、最終membership maskをscalar 64-bit POPCNTへ渡す構成を試せる。
このbaselineなら、特殊な最新CPUだけを対象にせず、比較的広いx86-64環境でPoCできる。
4.3 上位最適化: AVX-512
AVX-512では次が期待できる。
- native mask register
- masked integer ADD
- wider vector lane processing
- CPUによってはvector POPCOUNT
- 多数のvector registerによるregister-resident working set
A方式ではmask routingがより直接的になり、B方式ではmask/state-set処理をさらにwideにできる。
ただしAVX-512をBitState成立の必須条件にはしない。AVX2で成立性を見て、AVX-512で上限を探る順序を推奨する。
4.4 ARM
NEON / SVEも論理的には適用可能である。特にSVE predicateはphase membership maskと概念的な相性が良い。
最初のPoCはx86-64を優先し、数値仕様とstate semanticsを固定した後にbackendを増やす。
5. GPUターゲット — Vulkan Computeを第一級backendとして扱える
CUDA固有機能はBitStateの必須条件ではない。
BitStateで主に必要なのは:
integer ADD / SHIFT
Boolean ops
subgroup ballot
bit count
subgroup shuffle / reduction
workgroup shared memory
であり、Vulkan Computeで表現可能である。
5.1 実用baselineとしてVulkan 1.3を推奨
Vulkan subgroup自体は1.1以降のcore APIでqueryできるため、理論上の最低線は1.3より古くてもよい。
一方PoCの実用baselineとして Vulkan 1.3 を選ぶ理由は:
- modern compute toolchainとして扱いやすい
- subgroup size controlがcoreへ昇格している
- NVIDIA / AMD / Intelを同じbackend abstractionで試せる
- CUDA専用kernelにせず、BitStateのbackend independenceを検証できる
ためである。
ただし BALLOT / ARITHMETIC / SHUFFLE はdevice capabilityをqueryして使用する。Vulkan version番号だけで全機能を仮定しない。
5.2 shaderInt8は有利だが必須ではない
Vulkan 1.3ではshaderInt8は必須機能ではないため、feature queryが必要である。
shaderInt8が使える場合:
packed LNS8
-> low-bit / INT8 product state generation
-> subgroup state reduction
を狙う。
無い場合でも:
packed uint8 storage
-> uint32へ展開
-> integer ADD / SHIFT / Boolean / subgroup ops
でBitStateのアルゴリズム自体は検証できる。
したがって古めのVulkan GPUもPoC対象から即座に外す必要はない。
5.3 subgroup widthを固定しない
BitState GPU backendは
Tile = subgroup size
として設計し、32固定を前提にしない。
NVIDIA的な32-laneでも、AMD等の別subgroup幅でも、同じstate-set semanticsを維持する。
subgroup sizeを要求できるdeviceでは、32/64等をbenchmarkして最適点を測る。
6. GPUで期待したいHSDR階層
例えば K=4096 を複数subgroupで処理する。
Global memory
↓
packed low-bit load
↓
product state generation
↓
subgroup-local state reduction
↓
各subgroup: A[0..7]
↓
workgroup shared memory
↓
複数subgroupの8-way partialをmerge
↓
A[0..7]
↓
8 phaseだけfinal materialization
例えば4 subgroupでK方向を分割した場合、subgroup間へ渡す中間結果は概念上
4 subgroup × 8 integers = 32 integers
まで縮められる。
この階層はHSDRの
individual products
-> subgroup-local state aggregates
-> workgroup-local 8 aggregates
-> final 8-value materialization
とGPU hardware hierarchyが自然に一致する可能性がある。
7. 性能期待値 — 予測ではなくEngineering Target
現段階で「x倍高速」と予測する根拠はない。PoCでは、次の順に成功レベルを定義する。
Level 0 — correctness
- direct decode
- direct 8-phase accumulation
- bitslice / POPCOUNT histogram
- GPU subgroup implementation
が同じ A[0..7] と最終値を返す。
ここはbit-exactを要求する。
Level 1 — compute structureが成立
profile上、次が確認できる。
- product生成がpacked integer ADD中心
- K項をFP productへ展開していない
- state routing / population reductionがregister / subgroup中心
- intermediate stateをglobal memoryへ大量に書き戻していない
- final materializationが支配項でない
この時点でBitStateの計算モデルがhardwareへ自然に写像できたと判断する。
Level 2 — optimized low-bit kernelと同じ性能圏へ入る
初期実装の最重要目標は、いきなり既存kernelを上回ることではない。
layout / register scheduling / subgroup mappingを詰めた後に、既存optimized low-bit GEMVと同じorderのlatencyへ入れるかを見る。
ここまで来れば、state reductionという異なる計算方式に実装投資する価値が十分ある。
Level 3 — memory-bandwidth-boundへ近づく
最も狙いたい状態は:
compute/state-reduction cost <= weight supply cost
となり、profile上の支配要因がALU / dependencyではなくmemory trafficへ移ること。
これはBitStateの本命成功条件である。
Stretch Goal — sustainable memory bandwidthの70〜80%+付近
これは予測値ではなく、やる気の出るstretch targetとする。
対象hardwareで別途測定したsustainable streaming bandwidthに対し、decode kernelの実効weight bandwidthが70〜80%級まで到達し、compute側が明確に支配項でなくなれば非常に強い結果である。
hardware、weight layout、cache、batch、quantization formatによって達成可能値は大きく変わるため、数値そのものを性能保証として扱わない。
8. どの方式に最も期待するか
A. direct masked ADD — 最初に作るべき基準kernel
期待理由:
- transpose不要
- 数学が単純
- CPU SIMD / GPU SIMTへ直接写像可能
- Excel / scalar referenceとの比較が容易
この方式が十分速ければ、BitStateはPOPCOUNTを必須とせず成立する。
B. CPU bitslice + POPCOUNT — 転置後の高密度処理に期待
期待理由:
- Tile64全体を64bit Boolean演算で扱える
- membership条件の合成が非常に安い
- intermediate maskのlive rangeが短い
- 64 scalar predicateを少数Boolean opsへ縮められる
勝負点は明確で、transpose/state-set build costを後段の64-lane同時処理が回収できるかである。
B + state-set reuse — CPU側で最も大化けし得る候補
activation state-setを一度作り、多数output rowでreuseできる場合、固定費を大きく償却できる。
特にternary weightならrowごとの処理を
activation state mask
AND weight non-zero/sign mask
-> POPCOUNT
へ寄せられる可能性がある。
この領域はBitState/HSDRのdependency-breaking仮説と最も強く噛み合う。
GPU ballot版B — GPU側で最も試したい候補
CPUのbit transposeをsubgroup ballotへ置換できるため、B方式の最大の弱点が軽くなる可能性がある。
さらにGPUには:
- 多数subgroupの同時実行
- subgroup register communication
- workgroup shared memory
- output-row parallelism
がある。
BitStateの
state -> subgroup set -> 8 aggregates -> workgroup merge
という階層がhardware topologyへ自然に一致するかもしれない。
GPU PoCを作る理由として最も期待値が高い部分の一つである。
9. 最初の実装順序
性能探索は次の順序を推奨する。
Scalar direct A[8]
correctness reference。A[L3] += ±(1<<E4)。AVX2 direct masked/grouped ADD
transposeなしの現実的CPU baseline。Tile64 bitslice + POPCOUNT
transpose費を含むB方式の実測。reusable state-set variant
ternary / Bonsai2等でoutput-row reuseを測る。Vulkan Compute direct subgroup reduction
GPU A方式。Vulkan subgroup ballot state-set reduction
GPU B方式。explicit transposeをballotへ置換。multi-subgroup K split + workgroup 8-way merge
K=4096/5120を本来のGEMV形状で測る。model integration
end-to-end decode latency / TG128 / effective bandwidthを測る。
10. 測るべきもの
単一のmicrokernel nsだけでは判断しない。
最低限、以下を分離して測る。
1. weight / activation load
2. low-bit decode
3. product-state ADD / XOR
4. phase selector / state-set build
5. routing / masked reduction / POPCOUNT
6. K -> A[8] reduction
7. subgroup/workgroup merge
8. final 8-phase materialization
9. total kernel latency
10. effective weight bandwidth
CPU:
- cycles / output row
- cycles / weight
- instructions / weight
- uops / IPC
- POPCNT throughput
- cache misses
- measured memory bandwidth
- register spillの有無
GPU:
- kernel latency
- effective GB/s
- achieved memory throughput
- registers / invocation
- occupancy
- subgroup width
- ballot / shuffle / arithmetic cost
- shared-memory traffic
- spill / local-memory traffic
- memory stall vs execution stall
11. PoCの価値は「勝つこと」だけではない
このPoCは、Tensor Coreを置き換えるという主張ではない。
また、BitStateが必ず既存optimized GEMVを上回るという性能claimでもない。
検証したい問いは狭い。
巨大Kを持つ低bit GEMVにおいて、productを実数化せずstateのまま扱い、8-way routing / wide Boolean state-set / subgroup ballot / POPCOUNTによってreduction overheadを十分小さくし、kernelをmemory-bandwidth-boundへ押し込める領域が存在するか。
負けても、次のどこが支配したかを切り分けられればPoCとして価値がある。
product decode
phase routing
bit transpose
state-set construction
POPCOUNT
register pressure
subgroup reduction
shared-memory merge
memory traffic
逆に、一つでも現実的なCPU/GPUで
compute overhead << model weight transfer cost
へ近づく領域が見つかれば、BitStateをさらに詰める十分な理由になる。
12. 一緒に試してほしいポイント
BitStateは現時点では性能仮説であり、実装者の知見で大きく化ける余地がある。
特に知見が欲しいのは:
- AVX2/AVX-512での最小cost 8-way integer routing
- Tile64 bit transposeの実測最小cost
- POPCNTとmask-generationのinstruction scheduling
- register-resident state-set layout
- Vulkan subgroup ballot / arithmeticの実測cost
- 32 vs 64 subgroup sizeの差
- multi-subgroup K splitの最適数
- workgroup shared-memory mergeの最小化
- low-bit weight loadとstate reductionのpipeline / double buffering
- model row layoutとcoalesced / sequential memory accessの統合
このPoCで最も知りたいのは、「理論上できるか」ではなく、ordinary CPU/GPUの生のinteger / bit hardwareへ落としたとき、どこまでmemory wallへ迫れるかである。
目標はFLOPSを増やすことではない。必要なFLOPSそのものを減らし、最後までstateとして運び、weightを読み切る速度に計算を追いつかせること。