BitState / Bitstate /BitState_PoC_performance_expectations_JA_v0.5.md
mktnhr's picture
NEW
2698a31 verified
|
Raw History Blame Contribute Delete
18.1 kB

BitState / HSDR PoC — 性能期待値と実装ターゲット v0.5

Status: 実装前の性能仮説 / PoC motivation。性能保証ではない。
Primary target: low-bit / ternary LLM GEMV、batch-1 decodeを最優先。
Reference: BitState_PoC_technical_brief_EN_v0.5.md、BitState_HSDR_v0.5_ja_WHT-RMSNorm-premise.md、LNS8_base74_8step_zone8_popcount_demo_JA_v0.8_bitslice128_validation.xlsx


1. 何を狙うPoCか

BitState/HSDRの現在の中心課題は、LNS8 productを実数へ展開してから通常のMACを行うのではなく、productを最後まで低bit stateとして扱い、巨大なGEMV/GEMM reductionを8本のphase aggregateへ落とせるか、という点にある。

final product stateを

S1 | E4 | L3

とみなすと、direct dyadic pathは各productについて

phase   = L3
payload = sign * (1 << E4)
A[phase] += payload

となる。

したがって、1 output dotに K=4096 / 5120 のproductがあっても、最終的に残す必要がある整数状態は

A[0] ... A[7]

の8本だけである。最後に8種類のfractional-log係数を適用し、8項だけを数値実体化すればよい。

BitStateが性能上狙いたいのは、Tensor Coreのpeak FLOPSと競争することではない。

decode-likeな低arithmetical-intensity領域で、product生成とreductionをADD / SHIFT / Boolean / mask / ballot / POPCOUNT中心へ落とし、計算側の時間をweight-fetch時間の陰へ押し込む。最終的にkernelをmemory-bandwidth-boundへ近づける。

これが達成できれば、BitState PoCとして非常に強い成功とみなす。


2. 現在比較すべき4方式

方式 強み 弱み 特に期待する領域
A. direct masked ADD explicit transpose不要。L3 -> selector、E4 -> shift、S1 -> +/- をそのまま整数SIMD/SIMTへ写像できる 8-wayのmask / grouped reductionを各Tileで処理する必要がある 最初のperformance baseline。CPU/GPU双方で実装しやすい
B. bitslice + POPCOUNT transpose後は1 Boolean演算で32/64 laneを同時処理できる。複数条件をbitset上で合成できる CPUではstate-set生成 / bit transposeの固定費がある 64-lane state processingの密度がtranspose費を上回るかを検証
B + state-set再利用 state-set構築費を多数output rowへamortizeできる。row側がAND/XOR/POPCOUNT中心まで単純化する可能性 activation側state-setを再利用可能なモデル / factorizationが必要 ternary、shared-scale、Bonsai2系。最も大化けする可能性がある
GPU ballot版B CPUのexplicit transposeをsubgroup ballotで置換できる。subgroupのlane集合がそのままbitsetになる subgroup feature差、register pressure、workgroup merge設計が必要 GPUでBitState state-set化を最も自然に試せる候補

AとBはfallback関係ではない。同じ数学を異なるhardware representationで実装する競合kernelである。

A: lane/SIMD/SIMT state
   -> phase selector
   -> masked/grouped integer reduction
   -> A[8]

B: lane state
   -> bitset / ballot state-set
   -> Boolean membership intersection
   -> POPCOUNT / shift reduction
   -> A[8]

3. 期待できる性能上の理由

3.1 LNS productの主演算をMULから整数ADDへ置換できる

LNS8 magnitude productは、必要なlog-domain offsetを反映した後、基本的にcode ADDとして生成できる。

activation code
+ weight / scale log offset
---------------------------
final product state

signはXOR / maskで処理する。

低bit product生成の段階で一般的なFP/INT multiplyを避けられることが最初の利点である。

3.2 K個のproductをK個の実数へ展開しない

通常の見方では、K=4096なら4096個のproductを数値として扱い、長いreductionを行う。

BitStateではproductを

S1 = sign
E4 = power-of-two shift position
L3 = 8-way destination

として扱うため、K個すべてについて「実数値そのもの」を知る必要がない。

3.3 最終linear materializationは8項だけ

K項の処理後に残るのは A[0..7] だけであり、2の冪でない係数を適用する場所は8 phaseだけでよい。

したがって最終materializationそのものは支配項になりにくい。支配項は K product states -> 8 aggregates のrouting / reductionである。

3.4 8 accumulatorでdependencyを分散できる

1本のserial accumulatorへK回依存するのではなく、phaseごとに独立した8本へ分けられる。

A0  A1  A2  A3  A4  A5  A6  A7

CPUでは複数execution port / SIMD lane、GPUではsubgroup / warp内groupingを使って、依存鎖を複数本へ分散できる可能性がある。

3.5 bitslice後は条件判定密度が非常に高い

Tile64をbitsliceすると、例えば

M[101] = L2 & ~L1 & L0

という数個のBoolean演算で、64 laneすべてについて phase==5 のmembershipを一斉に生成できる。

さらに E4 / sign条件も同じ64bit bitsetへANDできる。

phase condition
AND exponent condition
AND sign condition
-> 64-lane membership mask
-> POPCOUNT

この「64 scalar predicatesを1本のBoolean expressionへ変換する」密度が、transpose費を超えられるかがCPU bitslice PoCの中心テーマになる。

3.6 GPUではbit transposeがballotへ置き換わる可能性がある

GPU subgroupでは、各invocationが持つpredicateをballotで一つのsubgroup maskへ投影できる。

32/64 lane state
    ↓
subgroup ballot
    ↓
state membership bitset

したがってCPUで必要なexplicit bit transposeが、GPUではbackend-native subgroup operationへ変わる。

これはGPU版Bを特に試す価値がある理由である。


4. CPUターゲット

4.1 理論整合性ターゲット

最初のcorrectness確認は特殊vector命令を要求しない。

64-bit integer
AND / OR / XOR / NOT
SHIFT
integer ADD / SUB
POPCOUNT

でTile64のstate-set pathを表現できる。

4.2 実用PoCの推奨baseline: x86-64 AVX2 + POPCNT

最初に性能を測るCPU baselineとしては、AVX2 + POPCNTが扱いやすい。

A方式では、native masked ADDがなくても

vector compare
-> AND / zeroing
-> vector ADD

でphase選択を実装できる。

B方式では、AVX2/SWARをstate extraction / transpose front-endに使い、最終membership maskをscalar 64-bit POPCNTへ渡す構成を試せる。

このbaselineなら、特殊な最新CPUだけを対象にせず、比較的広いx86-64環境でPoCできる。

4.3 上位最適化: AVX-512

AVX-512では次が期待できる。

  • native mask register
  • masked integer ADD
  • wider vector lane processing
  • CPUによってはvector POPCOUNT
  • 多数のvector registerによるregister-resident working set

A方式ではmask routingがより直接的になり、B方式ではmask/state-set処理をさらにwideにできる。

ただしAVX-512をBitState成立の必須条件にはしない。AVX2で成立性を見て、AVX-512で上限を探る順序を推奨する。

4.4 ARM

NEON / SVEも論理的には適用可能である。特にSVE predicateはphase membership maskと概念的な相性が良い。

最初のPoCはx86-64を優先し、数値仕様とstate semanticsを固定した後にbackendを増やす。


5. GPUターゲット — Vulkan Computeを第一級backendとして扱える

CUDA固有機能はBitStateの必須条件ではない。

BitStateで主に必要なのは:

integer ADD / SHIFT
Boolean ops
subgroup ballot
bit count
subgroup shuffle / reduction
workgroup shared memory

であり、Vulkan Computeで表現可能である。

5.1 実用baselineとしてVulkan 1.3を推奨

Vulkan subgroup自体は1.1以降のcore APIでqueryできるため、理論上の最低線は1.3より古くてもよい。

一方PoCの実用baselineとして Vulkan 1.3 を選ぶ理由は:

  • modern compute toolchainとして扱いやすい
  • subgroup size controlがcoreへ昇格している
  • NVIDIA / AMD / Intelを同じbackend abstractionで試せる
  • CUDA専用kernelにせず、BitStateのbackend independenceを検証できる

ためである。

ただし BALLOT / ARITHMETIC / SHUFFLE はdevice capabilityをqueryして使用する。Vulkan version番号だけで全機能を仮定しない。

5.2 shaderInt8は有利だが必須ではない

Vulkan 1.3ではshaderInt8は必須機能ではないため、feature queryが必要である。

shaderInt8が使える場合:

packed LNS8
-> low-bit / INT8 product state generation
-> subgroup state reduction

を狙う。

無い場合でも:

packed uint8 storage
-> uint32へ展開
-> integer ADD / SHIFT / Boolean / subgroup ops

でBitStateのアルゴリズム自体は検証できる。

したがって古めのVulkan GPUもPoC対象から即座に外す必要はない。

5.3 subgroup widthを固定しない

BitState GPU backendは

Tile = subgroup size

として設計し、32固定を前提にしない。

NVIDIA的な32-laneでも、AMD等の別subgroup幅でも、同じstate-set semanticsを維持する。

subgroup sizeを要求できるdeviceでは、32/64等をbenchmarkして最適点を測る。


6. GPUで期待したいHSDR階層

例えば K=4096 を複数subgroupで処理する。

Global memory
    ↓
packed low-bit load
    ↓
product state generation
    ↓
subgroup-local state reduction
    ↓
各subgroup: A[0..7]
    ↓
workgroup shared memory
    ↓
複数subgroupの8-way partialをmerge
    ↓
A[0..7]
    ↓
8 phaseだけfinal materialization

例えば4 subgroupでK方向を分割した場合、subgroup間へ渡す中間結果は概念上

4 subgroup × 8 integers = 32 integers

まで縮められる。

この階層はHSDRの

individual products
-> subgroup-local state aggregates
-> workgroup-local 8 aggregates
-> final 8-value materialization

とGPU hardware hierarchyが自然に一致する可能性がある。


7. 性能期待値 — 予測ではなくEngineering Target

現段階で「x倍高速」と予測する根拠はない。PoCでは、次の順に成功レベルを定義する。

Level 0 — correctness

  • direct decode
  • direct 8-phase accumulation
  • bitslice / POPCOUNT histogram
  • GPU subgroup implementation

が同じ A[0..7] と最終値を返す。

ここはbit-exactを要求する。

Level 1 — compute structureが成立

profile上、次が確認できる。

  • product生成がpacked integer ADD中心
  • K項をFP productへ展開していない
  • state routing / population reductionがregister / subgroup中心
  • intermediate stateをglobal memoryへ大量に書き戻していない
  • final materializationが支配項でない

この時点でBitStateの計算モデルがhardwareへ自然に写像できたと判断する。

Level 2 — optimized low-bit kernelと同じ性能圏へ入る

初期実装の最重要目標は、いきなり既存kernelを上回ることではない。

layout / register scheduling / subgroup mappingを詰めた後に、既存optimized low-bit GEMVと同じorderのlatencyへ入れるかを見る。

ここまで来れば、state reductionという異なる計算方式に実装投資する価値が十分ある。

Level 3 — memory-bandwidth-boundへ近づく

最も狙いたい状態は:

compute/state-reduction cost <= weight supply cost

となり、profile上の支配要因がALU / dependencyではなくmemory trafficへ移ること。

これはBitStateの本命成功条件である。

Stretch Goal — sustainable memory bandwidthの70〜80%+付近

これは予測値ではなく、やる気の出るstretch targetとする。

対象hardwareで別途測定したsustainable streaming bandwidthに対し、decode kernelの実効weight bandwidthが70〜80%級まで到達し、compute側が明確に支配項でなくなれば非常に強い結果である。

hardware、weight layout、cache、batch、quantization formatによって達成可能値は大きく変わるため、数値そのものを性能保証として扱わない。


8. どの方式に最も期待するか

A. direct masked ADD — 最初に作るべき基準kernel

期待理由:

  • transpose不要
  • 数学が単純
  • CPU SIMD / GPU SIMTへ直接写像可能
  • Excel / scalar referenceとの比較が容易

この方式が十分速ければ、BitStateはPOPCOUNTを必須とせず成立する。

B. CPU bitslice + POPCOUNT — 転置後の高密度処理に期待

期待理由:

  • Tile64全体を64bit Boolean演算で扱える
  • membership条件の合成が非常に安い
  • intermediate maskのlive rangeが短い
  • 64 scalar predicateを少数Boolean opsへ縮められる

勝負点は明確で、transpose/state-set build costを後段の64-lane同時処理が回収できるかである。

B + state-set reuse — CPU側で最も大化けし得る候補

activation state-setを一度作り、多数output rowでreuseできる場合、固定費を大きく償却できる。

特にternary weightならrowごとの処理を

activation state mask
AND weight non-zero/sign mask
-> POPCOUNT

へ寄せられる可能性がある。

この領域はBitState/HSDRのdependency-breaking仮説と最も強く噛み合う。

GPU ballot版B — GPU側で最も試したい候補

CPUのbit transposeをsubgroup ballotへ置換できるため、B方式の最大の弱点が軽くなる可能性がある。

さらにGPUには:

  • 多数subgroupの同時実行
  • subgroup register communication
  • workgroup shared memory
  • output-row parallelism

がある。

BitStateの

state -> subgroup set -> 8 aggregates -> workgroup merge

という階層がhardware topologyへ自然に一致するかもしれない。

GPU PoCを作る理由として最も期待値が高い部分の一つである。


9. 最初の実装順序

性能探索は次の順序を推奨する。

  1. Scalar direct A[8]
    correctness reference。A[L3] += ±(1<<E4)。

  2. AVX2 direct masked/grouped ADD
    transposeなしの現実的CPU baseline。

  3. Tile64 bitslice + POPCOUNT
    transpose費を含むB方式の実測。

  4. reusable state-set variant
    ternary / Bonsai2等でoutput-row reuseを測る。

  5. Vulkan Compute direct subgroup reduction
    GPU A方式。

  6. Vulkan subgroup ballot state-set reduction
    GPU B方式。explicit transposeをballotへ置換。

  7. multi-subgroup K split + workgroup 8-way merge
    K=4096/5120を本来のGEMV形状で測る。

  8. model integration
    end-to-end decode latency / TG128 / effective bandwidthを測る。


10. 測るべきもの

単一のmicrokernel nsだけでは判断しない。

最低限、以下を分離して測る。

1. weight / activation load
2. low-bit decode
3. product-state ADD / XOR
4. phase selector / state-set build
5. routing / masked reduction / POPCOUNT
6. K -> A[8] reduction
7. subgroup/workgroup merge
8. final 8-phase materialization
9. total kernel latency
10. effective weight bandwidth

CPU:

  • cycles / output row
  • cycles / weight
  • instructions / weight
  • uops / IPC
  • POPCNT throughput
  • cache misses
  • measured memory bandwidth
  • register spillの有無

GPU:

  • kernel latency
  • effective GB/s
  • achieved memory throughput
  • registers / invocation
  • occupancy
  • subgroup width
  • ballot / shuffle / arithmetic cost
  • shared-memory traffic
  • spill / local-memory traffic
  • memory stall vs execution stall

11. PoCの価値は「勝つこと」だけではない

このPoCは、Tensor Coreを置き換えるという主張ではない。

また、BitStateが必ず既存optimized GEMVを上回るという性能claimでもない。

検証したい問いは狭い。

巨大Kを持つ低bit GEMVにおいて、productを実数化せずstateのまま扱い、8-way routing / wide Boolean state-set / subgroup ballot / POPCOUNTによってreduction overheadを十分小さくし、kernelをmemory-bandwidth-boundへ押し込める領域が存在するか。

負けても、次のどこが支配したかを切り分けられればPoCとして価値がある。

product decode
phase routing
bit transpose
state-set construction
POPCOUNT
register pressure
subgroup reduction
shared-memory merge
memory traffic

逆に、一つでも現実的なCPU/GPUで

compute overhead << model weight transfer cost

へ近づく領域が見つかれば、BitStateをさらに詰める十分な理由になる。


12. 一緒に試してほしいポイント

BitStateは現時点では性能仮説であり、実装者の知見で大きく化ける余地がある。

特に知見が欲しいのは:

  • AVX2/AVX-512での最小cost 8-way integer routing
  • Tile64 bit transposeの実測最小cost
  • POPCNTとmask-generationのinstruction scheduling
  • register-resident state-set layout
  • Vulkan subgroup ballot / arithmeticの実測cost
  • 32 vs 64 subgroup sizeの差
  • multi-subgroup K splitの最適数
  • workgroup shared-memory mergeの最小化
  • low-bit weight loadとstate reductionのpipeline / double buffering
  • model row layoutとcoalesced / sequential memory accessの統合

このPoCで最も知りたいのは、「理論上できるか」ではなく、ordinary CPU/GPUの生のinteger / bit hardwareへ落としたとき、どこまでmemory wallへ迫れるかである。

目標はFLOPSを増やすことではない。必要なFLOPSそのものを減らし、最後までstateとして運び、weightを読み切る速度に計算を追いつかせること。