BitState / Bitstate /BitState_PoC_review_notes_JA_v0.5.md
mktnhr's picture
NEW
2698a31 verified
|
Raw History Blame Contribute Delete
6.73 kB

BitState / HSDR v0.5 PoC向けレビュー補足

結論

v0.5では、BitState/HSDRの中心説明を次へ更新する。

state-domainへ移すことでreduction dependencyを切断する。

POPCOUNTは重要な候補primitiveだが、v0.5では必須要件から外す。最も単純なcorrectness baselineは、final product state S1|E4|L3 から A[L3] += sign×(1<<E4) として8本のinteger accumulatorへ直接縮約する方式である。

既存v0.3の 8-ZONE -> integer shift/add -> Q9.6 経路は捨てず、correctness / performanceのreferenceとして残す。その上でv0.5でも、POPCOUNT後もlinear値へ実体化せず、relative fractional-LNSで最後まで縮約する経路を追加する。

1. v0.5で明示する8点

  1. state-domain reductionの目的はdependency breakingである。
  2. activation state-setはoutput row間でreuseし、構築費をamortizeする。
  3. signed POPCOUNT後の同一state populationは、k + 8*log2(|count|)で一つのfractional-LNS stateへfoldできる。
  4. 8 phase / 16 bandは相対log位置として扱え、+8 code = x2をoctave移動にそのまま使える。
  5. 最終state集合はserial accumulatorではなくbalanced LNS add/sub treeで縮約する。
  6. dyadic reference pathとpure-LNS pathを別々に測る。
  7. direct 8-phase pathをcorrectness baselineとして明示する。
  8. phase maskは中間routing selectorであり、POPCOUNT自体を必須条件にしない。

2. 既存設計から変わらない部分

  • LNS8 base74 / 8 codes per octave
  • phase = code & 7, band = code >> 3
  • ternary weightをnonzero/sign maskへ落とす
  • Bonsai 2ではHadamard/sign transform後activationが入力契約
  • group scaleは128-weight population reductionの外側
  • CPUではTile64/Tile128、SWAR/AVX2/AVX-512候補
  • GPUではballot/match-any等のbackend-native set construction
  • negative resultも有用とするPoC方針

2.1 v0.5で追加したdirect 8-phase baseline

現行Excel LNS8_base74_8step_zone8_popcount_demo_JA_v0.8_bitslice128_validation.xlsx の手順を、correctness referenceとして明示する。

final product state = S1 | E4 | L3
phase   = L3
payload = sign × (1 << E4)
A[phase] += payload

128項ならTile64×2、GPU想定ならTile32×4として同じ数学を検証できる。L2,L1,L0から作るphase maskは64/32 laneの所属を示す中間selectorであり、最終値ではない。

full histogramを使う場合も:

A[p] = Σ_o H[p][o] × 2^o

となるため、direct pathとbit-exactに同じ8本へ到達する。

重要なのは、実GEMM/GEMVのK=4096/5120でも全productを最終的に8本へ縮約すること。8本まで来れば最後の実数係数処理は小さい。したがって性能評価の本丸は packed 8-bit product ADD と K→8 weighted routing/reduction である。

3. dependency breakingを性能モデルに入れる

従来の評価は主に総instructions/cyclesを見ていたが、v0.5では次も必須にする。

- state-setを作る固定費
- POPCOUNTで何個のlane寄与を一括縮約できたか
- POPCOUNT後のnon-zero bucket数
- dependent arithmetic stage数
- serial foldとbalanced treeのcritical-path差

128項だけでなく、K=4096/5120の実dotでも「K個のproduct stateを8本へどう縮約するか」を見る。direct pathは8本の独立integer accumulator、histogram pathはstate-domain population reductionとして比較する。

4. pure fractional-LNS path

signed population C[k] がnon-zeroなら、同じstateの重複は

sign   = sign(C[k])
lambda = k + 8*log2(abs(C[k]))

へfoldできる。Tile128ではcountは最大128なのでtiny LUTでよい。

その後、same-sign / opposite-signのLNS add/sub correction LUTを使う。

kappa_plus(d)  = 8*log2(1 + 2^(-d/8))
kappa_minus(d) = 8*log2(1 - 2^(-d/8))

最終8 phaseは 8->4->2->1 の3-stage treeで統合する。phase内に複数bandが残る場合も同じprimitiveをbalanced treeで使う。

5. 120..127 anchor / code122の位置づけ

上位octaveの8 codeをphaseごとの正規化anchorとして使える。

k = 8*q + phase
  = (120 + phase) + 8*(q - 15)

code122はexact 64のpower-of-two anchor。重要なのは「64という実数へ変換する」ことではなく、既知の相対log位置へstateを移すことである。

このrelative-state viewはBitStateの思想に合う。値をdecodeして計算するのではなく、表現できるbit/state位置のままどこまで操作を完結できるかを追う。

6. dyadic pathとの区別

v0.5の優先dyadic referenceは、full histogramを必須とせず、各productから直接: A[L3] += sign × (1<<E4) とする。histogramを使う場合の count << band はこのdirect pathとexactに同じ8本を生成する別実装である。どちらも数学的にはlinear/dyadic accumulatorである。

v0.5のpure-LNS pathは、そこまで実体化せず、population countをlog offset化してLNS add/sub treeへ直接入れる。

両者を混同せず、同じhistogram入力からA/B比較する。

7. Excel demoの更新方針

既存sheetは残す。

  • Zone_8: dyadic reference
  • Popcount_8Table: state-domain POPCOUNT検証
  • Pairwise_Add: integer LNS8 rounded pair add
  • BitSlice128_一致確認 (Excel v0.8): Tile64×2のbitslice/routing説明とdirect 8-phase accumulatorの一致確認

追加sheetでは:

  • population count -> fractional-code offset
  • 8 phaseのrelative fractional-LNS coordinate
  • balanced 8->4->2->1 signed LNS reduction
  • direct decodeとの比較

を可視化する。ExcelのLOG/POWERはruntime命令を意味せず、correctness referenceとしてのみ使う。

8. PoCの優先順位

  1. state-set reuseが成立するか
  2. POPCOUNT後のbucket cardinalityが十分小さいか
  3. dependency depthが実際に短くなるか
  4. pure-LNS LUT/treeのcostと精度
  5. dyadic pathとの直接比較
  6. 最後にPTQ1 decode統合とend-to-end TG128

9. 成功条件

以下のどれか一つでも出れば次段階へ進む価値がある。

  • reusable state set後のrow costが既存経路に接近/勝利
  • state-domain化でdependent stage数が大幅に減り、総latencyも競争力を持つ
  • pure-LNS finalizationがdyadic materializerより軽い
  • 特定CPUでcompact ternary traffic + POPCOUNT + short reduction treeが有利
  • end-to-end TG128に小さくても再現可能な改善

負けた場合も、state cardinality / mask build / POPCOUNT / LUT / dependency depth / packing decodeのどこが支配したか分かればPoCとして価値がある。