Download Bitstate/BitState_PoC_review_notes_JA_v0.5.md from mktnhr/BitState: direct link, hf CLI and curl.
- Browser
- Download file 6.73 kB
-
https://huggingface.co/datasets/mktnhr/BitState/resolve/main/Bitstate/BitState_PoC_review_notes_JA_v0.5.md
- Command line
-
hf download hf://datasets/mktnhr/BitState/Bitstate/BitState_PoC_review_notes_JA_v0.5.md
-
curl -L -o BitState_PoC_review_notes_JA_v0.5.md https://huggingface.co/datasets/mktnhr/BitState/resolve/main/Bitstate/BitState_PoC_review_notes_JA_v0.5.md
BitState / HSDR v0.5 PoC向けレビュー補足
結論
v0.5では、BitState/HSDRの中心説明を次へ更新する。
state-domainへ移すことでreduction dependencyを切断する。
POPCOUNTは重要な候補primitiveだが、v0.5では必須要件から外す。最も単純なcorrectness baselineは、final product state S1|E4|L3 から A[L3] += sign×(1<<E4) として8本のinteger accumulatorへ直接縮約する方式である。
既存v0.3の 8-ZONE -> integer shift/add -> Q9.6 経路は捨てず、correctness / performanceのreferenceとして残す。その上でv0.5でも、POPCOUNT後もlinear値へ実体化せず、relative fractional-LNSで最後まで縮約する経路を追加する。
1. v0.5で明示する8点
- state-domain reductionの目的はdependency breakingである。
- activation state-setはoutput row間でreuseし、構築費をamortizeする。
- signed POPCOUNT後の同一state populationは、
k + 8*log2(|count|)で一つのfractional-LNS stateへfoldできる。 - 8 phase / 16 bandは相対log位置として扱え、
+8 code = x2をoctave移動にそのまま使える。 - 最終state集合はserial accumulatorではなくbalanced LNS add/sub treeで縮約する。
- dyadic reference pathとpure-LNS pathを別々に測る。
- direct 8-phase pathをcorrectness baselineとして明示する。
- phase maskは中間routing selectorであり、POPCOUNT自体を必須条件にしない。
2. 既存設計から変わらない部分
- LNS8 base74 / 8 codes per octave
phase = code & 7,band = code >> 3- ternary weightをnonzero/sign maskへ落とす
- Bonsai 2ではHadamard/sign transform後activationが入力契約
- group scaleは128-weight population reductionの外側
- CPUではTile64/Tile128、SWAR/AVX2/AVX-512候補
- GPUではballot/match-any等のbackend-native set construction
- negative resultも有用とするPoC方針
2.1 v0.5で追加したdirect 8-phase baseline
現行Excel LNS8_base74_8step_zone8_popcount_demo_JA_v0.8_bitslice128_validation.xlsx の手順を、correctness referenceとして明示する。
final product state = S1 | E4 | L3
phase = L3
payload = sign × (1 << E4)
A[phase] += payload
128項ならTile64×2、GPU想定ならTile32×4として同じ数学を検証できる。L2,L1,L0から作るphase maskは64/32 laneの所属を示す中間selectorであり、最終値ではない。
full histogramを使う場合も:
A[p] = Σ_o H[p][o] × 2^o
となるため、direct pathとbit-exactに同じ8本へ到達する。
重要なのは、実GEMM/GEMVのK=4096/5120でも全productを最終的に8本へ縮約すること。8本まで来れば最後の実数係数処理は小さい。したがって性能評価の本丸は packed 8-bit product ADD と K→8 weighted routing/reduction である。
3. dependency breakingを性能モデルに入れる
従来の評価は主に総instructions/cyclesを見ていたが、v0.5では次も必須にする。
- state-setを作る固定費
- POPCOUNTで何個のlane寄与を一括縮約できたか
- POPCOUNT後のnon-zero bucket数
- dependent arithmetic stage数
- serial foldとbalanced treeのcritical-path差
128項だけでなく、K=4096/5120の実dotでも「K個のproduct stateを8本へどう縮約するか」を見る。direct pathは8本の独立integer accumulator、histogram pathはstate-domain population reductionとして比較する。
4. pure fractional-LNS path
signed population C[k] がnon-zeroなら、同じstateの重複は
sign = sign(C[k])
lambda = k + 8*log2(abs(C[k]))
へfoldできる。Tile128ではcountは最大128なのでtiny LUTでよい。
その後、same-sign / opposite-signのLNS add/sub correction LUTを使う。
kappa_plus(d) = 8*log2(1 + 2^(-d/8))
kappa_minus(d) = 8*log2(1 - 2^(-d/8))
最終8 phaseは 8->4->2->1 の3-stage treeで統合する。phase内に複数bandが残る場合も同じprimitiveをbalanced treeで使う。
5. 120..127 anchor / code122の位置づけ
上位octaveの8 codeをphaseごとの正規化anchorとして使える。
k = 8*q + phase
= (120 + phase) + 8*(q - 15)
code122はexact 64のpower-of-two anchor。重要なのは「64という実数へ変換する」ことではなく、既知の相対log位置へstateを移すことである。
このrelative-state viewはBitStateの思想に合う。値をdecodeして計算するのではなく、表現できるbit/state位置のままどこまで操作を完結できるかを追う。
6. dyadic pathとの区別
v0.5の優先dyadic referenceは、full histogramを必須とせず、各productから直接: A[L3] += sign × (1<<E4) とする。histogramを使う場合の count << band はこのdirect pathとexactに同じ8本を生成する別実装である。どちらも数学的にはlinear/dyadic accumulatorである。
v0.5のpure-LNS pathは、そこまで実体化せず、population countをlog offset化してLNS add/sub treeへ直接入れる。
両者を混同せず、同じhistogram入力からA/B比較する。
7. Excel demoの更新方針
既存sheetは残す。
Zone_8: dyadic referencePopcount_8Table: state-domain POPCOUNT検証Pairwise_Add: integer LNS8 rounded pair addBitSlice128_一致確認(Excel v0.8): Tile64×2のbitslice/routing説明とdirect 8-phase accumulatorの一致確認
追加sheetでは:
- population count -> fractional-code offset
- 8 phaseのrelative fractional-LNS coordinate
- balanced 8->4->2->1 signed LNS reduction
- direct decodeとの比較
を可視化する。ExcelのLOG/POWERはruntime命令を意味せず、correctness referenceとしてのみ使う。
8. PoCの優先順位
- state-set reuseが成立するか
- POPCOUNT後のbucket cardinalityが十分小さいか
- dependency depthが実際に短くなるか
- pure-LNS LUT/treeのcostと精度
- dyadic pathとの直接比較
- 最後にPTQ1 decode統合とend-to-end TG128
9. 成功条件
以下のどれか一つでも出れば次段階へ進む価値がある。
- reusable state set後のrow costが既存経路に接近/勝利
- state-domain化でdependent stage数が大幅に減り、総latencyも競争力を持つ
- pure-LNS finalizationがdyadic materializerより軽い
- 特定CPUでcompact ternary traffic + POPCOUNT + short reduction treeが有利
- end-to-end TG128に小さくても再現可能な改善
負けた場合も、state cardinality / mask build / POPCOUNT / LUT / dependency depth / packing decodeのどこが支配したか分かればPoCとして価値がある。