BitState / Bitstate /BitState_PoC_review_notes_JA_v0.5.md
mktnhr's picture
NEW
2698a31 verified
|
Raw History Blame Contribute Delete
6.73 kB
# BitState / HSDR v0.5 PoC向けレビュー補足
## 結論
v0.5では、BitState/HSDRの中心説明を次へ更新する。
> **state-domainへ移すことでreduction dependencyを切断する。**
POPCOUNTは重要な候補primitiveだが、v0.5では必須要件から外す。最も単純なcorrectness baselineは、final product state `S1|E4|L3` から `A[L3] += sign×(1<<E4)` として8本のinteger accumulatorへ直接縮約する方式である。
既存v0.3の `8-ZONE -> integer shift/add -> Q9.6` 経路は捨てず、correctness / performanceのreferenceとして残す。その上でv0.5でも、POPCOUNT後もlinear値へ実体化せず、relative fractional-LNSで最後まで縮約する経路を追加する。
## 1. v0.5で明示する8点
1. state-domain reductionの目的は**dependency breaking**である。
2. activation state-setはoutput row間でreuseし、構築費をamortizeする。
3. signed POPCOUNT後の同一state populationは、`k + 8*log2(|count|)`で一つのfractional-LNS stateへfoldできる。
4. 8 phase / 16 bandは相対log位置として扱え、`+8 code = x2`をoctave移動にそのまま使える。
5. 最終state集合はserial accumulatorではなくbalanced LNS add/sub treeで縮約する。
6. dyadic reference pathとpure-LNS pathを別々に測る。
7. direct 8-phase pathをcorrectness baselineとして明示する。
8. phase maskは中間routing selectorであり、POPCOUNT自体を必須条件にしない。
## 2. 既存設計から変わらない部分
- LNS8 base74 / 8 codes per octave
- `phase = code & 7`, `band = code >> 3`
- ternary weightをnonzero/sign maskへ落とす
- Bonsai 2ではHadamard/sign transform後activationが入力契約
- group scaleは128-weight population reductionの外側
- CPUではTile64/Tile128、SWAR/AVX2/AVX-512候補
- GPUではballot/match-any等のbackend-native set construction
- negative resultも有用とするPoC方針
## 2.1 v0.5で追加したdirect 8-phase baseline
現行Excel `LNS8_base74_8step_zone8_popcount_demo_JA_v0.8_bitslice128_validation.xlsx` の手順を、correctness referenceとして明示する。
```text
final product state = S1 | E4 | L3
phase = L3
payload = sign × (1 << E4)
A[phase] += payload
```
128項ならTile64×2、GPU想定ならTile32×4として同じ数学を検証できる。`L2,L1,L0`から作るphase maskは64/32 laneの所属を示す中間selectorであり、最終値ではない。
full histogramを使う場合も:
```text
A[p] = Σ_o H[p][o] × 2^o
```
となるため、direct pathとbit-exactに同じ8本へ到達する。
重要なのは、実GEMM/GEMVのK=4096/5120でも**全productを最終的に8本へ縮約する**こと。8本まで来れば最後の実数係数処理は小さい。したがって性能評価の本丸は `packed 8-bit product ADD` と `K→8 weighted routing/reduction` である。
## 3. dependency breakingを性能モデルに入れる
従来の評価は主に総instructions/cyclesを見ていたが、v0.5では次も必須にする。
```text
- state-setを作る固定費
- POPCOUNTで何個のlane寄与を一括縮約できたか
- POPCOUNT後のnon-zero bucket数
- dependent arithmetic stage数
- serial foldとbalanced treeのcritical-path差
```
128項だけでなく、K=4096/5120の実dotでも「K個のproduct stateを8本へどう縮約するか」を見る。direct pathは8本の独立integer accumulator、histogram pathはstate-domain population reductionとして比較する。
## 4. pure fractional-LNS path
signed population `C[k]` がnon-zeroなら、同じstateの重複は
```text
sign = sign(C[k])
lambda = k + 8*log2(abs(C[k]))
```
へfoldできる。Tile128ではcountは最大128なのでtiny LUTでよい。
その後、same-sign / opposite-signのLNS add/sub correction LUTを使う。
```text
kappa_plus(d) = 8*log2(1 + 2^(-d/8))
kappa_minus(d) = 8*log2(1 - 2^(-d/8))
```
最終8 phaseは `8->4->2->1` の3-stage treeで統合する。phase内に複数bandが残る場合も同じprimitiveをbalanced treeで使う。
## 5. `120..127` anchor / code122の位置づけ
上位octaveの8 codeをphaseごとの正規化anchorとして使える。
```text
k = 8*q + phase
= (120 + phase) + 8*(q - 15)
```
code122はexact 64のpower-of-two anchor。重要なのは「64という実数へ変換する」ことではなく、**既知の相対log位置へstateを移す**ことである。
このrelative-state viewはBitStateの思想に合う。値をdecodeして計算するのではなく、表現できるbit/state位置のままどこまで操作を完結できるかを追う。
## 6. dyadic pathとの区別
v0.5の優先dyadic referenceは、full histogramを必須とせず、各productから直接: `A[L3] += sign × (1<<E4)` とする。histogramを使う場合の `count << band` はこのdirect pathとexactに同じ8本を生成する別実装である。どちらも数学的にはlinear/dyadic accumulatorである。
v0.5のpure-LNS pathは、そこまで実体化せず、population countをlog offset化してLNS add/sub treeへ直接入れる。
両者を混同せず、同じhistogram入力からA/B比較する。
## 7. Excel demoの更新方針
既存sheetは残す。
- `Zone_8`: dyadic reference
- `Popcount_8Table`: state-domain POPCOUNT検証
- `Pairwise_Add`: integer LNS8 rounded pair add
- `BitSlice128_一致確認` (Excel v0.8): Tile64×2のbitslice/routing説明とdirect 8-phase accumulatorの一致確認
追加sheetでは:
- population count -> fractional-code offset
- 8 phaseのrelative fractional-LNS coordinate
- balanced 8->4->2->1 signed LNS reduction
- direct decodeとの比較
を可視化する。Excelの`LOG/POWER`はruntime命令を意味せず、correctness referenceとしてのみ使う。
## 8. PoCの優先順位
1. state-set reuseが成立するか
2. POPCOUNT後のbucket cardinalityが十分小さいか
3. dependency depthが実際に短くなるか
4. pure-LNS LUT/treeのcostと精度
5. dyadic pathとの直接比較
6. 最後にPTQ1 decode統合とend-to-end TG128
## 9. 成功条件
以下のどれか一つでも出れば次段階へ進む価値がある。
- reusable state set後のrow costが既存経路に接近/勝利
- state-domain化でdependent stage数が大幅に減り、総latencyも競争力を持つ
- pure-LNS finalizationがdyadic materializerより軽い
- 特定CPUでcompact ternary traffic + POPCOUNT + short reduction treeが有利
- end-to-end TG128に小さくても再現可能な改善
負けた場合も、state cardinality / mask build / POPCOUNT / LUT / dependency depth / packing decodeのどこが支配したか分かればPoCとして価値がある。