# BitState / HSDR v0.5 PoC向けレビュー補足 ## 結論 v0.5では、BitState/HSDRの中心説明を次へ更新する。 > **state-domainへ移すことでreduction dependencyを切断する。** POPCOUNTは重要な候補primitiveだが、v0.5では必須要件から外す。最も単純なcorrectness baselineは、final product state `S1|E4|L3` から `A[L3] += sign×(1< integer shift/add -> Q9.6` 経路は捨てず、correctness / performanceのreferenceとして残す。その上でv0.5でも、POPCOUNT後もlinear値へ実体化せず、relative fractional-LNSで最後まで縮約する経路を追加する。 ## 1. v0.5で明示する8点 1. state-domain reductionの目的は**dependency breaking**である。 2. activation state-setはoutput row間でreuseし、構築費をamortizeする。 3. signed POPCOUNT後の同一state populationは、`k + 8*log2(|count|)`で一つのfractional-LNS stateへfoldできる。 4. 8 phase / 16 bandは相対log位置として扱え、`+8 code = x2`をoctave移動にそのまま使える。 5. 最終state集合はserial accumulatorではなくbalanced LNS add/sub treeで縮約する。 6. dyadic reference pathとpure-LNS pathを別々に測る。 7. direct 8-phase pathをcorrectness baselineとして明示する。 8. phase maskは中間routing selectorであり、POPCOUNT自体を必須条件にしない。 ## 2. 既存設計から変わらない部分 - LNS8 base74 / 8 codes per octave - `phase = code & 7`, `band = code >> 3` - ternary weightをnonzero/sign maskへ落とす - Bonsai 2ではHadamard/sign transform後activationが入力契約 - group scaleは128-weight population reductionの外側 - CPUではTile64/Tile128、SWAR/AVX2/AVX-512候補 - GPUではballot/match-any等のbackend-native set construction - negative resultも有用とするPoC方針 ## 2.1 v0.5で追加したdirect 8-phase baseline 現行Excel `LNS8_base74_8step_zone8_popcount_demo_JA_v0.8_bitslice128_validation.xlsx` の手順を、correctness referenceとして明示する。 ```text final product state = S1 | E4 | L3 phase = L3 payload = sign × (1 << E4) A[phase] += payload ``` 128項ならTile64×2、GPU想定ならTile32×4として同じ数学を検証できる。`L2,L1,L0`から作るphase maskは64/32 laneの所属を示す中間selectorであり、最終値ではない。 full histogramを使う場合も: ```text A[p] = Σ_o H[p][o] × 2^o ``` となるため、direct pathとbit-exactに同じ8本へ到達する。 重要なのは、実GEMM/GEMVのK=4096/5120でも**全productを最終的に8本へ縮約する**こと。8本まで来れば最後の実数係数処理は小さい。したがって性能評価の本丸は `packed 8-bit product ADD` と `K→8 weighted routing/reduction` である。 ## 3. dependency breakingを性能モデルに入れる 従来の評価は主に総instructions/cyclesを見ていたが、v0.5では次も必須にする。 ```text - state-setを作る固定費 - POPCOUNTで何個のlane寄与を一括縮約できたか - POPCOUNT後のnon-zero bucket数 - dependent arithmetic stage数 - serial foldとbalanced treeのcritical-path差 ``` 128項だけでなく、K=4096/5120の実dotでも「K個のproduct stateを8本へどう縮約するか」を見る。direct pathは8本の独立integer accumulator、histogram pathはstate-domain population reductionとして比較する。 ## 4. pure fractional-LNS path signed population `C[k]` がnon-zeroなら、同じstateの重複は ```text sign = sign(C[k]) lambda = k + 8*log2(abs(C[k])) ``` へfoldできる。Tile128ではcountは最大128なのでtiny LUTでよい。 その後、same-sign / opposite-signのLNS add/sub correction LUTを使う。 ```text kappa_plus(d) = 8*log2(1 + 2^(-d/8)) kappa_minus(d) = 8*log2(1 - 2^(-d/8)) ``` 最終8 phaseは `8->4->2->1` の3-stage treeで統合する。phase内に複数bandが残る場合も同じprimitiveをbalanced treeで使う。 ## 5. `120..127` anchor / code122の位置づけ 上位octaveの8 codeをphaseごとの正規化anchorとして使える。 ```text k = 8*q + phase = (120 + phase) + 8*(q - 15) ``` code122はexact 64のpower-of-two anchor。重要なのは「64という実数へ変換する」ことではなく、**既知の相対log位置へstateを移す**ことである。 このrelative-state viewはBitStateの思想に合う。値をdecodeして計算するのではなく、表現できるbit/state位置のままどこまで操作を完結できるかを追う。 ## 6. dyadic pathとの区別 v0.5の優先dyadic referenceは、full histogramを必須とせず、各productから直接: `A[L3] += sign × (1< fractional-code offset - 8 phaseのrelative fractional-LNS coordinate - balanced 8->4->2->1 signed LNS reduction - direct decodeとの比較 を可視化する。Excelの`LOG/POWER`はruntime命令を意味せず、correctness referenceとしてのみ使う。 ## 8. PoCの優先順位 1. state-set reuseが成立するか 2. POPCOUNT後のbucket cardinalityが十分小さいか 3. dependency depthが実際に短くなるか 4. pure-LNS LUT/treeのcostと精度 5. dyadic pathとの直接比較 6. 最後にPTQ1 decode統合とend-to-end TG128 ## 9. 成功条件 以下のどれか一つでも出れば次段階へ進む価値がある。 - reusable state set後のrow costが既存経路に接近/勝利 - state-domain化でdependent stage数が大幅に減り、総latencyも競争力を持つ - pure-LNS finalizationがdyadic materializerより軽い - 特定CPUでcompact ternary traffic + POPCOUNT + short reduction treeが有利 - end-to-end TG128に小さくても再現可能な改善 負けた場合も、state cardinality / mask build / POPCOUNT / LUT / dependency depth / packing decodeのどこが支配したか分かればPoCとして価値がある。