BitState / Bitstate /BitState_HSDR_v0.5_ja_WHT-RMSNorm-premise.md
mktnhr's picture
NEW
2698a31 verified
|
Raw History Blame Contribute Delete
52 kB

BitState / HSDR

低ビットLLM推論のための有限状態度数縮約と依存鎖切断型log-domain reduction

実装提案 v0.5 日本語版
主対象: 低ビットLLMのGEMV / 小バッチdecode
Reference / 検証経路: LNS8 → finite-state population reduction → wide integer/fixed-point → optional Q9.6 → LNS8
最適化候補経路: LNS8 → state-domain population reduction → relative fractional-LNS → balanced LNS add/sub tree → LNS8


1. 目的

BitStateは、低ビット推論のreduction問題を、不可避な数値加算より先に有限な state domain へ移す計算モデルである。

中心となる考え方は次の一文に集約する。

state-domainへ移すことでreduction dependencyを切断する。 wideなstate setを形成し、等価状態を並列に数え、圧縮後に残った小さなstate集合だけを最終reductionへ渡す。

数値実体化を後段へ遅延することは引き続き重要だが、v0.5ではそれをより強い目的――長い逐次数値加算鎖を、並列な集合演算+短い最終reductionへ置換すること――の結果として位置付ける。

主要パイプラインは次のとおり。v0.5では、最終product stateから8本のphase integer accumulatorへ直接縮約する経路を、最も単純なcorrectness / implementation baselineとして明示する。full-state POPCOUNT histogramは、dependency breakingをより強く狙う別経路として残す。

packed low-bit values
    ↓
packed LNS product-state ADD / sign XOR
    ↓
final product state = S1 | E4 | L3
    ↓
State Tile (CPU: Tile64 / GPU: Tile32など)
    ↓
phase routing / state-set construction
    ├───────────────────────────────────────────────┐
    │                                               │
    │ Direct 8-phase dyadic path                    │ Population / Pure-LNS path
    ↓                                               ↓
A[L3] += sign × (1 << E4)                  signed state populations
    ↓                                               ↓
8 integer accumulators                     dyadic histogram or fractional-LNS
    ↓                                               ↓
8 phase coefficients + short final sum     balanced κ± add/sub tree
    ↓                                               ↓
optional Q9.6 / LNS8 boundary               LNS8 boundary

最適化経路では、product生成から最終reductionまでlogarithmic coordinateのまま保持してよく、GEMV reduction内部でFP/linear materializationを必須としない。

主な最適化対象はピークFLOPSではない。対象はdecodeパイプライン全体である。

memory load + low-bit decode + product generation + reduction + re-encoding

1.1 前提 — 回転量子化によって狭い数値域が現実的になってきた

BitStateがLNS8やQ9.6のような比較的狭い数値表現を検討できる背景には、近年の低ビットLLMで 回転量子化(rotation-aware quantization) が実用化され、QuaRotやSpinQuantに代表されるように、WHT / Hadamard rotationなどで外れ値やエネルギー集中を複数次元へ再分配した状態で低ビット化する設計が広がっていることがある。

この前提は、「すべてのモデルでfull-scale dynamic rangeが不要」という意味ではない。重要なのは、推論kernelがBF16/FP16の理論上の全dynamic rangeを無条件に再現するのではなく、回転後に実際に現れるactivation / weight distributionを測定し、その必要範囲に合わせて内部表現を設計できるモデルが増えているという点である。

Bonsai2は具体例である。公開されているBonsai2のモデル資料では、language model側のweightはblockwise Hadamard-rotated basisで保存され、runtimeがmatching transformをactivationへ適用することが明記されている。低ビット化の対象にはembedding、attention projection、MLP projection、LM headが含まれる。またMLX版では、通常loaderがactivation transformとinverse embedding lookupを行わない場合に誤った出力になることも明記されている。

したがってBonsai2では、回転は単なるquantizer前処理ではなく、checkpointとruntimeの間で維持される数値basisの契約になっている。token embedding / token pathもこの契約に含まれ、embedding lookup境界では対応するinverse transformが必要になる。

multimodalについては区別が必要である。公開資料上、vision tower自体は非回転・非量子化のFP16で保持される構成がある。一方、projected visual tokensがlanguage modelへ入った後は、language model側のrotation-aware activation pathを通る必要がある。したがって multimodal interfaceもlanguage-model側のbasis contractから独立ではない が、vision towerそのものがHadamard回転されているという意味ではない。

Bonsai2の公開資料だけからquantization-aware trainingの全recipeを確定することはできない。ただし、配布checkpoint自体がrotated basisを前提とし、activation transformとinverse embedding lookupを必須とすることから、少なくとも rotation-awareな低ビット最適化を前提にしたモデル / runtime設計 であることは明確である。本書ではこの傾向を、LNS8 / Q9.6の必要dynamic rangeを実測ベースで狭められる可能性を持つ重要な前提とする。

BitState実装では、各モデルについて次を必ず測定する。

  • WHT / rotation前後のactivation absolute maximum
  • RMSNorm前後、およびlearned gain gamma 適用前後のactivation absolute maximum
  • RMS / percentile distribution
  • layer別の必要dynamic range
  • LNS8 saturation / underflow率
  • Q9.6 saturation率
  • rotationを含むend-to-end quality差

つまり、回転によってfull-scale保持を機械的に捨てるのではなく、回転後の実測分布を根拠に必要範囲だけを保持する。

参考:

1.2 前提 — RMSNormの普及により、GEMM直前activationの絶対レンジも管理しやすい

回転量子化とは別に、近年のdecoder-only LLMでは RMSNorm が広く採用されている。Qwen3.5、Gemma 3、Llama 4、Mistral系など、主要な新しいモデルfamilyでRMS normalization layerが使われている。したがってBitStateでは、WHT / rotationだけでなく、RMSNorm後のactivation domainをLNS8へ入れるintegration pointも重要な対象とする。

RMSNormはoutlierを個別にclipする処理ではない。tokenごとのhidden vector x 全体を、そのroot-mean-squareで共通にrescaleする。learned gainを掛ける前の正規化値を u とすると、概念的には:

u_i = x_i / sqrt(mean_j(x_j^2) + eps)

であり、hidden dimensionを d とすれば:

sum_i(u_i^2) <= d

したがって各要素には次の理論上限がある:

|u_i| <= sqrt(d)

これは「channel-wise outlierが消える」という意味ではない。1つのchannelへエネルギーが極端に集中することは残り得るが、RMSNorm前に存在した数万~数十万という絶対値そのものは、正規化後にはhidden dimension由来の有限範囲へ押し戻される。WHT / Hadamard rotationはその次に、残ったchannel-wise concentrationを複数次元へ再分配できる。このためRMSNormとWHTは競合する処理ではなく、BitStateから見ると互いに補完的である。

現在のLNS8基準format S1E4L3 / base74 は、最大magnitudeが:

x_max = 2^((127 - 74)/8) ~= 98.7015

である。したがって gamma 適用前のRMS-normalized activationを直接LNS8へencodeする場合、理論上はおおよそ:

d <= x_max^2 ~= 9741.98

まで、RMSNorm由来の最悪1-axis concentrationをsaturationなしで覆える。代表例:

hidden 5120  -> sqrt(d) ~= 71.55
hidden 8192  -> sqrt(d) ~= 90.51
hidden 9216  -> sqrt(d) = 96.00
hidden 12288 -> sqrt(d) ~= 110.85

したがって5120~9216級では、current base74 / S1E4L3の約±98.7 rangeが RMSNorm直後の理論上限そのものを包含できる。12288級では理論最悪値だけが上限を約12%超えるため、次のいずれかを実測で選ぶ:

  1. 稀なoverflowだけをLNS8最大値へsaturate / clampする;
  2. tensor / model metadataのsystem exponent offsetをわずかに上側へずらす(例: code 72 = 1.0 なら最大値は約117.38);
  3. 実測上wide rangeが本当に必要なtensorだけ、将来のwide-range profile / escape pathを使う。

ただし実際のRMSNormは通常、正規化後にlearned gain gamma_i を掛けるため、最終出力は厳密には sqrt(d) を超え得る。したがってBitStateは、RMS normalization後・gamma 適用前をencode点にする、gamma を後続linear weightへfoldできる箇所ではfoldする、またはgamma適用後の実測分布でrangeを決める、のいずれかをmodel/backendごとに選択する。

この前提の目的は、「RMSNormがあるからfull-scale supportは不要」と断定することではない。WHT / rotation済み、またはRMSNormによって絶対rangeが管理されたactivation pathでは、稀な理論外れ値のために全要素のLNS8 precisionを犠牲にするより、S1E4L3の細かい8-state-per-octave gridを維持できる可能性が高い、という検証仮説を明示することである。

追加参考:


2. BitState と HSDR

BitState

BitStateは、低ビット数値表現を、小さな有限状態空間として扱い、Boolean演算と整数演算で操作する。

代表的なprimitive:

  • packed integer ADD
  • XOR
  • AND / OR / NOT
  • SHIFT
  • bit transpose / ballot / mask generation
  • POPCOUNT
  • small integer reduction
  • small LUT

HSDR — Hierarchical State-Domain Reduction

HSDRは、多数の要素単位演算を段階的に小さなstate domainへ縮約し、domainを移すこと自体を使ってserial reduction dependencyを切断する。

典型的な階層:

individual elements
    ↓
finite-state IDs
    ↓
wide state sets / masks
    ↓
parallel population counts
    ↓
small state-domain aggregates
    ├─ reference: integer/fixed-point realization
    └─ candidate: fractional-LNS reduction tree

本質は次のとおり。

state-domain reductionはdependency-breaking transformである。 等価状態を先に並列集計し、圧縮後の小さなstate集合だけを依存関係を持つ算術reductionへ入れる。

目的は単に「値の個数を減らす」ことではない。scalar bit operation、SIMD mask、GPU ballot、hardware population counterへ自然に写像できる、浅いdependency graphを作ることである。


3. LNS8 基準フォーマット

現在のLNS8 magnitude gridは次式で定義する。

|x| = 2^((k - 74) / 8)

ここで:

  • k = 1..127 : 非zero magnitude code
  • k = 0 : exact zero
  • signは別管理
  • 8 code進むと正確に×2
  • code 74 = 1.0

非zeroの7bit magnitude codeについて:

phase  = k & 0x07     // 下位3bit、intra-octave index 0..7
octave = k >> 3       // 上位4bit、coarse exponent / octave index 0..15

本書の用語:

  • phase = 下位3bit = octave内位置
  • octave = 上位4bit = coarse exponent
  • state = 完全な有限状態code。必要に応じてsignを含む

74 = 9×8 + 2 なので:

2^((k - 74)/8)
= 2^(octave - 9) × 2^((phase - 2)/8)

この因数分解はpopulation counting後の数値復元で有効である。ただしhistogram生成方法を制約するものではない。

3.1 S1E4L3としての論理分解 — exponent × fractional-log field

同じ8bit表現を、flatな7bit magnitude codeとしてだけでなく、FPに似たfield構造として読むこともできる。非zero stateについての論理分解は次のとおり。

bit 7          bits 6..3          bits 2..0
+------+-------------------+-------------------+
|  S1  |        E4         |        L3         |
+------+-------------------+-------------------+
| sign | octave / exponent | fractional-log    |
|      |                   | phase             |
+------+-------------------+-------------------+

ここで E = octave、L = phase、符号を s ∈ {-1,+1} とすると、非zero値は

x = s × 2^(E - 9) × 2^((L - 2)/8)
  = s × 2^(E - 9 + (L - 2)/8)

と書ける。したがって各fieldの役割は次のように整理できる。

  • S1 — sign。population reductionではpositive / negative populationへ写像できる。
  • E4 — 4bitのcoarse binary exponent / octave。E + 1 は厳密に ×2 であり、materializationではSHIFT / dyadic scale軸として扱える。
  • L3 — 3bitのfractional logarithmic field。1 octave内を8分割し、2^((L-2)/8) の8状態を表す。

直感的にはL3を logarithmic mantissa と呼ぶことができるが、IEEE floating-pointのlinear mantissa / significandではない。数学的には fractional exponent である。本書では誤解を避けるため、正式名称を fractional-log field または既存用語の phase とする。

通常のE4M3風の表現と比較すると構造差は次のようになる。

ordinary FP-like E4M3:
    x ~ sign × 2^E × (linear significand from M3)

BitState LNS8 logical S1E4L3:
    x = sign × 2^E × 2^(fractional-log field)
        (with the base74 bias terms shown above)

つまり見た目は S1 | E4 | L3 だが、下位fieldもlogarithmic coordinateの一部である。このためLNS乗算ではlinear mantissa multiplierを必要とせず、full codeでは従来どおり

k_product = k_a + k_b - 74
s_product = s_a XOR s_b

で処理できる。field分解で見ると、L3 の加算結果から生じるcarry / borrowがそのまま E4 へ移る。非zero inputについて、

t   = L_a + L_b - 2
L_p = t mod 8
E_p = E_a + E_b - 9 + floor(t / 8)

であり、これは k_product = k_a + k_b - 74 と同じ関係である。高速実装では最終storage rangeへ先にsaturateせず、より広いsigned intermediateを使う。

3.2 2-D state-spaceとしての見方

HSDRの観点では、非zero magnitude stateをflatな127状態としてだけでなく、概念的に次の直積として扱える。

vertical axis   : E4 = 16 coarse exponent / power-of-two scale positions
horizontal axis : L3 = 8 intra-octave logarithmic positions
sign axis       : S1 = positive / negative

直感上は、横方向を S1 + L3 の4bit signed intra-octave LNS slice、縦方向をE4M0-likeなpure power-of-two scale axis と見ることができる。ただしこれはalgorithmic / visualization上の分解であり、IEEE E4M0や独立した4bit LNS storage formatを意味しない。k=0 はexact zeroとして別扱いである。

この見方では、後段のHSDR操作との対応も明確になる。

S1  -> sign mask / signed population
L3  -> 8 phase buckets / 8 fixed fractional-log coefficients
E4  -> exact power-of-two position / integer SHIFT axis

したがって H[phase][octave] は単なる便宜的な2-D histogramではなく、S1E4L3論理fieldをそのままstate-domainへ展開した表現として理解できる。BitStateはこの直積構造を利用し、sign、fractional-log phase、power-of-two scaleを別々のcheap primitiveへ写像してから縮約する。


4. Stage A — Product-state generation

LNSの乗算は指数加算になる。

概念的には:

product_exp = weight_exp + activation_exp + bias_adjust
product_sign = weight_sign XOR activation_sign

高速pathでは、dynamic rangeが許す限りpacked integer arithmeticを使う。

候補:

  • packed INT8 ADD
  • packed INT16 reference path
  • SWAR lane arithmetic
  • SIMD byte arithmetic
  • SIMT lane arithmetic

Product-state completion rule

L3 / E4へ分解してphase routingまたはbitsliceを開始する前に、その経路で最終product stateに含める全log-domain offsetを加算し終える。weight exponent、preconverted scale offset、bias adjustmentなどがproduct codeを変えるなら、それらを先に反映する。

activation LNS code
+ weight / scale / bias log offsets
        ↓
final product magnitude code
        ↓
L3 / E4 decomposition, bit transpose, phase routing

shared group scaleを数式上 d × Σ(...) として外側にfactorすること自体は可能だが、それは別のfactorized variantとして扱う。scaleをproduct codeへ含める経路と、reduction後へfactorする経路を同じstate routing説明の中で混同しない。

Range rule

最初のcorrectness実装では、最終LNS codeより広い中間型を必ず使用する。

測定項目:

  • minimum product exponent
  • maximum product exponent
  • overflow frequency
  • underflow frequency

観測範囲を理解してから、packed INT8のsaturation / wrapping ruleを決める。


5. Stage B — State Tile

複数のproduct stateを1つのtileとして処理する。

初期候補:

Tile32
Tile64
Tile128

CPU reference target:

  • Tile64。state-membership maskを64bit integer 1本へ自然に対応させられるため。

Bonsai2 reference target:

  • Tile128。ternary weight scale groupが128 weight単位だからである。

State Tileは論理的なグルーピングである。backendはregister、vector lane、warp lane、bitsetなど、任意の物理表現を選んでよい。


6. Stage C — S1E4L3 decomposition and direct 8-phase reduction

final product stateについて:

phase  = state & 0x07     // L3, 0..7
octave = state >> 3       // E4, 0..15
sign   = product sign     // S1

v0.5のcorrectness baselineでは、full histogramを必須とせず、各productを次の8本のsigned integer accumulatorへ直接縮約できる。

payload = sign × (1 << octave)
A[phase] += payload

すなわち:

A[p] = Σ_{i: phase_i=p} sign_i × 2^(octave_i)

最終値は:

F[p] = 2^((p - 2)/8)
S    = 2^-9 × Σ_{p=0..7} A[p] × F[p]

である。この変形は量子化済みLNS8 stateに対して代数的に厳密であり、H[phase][octave]を先に作ってから Σ H[p][o] << o する方式と同じ結果になる。

C1. GEMM / GEMVでの意味

1つのoutput dotで K=4096 や K=5120 のproduct stateがある場合、全K項を最終的に 8本のA[0..7] へ入れる。8本まで縮約できれば、その後に実数係数 F[p] を適用して8項だけを加算すればよく、支配的な課題は最終materializationではなく K項 → 8本へのrouting / weighted reduction である。

C2. Excel correctness reference

本書のこの経路は、LNS8_base74_8step_zone8_popcount_demo_JA_v0.8_bitslice128_validation.xlsx の Inputs_128 / BitSlice128_一致確認 相当の手順をcorrectness referenceとする。

同Excelでは128項を Tile64 × 2 として扱い、各項の:

S1 | E4 | L3

から ±(1 << E4) を作り、L3で8本のaccumulatorへrouteする。8本の整数accumulatorから復元した値がdirect decodeと一致することを確認する。

C3. Histogram / POPCOUNT path remains valid

full-state histogramは不要ではなく、別の正確な実装familyとして残す。

H[phase][octave]  // signed counts
A[phase] = Σ_o H[phase][o] × 2^o

direct 8-phase pathはbucket作成とshift/addを融合した形、histogram pathはstate populationを明示的に保持する形である。前者は単純なreference / routed-reduction候補、後者はPOPCOUNTによるdependency breakingやpure-LNS foldingの候補として比較する。

7. Stage D — Bit transpose / backend-equivalent routing-mask construction

Tile64のCPU bitsliceでは、final product stateのfieldを次の64bit bitplaneとして表せる。

L0 L1 L2          // L3の3 bitplane
E0 E1 E2 E3       // E4の4 bitplane
BSIGN              // sign plane, 1 = negative

各bit位置は元の同じlaneを保持する。例えばbit 37は、すべてのbitplaneで元のlane 37を指す。

D1. Phase mask is an intermediate selector

L2,L1,L0から、phase p=0..7に属するlaneだけが1になる64bit mask M[p] をBoolean演算で生成できる。

例:

M[101] = L2 & ~L1 & L0

このmaskは最終値でもpopulationそのものでもなく、中間routing / selector情報である。必要ならその場で生成し、集計後に捨ててよい。8本を永続保存する必要はない。

L3の3bit decoderは、中間2bit groupを共有するtreeとして生成できるため、8個の完全独立比較を行う必要はない。

D2. Sign handling in bit form

bitset自体は +1 / -1 を直接保持できないため、signed populationが必要な場合はsign planeを明示的に使う。

Hpos = POPCOUNT(M & ~BSIGN)
Hneg = POPCOUNT(M &  BSIGN)
Hsigned = Hpos - Hneg

または同値な:

N     = POPCOUNT(M)
Nneg  = POPCOUNT(M & BSIGN)
Hsigned = N - 2*Nneg

この式はExcelの (+ POPCOUNT) - (- POPCOUNT) と同じ母集団を数える。XORを用いる代数的恒等式も存在するが、bucket外のnegative laneを一時的に数えるため、reference実装では上のtable-local式を優先する。

D3. Important: phase POPCOUNT alone is not enough for the direct 8-accumulator path

POPCOUNT(M[p])だけではE4の重み 2^E を失う。同じphase内でも E=3 と E=11 は寄与が異なるため、direct pathでは最終的に:

A[p] += ±(1 << E)

というweighted reductionが必要である。bit transpose / phase maskはそのroutingをwideに処理するための中間表現であり、POPCOUNTの使用自体は必須ではない。

backend equivalent:

  • scalar 64-bit CPU: uint64_t bitplanes / masks
  • AVX2 / AVX-512: vector mask extraction, mask logic, optional vector/scalar popcount
  • ARM NEON/SVE: predicate / bit operation / count
  • CUDA: 32-lane ballot / lane predicate / subgroup reduction
  • FPGA/ASIC: 3-to-8 decoder + sign + shifted payload routing

CPUではTile64、GPUではTile32を最初の理論整合性ターゲットとする。同じBoolean式をword幅だけ変えて検証し、その後に巨大bit配列やよりwideなSIMDへ拡張する。

8. Stage E — Two exact reduction families

v0.5では、direct 8-phase routed accumulation と state POPCOUNT histogram を、どちらもexactなLNS8 reduction familyとして明示的に分ける。

E1. Direct 8-phase routed accumulation — preferred correctness baseline

各product stateについて:

p = L3
e = E4
v = (sign ? -1 : +1) × (1 << e)
A[p] += v

K個のproductを処理し終わった時点で残る数値状態は8本のsigned integer A[0..7] だけである。K=4096 / 5120でも最終state数は8本で変わらない。

この経路はPOPCOUNTを必須としない。CPU/GPUでの性能PoCでは、phase mask、masked add、grouped reduction、SWAR、SIMD、ballotなどを比較し、K項を逐次scalar addへ戻さない実装を探す。

E2. State POPCOUNT histogram — dependency-breaking candidate

state sについてmembership maskを作る。

M[s] = (state == s)
H[s] = POPCOUNT(M[s])

signed valueなら:

Hpos[s] = POPCOUNT(M[s] & ~negative_mask)
Hneg[s] = POPCOUNT(M[s] &  negative_mask)
Hsigned[s] = Hpos[s] - Hneg[s]

または:

N      = POPCOUNT(M[s])
Nneg   = POPCOUNT(M[s] & negative_mask)
Hsigned[s] = N - 2*Nneg

histogram pathではfloating-point valueを作らず、同一stateをpopulationへ先に畳み込める。これはpure fractional-LNS pathや、state cardinalityが小さいworkloadでのdependency breakingに有利な可能性がある。

E3. Exact equivalence

2-D histogramを使う場合:

H[p][o] = signed population of phase p, octave o
A[p]    = Σ_o H[p][o] × 2^o

であり、E1のdirect accumulationと同じ A[p] になる。PoCではこの一致をbit-exactに要求する。

9. Intermediate-state organization

full histogramを保持する場合は次の2表現がある。

Full-state form

H[k]       // k = 1..127、zero/signは必要に応じて別処理

2-D LNS form

H[phase][octave]   // 8 × 16 signed counts

一方、direct 8-phase pathではhistogramを永続化せず、直ちに:

A[phase] = Σ sign × 2^octave

へfoldするため、最終的なinteger stateは8本だけである。

したがってv0.5では:

full-state / 2-D histogram   = optional intermediate representation
A[0..7]                      = dyadic direct-reduction state

と区別する。histogramはstate populationを保持するのでpure-LNS foldingに有用、A[8]は最終dyadic materializationへ最短で到達する。

10. Stage F — 8-phase finalization and pure-LNS alternative

direct pathではStage Eの時点で A[p] が得られている。histogram pathでは次式で同じ A[p] を生成する。

各phase pについて:

R[p] = Σ_o H[p][o] × 2^o

これはinteger shift/addだけで実装できる。

R[p] = H[p][0]
     + (H[p][1]  << 1)
     + (H[p][2]  << 2)
     + ...
     + (H[p][15] << 15)

8個のphase reductionは互いに独立である。

benchmark候補:

  • direct shift/add
  • balanced add tree
  • Horner form
  • SIMD: one lane per phase

Phase coefficients

F[p] = 2^((p - 2)/8)

と定義する。

scale前の数値和は:

S = 2^-9 × Σ_p R[p] × F[p]

2の冪でないphase係数は8種類しかない。

この8-phase finalizationをdyadic referenceの優先方式とする。direct pathではPOPCOUNT histogramを経由せず、K項から直接 A[0..7] を得てもよい。histogram pathではPOPCOUNT + integer shift/addを経由して同じ8本へ到達する。いずれも最終的な非2冪係数処理は最大8項だけである。


F1. POPCOUNTの役割 — reduction dependencyの切断

128要素tileを通常のaccumulatorで処理すると、次の加算は前のpartial sumに依存し、長いproducer/consumer chainができる。BitStateはその前に問題をstate predicateとpopulation countへ変換する。

many product lanes
    ↓
independent state membership masks
    ↓
independent POPCOUNTs / signed populations
    ↓
small state set
    ↓
short balanced reduction tree

したがって性能仮説は単なる「POPCOUNTが速い」ではない。state-domain population reductionによって、最終reduction開始前に逐次数値依存の大部分を消せるかが中心である。

上記のshift/add materializerは代数的に分かりやすく、correctness baselineとして引き続き重要である。ただしv0.5では、dyadic direct pathに加えてpopulation / pure-LNS経路も比較する。

F2. Relative fractional-LNS path — 一度もlinear値を作らない経路

非zero LNS8 magnitude state kについて、内部log座標を LNS8 code単位 で持つ。

lambda = k + fractional_code_offset
1 code unit = 1/8 octave

保存時のLNS8は整数codeだが、reduction内部ではcodeの小数bitを許容する。これは内部accumulator表現であり、新しいstorage formatを要求しない。

signed POPCOUNT後、同一state kのsigned populationを C[k] とする。C[k] != 0 なら、同じ大きさの寄与はpairwise加算を始める前に一つのfractional-LNS stateへ畳み込める。

bucket_sign   = sign(C[k])
bucket_lambda = k + 8*log2(abs(C[k]))

Tile128なら abs(C[k]) は最大128なので、population項は 1..128 -> 8*log2(n) のtiny LUT(または等価なinteger実装)だけでよい。この処理はlinear値を生成しない。

base74 / 8-code gridでは8つのphase table 000..111 を上位octaveの8 anchor 120..127 周辺へ正規化できる。code122はexactな64 anchorである。1 octaveが厳密に+8 codeなので、octave位置の移動は整数code offsetで表せる。

k = 8*q + phase
  = (120 + phase) + 8*(q - 15)

したがって各tableのstateは、既知の整数octave offsetと小さなfractional correctionだけで同一のrelative fractional-LNS座標系へ持ってこられる。

F3. LNS add/sub primitive

二つのfractional-LNS magnitude coordinateを a >= b、差を d=a-b(LNS8 code単位)とする。

同符号:

out = a + kappa_plus(d)
kappa_plus(d) = 8*log2(1 + 2^(-d/8))

異符号、d > 0:

out = a + kappa_minus(d)
kappa_minus(d) = 8*log2(1 - 2^(-d/8))

出力符号は大きいmagnitude側。magnitudeが同じ異符号入力はexact zeroへ相殺する。

runtimeで一般のlog2()やpow()を呼ぶ必要はない。kappa_plus / kappa_minusは、選択したfractional-code precisionで量子化した差をindexにするsmall LUTとして実装する。既存のinteger-code threshold加算は、この式を整数LNS8 codeへ直ちに丸める粗粒度special caseである。pure-LNS pathでは中間roundingを避けるためfractional code bitsを保持する。

F4. Serial accumulatorではなくbalanced tree

population bucketは左から逐次accumulateせずbalanced treeで縮約する。最後の8 phase aggregateなら:

8 states → 4 LNS add/sub を並列
         → 2 LNS add/sub を並列
         → 1 LNS add/sub

最終8-state reductionのdependency depthは3段。各phase内に複数octave bucketが残る場合も同じprimitiveをbalanced treeで使う。sparse-state maskならleaf数そのものを減らせる。

内部LUT precisionが有限ならreduction orderも誤差要因になるため、PoCでは複数のfractional precisionとtree orderをFP64 referenceに対して測定する。

F5. shared scaleもlog-domainから出さない

正のshared group scale d_scaleは、state reduction後にlogarithmic offsetとして適用できる。

lambda_scaled = lambda_sum + 8*log2(d_scale)

scale offsetはconverterで事前計算するか、quantization groupごとに1回cacheできる。pure-LNS pathでは最後のlinear multiplyもlog-code ADDへ置換できる。

F6. 二つの経路を混同しない

POPCOUNT後は少なくとも次を別々にbenchmarkする。

  1. Dyadic reference path: signed population → integer shift/add → fixed-point/Q9.6 → optional LNS8 re-encode。
  2. Pure-LNS candidate path: signed population → population-log LUT → fractional-LNS add/sub tree → log-scale offset → final LNS8 rounding。

前者はcorrectness/performance baselineとして重要。後者は「GEMV reduction全体をlinear accumulator無しでstate/log座標のまま完結できるか」を検証する、より強い仮説である。

11. Fixed-point materialization and Q9.6 — reference / escape path

個々のLNS stateをreduction前に直接Q9.6へ丸めてはならない。

単体ではQ9.6の1 LSB未満の小さなstateでも、多数集まれば有意になるためである。

phase coefficient stageではQ9.6より広い内部fixed-point precisionを使う。

reference実装候補:

R[p]             : signed INT32/INT64
F_fixed[p]       : high-precision fixed coefficient, 例 Q1.15 / Q2.14
phase_product[p] : widened integer multiply
SUM_internal     : INT64

最後に1回だけQ9.6へ丸める。

Q9.6_raw = rounded_shift(SUM_internal)

内部係数formatは推測で決めず、error measurementから選定する。


12. Stage G — Q9.6 → LNS8

標準re-encoding path:

Q9.6
  ↓
zero test
  ↓
sign extraction
  ↓
absolute value
  ↓
MSB / leading-one detection
  ↓
normalization
  ↓
MSB + next 5 bits = 1.xxxxx  (6 significant binary bits)
  ↓
32-entry LUT
  ↓
LNS8 phase + possible octave carry
  ↓
compose LNS8 code

汎用log2()は不要。

LUTは、実装で使用するQ9.6 input domain全体について、nearest-LNS8 mappingを総当たりで生成する。

以下も比較する。

  • 5 significant bits
  • 6 significant bits — default
  • 7 significant bits

exact nearest-LNS8 conversionとの不一致率を測定する。


13. Q4_0 weight path

Q4_0 weight storageは4bit packedのまま維持する。

benchmarkで明確な利点が出ない限り、モデルを8bit LNS8 weightへ展開して保存しない。

Q4_0 coefficient:

-8 -7 -6 -5 -4 -3 -2 -1 0 +1 +2 +3 +4 +5 +6 +7

絶対値Q4 coefficientからLNS8 exponent offsetへのtiny LUT:

|q| : 1  2  3  4  5  6  7  8
Δ   : 0  8 13 16 19 21 22 24    // nearest 1/8-octave approximation

reference path:

Q4 nibble
  ↓
small LUT
  ↓
weight LNS offset + sign
  ↓
packed exponent ADD with activation
  ↓
product state

Q4 block scale handling候補:

  1. FP reference: q × dを復元してからLNS8 encode
  2. Preconverted log-scale: dを1回LNS codeへ変換し、exponent offsetとして加算
  3. Converter-generated custom scale metadata

2、3の追加量子化誤差を1と比較測定する。


14. Ternary / Bonsai2 fast path

Ternary weight groupはBitStateと特に相性がよい。

Rotation-aware integration point

Bonsai2 fast pathでは、ternary weightだけを見るのではなく、対応するHadamard / sign transform適用後のactivation domainを入力契約とする。primal-basis activationをそのままternary POPCOUNT pathへ入れてはならない。

また、token embedding lookupはrotation-aware runtime contractの境界であり、必要なinverse transformを維持する。multimodal入力についても、vision towerそのものは非回転であり得るが、projected visual tokensがlanguage modelへ入った後は同じlanguage-side basis contractへ従う。

したがってBitState kernelの主integration pointは次のいずれかとする。

  1. WHT / sign transform完了後のactivationをLNS8 / state representationへencodeする。
  2. WHT / sign transformとstate encodingをfuseし、中間FP materializationを削減する。

後者は性能最適化候補であり、最初のcorrectness実装では1を使用する。

128-weight group:

w_i = d × t_i
t_i ∈ {-1, 0, +1}

共通scale dは128要素のpopulation reduction外に置ける。

Σ_i w_i a_i
= d × Σ_i t_i a_i

したがってweight magnitude処理はBoolean selectionまで単純化できる。

W_nonzero
W_negative

weightごとのmagnitude multiplicationは不要。

Signed population count

activation magnitude state sについて:

A_s = mask of activation lanes whose magnitude state == s
M   = A_s & W_nonzero
PNEG = activation_sign XOR W_negative

N    = POPCOUNT(M)
Nneg = POPCOUNT(M & PNEG)
Cs   = N - 2*Nneg

Csはternary weight selection適用後のactivation state sのsigned populationである。

group scaleは128要素のstate reduction完了後にのみ適用する。

二つの推奨flowを比較する。

Reference / 検証flow:

128 activations + ternary masks
    ↓
state-set intersection
    ↓
POPCOUNT signed histogram
    ↓
dyadic integer shift/add
    ↓
wide fixed-point / optional Q9.6
    ↓
shared group scale d

Pure-LNS flow:

128 activations + ternary masks
    ↓
state-set intersection
    ↓
POPCOUNT signed histogram          ← dependency-breaking reduction
    ↓
non-zero population buckets
    ↓
population count -> fractional-LNS offset
    ↓
balanced signed LNS add/sub tree
    ↓
shared scaleをlog-code offsetとしてADD
    ↓
境界でのみ最終LNS8 rounding

pure-LNS pathがv0.5でも残す強い仮説である。GEMV内部reductionではFP、Q9.6、その他linear accumulatorを必須としない。reference pathはdifferential testingのため必ず残す。


15. CPU implementation plan

Reference 0 — scalar correctness

  • final product stateを各laneで明示decode
  • A[L3] += sign × (1 << E4) を直接実行
  • exact double/FP64 direct decodeと比較
  • performance目標なし

Reference 1 — scalar histogram equivalence

  • H[phase][octave]生成
  • A[p] = Σ_o H[p][o] << o
  • Reference 0の A[0..7] とbit-exact一致を要求

CPU PoC A — Tile64 bitslice direct 8-phase path

  • 64 final product states
  • L2,L1,L0,E3..E0,BSIGN のbitplane / equivalent mask extraction
  • 3bit phase decoderから中間selector mask
  • E4の ±(1<<E) weighted contributionを8 phase accumulatorへ縮約
  • 64項 → 8 partial accumulators
  • two Tile64でExcel v0.8の128項validationを再現

CPU PoC B — Tile64 signed histogram path

  • full-stateまたはphase-local membership masks
  • Hpos/Hneg または N-2*Nneg
  • POPCNT64
  • histogram → A[0..7]

CPU PoC B2 — pure fractional-LNS reduction

  • signed POPCOUNT histogramを入力
  • non-zero bucket populationをtiny count-to-log LUTでfold
  • configurable fractional bitsを持つlog coordinate
  • balanced kappa+ / kappa- LUT add/sub tree
  • direct 8-phase dyadic pathとの総cycles / dependency depthを比較

CPU PoC C — AVX2 / ordinary 64-bit CPU

最初は特殊巨大bit配列を前提にせず、標準的なinteger / bit primitiveだけで成立性を確認する。

候補primitive:

  • packed byte ADD for LNS product generation
  • 64-bit scalar bitplanes / masks
  • AND / OR / XOR / NOT / SHIFT
  • POPCNT64 where useful
  • pshufb / vector mask extraction
  • 8 independent integer accumulators

CPU PoC D — AVX-512 / wider bitsets

correctnessがTile64で確定した後に評価する。

  • mask registers
  • VPOPCNT
  • wider state-set construction
  • multiple output dots in flight
  • direct 8-phase masked/grouped reduction

16. GPU implementation plan

CPUの命令列ではなく、同じalgorithmic abstractionを32-lane warpへ写像する。

最初の整合性ターゲット:

Tile32 = one 32-bit ballot mask

CPU Tile64と同じfieldを:

L0 L1 L2
E0 E1 E2 E3
SIGN

の32bit maskとして生成し、同じphase routing / signed-count式を使う。

GPU objective:

packed LNS product ADD / sign XOR
    ↓
32-lane final product states
    ↓
ballot / lane predicates
    ↓
8-way phase routing
    ├─ direct ±(1<<E) integer reduction to A[0..7]
    └─ optional signed POPCOUNT histogram
    ↓
8-state finalization or pure-LNS tree

候補:

  • warp ballot
  • __popc / __popcll
  • __match_any_sync
  • warp-level grouping / segmented reduction
  • shared-memory 8-accumulator
  • register-resident partial accumulators

最低限benchmarkするもの:

  1. scalar/lane reference A[L3] += ±(1<<E4)
  2. ballot-generated phase masks + direct 8-accumulator reduction
  3. phase-local signed histogram
  4. full-state histogram / match-any grouping

CPU風bit transposeを機械的に移植しない。最初にTile32とTile64で数学的等価性を確定し、その後にlarge bitset / wider subgroup / custom layoutを検討する。

17. FPGA / custom logic model

streaming implementationは素直に構成できる。

packed state generation
    ↓
state-set decoder / bit-vector formation
    ↓
population counters
    ↓
compressed signed state populations
    ├─ reference: shift/add → fixed-point
    └─ pure-LNS: count-log LUT → balanced kappa± tree
                               ↓
                         log-scale offset
                               ↓
                              LNS8

ternary weightでは:

activation state masks
AND ternary non-zero/sign masks
POPCOUNT

によって通常のmultiplier logicの大部分を置換できる。


18. Correctness test plan

Exhaustive micro-tests

  1. 全LNS8 non-zero code pair
  2. 全sign combination
  3. zero × anything
  4. saturation boundary
  5. Q9.6 → LNS8 full input range
  6. 5-bit / 6-bit / 7-bit re-log LUT comparison
  7. same-sign fractional-LNS pair addとFP64の一致
  8. 異符号add/subとexact cancellation
  9. population count folding: n個の同一state vs k + 8*log2(n)、n=1..128
  10. 複数internal fractional precisionでbalanced-tree pure-LNS reductionとdirect FP64を比較

Dot-product tests

randomおよびadversarial vectorで:

K = 32
K = 64
K = 128
K = 256
K = 4096
K = 8192

reference:

  • FP32 original
  • ordinary Q4_0 dequantized dot
  • exact LNS8→FP64 dot
  • BitState histogram path

誤差を次の要因へ分離する。

  1. source quantization error
  2. Q4→LNS mapping error
  3. histogram arithmetic error
  4. fixed-point materialization error
  5. Q9.6 rounding error
  6. Q9.6→LNS8 re-encoding error

選んだfinite-state representationに対してhistogram自体はexactであるべき。


19. Performance test plan

各stageを個別およびfusedで測定する。

Micro-kernels

A. Q4 packed decode / LUT

B. packed product-state ADD

C. state decomposition

D. state-tile packing / bit transpose

E. state mask generation

F. POPCOUNT histogram

G. histogram shift/add reduction

H. eight phase coefficients / dyadic reference finalization

I. population-count → fractional-LNS offset LUT

J. kappa+ / kappa- fractional-LNS add/sub primitive

K. balanced 8→4→2→1 LNS reduction

L. Q9.6 → LNS8 reference boundary

M. fully fused dot/GEMV kernel

Metrics

CPU:

  • cycles / output
  • cycles / weight
  • instructions / weight
  • uops
  • IPC
  • POPCNT throughput
  • dependent reduction depth / critical-path stages
  • fractional-LNS LUT access数とadd/sub stage数
  • L1/L2 misses
  • effective GB/s
  • actual memory GB/s

GPU:

  • kernel latency
  • weights/s
  • effective GB/s
  • memory throughput
  • registers/thread
  • occupancy
  • warp stall reason
  • ballot/match/popcount instruction cost

主要比較指標はnominal FLOPSではなくend-to-end latencyとする。


20. Primary baselines

CPU:

  • llama.cpp Q4_0 GEMV / dot path
  • scalar Q4_0 dequant + dot
  • optimized INT8 dot where available
  • T-MAC-like LUT path where practical

GPU:

  • existing Q4 dequant + CUDA GEMV/GEMM
  • Tensor Core path
  • CUDA-core low-bit path

主workload:

LLM decode
batch = 1 first
small batch second
prefill later

21. Optimization priorities

優先順位:

  1. memory traffic
  2. weight unpack / ternary mask load
  3. reusable state-set construction
  4. bit transpose / ballot / equivalent grouping
  5. POPCOUNT throughputとstate-domain dependency breaking
  6. sparse histogram / non-zero bucket layout
  7. fractional-LNS count foldingとkappa± LUT cost
  8. balanced reduction critical path
  9. dyadic shift/add reference materializer
  10. Q9.6 / final boundary conversion

最終変換を先に過剰最適化しない。中心測定は、POPCOUNT-based state reductionが、state-set/LUT overheadを上回るだけのdependent arithmeticを消せるかどうかである。


22. Patent claim review — 実装文脈の確認であり、設計制約ではない

上記の技術設計は、まず技術的合理性と性能に基づいて最適化する。

関連familyのうち、現在成立している米国NVIDIA特許の請求項を確認した範囲では、一般的なsoftware LNS bucket accumulation、一般的なphase/octave decomposition、あるいはBitStateのpopulation countingを、広く一般概念として請求しているとは読めない。

US11886980B2

独立請求項1、16、19は、概ね次の組合せを中心とする。

  • image or sound data
  • tensor core
  • 少なくとも1つのneural-network layer
  • sign / quotient / remainderとして表現されたlogarithmic value
  • remainder componentに従ってquotient componentをsortingし、partial sumsを生成
  • 指定されたneural-network result

従属請求項では、別accumulator、shifted binary-one quotient contribution、scaling、re-log conversion等が追加される。

US12118454B2

continuationも、独立請求項では同様に具体的な組合せを維持する。

  • image or sound data
  • tensor core / neural-network layer
  • quotient/remainder sorting into partial sums
  • downstream application use

従属請求項でseparate accumulatorやshifted-one contribution等が追加される。

US12033060B2

独立請求項は、より具体的に asynchronous accumulator architectureへ向けられている。例:

  • bit position jを指定するbit-selection input
  • asynchronous accumulator outputへ2^jを加える
  • claim 1におけるpositive/negative paired asynchronous accumulators
  • 他の独立請求項におけるtoggle flip-flop accumulator-cell implementation
  • claim 7におけるquotient-derived one-hot bit selection
  • system claim 16におけるasynchronous accumulator array

BitStateの通常CPU/GPU上のBoolean mask + POPCOUNT histogramは、このaccumulator architectureとは異なる。

US12141225B2

独立請求項1は、特に次を要求する。

  • asynchronous accumulator array
  • remainder valueごとに対応するaccumulator
  • quotientが選択したsingle accumulator bitをincrement / decrement
  • partial-sum bitを計算するpaired toggle flip-flops

software state-set / POPCOUNT histogramは、この構造を用いない。

Engineering conclusion

したがってBitState設計を、次の一般的な数値技法を避けるためだけに人工的に弱くする必要はない。

  • phase/octave extraction
  • state grouping
  • shift/add reconstruction
  • fixed coefficients
  • leading-one re-encoding

これらは有用な一般的数値技法であり、それ自体が上記成立済み独立請求項の内容ではない。

NVIDIAのissued familyにもquotient/remainder bucket accumulationが含まれ、8-phase decompositionと数学的に近い部分がある。この類似は実装比較では明記する。一方v0.5のsoftware仮説は、wide reusable state set + POPCOUNTをdependency-breaking reductionとして使うこと、さらに任意で linear partial-sum materializationをせずpure fractional-LNS reduction treeへ接続することを中心に置く。これはengineering上の区別であり、法的結論ではない。

BitStateの実装焦点は次へ更新する。

finite states
    ↓
wide reusable state-set representation
    ↓
parallel population counting
    ↓
dependency-broken compressed state domain
    ├─ dyadic reference materialization
    └─ pure fractional-LNS reduction tree

本節はengineering claim reviewであり、法的なnon-infringement opinionではない。

Pending applications

米国の公開済みpending applicationは、final enforceable claim setを持つ成立特許と同列には扱わない。

将来のclaim changeをmonitorする意味はある。米国法上、公開後に成立したclaimがsubstantially identicalであり、actual notice等の要件を満たす場合には、限定的なprovisional-rightsの問題が生じ得る。

したがって:

  • pending applicationを現在のissued-patent boundaryとして表現しない
  • formal FTOが必要なら完全に無視もしない
  • core implementation restrictionとは分離し、monitoring sectionとして扱う

23. Coding-agent workflow

coding agentは、単一layoutを最初から正解と仮定せず、実験的に進める。

Phase 1 — correctness

実装:

exact LNS8 / FP64 direct decode
scalar direct 8-phase accumulation: A[L3] += sign × (1<<E4)
Tile64 ×2 bitslice-style reference equivalent to Excel v0.8
scalar signed histogram
histogram -> A[0..7] equivalence
fractional-LNS pair add/sub reference
population-count -> log-offset LUT
balanced pure-LNS reduction
optional Q9.6 boundary

direct decode == direct A[8] == histogram-derived A[8] をexact一致させる。pure-LNSのinternal rounding errorは別項目として測り、state/routing correctnessと混同しない。

Phase 2 — CPU Tile64 routing / state counting

比較実装:

  • Tile64 direct 8-phase routed accumulator
  • Tile32 word-width-equivalent reference
  • phase-mask generation cost
  • phase-local signed histogram
  • direct full-state masks
  • SWAR transpose / mask extraction
  • AVX2 LUT/unpack

stageごとのcycleを報告し、特に product ADD, state-set/phase-mask build, K→8 weighted reduction, final 8-state materialization を分離する。

Phase 3 — ternary 128-group path

実装:

W_nonzero
W_negative
activation state masks
POPCOUNT signed histogram
one scale application per 128-weight group

既存Bonsai2 kernel pathと直接比較する。

Phase 3B — dependency-breaking pure-LNS CPU path

既存dyadic materializerと、linear accumulatorを一度も作らない経路を比較する。

  • signed population buckets
  • count-to-log folding
  • relative fractional-LNS normalization
  • balanced kappa± reduction
  • shared scale as log offset
  • output境界でのみLNS8 rounding

総cyclesとcritical-path/dependency depthを別々に報告する。

Phase 4 — GPU

独立したCUDA方式を実装:

  • Tile32 ballot phase masks
  • 8-way direct integer accumulation
  • match-any
  • shared / register histogram

CPU bit-transpose実装を機械的に移植しない。Tile32でCPU Tile64と同じ A[0..7] が得られることを先に確認する。

Phase 5 — fused optimization

profiling後にのみ、実際にtrafficまたはinstruction overheadを削減できるstageをfuseする。

slowで明快なreference implementationはdifferential testing用に保持する。


24. Success criteria

BitStateは、少なくとも1つの実用backendで、model qualityを許容範囲に維持しながらend-to-end advantageを示せれば成功である。

最も期待する初期成功例:

low-bit / ternary model
+ batch-1 decode
+ bandwidth-sensitive hardware
+ state counting cheaper than dequantize + MAC

dense prefillにおけるTensor Coreのpeak throughputへ勝つ必要はない。

CPU-only win、ternary-only win、batch-1 decode winのいずれでも、技術的には十分意味がある。


25. 一文定義

BitState/HSDRは、reductionを有限state domainへ移して逐次数値依存を切断する。wide state setとPOPCOUNTで多数の低bit寄与を並列圧縮し、残った小さなstate集合だけを縮約する。必要なら、その最終縮約もlinear実数化せずfractional-LNSのまま完結させる。


Patent claim reviewで参照した資料