野原 眞 commited on
Commit
9bc0302
·
1 Parent(s): 29a2e94

Add LNS16 S1E7L8 specification with LNS8 compatibility

Browse files
Bitstate/BitState_LNS16_S1E7L8_base16448_LNS8_compat_JA_v0.1.md ADDED
@@ -0,0 +1,256 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # BitState LNS16 仕様案 — S1E7L8 / base16448 / LNS8 base74互換
2
+
3
+ **版:** v0.1(2026-10-25)
4
+ **状態:** 基本数値形式・互換写像を採用。積和演算器の性能・学習品質は未検証。
5
+ **対象:** BitState / HSDRにおける16bit LNS保存形式、LNS8との混在演算、256位相reduction。
6
+
7
+ ## 1. 設計方針と採用事項
8
+
9
+ 本案では次を**採用仕様**とする。
10
+
11
+ 1. LNS16は **S1E7L8**:sign 1bit、octave/exponent 7bit、fractional-log phase 8bit。
12
+ 2. **256位相を演算器の上限**とする。L9(512位相)やL10(1024位相)は本仕様の演算器基本形には採用しない。
13
+ 3. **LNS8の現行base74(S1E4L3、8 codes/octave)を維持**する。LNS8仕様自体の変更は行わない。
14
+ 4. LNS16のunity anchorを **`B16 = 16448 = 0x4040`** とする。
15
+ 5. **LNS8の1ステップ = LNS16の32ステップ**。LNS8非ゼロコードをLNS16へ**数値誤差ゼロ**で埋め込む。
16
+ 6. LNS8のE4常用窓(0..15)を、LNS16の**E7 = 55..70**へ配置する。
17
+ 7. code 0はexact zero。符号は別ビットとし、negative zeroは生成しない。
18
+ 8. 倍精度の中間計算やoptimizer用FP32などは排除しない。**16bitの重み正本・データ転送形式**の候補として検討する。
19
+
20
+ > **位置づけ:** 数値形式の表現能力・互換性・演算器への適合を先に確定するための設計案。実モデルでの推論精度、積和の誤差、学習収束、ハードウェア性能が保証されたという意味ではない。
21
+
22
+ ## 2. 16bitレイアウトと数値定義
23
+
24
+ ```text
25
+ bit15 : S (sign)
26
+ bit14..8 : E7 (7bit, octave field)
27
+ bit7..0 : L8 (8bit, fractional-log phase)
28
+
29
+ k16 = (E7 << 8) | L8 // 15bit magnitude code
30
+ raw16 = (S << 15) | k16
31
+ ```
32
+
33
+ - `k16 = 0` は **exact zero**。canonical zeroは `0x0000`。
34
+ - `k16 = 1..32767` は非ゼロ。
35
+ - `S=0` は正、`S=1` は負。ただし `0x8000` は禁止・読み込み時に `0x0000` へ正規化する。
36
+ - NaN / infinity / subnormal は現段階で定義しない。overflow / underflow処理は後述のPoC検証項目とする。
37
+
38
+ 非ゼロ値の定義:
39
+
40
+ \[
41
+ \boxed{x=(-1)^S\,2^{(k_{16}-16448)/256}}
42
+ \]
43
+
44
+ `16448 = 64×256 + 64` なので、フィールド展開すると:
45
+
46
+ \[
47
+ \boxed{x=(-1)^S\,2^{E7-64}\,2^{(L8-64)/256}}
48
+ \]
49
+
50
+ **1.0 = `k16=16448=0x4040`**。`k16`が+256されると厳密に2倍、+32されると厳密に\(2^{1/8}\)倍となる。
51
+
52
+ ## 3. 代表的な表現能力
53
+
54
+ | 項目 | 値 |
55
+ |---|---:|
56
+ | 総bit | 16bit/element |
57
+ | 非ゼロmagnitude states | 32767 |
58
+ | 1 octaveのステップ数 | 256 |
59
+ | 1コードの倍率 | \(2^{1/256}\) ≈ 1.002711275 |
60
+ | 最近傍丸めの最大正方向相対誤差 | 約 **+0.135472%** |
61
+ | 最近傍丸めの最大負方向相対誤差 | 約 **−0.135289%** |
62
+ | 最小正数(k16=1) | 約 **4.57087×10⁻²⁰** |
63
+ | 最大正数(k16=32767) | 約 **1.54699×10¹⁹** |
64
+ | L8 phase bucket | **256** |
65
+ | 基本の保存・転送量 | **2 byte/element**(外部scaleなし) |
66
+
67
+ 上の範囲は `B16=16448` **固有の値**。旧LNS16案の `B16=16384` の端点とは異なる。
68
+
69
+ 約70万のActivation外れ値、また約140万という2倍の余裕は、表現範囲内に十分収まる。たとえば、最近傍コードでは `700000 → k16=21419 → 約700472.43` である。
70
+
71
+ ### BF16・FP16との比較(正規数領域の値表現)
72
+
73
+ | 数値形式 | 最大相対丸め誤差(概算) | 備考 |
74
+ |---|---:|---|
75
+ | BF16 | 約0.390625% | 8bit指数・7bit仮数 |
76
+ | FP16 | 約0.048828% | 5bit指数・10bit仮数。非正規数では相対精度が落ちる |
77
+ | **LNS16 L8** | **約0.135472%** | 全表現範囲でほぼ一定の相対刻み |
78
+
79
+ L8の相対量子化誤差上限はBF16の約**1/2.88**。ただしFP16の正規数領域ほど細かくはない。「平均的にBF16より高精度」は**入力分布と丸め規則を仮定した数値表現の見込み**であって、モデルの品質保証ではない。極小値の表現に優れることと、微小な**重み更新**を保持できることも別問題である。
80
+
81
+ ## 4. LNS8 base74との完全互換写像
82
+
83
+ 現行LNS8の定義(変更なし):
84
+
85
+ \[
86
+ \boxed{|x_8|=2^{(k_8-74)/8}},\quad k_8\in[1,127]
87
+ \]
88
+
89
+ LNS16への厳密な変換:
90
+
91
+ \[
92
+ \boxed{k_{16}=16448+32(k_8-74)=14080+32k_8}
93
+ \]
94
+
95
+ これにより\((k_{16}-16448)/256=(k_8-74)/8\)が**厳密に一致**する。対数近似・LUT・再量子化は不要。
96
+
97
+ LNS8は `k8 = 8×E4 + L3`(E4=0..15、L3=0..7)なので、LNS16フィールドは:
98
+
99
+ \[
100
+ \boxed{E7=55+E4},\qquad\boxed{L8=32L3=L3\ll5}
101
+ \]
102
+
103
+ ```text
104
+ LNS8 LNS16
105
+ S1 | E4 | L3 ---> S1 | E7=E4+55 | L8=(L3<<5)
106
+ ```
107
+
108
+ 具体的にはLNS8の8位相が、LNS16の `L8 = 0, 32, 64, 96, 128, 160, 192, 224` に埋め込まれる。LNS16の他の位相コードは、16bit固有の追加分解能である。
109
+
110
+ ### 対応表
111
+
112
+ | LNS8 `k8` | 実数値 | LNS16 `k16` | E7 | L8 |
113
+ |---:|---:|---:|---:|---:|
114
+ | 0 | 0(特���扱い) | 0 | — | — |
115
+ | 1 | 約0.00179102 | 14112 | 55 | 32 |
116
+ | 26 | 0.015625 | 14912 | 58 | 64 |
117
+ | 66 | 0.5 | 16192 | 63 | 64 |
118
+ | **74** | **1.0** | **16448** | **64** | **64** |
119
+ | 82 | 2.0 | 16704 | 65 | 64 |
120
+ | 98 | 8.0 | 17216 | 67 | 64 |
121
+ | 127 | 約98.70149 | 18144 | 70 | 224 |
122
+
123
+ - LNS8の非ゼロコードは、すべてLNS16で厳密に表現可能。
124
+ - LNS16の全コードがLNS8へ厳密に戻せるわけではない。**L8が32の倍数**で、逆変換した`k8`が1..127にある場合のみ厳密な可逆写像。
125
+ - 互換窓の外や中間位相からLNS8へ戻す場合は、最近傍丸め・clamp・ゼロ/underflow処理の規則を別途決める。
126
+
127
+ ## 5. 変換の参照実装
128
+
129
+ ```c
130
+ #include <stdint.h>
131
+
132
+ // LNS8: S1 | magnitude7、LNS16: S1 | magnitude15
133
+ static inline uint16_t lns8_to_lns16(uint8_t raw8) {
134
+ uint16_t k8 = (uint16_t)(raw8 & 0x7fu);
135
+ if (k8 == 0) return 0; // negative zeroもcanonical zeroへ
136
+ uint16_t sign = ((uint16_t)raw8 & 0x80u) << 8;
137
+ uint16_t e7 = 55u + (k8 >> 3);
138
+ uint16_t l8 = (k8 & 7u) << 5;
139
+ return sign | (e7 << 8) | l8;
140
+ }
141
+ ```
142
+
143
+ この変換は整数shift / AND / ADD / ORのみ。浮動小数点の`log2`やLUTを必要としない。
144
+
145
+ LNS16→LNS8の**厳密可逆条件**:
146
+
147
+ ```text
148
+ k16 == 0 -> k8 = 0
149
+ k16 != 0 AND (k16 & 31) == 0
150
+ AND 1 <= 74 + (k16 - 16448)/32 <= 127
151
+ -> k8 = 74 + (k16 - 16448)/32
152
+ otherwise -> 非可逆。丸め・clamp方針が必要
153
+ ```
154
+
155
+ ## 6. オプション:LNS8共有指数で常用窓を移動
156
+
157
+ LNS8本体の8位相を維持したまま、グループ共有の整数オクターブオフセット`s`を持たせる拡張案:
158
+
159
+ \[
160
+ \boxed{k_{16}=14080+32k_8+256s}
161
+ \]
162
+
163
+ \[
164
+ \boxed{E7=55+E4+s},\qquad\boxed{L8=32L3}
165
+ \]
166
+
167
+ - `s=0` は既存LNS8との完全互換。
168
+ - `s=14` は全値を \(2^{14}\) 倍する窓移動。LNS8最大値約98.70は約161.7万へ移動し、70万付近の値も収容範囲に入る。
169
+ - `E7=55+E4+s` が0..127の範囲に収まることが条件。範囲を外れるとoverflow/underflow処理が必要。
170
+ - 共有指数は**局所窓を移動するだけ**。単一ブロック内のLNS8約16オクターブのダイナミックレンジそのものは拡張しない。
171
+ - 共有指数は、今回の**16bit LNS16基本形式に必須ではない**。LNS8系の拡張オプションとして扱う。
172
+
173
+ ## 7. 積生成と256位相reduction
174
+
175
+ 非ゼロのLNS16について、**signed log coordinate**を
176
+
177
+ \[
178
+ q_{16}=k_{16}-16448
179
+ \]
180
+
181
+ とする。積は
182
+
183
+ \[
184
+ \boxed{q_{prod}=q_a+q_b},\qquad
185
+ \boxed{S_{prod}=S_a\oplus S_b}
186
+ \]
187
+
188
+ で生成できる。storage code相当の座標なら `kprod = ka + kb - 16448`。**積を作った直後にstorage rangeへclampしない**。
189
+
190
+ ### 重要:中間整数幅
191
+
192
+ `B16=16448`を採用すると、単独の`q16`範囲は **−16447..+16319**、2入力の積座標は**−32894..+32638**になる。負側がsigned INT16の最小値−32768を126コード超えるため、**全レンジを厳密に扱う積座標は少なくともsigned 17bit(実装上はINT32等)**を使う。
193
+
194
+ これは、従来の`B16=16384`なら積座標がsigned INT16に収まるという性質とのトレードオフである。今回の採用では、**LNS8→LNS16の単純フィールド写像を優先**し、中間座標の幅を明示的な設計制約とする。
195
+
196
+ ### 256位相の扱い
197
+
198
+ productのsigned log座標を最終的に`p=0..255`の位相へ分解し、位相ごとに指数重みを持つ整数寄与を集約する。
199
+
200
+ ```text
201
+ nonzero operands
202
+ -> signed log coordinate ADD + sign XOR
203
+ -> productのoctave/phaseを抽出
204
+ -> phase p(0..255)でroute
205
+ -> exponent/ZONEに応じたsigned integer accumulation
206
+ -> phase係数でreduction
207
+ ```
208
+
209
+ - **LNS8×LNS8**:両入力が厳密互換写像ならproduct phaseも32の倍数。したがって**8位相のみ**を使用できる。
210
+ - **LNS8×LNS16**:LNS16側の位相を保持し、最大256位相で処理できる。
211
+ - **LNS16×LNS16**:最大256位相で処理する。
212
+ - phaseのPOPCOUNTだけでは異なる指数の重みは合算できない。指数/ZONE別の集計、または指数重み付きの直接累積が必要。
213
+
214
+ **留意点:** 256本の32bit accumulatorなら素の容量は1 KiBだが、LNS16の広い指数範囲を**全域同時に**厳密固定小数点累積できるわけではない。Zone分割・基準指数・累積器幅・相殺の扱いは別途定める。特に「256位相で済む」ことと「256個の32bit整数だけで全レンジの積和が正確に完了する」ことを同一視しない。
215
+
216
+ ## 8. 互換性と既存資料との差分
217
+
218
+ | 対象 | 従来/既存 | 本案 |
219
+ |---|---|---|
220
+ | LNS8 base74 | `S1E4L3`, `code74=1.0` | **変更なし** |
221
+ | LNS8↔LNS16 | 共通log座標で変換 | **32ストライドで誤差ゼロの厳密埋込** |
222
+ | LNS16基本profile | `S1E10L5` / `S1E9L6`(設計ガイドv0.2) | **S1E7L8** を採用 |
223
+ | LNS16 unity bias | `B16=16384`(旧案) | **`B16=16448`** |
224
+ | LNS16位相数 | 32 / 64 | **256(上限)** |
225
+ | 全レンジの2入力積座標 | 旧B16ではsigned INT16内 | **signed 17bit以上が必要** |
226
+
227
+ 既存のLNS8 `0.125 octave/code・base74`仕様(v0.5)と、HSDRにおけるphase routing・ZONE・POPCOUNTの考え方を継承する。旧LNS16設計ガイドのL5/L6とB16=16384の内容は、**本案のLNS16基本profileに限って置き換える**。過去の実験ベクトル等は、自動的には新形式へ読み替えない。
228
+
229
+ ## 9. 実装・検証で残す事項
230
+
231
+ 1. **表現検証:** 全127個の非ゼロLNS8コードについて、LNS16への往復変換・値の厳密一致を検証。ゼロ・負値・負ゼロも試験。
232
+ 2. **計算精度:** LNS16→FP32 decodeの参照結果と、256位相ヒストグラム/Zone reductionの結果を比較。
233
+ 3. **中間幅:** 17bit以上のproduct log座標、指数の繰上げ、積和のoverflow/underflow、桁落ち・正負相殺を検証。
234
+ 4. **性能:** 256ビンroutingとPOPCOUNT/SWAR/整数accumulatorのレイテンシ・帯域・レジスタ使用量を計測。LNS8の8ビン経路は継続して利用。
235
+ 5. **丸め規則:** BF16/FP16/FP32からの量子化で、最近傍のタイブレーク、アンダーフロー、飽和、ゼロ処理を定義。
236
+ 6. **学習用途:** モデル正本をLNS16で保持する方式は候補段階。OptimizerのFP32計算・モーメント保持は許容し、FP32の**モデル重みコピー**を別途持つかどうかは独立に評価。
237
+ 7. **共有指数:** `s`の単位、適用粒度、保存コスト、ブロック内の外れ値/極小値の混在をPoCで検証。
238
+
239
+ ## 10. 採用判断の要約
240
+
241
+ **採用:** `LNS16 S1E7L8 / B16=16448 / phase=256 / LNS8 stride=32`。
242
+
243
+ - **LNS8 base74との整合を最優先**し、非ゼロコードを単純なビット操作で誤差なくLNS16へ写像できる。
244
+ - **L8=256位相を演算器上限**として固定。L9/L10への増設を必須にしない。
245
+ - **BF16より小さい理論上の相対量子化誤差**と、70万級の外れ値を覆う広い指数範囲を確保。
246
+ - 中間積座標はsigned 17bit以上が必要であり、256ビン累積の実装精度・性能はPoCで確認する。
247
+
248
+ この仕様は**数値形式と互換写像の採用案**であり、実際のLLM学習品質や演算性能を実証した結果ではない。
249
+
250
+ ---
251
+
252
+ ### 参照した既存BitState文書
253
+
254
+ - `LNS8_0.125octave_base74_ja_v0.5.md`:LNS8 base74の確定数値定義と8位相経路。
255
+ - `BitState_HSDR_v0.5_ja_WHT-RMSNorm-premise.md`:位相routing、指数重み付き累積、ZONE/POPCOUNTの計算前提。
256
+ - `LNS8_LNS16_5profile_design_guide_JA_v0.2.md`:従来のLNS16 L5/L6プロファイル(本案との差分比較)。