野原 眞 commited on
Commit ·
9bc0302
1
Parent(s): 29a2e94
Add LNS16 S1E7L8 specification with LNS8 compatibility
Browse files
Bitstate/BitState_LNS16_S1E7L8_base16448_LNS8_compat_JA_v0.1.md
ADDED
|
@@ -0,0 +1,256 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# BitState LNS16 仕様案 — S1E7L8 / base16448 / LNS8 base74互換
|
| 2 |
+
|
| 3 |
+
**版:** v0.1(2026-10-25)
|
| 4 |
+
**状態:** 基本数値形式・互換写像を採用。積和演算器の性能・学習品質は未検証。
|
| 5 |
+
**対象:** BitState / HSDRにおける16bit LNS保存形式、LNS8との混在演算、256位相reduction。
|
| 6 |
+
|
| 7 |
+
## 1. 設計方針と採用事項
|
| 8 |
+
|
| 9 |
+
本案では次を**採用仕様**とする。
|
| 10 |
+
|
| 11 |
+
1. LNS16は **S1E7L8**:sign 1bit、octave/exponent 7bit、fractional-log phase 8bit。
|
| 12 |
+
2. **256位相を演算器の上限**とする。L9(512位相)やL10(1024位相)は本仕様の演算器基本形には採用しない。
|
| 13 |
+
3. **LNS8の現行base74(S1E4L3、8 codes/octave)を維持**する。LNS8仕様自体の変更は行わない。
|
| 14 |
+
4. LNS16のunity anchorを **`B16 = 16448 = 0x4040`** とする。
|
| 15 |
+
5. **LNS8の1ステップ = LNS16の32ステップ**。LNS8非ゼロコードをLNS16へ**数値誤差ゼロ**で埋め込む。
|
| 16 |
+
6. LNS8のE4常用窓(0..15)を、LNS16の**E7 = 55..70**へ配置する。
|
| 17 |
+
7. code 0はexact zero。符号は別ビットとし、negative zeroは生成しない。
|
| 18 |
+
8. 倍精度の中間計算やoptimizer用FP32などは排除しない。**16bitの重み正本・データ転送形式**の候補として検討する。
|
| 19 |
+
|
| 20 |
+
> **位置づけ:** 数値形式の表現能力・互換性・演算器への適合を先に確定するための設計案。実モデルでの推論精度、積和の誤差、学習収束、ハードウェア性能が保証されたという意味ではない。
|
| 21 |
+
|
| 22 |
+
## 2. 16bitレイアウトと数値定義
|
| 23 |
+
|
| 24 |
+
```text
|
| 25 |
+
bit15 : S (sign)
|
| 26 |
+
bit14..8 : E7 (7bit, octave field)
|
| 27 |
+
bit7..0 : L8 (8bit, fractional-log phase)
|
| 28 |
+
|
| 29 |
+
k16 = (E7 << 8) | L8 // 15bit magnitude code
|
| 30 |
+
raw16 = (S << 15) | k16
|
| 31 |
+
```
|
| 32 |
+
|
| 33 |
+
- `k16 = 0` は **exact zero**。canonical zeroは `0x0000`。
|
| 34 |
+
- `k16 = 1..32767` は非ゼロ。
|
| 35 |
+
- `S=0` は正、`S=1` は負。ただし `0x8000` は禁止・読み込み時に `0x0000` へ正規化する。
|
| 36 |
+
- NaN / infinity / subnormal は現段階で定義しない。overflow / underflow処理は後述のPoC検証項目とする。
|
| 37 |
+
|
| 38 |
+
非ゼロ値の定義:
|
| 39 |
+
|
| 40 |
+
\[
|
| 41 |
+
\boxed{x=(-1)^S\,2^{(k_{16}-16448)/256}}
|
| 42 |
+
\]
|
| 43 |
+
|
| 44 |
+
`16448 = 64×256 + 64` なので、フィールド展開すると:
|
| 45 |
+
|
| 46 |
+
\[
|
| 47 |
+
\boxed{x=(-1)^S\,2^{E7-64}\,2^{(L8-64)/256}}
|
| 48 |
+
\]
|
| 49 |
+
|
| 50 |
+
**1.0 = `k16=16448=0x4040`**。`k16`が+256されると厳密に2倍、+32されると厳密に\(2^{1/8}\)倍となる。
|
| 51 |
+
|
| 52 |
+
## 3. 代表的な表現能力
|
| 53 |
+
|
| 54 |
+
| 項目 | 値 |
|
| 55 |
+
|---|---:|
|
| 56 |
+
| 総bit | 16bit/element |
|
| 57 |
+
| 非ゼロmagnitude states | 32767 |
|
| 58 |
+
| 1 octaveのステップ数 | 256 |
|
| 59 |
+
| 1コードの倍率 | \(2^{1/256}\) ≈ 1.002711275 |
|
| 60 |
+
| 最近傍丸めの最大正方向相対誤差 | 約 **+0.135472%** |
|
| 61 |
+
| 最近傍丸めの最大負方向相対誤差 | 約 **−0.135289%** |
|
| 62 |
+
| 最小正数(k16=1) | 約 **4.57087×10⁻²⁰** |
|
| 63 |
+
| 最大正数(k16=32767) | 約 **1.54699×10¹⁹** |
|
| 64 |
+
| L8 phase bucket | **256** |
|
| 65 |
+
| 基本の保存・転送量 | **2 byte/element**(外部scaleなし) |
|
| 66 |
+
|
| 67 |
+
上の範囲は `B16=16448` **固有の値**。旧LNS16案の `B16=16384` の端点とは異なる。
|
| 68 |
+
|
| 69 |
+
約70万のActivation外れ値、また約140万という2倍の余裕は、表現範囲内に十分収まる。たとえば、最近傍コードでは `700000 → k16=21419 → 約700472.43` である。
|
| 70 |
+
|
| 71 |
+
### BF16・FP16との比較(正規数領域の値表現)
|
| 72 |
+
|
| 73 |
+
| 数値形式 | 最大相対丸め誤差(概算) | 備考 |
|
| 74 |
+
|---|---:|---|
|
| 75 |
+
| BF16 | 約0.390625% | 8bit指数・7bit仮数 |
|
| 76 |
+
| FP16 | 約0.048828% | 5bit指数・10bit仮数。非正規数では相対精度が落ちる |
|
| 77 |
+
| **LNS16 L8** | **約0.135472%** | 全表現範囲でほぼ一定の相対刻み |
|
| 78 |
+
|
| 79 |
+
L8の相対量子化誤差上限はBF16の約**1/2.88**。ただしFP16の正規数領域ほど細かくはない。「平均的にBF16より高精度」は**入力分布と丸め規則を仮定した数値表現の見込み**であって、モデルの品質保証ではない。極小値の表現に優れることと、微小な**重み更新**を保持できることも別問題である。
|
| 80 |
+
|
| 81 |
+
## 4. LNS8 base74との完全互換写像
|
| 82 |
+
|
| 83 |
+
現行LNS8の定義(変更なし):
|
| 84 |
+
|
| 85 |
+
\[
|
| 86 |
+
\boxed{|x_8|=2^{(k_8-74)/8}},\quad k_8\in[1,127]
|
| 87 |
+
\]
|
| 88 |
+
|
| 89 |
+
LNS16への厳密な変換:
|
| 90 |
+
|
| 91 |
+
\[
|
| 92 |
+
\boxed{k_{16}=16448+32(k_8-74)=14080+32k_8}
|
| 93 |
+
\]
|
| 94 |
+
|
| 95 |
+
これにより\((k_{16}-16448)/256=(k_8-74)/8\)が**厳密に一致**する。対数近似・LUT・再量子化は不要。
|
| 96 |
+
|
| 97 |
+
LNS8は `k8 = 8×E4 + L3`(E4=0..15、L3=0..7)なので、LNS16フィールドは:
|
| 98 |
+
|
| 99 |
+
\[
|
| 100 |
+
\boxed{E7=55+E4},\qquad\boxed{L8=32L3=L3\ll5}
|
| 101 |
+
\]
|
| 102 |
+
|
| 103 |
+
```text
|
| 104 |
+
LNS8 LNS16
|
| 105 |
+
S1 | E4 | L3 ---> S1 | E7=E4+55 | L8=(L3<<5)
|
| 106 |
+
```
|
| 107 |
+
|
| 108 |
+
具体的にはLNS8の8位相が、LNS16の `L8 = 0, 32, 64, 96, 128, 160, 192, 224` に埋め込まれる。LNS16の他の位相コードは、16bit固有の追加分解能である。
|
| 109 |
+
|
| 110 |
+
### 対応表
|
| 111 |
+
|
| 112 |
+
| LNS8 `k8` | 実数値 | LNS16 `k16` | E7 | L8 |
|
| 113 |
+
|---:|---:|---:|---:|---:|
|
| 114 |
+
| 0 | 0(特���扱い) | 0 | — | — |
|
| 115 |
+
| 1 | 約0.00179102 | 14112 | 55 | 32 |
|
| 116 |
+
| 26 | 0.015625 | 14912 | 58 | 64 |
|
| 117 |
+
| 66 | 0.5 | 16192 | 63 | 64 |
|
| 118 |
+
| **74** | **1.0** | **16448** | **64** | **64** |
|
| 119 |
+
| 82 | 2.0 | 16704 | 65 | 64 |
|
| 120 |
+
| 98 | 8.0 | 17216 | 67 | 64 |
|
| 121 |
+
| 127 | 約98.70149 | 18144 | 70 | 224 |
|
| 122 |
+
|
| 123 |
+
- LNS8の非ゼロコードは、すべてLNS16で厳密に表現可能。
|
| 124 |
+
- LNS16の全コードがLNS8へ厳密に戻せるわけではない。**L8が32の倍数**で、逆変換した`k8`が1..127にある場合のみ厳密な可逆写像。
|
| 125 |
+
- 互換窓の外や中間位相からLNS8へ戻す場合は、最近傍丸め・clamp・ゼロ/underflow処理の規則を別途決める。
|
| 126 |
+
|
| 127 |
+
## 5. 変換の参照実装
|
| 128 |
+
|
| 129 |
+
```c
|
| 130 |
+
#include <stdint.h>
|
| 131 |
+
|
| 132 |
+
// LNS8: S1 | magnitude7、LNS16: S1 | magnitude15
|
| 133 |
+
static inline uint16_t lns8_to_lns16(uint8_t raw8) {
|
| 134 |
+
uint16_t k8 = (uint16_t)(raw8 & 0x7fu);
|
| 135 |
+
if (k8 == 0) return 0; // negative zeroもcanonical zeroへ
|
| 136 |
+
uint16_t sign = ((uint16_t)raw8 & 0x80u) << 8;
|
| 137 |
+
uint16_t e7 = 55u + (k8 >> 3);
|
| 138 |
+
uint16_t l8 = (k8 & 7u) << 5;
|
| 139 |
+
return sign | (e7 << 8) | l8;
|
| 140 |
+
}
|
| 141 |
+
```
|
| 142 |
+
|
| 143 |
+
この変換は整数shift / AND / ADD / ORのみ。浮動小数点の`log2`やLUTを必要としない。
|
| 144 |
+
|
| 145 |
+
LNS16→LNS8の**厳密可逆条件**:
|
| 146 |
+
|
| 147 |
+
```text
|
| 148 |
+
k16 == 0 -> k8 = 0
|
| 149 |
+
k16 != 0 AND (k16 & 31) == 0
|
| 150 |
+
AND 1 <= 74 + (k16 - 16448)/32 <= 127
|
| 151 |
+
-> k8 = 74 + (k16 - 16448)/32
|
| 152 |
+
otherwise -> 非可逆。丸め・clamp方針が必要
|
| 153 |
+
```
|
| 154 |
+
|
| 155 |
+
## 6. オプション:LNS8共有指数で常用窓を移動
|
| 156 |
+
|
| 157 |
+
LNS8本体の8位相を維持したまま、グループ共有の整数オクターブオフセット`s`を持たせる拡張案:
|
| 158 |
+
|
| 159 |
+
\[
|
| 160 |
+
\boxed{k_{16}=14080+32k_8+256s}
|
| 161 |
+
\]
|
| 162 |
+
|
| 163 |
+
\[
|
| 164 |
+
\boxed{E7=55+E4+s},\qquad\boxed{L8=32L3}
|
| 165 |
+
\]
|
| 166 |
+
|
| 167 |
+
- `s=0` は既存LNS8との完全互換。
|
| 168 |
+
- `s=14` は全値を \(2^{14}\) 倍する窓移動。LNS8最大値約98.70は約161.7万へ移動し、70万付近の値も収容範囲に入る。
|
| 169 |
+
- `E7=55+E4+s` が0..127の範囲に収まることが条件。範囲を外れるとoverflow/underflow処理が必要。
|
| 170 |
+
- 共有指数は**局所窓を移動するだけ**。単一ブロック内のLNS8約16オクターブのダイナミックレンジそのものは拡張しない。
|
| 171 |
+
- 共有指数は、今回の**16bit LNS16基本形式に必須ではない**。LNS8系の拡張オプションとして扱う。
|
| 172 |
+
|
| 173 |
+
## 7. 積生成と256位相reduction
|
| 174 |
+
|
| 175 |
+
非ゼロのLNS16について、**signed log coordinate**を
|
| 176 |
+
|
| 177 |
+
\[
|
| 178 |
+
q_{16}=k_{16}-16448
|
| 179 |
+
\]
|
| 180 |
+
|
| 181 |
+
とする。積は
|
| 182 |
+
|
| 183 |
+
\[
|
| 184 |
+
\boxed{q_{prod}=q_a+q_b},\qquad
|
| 185 |
+
\boxed{S_{prod}=S_a\oplus S_b}
|
| 186 |
+
\]
|
| 187 |
+
|
| 188 |
+
で生成できる。storage code相当の座標なら `kprod = ka + kb - 16448`。**積を作った直後にstorage rangeへclampしない**。
|
| 189 |
+
|
| 190 |
+
### 重要:中間整数幅
|
| 191 |
+
|
| 192 |
+
`B16=16448`を採用すると、単独の`q16`範囲は **−16447..+16319**、2入力の積座標は**−32894..+32638**になる。負側がsigned INT16の最小値−32768を126コード超えるため、**全レンジを厳密に扱う積座標は少なくともsigned 17bit(実装上はINT32等)**を使う。
|
| 193 |
+
|
| 194 |
+
これは、従来の`B16=16384`なら積座標がsigned INT16に収まるという性質とのトレードオフである。今回の採用では、**LNS8→LNS16の単純フィールド写像を優先**し、中間座標の幅を明示的な設計制約とする。
|
| 195 |
+
|
| 196 |
+
### 256位相の扱い
|
| 197 |
+
|
| 198 |
+
productのsigned log座標を最終的に`p=0..255`の位相へ分解し、位相ごとに指数重みを持つ整数寄与を集約する。
|
| 199 |
+
|
| 200 |
+
```text
|
| 201 |
+
nonzero operands
|
| 202 |
+
-> signed log coordinate ADD + sign XOR
|
| 203 |
+
-> productのoctave/phaseを抽出
|
| 204 |
+
-> phase p(0..255)でroute
|
| 205 |
+
-> exponent/ZONEに応じたsigned integer accumulation
|
| 206 |
+
-> phase係数でreduction
|
| 207 |
+
```
|
| 208 |
+
|
| 209 |
+
- **LNS8×LNS8**:両入力が厳密互換写像ならproduct phaseも32の倍数。したがって**8位相のみ**を使用できる。
|
| 210 |
+
- **LNS8×LNS16**:LNS16側の位相を保持し、最大256位相で処理できる。
|
| 211 |
+
- **LNS16×LNS16**:最大256位相で処理する。
|
| 212 |
+
- phaseのPOPCOUNTだけでは異なる指数の重みは合算できない。指数/ZONE別の集計、または指数重み付きの直接累積が必要。
|
| 213 |
+
|
| 214 |
+
**留意点:** 256本の32bit accumulatorなら素の容量は1 KiBだが、LNS16の広い指数範囲を**全域同時に**厳密固定小数点累積できるわけではない。Zone分割・基準指数・累積器幅・相殺の扱いは別途定める。特に「256位相で済む」ことと「256個の32bit整数だけで全レンジの積和が正確に完了する」ことを同一視しない。
|
| 215 |
+
|
| 216 |
+
## 8. 互換性と既存資料との差分
|
| 217 |
+
|
| 218 |
+
| 対象 | 従来/既存 | 本案 |
|
| 219 |
+
|---|---|---|
|
| 220 |
+
| LNS8 base74 | `S1E4L3`, `code74=1.0` | **変更なし** |
|
| 221 |
+
| LNS8↔LNS16 | 共通log座標で変換 | **32ストライドで誤差ゼロの厳密埋込** |
|
| 222 |
+
| LNS16基本profile | `S1E10L5` / `S1E9L6`(設計ガイドv0.2) | **S1E7L8** を採用 |
|
| 223 |
+
| LNS16 unity bias | `B16=16384`(旧案) | **`B16=16448`** |
|
| 224 |
+
| LNS16位相数 | 32 / 64 | **256(上限)** |
|
| 225 |
+
| 全レンジの2入力積座標 | 旧B16ではsigned INT16内 | **signed 17bit以上が必要** |
|
| 226 |
+
|
| 227 |
+
既存のLNS8 `0.125 octave/code・base74`仕様(v0.5)と、HSDRにおけるphase routing・ZONE・POPCOUNTの考え方を継承する。旧LNS16設計ガイドのL5/L6とB16=16384の内容は、**本案のLNS16基本profileに限って置き換える**。過去の実験ベクトル等は、自動的には新形式へ読み替えない。
|
| 228 |
+
|
| 229 |
+
## 9. 実装・検証で残す事項
|
| 230 |
+
|
| 231 |
+
1. **表現検証:** 全127個の非ゼロLNS8コードについて、LNS16への往復変換・値の厳密一致を検証。ゼロ・負値・負ゼロも試験。
|
| 232 |
+
2. **計算精度:** LNS16→FP32 decodeの参照結果と、256位相ヒストグラム/Zone reductionの結果を比較。
|
| 233 |
+
3. **中間幅:** 17bit以上のproduct log座標、指数の繰上げ、積和のoverflow/underflow、桁落ち・正負相殺を検証。
|
| 234 |
+
4. **性能:** 256ビンroutingとPOPCOUNT/SWAR/整数accumulatorのレイテンシ・帯域・レジスタ使用量を計測。LNS8の8ビン経路は継続して利用。
|
| 235 |
+
5. **丸め規則:** BF16/FP16/FP32からの量子化で、最近傍のタイブレーク、アンダーフロー、飽和、ゼロ処理を定義。
|
| 236 |
+
6. **学習用途:** モデル正本をLNS16で保持する方式は候補段階。OptimizerのFP32計算・モーメント保持は許容し、FP32の**モデル重みコピー**を別途持つかどうかは独立に評価。
|
| 237 |
+
7. **共有指数:** `s`の単位、適用粒度、保存コスト、ブロック内の外れ値/極小値の混在をPoCで検証。
|
| 238 |
+
|
| 239 |
+
## 10. 採用判断の要約
|
| 240 |
+
|
| 241 |
+
**採用:** `LNS16 S1E7L8 / B16=16448 / phase=256 / LNS8 stride=32`。
|
| 242 |
+
|
| 243 |
+
- **LNS8 base74との整合を最優先**し、非ゼロコードを単純なビット操作で誤差なくLNS16へ写像できる。
|
| 244 |
+
- **L8=256位相を演算器上限**として固定。L9/L10への増設を必須にしない。
|
| 245 |
+
- **BF16より小さい理論上の相対量子化誤差**と、70万級の外れ値を覆う広い指数範囲を確保。
|
| 246 |
+
- 中間積座標はsigned 17bit以上が必要であり、256ビン累積の実装精度・性能はPoCで確認する。
|
| 247 |
+
|
| 248 |
+
この仕様は**数値形式と互換写像の採用案**であり、実際のLLM学習品質や演算性能を実証した結果ではない。
|
| 249 |
+
|
| 250 |
+
---
|
| 251 |
+
|
| 252 |
+
### 参照した既存BitState文書
|
| 253 |
+
|
| 254 |
+
- `LNS8_0.125octave_base74_ja_v0.5.md`:LNS8 base74の確定数値定義と8位相経路。
|
| 255 |
+
- `BitState_HSDR_v0.5_ja_WHT-RMSNorm-premise.md`:位相routing、指数重み付き累積、ZONE/POPCOUNTの計算前提。
|
| 256 |
+
- `LNS8_LNS16_5profile_design_guide_JA_v0.2.md`:従来のLNS16 L5/L6プロファイル(本案との差分比較)。
|