mktnhr commited on
Commit
c73a528
·
verified ·
1 Parent(s): 6a87323

Upload 2 files

Browse files
.gitattributes CHANGED
@@ -60,3 +60,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
60
  *.webm filter=lfs diff=lfs merge=lfs -text
61
  Bitstate/BitState_LNS8_base74_8step_zone8_popcount_demo_EN_v0.9_RMSNorm.xlsx filter=lfs diff=lfs merge=lfs -text
62
  Bitstate/BitState_LNS8_base74_8step_zone8_popcount_demo_JA_v0.9_RMSNorm.xlsx filter=lfs diff=lfs merge=lfs -text
 
 
60
  *.webm filter=lfs diff=lfs merge=lfs -text
61
  Bitstate/BitState_LNS8_base74_8step_zone8_popcount_demo_EN_v0.9_RMSNorm.xlsx filter=lfs diff=lfs merge=lfs -text
62
  Bitstate/BitState_LNS8_base74_8step_zone8_popcount_demo_JA_v0.9_RMSNorm.xlsx filter=lfs diff=lfs merge=lfs -text
63
+ Bitstate/LNS8_LNS16_5profile_numeric_guide_JA_v0.2.xlsx filter=lfs diff=lfs merge=lfs -text
Bitstate/LNS8_LNS16_5profile_design_guide_JA_v0.2.md ADDED
@@ -0,0 +1,268 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # LNS8 / LNS16 5プロファイル設計ガイド
2
+
3
+ *LNS8: S1E3L4+shared E4 / S1E3L4 / S1E5L2 LNS16: S1E10L5 / S1E9L6*
4
+
5
+ BitState / HSDR向け profile proposal v0.2
6
+
7
+ > 設計方針: LNS8 3形式はbase74互換。LNS16 2形式は sign 1bit + magnitude 15bit、code 0 = exact zero、unity bias B16=16384。LNS16ではFP32級以上のrangeを16bit integer-logへ移し、productをINT16 ADDで生成する。
8
+
9
+ ## 1. 目的
10
+
11
+ 本資料はBitState/HSDR向けLNSを5プロファイルとして整理する。LNS8 3形式は帯域・GEMM/GEMV・state-domain reductionを主対象とし、LNS16 2形式は学習、optimizer state、高精度reductionを見据えた16bit integer-log arithmeticの候補とする。
12
+
13
+ 3形式はすべて7bit magnitude + 1bit signを基本とし、code 0をexact zeroとして予約する。非zero codeは1..127。積生成時は最終storage rangeへ早期saturateせず、wide signed log coordinateを使う。
14
+
15
+ ## 2. 共通数値ルール
16
+
17
+ 既定base codeを B = 74 とする。これにより現在のbase74系LNS8と同じunity anchorを維持する。
18
+
19
+ code 74 = 1.0
20
+
21
+ LNSでは乗算をlog座標の加算へ置換できる。同じcodes-per-octaveのprofile同士なら、magnitude product codeは次式で生成できる。
22
+
23
+ k_product = k_a + k_b - B
24
+
25
+ 符号は sign_a XOR sign_b。zeroはmask/skipする。product codeはstorage用1..127へ直ちにclampせず、reductionのためのwide intermediateとして保持する。
26
+
27
+ ## 3. Profile A — S1E3L4 + 16-element shared E4(高精細ワイドレンジ)
28
+
29
+ local 8bitは S1 | E3 | L4。L4を16 states/octaveとして高い相対精度を確保し、local E3だけでは不足するdynamic rangeを4bitのexternal E4でblock単位に移動する。external E4は16要素共通とし、local state bucketへ展開しない。
30
+
31
+ |x| = 2^((k - 74)/16 + e_s), e_s = stored_E4 - 8
32
+
33
+ 既定ではexternal E4の1 codeを1 octave(×2)とする。stored_E4=0..15は e_s=-8..+7 に対応する。
34
+
35
+ | 項目 | 値 |
36
+ | ------------------------ | ----------------------------------- |
37
+ | local field | S1E3L4 |
38
+ | local states | 128 magnitude states |
39
+ | phase buckets | 16 |
40
+ | codes/octave | 16 |
41
+ | adjacent ratio | 1.044273782 |
42
+ | nearest error | +2.190% / -2.143% |
43
+ | local range (base74) | 0.0423204858 .. 9.9348625 |
44
+ | global range (E4 -8..+7) | 0.000165314398 .. 1271.6624 |
45
+ | ideal storage | 8.25 bit/element (16-element block) |
46
+
47
+ base74をfield分解すると 74 = 16×4 + 10 なので、unityは E3=4, L4=10 に置かれる。
48
+
49
+ |x| = 2^(E3 - 4) × 2^((L4 - 10)/16) × 2^(e_s)
50
+
51
+ shared E4はblock全体のpower-of-two offsetなので、HSDRのbucket identityを増やす必要がない。local側は常に16 phase × 8 octave = 128 magnitude statesのまま扱える。
52
+
53
+ ## 4. Profile B — S1E3L4(高精細ショート)
54
+
55
+ external scaleを持たない8bit単独profile。Profile Aと同じL4精度を維持し、local windowだけで収まるactivation、normalized tensor、局所blockなどを想定する。
56
+
57
+ |x| = 2^((k - 74)/16)
58
+
59
+ | 項目 | 値 |
60
+ | ------------------- | --------------------- |
61
+ | codes/octave | 16 |
62
+ | nearest error | +2.190% / -2.143% |
63
+ | min nonzero | 0.0423204858 |
64
+ | max | 9.9348625 |
65
+ | octave span | 7.875 |
66
+ | phase buckets | 16 |
67
+ | balanced phase tree | 16→8→4→2→1 (4 stages) |
68
+
69
+ > S1E3L4は精度を優先する代わりにrangeが狭い。外部scaleなしで使う場合、tensor/blockがこのwindowへ収まることを実測で確認する。
70
+
71
+ ## 5. Profile C — S1E5L2(ワイドレンジ)
72
+
73
+ Lを2bitへ減らし、Eを5bitへ増やす8bit wide-range profile。1 octaveを4 stateにするため量子化は粗くなるが、約31.5 octaveのrangeを1要素だけで保持できる。gradientやrange変動の大きいtensorの候補。
74
+
75
+ |x| = 2^((k - 74)/4)
76
+
77
+ base74では 74 = 4×18 + 2 なので、unityは E5=18, L2=2。
78
+
79
+ |x| = 2^(E5 - 18) × 2^((L2 - 2)/4)
80
+
81
+ | 項目 | 値 |
82
+ | ------------------- | ----------------- |
83
+ | codes/octave | 4 |
84
+ | nearest error | +9.051% / -8.300% |
85
+ | min nonzero | 3.20776526e-06 |
86
+ | max | 9741.98469 |
87
+ | octave span | 31.5 |
88
+ | phase buckets | 4 |
89
+ | balanced phase tree | 4→2→1 (2 stages) |
90
+
91
+ ## 6. LNS8 3形式の比較
92
+
93
+ | Profile | codes/oct | 丸め誤差 | range span | phase | 帯域 | 主用途 |
94
+ | -------------- | --------- | ------------- | -------------- | ----- | ---------- | ---------------------- |
95
+ | S1E3L4 + E4/16 | 16 | 約±2.2% | 22.875 octave* | 16 | 8.25b/elem | 高精細 + block wide range |
96
+ | S1E3L4 | 16 | 約±2.2% | 7.875 octave | 16 | 8b/elem | 高精細 short |
97
+ | S1E5L2 | 4 | 約+9.1/-8.3% | 31.5 octave | 4 | 8b/elem | wide range |
98
+ | LNS16 S1E10L5 | 32 | 約+1.09/-1.08% | 1023.94 octave | 32 | 16b/elem | 超wide range / LNS16 |
99
+ | LNS16 S1E9L6 | 64 | 約+0.54/-0.54% | 511.97 octave | 64 | 16b/elem | 高精細LNS16 / optimizer候補 |
100
+
101
+ * shared E4の既定 -8..+7、1 octave/codeを含む全union。1つのblockが同時に使えるlocal window自体は7.875 octaveであり、external E4はそのwindowの位置を移動する。
102
+
103
+ ## 7. メモリ帯域とpacking
104
+
105
+ 16要素shared E4の最大の利点は、論理上は「8bit local + 4bit external exponent」の12bit相当構造を持ちながら、external E4をblock metadataへ追い出せる点にある。
106
+
107
+ 16 × 8bit + 4bit = 132bit / 16 = 8.25bit per element
108
+
109
+ byte単位で扱いやすくするため1 blockにつきscaleを1byte確保すると17byte/16要素 = 8.5bit/element。帯域を詰めたい場合は2 blockのE4 nibbleを1byteへpackし、32要素あたり33byteにできる。
110
+
111
+ | 配置 | bit/element | 8bit比 | 備考 |
112
+ | ----------------------- | ----------- | -------- | ------------------------------- |
113
+ | S1E3L4 / S1E5L2 | 8.00 | 1.000× | metadataなし |
114
+ | shared E4 nibble packed | 8.25 | 1.03125× | 理想pack |
115
+ | shared E4 1byte/block | 8.50 | 1.0625× | 実装簡略 |
116
+ | E4 per-element | 12.00 | 1.50× | 比較用。帯域増が大きい |
117
+ | LNS16 S1E10L5 | 16.00 | 2.000× | metadataなし / 2 byte per element |
118
+ | LNS16 S1E9L6 | 16.00 | 2.000× | metadataなし / 2 byte per element |
119
+
120
+ ## 8. BitState / HSDRでのbucket構造
121
+
122
+ 3形式ともlocal magnitude state数は128で変わらない。bit配分を変更することでphase数とoctave数の比率だけを変える。
123
+
124
+ | Profile | E states | L phase states | local states | final phase tree |
125
+ | ------------------ | -------- | -------------- | ------------ | ----------------------- |
126
+ | S1E3L4 | 8 | 16 | 128 | 4 stages |
127
+ | S1E3L4 + shared E4 | 8 | 16 | 128 | 4 stages + group offset |
128
+ | S1E5L2 | 32 | 4 | 128 | 2 stages |
129
+ | LNS16 S1E10L5 | 1024 | 32 | 32768* | 5 stages |
130
+ | LNS16 S1E9L6 | 512 | 64 | 32768* | 6 stages |
131
+
132
+ shared E4をlocal stateへ連結してflatな2048 stateとして数えないことが重要。まずlocal state populationを縮約し、その結果へgroup log offsetを加える。これによりwide range化してもpopulation bucket数を増やさない。
133
+
134
+ ## 9. 共通u16座標による混在演算
135
+
136
+ L4を1/16 octaveの共通内部単位 u16 とすると、3形式を同じlog-domain arithmeticへ揃えられる。
137
+
138
+ S1E3L4: u16 = (k - 74)
139
+
140
+ S1E3L4 + shared E4: u16 = (k - 74) + 16*e_s
141
+
142
+ S1E5L2: u16 = 4*(k - 74)
143
+
144
+ product: u16_p = u16_a + u16_b
145
+
146
+ この形ならforwardの高精細profileとbackwardのwide profileを混在させても、product generationを小整数のshift/addへ寄せられる。最終的にどのprofileへ保存するかはboundaryで再量子化する。
147
+
148
+ ## 10. 16-element shared E4の選択
149
+
150
+ LNSの相対量子化stepはscale位置に依存しないため、shared E4は「精度を上げるため」ではなく「local 7.875-octave windowをどこへ置くか」を決めるmetadataである。実装初期はblock内最大絶対値がlocal maxへ収まる最小e_sを選ぶ方法が単純。
151
+
152
+ e_s = ceil(log2(max_abs) - (127-B)/16), clamp[-8,+7]
153
+
154
+ ただしblock内max/min比がlocal windowを超える場合、どのe_sでも全要素を同時には救えない。ExcelのQuant_Demoには、収まるblockとstress blockの双方を用意した。
155
+
156
+ ## 11. Excelブックの見方
157
+
158
+ | Sheet | 内容 |
159
+ | ---------------- | ----------------------------------------------------------------------- |
160
+ | Guide | 可変base code、shared E4 bias/step、共通定義 |
161
+ | Profile_Compare | 精度・range・bucket数・メモリ帯域の比較 |
162
+ | S1E3L4_Codebook | 全128 codeのE3/L4分解と数値 |
163
+ | S1E5L2_Codebook | 全128 codeのE5/L2分解と数値 |
164
+ | SharedE4_16 | external E4 16状態ごとの有効rangeとpacking |
165
+ | Quant_Demo | 16要素block量子化。収まる例とstress例 |
166
+ | GEMM_Log_Add | 共通u16座標での積生成とmixed-format例 |
167
+ | S1E10L5_Codebook | LNS16全32768 code。E10/L5、q、log2値、実数値を確認。 |
168
+ | S1E9L6_Codebook | LNS16全32768 code。E9/L6、q、log2値、実数値を確認。 |
169
+ | LNS16_Add_LUT | L5/L6の2項加算補正 κ+(d), κ-(d) と丸め境界。 |
170
+ | LNS16_GEMM_Block | 16-lane dot productでproduct ADD、balanced LNS reduction、guard bit効果を数値化。 |
171
+
172
+ > Excelでは青字セルを入力、黒字を数式、緑字をsheet間参照/重要結果、橙を注意としている。Guideのbase codeを変更するとcodebook/rangeが連動して再計算される。
173
+
174
+ ## 12. 検証項目
175
+
176
+ - 実model activation / gradientについて、16要素block内 max/min ratio と shared E4 saturation/underflow率を測る。
177
+ - S1E3L4、shared E4、S1E5L2を同じtensorで比較し、量子化誤差とend-to-end qualityを分離する。
178
+ - state-domain側ではphase bucket数(16 vs 4)とnon-zero state cardinalityを測る。
179
+ - shared E4のload/packing overheadを含む実効GB/sを測る。
180
+ - mixed-format GEMMではcommon u16 conversionのinstruction costを個別計測する。
181
+
182
+ ## 13. LNS16案 — 16bit integer-log arithmetic
183
+
184
+ LNS16は、8bit LNSのrange/precision trade-offを外部scaleで補うのではなく、16bit本体へ十分なlog座標を直接持たせる案である。1bit signと15bit magnitude code k16を用い、k16=0をexact zero、k16=1..32767を非zeroとして、unity biasをB16=16384に置く。
185
+
186
+ q = k16 - 16384, |x| = 2^(q / C)
187
+
188
+ Cはcodes-per-octave。S1E10L5ではC=32、S1E9L6ではC=64。qはstorage biasを除いたsigned integer-log coordinateである。
189
+
190
+ ### 13.1 S1E10L5 と S1E9L6
191
+
192
+ | Profile | codes/oct | 隣接倍率 | nearest誤差 | log2 range | phase | 主用途 |
193
+ | ------- | --------- | ----------- | ----------------- | -------------------- | ----- | ------------------ |
194
+ | S1E10L5 | 32 | 1.021897149 | +1.089% / -1.077% | 約 -511.97 .. +511.97 | 32 | 超wide / bucket軽め |
195
+ | S1E9L6 | 64 | 1.010889286 | +0.543% / -0.540% | 約 -255.98 .. +255.98 | 64 | 精度優先 / optimizer候補 |
196
+
197
+ S1E9L6でもFP32のnormal exponent rangeを十分に超え、subnormal側まで含めても広い。S1E10L5はさらにrangeへ1bit振る代わり、phase bucketを64→32へ半減できる。
198
+
199
+ ### 13.2 乗算はsigned INT16 ADDへ落とせる
200
+
201
+ storage codeではなくq座標で積を作る。符号はXOR、magnitudeはinteger additionだけである。
202
+
203
+ q_product = q_a + q_b, sign_product = sign_a XOR sign_b
204
+
205
+ 入力qは -16383..+16383。2入力の和は -32766..+32766なのでsigned INT16 (-32768..32767) に収まる。したがってLNS16×LNS16のproduct generationは、wide multiplierなしでINT16 ADD + sign XORとして保持できる。
206
+
207
+ ### 13.3 LNS加算の「補正LUT」
208
+
209
+ a>=b、d=q_a-q_b とする。同符号の2項加算は大きい側q_aへ κ+(d) を足し、異符号は κ-(d) を足す。
210
+
211
+ kappa_plus(d) = C * log2(1 + 2^(-d/C))
212
+
213
+ kappa_minus(d) = C * log2(1 - 2^(-d/C)) (d>0)
214
+
215
+ d=0の異符号はexact cancel。実装は compare → subtract(d) → small LUT → add で構成できる。L5/L6でLUTのindex幅は増えるが、dが十分大きいと補正は0.5 code未満になり、小さい項はstorage grid上で結果へ影響しなくなる。
216
+
217
+ ### 13.4 GEMM多数要素block
218
+
219
+ K個の積について、product generationは各laneでINT16 ADD。その後のsumだけがLNS固有の処理になる。単純実装ではbalanced treeを使い、K=4096なら4095個の2項LNS add、critical dependency depthはlog2(4096)=12段となる。
220
+
221
+ 各nodeでstorage L5/L6へ丸めると誤差を蓄積しやすいため、内部だけqを左shiftしてguard fractional bitsを追加し、最後にLNS16へ丸め戻す。一方BitState/HSDRでは同一product stateをpopulationへ先に折り畳める場合、treeへ入る項数BをKより大きく減らせる可能性がある。
222
+
223
+ ### 13.5 optimizerでの位置づけ
224
+
225
+ LNS16はFP32 optimizer stateを16bitへ置き換える候補として、LNS8より単純でrangeも十分である。ただしmicro-update問題は残る。たとえばbeta2=0.999はL5で約-0.046 code、L6でも約-0.092 codeしか動かない。毎step nearest roundingだけでは変化が消えるため、stochastic rounding、guard bits、hidden residual、または更新時だけ高精度log座標を使う設計が必要になる。
226
+
227
+ ### 13.6 現時点の使い分け
228
+
229
+ | 領域 | 候補 | 理由 |
230
+ | ---------------------- | ------------------------ | ------------------------------- |
231
+ | 8bit forward / operand | S1E3L4 / shared E4 | 帯域優先、L4精度 |
232
+ | 8bit wide gradient | S1E5L2 | 4 phaseでrange優先 |
233
+ | 16bit汎用LNS | S1E9L6 | FP32級以上range + 約0.54% half-step |
234
+ | 16bit HSDR軽量側 | S1E10L5 | phase 32、L6よりbucket半減 |
235
+ | optimizer update内部 | LNS16 + guard/stochastic | 微小更新をstorage gridへ毎step丸めない |
236
+
237
+ ※ LNS16の32768 magnitude statesにはcode 0 exact zeroを含む。非zero magnitudeは32767 states。flat scanを前提とせず、phase/octave分解またはactive-state sparse処理を想定する。
238
+
239
+ ## Appendix A. 既存base74との関係
240
+
241
+ 現行S1E4L3/base74は 8 codes/octave、code74=1.0。今回の3 profileはunity anchorを同じ74へ固定し、L fieldの幅だけを変更する。したがって product bias B=74 を共通化できる一方、code差1の意味(1/16 octave、1/4 octave)はprofileごとに異なる。mixed-formatではu16のような共通単位へ変換してから加算する。
242
+
243
+ ## Appendix B. Quick reference
244
+
245
+ | 項目 | S1E3L4 + E4/16 | S1E3L4 | S1E5L2 |
246
+ | --------------- | ----------------- | ------------- | ------------ |
247
+ | 非zero式 | 2^((k-74)/16+e_s) | 2^((k-74)/16) | 2^((k-74)/4) |
248
+ | codes/octave | 16 | 16 | 4 |
249
+ | phase buckets | 16 | 16 | 4 |
250
+ | local states | 128 | 128 | 128 |
251
+ | u16 | (k-74)+16e_s | k-74 | 4(k-74) |
252
+ | ideal bits/elem | 8.25 | 8.00 | 8.00 |
253
+ | 主な役割 | 高精細+wide | 高精細short | wide range |
254
+
255
+ ### LNS16 quick reference
256
+
257
+ | 項目 | S1E10L5 | S1E9L6 |
258
+ | -------------- | ---------------- | ----------------- |
259
+ | 非zero式 | 2^((k-16384)/32) | 2^((k-16384)/64) |
260
+ | codes/octave | 32 | 64 |
261
+ | phase buckets | 32 | 64 |
262
+ | magnitude code | 0..32767 | 0..32767 |
263
+ | q coordinate | k-16384 | k-16384 |
264
+ | log2 range | -511.97..+511.97 | -255.98..+255.98 |
265
+ | bits/elem | 16.00 | 16.00 |
266
+ | 主な役割 | 超wide / HSDR軽量側 | 高精細 / optimizer候補 |
267
+
268
+ product rule: LNS8の同一gridでは k_p = k_a + k_b - 74。mixed LNS8はu16へ揃える。LNS16は q=k-16384 として q_p=q_a+q_b。storage boundaryで目的profileへ再量子化する。
Bitstate/LNS8_LNS16_5profile_numeric_guide_JA_v0.2.xlsx ADDED
@@ -0,0 +1,3 @@
 
 
 
 
1
+ version https://git-lfs.github.com/spec/v1
2
+ oid sha256:bac310ed6f873620453ec9d8c1380909bb8d063f12857699676290f373890a3a
3
+ size 6836236