Upload 12 files
Browse files
.gitattributes
CHANGED
|
@@ -61,3 +61,4 @@ saved_model/**/* filter=lfs diff=lfs merge=lfs -text
|
|
| 61 |
Bitstate/BitState_LNS8_base74_8step_zone8_popcount_demo_EN_v0.9_RMSNorm.xlsx filter=lfs diff=lfs merge=lfs -text
|
| 62 |
Bitstate/BitState_LNS8_base74_8step_zone8_popcount_demo_JA_v0.9_RMSNorm.xlsx filter=lfs diff=lfs merge=lfs -text
|
| 63 |
Bitstate/LNS8_LNS16_5profile_numeric_guide_JA_v0.2.xlsx filter=lfs diff=lfs merge=lfs -text
|
|
|
|
|
|
| 61 |
Bitstate/BitState_LNS8_base74_8step_zone8_popcount_demo_EN_v0.9_RMSNorm.xlsx filter=lfs diff=lfs merge=lfs -text
|
| 62 |
Bitstate/BitState_LNS8_base74_8step_zone8_popcount_demo_JA_v0.9_RMSNorm.xlsx filter=lfs diff=lfs merge=lfs -text
|
| 63 |
Bitstate/LNS8_LNS16_5profile_numeric_guide_JA_v0.2.xlsx filter=lfs diff=lfs merge=lfs -text
|
| 64 |
+
Bitstate/BitState_LNS8_base74_8step_zone8_popcount_demo_JA_v0.9_RMSNorm_Bonsai2.xlsx filter=lfs diff=lfs merge=lfs -text
|
Bitstate/BitState_GitHub_author_notes_JA_v0.5.md
ADDED
|
@@ -0,0 +1,72 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
## 投稿先候補
|
| 2 |
+
|
| 3 |
+
第一候補:
|
| 4 |
+
- PrismML-Eng/llama.cpp の Issue / feature discussion
|
| 5 |
+
|
| 6 |
+
理由:
|
| 7 |
+
- Bonsai 2固有runtime / ternary kernel実験に近い。
|
| 8 |
+
- 新しいGGUF型を要求せず、既存PQ2_0/PTQ1_0の意味論でmicrobenchmarkできる。
|
| 9 |
+
- mainline採用を求める話ではなく、まずforkでCPU PoCを測る範囲に限定できる。
|
| 10 |
+
|
| 11 |
+
## 自分の言葉で最初に伝える要点
|
| 12 |
+
|
| 13 |
+
- 「速くなる」と断定しない。性能仮説を測りたい。
|
| 14 |
+
- 主対象はbatch-1 ternary GEMV。
|
| 15 |
+
- 中心アイデアは、LNS productを `S1|E4|L3` として扱い、K個のproductを最終的に8本のphase aggregateへ縮約すること。
|
| 16 |
+
- correctness baselineは `A[L3] += sign × (1<<E4)` のdirect 8-phase integer accumulation。K=4096/5120でも最後は8本。
|
| 17 |
+
- phase maskはTile64/Tile32上の中間routing selectorで、Excel v0.8で128項の一致を確認済み。
|
| 18 |
+
- POPCOUNT histogramは別候補。signed populationは `P-N` または `Ntotal-2Nneg` でexactに取れる。
|
| 19 |
+
- どちらが速いかは未測定で、K→8 routing/reduction costをbenchmarkする。
|
| 20 |
+
- direct 8-phase dyadic pathをreferenceとして残し、full histogram→shift/addは等価な別実装として比較する。
|
| 21 |
+
- v0.5では、histogram候補についてPOPCOUNT後のstateをfractional-LNSへfoldし、balanced LNS add/sub treeで最後までlinear化しない候補も試す。
|
| 22 |
+
- 最終8 phaseなら `8->4->2->1` の3 dependent stages。
|
| 23 |
+
- shared scaleも可能ならlog offset ADDで適用する。
|
| 24 |
+
- negative resultでも、state-set build / POPCOUNT / LUT / dependency depthのどこが支配したか分かれば有用。
|
| 25 |
+
|
| 26 |
+
## 実装者に聞きたいこと
|
| 27 |
+
|
| 28 |
+
必要なら2〜3個に絞る:
|
| 29 |
+
|
| 30 |
+
- Tile64/Tile32で `packed product ADD -> phase routing -> eight integer accumulators` をfuseするなら、現在のggml scheduling/layout上どこに置くのが自然か。
|
| 31 |
+
- standalone CPU microbenchmarkならPQ2_0 / predecoded ternary masksから始めるのが妥当か。
|
| 32 |
+
- row costの比較で、total cyclesだけでなくdependent critical-path stagesを測る方法として何が自然か。
|
| 33 |
+
- pure fractional-LNS add/sub LUTを実験するなら、どのSIMD width / table layoutが扱いやすいか。
|
| 34 |
+
|
| 35 |
+
## 最初の投稿では削った方がよい話
|
| 36 |
+
|
| 37 |
+
- 特許の長い検討
|
| 38 |
+
- 研究新規性の主張
|
| 39 |
+
- FPGA/ASICまで含む将来構想
|
| 40 |
+
- prefill全般を置き換える話
|
| 41 |
+
- Tensor Coreより速いという主張
|
| 42 |
+
- Q9.6またはpure-LNSが絶対に正しいという主張
|
| 43 |
+
- 1000行級仕様の本文貼り付け
|
| 44 |
+
|
| 45 |
+
## 添付/リンクするなら優先度
|
| 46 |
+
|
| 47 |
+
1. `BitState_PoC_technical_brief_EN_v0.5.md`
|
| 48 |
+
2. `BitState_PoC_experiment_matrix_EN_v0.5.md`
|
| 49 |
+
3. `bitstate_poc_test_vectors_v2.json`
|
| 50 |
+
4. `BitState_HSDR_v0.5_WHT-RMSNorm-premise.md`
|
| 51 |
+
5. `LNS8_base74_8step_zone8_popcount_demo_JA_v0.8_bitslice128_validation.xlsx`
|
| 52 |
+
|
| 53 |
+
## タイトルを自分で考える際に含めたい概念
|
| 54 |
+
|
| 55 |
+
- experimental / PoC
|
| 56 |
+
- ternary GEMV
|
| 57 |
+
- state-domain reduction
|
| 58 |
+
- POPCOUNT
|
| 59 |
+
- dependency breaking
|
| 60 |
+
- batch-1 decode
|
| 61 |
+
- Bonsai 2
|
| 62 |
+
|
| 63 |
+
「proposal to replace GEMM」や「new LNS architecture」など大きすぎる表現は避ける。
|
| 64 |
+
|
| 65 |
+
## 投稿後の返答で守る点
|
| 66 |
+
|
| 67 |
+
- 実測がない部分は仮説と明示する。
|
| 68 |
+
- pairwise LNS add自体は既知技法として扱い、独自性を主張しない。
|
| 69 |
+
- BitStateでまず検証したいのは `packed 8-bit product ADD -> K→8 phase reduction -> 8-state finalization` のcost structure。POPCOUNT state-set pathはその一候補として比較する。
|
| 70 |
+
- dyadic referenceの方が速い可能性も普通に認める。
|
| 71 |
+
- activation quantization品質、state-count correctness、pure-LNS rounding、kernel速度を別問題として扱う。
|
| 72 |
+
- AIに返信本文そのものを書かせず、技術内容の確認だけに使う。
|
Bitstate/BitState_LNS8_base74_8step_zone8_popcount_demo_JA_v0.9_RMSNorm_Bonsai2.xlsx
ADDED
|
@@ -0,0 +1,3 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
version https://git-lfs.github.com/spec/v1
|
| 2 |
+
oid sha256:5f1a7de42bb7b8480926bf8e78c098da7b5abd38724830cb9403e152d899f26e
|
| 3 |
+
size 237455
|
Bitstate/CurveFP_BitState_review_and_proposal_JA.md
ADDED
|
@@ -0,0 +1,280 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# CurveFPとBitState HSDRの比較と日本語提案案
|
| 2 |
+
|
| 3 |
+
2026年10月3日確認。査読用。GitHubへの投稿は行っていない。
|
| 4 |
+
|
| 5 |
+
CurveFP v2の本文、Section 3.2、5、Appendix A.1、Cを確認した結果、重なりは積生成だけでなくsigned histogramとPOPCOUNTまで及ぶ。BitState/HSDRは、既知のLNS積・度数集計を土台に、Bonsai 2三値GEMVのactivation mask再利用と最終縮約を測る実装提案として説明するのが適切である。
|
| 6 |
+
|
| 7 |
+
## 読み取った論文の範囲
|
| 8 |
+
|
| 9 |
+
対象はYe Qiao氏のarXiv:2608.10010v2、2026年8月12日版。ユーザーが挙げたRational-Radix Logarithmic Datatypes with Closed Products for Language Modelsはv1の題名で、v2はCo-Designing Numerical Representation and Product Arithmetic for Language Modelsに変更されている。著者所属はUC Irvineであり、今回確認した資料からCurveFPをPrismMLの研究と同一視しない。
|
| 10 |
+
|
| 11 |
+
論文の核は、有理radixの格子、拡張した整数座標で閉じる積、有限phaseによる累積である。同一アドレスのsigned POPCOUNTを明記しており、「CurveFPは積まで、BitStateはPOPCOUNTから」という説明は修正が必要。理論のhistogram/phase累積器と、評価タイルの各出力64bit Q32累積器も区別する。タイル評価は積回路を比較し、メモリ・scale・境界変換を除外している。GPU/CPUでのPOPCOUNT kernel高速化の証拠とは扱わない。
|
| 12 |
+
|
| 13 |
+
数式の基礎契約は `x_hat = (-1)^s * 2^a * r^(e+j/K)`、`r=2^(p/q)`、`K=2^C`。flattenした座標 `n=K*e+j` を使えば `|x_hat|=2^a*2^(p*n/(q*K))` となる。phase数は `H=q*K/gcd(p,q*K)`、dotは `sum_h 2^(h/H)*sum_t A[h,t]*2^t`。二進radixかつC=3ならH=8、r=2^(8/9)ならH=9、r=2^(3/4)ならH=32となり、格子を細かくする費用がphase数に現れる。主形式はCurveFP8 E4C3(127正値・8phase)、E5C2(127正値・4phase)、CurveFP7 E3C3(63正値・8phase)。これらは添付base74と完全に同じ保存形式を意味しない。参照:論文式(1)–(5)とTable 1–2。
|
| 14 |
+
|
| 15 |
+
論文参照:[本文と付録](https://arxiv.org/html/2608.10010v2)、[PDF](https://arxiv.org/pdf/2608.10010v2)。
|
| 16 |
+
|
| 17 |
+
## 完全一致 類似 明確な差分
|
| 18 |
+
|
| 19 |
+
「完全一致」は数学的操作や意味論についての判断。バイト互換、実装互換、研究新規性を意味しない。以下は添付仕様との比較による本レビューの判断である。
|
| 20 |
+
|
| 21 |
+
| 比較対象 | 判定 | 理由と実装への含意 |
|
| 22 |
+
| --- | --- | --- |
|
| 23 |
+
| 非zero積を整数index加算とsign XORで作る | 完全一致する代数 | LNSの同じ積則。bias表現の違いは別途変換する。 |
|
| 24 |
+
| 8 codeで2倍となる格子 | 類似、間隔は一致 | 二進radix・8 phaseの場合と同じ間隔。base74の値域と基準位置は別。 |
|
| 25 |
+
| phaseとoctaveに分解する | 完全一致する構造 | fractional exponentと整数指数を分離する。raw codeのphase番号はbiasでずれる。 |
|
| 26 |
+
| signed histogramと同一状態のPOPCOUNT | 完全一致する集計意味論 | 先行論文に明記された方式。ここを主要な独自差分とはしない。 |
|
| 27 |
+
| histogramからphase別の整数shift/addへ移る | 完全一致する再構成の構造 | 同じstate値に対する度数から数値和を復元する。係数精度とscale契約は別。 |
|
| 28 |
+
| activation maskを一度作り、出力行間で再利用 | 類似する発想、具体的な実装検証点 | 本文に添付案そのもののCPUデータ構造・費用評価は確認できなかった。未記載は新規性の証明ではない。 |
|
| 29 |
+
| 三値重みのnonzero/sign maskとactivation state maskの交差 | 特化した実装上の差分 | 一般のLNS同士の積ではなく、三値の選択・符号反転を利用する。 |
|
| 30 |
+
| populationをfractional-LNS座標へfoldし、κ± treeで縮約 | 明確な縮約経路の差分 | 添付案の追加候補。古典的LNS加減算そのものの新規性は主張しない。 |
|
| 31 |
+
| shared scale | 明確な数値契約の差分 | 添付案はBonsaiのFP16 scaleを保持できる。binary scaleの指数移送と混同しない。 |
|
| 32 |
+
| WHT後の固定activation rangeと単一scale志向 | 適用・量子化方針の差分 | 分布測定で検証する。RMSNorm/WHTは一律の範囲保証ではない。 |
|
| 33 |
+
| 8 phase最終treeの深さ | 部分的な性質 | 3段は最終8入力だけ。phase内・group間・mask生成は別。 |
|
| 34 |
+
| 実測された効果 | 明確な検証段階の差分 | 添付BitStateはPoC仮説。数式の一致からBonsaiでの速度や品質を推定しない。 |
|
| 35 |
+
|
| 36 |
+
比較の根拠:CurveFP Section 3.1–3.2、5、Appendix A.1/C、および添付technical brief Section 3–7、LNS8仕様 Section 9–11。
|
| 37 |
+
|
| 38 |
+
## 数式による独立した対応確認
|
| 39 |
+
|
| 40 |
+
ここからは添付base74仕様から展開した、本レビューの導出である。
|
| 41 |
+
|
| 42 |
+
### 基準位置を含めた格子の比較
|
| 43 |
+
|
| 44 |
+
添付版を優先し、以前のbase72ではなくbase74を使う。符号をσ、magnitude codeをkとすると:
|
| 45 |
+
|
| 46 |
+
```text
|
| 47 |
+
x(k) = σ * 2^((k - 74)/8), k=1..127
|
| 48 |
+
k=0 = exact zero
|
| 49 |
+
|
| 50 |
+
n = k - 74
|
| 51 |
+
e = floor(n/8)
|
| 52 |
+
h = n - 8*e // 0..7
|
| 53 |
+
x = σ * 2^e * 2^(h/8)
|
| 54 |
+
```
|
| 55 |
+
|
| 56 |
+
この展開で、同じ二進log格子をphaseと整数指数へ分けられることが分かる。ただしk=1ではe=-10になり、これをそのまま4bit signed exponent fieldに保存できるとは限らない。表現範囲とbiasを含めて変換する必要がある。
|
| 57 |
+
|
| 58 |
+
同じrank番号をbase64の格子と比較した場合:
|
| 59 |
+
|
| 60 |
+
```text
|
| 61 |
+
x_base74(k) = 2^(-10/8) * x_base64(k)
|
| 62 |
+
2^(-10/8) = 0.4204482076...
|
| 63 |
+
```
|
| 64 |
+
|
| 65 |
+
この係数は整数指数の2の冪ではない。「単にbinary block scaleを移せばバイトまで互換」とは言えない。格子間隔の一致、座標変換、保存形式の互換を区別する。
|
| 66 |
+
|
| 67 |
+
### 積とphaseアドレス
|
| 68 |
+
|
| 69 |
+
添付仕様から直接:
|
| 70 |
+
|
| 71 |
+
```text
|
| 72 |
+
kp = ka + kb - 74
|
| 73 |
+
x_a*x_b = σp * 2^((kp - 74)/8)
|
| 74 |
+
σp = σa*σb
|
| 75 |
+
```
|
| 76 |
+
|
| 77 |
+
ka,kbが1..127ならkpは-72..180。保存用7bitに戻す前に、符号付きの広い座標で保持する。7bit wrapや飽和をここで行うと積が変わる。
|
| 78 |
+
|
| 79 |
+
正規化されたphaseアドレスは:
|
| 80 |
+
|
| 81 |
+
```text
|
| 82 |
+
v = ka + kb - 148
|
| 83 |
+
t = floor(v/8)
|
| 84 |
+
h = v - 8*t
|
| 85 |
+
product = σp * 2^t * 2^(h/8)
|
| 86 |
+
```
|
| 87 |
+
|
| 88 |
+
一方、添付実装はkpのraw下位3bitをzとし、固定係数側へbiasを吸収できる:
|
| 89 |
+
|
| 90 |
+
```text
|
| 91 |
+
q = floor(kp/8)
|
| 92 |
+
z = kp - 8*q
|
| 93 |
+
product = σp * 2^(q-9) * 2^((z-2)/8)
|
| 94 |
+
```
|
| 95 |
+
|
| 96 |
+
両者は同じ数値。ただしhとzは常に同じ番号ではない。負の座標では整数除算の切り捨て方向にも注意する。数学上のfloorと非負remainderを使う。
|
| 97 |
+
|
| 98 |
+
### 三値重みは積生成をさらに簡約する
|
| 99 |
+
|
| 100 |
+
128要素groupの重みをw_i=d_g*t_i、t_i∈{-1,0,+1}とする。activationはσ_i*v(k_i)。
|
| 101 |
+
|
| 102 |
+
```text
|
| 103 |
+
S_g = d_g * sum_i(t_i * σ_i * v(k_i))
|
| 104 |
+
```
|
| 105 |
+
|
| 106 |
+
d_gを外へ置けば、内側にはmagnitude同士のADDすら不要。三値重みはzero選択とsign反転だけになる。LNS乗算の魅力を強調するだけでは、この三値専用PoCの本当の計算削減を説明できない。
|
| 107 |
+
|
| 108 |
+
state kについて:
|
| 109 |
+
|
| 110 |
+
```text
|
| 111 |
+
A_k = magnitude code k のlane集合
|
| 112 |
+
M = A_k & W_nonzero
|
| 113 |
+
PNEG = A_negative XOR W_negative
|
| 114 |
+
C_k = popcount(M) - 2*popcount(M & PNEG)
|
| 115 |
+
|
| 116 |
+
S_g = d_g * sum_k(C_k * 2^((k-74)/8))
|
| 117 |
+
```
|
| 118 |
+
|
| 119 |
+
このC_kは直接数えたsigned populationと完全一致する。128要素maskをCPUの64bit word二つで持つ場合、式中の各POPCOUNTは二つのwordに対して行う。概念式一つが単一命令になるとは限らない。
|
| 120 |
+
|
| 121 |
+
### 二つのaccumulator経路
|
| 122 |
+
|
| 123 |
+
z=k mod8、q=floor(k/8)とすると、同じhistogramから:
|
| 124 |
+
|
| 125 |
+
```text
|
| 126 |
+
R_z = sum_q(C_(8*q+z) * 2^q)
|
| 127 |
+
S_g = d_g * 2^-9 * sum_z(R_z * 2^((z-2)/8))
|
| 128 |
+
```
|
| 129 |
+
|
| 130 |
+
R_zまでは整数で厳密に作れる。最後の8係数の有限精度化は別問題。8 phaseを使うだけでは、原始的な各laneの累積依存が自動で消えるわけでもない。mask・POPCOUNTで集計するか、phase別の複数accumulatorで数値累積するかを分けて測る。
|
| 131 |
+
|
| 132 |
+
添付pure-LNS候補ではC_k≠0を:
|
| 133 |
+
|
| 134 |
+
```text
|
| 135 |
+
lambda_k = k + 8*log2(abs(C_k))
|
| 136 |
+
sign_k = sign(C_k)
|
| 137 |
+
value_k = sign_k * 2^((lambda_k-74)/8)
|
| 138 |
+
```
|
| 139 |
+
|
| 140 |
+
に置き換える。同じ値の重複を一つへfoldする恒等式であり、runtimeはcount-to-log LUTを使う。一般にlambdaは整数ではなく、元の8 phaseだけに収まるという意味ではない。これは8phaseの整数累積器とは別の内部数値表現になる。
|
| 141 |
+
|
| 142 |
+
a≥b、D=a-bとしたLNS加減算は:
|
| 143 |
+
|
| 144 |
+
```text
|
| 145 |
+
same sign: out = a + 8*log2(1 + 2^(-D/8))
|
| 146 |
+
opposite sign: out = a + 8*log2(1 - 2^(-D/8)), D>0
|
| 147 |
+
equal opposite magnitudes: exact zero
|
| 148 |
+
```
|
| 149 |
+
|
| 150 |
+
この経路ではκ± LUTの分解能、差のindex化、近接値の相殺で誤差を測る。tiny count LUTが作れることと、κ±全体が安いことは別。相殺付近は相対誤差だけでなく絶対誤差・符号・zero判定を確認する。
|
| 151 |
+
|
| 152 |
+
## v0.4の説明で直しておきたい点
|
| 153 |
+
|
| 154 |
+
### 3段treeは最終部分の深さ
|
| 155 |
+
|
| 156 |
+
各phase内に複数のoctave bucketが残る場合、先にphase内を縮約しなければならない。phase内でL個のleafをbalancedに縮約するなら、その部分の深さは概ねceil(log2 L)。最終8phaseの3段に加え、group間の縮約とscale処理も存在する。
|
| 157 |
+
|
| 158 |
+
比較相手の現行kernelも複数accumulator、SIMD、thread間分割を使える。128項を127段のscalar chainとみなして得た短縮率を、そのまま速度向上としない。
|
| 159 |
+
|
| 160 |
+
### scaleは正しさと追加誤差を分ける
|
| 161 |
+
|
| 162 |
+
Bonsaiの既存FP16 scaleは一般には2の整数冪でもLNS格子上の値でもない。
|
| 163 |
+
|
| 164 |
+
- 初期参照経路:FP16 scaleを保持し、group再構成後に適用する。
|
| 165 |
+
- fractional log-scale経路:8*log2(d_g)を十分な内部精度で保持し、その丸め誤差を測る。
|
| 166 |
+
- integer log offsetへ丸める経路:別のscale再量子化実験として評価する。
|
| 167 |
+
|
| 168 |
+
異なるgroup scaleの和を取る前に、scaleを適���する必要がある。複数group全体で一回だけscaleを掛けることはできない。Bonsaiの符号化scaleが負の場合は、符号を重みmask側へ吸収してからlog(abs(d_g))を使い、zero scaleは別処理する。
|
| 169 |
+
|
| 170 |
+
### INT16を累積器全体へ無条件に使わない
|
| 171 |
+
|
| 172 |
+
Tile128でC_kは-128..128。+128を含むため符号付き8bitには収まらず、9bit以上が必要。
|
| 173 |
+
|
| 174 |
+
raw band q=15を128個足したR_zの最大値は128*2^15=4,194,304。この上限まで保証するphase累積器は符号付き24bit以上が必要で、INT32が扱いやすい。countの保存幅とphase accumulatorの幅は同じではない。INT16/Q9.6は境界表現や部分和の設計として別途検討する。
|
| 175 |
+
|
| 176 |
+
### maskの容量と構築費を報告する
|
| 177 |
+
|
| 178 |
+
128lane maskはstate一つにつき16byte。127stateをすべて保持すると2,032byte/tileで、state ID、sign mask、管理情報は別。predecoded ternaryのnonzero/negative二本は32byte/128weights、すなわち2bit/weightとなる。
|
| 179 |
+
|
| 180 |
+
前展開maskはPTQ1の密な三値packingより大きくなる。原packを別に保持すれば総量はさらに増える。kernel内部で速くても、メモリ帯域や8GB運用への影響が不利になる可能性がある。初期PoCでは固定費とrow反復費を分離し、最終比較にはpacking/decodeと実メモリ量を入れる。
|
| 181 |
+
|
| 182 |
+
### activation量子化の比較条件を揃える
|
| 183 |
+
|
| 184 |
+
対数座標をroundするquantizerは、linear absolute errorで最近傍を選ぶquantizerと閾値が異なる。隣接正値vとrvの境界は、前者がv*sqrt(r)、後者がv*(1+r)/2。ここではr=2^(1/8)。
|
| 185 |
+
|
| 186 |
+
これは本レビューの計算上の注意である。codebook間隔が同じだけでは量子化結果まで一致しない。zero/underflowの方針、bias、scale granularityも固定して品質を比較する。
|
| 187 |
+
|
| 188 |
+
### WHTとRMSNormは測定点を具体化する
|
| 189 |
+
|
| 190 |
+
Bonsaiの公開資料は固定回転basis、Hadamard、FP16 group scaleを説明している。LNS8の範囲が十分かどうかは、PoCを置く実際のactivation位置で測る。learned gain、MLP内部、rotationとgainの順序を含む。
|
| 191 |
+
|
| 192 |
+
gammaをweightへfoldする案は、三値とgroup共通scaleの構造を維持できるか別途確認する。channelごとのgammaを自由に掛けるだけで、既存の共通三値scale契約を保てるとは限らない。
|
| 193 |
+
|
| 194 |
+
## 実装実験の提案
|
| 195 |
+
|
| 196 |
+
最初はCPU、batch 1、Hadamard後の三値GEMV一箇所に限定する。新しいGGUF型を追加せず、scratch activation表現として扱う。
|
| 197 |
+
|
| 198 |
+
| 比較経路 | 分離して確認すること |
|
| 199 |
+
| --- | --- |
|
| 200 |
+
| 現行forkの実kernel | 実用上のbaseline。commit、packing、ISA、thread数を固定する。 |
|
| 201 |
+
| 同じLNS量子化activationの直接三値dot | activation量子化の品質差とreduction変更の影響を分ける。 |
|
| 202 |
+
| maskを毎row再構築 | 再利用なしの費用。これだけで方式全体の良否を決めない。 |
|
| 203 |
+
| mask再利用+整数phase再構成 | 主要な最初の実装候補。 |
|
| 204 |
+
| mask再利用+fractional-LNS tree | 同じhistogramを入力にして最終縮約だけ比較する。 |
|
| 205 |
+
| PTQ1からのmask生成を含む経路 | packing、decode、帯域を含む実用比較。 |
|
| 206 |
+
|
| 207 |
+
出力行の再利用数を1、8、32、128、512、2048以上で変え、tile内unique state数、重みzero率、入力次元、LUT内部精度も振る。時間はactivation encode、mask build、weight decode、row POPCOUNT、phase内縮約、最終縮約、scale/group間処理に分解する。latency、throughput、cycles/output、実メモリ量、cache missを記録する。
|
| 208 |
+
|
| 209 |
+
採否は実測で判断する。単一kernelの改善が出ても、activation変換を含むend-to-end decodeと品質が維持されるまで採用効果とは言わない。純LNS経路が負けても整数phase経路の結果は独立して評価できる。
|
| 210 |
+
|
| 211 |
+
## 今回確認した正しさと未検証事項
|
| 212 |
+
|
| 213 |
+
添付JSONの6ケースを、直接dotとmask/POPCOUNT histogramから独立に再計算し、FP64丸め範囲で期待値との一致を確認した。非zero magnitude全127×127=16,129組について、base74の積とfloor/remainderによるphase再構成も確認した。
|
| 214 |
+
|
| 215 |
+
| ケース | 再計算結果 |
|
| 216 |
+
| --- | ---: |
|
| 217 |
+
| all_unity_positive | 128.0 |
|
| 218 |
+
| alternating_weight_cancel | 0.0 |
|
| 219 |
+
| weight_zeros_and_signs | 79.125 |
|
| 220 |
+
| boundary_and_zero_codes | 2.4959701971 |
|
| 221 |
+
| phase_sweep_near_unity | -15.8633522011 |
|
| 222 |
+
| deterministic_random_7408 | 16.5019233937 |
|
| 223 |
+
|
| 224 |
+
これは数式と度数集計の確認である。実モデル実行、CPU/GPU benchmark、κ± LUT精度、Bonsaiのactivation品質は今回未測定。Excelは今回の比較根拠に使っておらず、全cell監査もしていない。
|
| 225 |
+
|
| 226 |
+
## 投稿先と文章の扱い
|
| 227 |
+
|
| 228 |
+
[PrismML forkのIdeas](https://github.com/PrismML-Eng/llama.cpp/discussions/categories/ideas)が確認できた。公開検索で同じCurveFP/state-domain提案を特定できなかったが、検索範囲の限界があるため重複がない��は断言しない。
|
| 229 |
+
|
| 230 |
+
[CONTRIBUTING](https://github.com/PrismML-Eng/llama.cpp/blob/prism/CONTRIBUTING.md)と[AGENTS](https://github.com/PrismML-Eng/llama.cpp/blob/prism/AGENTS.md)も確認した。投稿先は人間の理解と直接のコミュニケーションを重視し、AGENTSの例には自動投稿やAI-generated responsesを制限する記述がある。以下は依頼された査読用文章案として用意した。実際に投稿する際は、本人が内容を確認し自分の表現へ整え、公開ルールに沿って扱う。
|
| 231 |
+
|
| 232 |
+
## 日本語提案文章案
|
| 233 |
+
|
| 234 |
+
### タイトル案
|
| 235 |
+
CurveFPを参考にしたBonsai 2三値GEMVの実装実験:activation state maskの再利用とsigned POPCOUNT
|
| 236 |
+
|
| 237 |
+
### 本文案
|
| 238 |
+
Bonsai 2の三値推論を使いながら、activationを小さな対数状態として扱い、同じ値の寄与を先に数えてから縮約する方法を個人的に検討していました。私はこの実験案をBitState/HSDRと呼んでいます。
|
| 239 |
+
|
| 240 |
+
その後、Ye Qiao氏のCurveFP論文を知り、積を整数indexの加算と符号XORで作り、phaseと指数binに分けて累積する考え方が大きく重なっていると分かりました。特にv2のSection 3.2とAppendix A.1には、同じ積アドレスをsigned POPCOUNTでまとめるhistogram実装も明記されています。この部分を自分の新しい演算方式として主張するつもりはありません。数値表現と積・累積構造を結び付けて整理されたCurveFPの研究に敬意を表し、その考え方をBonsai 2の実装実験につなげられないかと考えています。
|
| 241 |
+
|
| 242 |
+
参考論文:
|
| 243 |
+
https://arxiv.org/abs/2608.10010v2
|
| 244 |
+
|
| 245 |
+
相談したいのは、三値重みに特化したbatch-1 CPU GEMVの小さなPoCです。速度や品質の改善はまだ未検証です。
|
| 246 |
+
|
| 247 |
+
検討中のactivation形式は、符号と7bit magnitudeからなり、非zero値を `|x| = 2^((k-74)/8)`、`k=1..127` と表します。`k=0`はexact zeroです。8 code進むと2倍になる格子ですが、これはCurveFPのバイト形式やbinary block scale契約とそのまま互換という意味ではありません。
|
| 248 |
+
|
| 249 |
+
128要素のactivation tileについて、magnitude stateごとのlane maskを一度作り、同じ入力tileを使う複数の出力行で再利用します。各行の三値重みは、nonzero maskとnegative maskとして扱います。stateごとのsigned populationは次の形で計算できます。
|
| 250 |
+
|
| 251 |
+
```text
|
| 252 |
+
M = A_state & W_nonzero
|
| 253 |
+
Pneg = A_negative XOR W_negative
|
| 254 |
+
C = popcount(M) - 2 * popcount(M & Pneg)
|
| 255 |
+
```
|
| 256 |
+
|
| 257 |
+
group scaleはこの集計の外側に保持します。初期実験では既存のFP16 scaleを維持し、scaleを対数格子へ丸める誤差を混ぜない構成を考えています。
|
| 258 |
+
|
| 259 |
+
最初は同じsigned histogramから、二つの縮約経路を比較したいです。
|
| 260 |
+
|
| 261 |
+
1. phaseごとの整数shift/addと固定係数による再構成。
|
| 262 |
+
2. `lambda = k + 8*log2(abs(C))` をcount用LUTで作り、内部精度を広げたLNS add/subのbalanced treeで縮約する候補。
|
| 263 |
+
|
| 264 |
+
後者は古典的なLNS加減算を使う追加の実験です。特に相殺時の誤差とLUT参照費が懸念です。最終8 phaseをまとめるtreeが3段でも、phase内やgroup間の縮約まで含めて3段になるわけではありません。
|
| 265 |
+
|
| 266 |
+
まずPQ2_0またはpredecoded ternary maskで正しさと計算費を測り、その後PTQ1_0のdecode費、mask保持に必要なメモリ、現行kernelとの比較を含めたいです。現行方式もSIMDや複数accumulatorで依存を分散しているので、単純な逐次加算を比較相手にはしません。
|
| 267 |
+
|
| 268 |
+
測定したいのは、activation量子化とmask構築費、出力行間の再利用数、tile内のunique state数、row/groupあたりのcycles、そして最終的なdecode速度と品質差です。まずHadamard変換後の一つの三値GEMVを対象にして、新しいGGUF型や全GEMMの置換は要求しない範囲を考えています。
|
| 269 |
+
|
| 270 |
+
このようなPoCについて、現在のCPU実装でactivation state maskの構築と出力行間の再利用を置くなら、どの位置が自然でしょうか。また、最初の比較をPQ2_0から始める方針に、実装上の見落としがあれば教えていただきたいです。
|
| 271 |
+
|
| 272 |
+
## 参照資料
|
| 273 |
+
|
| 274 |
+
- Ye Qiao, CurveFP v2:[arXiv](https://arxiv.org/abs/2608.10010v2)、Section 3、5、Appendix A、C。
|
| 275 |
+
- [PrismML公式サイト](https://prismml.com/)。
|
| 276 |
+
- [Bonsai 2公式モデル説明](https://docs.prismml.com/bonsai-2-27b)。
|
| 277 |
+
- [PrismML llama.cpp fork](https://github.com/PrismML-Eng/llama.cpp)。
|
| 278 |
+
- 添付BitState_HSDR_v0.4_ja_WHT-RMSNorm-premise.md。
|
| 279 |
+
- 添付BitState_PoC_technical_brief_EN_v0.4.md、experiment matrix、review notes。
|
| 280 |
+
- 添付LNS8_0.125octave_base74仕様_v0.4.md、bitstate_poc_test_vectors_v2.json。
|