cpu-amx/same_s_encoder_bf16_weights_manifest.txt

map_in.w bf16 0 393216 512 768
map_in.b f32 786432 768 768
new_tokens f32 789504 768 768
b0.pre.alpha f32 792576 1 1
b0.pre.gamma f32 792580 768 768
b0.pre.beta f32 795652 768 768
b0.qkv.w bf16 798724 2949120 768 3840
b0.qn.alpha f32 6696964 1 1
b0.qn.gamma f32 6696968 64 64
b0.qn.beta f32 6697224 64 64
b0.kn.alpha f32 6697480 1 1
b0.kn.gamma f32 6697484 64 64
b0.kn.beta f32 6697740 64 64
b0.out.w bf16 6697996 589824 768 768
b0.ff.alpha f32 7877644 1 1
b0.ff.gamma f32 7877648 768 768
b0.ff.beta f32 7880720 768 768
b0.glu.w bf16 7883792 3538944 768 4608
b0.glu.b f32 14961680 4608 4608
b0.proj.w bf16 14980112 1769472 2304 768
b0.proj.b f32 18519056 768 768
b1.pre.alpha f32 18522128 1 1
b1.pre.gamma f32 18522132 768 768
b1.pre.beta f32 18525204 768 768
b1.qkv.w bf16 18528276 2949120 768 3840
b1.qn.alpha f32 24426516 1 1
b1.qn.gamma f32 24426520 64 64
b1.qn.beta f32 24426776 64 64
b1.kn.alpha f32 24427032 1 1
b1.kn.gamma f32 24427036 64 64
b1.kn.beta f32 24427292 64 64
b1.out.w bf16 24427548 589824 768 768
b1.ff.alpha f32 25607196 1 1
b1.ff.gamma f32 25607200 768 768
b1.ff.beta f32 25610272 768 768
b1.glu.w bf16 25613344 3538944 768 4608
b1.glu.b f32 32691232 4608 4608
b1.proj.w bf16 32709664 1769472 2304 768
b1.proj.b f32 36248608 768 768
b2.pre.alpha f32 36251680 1 1
b2.pre.gamma f32 36251684 768 768
b2.pre.beta f32 36254756 768 768
b2.qkv.w bf16 36257828 2949120 768 3840
b2.qn.alpha f32 42156068 1 1
b2.qn.gamma f32 42156072 64 64
b2.qn.beta f32 42156328 64 64
b2.kn.alpha f32 42156584 1 1
b2.kn.gamma f32 42156588 64 64
b2.kn.beta f32 42156844 64 64
b2.out.w bf16 42157100 589824 768 768
b2.ff.alpha f32 43336748 1 1
b2.ff.gamma f32 43336752 768 768
b2.ff.beta f32 43339824 768 768
b2.glu.w bf16 43342896 3538944 768 4608
b2.glu.b f32 50420784 4608 4608
b2.proj.w bf16 50439216 1769472 2304 768
b2.proj.b f32 53978160 768 768
b3.pre.alpha f32 53981232 1 1
b3.pre.gamma f32 53981236 768 768
b3.pre.beta f32 53984308 768 768
b3.qkv.w bf16 53987380 2949120 768 3840
b3.qn.alpha f32 59885620 1 1
b3.qn.gamma f32 59885624 64 64
b3.qn.beta f32 59885880 64 64
b3.kn.alpha f32 59886136 1 1
b3.kn.gamma f32 59886140 64 64
b3.kn.beta f32 59886396 64 64
b3.out.w bf16 59886652 589824 768 768
b3.ff.alpha f32 61066300 1 1
b3.ff.gamma f32 61066304 768 768
b3.ff.beta f32 61069376 768 768
b3.glu.w bf16 61072448 3538944 768 4608
b3.glu.b f32 68150336 4608 4608
b3.proj.w bf16 68168768 1769472 2304 768
b3.proj.b f32 71707712 768 768
b4.pre.alpha f32 71710784 1 1
b4.pre.gamma f32 71710788 768 768
b4.pre.beta f32 71713860 768 768
b4.qkv.w bf16 71716932 2949120 768 3840
b4.qn.alpha f32 77615172 1 1
b4.qn.gamma f32 77615176 64 64
b4.qn.beta f32 77615432 64 64
b4.kn.alpha f32 77615688 1 1
b4.kn.gamma f32 77615692 64 64
b4.kn.beta f32 77615948 64 64
b4.out.w bf16 77616204 589824 768 768
b4.ff.alpha f32 78795852 1 1
b4.ff.gamma f32 78795856 768 768
b4.ff.beta f32 78798928 768 768
b4.glu.w bf16 78802000 3538944 768 4608
b4.glu.b f32 85879888 4608 4608
b4.proj.w bf16 85898320 1769472 2304 768
b4.proj.b f32 89437264 768 768
b5.pre.alpha f32 89440336 1 1
b5.pre.gamma f32 89440340 768 768
b5.pre.beta f32 89443412 768 768
b5.qkv.w bf16 89446484 2949120 768 3840
b5.qn.alpha f32 95344724 1 1
b5.qn.gamma f32 95344728 64 64
b5.qn.beta f32 95344984 64 64
b5.kn.alpha f32 95345240 1 1
b5.kn.gamma f32 95345244 64 64
b5.kn.beta f32 95345500 64 64
b5.out.w bf16 95345756 589824 768 768
b5.ff.alpha f32 96525404 1 1
b5.ff.gamma f32 96525408 768 768
b5.ff.beta f32 96528480 768 768
b5.glu.w bf16 96531552 3538944 768 4608
b5.glu.b f32 103609440 4608 4608
b5.proj.w bf16 103627872 1769472 2304 768
b5.proj.b f32 107166816 768 768
proj_out.w bf16 107169888 196608 768 256
proj_out.b f32 107563104 256 256
scaling_factor f32 107564128 256 256
sn_bias f32 107565152 256 256
running_std f32 107566176 1 1