cpu-amx/same_l_encoder_bf16_weights_manifest.txt

map_in.w bf16 0 786432 512 1536
map_in.b f32 1572864 1536 1536
new_tokens f32 1579008 1536 1536
b0.pre.alpha f32 1585152 1 1
b0.pre.gamma f32 1585156 1536 1536
b0.pre.beta f32 1591300 1536 1536
b0.qkv.w bf16 1597444 11796480 1536 7680
b0.qn.alpha f32 25190404 1 1
b0.qn.gamma f32 25190408 64 64
b0.qn.beta f32 25190664 64 64
b0.kn.alpha f32 25190920 1 1
b0.kn.gamma f32 25190924 64 64
b0.kn.beta f32 25191180 64 64
b0.out.w bf16 25191436 2359296 1536 1536
b0.ff.alpha f32 29910028 1 1
b0.ff.gamma f32 29910032 1536 1536
b0.ff.beta f32 29916176 1536 1536
b0.glu.w bf16 29922320 14155776 1536 9216
b0.glu.b f32 58233872 9216 9216
b0.proj.w bf16 58270736 7077888 4608 1536
b0.proj.b f32 72426512 1536 1536
b1.pre.alpha f32 72432656 1 1
b1.pre.gamma f32 72432660 1536 1536
b1.pre.beta f32 72438804 1536 1536
b1.qkv.w bf16 72444948 11796480 1536 7680
b1.qn.alpha f32 96037908 1 1
b1.qn.gamma f32 96037912 64 64
b1.qn.beta f32 96038168 64 64
b1.kn.alpha f32 96038424 1 1
b1.kn.gamma f32 96038428 64 64
b1.kn.beta f32 96038684 64 64
b1.out.w bf16 96038940 2359296 1536 1536
b1.ff.alpha f32 100757532 1 1
b1.ff.gamma f32 100757536 1536 1536
b1.ff.beta f32 100763680 1536 1536
b1.glu.w bf16 100769824 14155776 1536 9216
b1.glu.b f32 129081376 9216 9216
b1.proj.w bf16 129118240 7077888 4608 1536
b1.proj.b f32 143274016 1536 1536
b2.pre.alpha f32 143280160 1 1
b2.pre.gamma f32 143280164 1536 1536
b2.pre.beta f32 143286308 1536 1536
b2.qkv.w bf16 143292452 11796480 1536 7680
b2.qn.alpha f32 166885412 1 1
b2.qn.gamma f32 166885416 64 64
b2.qn.beta f32 166885672 64 64
b2.kn.alpha f32 166885928 1 1
b2.kn.gamma f32 166885932 64 64
b2.kn.beta f32 166886188 64 64
b2.out.w bf16 166886444 2359296 1536 1536
b2.ff.alpha f32 171605036 1 1
b2.ff.gamma f32 171605040 1536 1536
b2.ff.beta f32 171611184 1536 1536
b2.glu.w bf16 171617328 14155776 1536 9216
b2.glu.b f32 199928880 9216 9216
b2.proj.w bf16 199965744 7077888 4608 1536
b2.proj.b f32 214121520 1536 1536
b3.pre.alpha f32 214127664 1 1
b3.pre.gamma f32 214127668 1536 1536
b3.pre.beta f32 214133812 1536 1536
b3.qkv.w bf16 214139956 11796480 1536 7680
b3.qn.alpha f32 237732916 1 1
b3.qn.gamma f32 237732920 64 64
b3.qn.beta f32 237733176 64 64
b3.kn.alpha f32 237733432 1 1
b3.kn.gamma f32 237733436 64 64
b3.kn.beta f32 237733692 64 64
b3.out.w bf16 237733948 2359296 1536 1536
b3.ff.alpha f32 242452540 1 1
b3.ff.gamma f32 242452544 1536 1536
b3.ff.beta f32 242458688 1536 1536
b3.glu.w bf16 242464832 14155776 1536 9216
b3.glu.b f32 270776384 9216 9216
b3.proj.w bf16 270813248 7077888 4608 1536
b3.proj.b f32 284969024 1536 1536
b4.pre.alpha f32 284975168 1 1
b4.pre.gamma f32 284975172 1536 1536
b4.pre.beta f32 284981316 1536 1536
b4.qkv.w bf16 284987460 11796480 1536 7680
b4.qn.alpha f32 308580420 1 1
b4.qn.gamma f32 308580424 64 64
b4.qn.beta f32 308580680 64 64
b4.kn.alpha f32 308580936 1 1
b4.kn.gamma f32 308580940 64 64
b4.kn.beta f32 308581196 64 64
b4.out.w bf16 308581452 2359296 1536 1536
b4.ff.alpha f32 313300044 1 1
b4.ff.gamma f32 313300048 1536 1536
b4.ff.beta f32 313306192 1536 1536
b4.glu.w bf16 313312336 14155776 1536 9216
b4.glu.b f32 341623888 9216 9216
b4.proj.w bf16 341660752 7077888 4608 1536
b4.proj.b f32 355816528 1536 1536
b5.pre.alpha f32 355822672 1 1
b5.pre.gamma f32 355822676 1536 1536
b5.pre.beta f32 355828820 1536 1536
b5.qkv.w bf16 355834964 11796480 1536 7680
b5.qn.alpha f32 379427924 1 1
b5.qn.gamma f32 379427928 64 64
b5.qn.beta f32 379428184 64 64
b5.kn.alpha f32 379428440 1 1
b5.kn.gamma f32 379428444 64 64
b5.kn.beta f32 379428700 64 64
b5.out.w bf16 379428956 2359296 1536 1536
b5.ff.alpha f32 384147548 1 1
b5.ff.gamma f32 384147552 1536 1536
b5.ff.beta f32 384153696 1536 1536
b5.glu.w bf16 384159840 14155776 1536 9216
b5.glu.b f32 412471392 9216 9216
b5.proj.w bf16 412508256 7077888 4608 1536
b5.proj.b f32 426664032 1536 1536
b6.pre.alpha f32 426670176 1 1
b6.pre.gamma f32 426670180 1536 1536
b6.pre.beta f32 426676324 1536 1536
b6.qkv.w bf16 426682468 11796480 1536 7680
b6.qn.alpha f32 450275428 1 1
b6.qn.gamma f32 450275432 64 64
b6.qn.beta f32 450275688 64 64
b6.kn.alpha f32 450275944 1 1
b6.kn.gamma f32 450275948 64 64
b6.kn.beta f32 450276204 64 64
b6.out.w bf16 450276460 2359296 1536 1536
b6.ff.alpha f32 454995052 1 1
b6.ff.gamma f32 454995056 1536 1536
b6.ff.beta f32 455001200 1536 1536
b6.glu.w bf16 455007344 14155776 1536 9216
b6.glu.b f32 483318896 9216 9216
b6.proj.w bf16 483355760 7077888 4608 1536
b6.proj.b f32 497511536 1536 1536
b7.pre.alpha f32 497517680 1 1
b7.pre.gamma f32 497517684 1536 1536
b7.pre.beta f32 497523828 1536 1536
b7.qkv.w bf16 497529972 11796480 1536 7680
b7.qn.alpha f32 521122932 1 1
b7.qn.gamma f32 521122936 64 64
b7.qn.beta f32 521123192 64 64
b7.kn.alpha f32 521123448 1 1
b7.kn.gamma f32 521123452 64 64
b7.kn.beta f32 521123708 64 64
b7.out.w bf16 521123964 2359296 1536 1536
b7.ff.alpha f32 525842556 1 1
b7.ff.gamma f32 525842560 1536 1536
b7.ff.beta f32 525848704 1536 1536
b7.glu.w bf16 525854848 14155776 1536 9216
b7.glu.b f32 554166400 9216 9216
b7.proj.w bf16 554203264 7077888 4608 1536
b7.proj.b f32 568359040 1536 1536
b8.pre.alpha f32 568365184 1 1
b8.pre.gamma f32 568365188 1536 1536
b8.pre.beta f32 568371332 1536 1536
b8.qkv.w bf16 568377476 11796480 1536 7680
b8.qn.alpha f32 591970436 1 1
b8.qn.gamma f32 591970440 64 64
b8.qn.beta f32 591970696 64 64
b8.kn.alpha f32 591970952 1 1
b8.kn.gamma f32 591970956 64 64
b8.kn.beta f32 591971212 64 64
b8.out.w bf16 591971468 2359296 1536 1536
b8.ff.alpha f32 596690060 1 1
b8.ff.gamma f32 596690064 1536 1536
b8.ff.beta f32 596696208 1536 1536
b8.glu.w bf16 596702352 14155776 1536 9216
b8.glu.b f32 625013904 9216 9216
b8.proj.w bf16 625050768 7077888 4608 1536
b8.proj.b f32 639206544 1536 1536
b9.pre.alpha f32 639212688 1 1
b9.pre.gamma f32 639212692 1536 1536
b9.pre.beta f32 639218836 1536 1536
b9.qkv.w bf16 639224980 11796480 1536 7680
b9.qn.alpha f32 662817940 1 1
b9.qn.gamma f32 662817944 64 64
b9.qn.beta f32 662818200 64 64
b9.kn.alpha f32 662818456 1 1
b9.kn.gamma f32 662818460 64 64
b9.kn.beta f32 662818716 64 64
b9.out.w bf16 662818972 2359296 1536 1536
b9.ff.alpha f32 667537564 1 1
b9.ff.gamma f32 667537568 1536 1536
b9.ff.beta f32 667543712 1536 1536
b9.glu.w bf16 667549856 14155776 1536 9216
b9.glu.b f32 695861408 9216 9216
b9.proj.w bf16 695898272 7077888 4608 1536
b9.proj.b f32 710054048 1536 1536
b10.pre.alpha f32 710060192 1 1
b10.pre.gamma f32 710060196 1536 1536
b10.pre.beta f32 710066340 1536 1536
b10.qkv.w bf16 710072484 11796480 1536 7680
b10.qn.alpha f32 733665444 1 1
b10.qn.gamma f32 733665448 64 64
b10.qn.beta f32 733665704 64 64
b10.kn.alpha f32 733665960 1 1
b10.kn.gamma f32 733665964 64 64
b10.kn.beta f32 733666220 64 64
b10.out.w bf16 733666476 2359296 1536 1536
b10.ff.alpha f32 738385068 1 1
b10.ff.gamma f32 738385072 1536 1536
b10.ff.beta f32 738391216 1536 1536
b10.glu.w bf16 738397360 14155776 1536 9216
b10.glu.b f32 766708912 9216 9216
b10.proj.w bf16 766745776 7077888 4608 1536
b10.proj.b f32 780901552 1536 1536
b11.pre.alpha f32 780907696 1 1
b11.pre.gamma f32 780907700 1536 1536
b11.pre.beta f32 780913844 1536 1536
b11.qkv.w bf16 780919988 11796480 1536 7680
b11.qn.alpha f32 804512948 1 1
b11.qn.gamma f32 804512952 64 64
b11.qn.beta f32 804513208 64 64
b11.kn.alpha f32 804513464 1 1
b11.kn.gamma f32 804513468 64 64
b11.kn.beta f32 804513724 64 64
b11.out.w bf16 804513980 2359296 1536 1536
b11.ff.alpha f32 809232572 1 1
b11.ff.gamma f32 809232576 1536 1536
b11.ff.beta f32 809238720 1536 1536
b11.glu.w bf16 809244864 14155776 1536 9216
b11.glu.b f32 837556416 9216 9216
b11.proj.w bf16 837593280 7077888 4608 1536
b11.proj.b f32 851749056 1536 1536
proj_out.w bf16 851755200 393216 1536 256
proj_out.b f32 852541632 256 256
scaling_factor f32 852542656 256 256
sn_bias f32 852543680 256 256
running_std f32 852544704 1 1