diff --git "a/WhisperDecoder.mlmodelc/model.espresso.shape" "b/WhisperDecoder.mlmodelc/model.espresso.shape" new file mode 100644--- /dev/null +++ "b/WhisperDecoder.mlmodelc/model.espresso.shape" @@ -0,0 +1,6406 @@ +{ + "layer_shapes" : { + "causal_mask.3" : { + "k" : 1, + "w" : 129, + "n" : 1, + "_rank" : 2, + "h" : 128 + }, + "hidden_states.55_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "positions" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.221" : { + "k" : 11, + "w" : 3072, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "transpose_136" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.115_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.219_reshape" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.35_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "hidden_states.95_mvn" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.299" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "gather_7" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "gather_22" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "attn_output.85" : { + "k" : 1500, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "tensor" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "causal_mask.7" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "concat_40_values1_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "10" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "11" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "gather_37" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.347" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "concat_22_values1_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "concat_47" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "attn_weights.31" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.315_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "input.145" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "tensor.73" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "tensor.25" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "transpose_142" : { + "k" : 1500, + "w" : 1, + "n" : 1, + "h" : 768 + }, + "input.241" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "attn_output.73" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.45_scale_mul_out" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "tensor.137" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.65_mvn" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.71_reshape" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.105_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "gather_52_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.55_scale_mul_out" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "gather_34_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "gather_42" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "concat_52" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "gather_1_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "transpose_146" : { + "k" : 128, + "w" : 11, + "n" : 1, + "h" : 768 + }, + "1395_shape" : { + "k" : 1, + "w" : 3, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "attn_output.61" : { + "k" : 1500, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "transpose_94" : { + "k" : 128, + "w" : 768, + "n" : 1, + "h" : 11 + }, + "attn_output.89" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "gather_57" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.367" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_101" : { + "k" : 128, + "w" : 11, + "n" : 1, + "h" : 768 + }, + "concat_67" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.75" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.319" : { + "k" : 11, + "w" : 3072, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "tensor.93" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "input.165" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "hidden_states.5_scale" : { + "k" : 128, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "concat_85_values0_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.117" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "tensor.45" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "hidden_states.35_mvn" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.123_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.261" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "1282" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "concat_67_values0_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "tensor.115" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "attn_output.77" : { + "k" : 1500, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.25" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "concat_103" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.213" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.105" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "1333" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "concat_49_values0_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "transpose_105" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1500 + }, + "tensor.5" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "causal_mask.25_begin_0" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.115_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "hidden_states.81_reshape" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.31_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "transpose_87" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1500 + }, + "transpose_152" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "gather_14" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.35_scale_mul_out" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "attn_output.65" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.387" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "transpose_72" : { + "k" : 1500, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "hidden_states.51_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "gather_29" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.339" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_109" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.379_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "input.185" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "tensor.65" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "concat_0" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.1_scale" : { + "k" : 128, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "input.137" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "gather_4_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.281" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "tensor.17" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "transpose_156" : { + "k" : 128, + "w" : 768, + "n" : 1, + "h" : 11 + }, + "gather_59_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "1286" : { + "k" : 128, + "w" : 64, + "n" : 11, + "_rank" : 4, + "h" : 12 + }, + "input.233" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_111" : { + "k" : 128, + "w" : 768, + "n" : 1, + "h" : 11 + }, + "attn_output.53" : { + "k" : 1500, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "gather_60_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "1337" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "gather_1" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input_reshape" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "1052" : { + "k" : 128, + "w" : 64, + "n" : 11, + "_rank" : 4, + "h" : 12 + }, + "hidden_states.55_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "gather_42_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.51" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "1350" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1500 + }, + "causal_mask.15_begin_0" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "1103" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "gather_24_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "concat_92" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.1_mvn" : { + "k" : 128, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "input.123_scale" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "gather_34" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "transpose_65" : { + "k" : 128, + "w" : 11, + "n" : 1, + "h" : 768 + }, + "attn_output.69" : { + "k" : 1500, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "attn_output.41" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_115" : { + "k" : 1500, + "w" : 1, + "n" : 1, + "h" : 768 + }, + "gather_49" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "attn_weights.37" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.359" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.75_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.157" : { + "k" : 11, + "w" : 3072, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "tensor.85" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "1403" : { + "k" : 128, + "w" : 64, + "n" : 11, + "_rank" : 4, + "h" : 12 + }, + "transpose_162" : { + "k" : 1500, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.251_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "tensor.37" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.109" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "concat_7" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.25_scale_mul_out" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.253" : { + "k" : 11, + "w" : 3072, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "tensor.127" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.25_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "attn_output.57" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.111_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "input.205" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_119" : { + "k" : 128, + "w" : 11, + "n" : 1, + "h" : 768 + }, + "78_shape" : { + "k" : 1, + "w" : 3, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "concat_40_values0_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.301" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.81_mvn" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "gather_7_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.81_scale" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "concat_22_values0_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "gather_54" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "transpose_166" : { + "k" : 128, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "hidden_states.31_scale" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "transpose_121" : { + "k" : 128, + "w" : 768, + "n" : 1, + "h" : 11 + }, + "concat_16" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.379" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "attn_output.45" : { + "k" : 1500, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "input.123_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "concat_79" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "1058" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "input.177" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.187_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "tensor.57" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "1109" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1500 + }, + "gather_49_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "concat_103_values0_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.95_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "tensor.105" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "input.273" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.29" : { + "k" : 11, + "w" : 3072, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.59" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "transpose_125" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_97" : { + "k" : 1500, + "w" : 1, + "n" : 1, + "h" : 768 + }, + "input.89" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "hidden_states.91_reshape" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "attn_output.33" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "gather_50_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.51_mvn" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "gather_32_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "transpose_82" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "gather_14_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "576_shape" : { + "k" : 1, + "w" : 3, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "1409" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "hidden_states.15_scale_mul_out" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "transpose_129" : { + "k" : 128, + "w" : 768, + "n" : 1, + "h" : 11 + }, + "attn_output.49" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "attn_output.21" : { + "k" : 1500, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "input.197" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "concat_94_values2_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.149" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "693_shape" : { + "k" : 1, + "w" : 3, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "tensor.77" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "342_shape" : { + "k" : 1, + "w" : 3, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.293" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "input.37" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.21_mvn" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "transpose_131" : { + "k" : 12, + "w" : 64, + "n" : 11, + "_rank" : 4, + "h" : 128 + }, + "input.67" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "tensor.29" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.245" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "tensor.139" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "attn_output.37" : { + "k" : 1500, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "transpose_75" : { + "k" : 128, + "w" : 768, + "n" : 1, + "h" : 11 + }, + "input.341" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.21_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "122" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "hidden_states.101_scale" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.71_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "inputs_embeds" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "transpose_60" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1500 + }, + "input.27_scale" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "concat_56" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "82" : { + "k" : 1, + "w" : 129, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "459_shape" : { + "k" : 1, + "w" : 3, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "transpose_135" : { + "k" : 1500, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "108_shape" : { + "k" : 1, + "w" : 3, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "84" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 2, + "h" : 128 + }, + "input.219_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "attn_output.25" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "gather_57_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "85" : { + "k" : 1, + "w" : 129, + "n" : 1, + "_rank" : 2, + "h" : 128 + }, + "input.169" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "tensor.97" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.15" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "gather_39_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "87" : { + "k" : 1, + "w" : 129, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "350" : { + "k" : 128, + "w" : 64, + "n" : 11, + "_rank" : 4, + "h" : 12 + }, + "input.75" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "tensor.49" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "524" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1500 + }, + "88" : { + "k" : 1, + "w" : 129, + "n" : 1, + "_rank" : 4, + "h" : 128 + }, + "1044_shape" : { + "k" : 1, + "w" : 3, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.45" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "gather_40_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.15_reshape" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.265" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_139" : { + "k" : 128, + "w" : 768, + "n" : 1, + "h" : 11 + }, + "gather_47_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "gather_2" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.55" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.217" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "225_shape" : { + "k" : 1, + "w" : 3, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "gather_22_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "attn_output.1" : { + "k" : 128, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "attn_output.13" : { + "k" : 1500, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "824" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "hidden_states.91_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "tensor.117" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "129" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "input.59_reshape" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "real_div_0" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "concat_61" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.111_scale" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "input.313" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "229" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "transpose_68" : { + "k" : 12, + "w" : 64, + "n" : 11, + "_rank" : 4, + "h" : 128 + }, + "input.361" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.219_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "concat_13" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.95_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "1446_shape" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "transpose_141" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1500 + }, + "180" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1500 + }, + "concat_76" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.111" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "280" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "752" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "attn_output.29" : { + "k" : 1500, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "attn_output.5" : { + "k" : 1500, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.25_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "causal_mask.13_begin_0" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "cast_100" : { + "k" : 1, + "w" : 129, + "n" : 1, + "_rank" : 2, + "h" : 128 + }, + "356" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "480" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "input.189" : { + "k" : 11, + "w" : 3072, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.7" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "580" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.53" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "concat_58_values2_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.83" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.23" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "tensor.69" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "concat_76_values2_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.15_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "transpose_145" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.285" : { + "k" : 11, + "w" : 3072, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "transpose_92" : { + "k" : 128, + "w" : 11, + "n" : 1, + "h" : 768 + }, + "input.237" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_100" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.25_reshape" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "284" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.381" : { + "k" : 11, + "w" : 3072, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "attn_output.17" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "attn_output.9" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "gather_9" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.81" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.333" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "causal_mask.23_begin_0" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "584" : { + "k" : 128, + "w" : 64, + "n" : 11, + "_rank" : 4, + "h" : 12 + }, + "758" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1500 + }, + "882" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1500 + }, + "982" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.131" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.283_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "transpose_149" : { + "k" : 12, + "w" : 64, + "n" : 11, + "_rank" : 4, + "h" : 128 + }, + "input.347_scale" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "tensor.11" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "input.91_reshape" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "transpose_104" : { + "k" : 12, + "w" : 64, + "n" : 11, + "_rank" : 4, + "h" : 128 + }, + "attn_weights.25" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.31" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "1460" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1500 + }, + "input.31" : { + "k" : 11, + "w" : 3072, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.85_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.61" : { + "k" : 11, + "w" : 3072, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.91" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "1099" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "gather_29_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.85_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "tensor.89" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "transpose_85" : { + "k" : 128, + "w" : 768, + "n" : 1, + "h" : 11 + }, + "gather_55_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.35_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "transpose_151" : { + "k" : 1500, + "w" : 1, + "n" : 1, + "h" : 768 + }, + "gather_37_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "gather_30_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "986" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.251_reshape" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "input.315_mvn" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "tensor.129" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "transpose_70" : { + "k" : 1500, + "w" : 1, + "n" : 1, + "h" : 768 + }, + "gather_12_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "attn_weights.61" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.209" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_108" : { + "k" : 1500, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.123_reshape" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "1399" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.85_mvn" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.305" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "485_shape" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.91_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "transpose_155" : { + "k" : 128, + "w" : 11, + "n" : 1, + "h" : 768 + }, + "decoder_input_ids" : { + "k" : 1, + "w" : 128, + "n" : 1, + "_rank" : 2, + "h" : 1 + }, + "input.151" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "tensor.141" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "1165" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input_scale" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "encoder_hidden_states" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "input.103" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "causal_mask.9_begin_0" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.5_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "tensor.31" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_110" : { + "k" : 128, + "w" : 11, + "n" : 1, + "h" : 768 + }, + "1216" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "concat_94_values1_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "transpose_78" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1500 + }, + "input.315_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.91_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "transpose_63" : { + "k" : 1500, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "transpose_159" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1500 + }, + "251_shape" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "tensor.107" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "input.277" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.91_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "hidden_states.61_scale" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "tensor.7" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "concat_31_values2_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "transpose_114" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1500 + }, + "input.229" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "hidden_states.55_mvn" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.11_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.315_reshape" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.11_scale" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "concat_13_values2_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.373" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.21_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.325" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "gather_15" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "transpose_161" : { + "k" : 12, + "w" : 64, + "n" : 1, + "_rank" : 4, + "h" : 128 + }, + "input.347_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "concat_25" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.171" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "1095_shape" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "concat_88" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "_neg_y_causal_mask.3" : { + "k" : 1, + "w" : 129, + "n" : 1, + "_rank" : 2, + "h" : 128 + }, + "input.123" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "368_shape" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "tensor.51" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "1169" : { + "k" : 128, + "w" : 64, + "n" : 11, + "_rank" : 4, + "h" : 12 + }, + "1182" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "transpose_118" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "1467" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1500 + }, + "logits" : { + "k" : 11, + "w" : 51865, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "concat_2" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "1233" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1500 + }, + "gather_45_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "gather_19_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "1304_shape" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "gather_27_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "transpose_165" : { + "k" : 128, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "hidden_states.35_reshape" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "gather_20_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.25_mvn" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.297" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_120" : { + "k" : 128, + "w" : 768, + "n" : 1, + "h" : 11 + }, + "hidden_states.81_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.347_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "hidden_states.5_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "393_shape" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.249" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "gather_20" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "134_shape" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.345" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "gather_35" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.1" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.27_mvn" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.45_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.191" : { + "k" : 11, + "w" : 3072, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "concat_76_values1_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "cache_position" : { + "k" : 1, + "w" : 128, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.111" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.143" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "tensor.71" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "input.155_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "transpose_124" : { + "k" : 1500, + "w" : 1, + "n" : 1, + "h" : 768 + }, + "concat_58_values1_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "transpose_95" : { + "k" : 12, + "w" : 64, + "n" : 11, + "_rank" : 4, + "h" : 128 + }, + "tensor.23" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "input.9" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_80" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.105_mvn" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.105_scale_mul_out" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "hidden_states.45_reshape" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.59_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "tensor.119" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "input.269" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_128" : { + "k" : 128, + "w" : 11, + "n" : 1, + "h" : 768 + }, + "gather_40" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "attn_weights.67" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.85" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.1_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "276_shape" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "gather_55" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.365" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "concat_65" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "transpose_88" : { + "k" : 1500, + "w" : 1, + "n" : 1, + "h" : 768 + }, + "input.317" : { + "k" : 11, + "w" : 3072, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.59_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "tensor.91" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_130" : { + "k" : 128, + "w" : 768, + "n" : 1, + "h" : 11 + }, + "input.163" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "tensor.131" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "hidden_states.35" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.115" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "tensor.43" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_73" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.347_mvn" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "input.91_scale" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "input.379_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.251_mvn" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.75_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "gather_35_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.211" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "tensor.1" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "gather_17_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "gather_10_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "causal_mask.1" : { + "k" : 1, + "w" : 129, + "n" : 1, + "_rank" : 2, + "h" : 128 + }, + "transpose_134" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "gather_60" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "concat_70" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "gather_12" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "concat_22" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "concat_85" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "concat_94_values0_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.5" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.337" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "gather_27" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.71_mvn" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "159_shape" : { + "k" : 1, + "w" : 3, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.183" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "causal_mask.5" : { + "k" : 1, + "w" : 129, + "n" : 1, + "_rank" : 2, + "h" : 128 + }, + "input.283_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "transpose_66" : { + "k" : 128, + "w" : 768, + "n" : 1, + "h" : 11 + }, + "transpose_138" : { + "k" : 128, + "w" : 768, + "n" : 1, + "h" : 11 + }, + "tensor.63" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.155_scale" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "input.135" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "tensor.15" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "attn_weights.13" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.61" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.231" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "concat_31_values1_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.39" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.69" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "input.91_mvn" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "causal_mask.11_begin_0" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.99" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "transpose_140" : { + "k" : 12, + "w" : 64, + "n" : 11, + "_rank" : 4, + "h" : 128 + }, + "concat_13_values1_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.41_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "causal_mask.9" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "input.251_scale" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "gather_9_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "gather_32" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.11" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.41_mvn" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "input.357" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "gather_47" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "810_shape" : { + "k" : 1, + "w" : 3, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.309" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.65_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "transpose_144" : { + "k" : 1500, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "transpose_90" : { + "k" : 1500, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.155" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "tensor.83" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "causal_mask.21_begin_0" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "causal_mask" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "input.379_reshape" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.15_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "tensor.35" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "input.107" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "gather_25_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.251" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "401" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.123_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.47" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.17" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.203" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.55_reshape" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.77" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.347_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.71_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "927_shape" : { + "k" : 1, + "w" : 3, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "gather_4" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "transpose_148" : { + "k" : 128, + "w" : 768, + "n" : 1, + "h" : 11 + }, + "shape_0" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "701" : { + "k" : 128, + "w" : 64, + "n" : 11, + "_rank" : 4, + "h" : 12 + }, + "tensor.109" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.11_mvn" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.65_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "transpose_98" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_103" : { + "k" : 128, + "w" : 768, + "n" : 1, + "h" : 11 + }, + "gather_52" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "concat_103_values1_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "concat_76_values0_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.187_reshape" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "input.377" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "concat_58_values0_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "transpose_83" : { + "k" : 128, + "w" : 11, + "n" : 1, + "h" : 768 + }, + "transpose_150" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1500 + }, + "gather_19" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.329" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "tensor.121" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "concat_29" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.175" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "233" : { + "k" : 128, + "w" : 64, + "n" : 11, + "_rank" : 4, + "h" : 12 + }, + "407" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1500 + }, + "input.127" : { + "k" : 11, + "w" : 3072, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "531" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1500 + }, + "tensor.55" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_107" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "631" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "attn_weights.1" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.25" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.271" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.55" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.91_scale" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.41_scale" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "input.85" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.223" : { + "k" : 11, + "w" : 3072, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "831" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "707" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "hidden_states.65_reshape" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_154" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "931" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.11_reshape" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.91_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "band_part_0" : { + "k" : 1, + "w" : 129, + "n" : 1, + "_rank" : 2, + "h" : 128 + }, + "1292" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "transpose_76" : { + "k" : 128, + "w" : 768, + "n" : 1, + "h" : 11 + }, + "input.379_mvn" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "gather_24" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "163" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "635" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "concat_34" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "1343" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1500 + }, + "input.283_mvn" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "concat_97" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.349" : { + "k" : 11, + "w" : 3072, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "gather_39" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "363" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "239" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "concat_49" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.115_mvn" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.195" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "transpose_158" : { + "k" : 12, + "w" : 64, + "n" : 11, + "_rank" : 4, + "h" : 128 + }, + "463" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "935" : { + "k" : 128, + "w" : 64, + "n" : 11, + "_rank" : 4, + "h" : 12 + }, + "input.219_mvn" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "transpose_61" : { + "k" : 1500, + "w" : 1, + "n" : 1, + "h" : 768 + }, + "input.147" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_113" : { + "k" : 12, + "w" : 64, + "n" : 11, + "_rank" : 4, + "h" : 128 + }, + "tensor.75" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "290" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1500 + }, + "input.123_mvn" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "attn_weights.19" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.65_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "gather_15_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.63" : { + "k" : 11, + "w" : 3072, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.93" : { + "k" : 11, + "w" : 3072, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "tensor.27" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.291" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.101_mvn" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "input.243" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "167" : { + "k" : 128, + "w" : 64, + "n" : 1, + "_rank" : 4, + "h" : 12 + }, + "transpose_160" : { + "k" : 1500, + "w" : 1, + "n" : 1, + "h" : 768 + }, + "590" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "transpose_69" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1500 + }, + "467" : { + "k" : 128, + "w" : 64, + "n" : 11, + "_rank" : 4, + "h" : 12 + }, + "1048" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "765" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1500 + }, + "input.155_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.21_reshape" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "transpose_117" : { + "k" : 1500, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "865" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "attn_weights.7" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.155_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "gather_44" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "attn_weights.55" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "1278_shape" : { + "k" : 1, + "w" : 3, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.369" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "gather_59" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "transpose_164" : { + "k" : 128, + "w" : 1, + "n" : 1, + "h" : 768 + }, + "hidden_states.81_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "causal_mask.19_begin_0" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "tensor.133" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.167" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.11" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "tensor.95" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "input.41" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "concat_31_values0_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.71" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.65" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.119" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "tensor.47" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "397" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "869" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "concat_13_values0_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "297" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1500 + }, + "hidden_states.61_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "992" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1500 + }, + "input.263" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "1161_shape" : { + "k" : 1, + "w" : 3, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.215" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "597" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "953_shape" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "602_shape" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "697" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "tensor.9" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "1299" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "hidden_states.15" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_93" : { + "k" : 128, + "w" : 768, + "n" : 1, + "h" : 11 + }, + "transpose_123" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1500 + }, + "input.311" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "concat_11" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "causal_mask.7_begin_0" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "concat_74" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "1065" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "1116" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1500 + }, + "input.389" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "tensor.111" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.75_mvn" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.111_reshape" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.115_scale_mul_out" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "999" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1500 + }, + "input.187" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "transpose_127" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "tensor.67" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.139" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "concat_4" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.5_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "hidden_states.61_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "input.283" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "tensor.19" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.75_reshape" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.1_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "input.235" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.85_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "hidden_states.91" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.61_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "transpose_86" : { + "k" : 12, + "w" : 64, + "n" : 11, + "_rank" : 4, + "h" : 128 + }, + "1416" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "hidden_states.71_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "input_mvn" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "gather_5" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.331" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "836_shape" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.15_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "concat_31" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "transpose_71" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "concat_94" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.105_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "hidden_states.115" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.41" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.59_scale" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.45_mvn" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.101_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "transpose_133" : { + "k" : 1500, + "w" : 1, + "n" : 1, + "h" : 768 + }, + "input.187_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "861_shape" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "attention_mask" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.159" : { + "k" : 11, + "w" : 3072, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.71_scale" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "tensor.87" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "gather_2_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "510_shape" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "tensor.39" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "transpose_79" : { + "k" : 1500, + "w" : 1, + "n" : 1, + "h" : 768 + }, + "hidden_states.115_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "hidden_states.101_reshape" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "input.255" : { + "k" : 11, + "w" : 3072, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.31_reshape" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "input.207" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "concat_4_values0_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "transpose_64" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.5_mvn" : { + "k" : 128, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "input.351" : { + "k" : 11, + "w" : 3072, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.95_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "transpose_137" : { + "k" : 128, + "w" : 11, + "n" : 1, + "h" : 768 + }, + "hidden_states.15_mvn" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.303" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "978_shape" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.45_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "hidden_states.51_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "input.251_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.155_mvn" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "719_shape" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "627_shape" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.101" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "input.379_scale" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "tensor.123" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.179" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.5_reshape" : { + "k" : 128, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.55_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "24" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.379_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "tensor.59" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "25" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "744_shape" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "tensor.3" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.251_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "input.275" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.227" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "concat_85_values2_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.101" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.371" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.41_reshape" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "transpose_143" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "concat_67_values2_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.111_mvn" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "gather_5_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.323" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "1450" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "concat_49_values2_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.121" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "concat_38" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "tensor.101" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.81_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "hidden_states.21_scale" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "transpose_147" : { + "k" : 128, + "w" : 768, + "n" : 1, + "h" : 11 + }, + "input.199" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.1_reshape" : { + "k" : 128, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.85_reshape" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_96" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1500 + }, + "transpose_102" : { + "k" : 128, + "w" : 768, + "n" : 1, + "h" : 11 + }, + "tensor.79" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "1421_shape" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.41_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.11_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "hidden_states.91_mvn" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "input.295" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_81" : { + "k" : 1500, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.247" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.343" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "1454" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "concat_43" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "attn_weights.43" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_106" : { + "k" : 1500, + "w" : 1, + "n" : 1, + "h" : 768 + }, + "input.141" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "1220" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "concat_58" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.1" : { + "k" : 1, + "w" : 128, + "n" : 1, + "_rank" : 2, + "h" : 1 + }, + "tensor.21" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "transpose_89" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "transpose_153" : { + "k" : 1500, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "hidden_states.101_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "concat_4_values1_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "causal_mask.27_begin_0" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "tensor.135" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.61_mvn" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "input.27_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.59_mvn" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "tensor.99" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.283_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "transpose_74" : { + "k" : 128, + "w" : 11, + "n" : 1, + "h" : 768 + }, + "hidden_states.95_reshape" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.19" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.95" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.49" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.79" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "hidden_states.45_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "hidden_states.51_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "hidden_states.35_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.267" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "causal_mask.21" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "input.187_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.59_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "1187_shape" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "1329_shape" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "concat_106" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.219" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.21_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "transpose_157" : { + "k" : 128, + "w" : 768, + "n" : 1, + "h" : 11 + }, + "input.363" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_112" : { + "k" : 128, + "w" : 768, + "n" : 1, + "h" : 11 + }, + "hidden_states.45" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.27_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.315" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.111_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "hidden_states.31_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "concat_40_values2_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.85_scale_mul_out" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.113" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "tensor.41" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "causal_mask.23" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "1212_shape" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.31_mvn" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "concat_22_values2_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "tensor.113" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "concat_101" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.1_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "transpose_67" : { + "k" : 128, + "w" : 768, + "n" : 1, + "h" : 11 + }, + "input.219_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.95_scale_mul_out" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.283_reshape" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "causal_mask.17_begin_0" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.27" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "transpose_116" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.57" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "input.87" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.187_scale" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "112" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "1175" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "input.187_mvn" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "input.287" : { + "k" : 11, + "w" : 3072, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.51_reshape" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "causal_mask.25" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "causal_mask.11" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "1226" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1500 + }, + "input.239" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "transpose_163" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 128 + }, + "gather_10" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.105_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "concat_20" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.27_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "gather_54_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.383" : { + "k" : 11, + "w" : 3072, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.101_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "concat_83" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.335" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "gather_25" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.111_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.27_reshape" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "input.181" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.115_reshape" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.283_scale" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "116" : { + "k" : 128, + "w" : 64, + "n" : 1, + "_rank" : 4, + "h" : 12 + }, + "tensor.61" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.71" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "414" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1500 + }, + "input.133" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "causal_mask.27" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "514" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "causal_mask.13" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "tensor.13" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.11_scale_mul_out" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "transpose_167" : { + "k" : 12, + "w" : 64, + "n" : 1, + "_rank" : 4, + "h" : 128 + }, + "input.219_scale" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "transpose_91" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "714" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "transpose_122" : { + "k" : 12, + "w" : 64, + "n" : 11, + "_rank" : 4, + "h" : 128 + }, + "input.35" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "causal_mask_begin_0" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.95" : { + "k" : 11, + "w" : 3072, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "814" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "concat_85_values1_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.21" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "concat_67_values1_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "641" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1500 + }, + "hidden_states.75_scale_mul_out" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.347_reshape" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "input.259" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "causal_mask.15" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "gather_30" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "concat_49_values1_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "518" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "concat_40" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "hidden_states.61_reshape" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.41_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "decoder.embed_tokens.weight" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 2, + "h" : 51865 + }, + "1070_shape" : { + "k" : 1, + "w" : 4, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "input.315_scale" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "concat_4_values2_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "941" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "input.355" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "gather_45" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "246" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "transpose_126" : { + "k" : 1500, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "transpose_99" : { + "k" : 1500, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "attn_weights.49" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.307" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "346" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "818" : { + "k" : 128, + "w" : 64, + "n" : 11, + "_rank" : 4, + "h" : 12 + }, + "input.153" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "tensor.81" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "concat_103_values2_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "173" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1500 + }, + "hidden_states.51_scale" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "transpose_84" : { + "k" : 128, + "w" : 768, + "n" : 1, + "h" : 11 + }, + "input.105" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "tensor.33" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 1500 + }, + "causal_mask.17" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.31_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "attn_output.93" : { + "k" : 1500, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "input.13" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.43" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.155_reshape" : { + "k" : 128, + "w" : 768, + "n" : 11, + "_rank" : 4, + "h" : 1 + }, + "input.73" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "tensor.125" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.201" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "473" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "hidden_states.105_reshape" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "648" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1500 + }, + "hidden_states.75_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.91_scale_constant_in_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "748" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.279" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "gather_50" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "causal_mask.19" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 4, + "h" : 1 + }, + "hidden_states.25_scale" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "gather_44_indices_0" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "attn_output.81" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "948" : { + "k" : 11, + "w" : 768, + "n" : 1, + "h" : 128 + }, + "transpose_132" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 4, + "h" : 1500 + }, + "input.375" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.327" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "gather_17" : { + "k" : 1, + "w" : 1, + "n" : 1, + "_rank" : 1, + "h" : 1 + }, + "transpose_77" : { + "k" : 12, + "w" : 64, + "n" : 11, + "_rank" : 4, + "h" : 128 + }, + "input.173" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "875" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1500 + }, + "input.315_scale_constant_in_bias" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.3" : { + "k" : 1, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "hidden_states.65_scale_mul_out" : { + "k" : 1, + "w" : 768, + "n" : 1, + "h" : 1 + }, + "input.125" : { + "k" : 11, + "w" : 3072, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "tensor.53" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "input.21" : { + "k" : 11, + "w" : 768, + "n" : 1, + "_rank" : 3, + "h" : 128 + }, + "transpose_62" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.51" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "tensor.103" : { + "k" : 768, + "w" : 1, + "n" : 1, + "h" : 1 + }, + "input.81" : { + "k" : 1, + "w" : 1, + "n" : 1, + "h" : 1 + } + }, + "global_shapes" : { + + } +} \ No newline at end of file