diff --git "a/az-speechto-text-HF/WhisperDecoder.mlmodelc/model.espresso.shape" "b/az-speechto-text-HF/WhisperDecoder.mlmodelc/model.espresso.shape" deleted file mode 100644--- "a/az-speechto-text-HF/WhisperDecoder.mlmodelc/model.espresso.shape" +++ /dev/null @@ -1,6406 +0,0 @@ -{ - "layer_shapes" : { - "causal_mask.3" : { - "k" : 1, - "w" : 129, - "n" : 1, - "_rank" : 2, - "h" : 128 - }, - "hidden_states.55_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "positions" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.221" : { - "k" : 11, - "w" : 3072, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "transpose_136" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.115_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.219_reshape" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.35_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "hidden_states.95_mvn" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.299" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "gather_7" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "gather_22" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "attn_output.85" : { - "k" : 1500, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "tensor" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "causal_mask.7" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "concat_40_values1_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "10" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "11" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "gather_37" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.347" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "concat_22_values1_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "concat_47" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "attn_weights.31" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.315_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "input.145" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "tensor.73" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "tensor.25" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "transpose_142" : { - "k" : 1500, - "w" : 1, - "n" : 1, - "h" : 768 - }, - "input.241" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "attn_output.73" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.45_scale_mul_out" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "tensor.137" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.65_mvn" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.71_reshape" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.105_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "gather_52_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.55_scale_mul_out" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "gather_34_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "gather_42" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "concat_52" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "gather_1_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "transpose_146" : { - "k" : 128, - "w" : 11, - "n" : 1, - "h" : 768 - }, - "1395_shape" : { - "k" : 1, - "w" : 3, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "attn_output.61" : { - "k" : 1500, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "transpose_94" : { - "k" : 128, - "w" : 768, - "n" : 1, - "h" : 11 - }, - "attn_output.89" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "gather_57" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.367" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_101" : { - "k" : 128, - "w" : 11, - "n" : 1, - "h" : 768 - }, - "concat_67" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.75" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.319" : { - "k" : 11, - "w" : 3072, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "tensor.93" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "input.165" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "hidden_states.5_scale" : { - "k" : 128, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "concat_85_values0_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.117" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "tensor.45" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "hidden_states.35_mvn" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.123_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.261" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "1282" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "concat_67_values0_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "tensor.115" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "attn_output.77" : { - "k" : 1500, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.25" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "concat_103" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.213" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.105" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "1333" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "concat_49_values0_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "transpose_105" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1500 - }, - "tensor.5" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "causal_mask.25_begin_0" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.115_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "hidden_states.81_reshape" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.31_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "transpose_87" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1500 - }, - "transpose_152" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "gather_14" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.35_scale_mul_out" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "attn_output.65" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.387" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "transpose_72" : { - "k" : 1500, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "hidden_states.51_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "gather_29" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.339" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_109" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.379_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "input.185" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "tensor.65" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "concat_0" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.1_scale" : { - "k" : 128, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "input.137" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "gather_4_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.281" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "tensor.17" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "transpose_156" : { - "k" : 128, - "w" : 768, - "n" : 1, - "h" : 11 - }, - "gather_59_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "1286" : { - "k" : 128, - "w" : 64, - "n" : 11, - "_rank" : 4, - "h" : 12 - }, - "input.233" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_111" : { - "k" : 128, - "w" : 768, - "n" : 1, - "h" : 11 - }, - "attn_output.53" : { - "k" : 1500, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "gather_60_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "1337" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "gather_1" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input_reshape" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "1052" : { - "k" : 128, - "w" : 64, - "n" : 11, - "_rank" : 4, - "h" : 12 - }, - "hidden_states.55_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "gather_42_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.51" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "1350" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1500 - }, - "causal_mask.15_begin_0" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "1103" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "gather_24_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "concat_92" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.1_mvn" : { - "k" : 128, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "input.123_scale" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "gather_34" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "transpose_65" : { - "k" : 128, - "w" : 11, - "n" : 1, - "h" : 768 - }, - "attn_output.69" : { - "k" : 1500, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "attn_output.41" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_115" : { - "k" : 1500, - "w" : 1, - "n" : 1, - "h" : 768 - }, - "gather_49" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "attn_weights.37" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.359" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.75_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.157" : { - "k" : 11, - "w" : 3072, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "tensor.85" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "1403" : { - "k" : 128, - "w" : 64, - "n" : 11, - "_rank" : 4, - "h" : 12 - }, - "transpose_162" : { - "k" : 1500, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.251_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "tensor.37" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.109" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "concat_7" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.25_scale_mul_out" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.253" : { - "k" : 11, - "w" : 3072, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "tensor.127" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.25_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "attn_output.57" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.111_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "input.205" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_119" : { - "k" : 128, - "w" : 11, - "n" : 1, - "h" : 768 - }, - "78_shape" : { - "k" : 1, - "w" : 3, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "concat_40_values0_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.301" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.81_mvn" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "gather_7_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.81_scale" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "concat_22_values0_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "gather_54" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "transpose_166" : { - "k" : 128, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "hidden_states.31_scale" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "transpose_121" : { - "k" : 128, - "w" : 768, - "n" : 1, - "h" : 11 - }, - "concat_16" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.379" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "attn_output.45" : { - "k" : 1500, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "input.123_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "concat_79" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "1058" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "input.177" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.187_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "tensor.57" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "1109" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1500 - }, - "gather_49_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "concat_103_values0_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.95_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "tensor.105" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "input.273" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.29" : { - "k" : 11, - "w" : 3072, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.59" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "transpose_125" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_97" : { - "k" : 1500, - "w" : 1, - "n" : 1, - "h" : 768 - }, - "input.89" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "hidden_states.91_reshape" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "attn_output.33" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "gather_50_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.51_mvn" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "gather_32_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "transpose_82" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "gather_14_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "576_shape" : { - "k" : 1, - "w" : 3, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "1409" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "hidden_states.15_scale_mul_out" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "transpose_129" : { - "k" : 128, - "w" : 768, - "n" : 1, - "h" : 11 - }, - "attn_output.49" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "attn_output.21" : { - "k" : 1500, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "input.197" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "concat_94_values2_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.149" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "693_shape" : { - "k" : 1, - "w" : 3, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "tensor.77" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "342_shape" : { - "k" : 1, - "w" : 3, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.293" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "input.37" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.21_mvn" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "transpose_131" : { - "k" : 12, - "w" : 64, - "n" : 11, - "_rank" : 4, - "h" : 128 - }, - "input.67" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "tensor.29" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.245" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "tensor.139" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "attn_output.37" : { - "k" : 1500, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "transpose_75" : { - "k" : 128, - "w" : 768, - "n" : 1, - "h" : 11 - }, - "input.341" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.21_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "122" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "hidden_states.101_scale" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.71_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "inputs_embeds" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "transpose_60" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1500 - }, - "input.27_scale" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "concat_56" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "82" : { - "k" : 1, - "w" : 129, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "459_shape" : { - "k" : 1, - "w" : 3, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "transpose_135" : { - "k" : 1500, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "108_shape" : { - "k" : 1, - "w" : 3, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "84" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 2, - "h" : 128 - }, - "input.219_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "attn_output.25" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "gather_57_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "85" : { - "k" : 1, - "w" : 129, - "n" : 1, - "_rank" : 2, - "h" : 128 - }, - "input.169" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "tensor.97" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.15" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "gather_39_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "87" : { - "k" : 1, - "w" : 129, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "350" : { - "k" : 128, - "w" : 64, - "n" : 11, - "_rank" : 4, - "h" : 12 - }, - "input.75" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "tensor.49" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "524" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1500 - }, - "88" : { - "k" : 1, - "w" : 129, - "n" : 1, - "_rank" : 4, - "h" : 128 - }, - "1044_shape" : { - "k" : 1, - "w" : 3, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.45" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "gather_40_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.15_reshape" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.265" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_139" : { - "k" : 128, - "w" : 768, - "n" : 1, - "h" : 11 - }, - "gather_47_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "gather_2" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.55" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.217" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "225_shape" : { - "k" : 1, - "w" : 3, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "gather_22_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "attn_output.1" : { - "k" : 128, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "attn_output.13" : { - "k" : 1500, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "824" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "hidden_states.91_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "tensor.117" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "129" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "input.59_reshape" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "real_div_0" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "concat_61" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.111_scale" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "input.313" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "229" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "transpose_68" : { - "k" : 12, - "w" : 64, - "n" : 11, - "_rank" : 4, - "h" : 128 - }, - "input.361" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.219_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "concat_13" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.95_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "1446_shape" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "transpose_141" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1500 - }, - "180" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1500 - }, - "concat_76" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.111" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "280" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "752" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "attn_output.29" : { - "k" : 1500, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "attn_output.5" : { - "k" : 1500, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.25_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "causal_mask.13_begin_0" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "cast_100" : { - "k" : 1, - "w" : 129, - "n" : 1, - "_rank" : 2, - "h" : 128 - }, - "356" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "480" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "input.189" : { - "k" : 11, - "w" : 3072, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.7" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "580" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.53" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "concat_58_values2_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.83" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.23" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "tensor.69" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "concat_76_values2_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.15_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "transpose_145" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.285" : { - "k" : 11, - "w" : 3072, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "transpose_92" : { - "k" : 128, - "w" : 11, - "n" : 1, - "h" : 768 - }, - "input.237" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_100" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.25_reshape" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "284" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.381" : { - "k" : 11, - "w" : 3072, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "attn_output.17" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "attn_output.9" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "gather_9" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.81" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.333" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "causal_mask.23_begin_0" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "584" : { - "k" : 128, - "w" : 64, - "n" : 11, - "_rank" : 4, - "h" : 12 - }, - "758" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1500 - }, - "882" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1500 - }, - "982" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.131" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.283_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "transpose_149" : { - "k" : 12, - "w" : 64, - "n" : 11, - "_rank" : 4, - "h" : 128 - }, - "input.347_scale" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "tensor.11" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "input.91_reshape" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "transpose_104" : { - "k" : 12, - "w" : 64, - "n" : 11, - "_rank" : 4, - "h" : 128 - }, - "attn_weights.25" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.31" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "1460" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1500 - }, - "input.31" : { - "k" : 11, - "w" : 3072, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.85_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.61" : { - "k" : 11, - "w" : 3072, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.91" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "1099" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "gather_29_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.85_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "tensor.89" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "transpose_85" : { - "k" : 128, - "w" : 768, - "n" : 1, - "h" : 11 - }, - "gather_55_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.35_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "transpose_151" : { - "k" : 1500, - "w" : 1, - "n" : 1, - "h" : 768 - }, - "gather_37_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "gather_30_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "986" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.251_reshape" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "input.315_mvn" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "tensor.129" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "transpose_70" : { - "k" : 1500, - "w" : 1, - "n" : 1, - "h" : 768 - }, - "gather_12_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "attn_weights.61" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.209" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_108" : { - "k" : 1500, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.123_reshape" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "1399" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.85_mvn" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.305" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "485_shape" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.91_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "transpose_155" : { - "k" : 128, - "w" : 11, - "n" : 1, - "h" : 768 - }, - "decoder_input_ids" : { - "k" : 1, - "w" : 128, - "n" : 1, - "_rank" : 2, - "h" : 1 - }, - "input.151" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "tensor.141" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "1165" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input_scale" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "encoder_hidden_states" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "input.103" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "causal_mask.9_begin_0" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.5_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "tensor.31" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_110" : { - "k" : 128, - "w" : 11, - "n" : 1, - "h" : 768 - }, - "1216" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "concat_94_values1_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "transpose_78" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1500 - }, - "input.315_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.91_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "transpose_63" : { - "k" : 1500, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "transpose_159" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1500 - }, - "251_shape" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "tensor.107" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "input.277" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.91_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "hidden_states.61_scale" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "tensor.7" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "concat_31_values2_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "transpose_114" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1500 - }, - "input.229" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "hidden_states.55_mvn" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.11_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.315_reshape" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.11_scale" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "concat_13_values2_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.373" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.21_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.325" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "gather_15" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "transpose_161" : { - "k" : 12, - "w" : 64, - "n" : 1, - "_rank" : 4, - "h" : 128 - }, - "input.347_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "concat_25" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.171" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "1095_shape" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "concat_88" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "_neg_y_causal_mask.3" : { - "k" : 1, - "w" : 129, - "n" : 1, - "_rank" : 2, - "h" : 128 - }, - "input.123" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "368_shape" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "tensor.51" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "1169" : { - "k" : 128, - "w" : 64, - "n" : 11, - "_rank" : 4, - "h" : 12 - }, - "1182" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "transpose_118" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "1467" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1500 - }, - "logits" : { - "k" : 11, - "w" : 51865, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "concat_2" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "1233" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1500 - }, - "gather_45_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "gather_19_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "1304_shape" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "gather_27_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "transpose_165" : { - "k" : 128, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "hidden_states.35_reshape" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "gather_20_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.25_mvn" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.297" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_120" : { - "k" : 128, - "w" : 768, - "n" : 1, - "h" : 11 - }, - "hidden_states.81_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.347_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "hidden_states.5_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "393_shape" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.249" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "gather_20" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "134_shape" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.345" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "gather_35" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.1" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.27_mvn" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.45_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.191" : { - "k" : 11, - "w" : 3072, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "concat_76_values1_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "cache_position" : { - "k" : 1, - "w" : 128, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.111" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.143" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "tensor.71" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "input.155_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "transpose_124" : { - "k" : 1500, - "w" : 1, - "n" : 1, - "h" : 768 - }, - "concat_58_values1_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "transpose_95" : { - "k" : 12, - "w" : 64, - "n" : 11, - "_rank" : 4, - "h" : 128 - }, - "tensor.23" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "input.9" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_80" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.105_mvn" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.105_scale_mul_out" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "hidden_states.45_reshape" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.59_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "tensor.119" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "input.269" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_128" : { - "k" : 128, - "w" : 11, - "n" : 1, - "h" : 768 - }, - "gather_40" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "attn_weights.67" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.85" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.1_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "276_shape" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "gather_55" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.365" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "concat_65" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "transpose_88" : { - "k" : 1500, - "w" : 1, - "n" : 1, - "h" : 768 - }, - "input.317" : { - "k" : 11, - "w" : 3072, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.59_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "tensor.91" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_130" : { - "k" : 128, - "w" : 768, - "n" : 1, - "h" : 11 - }, - "input.163" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "tensor.131" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "hidden_states.35" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.115" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "tensor.43" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_73" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.347_mvn" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "input.91_scale" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "input.379_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.251_mvn" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.75_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "gather_35_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.211" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "tensor.1" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "gather_17_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "gather_10_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "causal_mask.1" : { - "k" : 1, - "w" : 129, - "n" : 1, - "_rank" : 2, - "h" : 128 - }, - "transpose_134" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "gather_60" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "concat_70" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "gather_12" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "concat_22" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "concat_85" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "concat_94_values0_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.5" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.337" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "gather_27" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.71_mvn" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "159_shape" : { - "k" : 1, - "w" : 3, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.183" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "causal_mask.5" : { - "k" : 1, - "w" : 129, - "n" : 1, - "_rank" : 2, - "h" : 128 - }, - "input.283_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "transpose_66" : { - "k" : 128, - "w" : 768, - "n" : 1, - "h" : 11 - }, - "transpose_138" : { - "k" : 128, - "w" : 768, - "n" : 1, - "h" : 11 - }, - "tensor.63" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.155_scale" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "input.135" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "tensor.15" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "attn_weights.13" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.61" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.231" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "concat_31_values1_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.39" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.69" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "input.91_mvn" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "causal_mask.11_begin_0" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.99" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "transpose_140" : { - "k" : 12, - "w" : 64, - "n" : 11, - "_rank" : 4, - "h" : 128 - }, - "concat_13_values1_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.41_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "causal_mask.9" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "input.251_scale" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "gather_9_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "gather_32" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.11" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.41_mvn" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "input.357" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "gather_47" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "810_shape" : { - "k" : 1, - "w" : 3, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.309" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.65_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "transpose_144" : { - "k" : 1500, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "transpose_90" : { - "k" : 1500, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.155" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "tensor.83" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "causal_mask.21_begin_0" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "causal_mask" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "input.379_reshape" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.15_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "tensor.35" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "input.107" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "gather_25_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.251" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "401" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.123_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.47" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.17" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.203" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.55_reshape" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.77" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.347_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.71_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "927_shape" : { - "k" : 1, - "w" : 3, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "gather_4" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "transpose_148" : { - "k" : 128, - "w" : 768, - "n" : 1, - "h" : 11 - }, - "shape_0" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "701" : { - "k" : 128, - "w" : 64, - "n" : 11, - "_rank" : 4, - "h" : 12 - }, - "tensor.109" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.11_mvn" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.65_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "transpose_98" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_103" : { - "k" : 128, - "w" : 768, - "n" : 1, - "h" : 11 - }, - "gather_52" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "concat_103_values1_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "concat_76_values0_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.187_reshape" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "input.377" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "concat_58_values0_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "transpose_83" : { - "k" : 128, - "w" : 11, - "n" : 1, - "h" : 768 - }, - "transpose_150" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1500 - }, - "gather_19" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.329" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "tensor.121" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "concat_29" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.175" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "233" : { - "k" : 128, - "w" : 64, - "n" : 11, - "_rank" : 4, - "h" : 12 - }, - "407" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1500 - }, - "input.127" : { - "k" : 11, - "w" : 3072, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "531" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1500 - }, - "tensor.55" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_107" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "631" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "attn_weights.1" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.25" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.271" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.55" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.91_scale" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.41_scale" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "input.85" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.223" : { - "k" : 11, - "w" : 3072, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "831" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "707" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "hidden_states.65_reshape" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_154" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "931" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.11_reshape" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.91_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "band_part_0" : { - "k" : 1, - "w" : 129, - "n" : 1, - "_rank" : 2, - "h" : 128 - }, - "1292" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "transpose_76" : { - "k" : 128, - "w" : 768, - "n" : 1, - "h" : 11 - }, - "input.379_mvn" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "gather_24" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "163" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "635" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "concat_34" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "1343" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1500 - }, - "input.283_mvn" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "concat_97" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.349" : { - "k" : 11, - "w" : 3072, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "gather_39" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "363" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "239" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "concat_49" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.115_mvn" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.195" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "transpose_158" : { - "k" : 12, - "w" : 64, - "n" : 11, - "_rank" : 4, - "h" : 128 - }, - "463" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "935" : { - "k" : 128, - "w" : 64, - "n" : 11, - "_rank" : 4, - "h" : 12 - }, - "input.219_mvn" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "transpose_61" : { - "k" : 1500, - "w" : 1, - "n" : 1, - "h" : 768 - }, - "input.147" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_113" : { - "k" : 12, - "w" : 64, - "n" : 11, - "_rank" : 4, - "h" : 128 - }, - "tensor.75" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "290" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1500 - }, - "input.123_mvn" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "attn_weights.19" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.65_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "gather_15_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.63" : { - "k" : 11, - "w" : 3072, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.93" : { - "k" : 11, - "w" : 3072, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "tensor.27" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.291" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.101_mvn" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "input.243" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "167" : { - "k" : 128, - "w" : 64, - "n" : 1, - "_rank" : 4, - "h" : 12 - }, - "transpose_160" : { - "k" : 1500, - "w" : 1, - "n" : 1, - "h" : 768 - }, - "590" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "transpose_69" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1500 - }, - "467" : { - "k" : 128, - "w" : 64, - "n" : 11, - "_rank" : 4, - "h" : 12 - }, - "1048" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "765" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1500 - }, - "input.155_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.21_reshape" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "transpose_117" : { - "k" : 1500, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "865" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "attn_weights.7" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.155_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "gather_44" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "attn_weights.55" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "1278_shape" : { - "k" : 1, - "w" : 3, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.369" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "gather_59" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "transpose_164" : { - "k" : 128, - "w" : 1, - "n" : 1, - "h" : 768 - }, - "hidden_states.81_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "causal_mask.19_begin_0" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "tensor.133" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.167" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.11" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "tensor.95" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "input.41" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "concat_31_values0_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.71" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.65" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.119" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "tensor.47" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "397" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "869" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "concat_13_values0_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "297" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1500 - }, - "hidden_states.61_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "992" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1500 - }, - "input.263" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "1161_shape" : { - "k" : 1, - "w" : 3, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.215" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "597" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "953_shape" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "602_shape" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "697" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "tensor.9" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "1299" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "hidden_states.15" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_93" : { - "k" : 128, - "w" : 768, - "n" : 1, - "h" : 11 - }, - "transpose_123" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1500 - }, - "input.311" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "concat_11" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "causal_mask.7_begin_0" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "concat_74" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "1065" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "1116" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1500 - }, - "input.389" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "tensor.111" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.75_mvn" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.111_reshape" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.115_scale_mul_out" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "999" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1500 - }, - "input.187" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "transpose_127" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "tensor.67" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.139" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "concat_4" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.5_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "hidden_states.61_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "input.283" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "tensor.19" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.75_reshape" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.1_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "input.235" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.85_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "hidden_states.91" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.61_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "transpose_86" : { - "k" : 12, - "w" : 64, - "n" : 11, - "_rank" : 4, - "h" : 128 - }, - "1416" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "hidden_states.71_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "input_mvn" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "gather_5" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.331" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "836_shape" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.15_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "concat_31" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "transpose_71" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "concat_94" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.105_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "hidden_states.115" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.41" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.59_scale" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.45_mvn" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.101_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "transpose_133" : { - "k" : 1500, - "w" : 1, - "n" : 1, - "h" : 768 - }, - "input.187_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "861_shape" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "attention_mask" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.159" : { - "k" : 11, - "w" : 3072, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.71_scale" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "tensor.87" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "gather_2_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "510_shape" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "tensor.39" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "transpose_79" : { - "k" : 1500, - "w" : 1, - "n" : 1, - "h" : 768 - }, - "hidden_states.115_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "hidden_states.101_reshape" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "input.255" : { - "k" : 11, - "w" : 3072, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.31_reshape" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "input.207" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "concat_4_values0_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "transpose_64" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.5_mvn" : { - "k" : 128, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "input.351" : { - "k" : 11, - "w" : 3072, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.95_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "transpose_137" : { - "k" : 128, - "w" : 11, - "n" : 1, - "h" : 768 - }, - "hidden_states.15_mvn" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.303" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "978_shape" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.45_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "hidden_states.51_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "input.251_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.155_mvn" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "719_shape" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "627_shape" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.101" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "input.379_scale" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "tensor.123" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.179" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.5_reshape" : { - "k" : 128, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.55_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "24" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.379_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "tensor.59" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "25" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "744_shape" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "tensor.3" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.251_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "input.275" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.227" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "concat_85_values2_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.101" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.371" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.41_reshape" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "transpose_143" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "concat_67_values2_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.111_mvn" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "gather_5_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.323" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "1450" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "concat_49_values2_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.121" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "concat_38" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "tensor.101" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.81_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "hidden_states.21_scale" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "transpose_147" : { - "k" : 128, - "w" : 768, - "n" : 1, - "h" : 11 - }, - "input.199" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.1_reshape" : { - "k" : 128, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.85_reshape" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_96" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1500 - }, - "transpose_102" : { - "k" : 128, - "w" : 768, - "n" : 1, - "h" : 11 - }, - "tensor.79" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "1421_shape" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.41_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.11_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "hidden_states.91_mvn" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "input.295" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_81" : { - "k" : 1500, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.247" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.343" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "1454" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "concat_43" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "attn_weights.43" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_106" : { - "k" : 1500, - "w" : 1, - "n" : 1, - "h" : 768 - }, - "input.141" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "1220" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "concat_58" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.1" : { - "k" : 1, - "w" : 128, - "n" : 1, - "_rank" : 2, - "h" : 1 - }, - "tensor.21" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "transpose_89" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "transpose_153" : { - "k" : 1500, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "hidden_states.101_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "concat_4_values1_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "causal_mask.27_begin_0" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "tensor.135" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.61_mvn" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "input.27_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.59_mvn" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "tensor.99" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.283_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "transpose_74" : { - "k" : 128, - "w" : 11, - "n" : 1, - "h" : 768 - }, - "hidden_states.95_reshape" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.19" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.95" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.49" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.79" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "hidden_states.45_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "hidden_states.51_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "hidden_states.35_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.267" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "causal_mask.21" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "input.187_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.59_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "1187_shape" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "1329_shape" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "concat_106" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.219" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.21_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "transpose_157" : { - "k" : 128, - "w" : 768, - "n" : 1, - "h" : 11 - }, - "input.363" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_112" : { - "k" : 128, - "w" : 768, - "n" : 1, - "h" : 11 - }, - "hidden_states.45" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.27_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.315" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.111_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "hidden_states.31_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "concat_40_values2_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.85_scale_mul_out" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.113" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "tensor.41" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "causal_mask.23" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "1212_shape" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.31_mvn" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "concat_22_values2_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "tensor.113" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "concat_101" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.1_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "transpose_67" : { - "k" : 128, - "w" : 768, - "n" : 1, - "h" : 11 - }, - "input.219_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.95_scale_mul_out" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.283_reshape" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "causal_mask.17_begin_0" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.27" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "transpose_116" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.57" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "input.87" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.187_scale" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "112" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "1175" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "input.187_mvn" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "input.287" : { - "k" : 11, - "w" : 3072, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.51_reshape" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "causal_mask.25" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "causal_mask.11" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "1226" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1500 - }, - "input.239" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "transpose_163" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 128 - }, - "gather_10" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.105_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "concat_20" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.27_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "gather_54_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.383" : { - "k" : 11, - "w" : 3072, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.101_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "concat_83" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.335" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "gather_25" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.111_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.27_reshape" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "input.181" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.115_reshape" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.283_scale" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "116" : { - "k" : 128, - "w" : 64, - "n" : 1, - "_rank" : 4, - "h" : 12 - }, - "tensor.61" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.71" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "414" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1500 - }, - "input.133" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "causal_mask.27" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "514" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "causal_mask.13" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "tensor.13" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.11_scale_mul_out" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "transpose_167" : { - "k" : 12, - "w" : 64, - "n" : 1, - "_rank" : 4, - "h" : 128 - }, - "input.219_scale" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "transpose_91" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "714" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "transpose_122" : { - "k" : 12, - "w" : 64, - "n" : 11, - "_rank" : 4, - "h" : 128 - }, - "input.35" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "causal_mask_begin_0" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.95" : { - "k" : 11, - "w" : 3072, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "814" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "concat_85_values1_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.21" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "concat_67_values1_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "641" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1500 - }, - "hidden_states.75_scale_mul_out" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.347_reshape" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "input.259" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "causal_mask.15" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "gather_30" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "concat_49_values1_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "518" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "concat_40" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "hidden_states.61_reshape" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.41_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "decoder.embed_tokens.weight" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 2, - "h" : 51865 - }, - "1070_shape" : { - "k" : 1, - "w" : 4, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "input.315_scale" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "concat_4_values2_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "941" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "input.355" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "gather_45" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "246" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "transpose_126" : { - "k" : 1500, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "transpose_99" : { - "k" : 1500, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "attn_weights.49" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.307" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "346" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "818" : { - "k" : 128, - "w" : 64, - "n" : 11, - "_rank" : 4, - "h" : 12 - }, - "input.153" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "tensor.81" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "concat_103_values2_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "173" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1500 - }, - "hidden_states.51_scale" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "transpose_84" : { - "k" : 128, - "w" : 768, - "n" : 1, - "h" : 11 - }, - "input.105" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "tensor.33" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 1500 - }, - "causal_mask.17" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.31_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "attn_output.93" : { - "k" : 1500, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "input.13" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.43" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.155_reshape" : { - "k" : 128, - "w" : 768, - "n" : 11, - "_rank" : 4, - "h" : 1 - }, - "input.73" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "tensor.125" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.201" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "473" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "hidden_states.105_reshape" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "648" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1500 - }, - "hidden_states.75_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.91_scale_constant_in_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "748" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.279" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "gather_50" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "causal_mask.19" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 4, - "h" : 1 - }, - "hidden_states.25_scale" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "gather_44_indices_0" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "attn_output.81" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "948" : { - "k" : 11, - "w" : 768, - "n" : 1, - "h" : 128 - }, - "transpose_132" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 4, - "h" : 1500 - }, - "input.375" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.327" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "gather_17" : { - "k" : 1, - "w" : 1, - "n" : 1, - "_rank" : 1, - "h" : 1 - }, - "transpose_77" : { - "k" : 12, - "w" : 64, - "n" : 11, - "_rank" : 4, - "h" : 128 - }, - "input.173" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "875" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1500 - }, - "input.315_scale_constant_in_bias" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.3" : { - "k" : 1, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "hidden_states.65_scale_mul_out" : { - "k" : 1, - "w" : 768, - "n" : 1, - "h" : 1 - }, - "input.125" : { - "k" : 11, - "w" : 3072, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "tensor.53" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "input.21" : { - "k" : 11, - "w" : 768, - "n" : 1, - "_rank" : 3, - "h" : 128 - }, - "transpose_62" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.51" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "tensor.103" : { - "k" : 768, - "w" : 1, - "n" : 1, - "h" : 1 - }, - "input.81" : { - "k" : 1, - "w" : 1, - "n" : 1, - "h" : 1 - } - }, - "global_shapes" : { - - } -} \ No newline at end of file