Add files using upload-large-folder tool

mmlu_STEM/few_shot_0/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.0.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 54, "1": 0, "2": 100, "3": 711}, "net_accuracy": 0.2866136514247846}

mmlu_STEM/few_shot_0/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.1.hook_mlp_out.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 117, "1": 7, "2": 13, "3": 644}, "net_accuracy": 0.25878064943671303}

mmlu_STEM/few_shot_0/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.1.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 0, "1": 0, "2": 0, "3": 871}, "net_accuracy": 0.2886017229953612}

mmlu_STEM/few_shot_0/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.10.hook_mlp_out.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 637, "1": 4, "2": 2, "3": 5}, "net_accuracy": 0.2147117296222664}

mmlu_STEM/few_shot_0/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.10.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 533, "1": 0, "2": 1, "3": 129}, "net_accuracy": 0.21968190854870775}

mmlu_STEM/few_shot_0/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.11.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 645, "1": 0, "2": 0, "3": 2}, "net_accuracy": 0.21438038436050363}

mmlu_STEM/few_shot_0/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.14.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 645, "1": 1, "2": 1, "3": 0}, "net_accuracy": 0.21438038436050363}

mmlu_STEM/few_shot_0/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.15.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 645, "1": 0, "2": 0, "3": 0}, "net_accuracy": 0.21371769383697814}

mmlu_STEM/few_shot_0/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.18.hook_mlp_out.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 169, "1": 0, "2": 558, "3": 9}, "net_accuracy": 0.243870112657389}

mmlu_STEM/few_shot_0/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.18.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 613, "1": 0, "2": 39, "3": 0}, "net_accuracy": 0.21603711066931744}

mmlu_STEM/few_shot_0/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.19.hook_mlp_out.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 0, "1": 0, "2": 746, "3": 31}, "net_accuracy": 0.25745526838966204}

mmlu_STEM/few_shot_0/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.20.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 623, "1": 1, "2": 33, "3": 0}, "net_accuracy": 0.21769383697813122}

mmlu_STEM/few_shot_0/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.22.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 629, "1": 0, "2": 18, "3": 4}, "net_accuracy": 0.21570576540755468}

mmlu_STEM/few_shot_0/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.23.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 410, "1": 26, "2": 300, "3": 11}, "net_accuracy": 0.24751491053677932}

mmlu_STEM/few_shot_0/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.26.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 71, "1": 26, "2": 5, "3": 760}, "net_accuracy": 0.28561961563949634}

mmlu_STEM/few_shot_0/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.27.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 199, "1": 342, "2": 173, "3": 64}, "net_accuracy": 0.2577866136514248}

mmlu_STEM/few_shot_0/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.4.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 0, "1": 0, "2": 1, "3": 871}, "net_accuracy": 0.28893306825712395}

mmlu_STEM/few_shot_0/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.5.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 0, "1": 0, "2": 1, "3": 871}, "net_accuracy": 0.28893306825712395}

mmlu_STEM/few_shot_0/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.8.hook_mlp_out.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 12, "1": 206, "2": 85, "3": 502}, "net_accuracy": 0.26673293571901924}

mmlu_STEM/few_shot_0/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.9.hook_mlp_out.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 0, "1": 357, "2": 29, "3": 353}, "net_accuracy": 0.24486414844267726}

mmlu_STEM/few_shot_0/EleutherAI_gpt-j-6B/last_token_relative_depth_100/predictions.csv

@@ -0,0 +1,3019 @@
+Labels,Predictions
+0,0
+0,0
+1,1
+1,1
+0,1
+0,1
+1,1
+2,2
+0,2
+0,2
+0,3
+3,1
+0,0
+2,0
+1,1
+1,1
+3,1
+0,2
+2,1
+3,2
+1,1
+1,1
+2,2
+3,0
+2,1
+2,0
+2,3
+2,2
+0,0
+2,1
+1,3
+2,1
+2,1
+0,1
+0,0
+2,1
+2,0
+2,0
+2,2
+2,1
+0,1
+2,0
+2,1
+1,1
+1,2
+2,0
+3,1
+1,1
+3,1
+3,1
+2,1
+2,1
+1,2
+2,1
+1,1
+1,1
+1,1
+2,1
+2,0
+1,2
+3,1
+2,0
+0,0
+3,1
+3,1
+2,1
+2,0
+3,1
+3,3
+2,0
+1,1
+2,2
+0,2
+3,0
+2,1
+2,2
+3,0
+2,3
+3,1
+0,1
+3,0
+0,1
+2,2
+3,0
+0,2
+3,0
+1,0
+3,1
+2,1
+3,1
+3,0
+1,0
+3,1
+2,2
+0,1
+2,0
+1,2
+0,2
+0,1
+2,0
+2,1
+1,1
+1,2
+1,1
+3,0
+0,1
+0,0
+1,1
+1,0
+2,1
+0,2
+2,2
+3,0
+1,1
+1,1
+2,1
+2,1
+3,0
+2,1
+3,0
+3,0
+3,0
+2,1
+1,2
+0,0
+2,0
+3,1
+0,1
+2,2
+0,1
+0,0
+0,1
+3,0
+2,1
+2,1
+2,0
+1,1
+2,1
+1,1
+3,1
+1,0
+0,1
+1,2
+2,1
+1,2
+0,1
+0,1
+1,1
+1,1
+3,2
+3,0
+2,2
+0,0
+1,2
+1,3
+1,1
+1,1
+1,1
+3,2
+0,2
+0,0
+3,0
+0,1
+2,1
+0,0
+3,1
+0,2
+2,1
+0,1
+1,2
+0,2
+1,0
+1,1
+3,1
+1,3
+0,1
+2,1
+2,1
+0,1
+1,1
+2,1
+3,0
+2,0
+0,1
+1,1
+0,2
+2,0
+3,2
+3,0
+1,1
+2,1
+2,0
+1,0
+0,0
+3,0
+3,0
+0,1
+1,0
+0,0
+2,2
+3,1
+3,0
+3,1
+2,1
+0,1
+2,2
+0,0
+1,1
+1,1
+3,2
+3,2
+2,1
+2,1
+2,2
+3,2
+2,1
+0,2
+1,2
+3,1
+2,1
+1,0
+0,1
+3,1
+0,0
+0,1
+3,1
+0,3
+2,1
+3,2
+3,0
+1,1
+0,1
+0,1
+3,1
+0,1
+1,1
+0,0
+3,1
+0,0
+3,1
+1,1
+1,2
+3,1
+1,0
+1,1
+3,0
+1,1
+1,0
+2,2
+3,2
+3,0
+3,1
+1,0
+0,0
+0,1
+1,1
+2,2
+2,1
+0,1
+0,0
+2,0
+3,1
+3,1
+0,1
+2,2
+3,1
+0,1
+0,1
+1,1
+2,0
+3,0
+3,1
+1,2
+3,1
+3,2
+0,1
+3,1
+2,1
+1,0
+3,3
+0,1
+3,0
+1,2
+2,1
+2,1
+1,2
+0,1
+3,0
+3,1
+2,1
+3,1
+3,3
+3,1
+3,1
+1,1
+2,2
+3,2
+1,0
+0,2
+3,1
+1,1
+1,1
+0,1
+2,1
+2,2
+1,0
+1,2
+0,1
+3,3
+3,2
+2,0
+3,1
+2,1
+2,1
+2,2
+3,2
+0,2
+2,1
+3,1
+1,0
+1,0
+2,2
+1,1
+2,1
+1,2
+3,2
+1,0
+1,1
+3,0
+1,0
+0,0
+3,2
+3,1
+1,0
+2,0
+2,3
+0,2
+2,2
+0,0
+0,1
+1,3
+2,1
+0,2
+0,2
+1,0
+2,1
+2,1
+1,1
+3,1
+3,0
+0,0
+2,1
+1,2
+1,1
+3,0
+3,0
+3,3
+0,0
+2,3
+3,2
+1,1
+0,0
+3,0
+1,0
+3,1
+3,1
+3,0
+1,1
+3,1
+1,2
+3,1
+1,0
+2,1
+2,2
+3,1
+2,1
+3,0
+3,2
+2,2
+2,1
+0,0
+3,1
+1,2
+3,0
+0,1
+0,1
+3,2
+3,0
+0,2
+3,0
+2,1
+2,1
+0,0
+1,1
+3,0
+2,0
+2,1
+3,3
+0,1
+0,3
+1,2
+1,3
+2,2
+1,2
+3,1
+0,1
+2,1
+1,1
+3,0
+2,1
+1,2
+2,0
+2,2
+3,0
+1,1
+3,2
+2,1
+2,1
+3,1
+0,0
+3,2
+2,1
+3,0
+0,0
+3,1
+1,0
+2,0
+2,1
+3,1
+3,0
+3,2
+2,2
+3,1
+1,0
+1,1
+3,1
+0,0
+2,1
+0,2
+3,0
+3,0
+2,1
+2,1
+0,1
+3,0
+2,1
+1,0
+3,3
+0,2
+3,0
+3,1
+3,2
+1,1
+2,0
+0,1
+3,1
+2,2
+3,2
+3,0
+0,0
+0,1
+2,1
+2,2
+3,1
+3,0
+2,0
+3,3
+2,1
+3,1
+0,2
+3,2
+0,1
+3,0
+2,1
+1,0
+0,2
+1,0
+0,0
+1,0
+3,0
+2,2
+3,0
+3,2
+0,1
+1,1
+3,2
+0,0
+2,2
+1,1
+1,1
+1,1
+3,1
+2,2
+1,1
+2,0
+0,2
+1,1
+2,2
+1,0
+1,3
+1,1
+1,2
+3,1
+2,0
+3,0
+3,1
+2,1
+3,3
+0,1
+2,3
+0,1
+3,1
+0,1
+1,1
+3,1
+0,1
+0,0
+2,2
+1,0
+0,2
+2,2
+3,1
+1,2
+0,0
+1,3
+3,1
+2,0
+1,1
+0,0
+1,1
+1,0
+2,3
+3,2
+3,0
+3,1
+2,1
+2,2
+1,0
+3,1
+3,1
+1,2
+2,2
+3,1
+2,2
+3,1
+3,2
+0,1
+2,2
+2,2
+1,2
+1,1
+1,3
+2,2
+0,2
+3,0
+1,0
+1,2
+1,1
+0,2
+3,1
+3,1
+2,1
+0,1
+3,0
+2,1
+0,1
+2,1
+1,1
+2,1
+3,2
+0,0
+2,0
+2,1
+0,1
+1,2
+0,2
+1,1
+2,0
+2,1
+3,1
+3,0
+3,2
+2,1
+3,0
+3,1
+0,1
+2,0
+3,1
+0,0
+0,1
+0,2
+1,2
+3,1
+0,2
+1,1
+2,0
+3,0
+2,0
+0,1
+1,1
+2,0
+3,3
+1,2
+3,2
+1,2
+0,1
+3,1
+3,1
+2,1
+3,1
+3,0
+2,0
+3,1
+1,1
+3,0
+2,2
+2,1
+2,1
+1,0
+3,2
+3,2
+3,1
+2,1
+3,1
+3,3
+3,2
+1,2
+2,1
+1,1
+2,2
+2,1
+1,2
+1,1
+3,0
+1,1
+1,1
+3,3
+1,1
+2,1
+0,1
+1,1
+2,1
+0,0
+2,1
+3,2
+0,1
+0,1
+2,1
+0,2
+2,1
+1,1
+2,1
+2,2
+3,2
+1,2
+2,0
+3,0
+3,2
+3,2
+2,1
+2,2
+1,2
+1,0
+0,1
+3,0
+1,2
+3,0
+0,2
+3,1
+1,0
+2,0
+2,2
+2,1
+2,0
+2,2
+1,2
+2,2
+3,0
+2,0
+0,1
+0,0
+1,1
+2,1
+3,2
+3,1
+1,0
+0,2
+1,2
+3,3
+0,2
+3,2
+1,2
+1,1
+0,2
+1,0
+1,1
+3,2
+0,0
+1,1
+0,0
+0,2
+2,0
+2,0
+3,3
+2,1
+2,1
+3,1
+3,3
+3,2
+2,0
+3,0
+2,1
+3,1
+0,2
+2,0
+3,1
+1,1
+0,3
+0,0
+2,1
+1,2
+0,2
+2,1
+1,1
+3,1
+3,2
+2,1
+0,2
+0,2
+3,0
+2,0
+3,0
+2,1
+3,1
+1,1
+1,2
+3,2
+0,1
+1,0
+1,1
+1,2
+0,0
+2,2
+2,0
+2,1
+1,2
+0,1
+3,1
+2,1
+3,2
+2,2
+0,0
+0,1
+0,0
+0,2
+2,2
+2,0
+3,0
+3,0
+3,1
+2,2
+0,2
+3,1
+1,1
+0,0
+0,0
+2,2
+2,1
+0,3
+0,0
+1,0
+2,1
+1,3
+2,1
+1,2
+1,1
+1,1
+1,2
+0,2
+2,1
+3,1
+0,2
+0,1
+3,0
+3,0
+3,0
+0,0
+3,0
+1,2
+0,3
+2,2
+2,2
+3,1
+2,1
+2,1
+3,0
+0,1
+0,2
+2,1
+1,1
+0,2
+3,1
+2,1
+0,2
+0,0
+3,2
+3,2
+1,2
+3,0
+2,0
+0,0
+0,1
+2,2
+3,1
+2,1
+3,1
+2,1
+2,1
+3,1
+2,1
+0,2
+2,1
+3,2
+3,3
+3,0
+1,2
+0,1
+1,2
+3,1
+0,1
+3,1
+3,1
+2,1
+2,0
+2,1
+2,0
+1,0
+3,1
+3,1
+3,1
+1,1
+2,0
+2,2
+3,0
+0,1
+1,2
+2,2
+0,0
+1,1
+1,1
+0,1
+2,0
+3,1
+2,1
+0,0
+3,0
+3,0
+1,0
+2,0
+0,1
+2,2
+2,1
+3,0
+1,1
+1,0
+2,0
+2,2
+2,0
+3,0
+2,0
+2,2
+1,2
+0,0
+1,2
+0,1
+3,0
+3,0
+3,0
+3,1
+0,2
+0,1
+0,0
+0,0
+3,0
+0,1
+1,1
+2,2
+2,2
+1,1
+2,1
+2,2
+0,1
+0,0
+2,0
+2,1
+3,2
+3,0
+2,1
+3,0
+0,1
+1,2
+0,0
+1,0
+3,1
+3,3
+2,1
+3,2
+1,3
+1,0
+2,2
+1,1
+0,0
+1,0
+1,1
+0,2
+2,1
+1,1
+0,0
+2,1
+1,1
+0,1
+0,1
+1,3
+2,1
+1,1
+2,1
+2,1
+2,1
+1,2
+1,2
+3,1
+2,0
+1,0
+3,0
+0,1
+1,1
+1,0
+3,0
+2,1
+3,1
+0,1
+2,2
+0,1
+3,1
+2,1
+0,0
+1,1
+0,0
+3,2
+3,1
+0,1
+3,1
+3,0
+0,1
+2,1
+0,1
+2,2
+0,0
+3,1
+3,2
+3,0
+3,0
+3,1
+0,0
+2,0
+2,1
+0,1
+0,1
+2,1
+1,2
+3,1
+3,1
+0,0
+0,1
+0,1
+2,0
+2,1
+0,1
+3,1
+1,2
+0,1
+1,1
+1,1
+1,0
+3,2
+3,2
+0,0
+1,2
+0,0
+0,3
+1,0
+2,1
+2,1
+1,1
+2,0
+3,1
+3,1
+2,2
+0,1
+3,2
+2,1
+1,1
+2,2
+0,1
+0,0
+3,0
+1,2
+2,1
+1,0
+0,1
+2,0
+2,1
+2,1
+2,2
+0,2
+2,0
+1,0
+0,2
+3,2
+1,2
+1,2
+2,1
+0,1
+3,0
+3,2
+2,3
+1,1
+2,1
+3,2
+3,0
+1,1
+3,1
+2,1
+1,0
+3,1
+3,1
+2,0
+3,2
+0,0
+3,1
+2,1
+1,0
+0,1
+1,0
+2,1
+3,0
+3,1
+2,1
+0,1
+3,2
+1,1
+3,1
+0,0
+3,2
+2,1
+1,0
+3,0
+3,1
+3,0
+0,0
+2,1
+3,1
+0,3
+3,2
+2,1
+3,1
+3,1
+0,1
+0,2
+2,0
+2,1
+2,1
+3,3
+0,2
+3,0
+2,1
+3,0
+0,1
+1,0
+2,1
+0,0
+3,0
+1,1
+0,1
+3,0
+1,1
+1,1
+1,1
+2,0
+3,2
+0,0
+2,1
+0,0
+0,1
+0,1
+0,2
+2,1
+3,0
+3,1
+3,0
+0,1
+0,3
+0,1
+2,0
+1,2
+1,0
+2,1
+3,1
+1,1
+0,1
+3,1
+2,2
+2,2
+0,0
+2,1
+2,0
+0,1
+0,0
+1,1
+3,0
+3,1
+0,1
+2,1
+3,2
+1,0
+3,0
+3,1
+2,3
+2,1
+1,2
+1,2
+1,1
+3,3
+1,0
+2,1
+1,0
+2,1
+3,1
+1,2
+3,1
+3,1
+3,2
+1,2
+3,0
+0,1
+3,2
+2,0
+3,2
+0,2
+1,1
+3,3
+3,2
+3,0
+3,0
+3,3
+3,3
+1,0
+3,1
+2,1
+0,1
+3,1
+3,1
+2,1
+3,1
+2,1
+3,0
+0,1
+0,1
+0,1
+2,2
+3,1
+3,0
+0,2
+0,2
+3,1
+3,1
+3,1
+0,1
+2,0
+1,1
+1,1
+0,1
+2,0
+1,1
+1,0
+3,2
+1,1
+2,1
+0,1
+1,2
+3,2
+1,1
+1,1
+2,2
+2,3
+1,1
+2,2
+2,2
+1,0
+0,1
+2,1
+1,2
+1,1
+1,0
+3,1
+1,2
+2,1
+1,0
+3,2
+0,0
+3,1
+2,1
+2,1
+1,1
+0,1
+3,2
+3,0
+1,0
+0,0
+0,0
+1,0
+0,0
+2,1
+0,2
+2,1
+2,1
+1,1
+1,1
+3,2
+3,0
+2,1
+3,1
+3,1
+2,1
+0,0
+3,1
+1,0
+3,1
+2,1
+3,0
+3,2
+0,2
+3,1
+1,0
+3,1
+1,0
+1,0
+3,1
+3,1
+1,2
+3,0
+1,0
+1,1
+2,2
+3,2
+2,2
+2,1
+1,0
+1,1
+2,1
+0,1
+2,3
+2,2
+3,0
+1,1
+1,1
+0,1
+2,2
+2,1
+0,1
+0,0
+1,0
+3,1
+1,0
+3,2
+3,0
+2,0
+0,1
+1,1
+2,0
+3,1
+2,1
+2,2
+1,1
+2,3
+3,0
+2,2
+0,2
+2,2
+1,0
+3,2
+2,2
+1,1
+1,3
+2,2
+3,1
+1,0
+3,1
+1,1
+0,2
+1,1
+0,1
+2,0
+2,1
+2,1
+1,1
+1,1
+0,2
+0,2
+2,2
+3,1
+3,1
+0,1
+2,1
+2,0
+2,1
+2,1
+1,2
+0,2
+0,2
+2,0
+1,1
+1,1
+3,0
+0,2
+1,2
+1,0
+3,2
+3,0
+2,0
+3,0
+0,2
+0,2
+0,2
+2,1
+2,1
+1,2
+3,1
+3,3
+0,0
+3,1
+2,1
+3,0
+2,1
+1,2
+0,2
+3,0
+3,2
+2,0
+2,2
+1,1
+3,0
+1,1
+2,0
+2,0
+3,0
+0,2
+3,1
+0,1
+0,0
+2,0
+1,1
+1,0
+3,0
+3,0
+3,2
+2,1
+1,1
+1,2
+3,3
+1,0
+1,2
+0,0
+2,0
+0,0
+1,1
+2,2
+3,1
+0,1
+2,1
+1,1
+2,1
+3,1
+2,2
+2,1
+3,1
+3,0
+1,0
+1,2
+1,1
+2,1
+2,1
+2,2
+2,2
+0,0
+1,0
+2,2
+2,0
+2,1
+3,1
+1,3
+1,3
+0,1
+2,0
+1,0
+1,1
+0,1
+3,1
+0,2
+3,1
+0,1
+1,1
+3,1
+3,1
+0,1
+1,2
+0,2
+0,1
+2,2
+3,3
+3,1
+2,1
+3,1
+3,1
+3,1
+2,1
+2,2
+1,2
+3,1
+3,1
+2,1
+3,3
+0,0
+3,1
+0,0
+1,0
+1,1
+3,2
+1,1
+2,1
+1,1
+2,1
+3,1
+1,1
+2,1
+1,0
+2,1
+2,1
+3,3
+3,1
+1,2
+3,1
+2,0
+2,0
+3,1
+3,0
+1,1
+3,2
+0,0
+0,0
+0,0
+2,3
+2,0
+3,1
+1,2
+0,1
+0,2
+2,1
+2,0
+2,0
+2,1
+0,0
+2,1
+3,1
+1,1
+1,2
+1,0
+3,0
+3,0
+0,0
+3,0
+0,3
+1,1
+0,1
+1,3
+0,0
+2,1
+3,1
+3,1
+2,0
+2,1
+3,1
+2,2
+3,2
+0,2
+3,0
+0,0
+3,3
+3,0
+3,1
+0,1
+0,2
+3,2
+2,2
+1,0
+2,1
+1,0
+3,0
+2,1
+0,1
+3,0
+1,1
+0,1
+2,1
+2,1
+0,1
+2,1
+3,0
+3,2
+0,2
+2,1
+1,0
+3,1
+3,1
+0,2
+3,1
+0,0
+0,1
+2,2
+2,3
+3,1
+1,1
+1,0
+2,1
+0,1
+0,2
+2,1
+1,2
+3,1
+2,0
+0,2
+2,1
+2,0
+0,0
+1,1
+2,2
+2,1
+2,1
+1,1
+0,0
+0,1
+0,1
+3,2
+3,1
+3,1
+1,2
+1,1
+0,0
+2,1
+3,1
+1,1
+3,1
+3,2
+1,0
+2,1
+3,1
+0,0
+1,3
+3,0
+0,0
+2,1
+3,3
+2,1
+1,0
+3,1
+3,1
+0,0
+0,0
+2,2
+3,1
+1,1
+3,2
+3,0
+2,1
+1,1
+3,0
+3,3
+2,0
+3,0
+3,1
+0,1
+2,1
+3,1
+3,1
+1,1
+3,0
+1,1
+1,0
+0,1
+1,2
+3,0
+2,0
+2,1
+1,0
+1,1
+1,2
+0,1
+2,2
+1,1
+0,2
+0,2
+0,0
+3,1
+0,2
+1,1
+2,1
+1,2
+2,0
+3,1
+0,2
+2,3
+1,0
+2,1
+2,1
+2,1
+3,1
+0,0
+2,1
+3,1
+1,0
+1,1
+1,1
+3,1
+2,0
+2,3
+3,1
+1,0
+2,0
+0,1
+1,1
+1,1
+2,1
+0,1
+0,1
+3,1
+2,1
+3,1
+0,1
+1,1
+1,2
+0,1
+1,0
+2,2
+0,2
+0,0
+2,2
+3,0
+3,0
+1,1
+3,0
+0,1
+2,0
+3,1
+2,0
+0,1
+2,1
+2,0
+0,1
+2,2
+1,3
+3,2
+0,0
+1,0
+3,3
+2,1
+3,0
+3,1
+2,2
+0,0
+1,1
+2,1
+3,2
+3,1
+2,2
+3,1
+2,0
+1,1
+2,0
+3,0
+3,1
+3,3
+1,0
+1,0
+1,0
+0,1
+3,0
+1,0
+1,1
+2,0
+0,0
+1,2
+3,0
+2,0
+3,1
+3,1
+1,2
+0,0
+0,1
+2,0
+1,1
+1,2
+3,2
+1,2
+0,1
+0,0
+0,2
+3,3
+2,1
+0,2
+3,2
+0,1
+1,1
+2,1
+3,0
+2,2
+1,0
+2,1
+1,2
+2,0
+2,1
+2,0
+2,1
+2,1
+0,2
+2,3
+0,0
+3,1
+0,3
+1,3
+1,2
+3,2
+3,2
+3,2
+2,1
+1,1
+3,1
+2,0
+2,0
+3,1
+3,1
+2,1
+3,1
+2,2
+3,1
+1,1
+3,1
+2,3
+0,0
+3,1
+3,1
+2,1
+0,1
+3,2
+3,2
+1,0
+3,0
+2,0
+2,1
+1,1
+3,2
+2,1
+1,1
+2,2
+2,1
+2,1
+0,1
+2,2
+2,2
+0,1
+1,1
+3,2
+3,1
+2,1
+2,1
+3,1
+1,1
+3,0
+3,1
+3,1
+2,2
+1,0
+2,1
+2,0
+0,0
+3,0
+0,0
+3,3
+1,1
+0,1
+3,1
+3,3
+1,1
+3,2
+2,3
+3,3
+3,1
+1,1
+2,2
+3,1
+0,2
+1,1
+3,0
+2,1
+0,0
+2,2
+2,1
+2,0
+0,2
+0,2
+2,0
+2,1
+3,1
+2,0
+3,0
+3,1
+0,2
+2,1
+2,1
+1,1
+1,1
+2,0
+0,0
+1,1
+1,2
+2,1
+0,1
+2,0
+3,0
+3,0
+0,1
+0,2
+0,2
+0,2
+3,1
+2,1
+2,0
+3,0
+3,0
+2,2
+2,1
+0,0
+1,2
+1,0
+1,1
+3,2
+2,0
+1,0
+2,0
+3,1
+3,1
+3,1
+3,3
+2,2
+3,2
+2,1
+1,2
+0,0
+1,1
+3,1
+2,2
+1,0
+1,0
+3,1
+1,0
+3,1
+1,1
+1,0
+1,1
+0,1
+0,0
+1,2
+1,1
+0,1
+3,1
+1,1
+3,3
+1,0
+2,0
+0,2
+2,1
+1,0
+1,3
+0,0
+3,1
+2,0
+1,0
+0,0
+0,0
+3,0
+3,1
+1,2
+2,0
+1,1
+2,0
+0,1
+3,1
+0,1
+2,1
+0,1
+1,0
+2,1
+3,2
+0,0
+0,0
+1,1
+2,1
+0,2
+0,1
+2,0
+3,1
+0,1
+2,1
+0,2
+1,2
+2,3
+1,1
+1,1
+2,1
+0,0
+0,0
+2,3
+0,2
+3,1
+2,1
+2,1
+2,1
+0,1
+0,0
+3,0
+2,1
+1,1
+3,1
+1,1
+0,1
+2,0
+3,2
+3,0
+0,1
+2,0
+1,1
+0,0
+1,0
+1,2
+0,0
+1,1
+0,0
+0,2
+0,0
+1,1
+1,1
+3,1
+3,0
+2,2
+3,1
+0,1
+0,0
+2,3
+1,0
+2,1
+3,1
+0,1
+3,2
+1,1
+2,0
+2,1
+1,0
+3,1
+2,2
+3,0
+3,1
+2,2
+0,2
+0,3
+3,0
+2,0
+0,1
+0,1
+3,2
+1,1
+0,0
+2,2
+0,1
+3,3
+1,3
+0,0
+1,1
+1,1
+3,2
+0,0
+3,0
+2,1
+0,1
+0,1
+0,0
+3,2
+3,1
+3,1
+0,0
+2,2
+1,0
+1,1
+1,0
+0,1
+3,1
+1,0
+3,0
+2,1
+1,1
+0,1
+2,2
+1,1
+1,1
+2,1
+2,1
+1,2
+0,3
+3,0
+1,1
+2,1
+2,2
+1,1
+2,2
+1,1
+3,0
+3,2
+0,1
+0,0
+2,0
+0,2
+3,2
+0,1
+3,1
+3,0
+2,0
+1,1
+3,3
+3,1
+1,2
+3,0
+0,1
+0,2
+0,1
+3,1
+3,1
+3,1
+1,1
+0,2
+2,2
+3,0
+1,1
+2,3
+0,1
+1,2
+0,2
+0,3
+2,1
+3,1
+1,1
+0,0
+2,0
+2,0
+3,0
+0,0
+3,1
+0,1
+1,1
+1,1
+1,2
+3,3
+1,1
+2,1
+0,1
+0,1
+3,2
+0,0
+0,1
+0,0
+3,1
+3,0
+3,1
+3,0
+2,1
+1,1
+3,1
+0,2
+3,1
+1,0
+1,1
+2,0
+1,2
+2,3
+2,1
+2,2
+1,1
+1,1
+2,1
+1,3
+3,1
+3,1
+0,2
+2,0
+0,1
+3,1
+3,1
+1,2
+2,0
+2,2
+1,1
+1,0
+1,1
+2,1
+3,1
+2,0
+1,2
+2,1
+1,2
+1,1
+0,0
+0,0
+1,1
+0,0
+2,1
+2,1
+2,0
+3,0
+3,2
+0,1
+3,2
+1,0
+3,0
+2,1
+3,3
+1,1
+1,1
+1,1
+3,2
+2,1
+2,1
+2,0
+0,1
+0,0
+0,1
+3,3
+3,0
+2,1
+1,0
+1,0
+1,1
+2,1
+2,2
+2,1
+1,0
+2,2
+2,1
+1,0
+1,1
+1,2
+3,1
+3,2
+3,1
+0,1
+0,2
+1,1
+0,0
+3,1
+1,2
+3,0
+3,1
+2,2
+2,0
+1,0
+2,0
+2,2
+2,1
+3,0
+2,0
+3,1
+0,1
+2,1
+1,0
+0,0
+2,0
+0,2
+3,0
+2,0
+3,0
+2,0
+1,0
+3,1
+1,1
+1,1
+3,0
+2,1
+3,0
+2,1
+1,1
+3,1
+3,1
+2,2
+1,1
+0,1
+2,2
+2,1
+0,1
+2,0
+2,2
+3,0
+3,1
+0,2
+3,1
+3,1
+1,0
+3,1
+3,1
+3,2
+1,0
+1,1
+3,0
+3,1
+3,2
+1,0
+1,1
+2,0
+1,1
+2,1
+1,1
+1,1
+3,3
+0,0
+1,1
+0,1
+1,0
+0,1
+3,0
+1,1
+1,2
+1,1
+1,3
+1,0
+1,2
+3,0
+0,3
+2,1
+3,1
+3,1
+0,2
+0,1
+0,3
+3,1
+2,2
+1,1
+1,1
+2,1
+2,0
+1,1
+3,3
+2,2
+0,0
+1,0
+0,0
+2,2
+0,0
+1,3
+3,1
+3,2
+1,1
+1,1
+3,1
+3,2
+2,1
+2,2
+3,1
+1,0
+3,2
+3,0
+1,2
+1,1
+2,1
+1,2
+3,0
+1,1
+2,2
+3,1
+3,3
+0,3
+3,0
+2,1
+0,0
+1,1
+2,1
+3,1
+2,1
+2,2
+1,1
+2,2
+0,0
+2,1
+1,2
+1,2
+2,1
+1,0
+2,0
+3,1
+1,1
+1,1
+2,0
+0,1
+1,2
+2,2
+3,0
+0,2
+2,1
+0,1
+0,0
+3,1
+0,0
+0,1
+3,1
+0,2
+2,1
+1,2
+3,1
+2,2
+0,2
+3,1
+0,0
+2,1
+0,1
+3,2
+2,0
+2,1
+2,0
+0,1
+3,1
+3,1
+1,1
+0,1
+2,0
+2,2
+0,2
+1,1
+1,1
+0,1
+1,1
+3,3
+3,0
+3,0
+1,0
+3,0
+3,0
+2,1
+1,1
+0,0
+3,1
+3,1
+1,1
+3,2
+2,1
+0,2
+3,3
+1,3
+3,1
+0,1
+3,1
+2,0
+1,2
+1,0
+0,2
+0,1
+3,0
+1,1
+2,1
+2,0
+0,1
+3,1
+2,1
+3,1
+3,0
+1,1
+0,1
+1,3
+0,2
+1,1
+0,2
+1,1
+1,0
+3,2
+1,0
+3,1
+3,1
+1,1
+0,1
+2,1
+0,0
+3,1
+3,1
+2,1
+0,1
+1,0
+1,2
+3,0
+3,2
+3,2
+3,2
+2,0
+1,0
+2,0
+0,1
+2,1
+0,2
+0,1
+3,1
+3,1
+3,0
+0,1
+3,2
+3,1
+3,3
+3,2
+3,0
+3,0
+3,2
+2,0
+1,1
+0,0
+3,1
+1,2
+3,1
+1,1
+0,1
+2,2
+0,2
+3,2
+1,0
+3,1
+1,2
+1,2
+3,0
+0,1
+1,2
+3,2
+2,1
+1,1
+0,1
+2,0
+2,0
+3,0
+2,0
+1,2
+3,1
+2,1
+1,1
+3,0
+3,0
+3,1
+3,1
+3,0
+1,3
+3,0
+3,1
+2,0
+3,1
+0,0
+2,2
+3,3
+1,0
+1,0
+3,1
+3,1
+2,1
+3,1
+3,0
+0,2
+1,0
+0,0
+0,1
+2,0
+3,2
+2,0
+2,2
+1,2
+2,1
+3,2
+0,1
+1,1
+3,1
+0,2
+1,1
+1,2
+3,1
+3,0
+2,1
+0,2
+3,0
+0,0
+0,2
+2,2
+0,1
+3,0
+0,1
+1,0
+2,2
+0,2
+1,3
+3,1
+0,0
+3,0
+3,3
+1,2
+0,2
+3,1
+0,0
+3,1
+1,0
+3,1
+3,0
+1,0
+1,1
+1,1
+0,0
+2,1
+2,1
+0,0
+0,1
+1,1
+3,1
+2,0
+0,0
+1,1
+0,1
+1,2
+2,1
+1,0
+1,0
+3,1
+1,2
+0,0
+3,0
+2,1
+2,1
+0,0
+2,1
+0,1
+1,0
+3,1
+3,1
+0,1
+0,2
+3,0
+0,2
+1,1
+1,0
+0,1
+1,0
+0,1
+2,1
+2,2
+3,3
+1,2
+0,0
+3,1
+1,2
+0,1
+2,0
+0,1
+3,1
+1,0
+3,1
+1,0
+2,2
+3,3
+0,1
+3,1
+3,1
+3,1
+3,1
+3,1
+2,1
+2,2
+0,0
+2,0
+2,1
+1,0
+1,2
+3,0
+2,2
+0,0
+2,2
+0,2
+3,1
+1,2
+1,2
+2,0
+1,1
+0,1
+3,1
+3,0
+2,0
+2,1
+0,2
+3,0
+2,1
+1,0
+0,1
+0,1
+2,0
+1,2
+2,0
+1,2
+0,0
+2,1
+2,1
+1,1
+1,1
+0,2
+2,2
+3,3
+3,1
+0,0
+1,1
+0,2
+0,1
+3,1
+0,0
+1,1
+2,1
+2,2
+3,3
+0,1
+3,1
+2,2
+0,1
+1,0
+0,1
+0,1
+3,0
+0,1
+0,1
+1,0
+2,1
+3,1
+3,1
+3,1
+1,1
+3,1
+1,0
+1,0
+3,1
+2,0
+1,2
+0,1
+0,2
+0,1
+2,1
+2,1
+1,0
+0,2
+0,0
+0,1
+1,1
+2,2
+0,1
+1,1
+2,0
+0,1
+2,1
+0,1
+2,1
+1,1
+1,1
+0,1
+3,2
+1,1
+0,1
+3,1
+2,1
+0,2
+1,1
+1,0
+2,0
+0,1
+3,1
+0,1
+2,0
+3,1
+0,1
+0,0
+2,0
+0,2
+2,2
+2,3
+1,2
+1,0
+0,1
+0,0
+1,1
+3,3
+2,1
+1,2
+3,3
+1,1
+2,1
+0,1
+3,0
+2,2
+0,2
+2,1
+3,1
+3,0
+2,0
+2,1
+0,0
+1,0
+1,1
+3,1
+3,1
+0,2
+3,1
+0,1
+1,1
+3,1
+1,1
+1,0
+1,2
+1,1
+3,1
+2,2
+1,1
+3,1
+1,0
+2,2
+3,0
+2,3
+3,3
+2,1
+3,1
+0,2
+2,1
+1,1
+1,2
+3,1
+2,1
+3,1
+0,1
+3,2
+2,1
+2,1
+3,3
+3,0
+3,0
+0,3
+1,0
+1,0
+3,1
+0,0
+1,0
+1,1
+2,0
+3,0
+2,1
+1,1
+2,2
+0,2
+2,1
+3,1
+2,0
+0,2
+0,1
+3,1
+1,1
+3,1
+2,0
+0,2
+2,1
+1,1
+3,1
+1,2
+2,1
+3,1
+3,1
+1,0
+1,0
+2,1
+3,1
+1,1
+1,1
+0,1
+2,1
+1,2
+0,1
+1,0
+2,0
+3,0
+1,1
+1,1
+0,0
+3,0
+3,2
+3,0
+0,2
+1,0
+2,1
+1,1
+1,0
+2,1
+3,1
+3,1
+2,1
+3,0
+2,1
+1,0
+3,2
+0,0
+1,1
+3,1
+0,2
+3,0
+3,1
+1,1
+3,1
+2,2
+0,2
+2,1
+2,1
+3,0
+2,2
+0,1
+3,1
+1,1
+3,0
+3,1
+3,1
+3,0
+2,2
+3,1
+3,3
+3,3
+3,1
+0,1
+1,1
+1,1
+2,2
+0,3
+3,1
+3,0
+1,2
+1,1
+0,2
+1,1
+2,1
+0,1
+3,0
+1,0
+2,1
+1,1
+3,0
+0,0
+3,1
+3,1
+0,2
+3,0
+1,1
+1,1
+0,1
+1,2
+0,0
+3,1
+3,0
+2,0
+0,1
+2,0
+0,3
+2,1
+1,0
+2,2
+2,0
+3,1
+2,0
+1,1
+3,2
+2,1
+3,0
+0,1
+2,0
+3,2
+1,1
+1,1
+3,1
+1,0
+0,0
+1,1
+3,3
+1,0
+3,2
+1,2
+2,0
+3,0
+0,0
+1,0
+3,2
+3,0
+3,0
+2,0
+1,1
+3,0
+3,3
+1,2
+2,2
+2,2
+2,1
+0,2
+2,1
+3,2
+0,1
+2,1
+3,1
+2,3
+2,1
+1,0
+1,0
+0,0
+1,2
+3,0
+2,0
+1,0
+1,0
+0,0
+1,0
+3,2
+3,2
+0,0
+2,0
+2,1
+3,1
+3,3
+1,2
+2,1
+2,1
+1,1
+1,3
+2,1
+0,2
+3,2
+1,0
+0,0
+1,1
+0,0
+0,1
+0,1
+3,2
+0,0
+3,0
+1,0
+3,0
+3,1
+0,1
+0,0
+2,1
+3,1
+2,1
+2,1
+0,0
+1,0
+1,1
+0,1
+2,1
+2,0
+2,1
+2,1
+3,2
+0,3
+3,0
+3,1
+3,1
+2,1
+1,1
+2,1
+1,1
+2,1
+0,0
+3,0
+3,1
+1,1
+1,0
+2,2
+1,1
+3,2
+3,0
+3,1
+3,1
+2,0
+3,2
+1,1
+2,2
+2,1
+1,1
+2,0
+1,2
+0,2
+1,1
+3,1
+2,0
+3,1
+1,1
+3,2
+2,1
+1,1
+2,2

mmlu_STEM/few_shot_0/google_gemma-2b/last_token_relative_depth_100/accuracy.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 343, "1": 206, "2": 226, "3": 92}, "net_accuracy": 0.28727634194831014}

mmlu_STEM/few_shot_0/google_gemma-2b/last_token_relative_depth_100/intrinsic/results.csv

@@ -0,0 +1,19 @@
+Layer,MLE,MLE_Corrected,TwoNN,Gride
+blocks.0.hook_mlp_out,8.020427703857422,6.18623161315918,7.548463344573975,6.680058479309082
+blocks.1.hook_mlp_out,13.768625259399414,9.52736759185791,10.392975807189941,10.87015438079834
+blocks.2.hook_mlp_out,13.592787742614746,9.658553123474121,10.969149589538574,10.92015552520752
+blocks.3.hook_mlp_out,14.609781265258789,10.305548667907715,11.078203201293945,11.870177268981934
+blocks.4.hook_mlp_out,13.821824073791504,10.075668334960938,11.210415840148926,11.640172004699707
+blocks.5.hook_mlp_out,13.970731735229492,10.185141563415527,11.771936416625977,11.78017520904541
+blocks.6.hook_mlp_out,15.21798038482666,10.959718704223633,12.441962242126465,13.16020679473877
+blocks.7.hook_mlp_out,14.273576736450195,10.613161087036133,12.227682113647461,12.750197410583496
+blocks.8.hook_mlp_out,14.418543815612793,10.611870765686035,12.042535781860352,12.620194435119629
+blocks.9.hook_mlp_out,14.495807647705078,10.727616310119629,12.398757934570312,12.930201530456543
+blocks.10.hook_mlp_out,14.744745254516602,10.905003547668457,12.370025634765625,12.980202674865723
+blocks.11.hook_mlp_out,14.23983097076416,10.628764152526855,12.163158416748047,12.430190086364746
+blocks.12.hook_mlp_out,16.198713302612305,11.516275405883789,11.266528129577637,14.480237007141113
+blocks.13.hook_mlp_out,15.604950904846191,11.274201393127441,10.443714141845703,14.250231742858887
+blocks.14.hook_mlp_out,16.43351936340332,11.615617752075195,11.319482803344727,14.770243644714355
+blocks.15.hook_mlp_out,20.185558319091797,13.358577728271484,12.205574035644531,17.35030174255371
+blocks.16.hook_mlp_out,18.536653518676758,12.613290786743164,11.08211898803711,17.220298767089844
+blocks.17.hook_mlp_out,15.284566879272461,10.881501197814941,10.159451484680176,13.840222358703613

mmlu_STEM/few_shot_0/google_gemma-2b/last_token_relative_depth_100/llm_hook_args.json

@@ -0,0 +1 @@
+{"device": "cuda", "model_id": "google/gemma-2b", "batch_size": 16, "dataset_name": "mmlu_STEM", "last_token": true, "question_structure": true, "relative_depth_of_sentence": 1.0, "store_activations": true, "random_seed": 42, "few_shot": 0}

mmlu_STEM/few_shot_0/google_gemma-2b/last_token_relative_depth_100/llm_intrinsic_args.json

@@ -0,0 +1 @@
+{"device": "cuda", "gride_k1": 20, "gride_k2": 40, "mle_k1": 12, "mle_k2": 24, "mle": true, "model_id": "google/gemma-2b", "dataset_name": "mmlu_STEM", "distance_metric": "euclidean", "batch_size": 16, "last_token": true, "relative_depth_of_sentence": 1.0, "few_shot": 0}

mmlu_STEM/few_shot_0/google_gemma-2b/last_token_relative_depth_100/metrics.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 343, "1": 206, "2": 226, "3": 92}, "net_accuracy": 0.28727634194831014, "Precision": 0.07182705718270571, "Recall": 0.042057982850142915, "F1_Score": 0.05305176409992273}

mmlu_STEM/few_shot_0/google_gemma-2b/last_token_relative_depth_100/predictions.csv

@@ -0,0 +1,3019 @@
+Labels,Predictions
+0,0
+0,0
+1,0
+1,2
+0,0
+0,1
+1,2
+2,2
+0,1
+0,0
+0,2
+3,2
+0,0
+2,0
+1,0
+1,0
+3,0
+0,0
+2,2
+3,3
+1,2
+1,2
+2,2
+3,0
+2,1
+2,0
+2,0
+2,2
+0,2
+2,0
+1,0
+2,2
+2,0
+0,0
+0,3
+2,0
+2,0
+2,3
+2,2
+2,1
+0,2
+2,2
+2,0
+1,0
+1,2
+2,1
+3,0
+1,0
+3,2
+3,0
+2,3
+2,2
+1,1
+2,2
+1,3
+1,2
+1,0
+2,0
+2,3
+1,0
+3,0
+2,3
+0,2
+3,0
+3,3
+2,0
+2,2
+3,0
+3,0
+2,0
+1,0
+2,0
+0,0
+3,3
+2,0
+2,1
+3,2
+2,2
+3,3
+0,2
+3,3
+0,0
+2,2
+3,0
+0,1
+3,2
+1,0
+3,2
+2,2
+3,2
+3,0
+1,0
+3,0
+2,2
+0,1
+2,0
+1,1
+0,3
+0,1
+2,0
+2,1
+1,1
+1,0
+1,0
+3,2
+0,0
+0,3
+1,3
+1,1
+2,3
+0,2
+2,1
+3,0
+1,1
+1,2
+2,2
+2,0
+3,0
+2,0
+3,0
+3,2
+3,0
+2,1
+1,0
+0,0
+2,0
+3,3
+0,0
+2,2
+0,0
+0,0
+0,3
+3,0
+2,2
+2,0
+2,0
+1,3
+2,2
+1,2
+3,2
+1,2
+0,0
+1,0
+2,2
+1,2
+0,0
+0,1
+1,0
+1,2
+3,0
+3,0
+2,1
+0,3
+1,0
+1,2
+1,0
+1,0
+1,0
+3,0
+0,0
+0,0
+3,0
+0,0
+2,0
+0,0
+3,0
+0,2
+2,0
+0,3
+1,0
+0,0
+1,0
+1,2
+3,2
+1,3
+0,2
+2,0
+2,1
+0,1
+1,1
+2,2
+3,0
+2,3
+0,1
+1,0
+0,2
+2,0
+3,2
+3,2
+1,1
+2,0
+2,0
+1,0
+0,0
+3,0
+3,1
+0,2
+1,0
+0,0
+2,1
+3,0
+3,0
+3,1
+2,0
+0,0
+2,0
+0,0
+1,1
+1,0
+3,2
+3,0
+2,0
+2,2
+2,0
+3,2
+2,2
+0,2
+1,0
+3,0
+2,2
+1,0
+0,0
+3,0
+0,1
+0,0
+3,0
+0,2
+2,2
+3,3
+3,0
+1,1
+0,0
+0,2
+3,2
+0,2
+1,1
+0,0
+3,2
+0,0
+3,2
+1,0
+1,1
+3,0
+1,0
+1,3
+3,0
+1,1
+1,0
+2,0
+3,2
+3,0
+3,1
+1,3
+0,3
+0,2
+1,0
+2,2
+2,0
+0,2
+0,0
+2,0
+3,1
+3,0
+0,0
+2,2
+3,2
+0,1
+0,2
+1,2
+2,2
+3,2
+3,0
+1,3
+3,0
+3,3
+0,2
+3,0
+2,0
+1,0
+3,3
+0,1
+3,2
+1,2
+2,3
+2,3
+1,0
+0,0
+3,0
+3,2
+2,2
+3,0
+3,3
+3,3
+3,3
+1,1
+2,2
+3,2
+1,0
+0,2
+3,3
+1,0
+1,0
+0,2
+2,0
+2,0
+1,3
+1,1
+0,2
+3,1
+3,0
+2,3
+3,0
+2,0
+2,0
+2,0
+3,2
+0,0
+2,0
+3,0
+1,0
+1,1
+2,2
+1,2
+2,2
+1,3
+3,2
+1,0
+1,0
+3,3
+1,3
+0,0
+3,0
+3,0
+1,0
+2,0
+2,0
+0,2
+2,3
+0,1
+0,3
+1,0
+2,2
+0,2
+0,0
+1,1
+2,2
+2,2
+1,0
+3,1
+3,3
+0,0
+2,1
+1,0
+1,0
+3,0
+3,0
+3,0
+0,0
+2,0
+3,2
+1,1
+0,2
+3,0
+1,0
+3,1
+3,1
+3,1
+1,0
+3,1
+1,1
+3,0
+1,0
+2,2
+2,2
+3,2
+2,3
+3,2
+3,3
+2,0
+2,3
+0,0
+3,1
+1,1
+3,3
+0,2
+0,2
+3,2
+3,2
+0,2
+3,0
+2,2
+2,3
+0,0
+1,1
+3,2
+2,0
+2,0
+3,2
+0,2
+0,0
+1,2
+1,0
+2,1
+1,0
+3,2
+0,2
+2,1
+1,1
+3,0
+2,0
+1,1
+2,0
+2,2
+3,0
+1,2
+3,0
+2,0
+2,0
+3,0
+0,0
+3,1
+2,0
+3,0
+0,0
+3,2
+1,2
+2,0
+2,0
+3,2
+3,2
+3,0
+2,0
+3,0
+1,0
+1,2
+3,0
+0,0
+2,3
+0,1
+3,0
+3,0
+2,2
+2,2
+0,0
+3,0
+2,0
+1,1
+3,0
+0,3
+3,2
+3,0
+3,1
+1,3
+2,1
+0,2
+3,0
+2,2
+3,3
+3,0
+0,1
+0,2
+2,3
+2,3
+3,1
+3,0
+2,0
+3,0
+2,2
+3,0
+0,0
+3,1
+0,2
+3,2
+2,2
+1,0
+0,0
+1,0
+0,0
+1,0
+3,3
+2,1
+3,1
+3,0
+0,0
+1,0
+3,1
+0,0
+2,2
+1,1
+1,1
+1,2
+3,1
+2,1
+1,1
+2,0
+0,3
+1,0
+2,0
+1,0
+1,2
+1,0
+1,0
+3,0
+2,0
+3,0
+3,2
+2,3
+3,0
+0,3
+2,0
+0,1
+3,2
+0,0
+1,0
+3,1
+0,1
+0,1
+2,1
+1,0
+0,1
+2,0
+3,3
+1,0
+0,0
+1,2
+3,2
+2,0
+1,2
+0,0
+1,1
+1,2
+2,0
+3,0
+3,0
+3,0
+2,0
+2,0
+1,0
+3,1
+3,2
+1,2
+2,2
+3,2
+2,1
+3,0
+3,0
+0,1
+2,0
+2,0
+1,3
+1,3
+1,0
+2,0
+0,1
+3,0
+1,0
+1,1
+1,1
+0,2
+3,0
+3,2
+2,1
+0,1
+3,0
+2,0
+0,0
+2,0
+1,0
+2,3
+3,0
+0,0
+2,1
+2,2
+0,2
+1,0
+0,2
+1,1
+2,1
+2,2
+3,2
+3,0
+3,3
+2,1
+3,1
+3,0
+0,0
+2,2
+3,1
+0,0
+0,3
+0,2
+1,1
+3,2
+0,0
+1,2
+2,0
+3,0
+2,2
+0,0
+1,3
+2,2
+3,1
+1,1
+3,0
+1,1
+0,0
+3,2
+3,1
+2,1
+3,2
+3,2
+2,1
+3,3
+1,2
+3,0
+2,1
+2,2
+2,2
+1,2
+3,0
+3,3
+3,3
+2,0
+3,0
+3,2
+3,0
+1,1
+2,1
+1,2
+2,2
+2,3
+1,0
+1,1
+3,0
+1,2
+1,3
+3,1
+1,1
+2,0
+0,3
+1,0
+2,2
+0,0
+2,2
+3,0
+0,2
+0,1
+2,0
+0,2
+2,0
+1,2
+2,2
+2,0
+3,0
+1,1
+2,0
+3,0
+3,1
+3,2
+2,0
+2,2
+1,2
+1,0
+0,0
+3,2
+1,0
+3,0
+0,0
+3,0
+1,0
+2,1
+2,0
+2,0
+2,0
+2,0
+1,2
+2,1
+3,0
+2,0
+0,0
+0,0
+1,0
+2,0
+3,0
+3,1
+1,1
+0,0
+1,0
+3,3
+0,0
+3,0
+1,0
+1,3
+0,0
+1,0
+1,0
+3,2
+0,0
+1,0
+0,3
+0,0
+2,0
+2,0
+3,1
+2,0
+2,3
+3,2
+3,2
+3,2
+2,0
+3,1
+2,0
+3,0
+0,0
+2,0
+3,0
+1,0
+0,1
+0,0
+2,2
+1,2
+0,0
+2,2
+1,0
+3,3
+3,1
+2,1
+0,3
+0,2
+3,0
+2,1
+3,0
+2,0
+3,2
+1,1
+1,0
+3,2
+0,0
+1,0
+1,1
+1,2
+0,0
+2,2
+2,0
+2,2
+1,0
+0,0
+3,0
+2,2
+3,2
+2,3
+0,0
+0,0
+0,0
+0,2
+2,0
+2,0
+3,0
+3,0
+3,2
+2,2
+0,2
+3,0
+1,0
+0,2
+0,0
+2,0
+2,3
+0,3
+0,0
+1,0
+2,2
+1,0
+2,1
+1,2
+1,1
+1,0
+1,1
+0,0
+2,0
+3,3
+0,1
+0,0
+3,0
+3,0
+3,2
+0,0
+3,0
+1,1
+0,3
+2,1
+2,0
+3,0
+2,2
+2,1
+3,0
+0,3
+0,0
+2,0
+1,0
+0,2
+3,0
+2,0
+0,2
+0,0
+3,2
+3,2
+1,2
+3,0
+2,0
+0,0
+0,1
+2,0
+3,1
+2,0
+3,0
+2,2
+2,3
+3,2
+2,0
+0,2
+2,2
+3,0
+3,2
+3,0
+1,0
+0,0
+1,0
+3,2
+0,1
+3,0
+3,0
+2,3
+2,2
+2,1
+2,2
+1,2
+3,0
+3,1
+3,0
+1,0
+2,2
+2,2
+3,0
+0,0
+1,2
+2,0
+0,2
+1,2
+1,1
+0,0
+2,0
+3,0
+2,2
+0,3
+3,0
+3,0
+1,0
+2,0
+0,0
+2,2
+2,0
+3,0
+1,2
+1,1
+2,2
+2,0
+2,3
+3,0
+2,0
+2,2
+1,2
+0,0
+1,2
+0,1
+3,0
+3,0
+3,3
+3,3
+0,0
+0,0
+0,1
+0,0
+3,3
+0,1
+1,0
+2,2
+2,1
+1,0
+2,1
+2,1
+0,3
+0,0
+2,1
+2,0
+3,1
+3,3
+2,0
+3,0
+0,1
+1,0
+0,2
+1,3
+3,2
+3,0
+2,1
+3,2
+1,2
+1,0
+2,2
+1,0
+0,0
+1,0
+1,0
+0,2
+2,1
+1,2
+0,2
+2,1
+1,2
+0,3
+0,2
+1,0
+2,2
+1,0
+2,0
+2,0
+2,1
+1,0
+1,1
+3,1
+2,2
+1,1
+3,3
+0,2
+1,1
+1,0
+3,3
+2,2
+3,0
+0,2
+2,0
+0,2
+3,0
+2,2
+0,1
+1,1
+0,1
+3,0
+3,0
+0,2
+3,1
+3,0
+0,0
+2,1
+0,2
+2,2
+0,0
+3,0
+3,2
+3,0
+3,0
+3,0
+0,0
+2,2
+2,2
+0,2
+0,0
+2,2
+1,0
+3,1
+3,3
+0,3
+0,2
+0,0
+2,2
+2,2
+0,2
+3,3
+1,3
+0,1
+1,1
+1,0
+1,0
+3,2
+3,2
+0,0
+1,2
+0,0
+0,0
+1,0
+2,0
+2,0
+1,1
+2,0
+3,0
+3,2
+2,1
+0,0
+3,2
+2,0
+1,0
+2,0
+0,0
+0,0
+3,1
+1,1
+2,2
+1,0
+0,0
+2,0
+2,3
+2,0
+2,2
+0,2
+2,0
+1,2
+0,3
+3,0
+1,0
+1,2
+2,0
+0,0
+3,1
+3,0
+2,2
+1,0
+2,0
+3,0
+3,0
+1,2
+3,2
+2,0
+1,0
+3,0
+3,3
+2,2
+3,0
+0,0
+3,2
+2,2
+1,0
+0,0
+1,0
+2,2
+3,0
+3,0
+2,0
+0,2
+3,2
+1,1
+3,1
+0,0
+3,3
+2,0
+1,0
+3,0
+3,3
+3,2
+0,0
+2,2
+3,3
+0,2
+3,2
+2,0
+3,0
+3,0
+0,2
+0,3
+2,0
+2,2
+2,2
+3,0
+0,0
+3,0
+2,0
+3,0
+0,2
+1,0
+2,2
+0,1
+3,0
+1,2
+0,0
+3,0
+1,0
+1,1
+1,2
+2,0
+3,2
+0,2
+2,0
+0,0
+0,0
+0,0
+0,1
+2,2
+3,2
+3,2
+3,0
+0,0
+0,0
+0,0
+2,2
+1,3
+1,3
+2,0
+3,2
+1,2
+0,0
+3,2
+2,1
+2,3
+0,0
+2,2
+2,0
+0,2
+0,0
+1,2
+3,1
+3,1
+0,0
+2,2
+3,1
+1,1
+3,0
+3,0
+2,1
+2,1
+1,1
+1,2
+1,0
+3,0
+1,1
+2,2
+1,1
+2,1
+3,0
+1,0
+3,2
+3,3
+3,2
+1,2
+3,3
+0,0
+3,1
+2,2
+3,3
+0,0
+1,1
+3,0
+3,2
+3,0
+3,2
+3,1
+3,0
+1,1
+3,3
+2,0
+0,3
+3,0
+3,1
+2,2
+3,0
+2,0
+3,0
+0,3
+0,1
+0,3
+2,3
+3,0
+3,0
+0,0
+0,0
+3,1
+3,0
+3,0
+0,0
+2,0
+1,1
+1,0
+0,1
+2,3
+1,0
+1,1
+3,2
+1,2
+2,0
+0,0
+1,0
+3,1
+1,3
+1,2
+2,0
+2,0
+1,2
+2,0
+2,0
+1,2
+0,0
+2,0
+1,0
+1,2
+1,2
+3,3
+1,2
+2,0
+1,0
+3,2
+0,2
+3,1
+2,2
+2,1
+1,1
+0,1
+3,0
+3,2
+1,0
+0,2
+0,1
+1,0
+0,1
+2,0
+0,2
+2,0
+2,3
+1,1
+1,1
+3,2
+3,0
+2,2
+3,0
+3,0
+2,0
+0,0
+3,0
+1,2
+3,2
+2,0
+3,0
+3,1
+0,0
+3,2
+1,0
+3,3
+1,1
+1,0
+3,2
+3,1
+1,1
+3,1
+1,0
+1,2
+2,2
+3,1
+2,1
+2,1
+1,0
+1,0
+2,1
+0,0
+2,2
+2,2
+3,0
+1,2
+1,1
+0,2
+2,0
+2,0
+0,2
+0,0
+1,3
+3,0
+1,0
+3,0
+3,2
+2,3
+0,1
+1,1
+2,0
+3,2
+2,1
+2,2
+1,1
+2,0
+3,3
+2,2
+0,0
+2,3
+1,1
+3,2
+2,0
+1,3
+1,0
+2,0
+3,2
+1,0
+3,0
+1,1
+0,2
+1,0
+0,0
+2,0
+2,2
+2,1
+1,1
+1,0
+0,2
+0,2
+2,3
+3,1
+3,2
+0,0
+2,0
+2,0
+2,2
+2,0
+1,2
+0,3
+0,0
+2,0
+1,0
+1,2
+3,0
+0,1
+1,2
+1,1
+3,2
+3,2
+2,0
+3,3
+0,2
+0,0
+0,2
+2,0
+2,0
+1,3
+3,1
+3,0
+0,0
+3,3
+2,1
+3,0
+2,2
+1,2
+0,0
+3,0
+3,0
+2,3
+2,1
+1,1
+3,0
+1,1
+2,0
+2,0
+3,1
+0,2
+3,0
+0,2
+0,3
+2,2
+1,3
+1,0
+3,0
+3,2
+3,3
+2,2
+1,3
+1,0
+3,0
+1,1
+1,0
+0,1
+2,1
+0,1
+1,0
+2,3
+3,0
+0,2
+2,0
+1,1
+2,0
+3,3
+2,0
+2,0
+3,2
+3,0
+1,0
+1,2
+1,3
+2,2
+2,1
+2,1
+2,0
+0,0
+1,2
+2,2
+2,0
+2,2
+3,0
+1,1
+1,0
+0,0
+2,1
+1,1
+1,1
+0,0
+3,0
+0,0
+3,0
+0,2
+1,1
+3,2
+3,0
+0,0
+1,3
+0,2
+0,0
+2,1
+3,2
+3,1
+2,0
+3,2
+3,1
+3,1
+2,1
+2,2
+1,0
+3,0
+3,2
+2,1
+3,2
+0,2
+3,3
+0,0
+1,3
+1,1
+3,0
+1,0
+2,1
+1,0
+2,2
+3,1
+1,0
+2,2
+1,0
+2,0
+2,0
+3,0
+3,2
+1,1
+3,2
+2,0
+2,2
+3,1
+3,0
+1,1
+3,0
+0,0
+0,2
+0,0
+2,0
+2,0
+3,0
+1,0
+0,0
+0,2
+2,2
+2,0
+2,0
+2,3
+0,0
+2,0
+3,1
+1,2
+1,3
+1,1
+3,0
+3,0
+0,0
+3,0
+0,2
+1,1
+0,0
+1,1
+0,2
+2,2
+3,2
+3,2
+2,0
+2,2
+3,2
+2,2
+3,0
+0,0
+3,1
+0,0
+3,0
+3,0
+3,1
+0,2
+0,3
+3,2
+2,2
+1,1
+2,0
+1,1
+3,0
+2,2
+0,1
+3,1
+1,1
+0,0
+2,0
+2,1
+0,0
+2,2
+3,0
+3,2
+0,0
+2,2
+1,1
+3,2
+3,2
+0,2
+3,1
+0,0
+0,2
+2,0
+2,2
+3,0
+1,0
+1,1
+2,0
+0,0
+0,0
+2,0
+1,0
+3,0
+2,2
+0,3
+2,0
+2,0
+0,1
+1,1
+2,2
+2,0
+2,2
+1,0
+0,0
+0,3
+0,0
+3,2
+3,2
+3,2
+1,1
+1,2
+0,0
+2,2
+3,0
+1,0
+3,0
+3,0
+1,0
+2,2
+3,1
+0,1
+1,3
+3,0
+0,1
+2,3
+3,2
+2,2
+1,0
+3,0
+3,0
+0,0
+0,1
+2,2
+3,3
+1,1
+3,1
+3,0
+2,1
+1,3
+3,2
+3,3
+2,1
+3,0
+3,0
+0,1
+2,3
+3,0
+3,3
+1,1
+3,0
+1,0
+1,0
+0,0
+1,0
+3,3
+2,0
+2,2
+1,1
+1,2
+1,0
+0,0
+2,1
+1,0
+0,2
+0,3
+0,3
+3,1
+0,0
+1,2
+2,0
+1,0
+2,0
+3,1
+0,0
+2,3
+1,0
+2,3
+2,1
+2,3
+3,3
+0,0
+2,1
+3,0
+1,0
+1,2
+1,1
+3,2
+2,3
+2,1
+3,1
+1,2
+2,0
+0,1
+1,2
+1,1
+2,0
+0,0
+0,0
+3,0
+2,2
+3,1
+0,1
+1,2
+1,2
+0,0
+1,1
+2,2
+0,3
+0,0
+2,3
+3,0
+3,3
+1,1
+3,0
+0,2
+2,2
+3,3
+2,3
+0,2
+2,0
+2,2
+0,0
+2,1
+1,1
+3,0
+0,0
+1,3
+3,1
+2,2
+3,0
+3,1
+2,0
+0,0
+1,0
+2,0
+3,2
+3,0
+2,1
+3,1
+2,3
+1,1
+2,0
+3,0
+3,2
+3,0
+1,1
+1,0
+1,1
+0,0
+3,0
+1,1
+1,2
+2,0
+0,0
+1,0
+3,0
+2,0
+3,0
+3,0
+1,1
+0,2
+0,2
+2,0
+1,1
+1,1
+3,0
+1,1
+0,2
+0,2
+0,0
+3,2
+2,0
+0,0
+3,0
+0,1
+1,0
+2,1
+3,1
+2,1
+1,1
+2,2
+1,2
+2,0
+2,2
+2,0
+2,1
+2,0
+0,1
+2,2
+0,0
+3,0
+0,2
+1,1
+1,0
+3,2
+3,2
+3,1
+2,0
+1,0
+3,3
+2,0
+2,2
+3,1
+3,0
+2,2
+3,0
+2,0
+3,0
+1,0
+3,1
+2,0
+0,1
+3,2
+3,0
+2,1
+0,0
+3,0
+3,2
+1,1
+3,0
+2,1
+2,0
+1,0
+3,0
+2,2
+1,1
+2,2
+2,2
+2,3
+0,0
+2,2
+2,2
+0,1
+1,3
+3,0
+3,2
+2,2
+2,1
+3,2
+1,0
+3,0
+3,1
+3,3
+2,2
+1,0
+2,1
+2,0
+0,0
+3,3
+0,2
+3,2
+1,0
+0,0
+3,0
+3,2
+1,1
+3,3
+2,0
+3,0
+3,1
+1,0
+2,0
+3,1
+0,2
+1,3
+3,1
+2,3
+0,0
+2,0
+2,3
+2,0
+0,1
+0,1
+2,0
+2,0
+3,0
+2,0
+3,1
+3,1
+0,1
+2,2
+2,0
+1,0
+1,2
+2,0
+0,0
+1,2
+1,0
+2,2
+0,0
+2,0
+3,0
+3,0
+0,0
+0,0
+0,0
+0,1
+3,0
+2,2
+2,1
+3,0
+3,2
+2,2
+2,1
+0,1
+1,1
+1,0
+1,0
+3,0
+2,2
+1,1
+2,0
+3,3
+3,0
+3,0
+3,2
+2,0
+3,2
+2,0
+1,2
+0,0
+1,2
+3,0
+2,2
+1,0
+1,0
+3,0
+1,1
+3,0
+1,0
+1,0
+1,0
+0,2
+0,0
+1,2
+1,1
+0,0
+3,1
+1,2
+3,2
+1,0
+2,2
+0,2
+2,3
+1,1
+1,0
+0,0
+3,1
+2,2
+1,0
+0,0
+0,0
+3,0
+3,2
+1,2
+2,2
+1,1
+2,0
+0,1
+3,1
+0,0
+2,1
+0,2
+1,3
+2,1
+3,1
+0,0
+0,0
+1,3
+2,0
+0,0
+0,0
+2,0
+3,1
+0,0
+2,2
+0,0
+1,2
+2,0
+1,1
+1,0
+2,0
+0,0
+0,2
+2,2
+0,0
+3,0
+2,3
+2,3
+2,2
+0,2
+0,0
+3,0
+2,0
+1,2
+3,2
+1,0
+0,2
+2,0
+3,0
+3,0
+0,0
+2,1
+1,0
+0,0
+1,3
+1,2
+0,0
+1,0
+0,0
+0,3
+0,0
+1,2
+1,2
+3,2
+3,0
+2,0
+3,2
+0,2
+0,0
+2,0
+1,1
+2,0
+3,3
+0,0
+3,3
+1,2
+2,2
+2,1
+1,0
+3,0
+2,2
+3,2
+3,1
+2,0
+0,1
+0,0
+3,0
+2,0
+0,2
+0,2
+3,3
+1,0
+0,1
+2,2
+0,0
+3,2
+1,0
+0,0
+1,0
+1,0
+3,2
+0,1
+3,1
+2,0
+0,0
+0,0
+0,0
+3,0
+3,0
+3,1
+0,0
+2,1
+1,0
+1,2
+1,0
+0,2
+3,0
+1,0
+3,0
+2,3
+1,2
+0,0
+2,3
+1,2
+1,1
+2,1
+2,0
+1,2
+0,2
+3,0
+1,0
+2,0
+2,3
+1,0
+2,1
+1,1
+3,0
+3,0
+0,0
+0,0
+2,0
+0,2
+3,0
+0,2
+3,2
+3,2
+2,0
+1,0
+3,2
+3,0
+1,0
+3,0
+0,0
+0,0
+0,0
+3,1
+3,0
+3,0
+1,0
+0,1
+2,0
+3,0
+1,1
+2,0
+0,0
+1,2
+0,2
+0,2
+2,2
+3,2
+1,0
+0,1
+2,0
+2,0
+3,1
+0,0
+3,2
+0,3
+1,1
+1,0
+1,1
+3,0
+1,2
+2,2
+0,1
+0,1
+3,2
+0,0
+0,0
+0,0
+3,2
+3,0
+3,2
+3,0
+2,1
+1,2
+3,3
+0,1
+3,1
+1,0
+1,2
+2,2
+1,2
+2,0
+2,0
+2,0
+1,2
+1,2
+2,1
+1,0
+3,0
+3,3
+0,0
+2,0
+0,1
+3,0
+3,2
+1,0
+2,0
+2,3
+1,1
+1,0
+1,0
+2,1
+3,2
+2,0
+1,2
+2,0
+1,2
+1,2
+0,0
+0,0
+1,3
+0,0
+2,0
+2,1
+2,2
+3,3
+3,0
+0,0
+3,0
+1,0
+3,0
+2,2
+3,1
+1,0
+1,1
+1,1
+3,1
+2,2
+2,0
+2,0
+0,0
+0,0
+0,0
+3,2
+3,0
+2,1
+1,0
+1,1
+1,1
+2,1
+2,1
+2,1
+1,0
+2,0
+2,1
+1,2
+1,1
+1,1
+3,0
+3,0
+3,1
+0,2
+0,2
+1,2
+0,0
+3,0
+1,0
+3,0
+3,0
+2,3
+2,0
+1,0
+2,0
+2,0
+2,0
+3,2
+2,1
+3,0
+0,1
+2,0
+1,0
+0,0
+2,0
+0,0
+3,0
+2,2
+3,0
+2,0
+1,0
+3,0
+1,1
+1,1
+3,0
+2,0
+3,0
+2,2
+1,3
+3,0
+3,1
+2,2
+1,3
+0,1
+2,0
+2,0
+0,3
+2,0
+2,2
+3,2
+3,0
+0,3
+3,0
+3,3
+1,0
+3,2
+3,0
+3,2
+1,0
+1,2
+3,1
+3,2
+3,0
+1,0
+1,2
+2,0
+1,2
+2,2
+1,2
+1,2
+3,1
+0,0
+1,0
+0,2
+1,1
+0,2
+3,0
+1,1
+1,2
+1,0
+1,1
+1,1
+1,1
+3,0
+0,1
+2,2
+3,3
+3,0
+0,1
+0,0
+0,0
+3,3
+2,2
+1,1
+1,0
+2,2
+2,0
+1,1
+3,2
+2,0
+0,0
+1,0
+0,0
+2,2
+0,3
+1,0
+3,2
+3,2
+1,0
+1,2
+3,2
+3,0
+2,2
+2,1
+3,0
+1,0
+3,0
+3,0
+1,0
+1,0
+2,0
+1,3
+3,0
+1,1
+2,0
+3,2
+3,1
+0,2
+3,0
+2,2
+0,1
+1,0
+2,2
+3,2
+2,2
+2,1
+1,1
+2,1
+0,0
+2,1
+1,3
+1,1
+2,0
+1,2
+2,3
+3,0
+1,0
+1,2
+2,2
+0,2
+1,3
+2,2
+3,0
+0,2
+2,0
+0,0
+0,0
+3,0
+0,0
+0,0
+3,1
+0,2
+2,2
+1,1
+3,2
+2,0
+0,3
+3,0
+0,0
+2,2
+0,0
+3,1
+2,0
+2,0
+2,3
+0,0
+3,2
+3,0
+1,0
+0,0
+2,2
+2,3
+0,2
+1,0
+1,0
+0,0
+1,1
+3,2
+3,3
+3,0
+1,1
+3,0
+3,2
+2,0
+1,1
+0,0
+3,2
+3,1
+1,2
+3,0
+2,0
+0,1
+3,3
+1,0
+3,0
+0,0
+3,0
+2,0
+1,2
+1,1
+0,0
+0,0
+3,2
+1,1
+2,2
+2,0
+0,1
+3,2
+2,0
+3,0
+3,1
+1,0
+0,1
+1,0
+0,2
+1,0
+0,0
+1,1
+1,0
+3,3
+1,0
+3,1
+3,0
+1,0
+0,0
+2,0
+0,0
+3,0
+3,2
+2,3
+0,0
+1,0
+1,1
+3,0
+3,0
+3,3
+3,1
+2,0
+1,0
+2,0
+0,1
+2,0
+0,0
+0,3
+3,0
+3,0
+3,0
+0,0
+3,2
+3,2
+3,0
+3,0
+3,0
+3,3
+3,0
+2,1
+1,2
+0,1
+3,1
+1,3
+3,0
+1,0
+0,0
+2,0
+0,0
+3,0
+1,0
+3,0
+1,2
+1,1
+3,2
+0,2
+1,0
+3,0
+2,0
+1,2
+0,2
+2,0
+2,0
+3,2
+2,1
+1,0
+3,2
+2,2
+1,0
+3,0
+3,0
+3,0
+3,2
+3,0
+1,0
+3,0
+3,0
+2,1
+3,0
+0,2
+2,1
+3,0
+1,1
+1,1
+3,0
+3,2
+2,2
+3,2
+3,2
+0,2
+1,1
+0,0
+0,0
+2,3
+3,2
+2,0
+2,2
+1,1
+2,2
+3,1
+0,2
+1,1
+3,0
+0,0
+1,0
+1,1
+3,2
+3,0
+2,0
+0,0
+3,2
+0,0
+0,3
+2,2
+0,0
+3,1
+0,1
+1,0
+2,2
+0,2
+1,1
+3,1
+0,0
+3,1
+3,3
+1,0
+0,3
+3,0
+0,0
+3,0
+1,1
+3,3
+3,0
+1,1
+1,1
+1,0
+0,2
+2,0
+2,0
+0,1
+0,0
+1,0
+3,0
+2,0
+0,1
+1,2
+0,0
+1,0
+2,0
+1,1
+1,0
+3,0
+1,0
+0,0
+3,2
+2,1
+2,0
+0,1
+2,1
+0,2
+1,0
+3,0
+3,2
+0,0
+0,2
+3,1
+0,2
+1,0
+1,0
+0,0
+1,1
+0,0
+2,1
+2,0
+3,0
+1,3
+0,0
+3,0
+1,2
+0,2
+2,0
+0,1
+3,1
+1,0
+3,0
+1,1
+2,0
+3,0
+0,0
+3,2
+3,2
+3,0
+3,3
+3,2
+2,2
+2,0
+0,0
+2,0
+2,0
+1,1
+1,3
+3,0
+2,2
+0,2
+2,2
+0,3
+3,0
+1,2
+1,1
+2,0
+1,2
+0,0
+3,0
+3,0
+2,0
+2,2
+0,0
+3,0
+2,1
+1,0
+0,1
+0,0
+2,0
+1,3
+2,1
+1,2
+0,3
+2,0
+2,0
+1,0
+1,2
+0,0
+2,2
+3,0
+3,3
+0,0
+1,1
+0,0
+0,0
+3,2
+0,0
+1,0
+2,0
+2,2
+3,0
+0,1
+3,1
+2,1
+0,0
+1,0
+0,0
+0,1
+3,0
+0,0
+0,0
+1,0
+2,0
+3,3
+3,2
+3,2
+1,2
+3,0
+1,0
+1,1
+3,2
+2,0
+1,0
+0,2
+0,0
+0,0
+2,2
+2,2
+1,0
+0,0
+0,0
+0,0
+1,2
+2,0
+0,0
+1,0
+2,0
+0,0
+2,1
+0,2
+2,0
+1,1
+1,2
+0,1
+3,0
+1,2
+0,0
+3,1
+2,0
+0,2
+1,2
+1,1
+2,0
+0,0
+3,0
+0,1
+2,3
+3,1
+0,2
+0,0
+2,0
+0,0
+2,2
+2,0
+1,0
+1,0
+0,0
+0,0
+1,1
+3,2
+2,2
+1,0
+3,0
+1,3
+2,0
+0,1
+3,1
+2,1
+0,0
+2,1
+3,0
+3,3
+2,0
+2,1
+0,0
+1,0
+1,1
+3,1
+3,3
+0,2
+3,2
+0,0
+1,1
+3,2
+1,0
+1,1
+1,3
+1,1
+3,0
+2,0
+1,3
+3,2
+1,3
+2,2
+3,0
+2,3
+3,2
+2,2
+3,0
+0,2
+2,2
+1,0
+1,2
+3,0
+2,2
+3,0
+0,0
+3,1
+2,1
+2,0
+3,0
+3,0
+3,0
+0,3
+1,0
+1,0
+3,1
+0,3
+1,1
+1,1
+2,0
+3,0
+2,0
+1,0
+2,2
+0,0
+2,3
+3,3
+2,1
+0,0
+0,1
+3,0
+1,0
+3,2
+2,1
+0,1
+2,0
+1,2
+3,2
+1,1
+2,1
+3,2
+3,2
+1,2
+1,1
+2,0
+3,1
+1,0
+1,3
+0,2
+2,3
+1,1
+0,0
+1,1
+2,0
+3,0
+1,0
+1,2
+0,3
+3,0
+3,0
+3,0
+0,0
+1,1
+2,0
+1,0
+1,0
+2,3
+3,2
+3,0
+2,0
+3,0
+2,1
+1,0
+3,1
+0,0
+1,0
+3,2
+0,0
+3,0
+3,0
+1,1
+3,0
+2,0
+0,3
+2,1
+2,0
+3,1
+2,3
+0,2
+3,0
+1,2
+3,1
+3,2
+3,3
+3,2
+2,0
+3,3
+3,0
+3,0
+3,3
+0,0
+1,2
+1,0
+2,0
+0,2
+3,0
+3,0
+1,0
+1,1
+0,1
+1,3
+2,1
+0,0
+3,0
+1,1
+2,0
+1,1
+3,0
+0,0
+3,0
+3,2
+0,1
+3,2
+1,1
+1,0
+0,1
+1,3
+0,0
+3,2
+3,1
+2,2
+0,2
+2,0
+0,2
+2,2
+1,1
+2,0
+2,0
+3,2
+2,0
+1,0
+3,1
+2,2
+3,0
+0,1
+2,2
+3,2
+1,1
+1,1
+3,2
+1,0
+0,0
+1,1
+3,3
+1,0
+3,1
+1,2
+2,3
+3,3
+0,0
+1,1
+3,0
+3,0
+3,0
+2,0
+1,0
+3,0
+3,0
+1,2
+2,0
+2,2
+2,1
+0,0
+2,1
+3,2
+0,0
+2,2
+3,2
+2,0
+2,2
+1,0
+1,0
+0,0
+1,0
+3,0
+2,1
+1,1
+1,1
+0,0
+1,3
+3,2
+3,0
+0,2
+2,0
+2,0
+3,0
+3,3
+1,0
+2,0
+2,1
+1,2
+1,0
+2,0
+0,2
+3,1
+1,0
+0,0
+1,1
+0,0
+0,1
+0,0
+3,0
+0,1
+3,0
+1,1
+3,0
+3,0
+0,2
+0,0
+2,0
+3,1
+2,1
+2,3
+0,0
+1,0
+1,1
+0,3
+2,0
+2,0
+2,0
+2,1
+3,1
+0,2
+3,0
+3,2
+3,0
+2,0
+1,0
+2,3
+1,2
+2,0
+0,0
+3,0
+3,3
+1,0
+1,0
+2,1
+1,0
+3,0
+3,2
+3,0
+3,0
+2,0
+3,0
+1,1
+2,2
+2,0
+1,1
+2,0
+1,1
+0,1
+1,0
+3,0
+2,0
+3,2
+1,0
+3,0
+2,1
+1,0
+2,0