Add files using upload-large-folder tool

agnews_test/few_shot_2/EleutherAI_gpt-neo-125M/last_token_relative_depth_100/accuracy.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 1900, "1": 1900, "2": 1900, "3": 1900}, "correct_per_class": {"0": 152, "1": 1758, "2": 4, "3": 0}, "net_accuracy": 0.25184210526315787}

agnews_test/few_shot_2/EleutherAI_gpt-neo-125M/last_token_relative_depth_100/intrinsic/results.csv

@@ -0,0 +1,13 @@
+Layer,MLE,MLE_Corrected,TwoNN,Gride
+blocks.0.hook_mlp_out,10.506515502929688,9.311385154724121,13.333945274353027,8.58010196685791
+blocks.1.hook_mlp_out,15.884626388549805,14.387239456176758,17.240732192993164,14.76024341583252
+blocks.2.hook_mlp_out,18.44338607788086,16.599084854125977,19.2747859954834,17.01029396057129
+blocks.3.hook_mlp_out,18.611051559448242,16.786882400512695,19.056053161621094,17.440303802490234
+blocks.4.hook_mlp_out,19.16325569152832,17.223783493041992,19.37726593017578,18.0703182220459
+blocks.5.hook_mlp_out,18.99578094482422,17.080738067626953,20.221027374267578,17.730310440063477
+blocks.6.hook_mlp_out,22.007883071899414,19.647768020629883,23.34865951538086,20.16036605834961
+blocks.7.hook_mlp_out,19.817729949951172,17.65953826904297,21.711620330810547,17.470304489135742
+blocks.8.hook_mlp_out,21.934038162231445,18.65972137451172,20.036863327026367,20.6303768157959
+blocks.9.hook_mlp_out,15.201383590698242,9.768390655517578,9.612926483154297,13.310210227966309
+blocks.10.hook_mlp_out,15.94455623626709,9.70819091796875,9.7091703414917,13.9202241897583
+blocks.11.hook_mlp_out,17.08141326904297,11.247625350952148,10.514172554016113,14.98024845123291

agnews_test/few_shot_2/EleutherAI_gpt-neo-125M/last_token_relative_depth_100/llm_hook_args.json

@@ -0,0 +1 @@
+{"device": "cuda", "model_id": "EleutherAI/gpt-neo-125M", "batch_size": 16, "dataset_name": "agnews_test", "last_token": true, "question_structure": true, "relative_depth_of_sentence": 1.0, "store_activations": true, "random_seed": 20, "few_shot": 2}

agnews_test/few_shot_2/EleutherAI_gpt-neo-125M/last_token_relative_depth_100/llm_intrinsic_args.json

@@ -0,0 +1 @@
+{"device": "cuda", "gride_k1": 20, "gride_k2": 40, "mle_k1": 12, "mle_k2": 24, "mle": true, "model_id": "EleutherAI/gpt-neo-125M", "dataset_name": "agnews_test", "distance_metric": "euclidean", "batch_size": 16, "last_token": true, "relative_depth_of_sentence": 1.0, "few_shot": 2}

agnews_test/few_shot_2/EleutherAI_gpt-neo-125M/last_token_relative_depth_100/predictions.csv

@@ -0,0 +1,7601 @@
+Labels,Predictions
+2,1
+0,1
+1,0
+2,1
+3,1
+2,1
+0,1
+2,1
+0,1
+2,1
+3,1
+3,1
+1,1
+3,1
+1,1
+3,1
+3,1
+1,1
+2,0
+3,1
+0,1
+3,1
+3,1
+1,1
+1,1
+3,1
+2,1
+0,1
+1,1
+1,1
+0,1
+2,1
+3,1
+3,1
+0,1
+2,1
+2,1
+0,1
+2,1
+0,1
+1,1
+1,1
+3,1
+3,1
+0,0
+3,1
+0,1
+3,1
+3,1
+3,1
+2,1
+3,1
+0,1
+3,1
+1,1
+2,1
+3,1
+0,1
+1,1
+1,1
+2,1
+1,1
+3,1
+3,1
+0,1
+3,1
+0,1
+1,1
+0,1
+3,1
+3,1
+3,1
+3,1
+3,1
+3,1
+1,1
+0,1
+3,1
+1,1
+3,0
+3,1
+3,1
+3,1
+1,1
+1,1
+1,1
+3,1
+0,1
+2,1
+1,1
+0,1
+3,1
+1,1
+0,1
+3,1
+1,1
+0,1
+0,1
+1,1
+3,1
+1,1
+3,1
+1,1
+1,0
+3,1
+1,1
+1,0
+1,1
+3,1
+2,1
+3,1
+0,1
+3,1
+0,1
+1,1
+0,1
+2,1
+2,1
+0,1
+1,1
+0,0
+3,1
+0,1
+3,1
+1,1
+2,1
+2,0
+2,1
+3,1
+0,1
+1,1
+2,1
+1,1
+3,1
+2,1
+1,1
+3,1
+1,1
+2,0
+3,1
+1,1
+0,1
+3,1
+1,1
+3,1
+2,1
+0,1
+0,1
+1,1
+1,1
+3,1
+0,1
+1,1
+0,1
+2,1
+0,1
+3,1
+3,1
+3,1
+3,1
+3,1
+2,1
+2,1
+3,1
+3,1
+0,1
+2,1
+3,0
+1,1
+1,1
+1,1
+3,1
+0,1
+1,1
+2,1
+0,1
+0,1
+3,1
+2,1
+1,1
+1,1
+1,1
+0,0
+0,0
+3,1
+3,1
+1,1
+1,0
+1,1
+0,1
+3,1
+3,1
+3,1
+2,1
+0,1
+0,1
+3,1
+0,1
+0,1
+1,1
+3,1
+3,1
+0,1
+2,1
+2,0
+3,1
+1,1
+2,1
+2,1
+3,1
+3,1
+1,1
+2,1
+3,1
+2,1
+2,1
+0,1
+2,1
+3,1
+2,1
+3,1
+2,1
+2,1
+2,1
+2,0
+0,1
+0,1
+2,1
+2,1
+1,1
+3,1
+1,1
+3,1
+0,1
+1,1
+1,1
+1,1
+3,1
+2,1
+2,1
+1,1
+0,1
+0,1
+3,1
+3,1
+2,1
+2,1
+3,1
+3,1
+0,1
+0,1
+0,1
+1,1
+2,1
+3,1
+3,1
+0,1
+3,0
+3,1
+3,1
+0,1
+1,1
+2,1
+1,1
+3,1
+2,1
+0,1
+2,1
+1,1
+2,1
+3,1
+0,1
+0,1
+1,1
+1,1
+3,1
+2,1
+0,1
+2,1
+3,1
+0,1
+2,1
+2,1
+0,1
+3,1
+1,1
+1,1
+3,1
+0,0
+2,1
+0,1
+0,1
+1,1
+3,1
+0,1
+0,1
+2,1
+0,0
+0,1
+0,1
+3,1
+2,1
+2,1
+0,1
+0,1
+0,1
+2,1
+3,0
+3,1
+1,1
+1,1
+2,1
+3,1
+3,1
+1,1
+0,1
+0,1
+1,1
+1,1
+3,1
+3,1
+2,1
+3,1
+1,1
+2,1
+3,1
+3,1
+3,1
+1,0
+2,1
+1,3
+1,1
+2,1
+2,2
+3,1
+2,1
+3,1
+1,1
+0,1
+3,0
+1,1
+2,1
+1,1
+1,1
+3,1
+3,0
+0,1
+2,1
+0,1
+2,0
+2,1
+1,1
+0,0
+0,1
+0,1
+0,1
+2,1
+3,1
+3,1
+1,1
+1,1
+3,1
+3,1
+0,1
+0,1
+3,1
+0,1
+1,1
+3,1
+0,1
+3,1
+2,1
+2,1
+2,1
+3,1
+1,1
+2,1
+1,1
+3,1
+0,1
+1,1
+3,1
+1,1
+2,1
+2,1
+1,1
+1,0
+2,1
+2,1
+0,1
+0,1
+1,1
+2,1
+2,1
+2,1
+3,0
+2,1
+2,1
+1,1
+3,1
+3,1
+1,1
+2,1
+0,1
+0,1
+2,1
+1,1
+0,1
+0,1
+3,1
+1,0
+1,1
+3,1
+3,1
+2,1
+1,1
+0,1
+1,1
+0,1
+0,1
+0,1
+0,1
+0,1
+2,1
+3,1
+1,1
+1,0
+0,0
+1,1
+2,1
+0,0
+3,1
+1,1
+0,1
+0,1
+0,1
+0,1
+2,1
+0,1
+0,1
+3,1
+2,1
+2,1
+3,1
+0,1
+0,1
+0,1
+1,1
+1,1
+3,1
+2,1
+3,1
+0,1
+3,1
+3,1
+0,0
+0,1
+1,1
+0,1
+0,0
+3,1
+2,1
+3,1
+3,1
+2,1
+3,1
+1,1
+3,1
+2,0
+1,1
+1,1
+0,1
+2,1
+3,1
+2,1
+1,1
+2,1
+3,1
+0,1
+3,1
+3,1
+2,0
+1,0
+2,1
+0,1
+2,1
+1,0
+3,1
+1,1
+2,1
+0,1
+1,1
+2,1
+3,1
+1,1
+3,1
+0,1
+1,1
+2,1
+2,1
+2,1
+2,1
+2,1
+2,1
+0,1
+0,1
+3,1
+2,1
+2,1
+3,1
+2,1
+2,1
+1,1
+2,1
+3,1
+1,1
+1,1
+0,1
+1,1
+2,1
+2,0
+3,1
+2,1
+3,1
+2,1
+2,1
+1,1
+3,1
+0,1
+2,1
+1,1
+1,1
+1,1
+0,1
+3,1
+2,1
+3,1
+1,1
+1,1
+0,1
+1,1
+3,1
+1,1
+2,1
+1,1
+0,1
+3,1
+2,0
+0,1
+2,1
+2,1
+3,1
+1,1
+0,1
+3,1
+2,1
+0,1
+0,1
+0,1
+2,1
+3,1
+2,1
+2,1
+3,1
+3,1
+1,1
+1,1
+0,1
+0,1
+1,1
+3,1
+0,0
+1,1
+2,1
+3,1
+3,1
+1,1
+0,1
+1,0
+3,1
+1,1
+2,1
+2,1
+1,1
+2,1
+1,1
+0,1
+0,1
+3,0
+2,1
+1,1
+3,1
+0,1
+0,1
+1,1
+1,1
+2,1
+3,1
+0,1
+3,1
+1,1
+2,1
+0,1
+1,1
+3,1
+1,1
+2,1
+0,1
+0,1
+2,1
+1,1
+2,1
+2,1
+1,1
+0,1
+0,1
+3,1
+2,1
+2,1
+2,0
+1,1
+0,1
+2,1
+2,1
+3,1
+2,1
+3,1
+0,1
+2,1
+1,1
+0,1
+1,1
+0,1
+2,0
+2,1
+1,1
+3,1
+0,1
+3,1
+2,1
+1,0
+0,1
+0,0
+0,1
+2,1
+3,1
+1,1
+1,1
+2,1
+2,1
+1,1
+3,1
+3,1
+2,1
+0,1
+3,1
+1,1
+0,0
+0,1
+2,1
+3,1
+3,1
+3,1
+3,1
+3,1
+3,1
+0,1
+3,1
+2,1
+1,1
+0,1
+3,1
+2,1
+0,1
+3,1
+3,1
+2,0
+0,1
+1,1
+2,1
+0,1
+2,1
+0,1
+0,1
+3,1
+0,1
+2,1
+0,1
+1,1
+2,1
+1,1
+3,1
+0,1
+3,1
+3,1
+3,1
+2,1
+1,1
+0,1
+1,1
+3,1
+1,1
+2,1
+2,1
+3,1
+3,1
+0,1
+2,1
+1,1
+2,1
+1,1
+2,1
+0,1
+3,1
+1,1
+0,0
+2,1
+1,1
+0,0
+3,1
+1,1
+3,0
+2,1
+1,1
+2,1
+1,1
+3,1
+3,1
+0,1
+0,0
+1,1
+3,1
+0,1
+2,1
+0,1
+0,1
+0,1
+3,1
+3,1
+1,1
+2,1
+3,1
+2,1
+1,1
+0,1
+1,1
+3,1
+0,1
+1,1
+2,1
+0,1
+1,1
+1,1
+1,1
+2,1
+0,1
+1,1
+3,1
+0,0
+3,1
+1,1
+0,0
+3,1
+2,0
+2,1
+0,1
+0,1
+1,1
+3,1
+0,0
+2,0
+2,1
+2,1
+2,1
+0,1
+0,1
+1,1
+3,1
+1,1
+1,1
+0,1
+3,1
+1,1
+3,1
+1,1
+3,1
+2,0
+3,0
+0,1
+0,1
+1,1
+0,1
+1,1
+2,1
+2,1
+1,1
+0,0
+3,1
+1,1
+0,1
+1,1
+1,1
+1,1
+0,1
+1,1
+2,1
+0,1
+1,1
+1,1
+3,1
+3,1
+0,1
+0,1
+3,1
+0,1
+1,1
+3,1
+2,1
+1,1
+0,1
+0,1
+2,1
+1,1
+0,1
+1,1
+1,1
+2,1
+2,1
+1,1
+3,1
+1,1
+0,1
+2,1
+1,1
+2,1
+3,1
+3,1
+2,1
+3,1
+1,1
+1,1
+1,1
+3,1
+2,1
+1,1
+1,1
+1,1
+1,1
+0,0
+3,1
+0,1
+0,0
+0,1
+2,1
+1,1
+0,1
+0,1
+2,1
+3,1
+3,1
+3,1
+2,1
+3,1
+0,1
+1,1
+1,1
+2,1
+1,1
+3,1
+3,1
+2,1
+0,1
+1,1
+3,1
+1,1
+0,1
+2,1
+1,1
+1,1
+3,1
+2,1
+0,0
+3,1
+2,1
+2,1
+2,1
+1,0
+3,1
+1,1
+1,1
+1,1
+1,1
+1,1
+1,1
+3,1
+1,1
+3,0
+0,1
+3,1
+2,1
+1,1
+0,1
+2,1
+1,1
+0,1
+1,1
+0,1
+3,1
+0,1
+3,1
+2,1
+3,1
+1,1
+1,1
+0,1
+3,0
+3,1
+3,1
+3,1
+3,1
+3,1
+2,1
+2,1
+1,1
+0,1
+1,1
+3,1
+3,1
+0,1
+2,1
+1,1
+3,1
+0,1
+2,1
+0,1
+1,1
+3,1
+3,1
+3,1
+0,1
+1,1
+0,1
+0,1
+2,1
+1,1
+3,1
+0,1
+0,1
+2,1
+1,0
+1,1
+2,1
+3,1
+0,1
+2,1
+2,0
+1,1
+3,1
+1,1
+3,1
+3,1
+1,1
+0,1
+2,1
+1,1
+1,1
+3,1
+0,1
+2,1
+0,1
+3,1
+1,1
+1,1
+3,1
+1,1
+2,0
+2,1
+0,1
+0,1
+0,1
+0,1
+1,1
+3,1
+3,1
+3,1
+2,1
+2,1
+2,1
+1,1
+3,1
+3,1
+0,1
+0,0
+1,1
+1,1
+3,1
+0,0
+0,1
+2,1
+2,1
+3,1
+3,1
+0,1
+1,1
+3,1
+2,1
+2,0
+2,1
+2,1
+3,1
+3,1
+1,1
+3,1
+2,1
+2,1
+0,0
+0,1
+3,1
+1,1
+1,1
+0,1
+1,1
+3,1
+2,1
+2,1
+2,1
+0,1
+1,1
+3,1
+1,1
+1,1
+2,1
+1,1
+3,1
+1,1
+1,1
+2,1
+2,1
+1,1
+2,1
+3,1
+3,1
+1,1
+2,1
+0,1
+0,1
+0,1
+1,1
+1,1
+0,1
+0,1
+2,1
+3,1
+2,1
+0,1
+2,1
+3,1
+0,1
+2,1
+3,1
+3,1
+0,1
+2,1
+0,1
+0,0
+3,1
+2,1
+3,1
+3,1
+3,1
+0,1
+0,1
+3,1
+3,1
+0,1
+0,1
+2,1
+0,1
+2,1
+2,1
+2,1
+0,1
+0,1
+3,1
+2,1
+0,1
+2,1
+0,1
+1,1
+2,1
+1,0
+2,1
+3,1
+1,1
+0,1
+2,1
+2,1
+1,1
+3,1
+0,1
+2,1
+1,1
+0,1
+2,1
+1,1
+2,1
+2,1
+0,1
+1,1
+1,1
+2,0
+2,1
+3,1
+2,0
+0,1
+0,1
+3,1
+1,1
+3,1
+1,1
+1,1
+0,1
+1,1
+2,1
+3,1
+3,1
+1,1
+3,1
+1,1
+0,1
+0,1
+3,1
+3,1
+0,1
+3,1
+3,1
+2,0
+0,1
+3,1
+2,1
+2,1
+2,0
+3,1
+1,1
+3,1
+2,1
+1,1
+0,1
+2,1
+0,1
+0,1
+1,1
+2,1
+0,1
+3,1
+0,1
+3,1
+2,1
+0,1
+2,1
+0,1
+1,1
+3,1
+1,1
+3,1
+1,0
+0,1
+1,1
+0,1
+1,1
+1,1
+2,1
+1,1
+2,1
+3,1
+2,1
+3,1
+2,0
+2,1
+3,1
+0,1
+3,1
+0,1
+1,1
+1,1
+3,0
+1,1
+3,1
+3,1
+3,1
+2,1
+1,1
+3,1
+3,1
+0,1
+3,1
+1,1
+3,1
+3,1
+0,1
+2,1
+1,1
+3,1
+0,1
+0,1
+1,1
+0,1
+0,1
+0,1
+0,1
+2,1
+0,1
+2,1
+2,1
+0,1
+1,0
+1,1
+0,1
+1,1
+1,1
+2,1
+1,1
+3,1
+3,1
+0,1
+0,1
+2,1
+3,1
+2,1
+1,1
+3,1
+1,1
+3,1
+0,1
+0,1
+1,1
+3,1
+1,1
+3,1
+3,1
+0,1
+0,1
+1,1
+2,1
+3,1
+0,1
+2,1
+1,1
+3,1
+3,1
+1,1
+3,1
+1,1
+2,1
+2,1
+2,1
+2,1
+0,1
+0,1
+0,1
+1,1
+0,1
+1,1
+1,1
+3,1
+3,1
+3,1
+0,1
+2,1
+3,1
+0,1
+2,1
+2,1
+1,0
+3,1
+0,0
+2,1
+1,1
+3,1
+3,1
+2,1
+0,1
+0,1
+2,1
+2,1
+2,1
+2,1
+0,1
+1,1
+3,1
+0,1
+0,1
+1,0
+2,1
+2,0
+3,1
+1,1
+3,1
+2,1
+0,1
+2,0
+1,1
+1,1
+2,1
+2,1
+0,1
+3,1
+0,1
+1,1
+0,1
+3,1
+2,1
+3,1
+2,0
+0,1
+2,1
+3,1
+3,1
+1,1
+0,1
+1,1
+2,1
+3,1
+3,1
+2,1
+3,1
+2,1
+3,1
+0,1
+2,1
+0,1
+2,1
+0,1
+1,1
+3,1
+3,1
+1,1
+1,1
+0,1
+1,1
+1,1
+2,1
+3,1
+0,1
+1,1
+2,1
+1,1
+2,0
+0,1
+2,1
+0,1
+2,1
+1,1
+2,1
+2,1
+1,1
+1,1
+1,1
+2,1
+2,1
+0,1
+1,1
+3,1
+1,1
+2,1
+3,1
+2,0
+1,1
+2,1
+2,1
+0,1
+1,1
+1,1
+0,1
+0,1
+1,1
+0,0
+3,1
+2,1
+3,1
+3,1
+1,1
+1,1
+0,1
+0,1
+1,1
+1,1
+2,1
+0,1
+2,1
+1,1
+1,1
+0,1
+1,1
+3,1
+0,1
+0,1
+0,1
+1,1
+3,1
+3,1
+3,1
+3,1
+0,1
+2,1
+2,1
+0,1
+3,1
+3,1
+2,0
+3,1
+0,1
+1,1
+3,1
+1,1
+0,1
+2,1
+3,1
+3,1
+1,1
+1,1
+2,1
+0,1
+2,1
+0,1
+1,1
+2,1
+0,1
+3,1
+3,1
+2,1
+0,1
+0,1
+1,0
+0,1
+2,1
+1,1
+2,0
+2,1
+3,1
+0,1
+3,1
+1,1
+0,1
+2,1
+0,1
+3,1
+1,1
+2,1
+3,1
+3,1
+1,1
+3,1
+0,1
+2,1
+2,1
+3,1
+0,0
+2,1
+3,1
+2,1
+2,1
+3,1
+2,1
+3,1
+0,1
+3,1
+1,1
+2,1
+0,1
+1,1
+1,1
+0,1
+0,1
+1,1
+0,1
+1,1
+0,1
+0,0
+1,1
+2,1
+2,1
+3,0
+0,1
+0,1
+2,1
+0,1
+0,1
+0,1
+0,1
+0,1
+2,1
+0,0
+3,1
+0,1
+1,1
+1,1
+1,1
+3,1
+0,1
+2,1
+0,1
+0,1
+2,1
+0,1
+1,1
+1,1
+1,1
+0,1
+0,1
+0,1
+3,1
+3,1
+3,1
+3,1
+0,1
+2,1
+3,1
+3,1
+3,1
+1,1
+0,1
+3,1
+0,1
+3,1
+1,1
+3,1
+1,1
+1,1
+3,1
+1,1
+2,1
+3,1
+2,1
+2,1
+1,1
+1,1
+1,1
+2,1
+3,1
+1,1
+3,1
+2,1
+3,1
+3,1
+0,1
+2,1
+2,1
+3,1
+1,1
+2,1
+1,1
+2,1
+3,1
+2,1
+1,1
+1,1
+2,1
+0,1
+1,1
+0,1
+2,1
+0,1
+2,1
+2,1
+3,1
+1,1
+1,1
+1,1
+0,0
+3,1
+2,1
+2,0
+0,0
+2,1
+2,1
+3,1
+2,1
+1,1
+0,1
+0,1
+3,1
+0,1
+2,1
+0,1
+1,1
+3,1
+0,1
+2,1
+1,1
+0,1
+3,1
+1,1
+1,1
+3,1
+0,1
+2,1
+0,0
+1,1
+2,1
+0,1
+0,1
+1,1
+0,1
+2,1
+1,1
+0,0
+2,1
+2,1
+0,1
+2,1
+3,1
+2,1
+3,1
+2,1
+1,1
+1,1
+3,1
+2,0
+1,1
+2,1
+2,1
+0,1
+2,1
+0,1
+1,1
+2,1
+0,0
+1,1
+0,1
+1,0
+1,1
+2,1
+3,1
+3,1
+1,1
+1,1
+1,1
+2,1
+2,1
+0,1
+0,1
+2,1
+3,1
+0,1
+1,1
+1,1
+3,1
+2,1
+2,1
+1,1
+0,1
+1,1
+0,1
+0,1
+0,1
+2,0
+3,1
+1,1
+0,1
+2,1
+2,1
+1,1
+0,1
+2,1
+0,1
+1,1
+0,0
+2,1
+0,1
+0,1
+3,1
+3,1
+2,1
+0,0
+3,1
+0,1
+2,1
+0,1
+0,1
+1,1
+1,1
+0,1
+0,1
+1,1
+1,1
+0,1
+2,0
+3,1
+3,1
+0,1
+1,1
+2,1
+2,1
+1,1
+1,1
+3,1
+1,1
+3,1
+0,1
+2,1
+1,1
+2,1
+3,0
+2,0
+0,1
+0,1
+3,1
+1,1
+0,0
+1,1
+1,1
+0,1
+3,1
+1,1
+2,1
+1,1
+2,1
+1,1
+3,1
+1,1
+0,1
+1,1
+0,1
+2,1
+2,1
+1,1
+1,1
+3,1
+1,1
+2,1
+0,1
+0,1
+1,1
+3,1
+2,1
+3,1
+2,1
+1,1
+3,1
+2,1
+2,1
+0,1
+3,1
+1,1
+3,1
+2,1
+3,1
+1,1
+0,1
+3,1
+1,1
+1,1
+2,1
+2,1
+0,1
+3,1
+3,1
+0,1
+3,1
+0,1
+2,1
+2,1
+1,1
+3,1
+3,1
+2,1
+2,1
+3,1
+2,1
+3,1
+3,1
+3,1
+0,0
+0,1
+0,1
+1,1
+3,1
+0,0
+3,1
+3,1
+0,1
+0,0
+1,1
+0,1
+1,1
+1,1
+0,1
+0,1
+1,1
+2,1
+1,1
+2,1
+2,1
+3,1
+0,1
+0,0
+1,1
+3,1
+2,1
+3,0
+3,1
+3,0
+3,1
+1,1
+1,1
+1,1
+0,1
+1,0
+0,1
+1,1
+0,1
+0,1
+2,1
+0,1
+2,1
+1,1
+1,1
+1,1
+0,1
+2,1
+0,1
+1,1
+3,1
+3,1
+2,1
+2,1
+1,1
+2,1
+3,1
+0,1
+3,1
+0,1
+0,1
+3,1
+0,1
+3,1
+1,1
+0,1
+2,1
+0,1
+2,1
+1,1
+3,1
+0,1
+0,1
+3,1
+1,0
+3,1
+2,1
+0,1
+1,1
+0,0
+3,1
+3,1
+1,1
+1,1
+3,1
+2,1
+3,1
+3,1
+1,1
+3,1
+1,1
+2,0
+0,1
+3,1
+1,0
+1,1
+0,0
+3,1
+0,1
+1,1
+1,1
+2,1
+0,1
+0,1
+2,1
+2,1
+0,1
+2,1
+0,1
+0,1
+2,1
+3,1
+1,1
+2,1
+1,1
+3,1
+0,1
+2,1
+2,1
+2,1
+0,1
+3,1
+1,1
+3,1
+1,1
+0,1
+0,1
+2,1
+0,1
+2,1
+3,1
+0,1
+0,1
+2,1
+1,1
+2,1
+1,1
+2,1
+1,1
+1,1
+1,1
+3,1
+1,1
+2,0
+2,1
+1,1
+2,1
+2,1
+2,1
+1,1
+2,0
+3,1
+2,1
+1,1
+2,1
+1,1
+1,1
+3,1
+1,1
+0,1
+1,1
+0,1
+2,1
+2,1
+0,1
+3,1
+3,1
+2,1
+3,1
+2,1
+3,1
+1,1
+0,1
+1,1
+2,1
+3,1
+3,1
+2,1
+0,1
+3,1
+1,1
+1,1
+0,1
+2,1
+1,1
+3,1
+0,1
+0,1
+2,1
+2,1
+3,1
+2,1
+1,1
+3,1
+3,1
+1,1
+0,1
+3,1
+1,1
+1,1
+1,1
+3,1
+3,1
+0,1
+1,1
+2,1
+2,1
+3,1
+1,1
+2,1
+1,1
+3,1
+0,1
+2,1
+0,1
+1,1
+1,1
+2,1
+2,1
+1,1
+3,1
+2,1
+0,0
+0,1
+1,1
+2,1
+1,1
+3,0
+1,1
+1,1
+0,1
+0,1
+2,1
+0,1
+2,1
+3,1
+3,1
+1,1
+3,1
+3,1
+3,1
+1,1
+1,1
+0,1
+1,1
+3,1
+2,1
+3,1
+2,1
+1,1
+0,1
+2,0
+2,1
+3,1
+3,1
+2,0
+3,1
+1,1
+1,1
+0,1
+1,1
+1,1
+3,1
+2,1
+1,1
+2,1
+0,1
+1,1
+0,1
+0,0
+1,1
+2,1
+3,1
+1,1
+1,1
+2,1
+0,1
+3,1
+0,1
+1,1
+1,0
+3,1
+1,1
+3,1
+0,1
+0,1
+3,1
+1,1
+3,1
+1,1
+2,1
+3,1
+0,1
+3,1
+0,1
+2,1
+1,1
+0,1
+2,1
+1,1
+3,1
+2,1
+1,1
+0,0
+1,1
+3,1
+2,1
+2,0
+1,1
+2,1
+3,1
+2,1
+2,1
+3,1
+0,1
+3,1
+3,1
+0,0
+3,1
+1,1
+2,1
+1,1
+1,1
+0,1
+2,1
+3,1
+2,1
+1,1
+1,1
+1,0
+1,1
+0,1
+0,1
+2,1
+3,1
+3,1
+3,1
+2,1
+3,1
+3,1
+0,1
+0,1
+2,1
+3,1
+1,1
+2,1
+1,1
+3,1
+2,1
+2,1
+0,1
+0,1
+3,0
+3,1
+2,1
+3,1
+2,1
+3,1
+3,1
+1,1
+2,1
+1,1
+0,1
+1,1
+0,1
+1,1
+0,1
+0,1
+0,0
+3,1
+2,1
+0,1
+1,1
+1,1
+3,1
+2,1
+3,1
+0,1
+2,1
+0,1
+3,1
+1,1
+1,1
+0,0
+0,1
+3,1
+0,1
+0,1
+1,0
+3,1
+0,1
+1,1
+3,1
+1,1
+2,0
+1,1
+1,1
+3,1
+1,1
+2,1
+2,1
+1,1
+0,1
+0,1
+0,1
+0,1
+0,1
+2,1
+2,1
+0,1
+2,1
+2,1
+3,1
+2,1
+3,1
+1,1
+2,1
+2,1
+2,1
+0,1
+3,1
+2,1
+0,1
+1,1
+3,1
+2,1
+2,1
+3,1
+2,1
+2,1
+0,1
+2,1
+1,1
+1,1
+3,1
+2,1
+3,1
+2,1
+3,1
+1,1
+1,0
+0,1
+2,1
+2,1
+3,1
+3,1
+3,1
+0,0
+2,1
+3,1
+0,1
+3,1
+1,1
+2,1
+1,1
+3,1
+1,1
+3,1
+2,1
+1,1
+3,1
+2,1
+3,1
+1,1
+2,1
+3,1
+3,1
+1,1
+0,1
+3,1
+1,1
+0,1
+0,1
+1,1
+1,1
+1,1
+1,1
+0,1
+2,1
+2,1
+1,1
+2,0
+3,1
+1,1
+0,1
+2,1
+0,1
+3,1
+0,1
+3,1
+1,1
+1,1
+3,1
+1,1
+2,1
+2,1
+2,1
+0,1
+1,1
+0,1
+0,1
+1,1
+0,1
+2,1
+0,1
+3,1
+0,1
+1,1
+2,1
+1,1
+2,1
+0,1
+2,1
+1,1
+2,1
+2,1
+0,1
+1,1
+3,1
+0,0
+0,1
+3,1
+2,1
+0,1
+1,1
+3,1
+1,0
+3,1
+1,1
+2,1
+3,1
+2,1
+2,1
+3,1
+0,1
+1,1
+2,1
+1,1
+2,1
+0,1
+3,1
+3,1
+3,1
+0,1
+0,1
+2,1
+0,1
+3,1
+0,1
+3,1
+3,1
+1,1
+2,1
+0,1
+2,1
+3,1
+1,0
+3,1
+0,1
+1,1
+2,1
+0,1
+2,1
+3,1
+2,1
+0,1
+3,1
+2,1
+3,1
+0,1
+1,1
+0,1
+2,1
+1,1
+1,1
+3,1
+1,1
+0,1
+3,1
+1,1
+2,1
+0,1
+2,1
+2,1
+3,0
+2,1
+2,1
+3,1
+1,1
+3,1
+2,1
+2,1
+0,1
+2,1
+1,1
+3,1
+2,1
+3,1
+2,1
+1,1
+0,1
+2,1
+0,1
+1,1
+1,1
+0,1
+2,1
+2,1
+3,1
+1,1
+3,1
+2,1
+0,1
+1,0
+3,1
+0,1
+3,1
+2,1
+3,1
+0,1
+1,1
+2,1
+2,1
+2,0
+1,1
+2,1
+0,1
+3,1
+0,1
+1,1
+2,1
+2,1
+1,1
+0,1
+1,0
+2,1
+3,1
+0,1
+3,1
+3,1
+1,1
+1,1
+1,1
+2,1
+1,1
+2,1
+2,1
+1,1
+0,1
+2,1
+1,1
+1,1
+3,1
+3,1
+1,1
+3,1
+2,1
+0,1
+3,1
+0,1
+2,1
+3,1
+1,1
+3,0
+0,1
+2,1
+3,1
+1,1
+1,1
+2,1
+3,1
+3,1
+1,1
+1,1
+2,1
+1,1
+0,1
+0,1
+2,1
+2,1
+1,1
+2,0
+2,1
+3,1
+1,1
+1,1
+2,1
+0,1
+2,1
+0,1
+2,1
+2,1
+1,1
+0,1
+2,1
+2,1
+0,1
+0,1
+0,1
+3,1
+0,1
+3,1
+3,1
+0,1
+2,1
+2,1
+1,1
+0,1
+1,1
+1,1
+1,1
+3,1
+0,1
+1,1
+3,1
+0,1
+1,1
+2,1
+1,1
+0,1
+1,1
+3,1
+3,1
+3,1
+2,1
+2,1
+2,1
+2,1
+3,1
+1,1
+2,1
+0,1
+1,1
+3,1
+2,1
+1,1
+3,1
+2,1
+3,1
+2,1
+3,1
+2,1
+0,1
+3,1
+1,1
+3,1
+0,1
+3,1
+1,1
+2,1
+2,1
+3,1
+1,1
+0,1
+0,1
+2,1
+1,1
+1,1
+0,1
+0,1
+2,0
+2,1
+2,1
+0,1
+0,1
+2,1
+3,1
+1,1
+1,1
+0,1
+1,1
+1,1
+2,1
+3,1
+1,1
+3,1
+2,1
+1,1
+2,1
+3,1
+0,1
+3,1
+2,1
+1,1
+0,1
+0,1
+2,1
+0,1
+3,1
+1,1
+0,1
+3,1
+0,1
+3,1
+0,1
+1,1
+1,1
+3,1
+1,0
+2,1
+2,1
+3,1
+0,1
+1,1
+1,1
+3,1
+1,1
+1,1
+0,1
+2,1
+3,1
+3,1
+1,1
+3,1
+3,1
+2,1
+0,1
+3,1
+2,1
+3,1
+2,1
+0,1
+3,1
+1,0
+2,1
+1,1
+1,1
+0,1
+3,1
+3,1
+1,1
+3,1
+0,1
+1,1
+0,1
+3,1
+0,1
+1,1
+2,1
+3,1
+0,1
+2,1
+3,1
+0,1
+1,1
+2,1
+1,1
+0,1
+2,1
+3,1
+1,1
+0,1
+3,1
+3,1
+3,1
+2,1
+3,1
+3,1
+3,1
+1,1
+0,1
+3,1
+0,1
+1,0
+2,1
+1,1
+2,1
+2,1
+3,1
+1,1
+3,1
+3,1
+3,1
+1,1
+2,1
+2,1
+1,1
+2,1
+3,1
+1,1
+2,1
+3,1
+0,1
+3,1
+0,1
+3,1
+0,1
+2,1
+0,1
+2,1
+2,1
+2,1
+1,1
+0,1
+1,0
+2,0
+1,1
+1,1
+3,1
+3,1
+3,1
+3,1
+3,1
+0,1
+3,1
+1,1
+3,1
+0,1
+3,1
+2,1
+2,1
+2,1
+3,1
+0,1
+0,1
+0,1
+1,1
+3,1
+1,1
+2,1
+0,1
+1,1
+1,1
+3,1
+2,1
+2,1
+0,0
+3,1
+0,1
+1,0
+3,1
+2,1
+2,1
+1,1
+3,1
+0,1
+1,1
+1,1
+1,1
+2,1
+3,1
+3,1
+1,1
+0,0
+1,1
+2,1
+3,1
+0,1
+2,1
+2,1
+1,1
+0,1
+2,1
+2,1
+3,1
+0,1
+1,1
+0,1
+0,1
+2,1
+2,1
+0,1
+3,1
+2,1
+1,1
+2,1
+2,1
+2,1
+2,1
+3,1
+1,1
+0,1
+0,1
+1,1
+3,1
+2,1
+1,1
+1,1
+1,1
+1,1
+1,1
+0,1
+3,1
+2,1
+2,1
+2,1
+0,1
+3,1
+3,1
+3,1
+1,1
+2,1
+2,1
+0,1
+1,1
+0,1
+1,1
+0,1
+2,1
+0,0
+0,1
+2,1
+1,1
+3,1
+3,1
+1,1
+3,1
+3,1
+3,1
+3,1
+0,1
+2,1
+2,1
+1,1
+3,1
+1,1
+2,1
+1,1
+2,1
+0,1
+3,1
+2,1
+0,1
+3,1
+1,1
+3,1
+1,1
+2,1
+1,1
+2,1
+0,1
+3,1
+0,1
+3,1
+3,1
+2,0
+3,1
+3,1
+3,1
+2,1
+3,1
+0,1
+1,1
+3,1
+0,1
+0,1
+1,1
+0,1
+1,1
+0,1
+2,1
+0,1
+0,1
+3,1
+3,1
+1,1
+0,0
+0,1
+3,1
+1,1
+1,1
+3,1
+3,1
+1,1
+2,1
+2,1
+2,1
+0,1
+1,1
+1,1
+3,1
+3,1
+2,1
+3,1
+0,1
+2,1
+3,1
+2,1
+3,1
+0,1
+2,0
+1,1
+0,1
+2,1
+3,1
+0,1
+3,1
+2,1
+0,1
+2,1
+3,1
+0,1
+1,1
+2,1
+3,1
+3,1
+0,1
+1,1
+3,1
+3,1
+1,1
+0,0
+2,1
+2,1
+2,1
+3,1
+2,1
+1,1
+3,1
+2,1
+2,1
+2,1
+0,1
+2,1
+2,1
+1,1
+1,1
+2,1
+3,1
+2,1
+2,1
+3,1
+3,1
+3,1
+2,1
+2,1
+2,1
+0,1
+0,1
+3,1
+0,1
+1,1
+1,1
+1,0
+0,1
+3,1
+0,1
+1,1
+0,1
+0,1
+2,1
+1,1
+0,1
+1,1
+2,1
+0,1
+2,1
+2,1
+0,1
+0,1
+3,1
+3,1
+1,1
+0,0
+1,1
+3,1
+1,1
+2,1
+0,1
+2,1
+2,1
+1,1
+3,1
+2,1
+3,1
+0,1
+0,0
+2,1
+1,1
+1,1
+0,1
+0,1
+1,1
+3,1
+1,1
+1,1
+2,1
+3,1
+1,1
+1,1
+1,1
+3,1
+0,0
+3,1
+3,1
+3,1
+3,1
+3,1
+3,1
+2,1
+1,1
+0,1
+2,1
+0,1
+1,1
+0,1
+1,1
+2,1
+2,1
+2,1
+2,1
+1,1
+0,1
+1,1
+2,1
+0,1
+1,1
+0,0
+0,0
+0,1
+2,1
+3,1
+2,1
+0,1
+0,1
+1,1
+0,1
+2,1
+3,1
+2,1
+0,1
+0,1
+1,1
+2,1
+3,1
+3,1
+2,1
+3,1
+0,1
+1,1
+3,1
+3,1
+1,1
+0,1
+0,1
+3,1
+3,1
+0,1
+0,1
+3,1
+2,1
+0,1
+0,1
+0,0
+1,1
+0,1
+3,1
+0,1
+0,1
+2,1
+1,1
+3,1
+3,1
+0,1
+1,1
+3,1
+2,1
+3,1
+1,1
+1,1
+3,1
+3,1
+2,1
+0,1
+0,1
+0,1
+2,1
+2,1
+0,1
+3,0
+2,1
+1,1
+2,1
+1,1
+2,1
+3,1
+3,1
+0,0
+1,1
+2,1
+3,1
+0,1
+3,1
+1,0
+0,1
+0,1
+3,1
+0,1
+1,1
+1,1
+1,1
+2,1
+3,1
+3,1
+3,1
+0,0
+0,1
+2,1
+1,1
+3,1
+0,1
+2,1
+0,1
+1,1
+0,1
+0,1
+1,1
+1,1
+1,1
+1,1
+3,1
+3,1
+3,1
+2,1
+2,1
+1,1
+2,1
+3,1
+0,1
+0,1
+3,1
+3,1
+2,1
+3,1
+2,1
+1,1
+0,1
+1,1
+2,1
+1,1
+0,1
+1,1
+3,1
+2,1
+0,1
+0,1
+2,1
+0,1
+0,1
+0,1
+3,0
+2,1
+2,1
+1,0
+1,1
+0,1
+3,1
+2,1
+2,1
+0,1
+2,1
+3,1
+2,1
+1,1
+3,1
+2,1
+2,1
+3,1
+0,1
+1,1
+3,1
+0,1
+3,1
+1,1
+0,0
+3,1
+2,1
+1,1
+2,1
+0,1
+3,1
+1,1
+3,1
+0,1
+0,1
+1,1
+2,1
+3,1
+1,1
+3,1
+0,1
+0,1
+1,1
+0,1
+0,1
+1,1
+0,1
+1,1
+0,1
+3,1
+2,1
+3,1
+1,1
+0,1
+1,1
+1,1
+2,1
+0,1
+3,1
+1,1
+3,1
+0,1
+2,1
+0,1
+0,0
+2,1
+2,1
+1,1
+0,0
+0,1
+2,1
+0,1
+3,1
+3,1
+1,1
+1,1
+0,1
+1,1
+3,1
+1,1
+2,1
+1,0
+1,1
+3,1
+0,1
+0,1
+0,1
+3,1
+2,1
+0,1
+0,1
+2,1
+2,1
+1,1
+0,1
+1,1
+1,1
+2,1
+2,1
+3,1
+1,1
+3,1
+0,1
+2,1
+2,1
+0,1
+3,1
+2,1
+3,1
+1,1
+1,1
+3,1
+1,1
+0,1
+3,1
+3,1
+0,1
+0,1
+2,0
+0,1
+3,1
+1,1
+3,1
+2,1
+3,1
+3,1
+2,0
+1,1
+0,0
+3,1
+3,1
+1,1
+1,1
+3,1
+0,1
+0,1
+1,1
+3,1
+1,1
+1,1
+1,1
+2,1
+0,1
+0,0
+2,1
+3,1
+2,1
+1,1
+1,1
+0,1
+1,1
+3,0
+2,1
+3,1
+1,0
+2,1
+1,1
+2,1
+3,1
+3,1
+2,1
+1,1
+1,1
+3,1
+3,1
+2,1
+2,1
+0,1
+0,1
+0,1
+0,1
+2,1
+1,1
+3,1
+0,0
+0,1
+0,1
+3,1
+2,1
+0,1
+1,1
+1,1
+0,1
+3,1
+3,1
+3,1
+0,1
+0,1
+0,1
+0,1
+2,1
+1,1
+0,1
+2,1
+0,1
+0,1
+3,1
+1,1
+0,1
+0,1
+0,1
+2,1
+1,0
+3,1
+0,1
+3,1
+0,1
+0,1
+0,1
+1,1
+1,0
+0,1
+3,1
+2,1
+3,1
+1,1
+2,1
+2,1
+1,1
+3,1
+1,1
+0,0
+0,1
+0,1
+2,1
+3,1
+2,1
+3,1
+2,1
+0,1
+2,1
+3,1
+0,1
+0,1
+0,1
+0,1
+3,1
+2,1
+3,1
+3,1
+3,1
+1,1
+1,1
+2,1
+3,1
+0,1
+2,1
+3,1
+3,1
+3,1
+2,1
+1,1
+0,1
+3,1
+0,1
+1,1
+3,1
+1,1
+3,1
+0,1
+0,0
+2,1
+3,1
+2,1
+1,1
+1,1
+2,1
+2,1
+0,1
+1,1
+2,1
+2,1
+3,1
+2,1
+3,1
+2,1
+0,1
+2,1
+1,1
+3,1
+0,1
+0,1
+1,1
+3,1
+1,1
+1,1
+2,1
+0,1
+0,1
+2,1
+2,1
+1,1
+3,1
+2,1
+0,1
+1,1
+1,1
+1,1
+3,1
+1,0
+1,1
+3,1
+3,1
+0,1
+0,1
+1,1
+1,1
+0,0
+1,1
+3,1
+1,0
+1,1
+1,1
+0,1
+0,1
+2,1
+1,1
+1,1
+3,1
+3,1
+2,1
+3,1
+1,1
+2,1
+1,1
+0,1
+3,1
+0,0
+1,1
+2,1
+3,1
+0,1
+1,1
+2,1
+3,1
+3,1
+2,1
+0,1
+2,1
+0,1
+1,1
+0,1
+3,1
+0,1
+0,1
+0,1
+0,1
+3,1
+0,1
+2,1
+1,1
+0,1
+3,1
+3,1
+2,0
+3,1
+1,1
+1,1
+0,1
+2,1
+1,1
+3,1
+1,1
+3,1
+3,1
+3,1
+3,0
+1,1
+2,1
+3,1
+1,1
+2,0
+2,1
+3,1
+0,1
+1,1
+1,1
+0,1
+3,1
+0,1
+0,1
+1,1
+3,1
+0,1
+2,1
+1,1
+3,1
+3,1
+0,1
+2,1
+1,1
+1,1
+1,1
+3,1
+0,1
+2,1
+2,1
+3,1
+0,1
+0,1
+2,1
+2,1
+2,1
+0,1
+1,1
+1,1
+2,1
+2,1
+1,1
+3,1
+2,1
+1,1
+2,1
+0,1
+0,1
+3,1
+3,1
+2,1
+0,0
+3,1
+2,0
+3,1
+3,1
+3,1
+2,1
+1,1
+0,1
+2,1
+0,1
+2,1
+2,1
+3,1
+2,1
+0,1
+3,1
+1,1
+0,0
+2,1
+3,1
+3,1
+1,1
+2,1
+1,0
+1,1
+1,0
+1,1
+1,1
+2,0
+1,1
+1,1
+3,1
+3,1
+1,1
+0,1
+1,1
+3,1
+2,1
+2,1
+0,1
+3,1
+0,1
+2,1
+3,1
+0,1
+0,1
+2,0
+2,1
+2,1
+3,1
+3,1
+3,1
+0,1
+1,1
+3,1
+1,1
+0,1
+3,0
+1,1
+3,1
+1,1
+2,1
+0,1
+1,1
+1,0
+1,0
+1,1
+1,1
+0,1
+2,1
+2,1
+1,1
+2,1
+0,1
+0,1
+0,1
+1,1
+1,1
+3,1
+2,1
+0,1
+2,1
+0,1
+2,1
+1,0
+0,1
+2,1
+0,1
+0,1
+0,1
+2,1
+3,1
+3,1
+2,1
+2,0
+2,0
+3,1
+1,1
+3,1
+2,1
+3,1
+3,1
+0,1
+1,1
+2,1
+1,1
+1,0
+2,1
+1,1
+3,1
+0,1
+0,1
+0,0
+2,1
+2,1
+1,1
+3,1
+0,1
+0,1
+0,1
+1,1
+1,1
+0,0
+0,1
+0,1
+2,1
+1,0
+1,1
+3,1
+1,1
+3,1
+0,1
+0,1
+3,1
+0,1
+0,1
+0,1
+1,1
+1,1
+3,1
+2,1
+1,1
+2,1
+1,1
+3,1
+1,1
+0,1
+2,1
+0,1
+3,1
+3,1
+3,1
+1,1
+3,1
+1,1
+3,1
+2,1
+3,1
+1,1
+3,1
+1,1
+3,1
+0,1
+0,1
+0,1
+0,0
+0,1
+3,1
+3,1
+2,1
+2,1
+3,1
+0,1
+2,1
+1,1
+2,1
+3,1
+3,1
+1,1
+0,1
+3,1
+0,1
+0,1
+2,1
+1,1
+2,0
+3,1
+0,1
+0,1
+3,1
+0,1
+1,1
+2,1
+2,1
+3,1
+0,1
+3,1
+2,1
+1,1
+3,1
+3,1
+0,1
+1,1
+2,0
+1,1
+1,1
+0,1
+2,1
+2,1
+3,1
+0,1
+1,1
+2,1
+3,1
+1,1
+2,1
+2,1
+3,1
+3,1
+0,1
+2,1
+3,1
+1,1
+1,1
+3,1
+0,1
+1,1
+2,1
+0,1
+2,1
+0,1
+3,1
+2,1
+2,1
+1,1
+2,1
+1,1
+3,1
+1,1
+0,1
+3,1
+1,1
+3,1
+3,1
+2,1
+1,1
+2,1
+3,1
+3,1
+0,1
+1,1
+0,0
+3,1
+1,1
+0,1
+3,1
+3,1
+3,1
+0,1
+2,1
+1,1
+1,1
+3,1
+3,1
+0,1
+1,1
+1,1
+2,1
+0,1
+1,1
+2,1
+3,1
+3,1
+1,1
+0,0
+1,1
+0,1
+0,1
+0,1
+3,1
+1,1
+1,1
+3,1
+1,1
+1,0
+1,1
+0,1
+0,1
+0,1
+1,1
+0,1
+0,1
+2,1
+2,1
+0,1
+0,1
+3,1
+0,1
+0,1
+0,1
+2,1
+0,1
+3,1
+2,1
+1,1
+3,1
+1,1
+1,1
+0,1
+2,1
+1,1
+2,1
+1,1
+0,1
+3,1
+2,1
+1,1
+2,1
+2,1
+1,1
+1,1
+0,0
+2,1
+1,1
+1,1
+3,1
+0,1
+3,1
+1,1
+1,1
+2,1
+3,1
+2,0
+1,1
+1,1
+3,1
+1,1
+0,1
+3,1
+0,1
+2,1
+2,1
+3,1
+2,1
+3,1
+2,1
+3,1
+2,1
+3,1
+1,1
+0,0
+3,1
+2,1
+3,1
+1,1
+0,1
+2,1
+0,1
+0,1
+2,1
+3,1
+3,1
+2,1
+2,1
+2,1
+3,1
+0,0
+2,1
+1,1
+1,1
+3,1
+0,0
+1,1
+1,1
+3,1
+0,1
+0,1
+0,1
+1,1
+3,1
+0,1
+0,1
+3,1
+2,1
+3,1
+3,1
+3,1
+3,1
+2,1
+1,1
+3,1
+2,1
+0,1
+0,1
+3,1
+0,1
+0,1
+3,1
+0,0
+3,1
+1,1
+1,1
+3,1
+2,1
+0,1
+3,1
+1,1
+3,1
+2,1
+1,1
+1,1
+1,1
+2,1
+0,1
+1,1
+1,0
+3,1
+3,1
+3,1
+1,1
+1,1
+2,1
+0,1
+3,1
+0,1
+2,0
+0,1
+0,1
+2,1
+1,1
+3,1
+1,1
+3,1
+1,1
+2,1
+3,1
+2,1
+1,1
+1,1
+2,1
+1,1
+3,1
+2,1
+0,1
+2,1
+2,1
+0,1
+1,1
+0,0
+2,1
+0,1
+2,1
+2,1
+2,1
+0,1
+0,1
+0,1
+0,1
+1,1
+0,0
+2,1
+1,0
+2,1
+3,1
+0,1
+1,1
+1,1
+1,1
+2,1
+2,1
+3,1
+0,1
+1,1
+2,1
+3,1
+1,1
+1,0
+0,1
+0,1
+0,1
+2,1
+2,1
+2,0
+1,1
+0,1
+2,1
+0,1
+1,1
+3,1
+2,1
+1,1
+2,1
+1,1
+3,1
+3,1
+3,1
+2,1
+3,0
+2,0
+2,1
+2,1
+2,1
+3,1
+0,0
+0,1
+2,1
+3,1
+2,1
+1,1
+3,1
+0,1
+1,1
+3,1
+3,1
+3,1
+1,1
+0,1
+3,0
+2,1
+2,1
+0,1
+0,1
+0,1
+0,1
+2,1
+0,1
+0,1
+2,1
+1,1
+2,1
+1,1
+0,1
+2,1
+0,1
+0,1
+2,1
+0,1
+3,1
+2,1
+3,1
+1,0
+2,1
+3,1
+0,1
+3,1
+3,1
+1,1
+3,1
+3,1
+1,1
+3,1
+0,1
+2,1
+1,1
+2,1
+3,1
+3,1
+2,1
+3,1
+0,1
+3,1
+2,1
+3,1
+3,1
+0,1
+1,1
+3,1
+3,1
+2,1
+2,1
+0,1
+3,1
+3,1
+2,1
+1,0
+1,1
+2,1
+3,1
+1,1
+3,1
+3,1
+0,1
+3,1
+2,1
+2,1
+3,1
+0,1
+0,1
+2,1
+0,1
+0,1
+0,1
+0,1
+1,1
+2,1
+0,0
+0,1
+1,1
+3,1
+0,1
+0,1
+0,1
+0,0
+2,0
+1,1
+1,1
+1,1
+1,1
+1,0
+0,1
+0,0
+0,0
+2,1
+3,1
+0,1
+1,1
+2,1
+0,1
+2,1
+1,1
+0,1
+0,1
+1,1
+0,1
+3,1
+1,1
+2,1
+0,1
+0,0
+2,1
+0,1
+3,1
+2,1
+3,1
+3,1
+0,1
+3,1
+1,1
+0,1
+0,1
+3,1
+3,1
+2,1
+0,1
+2,1
+0,1
+1,0
+0,1
+2,1
+1,1
+2,0
+0,0
+2,1
+1,1
+2,1
+1,1
+1,1
+0,1
+0,1
+2,1
+2,1
+0,1
+0,1
+0,1
+1,1
+3,1
+2,1
+0,1
+2,1
+3,1
+2,1
+2,1
+3,1
+0,1
+2,1
+1,1
+1,1
+2,0
+0,1
+0,1
+2,0
+2,1
+0,1
+3,1
+0,1
+3,1
+1,0
+1,0
+1,1
+3,1
+2,1
+2,1
+2,1
+1,1
+3,1
+2,1
+2,1
+1,1
+1,1
+0,0
+2,1
+3,1
+1,1
+2,1
+1,1
+0,1
+0,1
+3,1
+1,1
+2,1
+1,1
+3,1
+0,1
+2,1
+0,1
+2,1
+2,1
+1,1
+0,1
+2,1
+1,1
+2,1
+1,1
+2,1
+2,1
+3,1
+0,1
+2,1
+0,1
+3,1
+3,1
+3,1
+2,1
+1,0
+2,1
+2,1
+0,1
+0,1
+2,1
+3,1
+2,1
+1,1
+1,1
+1,1
+2,1
+1,0
+1,1
+3,1
+1,1
+3,1
+2,1
+1,1
+2,1
+1,1
+2,1
+3,1
+2,1
+1,1
+3,1
+3,1
+2,1
+3,1
+1,1
+0,1
+0,1
+3,1
+2,1
+1,1
+0,1
+2,1
+1,1
+2,1
+3,1
+1,1
+1,1
+3,1
+0,1
+2,1
+0,1
+3,1
+2,1
+1,1
+1,1
+3,1
+2,1
+2,1
+0,0
+3,1
+0,1
+3,0
+0,1
+1,1
+0,1
+2,1
+0,1
+0,1
+0,1
+3,1
+0,0
+1,1
+0,1
+1,1
+0,1
+2,1
+2,1
+1,1
+2,1
+3,1
+1,1
+0,1
+3,1
+3,1
+2,1
+3,1
+1,1
+0,1
+1,0
+1,0
+0,1
+2,1
+3,1
+0,1
+2,1
+3,1
+0,1
+1,1
+3,1
+2,1
+1,1
+0,1
+1,1
+2,1
+0,1
+1,1
+1,1
+2,1
+0,1
+2,1
+0,1
+2,1
+3,1
+1,1
+0,1
+2,2
+3,1
+0,1
+1,1
+3,1
+2,1
+1,1
+1,1
+3,1
+1,1
+3,0
+2,1
+0,0
+1,1
+1,0
+2,1
+0,1
+1,1
+1,1
+3,1
+3,1
+1,0
+2,1
+0,1
+1,1
+1,1
+0,0
+0,1
+1,1
+0,1
+1,1
+1,1
+3,1
+2,2
+2,1
+2,1
+3,1
+3,1
+1,1
+2,1
+1,1
+2,1
+3,1
+2,1
+2,1
+0,1
+1,1
+1,1
+3,1
+3,1
+1,1
+3,1
+0,1
+0,1
+2,1
+3,1
+0,1
+1,1
+2,1
+3,0
+2,1
+1,1
+0,1
+3,1
+1,1
+3,1
+0,1
+2,1
+1,1
+1,1
+3,1
+3,1
+0,1
+1,1
+3,0
+1,1
+3,1
+2,1
+0,1
+1,1
+0,1
+2,1
+3,1
+0,1
+2,1
+0,1
+3,1
+2,1
+3,1
+1,1
+1,1
+3,1
+1,1
+2,1
+3,1
+2,1
+2,1
+0,1
+3,1
+0,1
+2,1
+3,1
+0,1
+1,1
+0,1
+0,1
+2,1
+3,1
+2,1
+0,0
+3,1
+0,1
+2,1
+1,1
+2,1
+2,1
+0,0
+1,1
+0,1
+1,1
+0,1
+3,1
+0,1
+3,1
+0,1
+3,1
+0,1
+3,1
+1,0
+2,1
+2,1
+3,1
+0,1
+3,1
+2,0
+2,1
+0,1
+3,1
+3,1
+1,1
+2,1
+3,1
+3,1
+1,1
+3,1
+3,1
+2,1
+3,1
+0,1
+1,1
+3,1
+0,1
+1,1
+2,1
+3,1
+0,1
+2,1
+2,1
+3,1
+1,1
+1,0
+2,1
+3,1
+2,1
+2,1
+3,1
+1,0
+1,1
+2,1
+3,1
+1,1
+1,1
+3,1
+2,1
+2,1
+1,0
+0,1
+0,1
+0,1
+0,1
+3,1
+3,1
+1,1
+2,1
+2,1
+3,1
+3,1
+3,1
+3,1
+0,1
+3,1
+3,1
+3,1
+1,1
+3,1
+3,1
+2,1
+3,1
+1,1
+2,1
+2,1
+1,1
+3,1
+3,1
+2,1
+1,1
+0,1
+1,1
+0,1
+2,1
+0,1
+3,0
+0,1
+3,1
+0,1
+1,1
+1,1
+0,1
+3,1
+2,1
+3,1
+1,1
+2,1
+0,1
+1,1
+0,0
+3,1
+1,1
+0,1
+2,1
+1,1
+1,1
+3,1
+2,1
+1,0
+3,1
+3,1
+1,1
+0,1
+1,1
+1,1
+3,1
+1,1
+1,1
+3,1
+2,1
+2,1
+3,1
+1,1
+0,1
+1,1
+3,2
+2,1
+1,1
+0,1
+3,1
+3,1
+0,1
+0,1
+1,1
+2,1
+1,1
+0,1
+2,1
+3,1
+1,1
+2,1
+3,1
+2,1
+2,0
+3,1
+2,1
+3,1
+0,1
+2,1
+3,1
+1,1
+1,1
+3,1
+3,1
+2,0
+3,1
+1,1
+2,1
+3,1
+2,1
+2,1
+3,1
+0,1
+3,1
+1,1
+0,1
+2,1
+3,1
+1,1
+2,0
+2,1
+3,1
+1,1
+1,0
+1,1
+1,1
+0,1
+0,1
+0,1
+1,1
+3,1
+0,1
+0,1
+2,1
+1,1
+1,1
+1,1
+0,1
+2,1
+0,1
+1,1
+2,1
+3,1
+0,1
+3,1
+0,0
+3,0
+1,1
+2,1
+1,0
+2,1
+2,1
+0,1
+3,1
+3,1
+1,1
+2,1
+0,1
+2,1
+1,1
+0,1
+2,1
+3,1
+0,1
+0,1
+2,1
+2,1
+3,1
+1,1
+2,1
+3,1
+0,1
+3,1
+0,1
+3,1
+2,1
+2,1
+3,1
+2,1
+2,1
+2,1
+0,1
+0,1
+2,1
+1,1
+2,0
+2,1
+1,1
+2,1
+1,1
+1,1
+2,1
+3,1
+3,1
+3,1
+3,1
+0,1
+3,1
+3,1
+2,1
+0,1
+0,1
+3,1
+0,1
+3,1
+2,1
+0,1
+0,1
+2,1
+2,1
+2,1
+0,0
+2,1
+2,1
+2,1
+1,1
+2,1
+2,1
+3,1
+1,1
+0,1
+0,1
+3,1
+0,1
+0,1
+0,1
+0,1
+2,1
+3,1
+0,1
+2,1
+0,1
+1,1
+2,1
+0,1
+3,1
+0,1
+2,1
+0,1
+3,1
+2,1
+2,1
+3,1
+2,1
+2,1
+1,1
+2,1
+2,1
+3,1
+1,1
+1,1
+0,1
+1,1
+3,0
+3,1
+0,1
+2,1
+3,1
+2,1
+3,1
+2,1
+3,1
+1,1
+2,1
+0,1
+0,1
+3,1
+3,1
+0,1
+3,1
+1,1
+2,1
+3,1
+1,1
+1,1
+2,1
+0,1
+2,1
+2,1
+2,1
+1,1
+3,1
+2,1
+3,1
+3,1
+2,1
+0,1
+2,1
+0,1
+1,1
+0,1
+3,1
+3,1
+2,1
+3,1
+1,1
+3,1
+3,1
+1,0
+3,1
+0,0
+2,1
+1,1
+1,1
+0,1
+2,1
+3,1
+2,1
+0,1
+1,1
+2,1
+2,1
+0,1
+2,1
+2,1
+0,1
+2,0
+0,1
+3,1
+1,1
+0,1
+0,1
+1,1
+3,1
+3,1
+0,1
+3,1
+1,0
+1,1
+0,1
+0,1
+1,1
+3,0
+0,1
+2,1
+1,1
+1,1
+0,1
+2,1
+3,1
+2,1
+1,1
+2,1
+2,1
+2,1
+2,1
+2,1
+3,1
+0,1
+2,0
+3,1
+0,1
+1,1
+3,1
+0,1
+0,1
+1,1
+0,1
+0,1
+1,1
+2,1
+2,1
+2,1
+1,1
+1,1
+2,0
+1,1
+1,1
+0,1
+1,0
+1,1
+0,1
+2,1
+1,1
+0,1
+2,1
+2,1
+3,1
+1,0
+3,1
+1,1
+0,1
+2,1
+1,1
+0,1
+3,1
+0,1
+0,0
+2,1
+2,1
+0,1
+0,1
+3,1
+3,1
+3,1
+1,1
+2,1
+1,1
+2,1
+3,1
+0,1
+1,1
+0,1
+2,1
+3,1
+0,1
+0,1
+3,1
+2,1
+0,1
+1,1
+0,1
+0,1
+3,1
+0,1
+2,1
+3,1
+2,1
+3,1
+2,1
+2,1
+0,1
+1,1
+1,1
+2,1
+1,1
+3,1
+3,1
+3,1
+3,1
+3,1
+2,1
+1,1
+3,1
+2,1
+1,1
+2,1
+2,1
+2,1
+0,1
+0,1
+2,1
+3,1
+3,1
+3,1
+0,1
+1,1
+2,1
+2,1
+0,1
+2,1
+2,0
+1,1
+2,1
+0,1
+3,1
+1,1
+3,1
+3,1
+1,1
+0,1
+2,1
+3,0
+3,1
+0,1
+2,1
+0,1
+2,1
+1,1
+1,1
+0,1
+2,1
+3,1
+0,1
+1,1
+0,1
+0,1
+1,1
+0,1
+1,1
+1,1
+0,1
+2,1
+2,1
+0,0
+0,1
+0,1
+1,1
+0,1
+1,1
+3,1
+2,1
+3,1
+2,1
+0,1
+0,1
+3,1
+1,1
+3,1
+1,1
+2,1
+3,1
+0,1
+0,1
+1,1
+2,1
+2,1
+0,1
+3,1
+0,1
+3,1
+2,1
+2,1
+2,1
+0,1
+3,1
+1,1
+2,1
+0,1
+3,1
+0,1
+2,1
+2,1
+2,1
+0,1
+0,1
+2,1
+2,1
+0,1
+0,1
+3,1
+0,1
+2,1
+2,1
+0,1
+1,1
+1,1
+1,1
+1,1
+0,1
+1,1
+1,1
+1,1
+2,1
+2,1
+2,1
+2,1
+0,0
+1,1
+1,1
+2,1
+1,1
+2,1
+2,1
+0,1
+1,1
+0,1
+2,1
+2,1
+1,0
+1,1
+2,1
+3,1
+1,1
+1,1
+3,1
+2,1
+1,0
+3,1
+3,1
+2,1
+1,1
+2,1
+2,1
+2,1
+1,1
+3,1
+1,1
+3,1
+0,1
+3,1
+0,1
+2,1
+0,1
+0,1
+1,1
+0,1
+0,1
+0,1
+3,1
+2,1
+3,1
+1,1
+1,1
+0,1
+3,1
+1,1
+2,1
+0,1
+2,1
+1,0
+2,1
+0,1
+2,1
+0,1
+3,1
+3,1
+2,1
+2,1
+0,1
+2,1
+0,0
+2,1
+0,1
+2,1
+3,1
+0,0
+3,1
+1,1
+0,1
+1,1
+1,1
+0,1
+1,1
+3,1
+2,1
+1,1
+2,1
+2,1
+2,1
+2,1
+0,1
+3,1
+1,1
+3,1
+0,1
+1,1
+0,1
+0,1
+3,1
+1,1
+1,1
+1,1
+2,1
+3,1
+2,1
+1,1
+0,1
+3,1
+3,1
+1,1
+3,1
+0,1
+2,1
+3,1
+3,1
+2,0
+1,1
+1,1
+3,1
+2,1
+1,1
+0,1
+0,1
+1,1
+1,1
+3,1
+3,1
+0,1
+0,1
+2,1
+0,1
+3,1
+2,1
+2,1
+3,1
+1,1
+1,1
+2,1
+0,1
+0,1
+0,1
+0,1
+0,0
+0,1
+1,1
+3,1
+2,1
+0,1
+3,1
+3,1
+1,1
+2,1
+3,1
+3,1
+3,1
+1,1
+0,1
+2,1
+1,1
+1,0
+0,1
+1,1
+3,1
+0,0
+1,1
+1,1
+0,1
+0,1
+3,0
+3,1
+0,1
+3,1
+2,1
+0,1
+0,1
+0,1
+1,1
+2,1
+3,1
+1,0
+2,1
+0,0
+3,1
+2,1
+3,1
+0,1
+2,1
+3,1
+2,1
+0,1
+2,1
+2,0
+0,1
+1,1
+0,1
+0,1
+0,1
+2,1
+2,1
+3,1
+3,1
+1,1
+2,1
+2,1
+3,1
+1,1
+2,1
+0,1
+2,1
+1,1
+0,1
+3,1
+1,1
+2,1
+3,1
+3,0
+1,1
+0,1
+3,1
+2,1
+3,1
+1,1
+0,1
+0,1
+0,1
+3,1
+0,1
+0,1
+3,1
+1,1
+3,0
+0,1
+2,1
+0,1
+1,1
+1,1
+2,1
+3,1
+3,1
+0,1
+3,1
+1,1
+0,1
+2,1
+2,1
+3,1
+1,1
+1,0
+2,1
+3,1
+2,1
+3,1
+3,1
+2,1
+1,1
+3,1
+2,1
+3,1
+0,1
+2,1
+1,1
+1,1
+2,1
+1,1
+2,1
+1,1
+3,1
+0,1
+1,1
+1,1
+0,1
+3,1
+3,1
+0,1
+0,1
+1,1
+3,1
+1,1
+1,1
+1,1
+0,1
+3,1
+3,1
+1,1
+0,1
+1,1
+3,1
+3,1
+1,1
+1,1
+3,1
+2,1
+0,1
+1,1
+2,1
+0,1
+0,1
+2,1
+2,1
+0,1
+1,1
+2,1
+3,1
+2,1
+0,1
+3,1
+1,1
+1,1
+3,1
+0,1
+2,1
+0,1
+1,1
+3,1
+3,1
+2,1
+3,1
+0,1
+2,1
+3,1
+2,1
+1,1
+1,1
+1,1
+0,1
+0,0
+2,1
+2,1
+2,1
+0,1
+1,1
+3,1
+1,1
+3,1
+3,1
+0,1
+0,0
+3,1
+3,1
+0,1
+3,0
+2,0
+1,1
+2,1
+1,1
+1,1
+0,1
+1,1
+2,1
+1,1
+3,1
+1,1
+1,0
+2,1
+0,0
+1,1
+3,1
+0,1
+0,1
+1,1
+3,1
+0,1
+3,1
+2,1
+2,1
+1,1
+3,1
+3,1
+2,1
+1,1
+0,1
+1,1
+2,1
+1,1
+2,1
+3,1
+3,1
+3,1
+2,1
+1,1
+0,0
+0,1
+3,1
+1,1
+1,0
+3,1
+3,1
+1,1
+0,1
+0,1
+0,1
+2,1
+2,0
+2,1
+2,1
+3,1
+3,1
+1,1
+0,1
+2,1
+2,1
+3,1
+1,1
+0,1
+1,1
+0,1
+2,1
+2,1
+2,1
+1,1
+3,1
+2,1
+1,1
+1,1
+0,1
+0,1
+1,1
+3,1
+1,1
+0,1
+0,1
+2,1
+1,0
+3,1
+2,1
+3,1
+0,1
+3,1
+2,1
+0,1
+2,1
+2,1
+1,1
+2,1
+0,1
+1,1
+0,1
+3,1
+2,1
+0,1
+0,1
+3,1
+3,1
+2,1
+3,1
+1,1
+0,1
+3,1
+3,1
+2,1
+0,1
+1,1
+2,1
+2,1
+3,1
+3,1
+3,1
+1,1
+3,1
+3,1
+0,1
+2,1
+2,1
+2,1
+3,1
+0,1
+1,1
+3,0
+3,0
+2,1
+2,1
+0,1
+0,1
+3,1
+1,1
+0,1
+0,1
+3,0
+3,1
+3,1
+1,1
+0,1
+1,0
+3,1
+2,1
+3,1
+0,1
+1,1
+2,1
+1,1
+1,1
+0,1
+3,1
+3,1
+1,0
+3,1
+1,1
+1,1
+0,1
+3,1
+3,1
+2,1
+3,1
+0,1
+2,1
+2,1
+3,1
+3,1
+2,1
+2,1
+2,1
+3,1
+1,1
+0,1
+1,1
+0,1
+1,1
+3,1
+3,1
+1,1
+3,1
+3,1
+2,1
+0,1
+2,1
+2,1
+3,1
+0,1
+0,1
+3,1
+0,1
+0,1
+0,1
+0,1
+3,1
+0,1
+1,1
+0,0
+1,1
+1,1
+2,1
+2,1
+1,1
+0,1
+0,1
+0,1
+1,1
+1,1
+0,1
+1,1
+1,1
+1,1
+3,1
+1,1
+0,1
+1,0
+2,1
+0,1
+0,1
+3,1
+1,1
+1,1
+2,1
+1,1
+2,1
+3,1
+2,1
+0,1
+0,1
+1,1
+2,1
+3,1
+1,1
+2,1
+1,1
+1,1
+3,1
+1,1
+3,1
+1,1
+0,1
+2,1
+0,1
+0,0
+1,1
+1,1
+0,1
+1,1
+3,1
+1,1
+3,1
+0,1
+0,1
+1,1
+2,1
+3,1
+0,1
+3,1
+1,1
+3,1
+1,1
+0,1
+2,1
+0,1
+1,1
+1,1
+3,1
+2,1
+0,1
+1,1
+3,1
+0,1
+3,1
+3,1
+2,1
+1,1
+1,0
+1,1
+2,1
+0,1
+1,0
+2,1
+1,1
+1,0
+1,1
+1,1
+0,1
+3,1
+2,1
+0,1
+3,1
+1,1
+2,1
+2,1
+1,1
+1,1
+2,1
+0,1
+2,1
+0,0
+3,1
+0,1
+1,1
+1,1
+3,1
+2,1
+3,1
+0,1
+1,0
+3,1
+2,1
+2,1
+2,1
+1,1
+0,0
+3,1
+1,1
+3,1
+1,1
+3,1
+3,1
+0,1
+0,1
+3,1
+2,1
+3,1
+0,0
+2,1
+1,1
+1,1
+2,1
+3,0
+3,1
+1,1
+3,1
+3,1
+3,1
+3,1
+3,1
+1,1
+2,0
+0,1
+2,1
+0,1
+3,1
+2,0
+2,1
+3,1
+1,1
+0,1
+1,1
+1,1
+3,1
+0,1
+3,1
+0,1
+2,1
+3,1
+0,1
+0,0
+1,0
+3,1
+1,1
+1,1
+3,1
+0,1
+3,1
+0,1
+3,1
+2,1
+3,1
+2,1
+0,1
+2,1
+0,1
+3,1
+0,1
+1,1
+1,1
+1,1
+0,1
+2,0
+0,1
+1,0
+2,1
+3,1
+2,1
+1,1
+1,0
+3,1
+0,1
+3,1
+1,1
+1,1
+3,1
+1,1
+2,1
+2,1
+2,1
+3,1
+3,1
+3,1
+0,0
+2,1
+2,1
+0,1
+1,1
+1,1
+0,1
+1,1
+1,0
+2,1
+1,1
+0,1
+1,1
+0,1
+1,1
+0,1
+3,1
+0,1
+0,1
+3,1
+3,1
+2,1
+3,1
+3,1
+3,1
+1,0
+1,1
+0,1
+0,1
+0,1
+1,1
+1,1
+0,1
+1,1
+1,1
+0,1
+0,1
+0,1
+2,1
+1,0
+2,1
+0,1
+3,1
+2,1
+2,1
+2,1
+2,0
+3,1
+1,1
+1,1
+0,1
+3,1
+2,1
+2,1
+2,1
+1,1
+2,1
+0,1
+0,1
+1,1
+1,1
+0,1
+0,1
+1,1
+1,1
+1,1
+0,1
+2,1
+2,1
+1,1
+2,1
+1,1
+3,1
+0,1
+1,2
+2,1
+1,1
+0,1
+0,1
+0,1
+3,1
+3,1
+2,1
+3,1
+0,1
+1,1
+1,1
+2,1
+0,1
+2,1
+2,1
+1,1
+2,1
+2,1
+3,1
+1,1
+1,1
+3,1
+1,0
+3,1
+0,1
+1,1
+1,1
+3,1
+2,1
+2,1
+1,1
+0,1
+0,1
+1,1
+1,1
+0,1
+0,1
+0,1
+1,1
+2,1
+1,1
+0,1
+3,1
+1,1
+1,1
+3,1
+0,1
+0,1
+2,1
+2,1
+0,1
+3,1
+0,1
+1,1
+0,1
+2,0
+2,1
+0,1
+2,1
+0,1
+2,1
+2,1
+1,1
+0,1
+0,1
+0,1
+3,1
+2,0
+0,1
+2,1
+1,1
+1,1
+2,1
+1,1
+3,0
+3,1
+2,1
+0,1
+3,1
+2,1
+2,1
+1,1
+1,1
+0,1
+2,1
+0,1
+1,1
+1,1
+1,1
+2,1
+3,1
+1,1
+0,1
+3,1
+2,1
+3,1
+1,1
+1,0
+1,1
+2,1
+2,1
+0,1
+1,1
+0,1
+3,1
+0,0
+2,1
+3,1
+3,1
+1,1
+2,1
+0,1
+2,1
+2,1
+0,1
+1,1
+3,1
+2,1
+1,1
+1,1
+3,1
+2,1
+1,1
+0,1
+2,1
+2,1
+2,1
+0,1
+2,1
+0,1
+3,1
+1,1
+3,1
+3,1
+0,1
+3,1
+0,1
+3,1
+3,1
+0,1
+0,1
+2,0
+2,1
+2,1
+3,1
+3,1
+2,1
+2,1
+0,1
+2,1
+0,1
+2,1
+1,1
+3,1
+2,1
+3,1
+0,1
+1,1
+3,1
+2,1
+2,1
+0,1
+2,0
+0,1
+1,1
+1,1
+3,1
+0,1
+2,0
+2,1
+1,0
+1,1
+3,1
+2,1
+0,1
+1,1
+0,1
+2,1
+3,1
+0,1
+2,1
+2,1
+3,1
+0,1
+0,1
+0,1
+2,1
+3,1
+1,1
+0,1
+0,1
+0,1
+2,1
+0,1
+2,1
+0,1
+1,1
+3,1
+0,1
+1,1
+1,1
+2,1
+0,1
+1,1
+0,1
+3,1
+1,1
+1,1
+0,1
+3,1
+2,1
+1,1
+0,1
+3,1
+2,1
+3,1
+2,1
+2,1
+3,1
+3,1
+1,1
+1,1
+2,1
+1,1
+2,1
+3,1
+0,1
+3,1
+3,1
+2,1
+0,1
+1,1
+1,1
+3,1
+0,1
+0,1
+2,0
+3,1
+2,1
+3,1
+2,1
+2,1
+0,1
+1,1
+3,1
+1,1
+0,1
+0,1
+3,1
+0,1
+0,1
+0,1
+1,0
+3,1
+0,1
+1,1
+0,1
+3,1
+2,0
+2,1
+2,1
+0,1
+2,0
+2,1
+3,1
+2,1
+2,1
+2,1
+1,1
+2,1
+2,1
+3,1
+0,1
+2,1
+0,1
+2,1
+0,1
+3,1
+2,1
+0,1
+2,1
+1,1
+3,1
+0,1
+2,1
+3,1
+2,1
+2,1
+1,1
+3,1
+2,1
+0,1
+0,1
+0,1
+2,1
+2,1
+3,1
+1,1
+3,1
+3,1
+3,1
+1,1
+3,1
+1,1
+1,1
+1,1
+2,1
+1,1
+3,1
+2,1
+1,1
+0,1
+3,1
+3,1
+1,0
+0,1
+0,1
+1,1
+0,1
+3,1
+3,1
+2,1
+0,1
+3,1
+0,0
+2,0
+0,1
+1,1
+0,1
+1,1
+0,1
+3,1
+0,1
+2,1
+2,1
+1,1
+1,1
+0,1
+2,1
+0,1
+3,1
+0,1
+0,1
+0,1
+1,0
+2,1
+0,1
+3,1
+0,1
+2,1
+3,1
+2,0
+3,1
+1,1
+2,1
+0,1
+0,1
+2,1
+0,1
+3,1
+3,1
+1,1
+3,1
+2,1
+2,1
+3,1
+2,1
+1,1
+1,1
+1,1
+1,1
+0,1
+1,1
+0,1
+1,1
+1,1
+3,1
+1,1
+0,1
+3,1
+2,1
+1,1
+2,1
+0,1
+3,1
+3,1
+0,1
+2,1
+1,1
+0,1
+3,1
+3,1
+0,1
+2,0
+2,0
+2,1
+3,1
+0,1
+1,1
+1,1
+0,1
+3,1
+1,1
+3,1
+3,1
+2,1
+2,1
+3,1
+3,1
+2,1
+1,1
+0,1
+3,1
+2,1
+3,1
+0,1
+0,1
+3,1
+2,0
+3,1
+3,1
+3,1
+1,1
+2,0
+1,1
+2,0
+0,1
+0,1
+2,1
+0,0
+2,1
+1,1
+3,0
+0,1
+2,1
+3,1
+3,1
+2,0
+1,1
+0,1
+3,1
+0,1
+0,1
+3,1
+0,1
+1,1
+3,1
+3,1
+2,1
+2,1
+2,1
+3,1
+0,1
+3,1
+0,1
+3,1
+1,1
+3,1
+3,1
+1,1
+0,1
+3,1
+3,1
+0,1
+1,1
+1,1
+2,1
+3,1
+0,1
+1,1
+0,1
+1,0
+3,1
+3,1
+3,1
+2,1
+2,1
+0,1
+2,1
+0,1
+3,1
+1,1
+1,1
+2,1
+3,1
+2,1
+3,1
+0,1
+3,1
+0,0
+1,0
+1,1
+3,1
+0,1
+2,2
+2,1
+3,0
+0,1
+2,1
+1,1
+2,1
+0,1
+2,1
+1,1
+1,1
+3,1
+3,1
+1,1
+3,1
+3,1
+3,1
+2,0
+3,1
+2,1
+0,1
+3,1
+1,0
+3,1
+2,1
+1,1
+1,1
+2,1
+1,1
+1,0
+2,1
+3,1
+2,1
+3,1
+3,1
+0,1
+1,1
+1,1
+1,0
+1,1
+3,1
+1,1
+2,1
+2,0
+2,1
+0,1
+0,1
+1,1
+3,1
+3,1
+2,1
+2,1
+2,1
+1,1
+0,1
+2,1
+0,1
+2,1
+2,1
+1,1
+3,1
+0,1
+3,1
+1,1
+1,1
+1,0
+0,1
+3,1
+1,1
+1,1
+2,0
+0,1
+3,1
+0,1
+1,1
+3,1
+2,1
+3,1
+0,1
+1,1
+2,1
+0,1
+0,1
+0,1
+0,1
+0,1
+2,1
+3,1
+0,1
+3,2
+2,1
+3,1
+1,1
+3,1
+3,1
+0,0
+3,1
+1,1
+1,1
+1,1
+3,1
+3,1
+1,1
+3,1
+0,1
+2,1
+2,1
+0,1
+2,1
+2,1
+1,1
+0,1
+0,1
+0,0
+1,1
+1,1
+1,1
+2,1
+1,1
+2,1
+0,1
+0,1
+1,1
+2,1
+0,1
+2,1
+3,1
+3,1
+3,1
+0,1
+0,1
+1,1
+2,1
+1,1
+2,1
+1,0
+0,1
+3,1
+0,1
+2,1
+3,1
+3,1
+3,1
+3,1
+2,1
+3,1
+0,1
+2,1
+1,0
+2,1
+3,1
+1,1
+3,1
+0,1
+3,1
+3,1
+3,1
+0,1
+0,1
+2,1
+3,1
+3,1
+3,1
+1,1
+3,1
+1,1
+3,1
+3,1
+3,1
+0,1
+3,1
+1,1
+1,1
+0,1
+3,1
+2,1
+2,1
+2,0
+1,1
+1,1
+0,1
+3,1
+3,1
+2,1
+0,1
+1,1
+2,1
+1,1
+0,1
+2,1
+3,1
+0,1
+0,1
+1,1
+1,1
+2,1
+1,1
+3,0
+2,1
+1,1
+1,1
+2,0
+3,1
+1,1
+3,1
+2,0
+3,1
+2,1
+3,1
+1,1
+2,1
+2,1
+0,1
+2,1
+3,1
+2,1
+2,1
+2,1
+0,1
+1,1
+0,1
+0,1
+1,1
+1,1
+3,1
+0,1
+0,1
+1,1
+3,1
+1,1
+2,1
+0,1
+2,1
+2,1
+3,1
+1,1
+2,1
+2,1
+1,0
+1,1
+0,1
+2,1
+1,1
+2,1
+1,1
+3,1
+2,1
+1,1
+2,1
+2,1
+0,1
+3,1
+2,1
+2,1
+2,1
+1,1
+3,1
+2,1
+2,1
+3,0
+2,0
+3,1
+2,1
+3,1
+2,1
+2,1
+2,1
+1,1
+2,1
+3,1
+0,1
+2,1
+2,1
+0,1
+1,1
+3,1
+3,1
+0,0
+1,1
+0,1
+2,1
+0,1
+3,1
+0,1
+0,1
+0,1
+1,1
+0,1
+3,1
+1,1
+1,1
+2,1
+0,1
+1,1
+2,1
+1,1
+0,1
+3,1
+0,1
+0,1
+1,0
+0,1
+2,1
+3,1
+1,1
+0,1
+1,1
+3,1
+2,1
+1,1
+0,1
+0,1
+0,1
+2,1
+0,1
+0,1
+0,1
+1,0
+0,1
+1,1
+3,1
+0,1
+3,1
+2,1
+2,0
+1,1
+1,1
+2,1
+2,1
+3,1
+1,1
+1,1
+0,1
+3,1
+1,1
+3,1
+1,1
+1,1
+0,1
+1,1
+3,1
+0,1
+2,1
+3,1
+0,0
+0,1
+0,0
+2,1
+3,1
+0,1
+3,1
+2,1
+3,1
+2,1
+1,1
+3,1
+2,1
+2,1
+0,1
+1,0
+1,1
+2,1
+3,1
+3,1
+2,1
+3,1
+1,1
+2,1
+2,1
+2,1
+0,1
+2,1
+3,1
+0,1
+1,1
+1,0
+1,1
+0,1
+3,1
+1,1
+3,1
+1,1
+3,1
+0,1
+1,1
+1,1
+1,1
+1,1
+1,1
+2,1
+3,1
+1,0
+1,0
+2,1
+1,1
+3,1
+0,1
+1,1
+0,1
+2,1
+0,1
+3,1
+3,1
+0,1
+1,1
+3,1
+1,0
+1,1
+2,1
+3,1
+3,1
+0,1
+3,1
+3,1
+3,1
+1,1
+3,1
+1,0
+2,1
+0,1
+0,1
+0,1
+2,1
+1,1
+0,1
+2,1
+1,1
+0,1
+1,1
+1,1
+1,1
+3,1
+2,1
+0,1
+2,1
+3,1
+1,1
+0,1
+0,1
+1,1
+2,1
+0,1
+3,1
+3,1
+1,1
+0,1
+3,1
+0,0
+2,1
+3,1
+3,1
+0,1
+0,1
+3,1
+1,1
+3,1
+0,1
+0,1
+0,1
+2,1
+2,1
+1,1
+3,1
+3,1
+1,1
+3,1
+0,1
+2,1
+0,1
+0,1
+1,1
+0,1
+0,1
+1,1
+1,1
+3,1
+0,1
+1,1
+1,1
+2,1
+0,1
+1,1
+2,1
+2,1
+0,1
+1,1
+3,1
+3,1
+2,1
+2,1
+2,1
+3,1
+2,1
+1,1
+1,1
+2,1
+2,1
+0,1
+2,1
+2,1
+0,1
+2,1
+2,1
+2,1
+1,1
+0,1
+0,1
+1,1
+0,1
+0,1
+2,1
+3,1
+3,1
+1,1
+2,1
+3,1
+3,1
+3,1
+2,1
+0,1
+3,1
+2,1
+2,1
+1,1
+0,1
+0,1
+1,1
+1,1
+0,1
+2,1
+1,1
+0,1
+1,0
+0,1
+3,1
+2,1
+3,1
+3,1
+2,1
+0,1
+3,1
+3,1
+1,1
+1,1
+2,1
+3,1
+2,1
+1,1
+1,1
+0,1
+1,1
+1,1
+2,1
+1,1
+0,0
+2,1
+2,1
+0,1
+3,1
+0,0
+2,1
+3,1
+2,1
+1,1
+0,1
+2,1
+0,1
+1,1
+1,1
+3,1
+2,1
+2,1
+3,1
+2,1
+1,1
+3,1
+0,1
+3,1
+3,1
+0,1
+1,1
+1,1
+1,1
+0,1
+0,1
+1,1
+2,1
+0,1
+3,1
+2,1
+1,1
+3,1
+3,0
+0,1
+2,1
+2,1
+0,1
+1,1
+0,1
+3,1
+2,1
+1,1
+1,1
+3,1
+0,1
+2,1
+3,1
+0,1
+3,1
+2,1
+0,1
+1,0
+1,1
+1,1
+1,1
+1,1
+1,1
+3,1
+2,1
+3,1
+1,1
+2,1
+1,1
+0,1
+0,1
+3,1
+2,1
+3,1
+0,1
+3,1
+3,1
+3,1
+2,1
+1,1
+2,1
+2,1
+3,1
+3,1
+3,1
+1,1
+1,0
+3,1
+1,1
+0,1
+3,1
+3,1
+2,1
+0,1
+3,1
+1,1
+2,1
+0,1
+1,1
+0,1
+1,1
+0,1
+3,1
+0,1
+3,1
+1,0
+1,1
+0,1
+0,1
+2,1
+2,1
+0,1
+0,1
+2,1
+2,1
+0,0
+2,1
+1,1
+3,1
+0,1
+3,1
+2,1
+1,1
+2,1
+3,1
+2,1
+2,1
+0,1
+0,1
+0,1
+3,1
+2,0
+1,1
+2,1
+3,1
+1,1
+2,1
+2,1
+1,1
+3,1
+3,1
+2,1
+3,1
+1,0
+0,1
+3,1
+2,0
+1,1
+0,0
+1,1
+3,1
+0,1
+0,1
+2,0
+1,1
+0,1
+2,1
+0,1
+0,0
+2,1
+2,1
+2,1
+2,1
+2,1
+1,1
+0,1
+1,1
+0,1
+3,0
+3,1
+1,1
+0,0
+1,1
+3,1
+1,1
+0,1
+3,2
+3,1
+0,1
+1,1
+3,1
+0,0
+0,1
+0,1
+3,1
+1,1
+3,1
+1,1
+1,1
+1,1
+2,1
+3,1
+1,1
+0,1
+2,1
+3,0
+3,1
+3,1
+1,1
+1,1
+2,1
+0,1
+2,1
+0,1
+2,1
+1,1
+1,0
+0,1
+2,1
+2,1
+3,1
+0,1
+0,1
+3,1
+1,1
+1,1
+3,1
+3,1
+0,1
+3,1
+1,1
+2,1
+1,1
+0,1
+0,1
+2,1
+1,1
+2,1
+2,1
+1,1
+3,1
+3,1
+0,1
+1,1
+1,1
+1,1
+2,0
+2,1
+3,1
+1,1
+3,1
+1,1
+1,1
+3,1
+3,1
+2,1
+3,1
+2,1
+0,1
+3,1
+3,1
+0,1
+3,1
+3,1
+2,1
+0,1
+2,0
+0,1
+3,1
+1,0
+0,1
+2,1
+3,1
+0,1
+1,1
+2,1
+0,1
+3,1
+3,1
+3,1
+0,1
+3,1
+3,1
+1,1
+3,1
+2,1
+3,1
+3,1
+1,1
+0,0
+2,1
+3,1
+0,1
+3,1
+2,1
+3,1
+2,1
+0,1
+3,1
+1,1
+0,1
+2,1
+1,1
+2,1
+1,1
+3,1
+2,1
+1,1
+2,1
+3,1
+0,1
+1,1
+0,1
+2,1
+3,1
+2,1
+3,1
+1,1
+1,1
+1,1
+1,1
+0,1
+2,1
+0,1
+2,1
+1,1
+1,1
+1,1
+3,1
+0,1
+3,0
+3,1
+2,1
+3,0
+3,1
+2,1
+2,1
+0,1
+3,1
+2,1
+2,1
+1,1
+3,1
+2,1
+1,1
+1,1
+2,1
+2,1
+2,0
+3,1
+0,1
+0,1
+2,1
+0,1
+2,1
+0,1
+1,1
+1,1
+2,1
+2,1
+0,1
+1,1
+0,1
+3,1
+1,1
+0,1
+1,1
+1,1
+3,1
+2,1
+2,1
+2,1
+0,1
+1,1
+0,1
+1,1
+2,1
+2,1
+1,1
+1,1
+1,1
+1,1
+1,1
+2,1
+0,1
+2,1
+0,1
+3,1
+0,1
+3,1
+0,1
+1,1
+3,1
+3,1
+2,0
+2,1
+3,1
+1,1
+1,0
+0,1
+3,1
+1,1
+2,1
+3,1
+1,1
+1,1
+1,1
+3,1
+2,1
+1,1
+3,1
+2,1
+1,1
+1,1
+3,1
+1,1
+2,1
+1,1
+0,1
+2,1
+2,1
+1,1
+1,1
+3,1
+3,1
+1,1
+0,1
+2,1
+3,1
+0,1
+0,1
+1,0
+2,0
+1,1
+2,1
+2,1
+2,1
+1,1
+0,1
+2,1
+1,1
+0,1
+3,1
+2,1
+3,1
+2,1
+0,1
+0,1
+2,1
+0,1
+2,1
+1,1
+3,1
+0,1
+1,1
+0,1
+0,1
+3,1
+3,1
+1,1
+3,1
+2,1
+3,1
+1,1
+2,1
+0,1
+2,1
+3,1
+3,1
+0,1
+0,1
+0,1
+0,0
+1,1
+3,1
+1,1
+1,1
+2,0
+3,1
+0,0
+2,1
+1,1
+0,1
+2,1
+0,0
+0,1
+3,1
+1,1
+1,1
+1,0
+0,1
+0,1
+2,1
+3,0
+0,1
+3,1
+0,1
+1,1
+1,1
+3,1
+1,1
+0,1
+3,1
+2,1
+0,1
+2,1
+1,1
+0,1
+1,1
+2,1
+2,1
+3,1
+1,1
+2,1
+1,1
+3,1
+0,1
+1,1
+0,1
+0,1
+0,1
+3,1
+1,1
+2,1
+1,1
+2,0
+2,1
+1,0
+0,1
+1,1
+0,1
+3,1
+3,1
+3,1
+0,1
+2,1
+1,1
+3,1
+0,1
+0,1
+1,1
+2,1
+3,1
+1,1
+2,1
+3,1
+3,1
+1,1
+0,1
+1,0
+1,1
+2,1
+3,1
+1,1
+2,1
+2,1
+1,1
+0,1
+1,1
+1,1
+2,1
+3,1
+2,1
+0,1
+3,1
+0,1
+1,1
+2,1
+2,1
+1,1
+0,1
+2,0
+2,1
+2,1
+3,1
+0,1
+1,0
+0,1
+0,1
+2,1
+2,1
+2,1
+3,1
+3,1
+0,1
+0,1
+3,1
+3,1
+1,1
+1,1
+3,1
+1,1
+0,0
+2,1
+2,1
+0,1
+2,0
+2,1
+2,1
+2,1
+0,1
+2,1
+2,1
+0,1
+0,1
+1,1
+3,1
+1,1
+2,1
+0,1
+3,0
+3,1
+0,1
+0,1
+2,1
+1,1
+2,1
+2,1
+3,1
+3,0
+1,1
+1,1
+1,1
+0,1
+0,1
+3,1
+1,1
+0,1
+2,1
+1,1
+0,1
+0,1
+0,1
+0,0
+3,1
+3,1
+1,1
+0,1
+2,1
+1,1
+1,1
+3,1
+2,1
+1,0
+1,0
+0,1
+0,1
+0,1
+2,1
+2,0
+2,1
+3,1

agnews_test/few_shot_2/gpt2-large/last_token_relative_depth_100/accuracy.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 1900, "1": 1900, "2": 1900, "3": 1900}, "correct_per_class": {"0": 0, "1": 1887, "2": 0, "3": 0}, "net_accuracy": 0.24828947368421053}

agnews_test/few_shot_2/gpt2-large/last_token_relative_depth_100/intrinsic/results.csv

@@ -0,0 +1,37 @@
+Layer,MLE,MLE_Corrected,TwoNN,Gride
+blocks.0.hook_mlp_out,28.619029998779297,23.42728614807129,26.074657440185547,25.23048210144043
+blocks.1.hook_mlp_out,24.384492874145508,20.899961471557617,23.456565856933594,21.88758087158203
+blocks.2.hook_mlp_out,23.439687728881836,20.05660057067871,22.364639282226562,21.050386428833008
+blocks.3.hook_mlp_out,22.818103790283203,19.76755714416504,22.052589416503906,20.48037338256836
+blocks.4.hook_mlp_out,22.861114501953125,19.84869384765625,22.605022430419922,20.43037223815918
+blocks.5.hook_mlp_out,21.808998107910156,18.94097137451172,21.77383804321289,19.110342025756836
+blocks.6.hook_mlp_out,21.37820816040039,18.62952423095703,21.88241195678711,19.040340423583984
+blocks.7.hook_mlp_out,21.222837448120117,18.605308532714844,21.836889266967773,18.920337677001953
+blocks.8.hook_mlp_out,21.59616470336914,18.861433029174805,22.36088752746582,19.290346145629883
+blocks.9.hook_mlp_out,21.560319900512695,18.84614372253418,21.834396362304688,19.484201431274414
+blocks.10.hook_mlp_out,21.9014892578125,18.99800682067871,21.981565475463867,19.702848434448242
+blocks.11.hook_mlp_out,22.46947479248047,19.471851348876953,22.610380172729492,20.040363311767578
+blocks.12.hook_mlp_out,23.454225540161133,20.220027923583984,23.219247817993164,21.09038734436035
+blocks.13.hook_mlp_out,24.095991134643555,20.70397186279297,24.214868545532227,21.46039581298828
+blocks.14.hook_mlp_out,23.59251594543457,20.352783203125,23.629545211791992,21.39039421081543
+blocks.15.hook_mlp_out,24.555652618408203,21.184080123901367,24.35359001159668,22.190412521362305
+blocks.16.hook_mlp_out,24.89063262939453,21.33284568786621,24.01312255859375,22.62042236328125
+blocks.17.hook_mlp_out,24.08285140991211,20.67840576171875,24.141651153564453,21.800403594970703
+blocks.18.hook_mlp_out,24.42690658569336,20.375276565551758,23.75530433654785,21.900405883789062
+blocks.19.hook_mlp_out,23.536174774169922,18.893220901489258,19.944446563720703,21.840404510498047
+blocks.20.hook_mlp_out,24.795166015625,20.001039505004883,20.70732879638672,22.730424880981445
+blocks.21.hook_mlp_out,24.440946578979492,19.743438720703125,20.978214263916016,22.330415725708008
+blocks.22.hook_mlp_out,25.268089294433594,20.284854888916016,22.085100173950195,23.180435180664062
+blocks.23.hook_mlp_out,25.076204299926758,20.409318923950195,21.92853355407715,23.230436325073242
+blocks.24.hook_mlp_out,25.159719467163086,20.53295135498047,21.147140502929688,23.030431747436523
+blocks.25.hook_mlp_out,25.641756057739258,20.642568588256836,21.57642936706543,23.540443420410156
+blocks.26.hook_mlp_out,25.827219009399414,20.706758499145508,20.739282608032227,24.180458068847656
+blocks.27.hook_mlp_out,25.42005729675293,20.11206817626953,20.05141830444336,23.16043472290039
+blocks.28.hook_mlp_out,25.716968536376953,20.33029556274414,19.31581687927246,24.29046058654785
+blocks.29.hook_mlp_out,25.64533805847168,20.031450271606445,18.953428268432617,23.890451431274414
+blocks.30.hook_mlp_out,24.037038803100586,18.76065444946289,17.54819679260254,23.005399703979492
+blocks.31.hook_mlp_out,23.26811981201172,17.62480926513672,16.198217391967773,22.070409774780273
+blocks.32.hook_mlp_out,22.298017501831055,16.70664405822754,15.825682640075684,21.24039077758789
+blocks.33.hook_mlp_out,21.88789939880371,16.742826461791992,15.836996078491211,20.980384826660156
+blocks.34.hook_mlp_out,22.162731170654297,17.077707290649414,16.095951080322266,21.73040199279785
+blocks.35.hook_mlp_out,22.01905059814453,16.809385299682617,15.552379608154297,21.51039695739746