Add files using upload-large-folder tool

mmlu_humanities/few_shot_1/gpt2-medium/last_token_relative_depth_100/accuracy.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 1139, "1": 1153, "2": 1276, "3": 1137}, "correct_per_class": {"0": 347, "1": 23, "2": 361, "3": 457}, "net_accuracy": 0.25249734325185974}

mmlu_humanities/few_shot_1/gpt2-medium/last_token_relative_depth_100/intrinsic/results.csv

@@ -0,0 +1,25 @@
+Layer,MLE,MLE_Corrected,TwoNN,Gride
+blocks.0.hook_mlp_out,9.030911445617676,7.078467845916748,12.193990707397461,5.470030784606934
+blocks.1.hook_mlp_out,19.789155960083008,16.7205810546875,19.12818717956543,17.11029624938965
+blocks.2.hook_mlp_out,18.662324905395508,15.675657272338867,18.172883987426758,16.10027313232422
+blocks.3.hook_mlp_out,15.2481689453125,13.088469505310059,15.845487594604492,13.16020679473877
+blocks.4.hook_mlp_out,15.809027671813965,13.605488777160645,16.13227653503418,13.640217781066895
+blocks.5.hook_mlp_out,15.514164924621582,13.277206420898438,16.008943557739258,13.500214576721191
+blocks.6.hook_mlp_out,17.29154396057129,14.565077781677246,17.705717086791992,13.990225791931152
+blocks.7.hook_mlp_out,17.311370849609375,14.391923904418945,17.553199768066406,13.560215950012207
+blocks.8.hook_mlp_out,17.26701545715332,14.640687942504883,18.210771560668945,14.030226707458496
+blocks.9.hook_mlp_out,15.335800170898438,12.668722152709961,16.135896682739258,10.580147743225098
+blocks.10.hook_mlp_out,16.58551597595215,13.808485984802246,16.943496704101562,11.330164909362793
+blocks.11.hook_mlp_out,17.225723266601562,14.161687850952148,17.31488800048828,11.320164680480957
+blocks.12.hook_mlp_out,17.28554916381836,14.120783805847168,17.103046417236328,11.530169486999512
+blocks.13.hook_mlp_out,16.854736328125,13.876239776611328,17.102346420288086,11.46016788482666
+blocks.14.hook_mlp_out,17.313871383666992,13.93508243560791,16.908647537231445,11.530169486999512
+blocks.15.hook_mlp_out,17.65040397644043,14.064111709594727,16.772056579589844,11.640172004699707
+blocks.16.hook_mlp_out,16.835124969482422,13.555822372436523,16.658220291137695,11.19016170501709
+blocks.17.hook_mlp_out,17.397043228149414,13.95093822479248,16.801372528076172,11.660172462463379
+blocks.18.hook_mlp_out,16.38943099975586,13.089259147644043,16.69004249572754,10.460144996643066
+blocks.19.hook_mlp_out,17.027965545654297,13.663177490234375,16.937318801879883,11.390166282653809
+blocks.20.hook_mlp_out,16.850969314575195,13.388994216918945,16.735397338867188,11.24016284942627
+blocks.21.hook_mlp_out,17.31995964050293,13.512612342834473,16.133071899414062,11.840176582336426
+blocks.22.hook_mlp_out,15.88228702545166,11.701507568359375,16.55857276916504,10.990157127380371
+blocks.23.hook_mlp_out,16.957584381103516,12.887197494506836,16.67206573486328,12.20018482208252

mmlu_humanities/few_shot_1/gpt2-medium/last_token_relative_depth_100/llm_hook_args.json

@@ -0,0 +1 @@
+{"device": "cuda", "model_id": "gpt2-medium", "batch_size": 32, "dataset_name": "mmlu_humanities", "max_token_length": 1024, "last_token": true, "question_structure": true, "relative_depth_of_sentence": 1.0, "store_activations": true, "random_seed": 42, "few_shot": 1, "pythia": false, "revision_step": 0, "save_dir": "experiment_results"}

mmlu_humanities/few_shot_1/gpt2-medium/last_token_relative_depth_100/llm_intrinsic_args.json

@@ -0,0 +1 @@
+{"device": "cuda", "gride_k1": 20, "gride_k2": 40, "mle_k1": 12, "mle_k2": 24, "mle": true, "model_id": "gpt2-medium", "dataset_name": "mmlu_humanities", "distance_metric": "euclidean", "batch_size": 32, "last_token": true, "relative_depth_of_sentence": 1.0, "few_shot": 1, "pythia": false, "revision_step": 0, "save_dir": "experiment_results"}

mmlu_humanities/few_shot_1/gpt2-medium/last_token_relative_depth_100/predictions.csv

@@ -0,0 +1,4706 @@
+Labels,Predictions
+2,0
+3,2
+0,0
+1,0
+2,3
+2,3
+0,2
+1,3
+2,2
+1,3
+2,3
+3,3
+2,2
+3,3
+1,0
+2,2
+2,3
+3,3
+3,3
+3,0
+0,0
+2,3
+1,3
+0,2
+0,2
+1,3
+2,3
+3,0
+0,2
+1,2
+0,3
+2,3
+2,0
+1,0
+3,2
+1,0
+3,0
+3,3
+2,2
+3,3
+1,2
+0,1
+2,0
+0,2
+0,3
+0,3
+1,1
+2,3
+3,1
+3,2
+3,2
+3,3
+3,2
+1,3
+1,3
+2,1
+1,0
+0,0
+2,0
+1,3
+0,3
+3,2
+1,0
+2,3
+2,2
+2,3
+1,2
+0,0
+0,2
+3,1
+2,2
+2,3
+2,0
+2,3
+2,3
+3,0
+1,3
+3,3
+2,0
+2,0
+2,2
+2,3
+3,3
+0,2
+0,3
+0,0
+1,0
+3,3
+2,2
+3,3
+0,0
+1,3
+3,0
+3,3
+3,0
+0,0
+1,2
+2,3
+1,3
+3,0
+2,2
+3,3
+3,0
+1,3
+2,3
+0,0
+0,3
+2,0
+0,2
+3,2
+2,2
+3,3
+3,0
+3,3
+3,3
+3,0
+2,3
+2,2
+1,0
+1,2
+0,3
+2,3
+0,2
+3,3
+3,0
+3,3
+1,3
+3,3
+1,3
+0,0
+3,0
+0,3
+1,2
+1,3
+3,3
+3,2
+1,0
+1,3
+3,0
+1,0
+1,0
+0,0
+2,3
+1,3
+1,0
+0,0
+3,3
+3,2
+1,2
+3,3
+1,2
+0,3
+2,2
+3,0
+2,2
+2,2
+1,3
+3,3
+0,3
+0,2
+2,3
+0,3
+0,0
+3,3
+3,3
+3,3
+3,3
+2,2
+3,3
+2,0
+2,0
+1,3
+2,3
+0,3
+2,3
+2,0
+1,3
+0,3
+0,0
+2,3
+3,3
+2,3
+3,3
+1,0
+0,3
+1,3
+2,3
+3,0
+0,0
+2,0
+3,2
+3,2
+0,2
+2,0
+0,2
+2,3
+2,0
+3,0
+2,3
+0,2
+3,3
+2,0
+3,0
+3,3
+0,0
+2,2
+1,0
+3,2
+0,2
+0,3
+2,3
+2,2
+3,3
+0,2
+0,2
+1,0
+0,2
+2,0
+2,2
+1,0
+3,3
+0,2
+1,3
+2,3
+0,2
+3,0
+0,0
+2,1
+1,2
+0,1
+2,2
+1,2
+0,0
+0,3
+0,1
+1,2
+1,3
+2,3
+2,3
+0,0
+0,0
+1,0
+2,2
+2,2
+3,0
+2,3
+2,0
+0,1
+3,3
+3,3
+1,0
+2,3
+2,2
+3,3
+1,0
+1,3
+3,0
+3,3
+0,3
+1,3
+3,0
+1,0
+2,0
+0,2
+3,1
+2,2
+0,3
+3,0
+2,2
+0,0
+1,2
+0,3
+3,3
+3,0
+0,0
+2,3
+0,3
+0,0
+2,2
+3,2
+1,0
+2,0
+1,3
+0,3
+0,0
+1,0
+3,2
+1,3
+0,2
+1,3
+1,0
+0,2
+2,2
+1,3
+1,3
+2,0
+0,0
+3,3
+1,3
+1,3
+2,3
+3,2
+2,0
+2,0
+3,3
+3,3
+1,3
+0,3
+3,0
+2,0
+2,2
+2,2
+2,3
+1,3
+0,3
+2,0
+1,0
+0,3
+3,2
+2,0
+1,2
+3,2
+3,0
+0,0
+1,0
+1,2
+0,3
+0,2
+1,3
+0,0
+0,3
+3,3
+1,3
+0,2
+2,3
+3,0
+0,2
+1,1
+3,3
+3,3
+2,0
+3,0
+2,0
+1,3
+1,2
+0,0
+3,2
+2,0
+2,0
+0,2
+3,3
+3,3
+1,0
+0,3
+3,3
+3,3
+3,0
+0,3
+0,0
+0,0
+1,2
+2,3
+1,2
+2,3
+2,2
+3,3
+3,0
+3,3
+1,0
+1,3
+2,3
+3,0
+3,3
+1,0
+0,0
+3,3
+2,2
+3,3
+0,3
+0,2
+1,0
+0,2
+2,0
+3,0
+1,0
+2,2
+0,2
+1,3
+1,3
+2,0
+0,3
+0,0
+1,2
+3,0
+1,0
+2,2
+0,2
+2,3
+2,3
+0,2
+2,2
+1,3
+0,2
+3,0
+2,3
+0,3
+1,1
+2,3
+3,3
+3,2
+2,2
+3,2
+2,3
+1,2
+1,0
+3,0
+2,2
+1,3
+1,0
+3,0
+3,0
+2,2
+2,2
+1,3
+0,0
+3,0
+0,3
+2,0
+0,3
+3,3
+1,2
+3,3
+2,0
+2,3
+0,3
+1,2
+2,2
+2,2
+1,3
+2,3
+3,3
+0,3
+2,2
+0,3
+0,2
+0,3
+1,0
+0,2
+3,0
+3,0
+1,3
+0,3
+2,3
+1,3
+1,0
+3,3
+2,0
+3,2
+1,3
+1,2
+2,2
+2,1
+2,3
+0,0
+2,3
+2,3
+3,2
+3,0
+1,0
+2,0
+2,1
+0,0
+3,0
+1,0
+1,3
+1,3
+1,2
+0,3
+3,0
+2,3
+0,3
+2,0
+1,2
+2,3
+1,3
+0,3
+2,1
+2,0
+0,3
+1,0
+3,2
+2,3
+2,2
+3,0
+3,0
+1,2
+3,3
+1,0
+3,3
+3,3
+2,3
+2,3
+1,3
+2,3
+1,3
+0,1
+0,3
+3,0
+2,2
+3,2
+2,3
+3,2
+3,2
+1,0
+0,2
+1,3
+2,3
+3,0
+3,0
+2,3
+2,3
+1,0
+1,0
+1,3
+0,2
+2,3
+1,3
+2,0
+0,3
+2,3
+3,3
+2,0
+2,3
+2,0
+1,3
+2,2
+0,0
+2,2
+2,2
+0,0
+3,2
+3,0
+1,0
+0,0
+2,3
+2,2
+3,3
+0,0
+3,3
+2,2
+1,2
+1,0
+1,3
+0,0
+1,2
+0,3
+2,2
+1,0
+1,0
+2,3
+1,1
+1,2
+3,2
+1,3
+1,2
+3,3
+3,0
+1,3
+1,2
+0,0
+1,3
+0,2
+3,3
+0,0
+1,3
+1,0
+1,2
+3,3
+3,2
+2,2
+1,0
+2,0
+2,3
+1,3
+3,0
+3,0
+1,1
+1,2
+0,0
+3,0
+0,3
+3,0
+1,2
+2,2
+0,3
+0,3
+1,0
+3,3
+0,0
+3,3
+0,0
+0,0
+2,3
+1,3
+0,0
+1,3
+2,3
+3,2
+1,0
+0,3
+2,3
+1,2
+2,3
+2,0
+1,0
+3,3
+3,3
+1,0
+0,0
+0,3
+1,3
+0,0
+3,3
+1,3
+2,3
+0,3
+1,3
+3,0
+1,0
+2,3
+3,0
+1,2
+1,0
+1,0
+2,2
+1,0
+0,3
+3,3
+2,2
+3,0
+2,2
+1,0
+1,2
+2,0
+2,3
+2,2
+3,0
+2,0
+0,0
+0,3
+1,3
+2,3
+1,3
+0,0
+1,0
+2,3
+2,0
+1,2
+3,2
+3,2
+1,3
+2,3
+0,3
+2,2
+2,2
+3,2
+2,2
+1,2
+3,3
+2,0
+0,3
+3,3
+1,3
+3,3
+1,3
+0,3
+3,3
+0,3
+1,0
+0,3
+3,2
+0,3
+0,2
+3,3
+2,0
+0,3
+2,2
+1,0
+0,3
+3,0
+0,2
+3,3
+2,3
+1,3
+1,0
+2,0
+1,2
+1,2
+3,0
+1,3
+0,0
+1,3
+1,3
+1,3
+1,3
+3,3
+2,0
+3,2
+3,3
+0,3
+1,3
+2,0
+0,3
+1,0
+2,0
+1,2
+1,2
+1,2
+3,2
+1,0
+3,2
+0,2
+3,2
+3,3
+2,3
+3,0
+2,3
+2,2
+0,3
+0,3
+1,2
+0,2
+2,3
+1,3
+2,0
+1,2
+3,2
+1,3
+2,3
+3,2
+0,3
+3,0
+0,3
+3,3
+2,0
+1,0
+2,2
+2,3
+1,3
+2,3
+0,0
+3,3
+0,0
+2,3
+2,2
+1,3
+0,0
+2,2
+0,0
+1,2
+3,2
+0,2
+2,3
+0,2
+2,3
+1,2
+2,2
+3,3
+3,0
+1,3
+1,3
+0,2
+2,3
+1,2
+0,0
+3,3
+2,3
+0,3
+1,3
+0,3
+0,0
+2,2
+0,0
+3,0
+2,0
+3,3
+0,0
+1,3
+3,0
+1,2
+2,0
+0,0
+1,2
+3,0
+1,0
+1,3
+1,0
+2,2
+1,3
+3,3
+1,3
+0,2
+0,2
+3,0
+2,2
+0,0
+3,2
+2,3
+1,0
+0,3
+0,3
+0,2
+3,2
+2,3
+1,3
+2,3
+0,3
+1,3
+3,3
+3,2
+0,2
+0,3
+1,3
+1,0
+0,0
+1,3
+3,3
+3,3
+3,2
+3,2
+1,0
+2,2
+1,0
+1,2
+3,0
+0,2
+0,2
+0,0
+2,2
+2,2
+3,3
+3,3
+0,3
+2,2
+3,3
+1,3
+1,0
+2,3
+2,0
+0,3
+1,2
+3,0
+1,3
+1,2
+0,2
+3,0
+2,3
+3,1
+1,3
+1,2
+3,0
+2,0
+2,0
+3,2
+3,0
+0,3
+1,2
+2,3
+2,2
+1,0
+2,2
+0,3
+3,3
+1,2
+3,3
+3,0
+3,2
+0,2
+2,2
+1,1
+2,3
+1,0
+0,3
+1,3
+0,0
+0,2
+1,0
+0,3
+0,2
+1,0
+3,3
+1,3
+2,3
+2,0
+3,0
+1,0
+2,2
+3,2
+1,3
+3,3
+1,2
+3,2
+3,2
+2,3
+2,3
+1,3
+1,2
+2,2
+1,3
+3,0
+3,3
+0,3
+1,3
+1,1
+3,0
+1,0
+0,2
+3,3
+0,2
+1,0
+3,2
+1,0
+2,2
+3,3
+3,3
+0,0
+3,3
+2,3
+0,2
+1,2
+2,2
+2,0
+2,3
+3,2
+0,2
+0,0
+3,3
+0,0
+3,3
+2,3
+2,3
+0,0
+3,2
+2,3
+1,3
+0,3
+0,2
+3,2
+2,0
+0,3
+2,2
+0,3
+0,0
+3,2
+1,2
+3,2
+0,3
+1,2
+2,2
+0,2
+3,3
+0,3
+3,0
+0,3
+2,0
+2,3
+0,3
+0,2
+3,2
+1,0
+2,2
+1,3
+3,3
+2,1
+2,2
+0,1
+2,2
+3,2
+1,3
+3,3
+1,3
+3,3
+2,0
+1,3
+3,3
+3,3
+1,0
+1,3
+2,3
+2,3
+3,3
+2,2
+3,0
+2,2
+3,3
+1,3
+3,3
+3,0
+1,3
+0,3
+1,3
+1,2
+1,3
+0,0
+1,3
+3,0
+2,2
+3,3
+3,2
+0,0
+2,2
+1,3
+1,0
+0,3
+0,2
+0,3
+1,3
+0,0
+1,3
+2,0
+2,3
+2,0
+0,2
+0,3
+3,3
+0,0
+3,2
+3,2
+3,2
+1,2
+3,0
+3,3
+0,0
+1,3
+1,3
+3,2
+3,2
+0,2
+2,2
+1,3
+2,3
+1,0
+1,0
+3,2
+0,3
+1,3
+0,2
+0,0
+2,3
+2,2
+0,2
+2,3
+3,3
+2,2
+0,2
+3,3
+1,0
+2,0
+0,3
+2,3
+0,0
+0,2
+3,0
+3,2
+3,2
+0,3
+2,3
+1,3
+3,3
+1,0
+0,2
+3,2
+2,0
+3,3
+0,3
+0,2
+2,0
+3,0
+2,3
+1,3
+0,0
+3,3
+2,2
+2,2
+0,3
+3,3
+1,2
+2,0
+1,2
+2,0
+3,0
+2,0
+1,3
+2,2
+2,2
+2,0
+2,2
+0,2
+0,0
+2,2
+1,2
+1,3
+2,0
+3,2
+3,2
+1,3
+1,2
+0,3
+1,0
+2,2
+3,2
+2,2
+1,3
+2,0
+2,0
+2,2
+1,2
+0,3
+1,3
+3,2
+3,3
+2,0
+3,3
+3,2
+1,3
+1,2
+1,3
+3,3
+2,0
+3,3
+1,2
+1,2
+3,3
+2,3
+1,3
+2,0
+2,0
+0,3
+0,3
+3,0
+3,2
+3,0
+0,2
+3,3
+1,2
+0,3
+3,0
+3,3
+2,2
+2,1
+3,0
+0,3
+1,3
+1,3
+2,0
+2,0
+0,3
+1,3
+2,3
+0,0
+3,3
+3,3
+0,3
+0,2
+3,0
+0,2
+3,0
+1,3
+2,0
+1,3
+2,0
+1,0
+0,3
+3,3
+2,3
+0,2
+3,2
+1,3
+1,0
+2,3
+1,3
+0,1
+3,2
+1,0
+2,3
+2,3
+1,0
+1,0
+3,0
+3,3
+2,3
+3,2
+0,3
+2,0
+0,3
+1,2
+2,3
+1,0
+0,2
+3,2
+1,0
+0,3
+0,0
+0,3
+3,0
+2,2
+2,3
+1,3
+0,3
+2,3
+1,3
+0,3
+3,3
+2,2
+1,2
+0,3
+3,3
+2,3
+2,3
+0,2
+3,1
+2,2
+0,0
+1,2
+3,2
+0,0
+2,0
+2,3
+0,0
+2,2
+1,3
+2,0
+1,0
+0,3
+0,2
+0,3
+2,3
+3,3
+2,2
+1,0
+0,2
+1,0
+3,2
+3,2
+0,3
+2,3
+3,3
+3,2
+3,0
+3,3
+0,3
+0,3
+0,2
+2,3
+0,2
+2,3
+0,3
+2,1
+3,0
+3,2
+3,3
+1,0
+2,0
+0,3
+0,3
+2,2
+2,2
+1,3
+2,0
+1,2
+0,2
+3,2
+1,2
+1,3
+0,0
+0,0
+1,2
+3,3
+1,3
+0,3
+0,3
+1,2
+3,3
+0,3
+2,2
+1,2
+2,2
+2,3
+2,0
+1,2
+3,3
+0,3
+1,2
+1,2
+2,0
+1,2
+2,0
+1,2
+1,3
+3,0
+2,3
+3,3
+2,0
+1,3
+3,0
+2,3
+1,3
+3,0
+0,0
+1,3
+2,0
+1,2
+2,2
+2,2
+2,3
+3,3
+2,0
+2,3
+1,2
+2,3
+3,3
+1,2
+0,3
+3,3
+0,0
+2,2
+2,0
+2,3
+3,3
+0,2
+1,2
+0,0
+1,2
+2,3
+3,3
+3,0
+0,3
+3,3
+2,3
+2,0
+0,3
+3,3
+1,0
+1,3
+0,2
+1,3
+3,3
+0,3
+1,0
+3,2
+1,2
+1,3
+2,0
+3,0
+0,2
+1,3
+1,2
+2,3
+0,3
+2,0
+2,0
+1,3
+0,0
+2,2
+0,2
+1,3
+0,3
+1,3
+0,0
+0,0
+3,3
+2,3
+0,3
+3,3
+0,2
+1,2
+2,0
+2,3
+0,2
+1,3
+1,3
+0,0
+0,3
+1,3
+0,2
+2,2
+2,2
+1,0
+3,3
+2,2
+3,0
+2,1
+1,0
+3,0
+0,3
+1,3
+3,0
+3,3
+3,2
+1,3
+1,2
+0,3
+1,3
+2,3
+0,3
+2,3
+3,2
+2,3
+0,3
+2,0
+2,0
+1,2
+2,3
+0,0
+1,2
+2,3
+3,2
+1,3
+2,2
+3,3
+3,2
+2,3
+2,2
+1,0
+0,1
+0,2
+1,0
+0,0
+0,2
+1,0
+3,0
+3,3
+1,2
+1,0
+2,0
+1,2
+1,0
+2,0
+1,0
+2,2
+1,3
+1,3
+2,3
+1,2
+2,2
+2,3
+0,3
+3,3
+1,2
+0,2
+2,3
+3,3
+3,3
+2,2
+1,0
+0,3
+3,0
+3,1
+3,3
+3,0
+2,3
+3,0
+0,3
+2,1
+3,3
+0,0
+1,0
+2,1
+1,0
+3,3
+2,3
+3,2
+2,2
+3,0
+1,2
+1,2
+2,3
+2,0
+2,3
+0,3
+1,3
+1,2
+2,3
+3,3
+1,2
+3,2
+3,0
+3,0
+2,0
+1,3
+1,3
+1,2
+2,0
+0,0
+2,2
+3,2
+1,2
+0,3
+1,3
+1,0
+0,2
+0,3
+2,2
+3,0
+0,3
+3,3
+0,3
+2,0
+3,2
+1,2
+1,3
+0,3
+2,2
+2,2
+1,0
+0,0
+3,3
+0,0
+1,3
+3,0
+2,0
+2,3
+0,3
+1,2
+2,3
+3,2
+1,2
+2,2
+3,2
+2,0
+1,2
+0,2
+1,0
+2,3
+3,2
+0,3
+3,3
+2,0
+2,2
+2,3
+3,3
+3,2
+1,3
+3,0
+0,3
+2,0
+1,3
+1,3
+0,3
+0,3
+2,3
+2,0
+2,3
+1,1
+0,3
+0,3
+3,3
+3,3
+0,2
+2,3
+0,2
+2,0
+0,3
+1,3
+2,0
+0,0
+3,2
+0,3
+1,3
+2,0
+0,2
+1,2
+3,3
+0,3
+1,0
+0,2
+0,0
+2,3
+2,0
+2,3
+3,2
+0,3
+2,3
+2,3
+3,3
+3,2
+1,3
+0,3
+0,3
+1,3
+1,3
+1,3
+2,3
+1,2
+0,0
+2,3
+0,3
+3,3
+0,2
+3,3
+3,1
+3,2
+0,0
+2,2
+3,2
+2,1
+3,2
+2,3
+3,0
+2,3
+3,0
+1,3
+2,0
+2,3
+2,0
+1,3
+2,3
+1,3
+0,0
+0,0
+2,3
+2,0
+2,3
+0,3
+0,0
+2,2
+1,2
+3,2
+2,2
+0,2
+2,2
+1,3
+2,2
+2,0
+0,3
+1,3
+3,2
+3,2
+2,3
+2,0
+0,3
+3,0
+2,2
+3,0
+3,3
+0,3
+3,0
+0,2
+1,0
+1,0
+0,0
+2,2
+0,3
+3,3
+1,3
+2,2
+0,0
+3,0
+2,3
+1,0
+3,2
+2,2
+1,2
+0,3
+1,2
+2,3
+1,3
+1,0
+3,0
+0,3
+1,3
+2,2
+0,3
+1,2
+2,2
+0,0
+2,3
+3,2
+3,3
+2,2
+0,3
+1,3
+1,2
+3,2
+2,3
+3,2
+3,3
+0,1
+1,0
+3,2
+1,2
+2,3
+2,3
+3,2
+2,0
+0,3
+1,3
+2,3
+2,2
+1,0
+2,2
+2,0
+1,3
+2,3
+1,3
+1,2
+1,0
+0,2
+0,2
+0,3
+0,3
+2,0
+0,2
+0,0
+2,0
+3,3
+3,2
+2,0
+1,3
+2,3
+2,0
+0,0
+2,2
+0,2
+0,0
+3,0
+1,3
+2,3
+3,0
+0,0
+0,3
+2,1
+0,0
+1,3
+1,2
+2,0
+1,0
+3,3
+3,2
+1,0
+0,3
+2,3
+0,3
+0,3
+3,1
+2,0
+3,2
+3,3
+2,3
+2,3
+1,2
+1,0
+0,0
+0,3
+2,2
+0,0
+2,0
+3,0
+3,2
+1,2
+0,2
+1,3
+2,2
+0,3
+2,2
+0,0
+3,0
+3,2
+3,3
+1,0
+0,0
+0,0
+0,0
+2,3
+0,3
+0,0
+2,2
+0,0
+2,2
+3,0
+2,3
+2,2
+1,2
+1,1
+1,0
+0,0
+2,2
+2,3
+2,3
+3,0
+1,0
+2,3
+1,3
+1,3
+2,3
+1,0
+2,3
+0,2
+1,2
+0,0
+2,2
+0,3
+3,0
+3,0
+1,3
+3,2
+3,3
+0,3
+3,1
+3,0
+3,0
+1,2
+2,3
+1,0
+0,2
+0,2
+0,3
+2,3
+2,0
+3,2
+0,3
+1,0
+0,2
+3,3
+0,3
+2,0
+3,2
+2,2
+3,3
+1,0
+2,0
+3,2
+2,2
+0,1
+2,3
+0,3
+0,3
+0,3
+1,2
+0,2
+0,2
+3,3
+0,2
+2,2
+0,3
+1,3
+2,3
+0,0
+3,3
+3,2
+2,0
+0,2
+0,3
+2,0
+3,2
+2,2
+2,1
+2,2
+0,2
+1,2
+0,3
+1,2
+1,0
+0,0
+0,3
+1,3
+3,2
+3,2
+3,3
+2,0
+2,2
+2,2
+1,3
+1,2
+0,3
+3,0
+1,2
+0,3
+0,1
+2,2
+1,2
+3,0
+2,0
+1,0
+0,3
+2,2
+2,0
+1,3
+0,2
+1,3
+0,0
+2,0
+0,0
+2,2
+2,0
+3,0
+1,3
+1,0
+3,0
+3,3
+1,2
+0,0
+3,2
+0,0
+1,2
+3,3
+0,0
+3,0
+0,3
+2,2
+1,0
+2,0
+0,2
+1,0
+2,3
+1,0
+1,2
+0,3
+0,3
+0,2
+2,3
+0,0
+1,3
+1,2
+0,3
+2,3
+2,2
+2,3
+3,2
+3,0
+3,3
+0,2
+2,0
+1,0
+2,2
+1,0
+2,1
+1,2
+2,3
+3,3
+3,3
+0,2
+3,0
+0,0
+3,0
+0,3
+3,1
+0,2
+2,2
+1,0
+3,0
+1,3
+2,3
+2,3
+3,3
+3,0
+1,0
+3,3
+0,2
+1,3
+3,0
+0,0
+0,3
+1,0
+3,2
+0,2
+1,2
+1,3
+3,3
+0,2
+0,3
+3,0
+0,3
+3,2
+1,0
+3,2
+2,3
+1,3
+1,3
+3,2
+0,2
+3,2
+1,3
+0,3
+0,2
+1,3
+0,3
+3,3
+3,3
+3,3
+1,2
+1,3
+0,3
+2,2
+2,3
+0,0
+1,3
+0,3
+2,3
+1,0
+2,2
+1,0
+1,3
+3,3
+2,2
+2,0
+1,0
+3,3
+1,2
+1,2
+1,0
+2,2
+1,2
+1,3
+2,0
+1,2
+2,3
+0,1
+0,0
+2,0
+3,3
+0,2
+3,3
+3,3
+1,2
+0,2
+2,3
+0,3
+2,3
+2,0
+3,0
+3,2
+3,2
+3,3
+1,3
+2,2
+1,3
+1,3
+0,3
+0,2
+1,3
+2,0
+0,3
+1,2
+2,2
+2,0
+0,0
+2,2
+1,0
+0,3
+0,0
+3,2
+0,3
+3,2
+1,0
+3,0
+1,0
+3,0
+0,0
+2,2
+3,0
+3,3
+3,3
+1,2
+1,3
+3,2
+0,3
+1,2
+2,0
+3,0
+2,0
+2,0
+3,2
+2,0
+2,2
+0,0
+3,0
+3,3
+0,3
+3,3
+3,2
+3,3
+3,0
+2,0
+2,0
+3,3
+0,3
+1,2
+1,3
+2,2
+2,0
+1,3
+2,2
+1,3
+0,2
+0,3
+2,3
+0,3
+0,3
+3,3
+1,2
+2,0
+2,2
+1,0
+0,0
+0,3
+1,2
+1,3
+0,0
+2,3
+3,2
+2,2
+0,0
+3,3
+1,0
+3,0
+2,3
+2,2
+2,2
+0,3
+2,0
+0,3
+3,2
+1,0
+0,0
+3,2
+3,0
+2,2
+1,3
+2,3
+3,1
+3,0
+0,0
+3,2
+2,3
+2,3
+3,0
+2,0
+3,2
+1,0
+2,3
+2,0
+2,3
+0,2
+3,3
+1,3
+0,0
+1,3
+0,3
+3,2
+2,1
+1,2
+2,2
+3,3
+2,0
+3,0
+0,2
+1,3
+3,0
+1,3
+0,0
+0,3
+0,0
+2,3
+2,2
+3,2
+2,1
+3,2
+0,0
+0,3
+3,2
+2,0
+2,0
+0,3
+3,2
+0,2
+1,0
+1,3
+3,2
+1,2
+0,3
+2,3
+3,2
+3,0
+3,2
+0,3
+1,0
+0,2
+3,1
+3,2
+2,0
+1,2
+1,3
+2,2
+0,3
+2,0
+1,3
+0,0
+0,0
+2,0
+0,0
+3,1
+3,2
+1,3
+3,3
+2,3
+1,2
+0,3
+0,3
+3,3
+3,3
+3,0
+3,0
+2,2
+1,2
+2,2
+2,3
+2,3
+2,3
+2,0
+0,0
+1,0
+2,3
+0,0
+1,0
+3,0
+0,2
+0,3
+2,3
+0,0
+1,2
+3,2
+1,0
+2,3
+0,0
+3,3
+3,0
+0,3
+3,0
+3,2
+2,0
+1,2
+3,3
+1,3
+1,3
+2,3
+1,0
+1,2
+1,2
+0,3
+1,2
+0,0
+0,2
+0,3
+2,3
+1,0
+0,0
+3,3
+0,0
+1,2
+0,0
+0,2
+2,0
+1,1
+2,2
+2,3
+2,2
+0,0
+0,3
+0,3
+0,3
+1,0
+3,0
+3,0
+1,2
+1,3
+1,3
+1,0
+0,3
+2,3
+2,3
+2,3
+1,3
+2,0
+1,3
+2,0
+1,3
+1,2
+1,2
+1,0
+2,0
+1,3
+2,0
+3,3
+3,3
+0,1
+0,2
+2,0
+0,3
+2,2
+1,2
+0,0
+1,3
+0,3
+0,2
+3,3
+3,2
+3,2
+0,3
+3,0
+1,3
+0,3
+1,2
+2,3
+0,0
+0,3
+1,3
+2,2
+3,3
+1,3
+3,0
+0,0
+3,2
+0,3
+3,3
+1,0
+3,2
+2,0
+1,3
+0,2
+2,0
+2,0
+3,3
+2,1
+3,0
+3,0
+3,2
+1,0
+3,3
+3,0
+1,2
+3,2
+0,0
+1,3
+2,2
+3,3
+1,3
+0,3
+3,0
+2,3
+1,0
+1,3
+0,0
+1,0
+2,0
+2,2
+0,0
+1,0
+2,3
+2,2
+3,0
+1,2
+3,0
+1,2
+1,3
+3,3
+1,0
+2,2
+1,0
+3,3
+3,0
+2,0
+0,3
+0,3
+2,3
+0,3
+0,3
+0,0
+0,2
+1,2
+2,2
+1,1
+0,0
+2,0
+1,2
+1,0
+0,3
+2,3
+1,3
+1,0
+2,3
+2,0
+0,3
+2,0
+3,3
+0,3
+0,3
+2,0
+2,3
+2,2
+3,0
+2,2
+2,3
+0,0
+3,0
+2,0
+2,0
+2,0
+3,2
+0,3
+0,2
+2,3
+3,0
+3,3
+2,0
+1,2
+1,0
+1,3
+2,0
+0,1
+1,3
+1,2
+3,2
+1,3
+0,3
+0,0
+2,2
+2,3
+2,3
+1,2
+3,2
+0,0
+0,3
+0,3
+0,3
+2,0
+2,0
+1,0
+2,0
+2,3
+2,0
+1,3
+0,3
+0,0
+2,3
+3,2
+2,2
+3,3
+3,3
+0,0
+2,0
+1,3
+2,3
+3,2
+0,3
+1,3
+2,0
+3,2
+3,3
+0,2
+1,2
+3,0
+3,2
+1,3
+0,2
+1,0
+2,3
+3,3
+2,3
+2,2
+3,3
+0,3
+0,3
+1,2
+3,2
+3,3
+1,0
+1,3
+3,0
+1,2
+2,0
+0,0
+3,0
+1,0
+0,0
+0,3
+0,3
+2,2
+1,3
+0,2
+0,0
+1,3
+2,3
+3,3
+2,3
+1,3
+1,0
+0,2
+1,2
+2,3
+2,0
+1,0
+3,2
+0,3
+0,3
+2,3
+2,3
+1,0
+0,3
+2,2
+0,3
+0,3
+0,0
+3,0
+0,3
+2,0
+2,0
+2,3
+1,0
+2,3
+3,2
+1,0
+1,3
+0,0
+1,3
+3,3
+3,3
+1,3
+0,3
+1,2
+1,3
+2,3
+0,3
+0,0
+0,2
+0,0
+2,3
+2,3
+2,3
+2,0
+3,3
+2,3
+1,3
+1,3
+0,2
+1,1
+0,3
+1,0
+2,0
+0,0
+2,3
+0,0
+3,3
+3,3
+0,3
+1,3
+1,3
+1,3
+1,0
+2,3
+2,0
+0,3
+1,3
+0,0
+0,0
+0,0
+0,3
+0,2
+0,3
+3,2
+3,3
+2,2
+3,3
+1,0
+1,0
+0,2
+2,1
+2,0
+2,3
+3,0
+0,2
+2,0
+1,0
+1,3
+1,3
+3,3
+1,0
+0,0
+0,3
+3,0
+2,0
+0,3
+2,2
+1,3
+1,3
+2,0
+2,3
+3,3
+3,0
+2,3
+2,0
+0,2
+2,2
+1,0
+3,3
+3,0
+0,0
+1,3
+0,0
+1,2
+2,0
+2,0
+3,3
+1,3
+3,0
+1,0
+1,2
+1,2
+3,3
+1,0
+2,0
+3,3
+1,3
+2,0
+3,3
+2,3
+0,2
+0,2
+2,2
+1,0
+2,2
+0,3
+1,3
+3,3
+3,2
+3,3
+1,3
+3,0
+0,0
+1,3
+1,0
+2,3
+2,3
+1,3
+1,2
+3,2
+1,2
+3,0
+0,0
+3,2
+3,2
+2,0
+1,0
+1,2
+2,0
+2,3
+2,3
+2,3
+1,0
+2,3
+3,2
+3,3
+3,2
+0,0
+0,0
+0,3
+2,0
+0,3
+0,0
+1,0
+2,3
+1,3
+0,2
+2,0
+2,0
+3,3
+1,0
+0,3
+2,2
+2,0
+2,3
+2,0
+3,3
+3,2
+3,3
+2,2
+1,2
+1,3
+0,0
+3,0
+1,1
+2,2
+0,1
+3,3
+2,2
+1,0
+0,0
+1,3
+3,3
+0,3
+3,3
+3,3
+0,3
+1,0
+0,3
+1,3
+1,2
+0,3
+1,0
+0,0
+1,2
+1,3
+1,0
+3,2
+2,3
+3,3
+3,2
+2,2
+0,0
+3,3
+3,0
+3,2
+0,0
+2,2
+2,2
+0,3
+0,0
+0,0
+1,0
+3,0
+1,3
+2,3
+0,0
+0,3
+3,2
+2,3
+1,0
+1,0
+2,0
+3,0
+1,2
+1,2
+2,0
+2,0
+3,1
+1,3
+1,3
+2,2
+2,0
+1,3
+0,3
+2,2
+3,1
+2,3
+1,2
+2,2
+2,3
+2,3
+1,2
+0,2
+0,0
+2,2
+1,0
+2,3
+0,3
+2,3
+3,2
+1,0
+1,0
+2,2
+0,2
+2,0
+2,3
+1,3
+2,3
+1,2
+0,0
+0,3
+2,0
+1,0
+1,3
+3,0
+0,0
+1,3
+2,0
+2,2
+3,2
+3,3
+2,3
+0,0
+3,0
+0,3
+1,0
+3,0
+1,2
+0,0
+2,2
+2,3
+0,3
+1,3
+3,0
+2,3
+3,2
+3,3
+0,3
+2,3
+3,0
+2,0
+3,1
+0,3
+3,2
+0,3
+3,3
+2,3
+0,3
+2,3
+3,0
+1,1
+2,1
+0,0
+3,0
+2,1
+1,3
+2,0
+0,3
+1,3
+1,3
+3,0
+3,2
+1,3
+2,1
+1,0
+2,3
+1,0
+3,2
+0,2
+3,3
+1,2
+1,3
+2,3
+3,3
+1,0
+3,0
+3,3
+1,3
+3,3
+2,3
+0,2
+3,3
+2,2
+3,3
+2,2
+3,2
+1,2
+1,0
+1,2
+2,3
+1,1
+3,0
+1,3
+2,3
+2,0
+3,3
+2,3
+3,2
+2,3
+1,0
+3,2
+3,3
+0,2
+3,2
+1,3
+2,0
+2,3
+0,2
+2,3
+2,3
+2,0
+3,0
+2,0
+0,2
+3,2
+2,2
+3,2
+1,2
+2,2
+1,3
+3,3
+2,2
+2,3
+1,0
+2,2
+2,3
+1,3
+2,3
+3,3
+3,3
+1,3
+2,2
+3,3
+1,3
+2,2
+1,2
+2,2
+3,1
+0,2
+2,0
+2,3
+0,0
+3,3
+0,2
+1,3
+3,2
+0,2
+2,3
+2,2
+2,3
+0,1
+3,3
+0,2
+2,2
+2,0
+2,2
+1,2
+0,0
+1,3
+2,3
+2,0
+1,0
+3,3
+2,3
+2,0
+3,3
+0,0
+3,3
+1,0
+2,2
+0,2
+0,0
+0,3
+2,3
+2,3
+1,2
+3,1
+3,3
+2,2
+3,2
+3,3
+2,0
+2,2
+1,3
+1,2
+3,0
+2,3
+3,3
+3,3
+0,1
+1,3
+3,0
+3,0
+1,0
+0,3
+0,3
+2,0
+0,3
+1,2
+0,0
+1,0
+2,3
+0,3
+2,3
+3,3
+2,3
+2,0
+1,0
+1,0
+2,3
+2,3
+0,0
+1,2
+3,3
+2,3
+0,2
+2,0
+2,3
+2,3
+2,0
+3,3
+1,3
+2,0
+1,3
+3,2
+0,2
+0,0
+3,2
+0,2
+1,3
+0,3
+2,3
+0,3
+2,2
+2,2
+3,0
+2,3
+0,3
+3,0
+3,0
+3,2
+0,2
+1,0
+1,3
+1,0
+0,0
+1,0
+0,0
+1,0
+1,3
+2,2
+3,0
+0,3
+3,0
+0,3
+3,2
+2,0
+3,0
+1,0
+3,2
+1,2
+2,3
+0,0
+3,3
+3,3
+2,0
+1,3
+2,0
+3,2
+0,3
+2,0
+3,3
+2,3
+1,0
+1,2
+2,0
+0,2
+0,3
+2,2
+0,3
+1,3
+3,1
+1,2
+2,3
+0,0
+2,3
+2,3
+2,3
+0,2
+1,2
+1,3
+0,2
+3,2
+0,2
+3,3
+3,2
+1,2
+3,3
+0,3
+1,0
+0,2
+1,2
+0,1
+2,3
+1,3
+0,2
+3,2
+0,2
+0,2
+3,2
+0,0
+2,0
+3,3
+2,2
+0,2
+3,3
+2,2
+1,2
+0,3
+3,0
+1,3
+2,2
+2,2
+2,0
+1,0
+3,3
+2,3
+1,0
+2,2
+0,2
+2,0
+3,0
+3,2
+3,2
+0,3
+1,0
+1,3
+3,0
+3,0
+3,3
+0,3
+1,2
+1,0
+0,3
+2,3
+2,2
+2,2
+3,3
+1,2
+1,3
+1,3
+2,0
+2,0
+3,2
+3,2
+1,0
+3,3
+3,3
+2,3
+2,3
+0,2
+2,0
+2,0
+3,0
+0,0
+3,2
+1,0
+1,0
+2,3
+1,0
+3,0
+3,0
+0,2
+0,2
+1,2
+2,2
+1,2
+2,2
+3,0
+0,2
+3,3
+0,3
+1,3
+2,0
+2,0
+1,0
+1,3
+0,0
+0,0
+2,3
+0,3
+1,0
+0,2
+2,2
+1,3
+2,2
+1,3
+1,3
+2,1
+3,0
+2,1
+1,0
+2,2
+0,3
+1,0
+3,2
+1,2
+2,2
+2,3
+3,0
+2,2
+2,0
+0,3
+2,2
+3,3
+2,2
+2,1
+0,2
+3,0
+3,3
+0,0
+1,3
+1,0
+0,0
+0,2
+0,2
+3,3
+0,2
+3,0
+2,2
+0,3
+2,3
+2,3
+3,2
+2,2
+0,0
+0,2
+2,3
+0,0
+3,3
+3,3
+3,3
+2,0
+1,2
+2,3
+1,2
+2,0
+0,2
+0,0
+1,0
+1,2
+0,0
+0,3
+2,3
+1,3
+0,2
+3,3
+3,3
+3,3
+2,2
+2,0
+1,2
+2,3
+2,2
+3,0
+3,3
+2,3
+3,2
+2,3
+3,2
+1,2
+1,0
+3,2
+2,0
+1,3
+2,2
+2,0
+3,0
+3,0
+2,3
+3,0
+1,2
+1,0
+0,2
+2,3
+0,2
+1,0
+1,3
+0,3
+2,0
+3,2
+3,3
+0,3
+0,3
+3,3
+2,3
+1,3
+0,0
+3,3
+1,3
+3,2
+3,2
+2,0
+0,2
+3,0
+0,3
+2,3
+2,3
+0,2
+3,3
+2,2
+2,3
+1,0
+1,3
+1,3
+1,3
+1,3
+3,3
+3,2
+0,0
+0,2
+1,2
+2,0
+0,2
+3,3
+3,3
+1,2
+2,3
+0,2
+2,3
+2,2
+3,2
+3,0
+2,3
+0,0
+2,2
+1,2
+2,2
+1,3
+1,0
+0,0
+1,3
+0,3
+2,2
+1,0
+1,0
+2,1
+0,3
+3,3
+0,3
+0,3
+0,3
+1,2
+2,3
+1,3
+1,2
+0,3
+0,0
+2,0
+0,0
+3,3
+0,0
+3,0
+2,3
+2,3
+2,2
+3,0
+1,0
+0,2
+2,2
+2,3
+2,0
+0,3
+2,2
+1,2
+3,0
+2,3
+2,3
+3,2
+1,2
+3,3
+2,3
+3,0
+1,3
+0,0
+2,3
+0,2
+3,0
+3,0
+2,3
+3,2
+2,3
+3,0
+3,0
+1,2
+0,3
+2,2
+3,3
+1,2
+0,3
+0,3
+1,3
+2,0
+0,3
+3,0
+0,3
+1,2
+3,0
+0,3
+1,3
+0,0
+2,3
+0,2
+2,3
+1,0
+3,3
+1,3
+3,3
+2,0
+1,3
+2,3
+2,2
+3,0
+0,0
+1,2
+0,2
+0,3
+2,3
+0,1
+1,2
+1,2
+3,0
+0,0
+2,2
+3,2
+2,2
+3,3
+2,0
+1,3
+0,3
+3,2
+3,3
+2,0
+3,3
+0,3
+1,0
+2,3
+1,2
+3,0
+3,2
+0,3
+2,3
+0,0
+2,3
+0,3
+3,3
+3,3
+3,2
+1,2
+1,3
+1,0
+3,3
+3,1
+0,2
+3,3
+3,0
+1,2
+1,3
+0,3
+2,3
+2,2
+1,3
+0,2
+2,3
+1,3
+0,0
+3,3
+3,3
+1,3
+0,2
+0,0
+2,3
+2,0
+2,2
+0,3
+2,2
+1,3
+0,0
+0,2
+0,2
+1,2
+3,2
+0,0
+3,0
+0,3
+0,3
+3,3
+1,3
+3,2
+2,3
+3,0
+1,2
+2,3
+0,0
+2,2
+1,2
+3,2
+2,3
+1,2
+1,3
+2,2
+3,3
+3,2
+0,3
+3,3
+3,3
+3,3
+1,3
+0,2
+3,3
+2,3
+3,3
+0,2
+0,3
+2,3
+3,0
+1,3
+3,0
+0,3
+0,3
+2,0
+2,3
+3,2
+1,3
+1,1
+1,0
+2,0
+0,2
+1,3
+3,0
+2,2
+1,3
+2,0
+3,3
+0,3
+2,3
+1,0
+1,0
+2,0
+2,3
+1,3
+2,2
+1,2
+0,3
+1,3
+2,0
+1,3
+0,2
+1,3
+1,1
+1,3
+2,3
+2,0
+3,2
+2,3
+0,2
+0,3
+2,2
+2,3
+0,0
+0,3
+1,2
+3,2
+3,3
+2,0
+2,2
+0,2
+2,3
+0,3
+0,0
+2,0
+1,2
+2,0
+0,2
+1,2
+0,0
+1,2
+0,3
+3,0
+0,3
+2,0
+0,0
+0,0
+0,2
+1,2
+1,2
+2,0
+0,3
+2,3
+3,1
+3,2
+3,0
+2,2
+2,3
+1,0
+1,0
+0,3
+0,0
+3,3
+2,0
+0,0
+0,0
+2,2
+3,0
+0,0
+0,3
+0,0
+0,2
+3,3
+2,0
+3,3
+3,0
+3,3
+1,2
+1,0
+3,3
+0,3
+3,2
+0,3
+0,3
+3,0
+1,0
+0,3
+3,2
+3,2
+2,3
+0,2
+2,2
+3,0
+2,3
+1,3
+0,0
+1,0
+3,0
+1,1
+2,0
+2,0
+2,3
+0,0
+0,2
+0,2
+0,3
+0,2
+0,3
+0,2
+1,2
+3,2
+2,2
+2,3
+0,0
+3,0
+2,3
+2,2
+1,3
+2,0
+1,3
+3,2
+1,0
+0,0
+2,1
+0,3
+2,2
+1,0
+3,3
+1,3
+0,3
+0,2
+2,0
+1,0
+1,0
+1,0
+2,3
+2,3
+0,0
+2,0
+1,0
+1,3
+3,2
+3,2
+2,0
+2,2
+3,3
+2,3
+0,3
+1,2
+0,0
+3,0
+3,3
+2,3
+2,2
+1,0
+3,3
+3,3
+0,3
+3,3
+0,0
+3,2
+2,2
+2,3
+3,2
+2,0
+3,2
+0,3
+3,3
+2,2
+3,3
+2,2
+3,3
+3,3
+2,3
+3,0
+3,0
+0,0
+1,3
+0,0
+1,3
+3,3
+1,2
+0,2
+2,0
+1,3
+3,2
+3,0
+3,0
+1,3
+1,0
+2,3
+3,2
+0,0
+1,3
+2,3
+1,2
+2,3
+1,2
+3,0
+3,0
+3,0
+0,0
+0,3
+1,0
+2,2
+1,3
+2,3
+1,2
+2,0
+3,0
+1,3
+3,3
+0,0
+2,3
+1,3
+0,3
+0,1
+0,2
+2,3
+0,0
+2,3
+1,0
+2,0
+3,3
+2,1
+3,3
+1,0
+3,2
+0,1
+2,3
+1,2
+1,0
+0,2
+0,3
+2,2
+2,2
+0,0
+1,2
+3,0
+1,3
+0,2
+0,0
+1,3
+3,0
+0,1
+1,3
+0,3
+3,0
+2,3
+0,3
+0,0
+2,3
+0,2
+1,3
+2,2
+2,3
+3,0
+1,3
+0,3
+3,2
+2,0
+0,3
+3,0
+3,3
+2,2
+1,0
+1,3
+0,2
+0,3
+2,1
+3,3
+0,2
+1,0
+2,2
+0,3
+2,3
+0,0
+1,0
+0,2
+0,2
+0,0
+1,0
+2,1
+0,0
+1,0
+3,2
+3,2
+3,0
+1,2
+0,2
+0,0
+3,3
+1,3
+0,2
+1,3
+0,2
+2,3
+1,0
+3,2
+0,2
+3,3
+2,0
+3,3
+0,3
+2,3
+2,3
+2,2
+0,3
+1,3
+2,0
+2,0
+2,0
+1,3
+3,0
+2,3
+2,0
+1,2
+3,3
+1,0
+2,3
+3,2
+3,0
+2,2
+1,0
+2,3
+1,3
+1,3
+0,3
+1,2
+3,3
+3,2
+2,2
+2,0
+0,2
+2,3
+2,0
+1,0
+1,2
+3,3
+2,0
+2,0
+2,2
+1,3
+2,2
+3,2
+1,0
+1,3
+1,0
+0,2
+1,1
+3,3
+0,2
+2,0
+0,0
+0,3
+0,3
+1,2
+0,0
+0,0
+0,0
+0,3
+0,0
+2,3
+2,3
+1,0
+3,2
+1,0
+1,0
+2,0
+3,3
+2,3
+1,2
+2,2
+0,3
+0,2
+3,0
+0,3
+3,3
+0,2
+0,2
+2,1
+2,3
+3,0
+0,3
+1,3
+3,3
+0,2
+0,0
+3,0
+1,2
+0,3
+0,2
+2,3
+3,0
+1,3
+1,2
+1,0
+3,2
+1,0
+3,0
+0,0
+0,2
+1,3
+1,3
+1,3
+3,0
+2,2
+3,3
+2,3
+0,0
+1,0
+1,0
+2,2
+1,1
+1,0
+1,2
+2,2
+3,2
+0,2
+3,0
+1,3
+2,3
+1,3
+3,3
+1,2
+1,0
+1,3
+2,3
+0,0
+0,2
+3,1
+0,2
+1,0
+1,3
+3,2
+2,3
+2,2
+2,0
+1,3
+2,0
+1,2
+0,0
+2,0
+1,3
+0,2
+1,3
+2,2
+1,2
+0,0
+3,2
+1,3
+1,3
+1,3
+1,0
+2,2
+1,2
+2,2
+1,3
+2,2
+1,2
+3,1
+1,3
+1,0
+2,0
+1,2
+0,0
+1,3
+2,3
+0,0
+0,0
+3,2
+2,0
+3,3
+1,2
+3,3
+2,0
+1,0
+3,3
+2,3
+1,3
+0,2
+0,3
+2,3
+2,2
+1,3
+0,2
+1,3
+2,2
+2,1
+0,2
+2,3
+0,3
+3,2
+3,3
+1,3
+0,0
+2,0
+3,2
+3,2
+2,3
+0,2
+3,2
+3,3
+0,3
+2,0
+1,3
+3,0
+2,3
+0,3
+3,3
+3,2
+1,3
+3,2
+1,0
+1,0
+3,2
+0,0
+2,3
+1,3
+2,3
+3,2
+2,2
+3,2
+0,3
+0,2
+1,0
+1,0
+3,2
+3,3
+2,0
+2,0
+3,2
+3,2
+0,2
+3,3
+0,3
+1,2
+2,2
+1,0
+0,3
+0,0
+3,0
+0,3
+2,0
+3,0
+1,3
+0,0
+3,0
+2,3
+3,3
+0,2
+0,3
+1,3
+2,3
+0,2
+2,0
+2,3
+3,3
+2,0
+3,0
+0,3
+0,0
+1,3
+3,2
+3,3
+2,2
+3,0
+3,2
+1,2
+0,3
+2,1
+1,0
+3,2
+1,2
+0,2
+1,3
+1,0
+3,2
+2,2
+1,3
+2,2
+0,0
+2,2
+3,1
+3,3
+0,2
+2,3
+1,0
+2,1
+1,2
+0,0
+0,3
+1,3
+3,2
+0,3
+0,2
+2,3
+2,1
+1,2
+2,3
+3,2
+3,3
+3,0
+0,0
+2,0
+2,3
+0,0
+0,0
+0,2
+1,3
+2,3
+2,2
+0,2
+1,0
+3,0
+2,3
+2,0
+1,3
+1,0
+3,3
+0,0
+3,3
+3,2
+0,2
+3,3
+0,0
+2,2
+2,0
+0,0
+2,3
+0,0
+1,2
+1,2
+1,0
+0,2
+0,0
+0,3
+2,2
+3,1
+1,3
+0,0
+0,0
+3,3
+3,0
+3,2
+1,3
+1,0
+1,0
+2,3
+1,2
+0,3
+2,2
+1,2
+2,3
+3,2
+2,2
+3,3
+2,2
+0,2
+2,2
+1,2
+0,3
+3,0
+2,2
+2,3
+0,2
+1,1
+3,2
+1,0
+3,2
+3,1
+2,2
+2,3
+0,3
+1,3
+1,3
+1,0
+3,3
+1,2
+1,0
+1,2
+3,0
+2,0
+2,3
+3,0
+3,3
+0,3
+2,0
+2,3
+0,3
+2,0
+2,0
+0,0
+0,3
+3,0
+0,2
+2,3
+3,2
+3,0
+1,0
+0,0
+1,2
+3,3
+2,2
+1,0
+3,3
+0,2
+2,3
+2,3
+2,2
+0,2
+1,3
+3,0
+0,0
+0,1
+3,3
+0,0
+3,0
+3,2
+1,0
+1,0
+2,2
+2,3
+1,3
+1,2
+3,2
+2,0
+3,2
+0,3
+3,2
+3,3
+1,2
+0,0
+3,3
+2,0
+3,0
+0,3
+0,3
+3,3
+0,1
+3,3
+3,3
+2,3
+2,0
+1,3
+2,0
+2,2
+0,3
+3,2
+0,3
+3,3
+2,0
+2,3
+3,2
+0,2
+1,0
+1,2
+0,2
+0,2
+2,0
+3,3
+1,0
+2,0
+0,3
+1,3
+3,2
+0,0
+0,3
+1,3
+1,3
+3,2
+1,3
+1,0
+0,3
+1,3
+2,2
+0,0
+2,2
+0,2
+2,3
+0,3
+0,2
+3,2
+3,0
+2,3
+2,0
+0,3
+3,3
+0,1
+0,3
+0,0
+1,0
+3,3
+3,2
+0,1
+0,0
+3,0
+0,2
+3,2
+2,2
+1,3
+1,3
+1,3
+2,3
+0,0
+3,2
+1,3
+2,0
+3,3
+2,2
+0,0
+3,3
+2,0
+0,2
+2,3
+1,2
+3,0
+2,3
+2,2
+2,0
+1,0
+2,2
+2,0
+3,1
+2,3
+2,2
+0,2
+0,3
+0,2
+1,0
+3,3
+2,2
+2,2
+0,0
+0,0
+1,0
+3,2
+1,2
+0,0
+1,3
+3,3
+1,2
+2,3
+2,3
+0,2
+1,0
+2,1
+2,0
+0,2
+0,3
+2,3
+1,2
+1,2
+3,2
+0,2
+1,3
+0,0
+3,2
+0,0
+2,3
+1,3
+2,2
+1,3
+1,0
+2,3
+0,0
+3,2
+3,0
+3,0
+0,2
+1,3
+3,2
+0,2
+0,3
+3,3
+3,3
+1,3
+3,3
+0,0
+0,0
+2,3
+0,2
+2,3
+1,0
+1,2
+0,3
+3,3
+2,3
+1,0
+2,0
+2,1
+3,3
+0,3
+1,3
+1,0
+2,2
+2,2
+2,0
+0,0
+2,0
+2,0
+3,2
+2,3
+3,2
+0,3
+3,2
+1,3
+1,2
+2,3
+3,3
+1,2
+2,3
+0,2
+3,2
+0,3
+2,2
+1,3
+3,0
+0,0
+0,0
+2,0
+2,0
+1,2
+0,2
+0,0
+0,2
+3,0
+0,2
+3,2
+3,2
+2,0
+0,2
+2,3
+3,0
+0,3
+3,3
+1,3
+3,3
+3,3
+1,2
+1,0
+0,3
+0,2
+1,0
+2,2
+3,3
+2,0
+0,2
+0,3
+0,2
+2,0
+0,2
+2,3
+3,3
+2,2
+2,2
+2,3
+0,2
+0,3
+0,3
+2,2
+1,2
+1,3
+0,0
+2,0
+0,0
+2,0
+3,3
+1,2
+0,2
+1,3
+3,3
+3,2
+0,2
+3,2
+1,2
+3,0
+2,3
+2,2
+2,3
+3,0
+1,1
+0,0
+1,3
+3,0
+2,0
+2,3
+1,2
+3,3
+2,3
+0,0
+3,2
+0,0
+3,0
+3,3
+2,2
+0,3
+0,3
+0,2
+2,0
+1,0
+0,0
+0,2
+2,3
+0,3
+1,0
+3,3
+0,3
+1,3
+2,3
+3,2
+3,0
+0,2
+1,0
+1,2
+3,2
+0,0
+2,3
+2,2
+1,2
+0,2
+0,2
+2,2
+1,2
+3,2
+3,1
+3,2
+3,3
+3,0
+2,1
+3,0
+0,3
+0,2
+3,3
+3,3
+2,3
+2,0
+3,0
+1,0
+3,3
+2,3
+2,3
+1,3
+3,3
+0,3
+2,0
+0,0
+2,3
+1,0
+2,3
+0,0
+0,3
+3,3
+0,2
+3,3
+2,0
+0,2
+2,2
+1,2
+3,2
+0,0
+2,0
+3,3
+1,3
+0,3
+0,2
+0,2
+0,0
+0,0
+1,3
+3,3
+0,0
+3,0
+2,0
+1,3
+1,0
+0,2
+2,0
+0,2
+2,2
+2,0
+0,0
+2,0
+1,0
+0,2
+1,3
+2,2
+0,3
+3,0
+0,3
+2,0
+3,3
+2,3
+1,2
+0,3
+3,2
+1,2
+1,2
+1,2
+0,0
+3,3
+2,0
+2,3
+2,3
+2,3
+1,3
+2,3
+1,2
+3,0
+0,2
+0,2
+3,3
+3,2
+1,2
+2,2
+0,3
+3,3
+3,0
+1,2
+3,2
+3,2
+3,3
+3,2
+3,3
+3,2
+3,0
+3,0
+2,2
+1,3
+0,2
+2,3
+0,0
+1,0
+2,0
+3,1
+3,3
+3,3
+2,0
+3,1
+3,0
+0,2
+2,0
+0,3
+0,0
+3,3
+2,3
+3,2
+2,3
+0,2
+2,3
+1,2
+1,3
+1,3
+1,0
+3,2
+2,0
+3,2
+0,3
+3,2
+2,0
+1,0
+0,3
+2,3
+3,0
+2,0
+3,3
+2,2
+2,3
+1,0
+0,3
+2,0
+2,3
+2,3
+3,0
+2,3
+1,3
+1,3
+2,1
+3,3
+3,2
+3,3
+3,3
+1,2
+2,0
+1,3
+1,3
+2,3
+0,3
+1,1
+3,0
+0,0
+3,3

mmlu_humanities/few_shot_1/microsoft_phi-1/last_token_relative_depth_100/accuracy.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 1139, "1": 1153, "2": 1276, "3": 1137}, "correct_per_class": {"0": 693, "1": 247, "2": 144, "3": 80}, "net_accuracy": 0.24739638682252924}

mmlu_humanities/few_shot_1/microsoft_phi-1/last_token_relative_depth_100/intrinsic/results.csv

@@ -0,0 +1,25 @@
+Layer,MLE,MLE_Corrected,TwoNN,Gride
+blocks.0.hook_mlp_out,0.05428679659962654,0.05428681895136833,-0.04037317633628845,
+blocks.1.hook_mlp_out,23.363689422607422,19.453758239746094,21.582216262817383,20.61831283569336
+blocks.2.hook_mlp_out,25.292194366455078,21.14816665649414,23.730667114257812,21.46039581298828
+blocks.3.hook_mlp_out,24.883617401123047,21.168855667114258,24.607051849365234,21.17038917541504
+blocks.4.hook_mlp_out,23.94703483581543,20.33997344970703,22.791778564453125,20.420372009277344
+blocks.5.hook_mlp_out,23.496585845947266,19.843244552612305,23.31252098083496,18.83033561706543
+blocks.6.hook_mlp_out,21.784870147705078,18.654212951660156,22.10822105407715,16.91029167175293
+blocks.7.hook_mlp_out,20.266157150268555,17.366209030151367,21.640438079833984,14.038890838623047
+blocks.8.hook_mlp_out,19.31157112121582,16.551179885864258,20.09147834777832,12.850199699401855
+blocks.9.hook_mlp_out,19.831987380981445,16.9603271484375,20.742591857910156,13.21020793914795
+blocks.10.hook_mlp_out,20.657711029052734,17.490802764892578,21.31689453125,13.43021297454834
+blocks.11.hook_mlp_out,20.301918029785156,17.327098846435547,21.18315887451172,13.230208396911621
+blocks.12.hook_mlp_out,20.159303665161133,17.07172203063965,20.739238739013672,12.980202674865723
+blocks.13.hook_mlp_out,20.76025390625,17.48664093017578,20.718799591064453,13.2802095413208
+blocks.14.hook_mlp_out,21.122894287109375,17.725690841674805,21.572566986083984,13.560215950012207
+blocks.15.hook_mlp_out,21.435054779052734,18.001636505126953,21.860782623291016,13.770220756530762
+blocks.16.hook_mlp_out,21.88248062133789,18.323596954345703,22.656597137451172,13.880223274230957
+blocks.17.hook_mlp_out,22.228425979614258,18.558210372924805,22.587800979614258,14.330233573913574
+blocks.18.hook_mlp_out,23.049551010131836,19.03750991821289,23.004615783691406,14.600239753723145
+blocks.19.hook_mlp_out,23.01092529296875,19.040454864501953,22.770116806030273,14.790244102478027
+blocks.20.hook_mlp_out,23.476900100708008,19.491348266601562,23.042179107666016,15.03024959564209
+blocks.21.hook_mlp_out,22.617488861083984,18.840614318847656,22.42363166809082,14.580239295959473
+blocks.22.hook_mlp_out,19.617185592651367,16.1469669342041,21.200515747070312,12.84019947052002
+blocks.23.hook_mlp_out,18.069347381591797,15.062506675720215,19.870037078857422,12.850199699401855

mmlu_humanities/few_shot_1/microsoft_phi-1/last_token_relative_depth_100/llm_hook_args.json

@@ -0,0 +1 @@
+{"device": "cuda", "model_id": "microsoft/phi-1", "batch_size": 32, "dataset_name": "mmlu_humanities", "max_token_length": 1024, "last_token": true, "question_structure": true, "relative_depth_of_sentence": 1.0, "store_activations": true, "random_seed": 42, "few_shot": 1, "pythia": false, "revision_step": 0, "save_dir": "experiment_results"}

mmlu_humanities/few_shot_1/microsoft_phi-1/last_token_relative_depth_100/llm_intrinsic_args.json

@@ -0,0 +1 @@
+{"device": "cuda", "gride_k1": 20, "gride_k2": 40, "mle_k1": 12, "mle_k2": 24, "mle": true, "model_id": "microsoft/phi-1", "dataset_name": "mmlu_humanities", "distance_metric": "euclidean", "batch_size": 32, "last_token": true, "relative_depth_of_sentence": 1.0, "few_shot": 1, "pythia": false, "revision_step": 0, "save_dir": "experiment_results"}

mmlu_humanities/few_shot_1/microsoft_phi-1/last_token_relative_depth_100/predictions.csv

@@ -0,0 +1,4706 @@
+Labels,Predictions
+2,0
+3,0
+0,1
+1,0
+2,0
+2,3
+0,2
+1,0
+2,0
+1,1
+2,0
+3,3
+2,0
+3,0
+1,0
+2,0
+2,0
+3,0
+3,0
+3,2
+0,1
+2,0
+1,0
+0,1
+0,2
+1,3
+2,0
+3,3
+0,0
+1,0
+0,0
+2,0
+2,2
+1,0
+3,2
+1,1
+3,2
+3,3
+2,0
+3,1
+1,0
+0,0
+2,1
+0,0
+0,0
+0,0
+1,0
+2,2
+3,3
+3,2
+3,0
+3,0
+3,0
+1,0
+1,2
+2,0
+1,1
+0,1
+2,2
+1,0
+0,1
+3,2
+1,3
+2,0
+2,0
+2,3
+1,0
+0,1
+0,0
+3,0
+2,0
+2,3
+2,1
+2,0
+2,0
+3,1
+1,0
+3,0
+2,2
+2,2
+2,1
+2,0
+3,3
+0,0
+0,0
+0,1
+1,1
+3,0
+2,0
+3,0
+0,2
+1,0
+3,1
+3,0
+3,3
+0,1
+1,0
+2,2
+1,0
+3,2
+2,0
+3,1
+3,1
+1,0
+2,0
+0,0
+0,0
+2,0
+0,0
+3,1
+2,0
+3,1
+3,1
+3,0
+3,0
+3,1
+2,0
+2,1
+1,1
+1,0
+0,0
+2,0
+0,0
+3,0
+3,1
+3,0
+1,0
+3,0
+1,3
+0,3
+3,1
+0,1
+1,0
+1,0
+3,0
+3,0
+1,1
+1,0
+3,1
+1,0
+1,0
+0,0
+2,0
+1,2
+1,2
+0,1
+3,1
+3,2
+1,0
+3,0
+1,0
+0,0
+2,0
+3,1
+2,0
+2,0
+1,0
+3,0
+0,0
+0,0
+2,0
+0,3
+0,1
+3,2
+3,0
+3,0
+3,0
+2,0
+3,0
+2,3
+2,3
+1,0
+2,0
+0,0
+2,1
+2,1
+1,0
+0,0
+0,3
+2,2
+3,0
+2,0
+3,0
+1,2
+0,1
+1,0
+2,0
+3,1
+0,1
+2,1
+3,0
+3,0
+0,0
+2,3
+0,0
+2,0
+2,1
+3,2
+2,0
+0,0
+3,0
+2,2
+3,0
+3,0
+0,3
+2,0
+1,2
+3,2
+0,0
+0,0
+2,0
+2,0
+3,0
+0,3
+0,0
+1,1
+0,0
+2,3
+2,2
+1,3
+3,0
+0,0
+1,1
+2,0
+0,0
+3,3
+0,0
+2,0
+1,0
+0,0
+2,1
+1,0
+0,0
+0,2
+0,0
+1,3
+1,0
+2,0
+2,3
+0,2
+0,1
+1,1
+2,0
+2,1
+3,1
+2,0
+2,0
+0,1
+3,2
+3,0
+1,1
+2,0
+2,1
+3,0
+1,0
+1,3
+3,1
+3,0
+0,0
+1,2
+3,1
+1,1
+2,1
+0,0
+3,0
+2,0
+0,0
+3,0
+2,0
+0,1
+1,0
+0,0
+3,3
+3,1
+0,1
+2,0
+0,0
+0,2
+2,2
+3,2
+1,3
+2,3
+1,1
+0,0
+0,3
+1,1
+3,0
+1,0
+0,0
+1,0
+1,1
+0,0
+2,2
+1,0
+1,0
+2,3
+0,1
+3,3
+1,2
+1,0
+2,0
+3,0
+2,0
+2,1
+3,3
+3,0
+1,2
+0,1
+3,1
+2,0
+2,2
+2,0
+2,0
+1,2
+0,0
+2,1
+1,1
+0,0
+3,0
+2,3
+1,2
+3,0
+3,3
+0,3
+1,1
+1,0
+0,0
+0,0
+1,0
+0,0
+0,0
+3,0
+1,0
+0,0
+2,3
+3,0
+0,0
+1,0
+3,0
+3,1
+2,0
+3,0
+2,1
+1,0
+1,0
+0,1
+3,0
+2,3
+2,1
+0,0
+3,0
+3,0
+1,2
+0,0
+3,0
+3,0
+3,1
+0,0
+0,1
+0,0
+1,1
+2,2
+1,0
+2,2
+2,0
+3,0
+3,1
+3,0
+1,2
+1,2
+2,0
+3,1
+3,0
+1,1
+0,2
+3,0
+2,0
+3,0
+0,2
+0,0
+1,1
+0,0
+2,1
+3,1
+1,1
+2,0
+0,0
+1,0
+1,0
+2,0
+0,0
+0,2
+1,0
+3,1
+1,1
+2,2
+0,0
+2,0
+2,0
+0,0
+2,0
+1,0
+0,0
+3,1
+2,0
+0,2
+1,0
+2,0
+3,0
+3,0
+2,0
+3,0
+2,0
+1,0
+1,1
+3,1
+2,0
+1,0
+1,1
+3,1
+3,0
+2,0
+2,0
+1,0
+0,3
+3,1
+0,3
+2,2
+0,0
+3,0
+1,0
+3,0
+2,1
+2,0
+0,0
+1,0
+2,0
+2,2
+1,0
+2,0
+3,1
+0,0
+2,2
+0,0
+0,0
+0,0
+1,3
+0,0
+3,1
+3,3
+1,0
+0,0
+2,3
+1,2
+1,2
+3,0
+2,1
+3,0
+1,0
+1,0
+2,0
+2,0
+2,0
+0,1
+2,2
+2,0
+3,0
+3,3
+1,1
+2,0
+2,0
+0,1
+3,2
+1,1
+1,0
+1,0
+1,0
+0,2
+3,1
+2,3
+0,0
+2,1
+1,0
+2,0
+1,0
+0,0
+2,0
+2,3
+0,0
+1,3
+3,2
+2,0
+2,0
+3,0
+3,1
+1,0
+3,1
+1,2
+3,0
+3,2
+2,1
+2,0
+1,0
+2,0
+1,0
+0,0
+0,3
+3,0
+2,0
+3,0
+2,0
+3,0
+3,0
+1,0
+0,0
+1,0
+2,0
+3,0
+3,0
+2,0
+2,0
+1,0
+1,0
+1,1
+0,2
+2,3
+1,0
+2,0
+0,0
+2,2
+3,0
+2,1
+2,0
+2,1
+1,0
+2,0
+0,0
+2,0
+2,0
+0,1
+3,3
+3,0
+1,0
+0,0
+2,3
+2,0
+3,2
+0,2
+3,2
+2,0
+1,0
+1,1
+1,1
+0,1
+1,1
+0,0
+2,0
+1,1
+1,0
+2,0
+1,0
+1,0
+3,0
+1,0
+1,0
+3,0
+3,1
+1,0
+1,0
+0,0
+1,0
+0,0
+3,0
+0,2
+1,2
+1,0
+1,0
+3,0
+3,0
+2,0
+1,1
+2,1
+2,1
+1,0
+3,0
+3,1
+1,0
+1,0
+0,1
+3,0
+0,0
+3,0
+1,3
+2,0
+0,0
+0,0
+1,2
+3,0
+0,3
+3,0
+0,1
+0,0
+2,1
+1,1
+0,0
+1,1
+2,1
+3,0
+1,1
+0,0
+2,0
+1,0
+2,0
+2,1
+1,0
+3,0
+3,1
+1,1
+0,1
+0,0
+1,0
+0,1
+3,0
+1,0
+2,0
+0,0
+1,0
+3,1
+1,1
+2,0
+3,1
+1,0
+1,0
+1,0
+2,0
+1,1
+0,2
+3,0
+2,2
+3,2
+2,0
+1,1
+1,0
+2,0
+2,2
+2,0
+3,0
+2,3
+0,1
+0,0
+1,2
+2,0
+1,0
+0,2
+1,2
+2,0
+2,2
+1,0
+3,2
+3,0
+1,0
+2,0
+0,3
+2,0
+2,1
+3,0
+2,0
+1,0
+3,0
+2,1
+0,0
+3,0
+1,2
+3,0
+1,3
+0,0
+3,2
+0,0
+1,1
+0,0
+3,0
+0,0
+0,0
+3,0
+2,0
+0,0
+2,0
+1,1
+0,0
+3,0
+0,0
+3,0
+2,0
+1,0
+1,3
+2,1
+1,0
+1,0
+3,1
+1,0
+0,1
+1,3
+1,0
+1,2
+1,0
+3,0
+2,0
+3,0
+3,0
+0,0
+1,1
+2,1
+0,2
+1,0
+2,0
+1,2
+1,0
+1,0
+3,0
+1,3
+3,0
+0,0
+3,0
+3,0
+2,0
+3,2
+2,0
+2,0
+0,0
+0,0
+1,0
+0,2
+2,0
+1,0
+2,0
+1,0
+3,0
+1,1
+2,2
+3,2
+0,0
+3,0
+0,0
+3,0
+2,1
+1,0
+2,0
+2,0
+1,1
+2,3
+0,1
+3,0
+0,2
+2,0
+2,0
+1,0
+0,1
+2,2
+0,1
+1,0
+3,0
+0,2
+2,0
+0,0
+2,0
+1,0
+2,0
+3,0
+3,1
+1,0
+1,0
+0,0
+2,0
+1,0
+0,3
+3,2
+2,0
+0,0
+1,2
+0,0
+0,1
+2,0
+0,0
+3,1
+2,1
+3,1
+0,1
+1,0
+3,3
+1,0
+2,3
+0,1
+1,0
+3,1
+1,1
+1,0
+1,0
+2,0
+1,3
+3,3
+1,0
+0,0
+0,0
+3,0
+2,0
+0,3
+3,0
+2,0
+1,2
+0,2
+0,0
+0,0
+3,0
+2,3
+1,0
+2,0
+0,0
+1,0
+3,0
+3,0
+0,0
+0,0
+1,0
+1,2
+0,0
+1,0
+3,0
+3,0
+3,0
+3,0
+1,1
+2,0
+1,0
+1,0
+3,1
+0,0
+0,0
+0,1
+2,2
+2,0
+3,0
+3,0
+0,0
+2,0
+3,0
+1,2
+1,1
+2,0
+2,3
+0,0
+1,0
+3,1
+1,1
+1,2
+0,0
+3,1
+2,0
+3,0
+1,0
+1,1
+3,1
+2,1
+2,2
+3,0
+3,1
+0,2
+1,0
+2,0
+2,0
+1,1
+2,0
+0,2
+3,0
+1,0
+3,0
+3,0
+3,0
+0,0
+2,0
+1,0
+2,0
+1,1
+0,2
+1,0
+0,0
+0,0
+1,1
+0,0
+0,0
+1,1
+3,0
+1,2
+2,0
+2,3
+3,0
+1,0
+2,0
+3,0
+1,0
+3,0
+1,0
+3,0
+3,0
+2,0
+2,0
+1,1
+1,0
+2,0
+1,2
+3,1
+3,0
+0,0
+1,0
+1,0
+3,1
+1,0
+0,2
+3,0
+0,0
+1,2
+3,0
+1,1
+2,0
+3,1
+3,1
+0,3
+3,0
+2,0
+0,0
+1,0
+2,0
+2,1
+2,0
+3,1
+0,1
+0,2
+3,0
+0,1
+3,0
+2,1
+2,2
+0,1
+3,0
+2,3
+1,0
+0,0
+0,0
+3,0
+2,1
+0,0
+2,0
+0,2
+0,1
+3,0
+1,0
+3,0
+0,0
+1,0
+2,0
+0,0
+3,0
+0,0
+3,3
+0,0
+2,1
+2,0
+0,0
+0,0
+3,1
+1,0
+2,2
+1,2
+3,0
+2,0
+2,0
+0,0
+2,1
+3,0
+1,0
+3,0
+1,0
+3,0
+2,3
+1,0
+3,0
+3,0
+1,1
+1,0
+2,0
+2,0
+3,0
+2,0
+3,1
+2,0
+3,0
+1,0
+3,0
+3,3
+1,0
+0,0
+1,2
+1,1
+1,0
+0,1
+1,0
+3,1
+2,0
+3,0
+3,0
+0,3
+2,0
+1,0
+1,1
+0,0
+0,0
+0,0
+1,2
+0,0
+1,0
+2,1
+2,0
+2,1
+0,0
+0,0
+3,0
+0,0
+3,1
+3,0
+3,0
+1,0
+3,0
+3,1
+0,0
+1,0
+1,0
+3,0
+3,0
+0,0
+2,0
+1,2
+2,0
+1,2
+1,1
+3,0
+0,3
+1,0
+0,3
+0,1
+2,0
+2,0
+0,0
+2,0
+3,0
+2,0
+0,1
+3,0
+1,2
+2,1
+0,3
+2,0
+0,1
+0,0
+3,0
+3,0
+3,0
+0,0
+2,1
+1,0
+3,3
+1,0
+0,0
+3,0
+2,2
+3,0
+0,0
+0,2
+2,1
+3,1
+2,0
+1,0
+0,2
+3,0
+2,0
+2,0
+0,2
+3,0
+1,2
+2,1
+1,2
+2,1
+3,0
+2,3
+1,0
+2,2
+2,0
+2,1
+2,0
+0,2
+0,1
+2,0
+1,2
+1,0
+2,0
+3,1
+3,0
+1,3
+1,0
+0,0
+1,2
+2,0
+3,2
+2,0
+1,0
+2,1
+2,1
+2,0
+1,0
+0,1
+1,2
+3,2
+3,3
+2,1
+3,0
+3,0
+1,0
+1,0
+1,0
+3,0
+2,2
+3,0
+1,0
+1,0
+3,3
+2,0
+1,3
+2,0
+2,3
+0,0
+0,1
+3,1
+3,3
+3,2
+0,1
+3,0
+1,0
+0,0
+3,1
+3,0
+2,0
+2,1
+3,3
+0,0
+1,0
+1,0
+2,3
+2,1
+0,2
+1,3
+2,0
+0,0
+3,3
+3,0
+0,1
+0,0
+3,0
+0,0
+3,3
+1,2
+2,1
+1,0
+2,1
+1,0
+0,0
+3,0
+2,0
+0,0
+3,0
+1,0
+1,1
+2,0
+1,0
+0,0
+3,1
+1,3
+2,0
+2,0
+1,1
+1,1
+3,0
+3,0
+2,0
+3,0
+0,3
+2,3
+0,0
+1,3
+2,0
+1,1
+0,0
+3,0
+1,3
+0,2
+0,1
+0,0
+3,1
+2,0
+2,0
+1,1
+0,0
+2,3
+1,0
+0,1
+3,0
+2,3
+1,0
+0,0
+3,1
+2,0
+2,0
+0,0
+3,0
+2,0
+0,0
+1,0
+3,0
+0,2
+2,3
+2,0
+0,1
+2,0
+1,3
+2,1
+1,1
+0,0
+0,0
+0,0
+2,0
+3,0
+2,0
+1,3
+0,0
+1,2
+3,0
+3,1
+0,0
+2,0
+3,0
+3,0
+3,3
+3,1
+0,2
+0,0
+0,0
+2,1
+0,0
+2,0
+0,2
+2,0
+3,1
+3,0
+3,1
+1,2
+2,0
+0,0
+0,0
+2,0
+2,0
+1,0
+2,1
+1,0
+0,0
+3,0
+1,0
+1,0
+0,0
+0,0
+1,0
+3,2
+1,0
+0,0
+0,0
+1,0
+3,0
+0,0
+2,0
+1,0
+2,0
+2,2
+2,1
+1,2
+3,0
+0,0
+1,0
+1,0
+2,1
+1,0
+2,0
+1,0
+1,0
+3,1
+2,0
+3,0
+2,1
+1,0
+3,1
+2,0
+1,2
+3,0
+0,1
+1,0
+2,0
+1,0
+2,0
+2,0
+2,0
+3,0
+2,0
+2,2
+1,0
+2,3
+3,0
+1,0
+0,2
+3,3
+0,1
+2,0
+2,1
+2,0
+3,2
+0,0
+1,0
+0,1
+1,0
+2,0
+3,0
+3,0
+0,0
+3,0
+2,0
+2,1
+0,0
+3,0
+1,1
+1,0
+0,0
+1,0
+3,0
+0,3
+1,0
+3,0
+1,0
+1,0
+2,2
+3,2
+0,0
+1,0
+1,0
+2,0
+0,0
+2,0
+2,1
+1,2
+0,1
+2,0
+0,3
+1,0
+0,0
+1,0
+0,3
+0,3
+3,0
+2,1
+0,1
+3,0
+0,0
+1,2
+2,0
+2,3
+0,3
+1,0
+1,1
+0,3
+0,0
+1,0
+0,2
+2,1
+2,1
+1,1
+3,0
+2,0
+3,1
+2,0
+1,0
+3,3
+0,0
+1,2
+3,0
+3,3
+3,3
+1,0
+1,0
+0,0
+1,3
+2,1
+0,0
+2,0
+3,0
+2,1
+0,2
+2,3
+2,1
+1,0
+2,0
+0,2
+1,0
+2,0
+3,0
+1,3
+2,2
+3,0
+3,1
+2,0
+2,0
+1,1
+0,3
+0,0
+1,1
+0,1
+0,0
+1,1
+3,1
+3,1
+1,0
+1,1
+2,3
+1,0
+1,2
+2,0
+1,1
+2,0
+1,2
+1,0
+2,2
+1,2
+2,0
+2,0
+0,1
+3,0
+1,0
+0,0
+2,0
+3,0
+3,0
+2,0
+1,2
+0,0
+3,1
+3,0
+3,0
+3,0
+2,2
+3,1
+0,2
+2,0
+3,2
+0,1
+1,0
+2,0
+1,1
+3,0
+2,0
+3,2
+2,0
+3,3
+1,0
+1,0
+2,3
+2,1
+2,0
+0,0
+1,0
+1,0
+2,2
+3,1
+1,0
+3,0
+3,1
+3,1
+2,1
+1,0
+1,0
+1,0
+2,1
+0,1
+2,0
+3,0
+1,0
+0,1
+1,0
+1,0
+0,0
+0,0
+2,0
+3,1
+0,1
+3,2
+0,2
+2,0
+3,0
+1,0
+1,0
+0,0
+2,2
+2,0
+1,1
+0,0
+3,3
+0,0
+1,0
+3,1
+2,1
+2,2
+0,3
+1,0
+2,2
+3,0
+1,0
+2,0
+3,0
+2,1
+1,0
+0,2
+1,1
+2,0
+3,0
+0,1
+3,2
+2,0
+2,0
+2,0
+3,3
+3,0
+1,0
+3,1
+0,0
+2,1
+1,0
+1,3
+0,0
+0,3
+2,0
+2,3
+2,0
+1,0
+0,2
+0,0
+3,0
+3,0
+0,0
+2,0
+0,0
+2,1
+0,0
+1,0
+2,0
+0,2
+3,0
+0,0
+1,3
+2,0
+0,0
+1,0
+3,0
+0,0
+1,1
+0,0
+0,1
+2,0
+2,1
+2,0
+3,0
+0,0
+2,0
+2,0
+3,0
+3,0
+1,1
+0,0
+0,0
+1,3
+1,0
+1,0
+2,0
+1,0
+0,1
+2,0
+0,0
+3,0
+0,0
+3,0
+3,3
+3,0
+0,0
+2,2
+3,0
+2,0
+3,0
+2,0
+3,1
+2,0
+3,1
+1,0
+2,1
+2,0
+2,2
+1,0
+2,0
+1,0
+0,1
+0,0
+2,0
+2,3
+2,0
+0,3
+0,1
+2,0
+1,0
+3,0
+2,0
+0,0
+2,3
+1,0
+2,0
+2,1
+0,2
+1,0
+3,0
+3,0
+2,3
+2,2
+0,0
+3,1
+2,0
+3,3
+3,0
+0,1
+3,1
+0,0
+1,3
+1,3
+0,1
+2,0
+0,0
+3,0
+1,0
+2,3
+0,2
+3,3
+2,0
+1,1
+3,0
+2,0
+1,0
+0,0
+1,0
+2,0
+1,0
+1,2
+3,1
+0,2
+1,0
+2,0
+0,0
+1,0
+2,0
+0,1
+2,2
+3,2
+3,0
+2,0
+0,0
+1,2
+1,0
+3,0
+2,0
+3,0
+3,0
+0,0
+1,3
+3,0
+1,2
+2,3
+2,0
+3,0
+2,1
+0,1
+1,0
+2,0
+2,0
+1,2
+2,0
+2,1
+1,0
+2,0
+1,2
+1,0
+1,1
+0,0
+0,0
+0,2
+0,3
+2,2
+0,2
+0,1
+2,1
+3,0
+3,2
+2,3
+1,0
+2,2
+2,0
+0,1
+2,0
+0,1
+0,0
+3,2
+1,0
+2,0
+3,1
+0,0
+0,0
+2,3
+0,0
+1,0
+1,0
+2,1
+1,1
+3,3
+3,0
+1,1
+0,0
+2,0
+0,0
+0,3
+3,0
+2,1
+3,0
+3,0
+2,0
+2,0
+1,0
+1,3
+0,0
+0,0
+2,0
+0,2
+2,1
+3,1
+3,2
+1,0
+0,0
+1,0
+2,0
+0,0
+2,1
+0,0
+3,1
+3,0
+3,0
+1,3
+0,1
+0,1
+0,1
+2,0
+0,3
+0,0
+2,2
+0,3
+2,0
+3,1
+2,0
+2,2
+1,0
+1,1
+1,0
+0,1
+2,0
+2,1
+2,0
+3,1
+1,2
+2,0
+1,0
+1,0
+2,0
+1,0
+2,0
+0,2
+1,3
+0,3
+2,0
+0,0
+3,2
+3,1
+1,0
+3,0
+3,0
+0,0
+3,0
+3,1
+3,0
+1,0
+2,0
+1,3
+0,0
+0,0
+0,0
+2,3
+2,3
+3,0
+0,0
+1,1
+0,2
+3,0
+0,1
+2,0
+3,0
+2,0
+3,0
+1,1
+2,1
+3,1
+2,0
+0,3
+2,1
+0,0
+0,0
+0,0
+1,0
+0,0
+0,0
+3,0
+0,0
+2,3
+0,0
+1,0
+2,0
+0,1
+3,0
+3,0
+2,1
+0,2
+0,0
+2,0
+3,3
+2,0
+2,0
+2,2
+0,0
+1,1
+0,1
+1,0
+1,3
+0,3
+0,0
+1,1
+3,0
+3,0
+3,2
+2,1
+2,1
+2,0
+1,0
+1,0
+0,0
+3,1
+1,0
+0,0
+0,0
+2,0
+1,0
+3,1
+2,1
+1,1
+0,2
+2,0
+2,0
+1,0
+0,0
+1,0
+0,1
+2,1
+0,0
+2,0
+2,1
+3,0
+1,1
+1,2
+3,1
+3,0
+1,3
+0,3
+3,0
+0,1
+1,0
+3,0
+0,3
+3,0
+0,3
+2,0
+1,1
+2,1
+0,0
+1,0
+2,2
+1,1
+1,0
+0,0
+0,0
+0,0
+2,0
+0,2
+1,0
+1,2
+0,0
+2,0
+2,0
+2,0
+3,0
+3,3
+3,0
+0,0
+2,0
+1,1
+2,0
+1,0
+2,0
+1,0
+2,0
+3,0
+3,0
+0,0
+3,1
+0,2
+3,1
+0,0
+3,2
+0,0
+2,0
+1,1
+3,1
+1,0
+2,0
+2,0
+3,0
+3,1
+1,1
+3,0
+0,0
+1,3
+3,1
+0,0
+0,0
+1,1
+3,0
+0,2
+1,0
+1,2
+3,0
+0,0
+0,0
+3,1
+0,0
+3,0
+1,1
+3,3
+2,0
+1,0
+1,0
+3,0
+0,0
+3,0
+1,0
+0,1
+0,0
+1,0
+0,1
+3,0
+3,0
+3,0
+1,0
+1,2
+0,0
+2,2
+2,0
+0,1
+1,0
+0,0
+2,0
+1,1
+2,0
+1,3
+1,0
+3,0
+2,0
+2,1
+1,0
+3,0
+1,0
+1,0
+1,1
+2,0
+1,0
+1,0
+2,2
+1,0
+2,0
+0,0
+0,1
+2,2
+3,2
+0,3
+3,2
+3,0
+1,1
+0,0
+2,1
+0,1
+2,0
+2,1
+3,1
+3,0
+3,0
+3,0
+1,0
+2,0
+1,0
+1,0
+0,2
+0,0
+1,1
+2,3
+0,0
+1,0
+2,0
+2,2
+0,1
+2,0
+1,1
+0,0
+0,2
+3,0
+0,0
+3,0
+1,1
+3,3
+1,1
+3,1
+0,0
+2,2
+3,0
+3,2
+3,0
+1,0
+1,1
+3,0
+0,0
+1,0
+2,1
+3,0
+2,3
+2,3
+3,0
+2,1
+2,1
+0,1
+3,0
+3,0
+0,0
+3,0
+3,0
+3,0
+3,1
+2,1
+2,3
+3,0
+0,3
+1,0
+1,3
+2,0
+2,1
+1,0
+2,2
+1,0
+0,0
+0,0
+2,0
+0,0
+0,0
+3,0
+1,0
+2,1
+2,0
+1,1
+0,0
+0,3
+1,0
+1,0
+0,2
+2,2
+3,0
+2,0
+0,3
+3,2
+1,3
+3,1
+2,2
+2,0
+2,0
+0,0
+2,1
+0,0
+3,0
+1,1
+0,1
+3,0
+3,1
+2,0
+1,0
+2,1
+3,0
+3,1
+0,1
+3,0
+2,2
+2,1
+3,1
+2,3
+3,0
+1,1
+2,0
+2,1
+2,0
+0,0
+3,2
+1,0
+0,1
+1,0
+0,1
+3,0
+2,0
+1,0
+2,2
+3,0
+2,1
+3,1
+0,0
+1,0
+3,1
+1,0
+0,1
+0,0
+0,1
+2,1
+2,0
+3,0
+2,0
+3,0
+0,0
+0,0
+3,0
+2,1
+2,1
+0,1
+3,0
+0,0
+1,3
+1,0
+3,2
+1,0
+0,1
+2,0
+3,0
+3,3
+3,0
+0,3
+1,1
+0,0
+3,0
+3,0
+2,0
+1,0
+1,1
+2,0
+0,0
+2,3
+1,0
+0,1
+0,1
+2,3
+0,1
+3,0
+3,0
+1,0
+3,0
+2,0
+1,0
+0,0
+0,0
+3,0
+3,3
+3,1
+3,3
+2,1
+1,0
+2,0
+2,0
+2,0
+2,0
+2,1
+0,1
+1,2
+2,2
+0,1
+1,3
+3,1
+0,0
+0,0
+2,0
+0,1
+1,0
+3,0
+1,1
+2,0
+0,3
+3,0
+3,0
+0,2
+3,0
+3,0
+2,0
+1,0
+3,0
+1,0
+1,0
+2,0
+1,2
+1,0
+1,0
+0,0
+1,1
+0,1
+0,0
+0,0
+2,0
+1,1
+0,1
+3,0
+0,1
+1,0
+0,0
+0,0
+2,1
+1,0
+2,0
+2,0
+2,0
+0,3
+0,1
+0,0
+0,0
+1,1
+3,0
+3,0
+1,0
+1,0
+1,0
+1,1
+0,1
+2,0
+2,0
+2,0
+1,3
+2,2
+1,0
+2,2
+1,2
+1,0
+1,0
+1,1
+2,1
+1,0
+2,2
+3,0
+3,0
+0,0
+0,0
+2,1
+0,0
+2,2
+1,3
+0,1
+1,0
+0,0
+0,0
+3,0
+3,2
+3,0
+0,3
+3,3
+1,3
+0,3
+1,0
+2,0
+0,0
+0,2
+1,1
+2,1
+3,0
+1,0
+3,1
+0,2
+3,0
+0,0
+3,0
+1,1
+3,0
+2,0
+1,0
+0,0
+2,3
+2,1
+3,2
+2,0
+3,0
+3,1
+3,0
+1,1
+3,0
+3,1
+1,0
+3,0
+0,0
+1,0
+2,0
+3,0
+1,1
+0,2
+3,1
+2,0
+1,1
+1,0
+0,1
+1,1
+2,3
+2,3
+0,1
+1,1
+2,0
+2,0
+3,0
+1,0
+3,0
+1,2
+1,2
+3,0
+1,1
+2,0
+1,3
+3,3
+3,1
+2,1
+0,2
+0,3
+2,1
+0,0
+0,0
+0,3
+0,0
+1,0
+2,0
+1,0
+0,1
+2,0
+1,2
+1,1
+0,0
+2,0
+1,2
+1,2
+2,0
+2,1
+0,0
+2,0
+3,0
+0,3
+0,0
+2,2
+2,0
+2,2
+3,1
+2,2
+2,1
+0,3
+3,0
+2,1
+2,1
+2,1
+3,3
+0,2
+0,0
+2,0
+3,3
+3,2
+2,1
+1,0
+1,1
+1,0
+2,3
+0,0
+1,3
+1,1
+3,0
+1,2
+0,0
+0,2
+2,1
+2,0
+2,0
+1,0
+3,0
+0,0
+0,0
+0,0
+0,0
+2,1
+2,2
+1,1
+2,3
+2,2
+2,0
+1,0
+0,0
+0,0
+2,0
+3,2
+2,0
+3,0
+3,0
+0,2
+2,3
+1,0
+2,1
+3,0
+0,0
+1,0
+2,1
+3,0
+3,0
+0,0
+1,0
+3,1
+3,1
+1,0
+0,0
+1,0
+2,0
+3,0
+2,1
+2,0
+3,0
+0,0
+0,0
+1,2
+3,0
+3,0
+1,2
+1,0
+3,1
+1,0
+2,1
+0,1
+3,1
+1,3
+0,1
+0,0
+0,0
+2,0
+1,0
+0,0
+0,1
+1,1
+2,0
+3,0
+2,0
+1,0
+1,1
+0,0
+1,0
+2,0
+2,1
+1,0
+3,0
+0,0
+0,0
+2,2
+2,0
+1,1
+0,0
+2,0
+0,0
+0,0
+0,0
+3,1
+0,0
+2,1
+2,2
+2,0
+1,1
+2,0
+3,3
+1,0
+1,0
+0,3
+1,0
+3,0
+3,0
+1,1
+0,0
+1,0
+1,0
+2,0
+0,0
+0,1
+0,0
+0,1
+2,0
+2,0
+2,0
+2,0
+3,1
+2,1
+1,1
+1,0
+0,2
+1,0
+0,0
+1,3
+2,3
+0,0
+2,2
+0,1
+3,0
+3,1
+0,2
+1,1
+1,0
+1,0
+1,1
+2,0
+2,1
+0,0
+1,3
+0,1
+0,1
+0,1
+0,0
+0,0
+0,0
+3,3
+3,1
+2,0
+3,0
+1,1
+1,1
+0,0
+2,0
+2,1
+2,0
+3,0
+0,0
+2,2
+1,3
+1,0
+1,2
+3,0
+1,1
+0,0
+0,0
+3,2
+2,1
+0,3
+2,0
+1,0
+1,0
+2,0
+2,0
+3,3
+3,2
+2,1
+2,1
+0,0
+2,0
+1,3
+3,1
+3,1
+0,1
+1,0
+0,1
+1,2
+2,1
+2,1
+3,0
+1,0
+3,0
+1,1
+1,1
+1,0
+3,1
+1,2
+2,1
+3,0
+1,0
+2,2
+3,0
+2,0
+0,2
+0,0
+2,2
+1,0
+2,0
+0,0
+1,0
+3,1
+3,0
+3,0
+1,0
+3,1
+0,1
+1,0
+1,1
+2,0
+2,2
+1,0
+1,0
+3,0
+1,0
+3,1
+0,1
+3,0
+3,0
+2,0
+1,3
+1,0
+2,3
+2,0
+2,2
+2,0
+1,1
+2,0
+3,0
+3,0
+3,0
+0,0
+0,1
+0,0
+2,1
+0,3
+0,1
+1,0
+2,0
+1,2
+0,0
+2,1
+2,0
+3,0
+1,1
+0,3
+2,0
+2,1
+2,0
+2,1
+3,0
+3,1
+3,0
+2,2
+1,0
+1,0
+0,3
+3,1
+1,0
+2,0
+0,0
+3,2
+2,0
+1,2
+0,1
+1,0
+3,2
+0,0
+3,0
+3,0
+0,0
+1,1
+0,0
+1,0
+1,2
+0,2
+1,3
+0,3
+1,2
+1,2
+1,0
+3,0
+2,0
+3,0
+3,2
+2,0
+0,1
+3,3
+3,1
+3,0
+0,1
+2,0
+2,0
+0,2
+0,1
+0,3
+1,3
+3,1
+1,1
+2,0
+0,1
+0,0
+3,0
+2,3
+1,0
+1,1
+2,0
+3,1
+1,2
+1,1
+2,1
+2,1
+3,0
+1,0
+1,2
+2,0
+2,3
+1,0
+0,0
+2,1
+3,0
+2,0
+1,0
+2,2
+2,0
+2,0
+1,0
+0,0
+0,1
+2,2
+1,1
+2,0
+0,0
+2,2
+3,0
+1,2
+1,0
+2,0
+0,0
+2,1
+2,0
+1,0
+2,3
+1,1
+0,2
+0,2
+2,1
+1,0
+1,3
+3,3
+0,3
+1,0
+2,1
+2,2
+3,0
+3,0
+2,2
+0,1
+3,2
+0,0
+1,1
+3,2
+1,0
+0,1
+2,1
+2,0
+0,0
+1,0
+3,0
+2,1
+3,0
+3,2
+0,0
+2,0
+3,1
+2,1
+3,0
+0,0
+3,0
+0,0
+3,3
+2,2
+0,3
+2,0
+3,0
+1,0
+2,0
+0,0
+3,3
+2,0
+1,0
+2,1
+0,0
+1,2
+1,0
+3,1
+3,0
+1,0
+2,0
+1,1
+2,0
+1,1
+3,1
+0,0
+3,0
+1,0
+1,0
+2,0
+3,0
+1,1
+3,1
+3,0
+1,0
+3,0
+2,0
+0,0
+3,0
+2,0
+3,0
+2,0
+3,0
+1,0
+1,0
+1,0
+2,0
+1,0
+3,1
+1,1
+2,0
+2,3
+3,2
+2,2
+3,0
+2,0
+1,1
+3,1
+3,0
+0,0
+3,0
+1,1
+2,1
+2,0
+0,0
+2,0
+2,0
+2,3
+3,0
+2,0
+0,0
+3,0
+2,0
+3,0
+1,0
+2,0
+1,0
+3,0
+2,0
+2,0
+1,3
+2,0
+2,0
+1,0
+2,0
+3,0
+3,0
+1,0
+2,2
+3,0
+1,0
+2,1
+1,0
+2,0
+3,3
+0,2
+2,0
+2,0
+0,1
+3,0
+0,0
+1,1
+3,1
+0,0
+2,0
+2,0
+2,0
+0,1
+3,0
+0,0
+2,2
+2,1
+2,0
+1,0
+0,0
+1,0
+2,3
+2,1
+1,2
+3,3
+2,0
+2,1
+3,0
+0,1
+3,0
+1,0
+2,0
+0,0
+0,0
+0,0
+2,0
+2,2
+1,0
+3,0
+3,0
+2,2
+3,0
+3,1
+2,0
+2,0
+1,0
+1,2
+3,0
+2,0
+3,2
+3,0
+0,0
+1,0
+3,0
+3,1
+1,1
+0,0
+0,2
+2,3
+0,0
+1,0
+0,0
+1,0
+2,0
+0,2
+2,0
+3,1
+2,1
+2,2
+1,0
+1,1
+2,0
+2,0
+0,0
+1,3
+3,0
+2,0
+0,0
+2,1
+2,0
+2,0
+2,1
+3,0
+1,0
+2,0
+1,2
+3,0
+0,1
+0,3
+3,0
+0,0
+1,0
+0,0
+2,0
+0,3
+2,0
+2,0
+3,1
+2,2
+0,0
+3,1
+3,1
+3,3
+0,0
+1,1
+1,3
+1,3
+0,3
+1,0
+0,1
+1,1
+1,0
+2,0
+3,2
+0,0
+3,3
+0,0
+3,0
+2,1
+3,0
+1,1
+3,0
+1,0
+2,0
+0,3
+3,2
+3,0
+2,2
+1,0
+2,1
+3,3
+0,0
+2,1
+3,0
+2,1
+1,3
+1,0
+2,0
+0,2
+0,0
+2,0
+0,2
+1,0
+3,1
+1,2
+2,0
+0,3
+2,1
+2,3
+2,0
+0,0
+1,1
+1,3
+0,0
+3,0
+0,1
+3,0
+3,0
+1,0
+3,0
+0,0
+1,1
+0,0
+1,0
+0,0
+2,0
+1,0
+0,0
+3,1
+0,0
+0,0
+3,0
+0,1
+2,1
+3,1
+2,0
+0,0
+3,0
+2,0
+1,0
+0,0
+3,0
+1,0
+2,0
+2,0
+2,0
+1,1
+3,2
+2,1
+1,1
+2,2
+0,2
+2,1
+3,1
+3,0
+3,0
+0,0
+1,2
+1,0
+3,1
+3,1
+3,0
+0,0
+1,0
+1,2
+0,0
+2,0
+2,2
+2,0
+3,0
+1,0
+1,0
+1,2
+2,1
+2,1
+3,0
+3,0
+1,1
+3,0
+3,3
+2,0
+2,2
+0,0
+2,2
+2,1
+3,1
+0,1
+3,0
+1,1
+1,1
+2,0
+1,1
+3,2
+3,1
+0,0
+0,0
+1,2
+2,0
+1,0
+2,0
+3,1
+0,0
+3,2
+0,0
+1,1
+2,1
+2,1
+1,2
+1,2
+0,0
+0,1
+2,1
+0,0
+1,0
+0,0
+2,0
+1,0
+2,0
+1,0
+1,2
+2,0
+3,2
+2,0
+1,1
+2,0
+0,0
+1,1
+3,0
+1,0
+2,0
+2,0
+3,1
+2,0
+2,0
+0,3
+2,0
+3,0
+2,3
+2,2
+0,0
+3,1
+3,0
+0,0
+1,0
+1,1
+0,1
+0,1
+0,0
+3,1
+0,2
+3,3
+2,0
+0,0
+2,0
+2,0
+3,1
+2,0
+0,0
+0,0
+2,0
+0,1
+3,0
+3,0
+3,0
+2,1
+1,0
+2,0
+1,0
+2,0
+0,0
+0,3
+1,1
+1,0
+0,0
+0,0
+2,0
+1,3
+0,0
+3,0
+3,2
+3,0
+2,0
+2,1
+1,0
+2,0
+2,0
+3,1
+3,2
+2,0
+3,0
+2,3
+3,0
+1,0
+1,2
+3,0
+2,1
+1,0
+2,0
+2,0
+3,0
+3,1
+2,0
+3,1
+1,0
+1,3
+0,0
+2,0
+0,0
+1,1
+1,0
+0,0
+2,2
+3,0
+3,0
+0,0
+0,0
+3,1
+2,0
+1,0
+0,0
+3,0
+1,0
+3,0
+3,1
+2,1
+0,0
+3,1
+0,0
+2,0
+2,3
+0,0
+3,0
+2,2
+2,2
+1,3
+1,0
+1,1
+1,0
+1,0
+3,0
+3,0
+0,1
+0,0
+1,0
+2,1
+0,2
+3,1
+3,2
+1,2
+2,3
+0,0
+2,1
+2,0
+3,0
+3,0
+2,2
+0,1
+2,0
+1,0
+2,0
+1,0
+1,1
+0,1
+1,0
+0,0
+2,0
+1,1
+1,3
+2,0
+0,0
+3,0
+0,3
+0,0
+0,0
+1,0
+2,0
+1,0
+1,0
+0,1
+0,0
+2,1
+0,0
+3,0
+0,3
+3,3
+2,3
+2,0
+2,0
+3,0
+1,0
+0,0
+2,2
+2,2
+2,2
+0,2
+2,0
+1,0
+3,1
+2,0
+2,1
+3,0
+1,0
+3,0
+2,0
+3,0
+1,0
+0,1
+2,0
+0,0
+3,0
+3,1
+2,2
+3,2
+2,3
+3,1
+3,0
+1,0
+0,0
+2,2
+3,0
+1,0
+0,3
+0,0
+1,0
+2,0
+0,0
+3,1
+0,1
+1,0
+3,0
+0,2
+1,0
+0,1
+2,0
+0,2
+2,0
+1,1
+3,0
+1,0
+3,0
+2,1
+1,0
+2,0
+2,0
+3,1
+0,0
+1,2
+0,0
+0,0
+2,0
+0,0
+1,2
+1,0
+3,1
+0,1
+2,0
+3,0
+2,0
+3,0
+2,0
+1,3
+0,0
+3,0
+3,0
+2,1
+3,3
+0,0
+1,2
+2,0
+1,0
+3,0
+3,0
+0,0
+2,0
+0,3
+2,0
+0,1
+3,0
+3,0
+3,2
+1,0
+1,0
+1,1
+3,0
+3,0
+0,0
+3,0
+3,0
+1,0
+1,2
+0,3
+2,0
+2,0
+1,0
+0,0
+2,2
+1,0
+0,1
+3,0
+3,0
+1,2
+0,0
+0,1
+2,0
+2,1
+2,2
+0,0
+2,0
+1,0
+0,0
+0,0
+0,0
+1,0
+3,0
+0,1
+3,1
+0,0
+0,1
+3,0
+1,0
+3,0
+2,2
+3,1
+1,0
+2,0
+0,1
+2,0
+1,0
+3,0
+2,0
+1,0
+1,0
+2,0
+3,0
+3,0
+0,1
+3,0
+3,0
+3,0
+1,2
+0,0
+3,2
+2,0
+3,0
+0,0
+0,1
+2,0
+3,0
+1,2
+3,0
+0,0
+0,2
+2,3
+2,3
+3,0
+1,0
+1,0
+1,1
+2,3
+0,0
+1,0
+3,1
+2,0
+1,0
+2,1
+3,1
+0,1
+2,2
+1,0
+1,0
+2,1
+2,0
+1,2
+2,1
+1,1
+0,0
+1,0
+2,2
+1,0
+0,0
+1,0
+1,0
+1,2
+2,3
+2,0
+3,0
+2,3
+0,0
+0,0
+2,0
+2,0
+0,1
+0,3
+1,0
+3,0
+3,0
+2,2
+2,2
+0,0
+2,3
+0,0
+0,1
+2,0
+1,1
+2,2
+0,0
+1,3
+0,2
+1,2
+0,0
+3,0
+0,3
+2,0
+0,0
+0,1
+0,0
+1,0
+1,0
+2,1
+0,0
+2,3
+3,2
+3,0
+3,1
+2,0
+2,0
+1,2
+1,0
+0,0
+0,1
+3,0
+2,1
+0,1
+0,1
+2,0
+3,1
+0,1
+0,0
+0,2
+0,3
+3,0
+2,2
+3,0
+3,0
+3,1
+1,0
+1,0
+3,0
+0,0
+3,1
+0,1
+0,0
+3,3
+1,1
+0,0
+3,0
+3,0
+2,0
+0,0
+2,1
+3,0
+2,0
+1,0
+0,1
+1,2
+3,2
+1,0
+2,0
+2,3
+2,0
+0,0
+0,2
+0,0
+0,2
+0,0
+0,0
+0,0
+1,1
+3,0
+2,0
+2,1
+0,3
+3,0
+2,0
+2,0
+1,0
+2,3
+1,0
+3,0
+1,1
+0,1
+2,0
+0,0
+2,2
+1,1
+3,0
+1,0
+0,0
+0,0
+2,3
+1,3
+1,2
+1,3
+2,0
+2,0
+0,1
+2,3
+1,1
+1,3
+3,0
+3,1
+2,3
+2,2
+3,0
+2,1
+0,0
+1,0
+0,1
+3,3
+3,0
+2,0
+2,0
+1,1
+3,0
+3,0
+0,2
+3,1
+0,2
+3,1
+2,0
+2,0
+3,0
+2,1
+3,0
+0,0
+3,0
+2,2
+3,0
+2,0
+3,3
+3,0
+2,0
+3,1
+3,1
+0,1
+1,0
+0,1
+1,0
+3,0
+1,1
+0,0
+2,2
+1,2
+3,0
+3,2
+3,0
+1,0
+1,0
+2,0
+3,0
+0,3
+1,0
+2,0
+1,0
+2,2
+1,0
+3,0
+3,0
+3,1
+0,1
+0,0
+1,3
+2,0
+1,2
+2,0
+1,0
+2,0
+3,1
+1,1
+3,0
+0,1
+2,1
+1,0
+0,0
+0,0
+0,3
+2,0
+0,0
+2,0
+1,1
+2,1
+3,2
+2,0
+3,2
+1,3
+3,0
+0,3
+2,0
+1,0
+1,1
+0,0
+0,2
+2,2
+2,0
+0,1
+1,0
+3,1
+1,0
+0,0
+0,1
+1,0
+3,1
+0,0
+1,0
+0,0
+3,1
+2,3
+0,0
+0,1
+2,0
+0,0
+1,0
+2,0
+2,0
+3,0
+1,0
+0,0
+3,0
+2,1
+0,2
+3,3
+3,0
+2,0
+1,1
+1,1
+0,1
+0,0
+2,0
+3,2
+0,0
+1,2
+2,0
+0,0
+2,2
+0,0
+1,0
+0,0
+0,0
+0,1
+1,0
+2,0
+0,0
+1,1
+3,2
+3,0
+3,0
+1,0
+0,0
+0,1
+3,0
+1,0
+0,3
+1,0
+0,0
+2,2
+1,0
+3,0
+0,0
+3,0
+2,1
+3,0
+0,0
+2,0
+2,0
+2,0
+0,0
+1,0
+2,1
+2,1
+2,1
+1,0
+3,1
+2,0
+2,3
+1,1
+3,3
+1,0
+2,0
+3,0
+3,1
+2,2
+1,3
+2,0
+1,0
+1,3
+0,0
+1,0
+3,0
+3,0
+2,0
+2,3
+0,0
+2,1
+2,1
+1,1
+1,0
+3,0
+2,1
+2,1
+2,0
+1,0
+2,0
+3,1
+1,3
+1,0
+1,3
+0,0
+1,1
+3,3
+0,0
+2,1
+0,3
+0,2
+0,0
+1,0
+0,1
+0,1
+0,1
+0,0
+0,1
+2,2
+2,1
+1,2
+3,2
+1,1
+1,1
+2,3
+3,0
+2,0
+1,2
+2,2
+0,0
+0,0
+3,1
+0,0
+3,3
+0,0
+0,2
+2,0
+2,1
+3,1
+0,0
+1,0
+3,0
+0,0
+0,0
+3,1
+1,2
+0,0
+0,1
+2,0
+3,3
+1,0
+1,0
+1,2
+3,0
+1,0
+3,1
+0,0
+0,0
+1,0
+1,0
+1,3
+3,1
+2,0
+3,0
+2,0
+0,0
+1,1
+1,0
+2,0
+1,1
+1,1
+1,0
+2,0
+3,2
+0,2
+3,2
+1,0
+2,0
+1,3
+3,2
+1,0
+1,1
+1,0
+2,0
+0,2
+0,0
+3,0
+0,0
+1,1
+1,0
+3,0
+2,0
+2,0
+2,0
+1,3
+2,1
+1,1
+0,3
+2,1
+1,0
+0,0
+1,3
+2,0
+1,0
+0,1
+3,0
+1,2
+1,0
+1,0
+1,1
+2,0
+1,0
+2,0
+1,0
+2,0
+1,0
+3,2
+1,2
+1,1
+2,1
+1,1
+0,1
+1,0
+2,0
+0,0
+0,2
+3,0
+2,1
+3,0
+1,0
+3,0
+2,1
+1,1
+3,0
+2,0
+1,1
+0,2
+0,0
+2,0
+2,0
+1,2
+0,0
+1,0
+2,0
+2,0
+0,0
+2,0
+0,0
+3,0
+3,0
+1,3
+0,0
+2,1
+3,0
+3,1
+2,2
+0,0
+3,0
+3,0
+0,0
+2,1
+1,0
+3,1
+2,0
+0,0
+3,2
+3,0
+1,0
+3,0
+1,1
+1,1
+3,1
+0,3
+2,0
+1,0
+2,0
+3,0
+2,3
+3,0
+0,0
+0,2
+1,1
+1,0
+3,0
+3,2
+2,1
+2,1
+3,0
+3,1
+0,0
+3,0
+0,2
+1,0
+2,0
+1,1
+0,0
+0,3
+3,1
+0,0
+2,1
+3,2
+1,3
+0,1
+3,1
+2,0
+3,0
+0,2
+0,3
+1,0
+2,0
+0,0
+2,1
+2,0
+3,0
+2,3
+3,1
+0,2
+0,1
+1,0
+3,0
+3,2
+2,0
+3,1
+3,0
+1,1
+0,0
+2,0
+1,1
+3,0
+1,0
+0,0
+1,0
+1,0
+3,0
+2,0
+1,3
+2,1
+0,3
+2,1
+3,0
+3,2
+0,0
+2,0
+1,1
+2,0
+1,0
+0,1
+0,0
+1,3
+3,0
+0,0
+0,0
+2,0
+2,0
+1,0
+2,0
+3,0
+3,0
+3,1
+0,1
+2,0
+2,0
+0,0
+0,1
+0,0
+1,3
+2,0
+2,0
+0,0
+1,2
+3,1
+2,0
+2,2
+1,0
+1,0
+3,2
+0,2
+3,0
+3,0
+0,0
+3,0
+0,0
+2,0
+2,3
+0,0
+2,0
+0,3
+1,0
+1,0
+1,1
+0,0
+0,1
+0,0
+2,1
+3,0
+1,0
+0,0
+0,0
+3,0
+3,1
+3,0
+1,0
+1,1
+1,1
+2,0
+1,0
+0,0
+2,0
+1,1
+2,0
+3,0
+2,2
+3,2
+2,0
+0,0
+2,0
+1,0
+0,0
+3,0
+2,0
+2,2
+0,0
+1,1
+3,0
+1,3
+3,1
+3,0
+2,0
+2,2
+0,0
+1,0
+1,2
+1,0
+3,1
+1,0
+1,0
+1,0
+3,3
+2,0
+2,0
+3,0
+3,0
+0,0
+2,0
+2,0
+0,0
+2,1
+2,0
+0,0
+0,0
+3,1
+0,0
+2,3
+3,0
+3,3
+1,0
+0,1
+1,0
+3,1
+2,0
+1,3
+3,0
+0,0
+2,0
+2,0
+2,0
+0,0
+1,3
+3,3
+0,2
+0,3
+3,2
+0,1
+3,0
+3,0
+1,1
+1,1
+2,0
+2,0
+1,0
+1,2
+3,2
+2,1
+3,0
+0,1
+3,0
+3,0
+1,0
+0,1
+3,0
+2,1
+3,3
+0,1
+0,0
+3,0
+0,0
+3,1
+3,0
+2,0
+2,0
+1,0
+2,1
+2,0
+0,0
+3,0
+0,0
+3,0
+2,3
+2,0
+3,0
+0,0
+1,1
+1,1
+0,0
+0,0
+2,1
+3,1
+1,2
+2,1
+0,0
+1,0
+3,0
+0,1
+0,0
+1,0
+1,0
+3,0
+1,0
+1,2
+0,0
+1,0
+2,0
+0,1
+2,0
+0,0
+2,1
+0,0
+0,2
+3,0
+3,1
+2,0
+2,1
+0,0
+3,0
+0,0
+0,0
+0,1
+1,0
+3,1
+3,1
+0,0
+0,1
+3,1
+0,0
+3,0
+2,0
+1,0
+1,0
+1,2
+2,0
+0,3
+3,2
+1,1
+2,1
+3,3
+2,0
+0,2
+3,0
+2,1
+0,1
+2,2
+1,0
+3,1
+2,3
+2,0
+2,2
+1,1
+2,1
+2,1
+3,1
+2,0
+2,0
+0,0
+0,2
+0,1
+1,1
+3,0
+2,2
+2,3
+0,0
+0,3
+1,0
+3,0
+1,0
+0,0
+1,0
+3,0
+1,0
+2,0
+2,0
+0,0
+1,1
+2,0
+2,1
+0,0
+0,0
+2,0
+1,0
+1,0
+3,2
+0,0
+1,0
+0,2
+3,0
+0,1
+2,0
+1,0
+2,0
+1,1
+1,2
+2,0
+0,2
+3,0
+3,2
+3,1
+0,0
+1,0
+3,0
+0,0
+0,0
+3,0
+3,0
+1,0
+3,2
+0,1
+0,0
+2,0
+0,0
+2,0
+1,1
+1,0
+0,0
+3,0
+2,0
+1,0
+2,0
+2,0
+3,0
+0,3
+1,0
+1,2
+2,0
+2,0
+2,0
+0,1
+2,1
+2,1
+3,0
+2,0
+3,1
+0,0
+3,0
+1,0
+1,0
+2,0
+3,0
+1,0
+2,0
+0,0
+3,0
+0,0
+2,0
+1,0
+3,1
+0,2
+0,0
+2,3
+2,0
+1,1
+0,0
+0,1
+0,0
+3,1
+0,0
+3,0
+3,0
+2,0
+0,0
+2,0
+3,1
+0,0
+3,0
+1,0
+3,0
+3,0
+1,0
+1,1
+0,0
+0,2
+1,0
+2,0
+3,0
+2,1
+0,0
+0,0
+0,0
+2,1
+0,0
+2,0
+3,1
+2,2
+2,0
+2,0
+0,0
+0,1
+0,0
+2,0
+1,2
+1,2
+0,0
+2,0
+0,3
+2,1
+3,0
+1,1
+0,0
+1,2
+3,0
+3,1
+0,0
+3,0
+1,1
+3,0
+2,0
+2,0
+2,0
+3,1
+1,0
+0,1
+1,0
+3,1
+2,1
+2,0
+1,0
+3,0
+2,0
+0,1
+3,0
+0,1
+3,1
+3,2
+2,0
+0,0
+0,0
+0,0
+2,1
+1,1
+0,2
+0,0
+2,2
+0,0
+1,0
+3,0
+0,0
+1,0
+2,0
+3,0
+3,1
+0,0
+1,1
+1,0
+3,1
+0,1
+2,0
+2,0
+1,0
+0,0
+0,0
+2,0
+1,0
+3,0
+3,0
+3,0
+3,0
+3,1
+2,0
+3,1
+0,2
+0,0
+3,0
+3,0
+2,0
+2,3
+3,1
+1,1
+3,0
+2,0
+2,1
+1,0
+3,0
+0,0
+2,1
+0,0
+2,0
+1,1
+2,2
+0,1
+0,0
+3,2
+0,0
+3,0
+2,1
+0,0
+2,0
+1,0
+3,0
+0,1
+2,3
+3,0
+1,2
+0,0
+0,2
+0,0
+0,1
+0,0
+1,0
+3,0
+0,1
+3,1
+2,1
+1,0
+1,1
+0,0
+2,1
+0,2
+2,0
+2,1
+0,1
+2,0
+1,1
+0,0
+1,0
+2,1
+0,0
+3,0
+0,0
+2,1
+3,0
+2,0
+1,0
+0,2
+3,0
+1,0
+1,0
+1,0
+0,3
+3,0
+2,0
+2,0
+2,0
+2,2
+1,0
+2,1
+1,0
+3,1
+0,0
+0,0
+3,1
+3,0
+1,0
+2,0
+0,0
+3,3
+3,0
+1,0
+3,2
+3,2
+3,0
+3,0
+3,2
+3,0
+3,1
+3,0
+2,0
+1,0
+0,0
+2,0
+0,0
+1,1
+2,0
+3,0
+3,3
+3,1
+2,1
+3,0
+3,1
+0,0
+2,3
+0,1
+0,1
+3,0
+2,0
+3,0
+2,3
+0,0
+2,2
+1,0
+1,1
+1,3
+1,0
+3,0
+2,1
+3,2
+0,0
+3,2
+2,0
+1,1
+0,0
+2,2
+3,1
+2,1
+3,0
+2,0
+2,0
+1,2
+0,0
+2,0
+2,0
+2,3
+3,1
+2,0
+1,0
+1,0
+2,2
+3,3
+3,0
+3,0
+3,0
+1,0
+2,0
+1,0
+1,0
+2,0
+0,0
+1,0
+3,0
+0,1
+3,0

mmlu_humanities/few_shot_1/microsoft_phi-1_5/last_token_relative_depth_100/accuracy.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 1139, "1": 1153, "2": 1276, "3": 1137}, "correct_per_class": {"0": 337, "1": 616, "2": 417, "3": 305}, "net_accuracy": 0.35600425079702447}