Add files using upload-large-folder tool

rottentomatoes_test/few_shot_0/EleutherAI_pythia-12b/last_token_relative_depth_100/accuracy.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 533, "1": 533}, "correct_per_class": {"0": 265, "1": 331}, "net_accuracy": 0.5590994371482176}

rottentomatoes_test/few_shot_0/EleutherAI_pythia-12b/last_token_relative_depth_100/intrinsic/results.csv

@@ -0,0 +1,37 @@
+Layer,MLE,MLE_Corrected,TwoNN,Gride
+blocks.0.hook_mlp_out,0.054286811500787735,0.05428681895136833,,
+blocks.1.hook_mlp_out,13.318822860717773,12.39765453338623,17.016557693481445,11.270163536071777
+blocks.2.hook_mlp_out,20.51725959777832,18.780250549316406,25.107866287231445,17.000293731689453
+blocks.3.hook_mlp_out,20.90755271911621,19.055009841918945,26.09266471862793,18.038724899291992
+blocks.4.hook_mlp_out,20.940814971923828,18.96168327331543,24.536067962646484,17.445026397705078
+blocks.5.hook_mlp_out,22.030561447143555,19.93952751159668,26.9285888671875,18.68033218383789
+blocks.6.hook_mlp_out,23.849651336669922,21.521038055419922,28.4099063873291,19.9510555267334
+blocks.7.hook_mlp_out,22.820903778076172,20.613269805908203,25.795869827270508,19.15778923034668
+blocks.8.hook_mlp_out,22.03916358947754,20.021244049072266,26.20682144165039,18.568204879760742
+blocks.9.hook_mlp_out,23.161733627319336,20.896699905395508,27.069107055664062,19.64035415649414
+blocks.10.hook_mlp_out,23.92591667175293,21.645702362060547,27.898651123046875,20.140933990478516
+blocks.11.hook_mlp_out,23.067533493041992,20.798643112182617,27.35553741455078,19.557979583740234
+blocks.12.hook_mlp_out,24.66269302368164,22.250883102416992,27.459630966186523,21.010385513305664
+blocks.13.hook_mlp_out,24.325056076049805,21.976457595825195,25.86097526550293,20.858911514282227
+blocks.14.hook_mlp_out,24.075761795043945,21.76793098449707,25.38102149963379,20.810380935668945
+blocks.15.hook_mlp_out,23.532573699951172,21.36719512939453,26.354610443115234,20.23036766052246
+blocks.16.hook_mlp_out,24.482133865356445,22.1497802734375,27.890165328979492,21.366641998291016
+blocks.17.hook_mlp_out,24.610767364501953,22.202070236206055,27.47577667236328,21.260391235351562
+blocks.18.hook_mlp_out,25.406660079956055,22.939319610595703,27.958343505859375,21.870405197143555
+blocks.19.hook_mlp_out,26.42684555053711,23.878509521484375,29.94292640686035,22.83826446533203
+blocks.20.hook_mlp_out,26.02652359008789,23.59326934814453,29.33574104309082,22.43271255493164
+blocks.21.hook_mlp_out,25.549970626831055,23.239002227783203,29.80150604248047,22.064311981201172
+blocks.22.hook_mlp_out,26.82730484008789,24.31436538696289,29.5218505859375,23.206132888793945
+blocks.23.hook_mlp_out,26.60962677001953,24.201078414916992,30.021360397338867,23.284337997436523
+blocks.24.hook_mlp_out,27.938962936401367,25.329572677612305,31.55025863647461,24.45044708251953
+blocks.25.hook_mlp_out,28.81369972229004,26.215877532958984,32.22511672973633,25.146116256713867
+blocks.26.hook_mlp_out,29.41880226135254,26.638315200805664,32.718143463134766,25.178686141967773
+blocks.27.hook_mlp_out,30.08608055114746,27.264690399169922,33.511749267578125,25.747112274169922
+blocks.28.hook_mlp_out,31.241065979003906,28.235881805419922,33.83043670654297,27.560535430908203
+blocks.29.hook_mlp_out,32.10372543334961,29.047969818115234,34.389705657958984,27.666015625
+blocks.30.hook_mlp_out,33.08993911743164,29.81719207763672,34.273807525634766,28.534631729125977
+blocks.31.hook_mlp_out,33.66063690185547,30.353771209716797,35.195945739746094,29.692977905273438
+blocks.32.hook_mlp_out,33.81731033325195,30.525529861450195,36.00553512573242,29.480579376220703
+blocks.33.hook_mlp_out,33.718387603759766,30.364643096923828,36.11436462402344,29.026992797851562
+blocks.34.hook_mlp_out,30.957033157348633,27.944040298461914,33.98139953613281,26.23405647277832
+blocks.35.hook_mlp_out,18.523088455200195,17.172340393066406,24.252593994140625,15.820267677307129

rottentomatoes_test/few_shot_0/EleutherAI_pythia-12b/last_token_relative_depth_100/llm_hook_args.json

@@ -0,0 +1 @@
+{"device": "cuda", "model_id": "EleutherAI/pythia-12b", "batch_size": 16, "dataset_name": "rottentomatoes_test", "max_token_length": 1024, "last_token": true, "question_structure": true, "relative_depth_of_sentence": 1.0, "store_activations": true, "random_seed": 42, "few_shot": 0}

rottentomatoes_test/few_shot_0/EleutherAI_pythia-12b/last_token_relative_depth_100/llm_intrinsic_args.json

@@ -0,0 +1 @@
+{"device": "cuda", "gride_k1": 20, "gride_k2": 40, "mle_k1": 12, "mle_k2": 24, "mle": true, "model_id": "EleutherAI/pythia-12b", "dataset_name": "rottentomatoes_test", "distance_metric": "euclidean", "batch_size": 16, "last_token": true, "relative_depth_of_sentence": 1.0, "few_shot": 0}

rottentomatoes_test/few_shot_0/EleutherAI_pythia-12b/last_token_relative_depth_100/metrics.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 533, "1": 533}, "correct_per_class": {"0": 265, "1": 331}, "net_accuracy": 0.5590994371482176, "Precision": 0.5525876460767947, "Recall": 0.6210131332082551, "F1_Score": 0.5848056537102474}

rottentomatoes_test/few_shot_0/EleutherAI_pythia-12b/last_token_relative_depth_100/predictions.csv

@@ -0,0 +1,1067 @@
+Labels,Predictions
+1,0
+1,1
+0,1
+1,1
+1,1
+1,1
+1,1
+1,1
+0,1
+0,0
+1,1
+1,1
+0,0
+0,1
+0,1
+1,0
+1,0
+1,1
+0,1
+1,1
+1,1
+0,0
+1,1
+1,0
+1,0
+1,1
+1,0
+0,0
+0,1
+0,1
+0,1
+0,0
+1,1
+1,0
+0,1
+1,0
+1,1
+0,0
+1,1
+1,1
+1,1
+0,1
+1,0
+1,1
+1,1
+1,1
+1,1
+0,0
+0,0
+1,0
+1,1
+0,0
+0,1
+0,0
+0,1
+1,0
+0,0
+0,1
+0,0
+1,1
+0,0
+0,1
+0,0
+0,1
+1,1
+0,0
+0,0
+0,1
+0,0
+1,0
+0,0
+1,0
+1,1
+0,0
+1,1
+1,1
+1,0
+1,1
+1,1
+1,1
+1,1
+1,1
+1,0
+1,1
+0,0
+1,1
+1,0
+0,1
+1,1
+0,0
+0,1
+1,1
+1,1
+1,1
+0,1
+1,0
+1,0
+1,1
+0,0
+0,0
+0,1
+1,1
+1,1
+0,0
+1,0
+1,1
+0,1
+1,0
+0,1
+0,1
+1,1
+0,0
+1,1
+0,1
+1,1
+1,1
+1,1
+1,0
+0,1
+1,1
+1,0
+0,0
+1,1
+0,0
+1,0
+0,0
+1,1
+1,1
+0,1
+0,0
+0,0
+1,0
+1,1
+1,0
+0,1
+1,0
+1,1
+1,1
+1,0
+1,1
+0,0
+1,1
+1,0
+0,0
+1,1
+0,0
+0,1
+1,0
+0,1
+0,1
+1,0
+1,1
+1,1
+1,1
+1,1
+0,0
+0,0
+1,0
+0,1
+1,0
+0,0
+0,0
+1,1
+0,1
+0,0
+0,0
+1,1
+1,1
+0,0
+0,0
+1,1
+0,0
+1,1
+1,1
+1,1
+1,1
+1,0
+1,1
+1,1
+0,0
+0,0
+1,0
+1,0
+0,1
+0,1
+0,0
+1,1
+0,0
+1,0
+1,1
+0,0
+1,1
+1,0
+0,1
+0,0
+0,0
+0,0
+1,1
+1,1
+0,1
+0,1
+1,0
+0,0
+0,1
+1,0
+0,1
+1,1
+0,1
+0,1
+0,0
+0,0
+0,1
+0,0
+0,1
+1,0
+1,0
+1,1
+0,1
+0,1
+1,0
+0,0
+1,1
+0,0
+1,1
+0,1
+0,0
+1,1
+0,0
+0,0
+1,1
+1,1
+0,1
+0,0
+0,1
+0,1
+0,1
+1,0
+1,0
+0,1
+1,0
+0,0
+0,1
+1,0
+1,1
+0,1
+0,0
+1,0
+0,1
+1,0
+1,0
+0,0
+0,0
+0,1
+1,0
+0,1
+1,1
+1,0
+0,0
+1,0
+0,1
+1,0
+1,1
+0,1
+0,1
+1,1
+1,1
+1,0
+0,0
+1,1
+1,0
+1,1
+1,0
+0,1
+0,0
+1,1
+0,0
+1,1
+1,1
+0,0
+1,0
+1,0
+1,0
+1,0
+0,0
+0,0
+0,1
+0,0
+1,0
+0,1
+1,1
+0,0
+1,1
+1,1
+0,0
+0,1
+0,0
+1,1
+1,1
+1,1
+1,0
+1,0
+1,1
+0,0
+0,1
+1,1
+1,1
+1,0
+1,0
+1,1
+1,1
+0,1
+0,0
+1,1
+0,1
+1,1
+0,1
+1,1
+1,1
+1,0
+1,0
+1,1
+0,1
+0,0
+1,1
+0,0
+1,1
+1,1
+1,0
+0,0
+0,1
+0,1
+1,1
+0,0
+0,0
+0,0
+0,0
+0,1
+0,0
+1,1
+0,0
+1,1
+0,0
+0,1
+0,0
+1,0
+0,0
+0,1
+1,0
+0,0
+1,0
+0,0
+1,0
+0,1
+1,1
+0,1
+0,0
+0,1
+0,1
+1,0
+1,1
+1,1
+0,0
+0,0
+1,1
+1,0
+0,0
+1,0
+0,0
+1,0
+1,1
+1,0
+1,1
+1,1
+0,1
+1,1
+1,1
+1,1
+1,0
+0,1
+1,0
+0,0
+1,1
+0,1
+0,0
+1,0
+0,0
+0,0
+0,0
+1,1
+1,1
+0,1
+0,1
+1,1
+1,1
+1,1
+1,0
+1,0
+0,1
+1,0
+1,0
+0,1
+1,1
+0,0
+1,1
+1,1
+1,1
+0,1
+0,0
+0,1
+0,0
+0,1
+1,1
+0,0
+0,1
+0,0
+0,0
+1,0
+0,0
+1,1
+0,0
+1,0
+0,1
+0,0
+1,1
+0,0
+0,0
+0,0
+0,0
+1,1
+1,0
+0,0
+0,1
+0,1
+0,1
+1,0
+1,1
+0,0
+0,0
+1,1
+0,1
+0,1
+1,1
+1,1
+1,1
+1,0
+0,1
+1,0
+1,1
+0,0
+0,0
+1,1
+0,1
+0,1
+0,1
+1,1
+0,0
+0,0
+1,0
+0,0
+0,0
+0,0
+1,1
+0,1
+0,0
+1,1
+0,1
+0,1
+0,0
+1,1
+0,1
+1,1
+0,0
+0,0
+0,0
+1,0
+0,0
+1,1
+0,0
+1,1
+1,0
+1,1
+0,1
+0,0
+0,0
+1,1
+1,1
+0,1
+1,0
+0,1
+0,0
+0,0
+0,1
+0,1
+0,1
+1,0
+0,0
+0,0
+1,0
+0,0
+1,0
+0,1
+0,1
+0,1
+0,1
+0,1
+1,1
+0,0
+1,1
+1,1
+0,0
+1,0
+1,1
+1,1
+1,0
+1,0
+0,1
+0,1
+1,1
+1,0
+0,0
+0,1
+1,1
+0,0
+0,0
+0,0
+0,0
+0,0
+1,0
+0,1
+0,0
+1,1
+1,0
+0,1
+1,1
+1,0
+1,1
+0,0
+0,1
+1,1
+0,1
+1,1
+0,0
+0,0
+0,0
+0,1
+0,0
+0,0
+1,0
+1,0
+0,0
+1,0
+0,1
+0,1
+0,0
+0,1
+0,0
+0,1
+1,1
+1,0
+0,0
+0,1
+0,1
+0,0
+1,1
+0,0
+0,0
+0,1
+1,1
+1,1
+1,1
+1,0
+1,1
+1,1
+1,1
+1,1
+0,1
+0,1
+0,0
+1,1
+0,0
+1,1
+1,0
+1,1
+1,0
+1,1
+1,1
+1,0
+0,1
+1,1
+0,0
+1,1
+0,0
+1,1
+0,1
+0,0
+0,0
+1,0
+0,0
+0,1
+1,1
+0,0
+0,1
+1,0
+1,1
+0,1
+1,1
+1,1
+1,1
+0,1
+1,1
+0,0
+1,1
+0,1
+0,0
+0,0
+1,0
+1,1
+0,1
+1,0
+0,0
+0,1
+1,0
+0,1
+1,0
+1,1
+0,1
+0,0
+0,1
+0,1
+1,0
+1,1
+0,1
+1,0
+1,1
+0,0
+0,0
+0,1
+0,1
+0,0
+0,0
+0,0
+1,0
+0,0
+0,1
+0,0
+1,1
+0,1
+1,0
+0,1
+0,0
+1,1
+0,1
+1,1
+1,1
+1,0
+0,0
+1,1
+0,1
+1,0
+1,0
+1,0
+1,0
+0,1
+0,0
+1,1
+0,1
+0,1
+1,1
+1,1
+0,1
+0,0
+1,1
+1,0
+1,1
+0,0
+1,1
+1,0
+1,1
+1,1
+0,1
+0,0
+0,1
+0,1
+0,1
+1,1
+0,1
+1,1
+1,0
+1,1
+1,0
+0,1
+0,0
+1,1
+1,0
+1,1
+0,1
+1,0
+1,0
+1,0
+1,1
+1,0
+1,1
+1,0
+0,0
+0,1
+0,1
+0,1
+0,1
+1,0
+0,0
+0,1
+0,1
+1,1
+1,1
+1,1
+1,0
+0,0
+1,0
+0,0
+0,1
+1,1
+0,1
+0,0
+0,0
+0,1
+1,1
+1,1
+1,1
+0,1
+1,1
+1,1
+0,1
+0,0
+0,1
+1,1
+1,1
+0,1
+1,1
+1,1
+1,1
+0,0
+1,1
+0,0
+0,1
+0,1
+0,1
+1,0
+0,1
+1,0
+0,1
+0,0
+0,1
+0,1
+1,0
+0,0
+1,0
+0,1
+1,1
+0,1
+0,0
+1,1
+1,1
+1,1
+0,1
+1,1
+1,1
+0,0
+0,1
+0,1
+1,0
+0,0
+0,0
+1,0
+0,1
+1,0
+1,0
+1,0
+1,1
+0,0
+0,1
+1,1
+1,0
+0,1
+0,1
+1,1
+0,0
+0,1
+1,1
+1,0
+0,1
+0,0
+1,0
+0,0
+1,0
+0,0
+0,0
+0,0
+0,0
+1,0
+0,1
+1,1
+1,1
+0,1
+1,0
+1,1
+1,0
+0,0
+1,1
+0,1
+0,1
+0,0
+0,1
+0,1
+1,1
+0,1
+1,0
+0,1
+0,1
+0,1
+1,1
+0,0
+1,1
+0,1
+0,0
+1,0
+0,1
+0,1
+0,0
+1,0
+0,1
+0,1
+0,1
+1,1
+0,0
+1,1
+0,0
+0,1
+1,1
+0,1
+1,0
+0,1
+1,1
+0,1
+1,1
+0,0
+1,0
+0,0
+1,1
+0,1
+1,0
+1,1
+0,0
+0,0
+0,0
+1,1
+1,1
+1,0
+1,1
+1,1
+0,1
+0,0
+1,0
+0,1
+0,1
+0,1
+1,1
+1,1
+1,1
+0,1
+1,0
+0,0
+1,1
+0,0
+0,0
+0,1
+1,0
+0,1
+0,1
+0,0
+0,1
+0,0
+0,1
+0,1
+0,0
+1,1
+1,1
+0,0
+1,0
+0,1
+1,1
+0,1
+0,0
+1,0
+1,1
+0,1
+1,1
+0,0
+1,0
+0,0
+1,1
+1,1
+1,1
+1,1
+1,0
+0,0
+0,0
+0,1
+1,0
+0,1
+0,1
+1,1
+0,0
+0,1
+1,0
+0,1
+0,0
+0,1
+1,1
+1,1
+0,0
+0,1
+0,1
+1,1
+0,1
+1,0
+1,1
+0,0
+1,1
+0,1
+1,1
+0,1
+1,0
+1,1
+1,0
+1,1
+1,0
+0,0
+0,1
+1,0
+1,1
+1,1
+1,1
+1,0
+1,0
+1,1
+0,1
+1,1
+1,1
+1,1
+0,0
+0,1
+1,0
+1,1
+0,1
+1,1
+1,1
+1,1
+0,1
+1,1
+0,1
+0,1
+0,1
+0,0
+0,0
+1,1
+0,0
+0,1
+1,1
+1,1
+0,1
+1,1
+1,1
+1,1
+0,0
+0,0
+1,0
+0,1
+0,0
+1,0
+0,1
+0,0
+1,0
+1,0
+1,1
+1,1
+1,0
+1,1
+1,0
+1,1
+1,0
+1,0
+1,0
+1,1
+1,1
+0,0
+0,1
+1,0
+1,1
+0,1
+0,0
+1,0
+1,0
+1,0
+1,1
+0,1
+0,1
+0,0
+1,1
+0,1
+1,1
+1,1
+1,1
+1,1
+1,1
+0,1
+1,1
+0,1
+1,1
+0,1
+1,1
+0,0
+0,0
+0,1
+1,0
+0,0
+1,1
+0,0
+0,1
+1,0
+1,1
+1,1
+1,1
+0,1
+1,0
+0,1
+0,0
+1,0
+0,1
+1,1
+1,1
+1,0
+1,1
+0,1
+0,0
+0,0
+1,1
+1,0
+0,0
+0,0
+0,0
+0,0
+1,1
+1,0
+1,0
+0,0
+1,1
+0,0
+0,1
+1,0
+0,1
+1,1
+0,1
+1,1
+0,0
+1,1
+1,1

rottentomatoes_test/few_shot_0/meta-llama_Llama-2-13b-hf/last_token_relative_depth_100/accuracy_blocks.1.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 533, "1": 533}, "correct_per_class": {"0": 533, "1": 0}, "net_accuracy": 0.5}

rottentomatoes_test/few_shot_0/meta-llama_Llama-2-13b-hf/last_token_relative_depth_100/accuracy_blocks.10.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 533, "1": 533}, "correct_per_class": {"0": 428, "1": 124}, "net_accuracy": 0.5178236397748592}

rottentomatoes_test/few_shot_0/meta-llama_Llama-2-13b-hf/last_token_relative_depth_100/accuracy_blocks.15.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 533, "1": 533}, "correct_per_class": {"0": 533, "1": 0}, "net_accuracy": 0.5}

rottentomatoes_test/few_shot_0/meta-llama_Llama-2-13b-hf/last_token_relative_depth_100/accuracy_blocks.22.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 533, "1": 533}, "correct_per_class": {"0": 209, "1": 512}, "net_accuracy": 0.6763602251407129}

rottentomatoes_test/few_shot_0/meta-llama_Llama-2-13b-hf/last_token_relative_depth_100/accuracy_blocks.27.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 533, "1": 533}, "correct_per_class": {"0": 69, "1": 530}, "net_accuracy": 0.5619136960600375}

rottentomatoes_test/few_shot_0/meta-llama_Llama-2-13b-hf/last_token_relative_depth_100/accuracy_blocks.28.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 533, "1": 533}, "correct_per_class": {"0": 37, "1": 532}, "net_accuracy": 0.5337711069418386}

rottentomatoes_test/few_shot_0/meta-llama_Llama-2-13b-hf/last_token_relative_depth_100/accuracy_blocks.30.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 533, "1": 533}, "correct_per_class": {"0": 120, "1": 525}, "net_accuracy": 0.6050656660412758}

rottentomatoes_test/few_shot_0/meta-llama_Llama-2-13b-hf/last_token_relative_depth_100/accuracy_blocks.31.hook_resid_post.json

@@ -0,0 +1 @@
+{"total_per_class": {"0": 533, "1": 533}, "correct_per_class": {"0": 109, "1": 529}, "net_accuracy": 0.5984990619136961}