Divyanshu-Bhatt commited on
Commit
29c1cc4
·
verified ·
1 Parent(s): fceac4e

Add files using upload-large-folder tool

Browse files
This view is limited to 50 files because it contains too many changes.   See raw diff
Files changed (50) hide show
  1. mmlu_STEM/few_shot_2/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.0.hook_resid_post.json +1 -0
  2. mmlu_STEM/few_shot_2/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.1.hook_resid_post.json +1 -0
  3. mmlu_STEM/few_shot_2/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.10.hook_resid_post.json +1 -0
  4. mmlu_STEM/few_shot_2/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.15.hook_resid_post.json +1 -0
  5. mmlu_STEM/few_shot_2/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.18.hook_mlp_out.json +1 -0
  6. mmlu_STEM/few_shot_2/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.22.hook_resid_post.json +1 -0
  7. mmlu_STEM/few_shot_2/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.27.hook_resid_post.json +1 -0
  8. mmlu_STEM/few_shot_2/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.4.hook_resid_post.json +1 -0
  9. mmlu_STEM/few_shot_2/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.5.hook_resid_post.json +1 -0
  10. mmlu_STEM/few_shot_2/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.9.hook_mlp_out.json +1 -0
  11. mmlu_STEM/few_shot_2/EleutherAI_gpt-j-6B/last_token_relative_depth_100/predictions.csv +3019 -0
  12. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.0.hook_mlp_out.json +1 -0
  13. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.11.hook_mlp_out.json +1 -0
  14. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.12.hook_mlp_out.json +1 -0
  15. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.12.hook_resid_post.json +1 -0
  16. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.13.hook_mlp_out.json +1 -0
  17. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.13.hook_resid_post.json +1 -0
  18. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.14.hook_mlp_out.json +1 -0
  19. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.16.hook_mlp_out.json +1 -0
  20. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.16.hook_resid_post.json +1 -0
  21. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.17.hook_mlp_out.json +1 -0
  22. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.17.hook_resid_post.json +1 -0
  23. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.2.hook_mlp_out.json +1 -0
  24. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.2.hook_resid_post.json +1 -0
  25. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.3.hook_mlp_out.json +1 -0
  26. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.3.hook_resid_post.json +1 -0
  27. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.5.hook_mlp_out.json +1 -0
  28. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.6.hook_mlp_out.json +1 -0
  29. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.6.hook_resid_post.json +1 -0
  30. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.7.hook_mlp_out.json +1 -0
  31. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.7.hook_resid_post.json +1 -0
  32. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.8.hook_resid_post.json +1 -0
  33. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.9.hook_resid_post.json +1 -0
  34. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_ln_final.hook_normalized.json +1 -0
  35. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_output.json +1 -0
  36. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.0.hook_mlp_out.csv +0 -0
  37. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.0.hook_resid_post.csv +0 -0
  38. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.1.hook_mlp_out.csv +0 -0
  39. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.1.hook_resid_post.csv +0 -0
  40. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.10.hook_mlp_out.csv +0 -0
  41. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.10.hook_resid_post.csv +0 -0
  42. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.11.hook_mlp_out.csv +0 -0
  43. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.11.hook_resid_post.csv +0 -0
  44. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.12.hook_mlp_out.csv +0 -0
  45. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.12.hook_resid_post.csv +0 -0
  46. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.13.hook_mlp_out.csv +0 -0
  47. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.13.hook_resid_post.csv +0 -0
  48. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.14.hook_mlp_out.csv +0 -0
  49. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.14.hook_resid_post.csv +0 -0
  50. mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.15.hook_mlp_out.csv +0 -0
mmlu_STEM/few_shot_2/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.0.hook_resid_post.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 149, "1": 0, "2": 130, "3": 572}, "net_accuracy": 0.281974817760106}
mmlu_STEM/few_shot_2/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.1.hook_resid_post.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 0, "1": 0, "2": 0, "3": 871}, "net_accuracy": 0.2886017229953612}
mmlu_STEM/few_shot_2/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.10.hook_resid_post.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 357, "1": 123, "2": 54, "3": 146}, "net_accuracy": 0.2253147779986746}
mmlu_STEM/few_shot_2/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.15.hook_resid_post.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 549, "1": 28, "2": 38, "3": 49}, "net_accuracy": 0.22001325381047052}
mmlu_STEM/few_shot_2/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.18.hook_mlp_out.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 478, "1": 0, "2": 204, "3": 0}, "net_accuracy": 0.22597746852220013}
mmlu_STEM/few_shot_2/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.22.hook_resid_post.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 525, "1": 0, "2": 108, "3": 73}, "net_accuracy": 0.23392975480450628}
mmlu_STEM/few_shot_2/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.27.hook_resid_post.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 197, "1": 203, "2": 283, "3": 121}, "net_accuracy": 0.2664015904572565}
mmlu_STEM/few_shot_2/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.4.hook_resid_post.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 4, "1": 0, "2": 2, "3": 866}, "net_accuracy": 0.28893306825712395}
mmlu_STEM/few_shot_2/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.5.hook_resid_post.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 9, "1": 0, "2": 1, "3": 864}, "net_accuracy": 0.2895957587806494}
mmlu_STEM/few_shot_2/EleutherAI_gpt-j-6B/last_token_relative_depth_100/accuracy_blocks.9.hook_mlp_out.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 1, "1": 8, "2": 85, "3": 780}, "net_accuracy": 0.2895957587806494}
mmlu_STEM/few_shot_2/EleutherAI_gpt-j-6B/last_token_relative_depth_100/predictions.csv ADDED
@@ -0,0 +1,3019 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ Labels,Predictions
2
+ 0,0
3
+ 0,0
4
+ 1,2
5
+ 1,0
6
+ 0,1
7
+ 0,0
8
+ 1,2
9
+ 2,2
10
+ 0,2
11
+ 0,0
12
+ 0,0
13
+ 3,0
14
+ 0,1
15
+ 2,3
16
+ 1,3
17
+ 1,2
18
+ 3,2
19
+ 0,1
20
+ 2,2
21
+ 3,2
22
+ 1,1
23
+ 1,2
24
+ 2,2
25
+ 3,3
26
+ 2,2
27
+ 2,3
28
+ 2,2
29
+ 2,2
30
+ 0,2
31
+ 2,2
32
+ 1,3
33
+ 2,0
34
+ 2,1
35
+ 0,2
36
+ 0,2
37
+ 2,3
38
+ 2,0
39
+ 2,1
40
+ 2,2
41
+ 2,0
42
+ 0,2
43
+ 2,1
44
+ 2,1
45
+ 1,2
46
+ 1,2
47
+ 2,0
48
+ 3,2
49
+ 1,0
50
+ 3,0
51
+ 3,0
52
+ 2,0
53
+ 2,1
54
+ 1,2
55
+ 2,1
56
+ 1,0
57
+ 1,0
58
+ 1,0
59
+ 2,0
60
+ 2,3
61
+ 1,2
62
+ 3,2
63
+ 2,0
64
+ 0,0
65
+ 3,0
66
+ 3,1
67
+ 2,0
68
+ 2,1
69
+ 3,3
70
+ 3,1
71
+ 2,1
72
+ 1,2
73
+ 2,0
74
+ 0,1
75
+ 3,1
76
+ 2,1
77
+ 2,2
78
+ 3,0
79
+ 2,2
80
+ 3,2
81
+ 0,2
82
+ 3,0
83
+ 0,1
84
+ 2,1
85
+ 3,0
86
+ 0,2
87
+ 3,1
88
+ 1,1
89
+ 3,1
90
+ 2,1
91
+ 3,2
92
+ 3,0
93
+ 1,0
94
+ 3,0
95
+ 2,1
96
+ 0,2
97
+ 2,0
98
+ 1,2
99
+ 0,1
100
+ 0,1
101
+ 2,2
102
+ 2,0
103
+ 1,2
104
+ 1,2
105
+ 1,1
106
+ 3,1
107
+ 0,1
108
+ 0,0
109
+ 1,3
110
+ 1,0
111
+ 2,0
112
+ 0,2
113
+ 2,2
114
+ 3,1
115
+ 1,1
116
+ 1,1
117
+ 2,2
118
+ 2,0
119
+ 3,0
120
+ 2,2
121
+ 3,0
122
+ 3,3
123
+ 3,1
124
+ 2,2
125
+ 1,0
126
+ 0,0
127
+ 2,1
128
+ 3,2
129
+ 0,1
130
+ 2,1
131
+ 0,1
132
+ 0,3
133
+ 0,1
134
+ 3,0
135
+ 2,1
136
+ 2,2
137
+ 2,2
138
+ 1,0
139
+ 2,1
140
+ 1,2
141
+ 3,1
142
+ 1,0
143
+ 0,2
144
+ 1,2
145
+ 2,0
146
+ 1,2
147
+ 0,0
148
+ 0,1
149
+ 1,0
150
+ 1,2
151
+ 3,2
152
+ 3,1
153
+ 2,2
154
+ 0,0
155
+ 1,3
156
+ 1,0
157
+ 1,0
158
+ 1,0
159
+ 1,2
160
+ 3,3
161
+ 0,2
162
+ 0,0
163
+ 3,1
164
+ 0,2
165
+ 2,1
166
+ 0,1
167
+ 3,0
168
+ 0,2
169
+ 2,2
170
+ 0,0
171
+ 1,0
172
+ 0,0
173
+ 1,1
174
+ 1,2
175
+ 3,1
176
+ 1,3
177
+ 0,2
178
+ 2,1
179
+ 2,0
180
+ 0,2
181
+ 1,2
182
+ 2,2
183
+ 3,0
184
+ 2,3
185
+ 0,2
186
+ 1,2
187
+ 0,2
188
+ 2,1
189
+ 3,2
190
+ 3,2
191
+ 1,2
192
+ 2,0
193
+ 2,0
194
+ 1,0
195
+ 0,2
196
+ 3,2
197
+ 3,1
198
+ 0,0
199
+ 1,3
200
+ 0,0
201
+ 2,2
202
+ 3,1
203
+ 3,3
204
+ 3,1
205
+ 2,0
206
+ 0,1
207
+ 2,2
208
+ 0,3
209
+ 1,1
210
+ 1,2
211
+ 3,2
212
+ 3,2
213
+ 2,1
214
+ 2,2
215
+ 2,2
216
+ 3,0
217
+ 2,3
218
+ 0,2
219
+ 1,1
220
+ 3,3
221
+ 2,1
222
+ 1,3
223
+ 0,2
224
+ 3,2
225
+ 0,0
226
+ 0,0
227
+ 3,0
228
+ 0,2
229
+ 2,0
230
+ 3,2
231
+ 3,1
232
+ 1,0
233
+ 0,0
234
+ 0,2
235
+ 3,2
236
+ 0,2
237
+ 1,1
238
+ 0,0
239
+ 3,0
240
+ 0,0
241
+ 3,0
242
+ 1,0
243
+ 1,2
244
+ 3,2
245
+ 1,1
246
+ 1,3
247
+ 3,3
248
+ 1,1
249
+ 1,1
250
+ 2,2
251
+ 3,2
252
+ 3,1
253
+ 3,2
254
+ 1,1
255
+ 0,0
256
+ 0,3
257
+ 1,1
258
+ 2,2
259
+ 2,1
260
+ 0,1
261
+ 0,0
262
+ 2,1
263
+ 3,1
264
+ 3,1
265
+ 0,2
266
+ 2,2
267
+ 3,1
268
+ 0,1
269
+ 0,2
270
+ 1,2
271
+ 2,0
272
+ 3,0
273
+ 3,2
274
+ 1,0
275
+ 3,1
276
+ 3,2
277
+ 0,0
278
+ 3,0
279
+ 2,1
280
+ 1,0
281
+ 3,3
282
+ 0,1
283
+ 3,2
284
+ 1,1
285
+ 2,0
286
+ 2,1
287
+ 1,2
288
+ 0,1
289
+ 3,1
290
+ 3,0
291
+ 2,2
292
+ 3,1
293
+ 3,0
294
+ 3,2
295
+ 3,0
296
+ 1,0
297
+ 2,2
298
+ 3,2
299
+ 1,1
300
+ 0,1
301
+ 3,2
302
+ 1,2
303
+ 1,0
304
+ 0,0
305
+ 2,1
306
+ 2,2
307
+ 1,3
308
+ 1,2
309
+ 0,2
310
+ 3,2
311
+ 3,2
312
+ 2,1
313
+ 3,2
314
+ 2,1
315
+ 2,1
316
+ 2,0
317
+ 3,2
318
+ 0,2
319
+ 2,2
320
+ 3,1
321
+ 1,2
322
+ 1,0
323
+ 2,0
324
+ 1,3
325
+ 2,1
326
+ 1,2
327
+ 3,0
328
+ 1,1
329
+ 1,1
330
+ 3,0
331
+ 1,2
332
+ 0,0
333
+ 3,3
334
+ 3,2
335
+ 1,0
336
+ 2,0
337
+ 2,0
338
+ 0,2
339
+ 2,2
340
+ 0,1
341
+ 0,2
342
+ 1,3
343
+ 2,1
344
+ 0,0
345
+ 0,2
346
+ 1,2
347
+ 2,1
348
+ 2,2
349
+ 1,1
350
+ 3,1
351
+ 3,0
352
+ 0,0
353
+ 2,1
354
+ 1,2
355
+ 1,1
356
+ 3,3
357
+ 3,3
358
+ 3,0
359
+ 0,0
360
+ 2,0
361
+ 3,2
362
+ 1,0
363
+ 0,0
364
+ 3,0
365
+ 1,0
366
+ 3,0
367
+ 3,2
368
+ 3,2
369
+ 1,1
370
+ 3,0
371
+ 1,3
372
+ 3,2
373
+ 1,0
374
+ 2,2
375
+ 2,0
376
+ 3,2
377
+ 2,2
378
+ 3,3
379
+ 3,2
380
+ 2,2
381
+ 2,2
382
+ 0,0
383
+ 3,2
384
+ 1,2
385
+ 3,0
386
+ 0,1
387
+ 0,0
388
+ 3,3
389
+ 3,0
390
+ 0,2
391
+ 3,0
392
+ 2,0
393
+ 2,3
394
+ 0,3
395
+ 1,1
396
+ 3,1
397
+ 2,0
398
+ 2,2
399
+ 3,2
400
+ 0,1
401
+ 0,2
402
+ 1,2
403
+ 1,1
404
+ 2,1
405
+ 1,0
406
+ 3,2
407
+ 0,1
408
+ 2,0
409
+ 1,0
410
+ 3,0
411
+ 2,2
412
+ 1,1
413
+ 2,0
414
+ 2,2
415
+ 3,0
416
+ 1,1
417
+ 3,2
418
+ 2,3
419
+ 2,1
420
+ 3,0
421
+ 0,0
422
+ 3,2
423
+ 2,3
424
+ 3,0
425
+ 0,0
426
+ 3,1
427
+ 1,0
428
+ 2,0
429
+ 2,2
430
+ 3,2
431
+ 3,0
432
+ 3,2
433
+ 2,2
434
+ 3,1
435
+ 1,2
436
+ 1,1
437
+ 3,2
438
+ 0,2
439
+ 2,2
440
+ 0,1
441
+ 3,1
442
+ 3,0
443
+ 2,1
444
+ 2,1
445
+ 0,2
446
+ 3,3
447
+ 2,1
448
+ 1,3
449
+ 3,0
450
+ 0,3
451
+ 3,3
452
+ 3,2
453
+ 3,2
454
+ 1,1
455
+ 2,1
456
+ 0,3
457
+ 3,1
458
+ 2,1
459
+ 3,0
460
+ 3,3
461
+ 0,2
462
+ 0,1
463
+ 2,1
464
+ 2,2
465
+ 3,2
466
+ 3,0
467
+ 2,0
468
+ 3,1
469
+ 2,2
470
+ 3,2
471
+ 0,0
472
+ 3,2
473
+ 0,0
474
+ 3,2
475
+ 2,0
476
+ 1,1
477
+ 0,2
478
+ 1,1
479
+ 0,0
480
+ 1,2
481
+ 3,3
482
+ 2,2
483
+ 3,2
484
+ 3,0
485
+ 0,2
486
+ 1,2
487
+ 3,2
488
+ 0,0
489
+ 2,1
490
+ 1,0
491
+ 1,2
492
+ 1,0
493
+ 3,2
494
+ 2,2
495
+ 1,1
496
+ 2,3
497
+ 0,2
498
+ 1,0
499
+ 2,0
500
+ 1,3
501
+ 1,0
502
+ 1,1
503
+ 1,2
504
+ 3,0
505
+ 2,0
506
+ 3,1
507
+ 3,2
508
+ 2,0
509
+ 3,3
510
+ 0,1
511
+ 2,3
512
+ 0,2
513
+ 3,1
514
+ 0,1
515
+ 1,1
516
+ 3,2
517
+ 0,0
518
+ 0,0
519
+ 2,2
520
+ 1,2
521
+ 0,2
522
+ 2,2
523
+ 3,1
524
+ 1,2
525
+ 0,3
526
+ 1,2
527
+ 3,0
528
+ 2,0
529
+ 1,2
530
+ 0,1
531
+ 1,2
532
+ 1,0
533
+ 2,1
534
+ 3,2
535
+ 3,0
536
+ 3,1
537
+ 2,2
538
+ 2,0
539
+ 1,2
540
+ 3,2
541
+ 3,2
542
+ 1,2
543
+ 2,3
544
+ 3,1
545
+ 2,2
546
+ 3,3
547
+ 3,2
548
+ 0,2
549
+ 2,2
550
+ 2,3
551
+ 1,0
552
+ 1,1
553
+ 1,3
554
+ 2,2
555
+ 0,2
556
+ 3,0
557
+ 1,0
558
+ 1,2
559
+ 1,0
560
+ 0,2
561
+ 3,3
562
+ 3,0
563
+ 2,2
564
+ 0,2
565
+ 3,0
566
+ 2,0
567
+ 0,1
568
+ 2,1
569
+ 1,0
570
+ 2,2
571
+ 3,2
572
+ 0,0
573
+ 2,2
574
+ 2,1
575
+ 0,2
576
+ 1,2
577
+ 0,2
578
+ 1,1
579
+ 2,0
580
+ 2,2
581
+ 3,2
582
+ 3,0
583
+ 3,3
584
+ 2,0
585
+ 3,2
586
+ 3,2
587
+ 0,1
588
+ 2,0
589
+ 3,2
590
+ 0,0
591
+ 0,2
592
+ 0,0
593
+ 1,2
594
+ 3,1
595
+ 0,2
596
+ 1,2
597
+ 2,3
598
+ 3,0
599
+ 2,1
600
+ 0,2
601
+ 1,1
602
+ 2,0
603
+ 3,2
604
+ 1,2
605
+ 3,0
606
+ 1,2
607
+ 0,0
608
+ 3,3
609
+ 3,2
610
+ 2,2
611
+ 3,1
612
+ 3,0
613
+ 2,2
614
+ 3,2
615
+ 1,2
616
+ 3,1
617
+ 2,2
618
+ 2,2
619
+ 2,2
620
+ 1,2
621
+ 3,2
622
+ 3,0
623
+ 3,2
624
+ 2,2
625
+ 3,1
626
+ 3,2
627
+ 3,1
628
+ 1,2
629
+ 2,1
630
+ 1,2
631
+ 2,2
632
+ 2,1
633
+ 1,2
634
+ 1,1
635
+ 3,0
636
+ 1,2
637
+ 1,0
638
+ 3,2
639
+ 1,1
640
+ 2,1
641
+ 0,1
642
+ 1,1
643
+ 2,2
644
+ 0,2
645
+ 2,1
646
+ 3,1
647
+ 0,1
648
+ 0,1
649
+ 2,2
650
+ 0,2
651
+ 2,0
652
+ 1,0
653
+ 2,2
654
+ 2,1
655
+ 3,3
656
+ 1,2
657
+ 2,1
658
+ 3,0
659
+ 3,2
660
+ 3,2
661
+ 2,1
662
+ 2,1
663
+ 1,2
664
+ 1,2
665
+ 0,1
666
+ 3,1
667
+ 1,0
668
+ 3,3
669
+ 0,2
670
+ 3,0
671
+ 1,1
672
+ 2,0
673
+ 2,1
674
+ 2,0
675
+ 2,0
676
+ 2,2
677
+ 1,0
678
+ 2,2
679
+ 3,0
680
+ 2,0
681
+ 0,0
682
+ 0,3
683
+ 1,1
684
+ 2,2
685
+ 3,2
686
+ 3,2
687
+ 1,0
688
+ 0,2
689
+ 1,3
690
+ 3,3
691
+ 0,3
692
+ 3,2
693
+ 1,2
694
+ 1,1
695
+ 0,2
696
+ 1,0
697
+ 1,1
698
+ 3,2
699
+ 0,1
700
+ 1,1
701
+ 0,0
702
+ 0,1
703
+ 2,0
704
+ 2,0
705
+ 3,2
706
+ 2,2
707
+ 2,2
708
+ 3,3
709
+ 3,3
710
+ 3,1
711
+ 2,0
712
+ 3,0
713
+ 2,1
714
+ 3,1
715
+ 0,0
716
+ 2,0
717
+ 3,1
718
+ 1,1
719
+ 0,3
720
+ 0,1
721
+ 2,1
722
+ 1,1
723
+ 0,2
724
+ 2,0
725
+ 1,0
726
+ 3,2
727
+ 3,2
728
+ 2,0
729
+ 0,0
730
+ 0,2
731
+ 3,0
732
+ 2,3
733
+ 3,1
734
+ 2,1
735
+ 3,3
736
+ 1,2
737
+ 1,1
738
+ 3,0
739
+ 0,2
740
+ 1,1
741
+ 1,0
742
+ 1,2
743
+ 0,2
744
+ 2,2
745
+ 2,0
746
+ 2,2
747
+ 1,0
748
+ 0,1
749
+ 3,3
750
+ 2,0
751
+ 3,2
752
+ 2,0
753
+ 0,0
754
+ 0,0
755
+ 0,0
756
+ 0,0
757
+ 2,2
758
+ 2,1
759
+ 3,1
760
+ 3,0
761
+ 3,2
762
+ 2,2
763
+ 0,2
764
+ 3,2
765
+ 1,2
766
+ 0,1
767
+ 0,3
768
+ 2,2
769
+ 2,2
770
+ 0,1
771
+ 0,0
772
+ 1,1
773
+ 2,0
774
+ 1,3
775
+ 2,0
776
+ 1,2
777
+ 1,0
778
+ 1,2
779
+ 1,2
780
+ 0,2
781
+ 2,2
782
+ 3,1
783
+ 0,2
784
+ 0,1
785
+ 3,3
786
+ 3,1
787
+ 3,0
788
+ 0,0
789
+ 3,0
790
+ 1,1
791
+ 0,0
792
+ 2,2
793
+ 2,2
794
+ 3,0
795
+ 2,0
796
+ 2,2
797
+ 3,0
798
+ 0,0
799
+ 0,0
800
+ 2,1
801
+ 1,0
802
+ 0,0
803
+ 3,0
804
+ 2,0
805
+ 0,2
806
+ 0,1
807
+ 3,1
808
+ 3,2
809
+ 1,3
810
+ 3,0
811
+ 2,2
812
+ 0,0
813
+ 0,1
814
+ 2,2
815
+ 3,1
816
+ 2,1
817
+ 3,1
818
+ 2,1
819
+ 2,0
820
+ 3,2
821
+ 2,1
822
+ 0,3
823
+ 2,0
824
+ 3,2
825
+ 3,1
826
+ 3,1
827
+ 1,2
828
+ 0,3
829
+ 1,3
830
+ 3,2
831
+ 0,3
832
+ 3,0
833
+ 3,0
834
+ 2,2
835
+ 2,1
836
+ 2,2
837
+ 2,0
838
+ 1,0
839
+ 3,0
840
+ 3,2
841
+ 3,0
842
+ 1,0
843
+ 2,2
844
+ 2,2
845
+ 3,0
846
+ 0,2
847
+ 1,2
848
+ 2,2
849
+ 0,0
850
+ 1,3
851
+ 1,0
852
+ 0,0
853
+ 2,2
854
+ 3,2
855
+ 2,2
856
+ 0,0
857
+ 3,0
858
+ 3,0
859
+ 1,1
860
+ 2,3
861
+ 0,0
862
+ 2,0
863
+ 2,0
864
+ 3,0
865
+ 1,1
866
+ 1,3
867
+ 2,1
868
+ 2,2
869
+ 2,0
870
+ 3,0
871
+ 2,0
872
+ 2,1
873
+ 1,0
874
+ 0,1
875
+ 1,2
876
+ 0,1
877
+ 3,0
878
+ 3,0
879
+ 3,0
880
+ 3,0
881
+ 0,1
882
+ 0,2
883
+ 0,1
884
+ 0,2
885
+ 3,0
886
+ 0,2
887
+ 1,2
888
+ 2,3
889
+ 2,2
890
+ 1,0
891
+ 2,2
892
+ 2,2
893
+ 0,3
894
+ 0,0
895
+ 2,1
896
+ 2,0
897
+ 3,2
898
+ 3,0
899
+ 2,2
900
+ 3,3
901
+ 0,0
902
+ 1,2
903
+ 0,0
904
+ 1,0
905
+ 3,0
906
+ 3,3
907
+ 2,1
908
+ 3,2
909
+ 1,2
910
+ 1,1
911
+ 2,2
912
+ 1,3
913
+ 0,0
914
+ 1,2
915
+ 1,0
916
+ 0,0
917
+ 2,1
918
+ 1,2
919
+ 0,2
920
+ 2,2
921
+ 1,1
922
+ 0,3
923
+ 0,2
924
+ 1,2
925
+ 2,1
926
+ 1,2
927
+ 2,2
928
+ 2,2
929
+ 2,1
930
+ 1,2
931
+ 1,1
932
+ 3,0
933
+ 2,1
934
+ 1,1
935
+ 3,0
936
+ 0,1
937
+ 1,0
938
+ 1,0
939
+ 3,0
940
+ 2,0
941
+ 3,2
942
+ 0,1
943
+ 2,0
944
+ 0,1
945
+ 3,0
946
+ 2,2
947
+ 0,0
948
+ 1,2
949
+ 0,0
950
+ 3,1
951
+ 3,1
952
+ 0,1
953
+ 3,0
954
+ 3,3
955
+ 0,0
956
+ 2,1
957
+ 0,2
958
+ 2,2
959
+ 0,3
960
+ 3,1
961
+ 3,0
962
+ 3,0
963
+ 3,1
964
+ 3,3
965
+ 0,0
966
+ 2,2
967
+ 2,1
968
+ 0,2
969
+ 0,2
970
+ 2,1
971
+ 1,1
972
+ 3,1
973
+ 3,1
974
+ 0,2
975
+ 0,2
976
+ 0,2
977
+ 2,0
978
+ 2,2
979
+ 0,1
980
+ 3,0
981
+ 1,0
982
+ 0,2
983
+ 1,0
984
+ 1,0
985
+ 1,2
986
+ 3,1
987
+ 3,0
988
+ 0,2
989
+ 1,2
990
+ 0,3
991
+ 0,3
992
+ 1,1
993
+ 2,0
994
+ 2,2
995
+ 1,3
996
+ 2,2
997
+ 3,2
998
+ 3,1
999
+ 2,1
1000
+ 0,0
1001
+ 3,2
1002
+ 2,2
1003
+ 1,0
1004
+ 2,2
1005
+ 0,2
1006
+ 0,1
1007
+ 3,0
1008
+ 1,2
1009
+ 2,1
1010
+ 1,3
1011
+ 0,0
1012
+ 2,0
1013
+ 2,2
1014
+ 2,2
1015
+ 2,3
1016
+ 0,2
1017
+ 2,3
1018
+ 1,0
1019
+ 0,1
1020
+ 3,1
1021
+ 1,2
1022
+ 1,2
1023
+ 2,2
1024
+ 0,3
1025
+ 3,1
1026
+ 3,0
1027
+ 2,2
1028
+ 1,1
1029
+ 2,0
1030
+ 3,2
1031
+ 3,3
1032
+ 1,2
1033
+ 3,1
1034
+ 2,2
1035
+ 1,0
1036
+ 3,3
1037
+ 3,1
1038
+ 2,0
1039
+ 3,2
1040
+ 0,3
1041
+ 3,1
1042
+ 2,2
1043
+ 1,3
1044
+ 0,2
1045
+ 1,2
1046
+ 2,2
1047
+ 3,0
1048
+ 3,1
1049
+ 2,2
1050
+ 0,1
1051
+ 3,1
1052
+ 1,1
1053
+ 3,2
1054
+ 0,0
1055
+ 3,0
1056
+ 2,2
1057
+ 1,0
1058
+ 3,1
1059
+ 3,1
1060
+ 3,2
1061
+ 0,0
1062
+ 2,2
1063
+ 3,0
1064
+ 0,3
1065
+ 3,2
1066
+ 2,1
1067
+ 3,1
1068
+ 3,3
1069
+ 0,1
1070
+ 0,2
1071
+ 2,2
1072
+ 2,2
1073
+ 2,1
1074
+ 3,3
1075
+ 0,0
1076
+ 3,3
1077
+ 2,1
1078
+ 3,1
1079
+ 0,3
1080
+ 1,3
1081
+ 2,2
1082
+ 0,0
1083
+ 3,0
1084
+ 1,1
1085
+ 0,3
1086
+ 3,0
1087
+ 1,1
1088
+ 1,1
1089
+ 1,0
1090
+ 2,0
1091
+ 3,2
1092
+ 0,0
1093
+ 2,2
1094
+ 0,2
1095
+ 0,3
1096
+ 0,1
1097
+ 0,1
1098
+ 2,1
1099
+ 3,2
1100
+ 3,1
1101
+ 3,3
1102
+ 0,2
1103
+ 0,2
1104
+ 0,1
1105
+ 2,0
1106
+ 1,3
1107
+ 1,0
1108
+ 2,1
1109
+ 3,2
1110
+ 1,0
1111
+ 0,1
1112
+ 3,1
1113
+ 2,0
1114
+ 2,0
1115
+ 0,0
1116
+ 2,0
1117
+ 2,0
1118
+ 0,0
1119
+ 0,2
1120
+ 1,2
1121
+ 3,1
1122
+ 3,0
1123
+ 0,1
1124
+ 2,2
1125
+ 3,2
1126
+ 1,2
1127
+ 3,1
1128
+ 3,1
1129
+ 2,1
1130
+ 2,1
1131
+ 1,2
1132
+ 1,3
1133
+ 1,1
1134
+ 3,2
1135
+ 1,0
1136
+ 2,2
1137
+ 1,2
1138
+ 2,2
1139
+ 3,3
1140
+ 1,2
1141
+ 3,1
1142
+ 3,3
1143
+ 3,1
1144
+ 1,2
1145
+ 3,0
1146
+ 0,3
1147
+ 3,2
1148
+ 2,2
1149
+ 3,0
1150
+ 0,2
1151
+ 1,2
1152
+ 3,1
1153
+ 3,0
1154
+ 3,1
1155
+ 3,3
1156
+ 3,2
1157
+ 3,3
1158
+ 1,0
1159
+ 3,3
1160
+ 2,1
1161
+ 0,2
1162
+ 3,2
1163
+ 3,2
1164
+ 2,1
1165
+ 3,1
1166
+ 2,0
1167
+ 3,0
1168
+ 0,0
1169
+ 0,2
1170
+ 0,2
1171
+ 2,2
1172
+ 3,0
1173
+ 3,0
1174
+ 0,2
1175
+ 0,1
1176
+ 3,2
1177
+ 3,2
1178
+ 3,2
1179
+ 0,3
1180
+ 2,3
1181
+ 1,1
1182
+ 1,0
1183
+ 0,1
1184
+ 2,0
1185
+ 1,2
1186
+ 1,1
1187
+ 3,2
1188
+ 1,1
1189
+ 2,2
1190
+ 0,1
1191
+ 1,1
1192
+ 3,0
1193
+ 1,0
1194
+ 1,2
1195
+ 2,3
1196
+ 2,0
1197
+ 1,0
1198
+ 2,2
1199
+ 2,2
1200
+ 1,0
1201
+ 0,3
1202
+ 2,1
1203
+ 1,0
1204
+ 1,2
1205
+ 1,0
1206
+ 3,0
1207
+ 1,2
1208
+ 2,1
1209
+ 1,0
1210
+ 3,2
1211
+ 0,0
1212
+ 3,2
1213
+ 2,1
1214
+ 2,1
1215
+ 1,2
1216
+ 0,0
1217
+ 3,2
1218
+ 3,2
1219
+ 1,1
1220
+ 0,2
1221
+ 0,1
1222
+ 1,1
1223
+ 0,1
1224
+ 2,3
1225
+ 0,1
1226
+ 2,0
1227
+ 2,1
1228
+ 1,2
1229
+ 1,1
1230
+ 3,1
1231
+ 3,0
1232
+ 2,2
1233
+ 3,1
1234
+ 3,3
1235
+ 2,3
1236
+ 0,0
1237
+ 3,3
1238
+ 1,0
1239
+ 3,1
1240
+ 2,1
1241
+ 3,2
1242
+ 3,2
1243
+ 0,2
1244
+ 3,2
1245
+ 1,0
1246
+ 3,2
1247
+ 1,0
1248
+ 1,1
1249
+ 3,2
1250
+ 3,3
1251
+ 1,2
1252
+ 3,0
1253
+ 1,0
1254
+ 1,2
1255
+ 2,2
1256
+ 3,3
1257
+ 2,1
1258
+ 2,1
1259
+ 1,1
1260
+ 1,0
1261
+ 2,1
1262
+ 0,0
1263
+ 2,0
1264
+ 2,2
1265
+ 3,0
1266
+ 1,2
1267
+ 1,2
1268
+ 0,1
1269
+ 2,1
1270
+ 2,2
1271
+ 0,2
1272
+ 0,1
1273
+ 1,1
1274
+ 3,2
1275
+ 1,1
1276
+ 3,2
1277
+ 3,1
1278
+ 2,0
1279
+ 0,2
1280
+ 1,0
1281
+ 2,2
1282
+ 3,1
1283
+ 2,2
1284
+ 2,1
1285
+ 1,3
1286
+ 2,3
1287
+ 3,2
1288
+ 2,0
1289
+ 0,1
1290
+ 2,2
1291
+ 1,0
1292
+ 3,2
1293
+ 2,3
1294
+ 1,1
1295
+ 1,1
1296
+ 2,0
1297
+ 3,1
1298
+ 1,0
1299
+ 3,2
1300
+ 1,0
1301
+ 0,2
1302
+ 1,0
1303
+ 0,1
1304
+ 2,0
1305
+ 2,2
1306
+ 2,1
1307
+ 1,2
1308
+ 1,1
1309
+ 0,2
1310
+ 0,0
1311
+ 2,1
1312
+ 3,1
1313
+ 3,1
1314
+ 0,1
1315
+ 2,2
1316
+ 2,3
1317
+ 2,2
1318
+ 2,2
1319
+ 1,1
1320
+ 0,3
1321
+ 0,2
1322
+ 2,1
1323
+ 1,1
1324
+ 1,0
1325
+ 3,0
1326
+ 0,2
1327
+ 1,2
1328
+ 1,0
1329
+ 3,2
1330
+ 3,0
1331
+ 2,0
1332
+ 3,0
1333
+ 0,0
1334
+ 0,1
1335
+ 0,1
1336
+ 2,1
1337
+ 2,2
1338
+ 1,1
1339
+ 3,0
1340
+ 3,2
1341
+ 0,1
1342
+ 3,2
1343
+ 2,1
1344
+ 3,3
1345
+ 2,1
1346
+ 1,2
1347
+ 0,0
1348
+ 3,3
1349
+ 3,3
1350
+ 2,3
1351
+ 2,0
1352
+ 1,0
1353
+ 3,0
1354
+ 1,0
1355
+ 2,0
1356
+ 2,0
1357
+ 3,3
1358
+ 0,2
1359
+ 3,1
1360
+ 0,1
1361
+ 0,2
1362
+ 2,0
1363
+ 1,1
1364
+ 1,1
1365
+ 3,0
1366
+ 3,1
1367
+ 3,0
1368
+ 2,2
1369
+ 1,2
1370
+ 1,2
1371
+ 3,0
1372
+ 1,1
1373
+ 1,1
1374
+ 0,0
1375
+ 2,3
1376
+ 0,0
1377
+ 1,2
1378
+ 2,2
1379
+ 3,1
1380
+ 0,2
1381
+ 2,2
1382
+ 1,2
1383
+ 2,0
1384
+ 3,2
1385
+ 2,2
1386
+ 2,2
1387
+ 3,0
1388
+ 3,3
1389
+ 1,0
1390
+ 1,2
1391
+ 1,1
1392
+ 2,2
1393
+ 2,2
1394
+ 2,2
1395
+ 2,0
1396
+ 0,1
1397
+ 1,0
1398
+ 2,2
1399
+ 2,2
1400
+ 2,2
1401
+ 3,3
1402
+ 1,3
1403
+ 1,2
1404
+ 0,2
1405
+ 2,0
1406
+ 1,0
1407
+ 1,0
1408
+ 0,0
1409
+ 3,3
1410
+ 0,0
1411
+ 3,1
1412
+ 0,1
1413
+ 1,1
1414
+ 3,1
1415
+ 3,2
1416
+ 0,0
1417
+ 1,2
1418
+ 0,2
1419
+ 0,1
1420
+ 2,2
1421
+ 3,0
1422
+ 3,1
1423
+ 2,0
1424
+ 3,0
1425
+ 3,2
1426
+ 3,1
1427
+ 2,2
1428
+ 2,2
1429
+ 1,0
1430
+ 3,1
1431
+ 3,0
1432
+ 2,1
1433
+ 3,3
1434
+ 0,0
1435
+ 3,0
1436
+ 0,0
1437
+ 1,0
1438
+ 1,1
1439
+ 3,2
1440
+ 1,1
1441
+ 2,2
1442
+ 1,3
1443
+ 2,1
1444
+ 3,1
1445
+ 1,0
1446
+ 2,2
1447
+ 1,0
1448
+ 2,1
1449
+ 2,1
1450
+ 3,2
1451
+ 3,2
1452
+ 1,1
1453
+ 3,0
1454
+ 2,1
1455
+ 2,1
1456
+ 3,1
1457
+ 3,2
1458
+ 1,1
1459
+ 3,2
1460
+ 0,2
1461
+ 0,0
1462
+ 0,2
1463
+ 2,1
1464
+ 2,1
1465
+ 3,0
1466
+ 1,1
1467
+ 0,2
1468
+ 0,2
1469
+ 2,2
1470
+ 2,0
1471
+ 2,3
1472
+ 2,1
1473
+ 0,3
1474
+ 2,1
1475
+ 3,3
1476
+ 1,0
1477
+ 1,2
1478
+ 1,0
1479
+ 3,2
1480
+ 3,2
1481
+ 0,0
1482
+ 3,2
1483
+ 0,0
1484
+ 1,2
1485
+ 0,3
1486
+ 1,1
1487
+ 0,0
1488
+ 2,1
1489
+ 3,3
1490
+ 3,1
1491
+ 2,0
1492
+ 2,0
1493
+ 3,2
1494
+ 2,2
1495
+ 3,2
1496
+ 0,0
1497
+ 3,0
1498
+ 0,0
1499
+ 3,1
1500
+ 3,0
1501
+ 3,1
1502
+ 0,1
1503
+ 0,0
1504
+ 3,2
1505
+ 2,0
1506
+ 1,2
1507
+ 2,1
1508
+ 1,2
1509
+ 3,1
1510
+ 2,1
1511
+ 0,3
1512
+ 3,1
1513
+ 1,0
1514
+ 0,1
1515
+ 2,1
1516
+ 2,1
1517
+ 0,0
1518
+ 2,2
1519
+ 3,0
1520
+ 3,2
1521
+ 0,2
1522
+ 2,1
1523
+ 1,2
1524
+ 3,3
1525
+ 3,1
1526
+ 0,1
1527
+ 3,2
1528
+ 0,0
1529
+ 0,1
1530
+ 2,2
1531
+ 2,3
1532
+ 3,1
1533
+ 1,1
1534
+ 1,0
1535
+ 2,2
1536
+ 0,1
1537
+ 0,2
1538
+ 2,0
1539
+ 1,2
1540
+ 3,2
1541
+ 2,0
1542
+ 0,0
1543
+ 2,1
1544
+ 2,1
1545
+ 0,0
1546
+ 1,2
1547
+ 2,2
1548
+ 2,1
1549
+ 2,2
1550
+ 1,2
1551
+ 0,1
1552
+ 0,2
1553
+ 0,0
1554
+ 3,2
1555
+ 3,2
1556
+ 3,2
1557
+ 1,2
1558
+ 1,3
1559
+ 0,1
1560
+ 2,2
1561
+ 3,1
1562
+ 1,1
1563
+ 3,2
1564
+ 3,1
1565
+ 1,0
1566
+ 2,2
1567
+ 3,1
1568
+ 0,0
1569
+ 1,3
1570
+ 3,0
1571
+ 0,0
1572
+ 2,0
1573
+ 3,1
1574
+ 2,0
1575
+ 1,2
1576
+ 3,1
1577
+ 3,1
1578
+ 0,3
1579
+ 0,1
1580
+ 2,1
1581
+ 3,1
1582
+ 1,1
1583
+ 3,3
1584
+ 3,1
1585
+ 2,0
1586
+ 1,1
1587
+ 3,0
1588
+ 3,0
1589
+ 2,1
1590
+ 3,3
1591
+ 3,2
1592
+ 0,1
1593
+ 2,1
1594
+ 3,1
1595
+ 3,1
1596
+ 1,2
1597
+ 3,1
1598
+ 1,2
1599
+ 1,2
1600
+ 0,1
1601
+ 1,2
1602
+ 3,2
1603
+ 2,1
1604
+ 2,2
1605
+ 1,0
1606
+ 1,2
1607
+ 1,2
1608
+ 0,1
1609
+ 2,2
1610
+ 1,0
1611
+ 0,2
1612
+ 0,2
1613
+ 0,1
1614
+ 3,1
1615
+ 0,0
1616
+ 1,2
1617
+ 2,2
1618
+ 1,1
1619
+ 2,3
1620
+ 3,1
1621
+ 0,2
1622
+ 2,0
1623
+ 1,0
1624
+ 2,2
1625
+ 2,1
1626
+ 2,2
1627
+ 3,1
1628
+ 0,0
1629
+ 2,2
1630
+ 3,2
1631
+ 1,0
1632
+ 1,1
1633
+ 1,1
1634
+ 3,2
1635
+ 2,2
1636
+ 2,3
1637
+ 3,1
1638
+ 1,2
1639
+ 2,0
1640
+ 0,2
1641
+ 1,1
1642
+ 1,0
1643
+ 2,0
1644
+ 0,1
1645
+ 0,2
1646
+ 3,1
1647
+ 2,1
1648
+ 3,1
1649
+ 0,1
1650
+ 1,1
1651
+ 1,2
1652
+ 0,0
1653
+ 1,0
1654
+ 2,0
1655
+ 0,2
1656
+ 0,3
1657
+ 2,1
1658
+ 3,0
1659
+ 3,0
1660
+ 1,2
1661
+ 3,3
1662
+ 0,2
1663
+ 2,2
1664
+ 3,1
1665
+ 2,2
1666
+ 0,1
1667
+ 2,1
1668
+ 2,1
1669
+ 0,1
1670
+ 2,1
1671
+ 1,2
1672
+ 3,1
1673
+ 0,0
1674
+ 1,2
1675
+ 3,3
1676
+ 2,2
1677
+ 3,0
1678
+ 3,2
1679
+ 2,2
1680
+ 0,1
1681
+ 1,1
1682
+ 2,0
1683
+ 3,2
1684
+ 3,1
1685
+ 2,2
1686
+ 3,0
1687
+ 2,2
1688
+ 1,1
1689
+ 2,0
1690
+ 3,0
1691
+ 3,2
1692
+ 3,1
1693
+ 1,2
1694
+ 1,0
1695
+ 1,2
1696
+ 0,0
1697
+ 3,2
1698
+ 1,0
1699
+ 1,2
1700
+ 2,1
1701
+ 0,0
1702
+ 1,2
1703
+ 3,0
1704
+ 2,0
1705
+ 3,3
1706
+ 3,0
1707
+ 1,1
1708
+ 0,3
1709
+ 0,0
1710
+ 2,0
1711
+ 1,0
1712
+ 1,2
1713
+ 3,1
1714
+ 1,2
1715
+ 0,2
1716
+ 0,2
1717
+ 0,1
1718
+ 3,3
1719
+ 2,0
1720
+ 0,2
1721
+ 3,1
1722
+ 0,1
1723
+ 1,2
1724
+ 2,1
1725
+ 3,1
1726
+ 2,1
1727
+ 1,0
1728
+ 2,0
1729
+ 1,2
1730
+ 2,0
1731
+ 2,0
1732
+ 2,0
1733
+ 2,1
1734
+ 2,1
1735
+ 0,2
1736
+ 2,2
1737
+ 0,2
1738
+ 3,2
1739
+ 0,1
1740
+ 1,2
1741
+ 1,2
1742
+ 3,2
1743
+ 3,1
1744
+ 3,1
1745
+ 2,2
1746
+ 1,0
1747
+ 3,0
1748
+ 2,0
1749
+ 2,3
1750
+ 3,1
1751
+ 3,1
1752
+ 2,2
1753
+ 3,0
1754
+ 2,2
1755
+ 3,2
1756
+ 1,1
1757
+ 3,3
1758
+ 2,1
1759
+ 0,0
1760
+ 3,0
1761
+ 3,2
1762
+ 2,1
1763
+ 0,0
1764
+ 3,2
1765
+ 3,1
1766
+ 1,1
1767
+ 3,1
1768
+ 2,0
1769
+ 2,2
1770
+ 1,3
1771
+ 3,2
1772
+ 2,2
1773
+ 1,2
1774
+ 2,1
1775
+ 2,2
1776
+ 2,1
1777
+ 0,0
1778
+ 2,0
1779
+ 2,3
1780
+ 0,2
1781
+ 1,2
1782
+ 3,3
1783
+ 3,2
1784
+ 2,2
1785
+ 2,1
1786
+ 3,0
1787
+ 1,1
1788
+ 3,0
1789
+ 3,1
1790
+ 3,1
1791
+ 2,2
1792
+ 1,3
1793
+ 2,1
1794
+ 2,2
1795
+ 0,0
1796
+ 3,2
1797
+ 0,0
1798
+ 3,1
1799
+ 1,2
1800
+ 0,0
1801
+ 3,1
1802
+ 3,1
1803
+ 1,2
1804
+ 3,1
1805
+ 2,3
1806
+ 3,2
1807
+ 3,2
1808
+ 1,2
1809
+ 2,1
1810
+ 3,2
1811
+ 0,2
1812
+ 1,2
1813
+ 3,1
1814
+ 2,0
1815
+ 0,0
1816
+ 2,2
1817
+ 2,3
1818
+ 2,0
1819
+ 0,2
1820
+ 0,1
1821
+ 2,0
1822
+ 2,2
1823
+ 3,1
1824
+ 2,1
1825
+ 3,1
1826
+ 3,2
1827
+ 0,0
1828
+ 2,0
1829
+ 2,1
1830
+ 1,2
1831
+ 1,3
1832
+ 2,0
1833
+ 0,2
1834
+ 1,1
1835
+ 1,2
1836
+ 2,1
1837
+ 0,2
1838
+ 2,3
1839
+ 3,1
1840
+ 3,0
1841
+ 0,2
1842
+ 0,2
1843
+ 0,2
1844
+ 0,2
1845
+ 3,2
1846
+ 2,0
1847
+ 2,3
1848
+ 3,0
1849
+ 3,1
1850
+ 2,2
1851
+ 2,2
1852
+ 0,0
1853
+ 1,2
1854
+ 1,2
1855
+ 1,2
1856
+ 3,2
1857
+ 2,3
1858
+ 1,2
1859
+ 2,3
1860
+ 3,1
1861
+ 3,2
1862
+ 3,1
1863
+ 3,2
1864
+ 2,2
1865
+ 3,2
1866
+ 2,0
1867
+ 1,2
1868
+ 0,3
1869
+ 1,2
1870
+ 3,0
1871
+ 2,2
1872
+ 1,0
1873
+ 1,0
1874
+ 3,1
1875
+ 1,1
1876
+ 3,3
1877
+ 1,1
1878
+ 1,0
1879
+ 1,0
1880
+ 0,1
1881
+ 0,0
1882
+ 1,2
1883
+ 1,1
1884
+ 0,3
1885
+ 3,2
1886
+ 1,1
1887
+ 3,3
1888
+ 1,1
1889
+ 2,0
1890
+ 0,1
1891
+ 2,2
1892
+ 1,1
1893
+ 1,3
1894
+ 0,0
1895
+ 3,1
1896
+ 2,2
1897
+ 1,1
1898
+ 0,3
1899
+ 0,0
1900
+ 3,2
1901
+ 3,2
1902
+ 1,2
1903
+ 2,2
1904
+ 1,2
1905
+ 2,3
1906
+ 0,0
1907
+ 3,1
1908
+ 0,1
1909
+ 2,1
1910
+ 0,2
1911
+ 1,1
1912
+ 2,2
1913
+ 3,2
1914
+ 0,1
1915
+ 0,3
1916
+ 1,2
1917
+ 2,0
1918
+ 0,0
1919
+ 0,1
1920
+ 2,0
1921
+ 3,2
1922
+ 0,2
1923
+ 2,2
1924
+ 0,0
1925
+ 1,2
1926
+ 2,0
1927
+ 1,2
1928
+ 1,1
1929
+ 2,2
1930
+ 0,0
1931
+ 0,1
1932
+ 2,3
1933
+ 0,0
1934
+ 3,3
1935
+ 2,2
1936
+ 2,1
1937
+ 2,2
1938
+ 0,1
1939
+ 0,0
1940
+ 3,1
1941
+ 2,3
1942
+ 1,2
1943
+ 3,1
1944
+ 1,0
1945
+ 0,2
1946
+ 2,0
1947
+ 3,2
1948
+ 3,0
1949
+ 0,2
1950
+ 2,1
1951
+ 1,0
1952
+ 0,1
1953
+ 1,1
1954
+ 1,2
1955
+ 0,0
1956
+ 1,0
1957
+ 0,0
1958
+ 0,1
1959
+ 0,3
1960
+ 1,2
1961
+ 1,1
1962
+ 3,2
1963
+ 3,0
1964
+ 2,0
1965
+ 3,1
1966
+ 0,2
1967
+ 0,3
1968
+ 2,3
1969
+ 1,0
1970
+ 2,2
1971
+ 3,0
1972
+ 0,2
1973
+ 3,1
1974
+ 1,1
1975
+ 2,2
1976
+ 2,0
1977
+ 1,1
1978
+ 3,2
1979
+ 2,2
1980
+ 3,1
1981
+ 3,0
1982
+ 2,1
1983
+ 0,1
1984
+ 0,1
1985
+ 3,3
1986
+ 2,0
1987
+ 0,1
1988
+ 0,2
1989
+ 3,0
1990
+ 1,2
1991
+ 0,1
1992
+ 2,2
1993
+ 0,0
1994
+ 3,1
1995
+ 1,3
1996
+ 0,0
1997
+ 1,2
1998
+ 1,2
1999
+ 3,2
2000
+ 0,1
2001
+ 3,1
2002
+ 2,1
2003
+ 0,1
2004
+ 0,1
2005
+ 0,1
2006
+ 3,2
2007
+ 3,1
2008
+ 3,2
2009
+ 0,0
2010
+ 2,2
2011
+ 1,0
2012
+ 1,2
2013
+ 1,3
2014
+ 0,1
2015
+ 3,1
2016
+ 1,1
2017
+ 3,1
2018
+ 2,2
2019
+ 1,2
2020
+ 0,2
2021
+ 2,0
2022
+ 1,3
2023
+ 1,1
2024
+ 2,1
2025
+ 2,2
2026
+ 1,2
2027
+ 0,1
2028
+ 3,0
2029
+ 1,1
2030
+ 2,3
2031
+ 2,0
2032
+ 1,2
2033
+ 2,2
2034
+ 1,0
2035
+ 3,3
2036
+ 3,0
2037
+ 0,0
2038
+ 0,1
2039
+ 2,1
2040
+ 0,1
2041
+ 3,2
2042
+ 0,3
2043
+ 3,0
2044
+ 3,0
2045
+ 2,0
2046
+ 1,1
2047
+ 3,2
2048
+ 3,1
2049
+ 1,0
2050
+ 3,3
2051
+ 0,0
2052
+ 0,0
2053
+ 0,1
2054
+ 3,2
2055
+ 3,0
2056
+ 3,2
2057
+ 1,1
2058
+ 0,2
2059
+ 2,2
2060
+ 3,0
2061
+ 1,1
2062
+ 2,3
2063
+ 0,2
2064
+ 1,2
2065
+ 0,2
2066
+ 0,3
2067
+ 2,0
2068
+ 3,2
2069
+ 1,2
2070
+ 0,0
2071
+ 2,0
2072
+ 2,0
2073
+ 3,3
2074
+ 0,3
2075
+ 3,2
2076
+ 0,2
2077
+ 1,2
2078
+ 1,2
2079
+ 1,1
2080
+ 3,0
2081
+ 1,1
2082
+ 2,2
2083
+ 0,1
2084
+ 0,1
2085
+ 3,3
2086
+ 0,0
2087
+ 0,3
2088
+ 0,3
2089
+ 3,3
2090
+ 3,3
2091
+ 3,0
2092
+ 3,2
2093
+ 2,0
2094
+ 1,2
2095
+ 3,1
2096
+ 0,0
2097
+ 3,1
2098
+ 1,2
2099
+ 1,1
2100
+ 2,0
2101
+ 1,2
2102
+ 2,3
2103
+ 2,0
2104
+ 2,2
2105
+ 1,2
2106
+ 1,2
2107
+ 2,2
2108
+ 1,3
2109
+ 3,1
2110
+ 3,2
2111
+ 0,2
2112
+ 2,3
2113
+ 0,1
2114
+ 3,1
2115
+ 3,2
2116
+ 1,0
2117
+ 2,3
2118
+ 2,3
2119
+ 1,2
2120
+ 1,1
2121
+ 1,0
2122
+ 2,1
2123
+ 3,2
2124
+ 2,2
2125
+ 1,2
2126
+ 2,0
2127
+ 1,0
2128
+ 1,0
2129
+ 0,0
2130
+ 0,1
2131
+ 1,1
2132
+ 0,0
2133
+ 2,1
2134
+ 2,1
2135
+ 2,1
2136
+ 3,0
2137
+ 3,2
2138
+ 0,2
2139
+ 3,2
2140
+ 1,0
2141
+ 3,0
2142
+ 2,1
2143
+ 3,2
2144
+ 1,3
2145
+ 1,1
2146
+ 1,1
2147
+ 3,1
2148
+ 2,0
2149
+ 2,2
2150
+ 2,3
2151
+ 0,1
2152
+ 0,1
2153
+ 0,0
2154
+ 3,3
2155
+ 3,1
2156
+ 2,2
2157
+ 1,0
2158
+ 1,0
2159
+ 1,0
2160
+ 2,0
2161
+ 2,0
2162
+ 2,1
2163
+ 1,1
2164
+ 2,2
2165
+ 2,2
2166
+ 1,2
2167
+ 1,2
2168
+ 1,0
2169
+ 3,0
2170
+ 3,2
2171
+ 3,2
2172
+ 0,2
2173
+ 0,1
2174
+ 1,0
2175
+ 0,0
2176
+ 3,2
2177
+ 1,1
2178
+ 3,0
2179
+ 3,1
2180
+ 2,2
2181
+ 2,3
2182
+ 1,2
2183
+ 2,1
2184
+ 2,0
2185
+ 2,1
2186
+ 3,0
2187
+ 2,0
2188
+ 3,2
2189
+ 0,2
2190
+ 2,2
2191
+ 1,2
2192
+ 0,0
2193
+ 2,0
2194
+ 0,1
2195
+ 3,2
2196
+ 2,2
2197
+ 3,1
2198
+ 2,2
2199
+ 1,3
2200
+ 3,1
2201
+ 1,2
2202
+ 1,1
2203
+ 3,0
2204
+ 2,1
2205
+ 3,3
2206
+ 2,3
2207
+ 1,1
2208
+ 3,3
2209
+ 3,0
2210
+ 2,1
2211
+ 1,0
2212
+ 0,2
2213
+ 2,2
2214
+ 2,2
2215
+ 0,0
2216
+ 2,0
2217
+ 2,2
2218
+ 3,2
2219
+ 3,1
2220
+ 0,2
2221
+ 3,0
2222
+ 3,3
2223
+ 1,3
2224
+ 3,1
2225
+ 3,1
2226
+ 3,2
2227
+ 1,0
2228
+ 1,2
2229
+ 3,3
2230
+ 3,1
2231
+ 3,1
2232
+ 1,0
2233
+ 1,2
2234
+ 2,1
2235
+ 1,1
2236
+ 2,1
2237
+ 1,2
2238
+ 1,2
2239
+ 3,0
2240
+ 0,3
2241
+ 1,1
2242
+ 0,1
2243
+ 1,1
2244
+ 0,2
2245
+ 3,1
2246
+ 1,2
2247
+ 1,2
2248
+ 1,2
2249
+ 1,2
2250
+ 1,1
2251
+ 1,2
2252
+ 3,3
2253
+ 0,0
2254
+ 2,1
2255
+ 3,2
2256
+ 3,2
2257
+ 0,2
2258
+ 0,2
2259
+ 0,1
2260
+ 3,0
2261
+ 2,0
2262
+ 1,3
2263
+ 1,1
2264
+ 2,3
2265
+ 2,0
2266
+ 1,1
2267
+ 3,3
2268
+ 2,1
2269
+ 0,0
2270
+ 1,1
2271
+ 0,1
2272
+ 2,2
2273
+ 0,3
2274
+ 1,2
2275
+ 3,1
2276
+ 3,2
2277
+ 1,1
2278
+ 1,2
2279
+ 3,2
2280
+ 3,2
2281
+ 2,1
2282
+ 2,2
2283
+ 3,1
2284
+ 1,3
2285
+ 3,1
2286
+ 3,0
2287
+ 1,1
2288
+ 1,2
2289
+ 2,1
2290
+ 1,3
2291
+ 3,3
2292
+ 1,0
2293
+ 2,2
2294
+ 3,2
2295
+ 3,1
2296
+ 0,2
2297
+ 3,0
2298
+ 2,2
2299
+ 0,0
2300
+ 1,0
2301
+ 2,1
2302
+ 3,0
2303
+ 2,1
2304
+ 2,2
2305
+ 1,1
2306
+ 2,1
2307
+ 0,0
2308
+ 2,2
2309
+ 1,3
2310
+ 1,2
2311
+ 2,1
2312
+ 1,0
2313
+ 2,0
2314
+ 3,1
2315
+ 1,0
2316
+ 1,1
2317
+ 2,0
2318
+ 0,1
2319
+ 1,2
2320
+ 2,0
2321
+ 3,0
2322
+ 0,2
2323
+ 2,1
2324
+ 0,0
2325
+ 0,2
2326
+ 3,3
2327
+ 0,0
2328
+ 0,2
2329
+ 3,0
2330
+ 0,1
2331
+ 2,2
2332
+ 1,1
2333
+ 3,2
2334
+ 2,2
2335
+ 0,0
2336
+ 3,1
2337
+ 0,2
2338
+ 2,0
2339
+ 0,1
2340
+ 3,1
2341
+ 2,1
2342
+ 2,2
2343
+ 2,0
2344
+ 0,1
2345
+ 3,2
2346
+ 3,1
2347
+ 1,1
2348
+ 0,2
2349
+ 2,0
2350
+ 2,2
2351
+ 0,2
2352
+ 1,0
2353
+ 1,2
2354
+ 0,2
2355
+ 1,1
2356
+ 3,0
2357
+ 3,0
2358
+ 3,3
2359
+ 1,1
2360
+ 3,0
2361
+ 3,2
2362
+ 2,3
2363
+ 1,0
2364
+ 0,3
2365
+ 3,1
2366
+ 3,2
2367
+ 1,1
2368
+ 3,2
2369
+ 2,1
2370
+ 0,2
2371
+ 3,3
2372
+ 1,0
2373
+ 3,2
2374
+ 0,1
2375
+ 3,0
2376
+ 2,2
2377
+ 1,2
2378
+ 1,0
2379
+ 0,3
2380
+ 0,0
2381
+ 3,3
2382
+ 1,2
2383
+ 2,1
2384
+ 2,3
2385
+ 0,1
2386
+ 3,2
2387
+ 2,1
2388
+ 3,2
2389
+ 3,1
2390
+ 1,1
2391
+ 0,1
2392
+ 1,2
2393
+ 0,2
2394
+ 1,3
2395
+ 0,0
2396
+ 1,0
2397
+ 1,0
2398
+ 3,2
2399
+ 1,1
2400
+ 3,1
2401
+ 3,0
2402
+ 1,2
2403
+ 0,1
2404
+ 2,0
2405
+ 0,3
2406
+ 3,3
2407
+ 3,0
2408
+ 2,2
2409
+ 0,1
2410
+ 1,3
2411
+ 1,1
2412
+ 3,0
2413
+ 3,0
2414
+ 3,2
2415
+ 3,2
2416
+ 2,0
2417
+ 1,0
2418
+ 2,0
2419
+ 0,2
2420
+ 2,0
2421
+ 0,2
2422
+ 0,2
2423
+ 3,1
2424
+ 3,2
2425
+ 3,0
2426
+ 0,0
2427
+ 3,1
2428
+ 3,2
2429
+ 3,2
2430
+ 3,2
2431
+ 3,0
2432
+ 3,0
2433
+ 3,1
2434
+ 2,0
2435
+ 1,1
2436
+ 0,1
2437
+ 3,2
2438
+ 1,0
2439
+ 3,3
2440
+ 1,2
2441
+ 0,2
2442
+ 2,2
2443
+ 0,2
2444
+ 3,2
2445
+ 1,3
2446
+ 3,1
2447
+ 1,2
2448
+ 1,1
2449
+ 3,1
2450
+ 0,2
2451
+ 1,1
2452
+ 3,0
2453
+ 2,0
2454
+ 1,1
2455
+ 0,3
2456
+ 2,0
2457
+ 2,0
2458
+ 3,0
2459
+ 2,1
2460
+ 1,2
2461
+ 3,2
2462
+ 2,0
2463
+ 1,1
2464
+ 3,0
2465
+ 3,3
2466
+ 3,0
2467
+ 3,2
2468
+ 3,1
2469
+ 1,3
2470
+ 3,3
2471
+ 3,1
2472
+ 2,1
2473
+ 3,2
2474
+ 0,1
2475
+ 2,2
2476
+ 3,3
2477
+ 1,0
2478
+ 1,3
2479
+ 3,0
2480
+ 3,2
2481
+ 2,2
2482
+ 3,2
2483
+ 3,2
2484
+ 0,2
2485
+ 1,0
2486
+ 0,0
2487
+ 0,2
2488
+ 2,3
2489
+ 3,0
2490
+ 2,0
2491
+ 2,2
2492
+ 1,2
2493
+ 2,1
2494
+ 3,2
2495
+ 0,1
2496
+ 1,1
2497
+ 3,1
2498
+ 0,1
2499
+ 1,3
2500
+ 1,2
2501
+ 3,1
2502
+ 3,1
2503
+ 2,1
2504
+ 0,2
2505
+ 3,0
2506
+ 0,1
2507
+ 0,2
2508
+ 2,2
2509
+ 0,0
2510
+ 3,2
2511
+ 0,1
2512
+ 1,1
2513
+ 2,2
2514
+ 0,2
2515
+ 1,3
2516
+ 3,1
2517
+ 0,1
2518
+ 3,3
2519
+ 3,1
2520
+ 1,0
2521
+ 0,2
2522
+ 3,3
2523
+ 0,1
2524
+ 3,2
2525
+ 1,0
2526
+ 3,1
2527
+ 3,3
2528
+ 1,0
2529
+ 1,2
2530
+ 1,1
2531
+ 0,1
2532
+ 2,2
2533
+ 2,0
2534
+ 0,2
2535
+ 0,1
2536
+ 1,3
2537
+ 3,1
2538
+ 2,0
2539
+ 0,0
2540
+ 1,1
2541
+ 0,1
2542
+ 1,1
2543
+ 2,1
2544
+ 1,1
2545
+ 1,1
2546
+ 3,2
2547
+ 1,2
2548
+ 0,0
2549
+ 3,0
2550
+ 2,1
2551
+ 2,2
2552
+ 0,2
2553
+ 2,2
2554
+ 0,1
2555
+ 1,3
2556
+ 3,2
2557
+ 3,1
2558
+ 0,1
2559
+ 0,0
2560
+ 3,3
2561
+ 0,2
2562
+ 1,2
2563
+ 1,2
2564
+ 0,1
2565
+ 1,2
2566
+ 0,0
2567
+ 2,0
2568
+ 2,1
2569
+ 3,3
2570
+ 1,0
2571
+ 0,0
2572
+ 3,1
2573
+ 1,2
2574
+ 0,2
2575
+ 2,3
2576
+ 0,2
2577
+ 3,2
2578
+ 1,0
2579
+ 3,2
2580
+ 1,3
2581
+ 2,2
2582
+ 3,3
2583
+ 0,0
2584
+ 3,3
2585
+ 3,0
2586
+ 3,0
2587
+ 3,1
2588
+ 3,1
2589
+ 2,0
2590
+ 2,2
2591
+ 0,2
2592
+ 2,2
2593
+ 2,1
2594
+ 1,1
2595
+ 1,2
2596
+ 3,3
2597
+ 2,2
2598
+ 0,2
2599
+ 2,2
2600
+ 0,3
2601
+ 3,1
2602
+ 1,2
2603
+ 1,0
2604
+ 2,0
2605
+ 1,2
2606
+ 0,1
2607
+ 3,1
2608
+ 3,3
2609
+ 2,0
2610
+ 2,2
2611
+ 0,2
2612
+ 3,1
2613
+ 2,1
2614
+ 1,0
2615
+ 0,0
2616
+ 0,1
2617
+ 2,1
2618
+ 1,2
2619
+ 2,0
2620
+ 1,1
2621
+ 0,3
2622
+ 2,2
2623
+ 2,2
2624
+ 1,2
2625
+ 1,0
2626
+ 0,2
2627
+ 2,2
2628
+ 3,3
2629
+ 3,3
2630
+ 0,0
2631
+ 1,1
2632
+ 0,2
2633
+ 0,1
2634
+ 3,1
2635
+ 0,0
2636
+ 1,0
2637
+ 2,0
2638
+ 2,2
2639
+ 3,2
2640
+ 0,0
2641
+ 3,1
2642
+ 2,2
2643
+ 0,2
2644
+ 1,2
2645
+ 0,3
2646
+ 0,2
2647
+ 3,3
2648
+ 0,2
2649
+ 0,0
2650
+ 1,0
2651
+ 2,1
2652
+ 3,1
2653
+ 3,2
2654
+ 3,3
2655
+ 1,1
2656
+ 3,0
2657
+ 1,0
2658
+ 1,3
2659
+ 3,1
2660
+ 2,3
2661
+ 1,0
2662
+ 0,1
2663
+ 0,1
2664
+ 0,2
2665
+ 2,2
2666
+ 2,1
2667
+ 1,1
2668
+ 0,0
2669
+ 0,0
2670
+ 0,2
2671
+ 1,1
2672
+ 2,0
2673
+ 0,1
2674
+ 1,0
2675
+ 2,0
2676
+ 0,2
2677
+ 2,2
2678
+ 0,2
2679
+ 2,1
2680
+ 1,1
2681
+ 1,2
2682
+ 0,1
2683
+ 3,2
2684
+ 1,1
2685
+ 0,2
2686
+ 3,1
2687
+ 2,0
2688
+ 0,0
2689
+ 1,2
2690
+ 1,3
2691
+ 2,0
2692
+ 0,0
2693
+ 3,0
2694
+ 0,0
2695
+ 2,0
2696
+ 3,2
2697
+ 0,0
2698
+ 0,2
2699
+ 2,1
2700
+ 0,2
2701
+ 2,2
2702
+ 2,3
2703
+ 1,2
2704
+ 1,1
2705
+ 0,0
2706
+ 0,1
2707
+ 1,1
2708
+ 3,0
2709
+ 2,1
2710
+ 1,2
2711
+ 3,0
2712
+ 1,1
2713
+ 2,2
2714
+ 0,1
2715
+ 3,0
2716
+ 2,1
2717
+ 0,3
2718
+ 2,0
2719
+ 3,0
2720
+ 3,2
2721
+ 2,0
2722
+ 2,1
2723
+ 0,2
2724
+ 1,0
2725
+ 1,1
2726
+ 3,1
2727
+ 3,2
2728
+ 0,2
2729
+ 3,2
2730
+ 0,1
2731
+ 1,1
2732
+ 3,1
2733
+ 1,2
2734
+ 1,0
2735
+ 1,2
2736
+ 1,1
2737
+ 3,1
2738
+ 2,2
2739
+ 1,2
2740
+ 3,0
2741
+ 1,0
2742
+ 2,2
2743
+ 3,1
2744
+ 2,2
2745
+ 3,3
2746
+ 2,2
2747
+ 3,1
2748
+ 0,2
2749
+ 2,3
2750
+ 1,1
2751
+ 1,2
2752
+ 3,2
2753
+ 2,1
2754
+ 3,1
2755
+ 0,0
2756
+ 3,2
2757
+ 2,0
2758
+ 2,1
2759
+ 3,3
2760
+ 3,0
2761
+ 3,0
2762
+ 0,3
2763
+ 1,0
2764
+ 1,3
2765
+ 3,1
2766
+ 0,0
2767
+ 1,1
2768
+ 1,2
2769
+ 2,0
2770
+ 3,1
2771
+ 2,1
2772
+ 1,0
2773
+ 2,0
2774
+ 0,0
2775
+ 2,2
2776
+ 3,3
2777
+ 2,1
2778
+ 0,2
2779
+ 0,2
2780
+ 3,1
2781
+ 1,2
2782
+ 3,0
2783
+ 2,0
2784
+ 0,2
2785
+ 2,2
2786
+ 1,2
2787
+ 3,2
2788
+ 1,1
2789
+ 2,1
2790
+ 3,2
2791
+ 3,2
2792
+ 1,1
2793
+ 1,0
2794
+ 2,3
2795
+ 3,2
2796
+ 1,2
2797
+ 1,3
2798
+ 0,0
2799
+ 2,1
2800
+ 1,1
2801
+ 0,2
2802
+ 1,0
2803
+ 2,0
2804
+ 3,1
2805
+ 1,0
2806
+ 1,2
2807
+ 0,0
2808
+ 3,3
2809
+ 3,1
2810
+ 3,1
2811
+ 0,2
2812
+ 1,0
2813
+ 2,3
2814
+ 1,2
2815
+ 1,0
2816
+ 2,3
2817
+ 3,0
2818
+ 3,1
2819
+ 2,1
2820
+ 3,0
2821
+ 2,2
2822
+ 1,3
2823
+ 3,2
2824
+ 0,1
2825
+ 1,2
2826
+ 3,0
2827
+ 0,0
2828
+ 3,2
2829
+ 3,1
2830
+ 1,1
2831
+ 3,3
2832
+ 2,0
2833
+ 0,2
2834
+ 2,1
2835
+ 2,0
2836
+ 3,1
2837
+ 2,3
2838
+ 0,2
2839
+ 3,2
2840
+ 1,1
2841
+ 3,0
2842
+ 3,1
2843
+ 3,0
2844
+ 3,2
2845
+ 2,2
2846
+ 3,3
2847
+ 3,0
2848
+ 3,3
2849
+ 3,1
2850
+ 0,0
2851
+ 1,2
2852
+ 1,1
2853
+ 2,0
2854
+ 0,1
2855
+ 3,0
2856
+ 3,3
2857
+ 1,3
2858
+ 1,2
2859
+ 0,2
2860
+ 1,3
2861
+ 2,2
2862
+ 0,1
2863
+ 3,1
2864
+ 1,0
2865
+ 2,0
2866
+ 1,0
2867
+ 3,2
2868
+ 0,2
2869
+ 3,2
2870
+ 3,2
2871
+ 0,2
2872
+ 3,3
2873
+ 1,0
2874
+ 1,0
2875
+ 0,0
2876
+ 1,0
2877
+ 0,1
2878
+ 3,2
2879
+ 3,2
2880
+ 2,0
2881
+ 0,1
2882
+ 2,1
2883
+ 0,1
2884
+ 2,2
2885
+ 1,2
2886
+ 2,0
2887
+ 2,0
2888
+ 3,1
2889
+ 2,0
2890
+ 1,2
2891
+ 3,0
2892
+ 2,1
2893
+ 3,0
2894
+ 0,2
2895
+ 2,0
2896
+ 3,2
2897
+ 1,1
2898
+ 1,1
2899
+ 3,2
2900
+ 1,1
2901
+ 0,1
2902
+ 1,1
2903
+ 3,0
2904
+ 1,3
2905
+ 3,2
2906
+ 1,1
2907
+ 2,1
2908
+ 3,2
2909
+ 0,3
2910
+ 1,0
2911
+ 3,0
2912
+ 3,3
2913
+ 3,0
2914
+ 2,2
2915
+ 1,2
2916
+ 3,0
2917
+ 3,0
2918
+ 1,2
2919
+ 2,2
2920
+ 2,0
2921
+ 2,2
2922
+ 0,2
2923
+ 2,1
2924
+ 3,0
2925
+ 0,2
2926
+ 2,0
2927
+ 3,2
2928
+ 2,3
2929
+ 2,3
2930
+ 1,0
2931
+ 1,0
2932
+ 0,1
2933
+ 1,2
2934
+ 3,3
2935
+ 2,2
2936
+ 1,2
2937
+ 1,0
2938
+ 0,0
2939
+ 1,2
2940
+ 3,2
2941
+ 3,2
2942
+ 0,0
2943
+ 2,3
2944
+ 2,1
2945
+ 3,2
2946
+ 3,0
2947
+ 1,0
2948
+ 2,0
2949
+ 2,1
2950
+ 1,1
2951
+ 1,3
2952
+ 2,3
2953
+ 0,2
2954
+ 3,2
2955
+ 1,0
2956
+ 0,0
2957
+ 1,2
2958
+ 0,3
2959
+ 0,2
2960
+ 0,2
2961
+ 3,3
2962
+ 0,0
2963
+ 3,2
2964
+ 1,1
2965
+ 3,1
2966
+ 3,1
2967
+ 0,1
2968
+ 0,0
2969
+ 2,1
2970
+ 3,1
2971
+ 2,1
2972
+ 2,2
2973
+ 0,0
2974
+ 1,1
2975
+ 1,1
2976
+ 0,0
2977
+ 2,2
2978
+ 2,0
2979
+ 2,1
2980
+ 2,1
2981
+ 3,0
2982
+ 0,2
2983
+ 3,0
2984
+ 3,0
2985
+ 3,3
2986
+ 2,1
2987
+ 1,3
2988
+ 2,1
2989
+ 1,1
2990
+ 2,3
2991
+ 0,0
2992
+ 3,1
2993
+ 3,2
2994
+ 1,3
2995
+ 1,2
2996
+ 2,2
2997
+ 1,0
2998
+ 3,1
2999
+ 3,1
3000
+ 3,1
3001
+ 3,2
3002
+ 2,1
3003
+ 3,0
3004
+ 1,2
3005
+ 2,0
3006
+ 2,2
3007
+ 1,1
3008
+ 2,2
3009
+ 1,2
3010
+ 0,2
3011
+ 1,1
3012
+ 3,0
3013
+ 2,3
3014
+ 3,1
3015
+ 1,0
3016
+ 3,2
3017
+ 2,3
3018
+ 1,3
3019
+ 2,0
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.0.hook_mlp_out.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 642, "1": 0, "2": 0, "3": 2}, "net_accuracy": 0.21338634857521538}
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.11.hook_mlp_out.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 63, "1": 90, "2": 644, "3": 0}, "net_accuracy": 0.26408217362491715}
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.12.hook_mlp_out.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 645, "1": 0, "2": 0, "3": 0}, "net_accuracy": 0.21371769383697814}
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.12.hook_resid_post.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 451, "1": 70, "2": 88, "3": 72}, "net_accuracy": 0.22564612326043737}
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.13.hook_mlp_out.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 6, "1": 115, "2": 676, "3": 0}, "net_accuracy": 0.26408217362491715}
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.13.hook_resid_post.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 45, "1": 132, "2": 592, "3": 13}, "net_accuracy": 0.2591119946984758}
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.14.hook_mlp_out.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 178, "1": 7, "2": 0, "3": 557}, "net_accuracy": 0.24585818422796554}
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.16.hook_mlp_out.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 362, "1": 0, "2": 0, "3": 481}, "net_accuracy": 0.279324055666004}
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.16.hook_resid_post.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 227, "1": 389, "2": 166, "3": 210}, "net_accuracy": 0.3286944996686547}
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.17.hook_mlp_out.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 42, "1": 82, "2": 198, "3": 355}, "net_accuracy": 0.22432074221338635}
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.17.hook_resid_post.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 290, "1": 266, "2": 282, "3": 145}, "net_accuracy": 0.3257123923127899}
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.2.hook_mlp_out.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 534, "1": 0, "2": 0, "3": 130}, "net_accuracy": 0.22001325381047052}
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.2.hook_resid_post.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 23, "1": 0, "2": 0, "3": 834}, "net_accuracy": 0.2839628893306826}
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.3.hook_mlp_out.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 0, "1": 423, "2": 306, "3": 26}, "net_accuracy": 0.25016567263088135}
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.3.hook_resid_post.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 0, "1": 0, "2": 0, "3": 871}, "net_accuracy": 0.2886017229953612}
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.5.hook_mlp_out.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 645, "1": 0, "2": 0, "3": 0}, "net_accuracy": 0.21371769383697814}
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.6.hook_mlp_out.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 599, "1": 52, "2": 1, "3": 0}, "net_accuracy": 0.21603711066931744}
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.6.hook_resid_post.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 55, "1": 20, "2": 0, "3": 728}, "net_accuracy": 0.2660702451954937}
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.7.hook_mlp_out.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 600, "1": 47, "2": 0, "3": 0}, "net_accuracy": 0.21438038436050363}
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.7.hook_resid_post.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 108, "1": 309, "2": 0, "3": 318}, "net_accuracy": 0.24353876739562624}
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.8.hook_resid_post.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 24, "1": 120, "2": 0, "3": 639}, "net_accuracy": 0.25944333996023855}
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_blocks.9.hook_resid_post.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 147, "1": 19, "2": 0, "3": 576}, "net_accuracy": 0.24585818422796554}
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_ln_final.hook_normalized.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 290, "1": 266, "2": 282, "3": 145}, "net_accuracy": 0.3257123923127899}
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/accuracy_output.json ADDED
@@ -0,0 +1 @@
 
 
1
+ {"total_per_class": {"0": 645, "1": 719, "2": 783, "3": 871}, "correct_per_class": {"0": 290, "1": 266, "2": 282, "3": 145}, "net_accuracy": 0.3257123923127899}
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.0.hook_mlp_out.csv ADDED
The diff for this file is too large to render. See raw diff
 
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.0.hook_resid_post.csv ADDED
The diff for this file is too large to render. See raw diff
 
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.1.hook_mlp_out.csv ADDED
The diff for this file is too large to render. See raw diff
 
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.1.hook_resid_post.csv ADDED
The diff for this file is too large to render. See raw diff
 
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.10.hook_mlp_out.csv ADDED
The diff for this file is too large to render. See raw diff
 
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.10.hook_resid_post.csv ADDED
The diff for this file is too large to render. See raw diff
 
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.11.hook_mlp_out.csv ADDED
The diff for this file is too large to render. See raw diff
 
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.11.hook_resid_post.csv ADDED
The diff for this file is too large to render. See raw diff
 
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.12.hook_mlp_out.csv ADDED
The diff for this file is too large to render. See raw diff
 
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.12.hook_resid_post.csv ADDED
The diff for this file is too large to render. See raw diff
 
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.13.hook_mlp_out.csv ADDED
The diff for this file is too large to render. See raw diff
 
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.13.hook_resid_post.csv ADDED
The diff for this file is too large to render. See raw diff
 
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.14.hook_mlp_out.csv ADDED
The diff for this file is too large to render. See raw diff
 
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.14.hook_resid_post.csv ADDED
The diff for this file is too large to render. See raw diff
 
mmlu_STEM/few_shot_2/google_gemma-2b/last_token_relative_depth_100/intrinsic/mle_local_dims/blocks.15.hook_mlp_out.csv ADDED
The diff for this file is too large to render. See raw diff