suchirsalhan commited on
Commit
3f1cb79
·
verified ·
1 Parent(s): 7b3af79

Upload results/_old_mb.jsonl with huggingface_hub

Browse files
Files changed (1) hide show
  1. results/_old_mb.jsonl +1 -0
results/_old_mb.jsonl ADDED
@@ -0,0 +1 @@
 
 
1
+ {"set": "set4_multiblimp", "lang": "nld_Latn", "mb_lang": "nld", "repo_b": "goldfish-models/nld_latn_1000mb", "metric": "MultiBLiMP 1.0 accuracy (chance=0.5) -- ACCURACY, not likelihood", "n_items_eng": 600, "n_items_x": 600, "unk_rate_eng_tok_on_x_items": 0.0011525333569750431, "unk_rate_own_tok_on_x_items": 0.0005102412712296814, "parents": {"eng_on_mb_eng": 0.9666666666666667, "x_on_mb_x": 0.985, "eng_on_mb_x": 0.7916666666666666}, "rungs": {"M0_naive_avg": {"mb_eng": 0.6966666666666667, "mb_x": 0.85, "delta_eng_vs_eng_parent": -0.27, "delta_x_vs_x_parent": -0.135}, "M1a_vocab_avg": {"mb_eng": 0.69, "mb_x": 0.8033333333333333, "delta_eng_vs_eng_parent": -0.2766666666666667, "delta_x_vs_x_parent": -0.18166666666666664}, "M1b_vocab_perm_avg": {"mb_eng": 0.6883333333333334, "mb_x": 0.8016666666666666, "delta_eng_vs_eng_parent": -0.2783333333333333, "delta_x_vs_x_parent": -0.18333333333333335}, "M1c_vocab_orth_avg": {"mb_eng": 0.6883333333333334, "mb_x": 0.8016666666666666, "delta_eng_vs_eng_parent": -0.2783333333333333, "delta_x_vs_x_parent": -0.18333333333333335}, "M1e_vocab_orth_forced": {"mb_eng": 0.71, "mb_x": 0.8016666666666666, "delta_eng_vs_eng_parent": -0.2566666666666667, "delta_x_vs_x_parent": -0.18333333333333335}}, "align_info": {"perm": {"residual": false, "mlp": 12, "heads": 12, "rejected": ["residual"]}, "orth": {"residual": false, "mlp": 12, "heads": 12, "rejected": ["residual"]}}, "secs": 85.13058662414551}