| { |
| "protocol": "5 disjoint 1000-query TRAIN folds; preselection fixed p1 eta1; final b=.1 coord .25 wl4 sem .3; high-IDF exponent extension", |
| "powers": [ |
| 1.5, |
| 2.0, |
| 2.5, |
| 3.0, |
| 4.0 |
| ], |
| "fold_rows": [ |
| { |
| "fold": 0, |
| "idf_power": 1.5, |
| "nDCG@10": 0.15435758018892967, |
| "MRR@10": 0.12400396825396826, |
| "P@10": 0.0273, |
| "R@10": 0.26116666666666666, |
| "R@100": 0.50525, |
| "Hit@10": 0.268, |
| "Hit@100": 0.515, |
| "n_queries": 1000 |
| }, |
| { |
| "fold": 0, |
| "idf_power": 2.0, |
| "nDCG@10": 0.15634045989877365, |
| "MRR@10": 0.12664960317460316, |
| "P@10": 0.027299999999999998, |
| "R@10": 0.26116666666666666, |
| "R@100": 0.50625, |
| "Hit@10": 0.268, |
| "Hit@100": 0.516, |
| "n_queries": 1000 |
| }, |
| { |
| "fold": 0, |
| "idf_power": 2.5, |
| "nDCG@10": 0.1549765793629976, |
| "MRR@10": 0.12495476190476192, |
| "P@10": 0.027200000000000002, |
| "R@10": 0.2601666666666667, |
| "R@100": 0.50625, |
| "Hit@10": 0.267, |
| "Hit@100": 0.516, |
| "n_queries": 1000 |
| }, |
| { |
| "fold": 0, |
| "idf_power": 3.0, |
| "nDCG@10": 0.15312022825306293, |
| "MRR@10": 0.12390277777777779, |
| "P@10": 0.0267, |
| "R@10": 0.2556666666666667, |
| "R@100": 0.50375, |
| "Hit@10": 0.262, |
| "Hit@100": 0.514, |
| "n_queries": 1000 |
| }, |
| { |
| "fold": 0, |
| "idf_power": 4.0, |
| "nDCG@10": 0.1455273769745268, |
| "MRR@10": 0.11737539682539681, |
| "P@10": 0.0256, |
| "R@10": 0.2446666666666667, |
| "R@100": 0.50275, |
| "Hit@10": 0.251, |
| "Hit@100": 0.513, |
| "n_queries": 1000 |
| }, |
| { |
| "fold": 1, |
| "idf_power": 1.5, |
| "nDCG@10": 0.15793964660963974, |
| "MRR@10": 0.12712420634920632, |
| "P@10": 0.0273, |
| "R@10": 0.2631666666666666, |
| "R@100": 0.508, |
| "Hit@10": 0.269, |
| "Hit@100": 0.517, |
| "n_queries": 1000 |
| }, |
| { |
| "fold": 1, |
| "idf_power": 2.0, |
| "nDCG@10": 0.15727857961509883, |
| "MRR@10": 0.12691388888888888, |
| "P@10": 0.027, |
| "R@10": 0.2601666666666666, |
| "R@100": 0.513, |
| "Hit@10": 0.266, |
| "Hit@100": 0.522, |
| "n_queries": 1000 |
| }, |
| { |
| "fold": 1, |
| "idf_power": 2.5, |
| "nDCG@10": 0.15957292362150907, |
| "MRR@10": 0.12883333333333336, |
| "P@10": 0.027399999999999997, |
| "R@10": 0.2641666666666666, |
| "R@100": 0.512, |
| "Hit@10": 0.27, |
| "Hit@100": 0.521, |
| "n_queries": 1000 |
| }, |
| { |
| "fold": 1, |
| "idf_power": 3.0, |
| "nDCG@10": 0.15688386361415835, |
| "MRR@10": 0.1251154761904762, |
| "P@10": 0.0274, |
| "R@10": 0.2641666666666666, |
| "R@100": 0.51025, |
| "Hit@10": 0.27, |
| "Hit@100": 0.519, |
| "n_queries": 1000 |
| }, |
| { |
| "fold": 1, |
| "idf_power": 4.0, |
| "nDCG@10": 0.1541470749566293, |
| "MRR@10": 0.12206428571428572, |
| "P@10": 0.0274, |
| "R@10": 0.2636666666666666, |
| "R@100": 0.507, |
| "Hit@10": 0.27, |
| "Hit@100": 0.515, |
| "n_queries": 1000 |
| }, |
| { |
| "fold": 2, |
| "idf_power": 1.5, |
| "nDCG@10": 0.16468264643261105, |
| "MRR@10": 0.13510277777777777, |
| "P@10": 0.027899999999999998, |
| "R@10": 0.26583333333333337, |
| "R@100": 0.48783333333333334, |
| "Hit@10": 0.273, |
| "Hit@100": 0.499, |
| "n_queries": 1000 |
| }, |
| { |
| "fold": 2, |
| "idf_power": 2.0, |
| "nDCG@10": 0.16678654453573022, |
| "MRR@10": 0.13686309523809523, |
| "P@10": 0.028300000000000002, |
| "R@10": 0.26883333333333337, |
| "R@100": 0.4973333333333333, |
| "Hit@10": 0.276, |
| "Hit@100": 0.508, |
| "n_queries": 1000 |
| }, |
| { |
| "fold": 2, |
| "idf_power": 2.5, |
| "nDCG@10": 0.16688426571469495, |
| "MRR@10": 0.13734722222222223, |
| "P@10": 0.0282, |
| "R@10": 0.26783333333333337, |
| "R@100": 0.4963333333333333, |
| "Hit@10": 0.276, |
| "Hit@100": 0.508, |
| "n_queries": 1000 |
| }, |
| { |
| "fold": 2, |
| "idf_power": 3.0, |
| "nDCG@10": 0.1650631801705435, |
| "MRR@10": 0.13513095238095238, |
| "P@10": 0.0281, |
| "R@10": 0.26733333333333337, |
| "R@100": 0.4948333333333333, |
| "Hit@10": 0.275, |
| "Hit@100": 0.507, |
| "n_queries": 1000 |
| }, |
| { |
| "fold": 2, |
| "idf_power": 4.0, |
| "nDCG@10": 0.16155666404334096, |
| "MRR@10": 0.1317468253968254, |
| "P@10": 0.027700000000000002, |
| "R@10": 0.26333333333333336, |
| "R@100": 0.4908333333333333, |
| "Hit@10": 0.271, |
| "Hit@100": 0.503, |
| "n_queries": 1000 |
| }, |
| { |
| "fold": 3, |
| "idf_power": 1.5, |
| "nDCG@10": 0.15519858970514205, |
| "MRR@10": 0.12502936507936507, |
| "P@10": 0.0272, |
| "R@10": 0.25711666666666666, |
| "R@100": 0.4997666666666667, |
| "Hit@10": 0.264, |
| "Hit@100": 0.509, |
| "n_queries": 1000 |
| }, |
| { |
| "fold": 3, |
| "idf_power": 2.0, |
| "nDCG@10": 0.15330829026757606, |
| "MRR@10": 0.1216484126984127, |
| "P@10": 0.0273, |
| "R@10": 0.2592833333333333, |
| "R@100": 0.5062666666666668, |
| "Hit@10": 0.265, |
| "Hit@100": 0.515, |
| "n_queries": 1000 |
| }, |
| { |
| "fold": 3, |
| "idf_power": 2.5, |
| "nDCG@10": 0.1533452565325223, |
| "MRR@10": 0.12321230158730158, |
| "P@10": 0.027, |
| "R@10": 0.2567833333333333, |
| "R@100": 0.5092666666666668, |
| "Hit@10": 0.263, |
| "Hit@100": 0.517, |
| "n_queries": 1000 |
| }, |
| { |
| "fold": 3, |
| "idf_power": 3.0, |
| "nDCG@10": 0.15065081604946665, |
| "MRR@10": 0.12025039682539683, |
| "P@10": 0.0269, |
| "R@10": 0.2556166666666667, |
| "R@100": 0.5057666666666667, |
| "Hit@10": 0.263, |
| "Hit@100": 0.514, |
| "n_queries": 1000 |
| }, |
| { |
| "fold": 3, |
| "idf_power": 4.0, |
| "nDCG@10": 0.14724314902693336, |
| "MRR@10": 0.11852182539682539, |
| "P@10": 0.026, |
| "R@10": 0.24728333333333333, |
| "R@100": 0.49843333333333334, |
| "Hit@10": 0.254, |
| "Hit@100": 0.506, |
| "n_queries": 1000 |
| }, |
| { |
| "fold": 4, |
| "idf_power": 1.5, |
| "nDCG@10": 0.1656550358514105, |
| "MRR@10": 0.1309698412698413, |
| "P@10": 0.030199999999999998, |
| "R@10": 0.2865, |
| "R@100": 0.5130666666666666, |
| "Hit@10": 0.292, |
| "Hit@100": 0.522, |
| "n_queries": 1000 |
| }, |
| { |
| "fold": 4, |
| "idf_power": 2.0, |
| "nDCG@10": 0.1674609014331426, |
| "MRR@10": 0.13160277777777776, |
| "P@10": 0.0311, |
| "R@10": 0.29336666666666666, |
| "R@100": 0.5165666666666666, |
| "Hit@10": 0.301, |
| "Hit@100": 0.526, |
| "n_queries": 1000 |
| }, |
| { |
| "fold": 4, |
| "idf_power": 2.5, |
| "nDCG@10": 0.16609073209297986, |
| "MRR@10": 0.1303781746031746, |
| "P@10": 0.031, |
| "R@10": 0.29236666666666666, |
| "R@100": 0.5205666666666666, |
| "Hit@10": 0.3, |
| "Hit@100": 0.53, |
| "n_queries": 1000 |
| }, |
| { |
| "fold": 4, |
| "idf_power": 3.0, |
| "nDCG@10": 0.16450303567319122, |
| "MRR@10": 0.1298623015873016, |
| "P@10": 0.0305, |
| "R@10": 0.28836666666666666, |
| "R@100": 0.5175666666666666, |
| "Hit@10": 0.296, |
| "Hit@100": 0.528, |
| "n_queries": 1000 |
| }, |
| { |
| "fold": 4, |
| "idf_power": 4.0, |
| "nDCG@10": 0.15897607752399004, |
| "MRR@10": 0.1273503968253968, |
| "P@10": 0.0289, |
| "R@10": 0.2723666666666667, |
| "R@100": 0.5147333333333334, |
| "Hit@10": 0.28, |
| "Hit@100": 0.526, |
| "n_queries": 1000 |
| } |
| ], |
| "summary_ranked_for_robustness": [ |
| { |
| "idf_power": 2.5, |
| "mean_nDCG@10": 0.16017395146494076, |
| "mean_MRR@10": 0.12894515873015872, |
| "mean_R@100": 0.5088833333333334, |
| "mean_delta_nDCG_vs_p2": -6.100368512351739e-05, |
| "min_delta_nDCG_vs_p2": -0.0013701693401627357, |
| "positive_folds": 3, |
| "fold_deltas": [ |
| -0.0013638805357760464, |
| 0.002294344006410237, |
| 9.772117896472698e-05, |
| 3.696626494623101e-05, |
| -0.0013701693401627357 |
| ] |
| }, |
| { |
| "idf_power": 1.5, |
| "mean_nDCG@10": 0.15956669975754662, |
| "mean_MRR@10": 0.12844603174603172, |
| "mean_R@100": 0.5027833333333332, |
| "mean_delta_nDCG_vs_p2": -0.0006682553925176693, |
| "min_delta_nDCG_vs_p2": -0.002103898103119173, |
| "positive_folds": 2, |
| "fold_deltas": [ |
| -0.001982879709843982, |
| 0.0006610669945409098, |
| -0.002103898103119173, |
| 0.0018902994375659954, |
| -0.0018058655817320968 |
| ] |
| }, |
| { |
| "idf_power": 2.0, |
| "mean_nDCG@10": 0.16023495515006428, |
| "mean_MRR@10": 0.12873555555555555, |
| "mean_R@100": 0.5078833333333334, |
| "mean_delta_nDCG_vs_p2": 0.0, |
| "min_delta_nDCG_vs_p2": 0.0, |
| "positive_folds": 0, |
| "fold_deltas": [ |
| 0.0, |
| 0.0, |
| 0.0, |
| 0.0, |
| 0.0 |
| ] |
| }, |
| { |
| "idf_power": 3.0, |
| "mean_nDCG@10": 0.15804422475208452, |
| "mean_MRR@10": 0.12685238095238097, |
| "mean_R@100": 0.5064333333333333, |
| "mean_delta_nDCG_vs_p2": -0.0021907303979797456, |
| "min_delta_nDCG_vs_p2": -0.003220231645710725, |
| "positive_folds": 0, |
| "fold_deltas": [ |
| -0.003220231645710725, |
| -0.0003947160009404871, |
| -0.0017233643651867192, |
| -0.0026574742181094124, |
| -0.0029578657599513836 |
| ] |
| }, |
| { |
| "idf_power": 4.0, |
| "mean_nDCG@10": 0.1534900685050841, |
| "mean_MRR@10": 0.12341174603174603, |
| "mean_R@100": 0.50275, |
| "mean_delta_nDCG_vs_p2": -0.006744886644980181, |
| "min_delta_nDCG_vs_p2": -0.010813082924246847, |
| "positive_folds": 0, |
| "fold_deltas": [ |
| -0.010813082924246847, |
| -0.003131504658469536, |
| -0.0052298804923892606, |
| -0.006065141240642696, |
| -0.008484823909152561 |
| ] |
| } |
| ], |
| "timing": { |
| "median_ms": 38.77219350033556, |
| "p95_ms": 78.3975440470386, |
| "seconds": 222.92376685142517 |
| } |
| } |
