analysis/summary.json

{
 "schema": "five-seat-public-prompt-bandit-analysis-v1",
 "n_rows": 360,
 "selected_policy": "P0",
 "training_selection": {
  "stage1_ranking": [
   {
    "policy_id": "P3",
    "mean_normalized_primary": 0.9433041666666666,
    "n": 24
   },
   {
    "policy_id": "P0",
    "mean_normalized_primary": 0.9316166666666666,
    "n": 24
   },
   {
    "policy_id": "P2",
    "mean_normalized_primary": 0.9250458333333333,
    "n": 24
   },
   {
    "policy_id": "P1",
    "mean_normalized_primary": 0.9248708333333333,
    "n": 24
   }
  ],
  "stage1_top2": [
   "P3",
   "P0"
  ],
  "criterion": "mean normalized_primary; ties by policy_id",
  "finalist_ranking": [
   {
    "policy_id": "P0",
    "mean_normalized_primary": 0.9396645833333334,
    "n": 48
   },
   {
    "policy_id": "P3",
    "mean_normalized_primary": 0.9388354166666667,
    "n": 48
   }
  ],
  "selected_policy": "P0",
  "training_episode_count": 144,
  "locked_before_heldout": true
 },
 "arms": {
  "eval_baseline": {
   "normalized_primary": {
    "estimate": 0.9340074999999999,
    "ci_low": 0.9028314375000001,
    "ci_high": 0.9618378958333333,
    "n": 120,
    "n_instances": 24
   },
   "deal_rate": {
    "estimate": 0.9916666666666667,
    "ci_low": 0.975,
    "ci_high": 1.0,
    "n": 120,
    "n_instances": 24
   },
   "normalized_usw": {
    "estimate": 2.3901966666666667,
    "ci_low": 2.2440137708333334,
    "ci_high": 2.5353295416666666,
    "n": 120,
    "n_instances": 24
   },
   "gini": {
    "estimate": 0.27828416666666667,
    "ci_low": 0.247149,
    "ci_high": 0.31627570833333335,
    "n": 120,
    "n_instances": 24
   }
  },
  "eval_selected": {
   "normalized_primary": {
    "estimate": 0.9223116666666668,
    "ci_low": 0.8833764791666667,
    "ci_high": 0.9547082083333333,
    "n": 120,
    "n_instances": 24
   },
   "deal_rate": {
    "estimate": 0.9833333333333333,
    "ci_low": 0.9583333333333334,
    "ci_high": 1.0,
    "n": 120,
    "n_instances": 24
   },
   "normalized_usw": {
    "estimate": 2.362298333333333,
    "ci_low": 2.2046222083333333,
    "ci_high": 2.516517020833333,
    "n": 120,
    "n_instances": 24
   },
   "gini": {
    "estimate": 0.277665,
    "ci_low": 0.24393897916666668,
    "ci_high": 0.31744660416666665,
    "n": 120,
    "n_instances": 24
   }
  },
  "eval_oracle": {
   "normalized_primary": {
    "estimate": 0.79072,
    "ci_low": 0.7339753125,
    "ci_high": 0.8413129791666667,
    "n": 120,
    "n_instances": 24
   },
   "deal_rate": {
    "estimate": 0.875,
    "ci_low": 0.8166666666666667,
    "ci_high": 0.925,
    "n": 120,
    "n_instances": 24
   },
   "normalized_usw": {
    "estimate": 2.0273191666666666,
    "ci_low": 1.8434137916666666,
    "ci_high": 2.2167521458333335,
    "n": 120,
    "n_instances": 24
   },
   "gini": {
    "estimate": 0.30943916666666665,
    "ci_low": 0.28771800000000003,
    "ci_high": 0.33330258333333335,
    "n": 120,
    "n_instances": 24
   }
  }
 },
 "oracle_gap": {
  "selected_gain": {
   "estimate": -0.011695833333333332,
   "ci_low": -0.0375260625,
   "ci_high": 0.01288531249999999,
   "n": 120,
   "n_instances": 24
  },
  "initial_oracle_gap": {
   "estimate": -0.14328749999999998,
   "ci_low": -0.19684022916666666,
   "ci_high": -0.09025033333333336,
   "n": 120,
   "n_instances": 24
  },
  "remaining_oracle_gap": {
   "estimate": -0.13159166666666666,
   "ci_low": -0.190241125,
   "ci_high": -0.0734365,
   "n": 120,
   "n_instances": 24
  },
  "closure_fraction": {
   "estimate": null,
   "ci_low": null,
   "ci_high": null,
   "n": 120,
   "n_instances": 24
  }
 },
 "selected_complete_episode_cost_usd": 360.24136,
 "campaign_ledger_spend_usd": 645.2049600000001,
 "public_hard_cap_usd": 800.0,
 "bootstrap": {
  "samples": 10000,
  "seed": 20260804,
  "cluster": "parameter_set"
 },
 "plots": [
  "public_oracle_gap.png",
  "public_oracle_gap.pdf",
  "gap_closure_forest.png",
  "gap_closure_forest.pdf"
 ]
}