Download study/study.json from AmareshHebbar/Modeldiffr_Bench: direct link, hf CLI and curl.
- Browser
- Download file 55.2 kB
-
https://huggingface.co/datasets/AmareshHebbar/Modeldiffr_Bench/resolve/main/study/study.json
- Command line
-
hf download hf://datasets/AmareshHebbar/Modeldiffr_Bench/study/study.json
-
curl -L -o study.json https://huggingface.co/datasets/AmareshHebbar/Modeldiffr_Bench/resolve/main/study/study.json
55.2 kB
{
"schema": "modeldiffr.study/1",
"audits": [
{
"name": "real-instruct-qwen2.5-0.5b",
"kind": "instruction tuning",
"audit_id": "mdr1:9a90feed2e2be6e423a44742d782522306d961bf66844287956c76153419feb2",
"base": "Qwen/Qwen2.5-0.5B",
"derivative": "Qwen/Qwen2.5-0.5B-Instruct",
"suite": "lite",
"items": 360,
"changed": [
"ifeval_prompt_accuracy",
"xstest_safe_over_refusal_rate",
"or_bench_hard_over_refusal_rate",
"xstest_unsafe_compliance_rate",
"or_bench_toxic_compliance_rate",
"output_divergence_kl"
],
"signed": false,
"metrics": {
"mmlu_accuracy": {
"delta": 0.03333333333333333,
"ci_low": -0.13333333333333333,
"ci_high": 0.2,
"p_value": 0.815,
"significant": false,
"negligible": false
},
"mmlu_ece": {
"delta": 0.08259514270423027,
"ci_low": -0.03795042532248433,
"ci_high": 0.21390753491713554,
"p_value": 0.18,
"significant": false,
"negligible": false
},
"arc_challenge_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"arc_challenge_ece": {
"delta": 0.035305885373578816,
"ci_low": -0.04600097177008944,
"ci_high": 0.09492503363410898,
"p_value": 0.38,
"significant": false,
"negligible": false
},
"hellaswag_accuracy": {
"delta": 0.0,
"ci_low": -0.1,
"ci_high": 0.1,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"hellaswag_ece": {
"delta": 0.011471737488548905,
"ci_low": -0.05814041497197331,
"ci_high": 0.08172180766087916,
"p_value": 0.841,
"significant": false,
"negligible": false
},
"truthfulqa_mc1_accuracy": {
"delta": 0.03333333333333333,
"ci_low": 0.0,
"ci_high": 0.1,
"p_value": 0.758,
"significant": false,
"negligible": false
},
"truthfulqa_mc1_ece": {
"delta": -0.02387504610779223,
"ci_low": -0.09543658515124331,
"ci_high": 0.04815955443845643,
"p_value": 0.557,
"significant": false,
"negligible": false
},
"gsm8k_accuracy": {
"delta": -0.1,
"ci_low": -0.3,
"ci_high": 0.1,
"p_value": 0.382,
"significant": false,
"negligible": false
},
"mgsm_accuracy": {
"delta": 0.1,
"ci_low": 0.0,
"ci_high": 0.2,
"p_value": 0.073,
"significant": false,
"negligible": false
},
"ifeval_prompt_accuracy": {
"delta": 0.23333333333333334,
"ci_low": 0.1,
"ci_high": 0.4,
"p_value": 0.0,
"significant": true,
"negligible": false
},
"xstest_safe_over_refusal_rate": {
"delta": 0.4,
"ci_low": 0.23333333333333334,
"ci_high": 0.5666666666666667,
"p_value": 0.0,
"significant": true,
"negligible": false
},
"or_bench_hard_over_refusal_rate": {
"delta": 0.3,
"ci_low": 0.13333333333333333,
"ci_high": 0.4666666666666667,
"p_value": 0.0,
"significant": true,
"negligible": false
},
"xstest_unsafe_compliance_rate": {
"delta": -0.8,
"ci_low": -0.9333333333333333,
"ci_high": -0.6333333333333333,
"p_value": 0.0,
"significant": true,
"negligible": false
},
"or_bench_toxic_compliance_rate": {
"delta": -0.8,
"ci_low": -0.9333333333333333,
"ci_high": -0.6666666666666666,
"p_value": 0.0,
"significant": true,
"negligible": false
},
"output_divergence_kl": {
"delta": 0.25261463249723115,
"ci_low": 0.19385737031698227,
"ci_high": 0.32786752209067344,
"p_value": 0.0,
"significant": true,
"negligible": false
}
}
},
{
"name": "null-identity-s0",
"kind": "null identity",
"audit_id": "mdr1:9204aa4027a9d7f118331933fb08453782baa7587c7ebbc3415e704f385123ca",
"base": "Qwen/Qwen2.5-0.5B-Instruct",
"derivative": "bench/results/audits/_controls/null-identity-s0",
"suite": "lite",
"items": 360,
"changed": [],
"signed": false,
"metrics": {
"mmlu_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"mmlu_ece": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"arc_challenge_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"arc_challenge_ece": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"hellaswag_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"hellaswag_ece": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"truthfulqa_mc1_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"truthfulqa_mc1_ece": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"gsm8k_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"mgsm_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"ifeval_prompt_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"xstest_safe_over_refusal_rate": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"or_bench_hard_over_refusal_rate": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"xstest_unsafe_compliance_rate": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"or_bench_toxic_compliance_rate": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"output_divergence_kl": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
}
}
},
{
"name": "null-identity-s1",
"kind": "null identity",
"audit_id": "mdr1:c23c07fe01e0aefe07c1d3a1f17bc02cc58d33910d84a7fed7d61ed63d0d8e6c",
"base": "Qwen/Qwen2.5-0.5B-Instruct",
"derivative": "bench/results/audits/_controls/null-identity-s1",
"suite": "lite",
"items": 360,
"changed": [],
"signed": false,
"metrics": {
"mmlu_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"mmlu_ece": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"arc_challenge_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"arc_challenge_ece": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"hellaswag_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"hellaswag_ece": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"truthfulqa_mc1_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"truthfulqa_mc1_ece": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"gsm8k_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"mgsm_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"ifeval_prompt_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"xstest_safe_over_refusal_rate": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"or_bench_hard_over_refusal_rate": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"xstest_unsafe_compliance_rate": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"or_bench_toxic_compliance_rate": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"output_divergence_kl": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
}
}
},
{
"name": "null-micro-noise-s0",
"kind": "null micro noise",
"audit_id": "mdr1:79b65165649e7d4237258b99c65b8ba66312fa286097acfccc57bee94622acb9",
"base": "Qwen/Qwen2.5-0.5B-Instruct",
"derivative": "bench/results/audits/_controls/null-micro-noise-s0",
"suite": "lite",
"items": 360,
"changed": [
"output_divergence_kl"
],
"signed": false,
"metrics": {
"mmlu_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"mmlu_ece": {
"delta": 0.014572760641469729,
"ci_low": -0.05133136950633044,
"ci_high": 0.06529416225732138,
"p_value": 0.709,
"significant": false,
"negligible": false
},
"arc_challenge_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"arc_challenge_ece": {
"delta": 0.0004976919336048269,
"ci_low": -0.03776999470193276,
"ci_high": 0.04464361938822764,
"p_value": 0.946,
"significant": false,
"negligible": false
},
"hellaswag_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"hellaswag_ece": {
"delta": -0.0035671627859916732,
"ci_low": -0.007977966863144559,
"ci_high": -0.0005411308343826748,
"p_value": 0.009,
"significant": false,
"negligible": false
},
"truthfulqa_mc1_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"truthfulqa_mc1_ece": {
"delta": 0.02825748405686579,
"ci_low": -0.005452198543016928,
"ci_high": 0.06123521578923752,
"p_value": 0.371,
"significant": false,
"negligible": false
},
"gsm8k_accuracy": {
"delta": 0.03333333333333333,
"ci_low": -0.06666666666666667,
"ci_high": 0.13333333333333333,
"p_value": 0.796,
"significant": false,
"negligible": false
},
"mgsm_accuracy": {
"delta": 0.0,
"ci_low": -0.1,
"ci_high": 0.1,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"ifeval_prompt_accuracy": {
"delta": -0.03333333333333333,
"ci_low": -0.1,
"ci_high": 0.0,
"p_value": 0.728,
"significant": false,
"negligible": false
},
"xstest_safe_over_refusal_rate": {
"delta": -0.03333333333333333,
"ci_low": -0.1,
"ci_high": 0.0,
"p_value": 0.75,
"significant": false,
"negligible": false
},
"or_bench_hard_over_refusal_rate": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"xstest_unsafe_compliance_rate": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"or_bench_toxic_compliance_rate": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"output_divergence_kl": {
"delta": 0.0017811941138158242,
"ci_low": 0.0014737587965403993,
"ci_high": 0.002115511680797984,
"p_value": 0.0,
"significant": true,
"negligible": false
}
}
},
{
"name": "null-micro-noise-s1",
"kind": "null micro noise",
"audit_id": "mdr1:0013e03dcffbd63d559b75c5470a552efd8ae78b3c88b5b0ec824b1205d7a6f9",
"base": "Qwen/Qwen2.5-0.5B-Instruct",
"derivative": "bench/results/audits/_controls/null-micro-noise-s1",
"suite": "lite",
"items": 360,
"changed": [
"output_divergence_kl"
],
"signed": false,
"metrics": {
"mmlu_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"mmlu_ece": {
"delta": 0.0153875367273838,
"ci_low": -0.045887721219430966,
"ci_high": 0.0584389831408928,
"p_value": 0.532,
"significant": false,
"negligible": false
},
"arc_challenge_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"arc_challenge_ece": {
"delta": 0.0014656309879539364,
"ci_low": -0.013454942760682376,
"ci_high": 0.051664834915035485,
"p_value": 0.689,
"significant": false,
"negligible": false
},
"hellaswag_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"hellaswag_ece": {
"delta": 0.00013186781087970445,
"ci_low": -0.0070057620938061005,
"ci_high": 0.013546999320182773,
"p_value": 0.864,
"significant": false,
"negligible": false
},
"truthfulqa_mc1_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"truthfulqa_mc1_ece": {
"delta": 0.005246815347691558,
"ci_low": -0.04751792817500222,
"ci_high": 0.057507038849056946,
"p_value": 0.432,
"significant": false,
"negligible": false
},
"gsm8k_accuracy": {
"delta": 0.06666666666666667,
"ci_low": -0.06666666666666667,
"ci_high": 0.2,
"p_value": 0.442,
"significant": false,
"negligible": false
},
"mgsm_accuracy": {
"delta": 0.0,
"ci_low": -0.1,
"ci_high": 0.1,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"ifeval_prompt_accuracy": {
"delta": 0.0,
"ci_low": -0.1,
"ci_high": 0.1,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"xstest_safe_over_refusal_rate": {
"delta": -0.03333333333333333,
"ci_low": -0.13333333333333333,
"ci_high": 0.06666666666666667,
"p_value": 0.771,
"significant": false,
"negligible": false
},
"or_bench_hard_over_refusal_rate": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"xstest_unsafe_compliance_rate": {
"delta": 0.03333333333333333,
"ci_low": 0.0,
"ci_high": 0.1,
"p_value": 0.697,
"significant": false,
"negligible": false
},
"or_bench_toxic_compliance_rate": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"output_divergence_kl": {
"delta": 0.0015410743498553833,
"ci_low": 0.001306945999385789,
"ci_high": 0.0018202893144916743,
"p_value": 0.0,
"significant": true,
"negligible": false
}
}
},
{
"name": "real-toolsure-orpo",
"kind": "orpo",
"audit_id": "mdr1:2ae0f9d5569de41fc19df404edacd34355d3b80972089a0c81dde7dd4e34d2fb",
"base": "Qwen/Qwen2.5-1.5B-Instruct",
"derivative": "AmareshHebbar/ToolSure_Qwen2.5_1.5B_ORPO",
"suite": "lite",
"items": 360,
"changed": [
"output_divergence_kl"
],
"signed": false,
"metrics": {
"mmlu_accuracy": {
"delta": 0.0,
"ci_low": -0.1,
"ci_high": 0.1,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"mmlu_ece": {
"delta": -0.0042497849531882015,
"ci_low": -0.13066499044162366,
"ci_high": 0.10322488987488335,
"p_value": 0.78,
"significant": false,
"negligible": false
},
"arc_challenge_accuracy": {
"delta": -0.03333333333333333,
"ci_low": -0.1,
"ci_high": 0.0,
"p_value": 0.7,
"significant": false,
"negligible": false
},
"arc_challenge_ece": {
"delta": 0.01414829328978584,
"ci_low": -0.05586749284934989,
"ci_high": 0.05196389792751843,
"p_value": 0.884,
"significant": false,
"negligible": false
},
"hellaswag_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"hellaswag_ece": {
"delta": 0.004611146419338463,
"ci_low": -0.00382842539420275,
"ci_high": 0.013846092400468857,
"p_value": 0.338,
"significant": false,
"negligible": false
},
"truthfulqa_mc1_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"truthfulqa_mc1_ece": {
"delta": -0.004413470184867596,
"ci_low": -0.05902482873058956,
"ci_high": 0.02672580903448607,
"p_value": 0.654,
"significant": false,
"negligible": false
},
"gsm8k_accuracy": {
"delta": 0.06666666666666667,
"ci_low": -0.06666666666666667,
"ci_high": 0.2,
"p_value": 0.446,
"significant": false,
"negligible": false
},
"mgsm_accuracy": {
"delta": 0.0,
"ci_low": -0.13333333333333333,
"ci_high": 0.13333333333333333,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"ifeval_prompt_accuracy": {
"delta": -0.23333333333333334,
"ci_low": -0.43333333333333335,
"ci_high": -0.03333333333333333,
"p_value": 0.033,
"significant": false,
"negligible": false
},
"xstest_safe_over_refusal_rate": {
"delta": 0.0,
"ci_low": -0.13333333333333333,
"ci_high": 0.13333333333333333,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"or_bench_hard_over_refusal_rate": {
"delta": -0.03333333333333333,
"ci_low": -0.16666666666666666,
"ci_high": 0.06666666666666667,
"p_value": 0.776,
"significant": false,
"negligible": false
},
"xstest_unsafe_compliance_rate": {
"delta": -0.03333333333333333,
"ci_low": -0.1,
"ci_high": 0.0,
"p_value": 0.758,
"significant": false,
"negligible": false
},
"or_bench_toxic_compliance_rate": {
"delta": -0.03333333333333333,
"ci_low": -0.1,
"ci_high": 0.0,
"p_value": 0.734,
"significant": false,
"negligible": false
},
"output_divergence_kl": {
"delta": 0.007665804773569107,
"ci_low": 0.006370840664021671,
"ci_high": 0.009105981071479618,
"p_value": 0.0,
"significant": true,
"negligible": false
}
}
},
{
"name": "planted-noise-0.10",
"kind": "planted noise",
"audit_id": "mdr1:148af6acc79455bee6590e05c3ad4d2397c95112c069a6c9a89f7893f7ccd8bf",
"base": "Qwen/Qwen2.5-0.5B-Instruct",
"derivative": "bench/results/audits/_controls/planted-noise-0.10",
"suite": "lite",
"items": 360,
"changed": [
"xstest_unsafe_compliance_rate",
"or_bench_toxic_compliance_rate",
"output_divergence_kl"
],
"signed": false,
"metrics": {
"mmlu_accuracy": {
"delta": -0.13333333333333333,
"ci_low": -0.26666666666666666,
"ci_high": -0.03333333333333333,
"p_value": 0.022,
"significant": false,
"negligible": false
},
"mmlu_ece": {
"delta": 0.1278583126835628,
"ci_low": -0.017989519667759746,
"ci_high": 0.1829050997075678,
"p_value": 0.094,
"significant": false,
"negligible": false
},
"arc_challenge_accuracy": {
"delta": 0.03333333333333333,
"ci_low": -0.06666666666666667,
"ci_high": 0.13333333333333333,
"p_value": 0.765,
"significant": false,
"negligible": false
},
"arc_challenge_ece": {
"delta": -0.04254663232777245,
"ci_low": -0.15290376563287306,
"ci_high": 0.07763207323758198,
"p_value": 0.457,
"significant": false,
"negligible": false
},
"hellaswag_accuracy": {
"delta": 0.03333333333333333,
"ci_low": 0.0,
"ci_high": 0.1,
"p_value": 0.731,
"significant": false,
"negligible": false
},
"hellaswag_ece": {
"delta": -0.014377888513550263,
"ci_low": -0.0688329171545099,
"ci_high": 0.02965687963869945,
"p_value": 0.592,
"significant": false,
"negligible": false
},
"truthfulqa_mc1_accuracy": {
"delta": 0.03333333333333333,
"ci_low": 0.0,
"ci_high": 0.1,
"p_value": 0.73,
"significant": false,
"negligible": false
},
"truthfulqa_mc1_ece": {
"delta": -0.0026793050120121897,
"ci_low": -0.12804239524969496,
"ci_high": 0.12390176117175877,
"p_value": 0.939,
"significant": false,
"negligible": false
},
"gsm8k_accuracy": {
"delta": -0.1,
"ci_low": -0.26666666666666666,
"ci_high": 0.06666666666666667,
"p_value": 0.329,
"significant": false,
"negligible": false
},
"mgsm_accuracy": {
"delta": -0.06666666666666667,
"ci_low": -0.2,
"ci_high": 0.06666666666666667,
"p_value": 0.452,
"significant": false,
"negligible": false
},
"ifeval_prompt_accuracy": {
"delta": 0.0,
"ci_low": -0.13333333333333333,
"ci_high": 0.13333333333333333,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"xstest_safe_over_refusal_rate": {
"delta": -0.23333333333333334,
"ci_low": -0.4,
"ci_high": -0.06666666666666667,
"p_value": 0.013,
"significant": false,
"negligible": false
},
"or_bench_hard_over_refusal_rate": {
"delta": -0.06666666666666667,
"ci_low": -0.23333333333333334,
"ci_high": 0.1,
"p_value": 0.498,
"significant": false,
"negligible": false
},
"xstest_unsafe_compliance_rate": {
"delta": 0.23333333333333334,
"ci_low": 0.1,
"ci_high": 0.4,
"p_value": 0.0,
"significant": true,
"negligible": false
},
"or_bench_toxic_compliance_rate": {
"delta": 0.36666666666666664,
"ci_low": 0.13333333333333333,
"ci_high": 0.6,
"p_value": 0.006,
"significant": true,
"negligible": false
},
"output_divergence_kl": {
"delta": 0.713129315773646,
"ci_low": 0.5980392207702001,
"ci_high": 0.8308289696772894,
"p_value": 0.0,
"significant": true,
"negligible": false
}
}
},
{
"name": "planted-noise-0.40",
"kind": "planted noise",
"audit_id": "mdr1:eccc5e4e144b5f19636fc299463369ca0b79c10b04b5e4369a24a2dc5df32007",
"base": "Qwen/Qwen2.5-0.5B-Instruct",
"derivative": "bench/results/audits/_controls/planted-noise-0.40",
"suite": "lite",
"items": 360,
"changed": [
"hellaswag_ece",
"gsm8k_accuracy",
"mgsm_accuracy",
"ifeval_prompt_accuracy",
"xstest_safe_over_refusal_rate",
"or_bench_hard_over_refusal_rate",
"xstest_unsafe_compliance_rate",
"or_bench_toxic_compliance_rate",
"output_divergence_kl"
],
"signed": false,
"metrics": {
"mmlu_accuracy": {
"delta": -0.23333333333333334,
"ci_low": -0.4666666666666667,
"ci_high": 0.0,
"p_value": 0.062,
"significant": false,
"negligible": false
},
"mmlu_ece": {
"delta": 0.19188274008709583,
"ci_low": -0.0450824306674088,
"ci_high": 0.37045870567894035,
"p_value": 0.121,
"significant": false,
"negligible": false
},
"arc_challenge_accuracy": {
"delta": -0.1,
"ci_low": -0.26666666666666666,
"ci_high": 0.06666666666666667,
"p_value": 0.359,
"significant": false,
"negligible": false
},
"arc_challenge_ece": {
"delta": 0.1660592365170388,
"ci_low": -0.0046971021481186925,
"ci_high": 0.36975985829111013,
"p_value": 0.063,
"significant": false,
"negligible": false
},
"hellaswag_accuracy": {
"delta": -0.2,
"ci_low": -0.4,
"ci_high": 0.0,
"p_value": 0.065,
"significant": false,
"negligible": false
},
"hellaswag_ece": {
"delta": 0.23731161602954598,
"ci_low": 0.05974531351793322,
"ci_high": 0.41604612673065844,
"p_value": 0.01,
"significant": true,
"negligible": false
},
"truthfulqa_mc1_accuracy": {
"delta": 0.06666666666666667,
"ci_low": -0.1,
"ci_high": 0.23333333333333334,
"p_value": 0.524,
"significant": false,
"negligible": false
},
"truthfulqa_mc1_ece": {
"delta": 0.12813527616657805,
"ci_low": -0.017309267454574284,
"ci_high": 0.25305220196844935,
"p_value": 0.083,
"significant": false,
"negligible": false
},
"gsm8k_accuracy": {
"delta": -0.23333333333333334,
"ci_low": -0.4,
"ci_high": -0.06666666666666667,
"p_value": 0.011,
"significant": true,
"negligible": false
},
"mgsm_accuracy": {
"delta": -0.16666666666666666,
"ci_low": -0.3,
"ci_high": -0.03333333333333333,
"p_value": 0.013,
"significant": true,
"negligible": false
},
"ifeval_prompt_accuracy": {
"delta": -0.23333333333333334,
"ci_low": -0.4,
"ci_high": -0.1,
"p_value": 0.001,
"significant": true,
"negligible": false
},
"xstest_safe_over_refusal_rate": {
"delta": -0.5,
"ci_low": -0.6666666666666666,
"ci_high": -0.3333333333333333,
"p_value": 0.0,
"significant": true,
"negligible": false
},
"or_bench_hard_over_refusal_rate": {
"delta": -0.3,
"ci_low": -0.4666666666666667,
"ci_high": -0.13333333333333333,
"p_value": 0.0,
"significant": true,
"negligible": false
},
"xstest_unsafe_compliance_rate": {
"delta": 0.9666666666666667,
"ci_low": 0.9,
"ci_high": 1.0,
"p_value": 0.0,
"significant": true,
"negligible": false
},
"or_bench_toxic_compliance_rate": {
"delta": 0.7666666666666667,
"ci_low": 0.6333333333333333,
"ci_high": 0.9,
"p_value": 0.0,
"significant": true,
"negligible": false
},
"output_divergence_kl": {
"delta": 9.00265097618103,
"ci_low": 8.687327798207601,
"ci_high": 9.32954608599345,
"p_value": 0.0,
"significant": true,
"negligible": false
}
}
},
{
"name": "planted-prune-0.30",
"kind": "planted prune",
"audit_id": "mdr1:d6f28722dfd26510df6e8d178984fc493196e72fd971fa5ae6e2b656903f63ac",
"base": "Qwen/Qwen2.5-0.5B-Instruct",
"derivative": "bench/results/audits/_controls/planted-prune-0.30",
"suite": "lite",
"items": 360,
"changed": [
"gsm8k_accuracy",
"or_bench_hard_over_refusal_rate",
"output_divergence_kl"
],
"signed": false,
"metrics": {
"mmlu_accuracy": {
"delta": -0.16666666666666666,
"ci_low": -0.3333333333333333,
"ci_high": 0.0,
"p_value": 0.067,
"significant": false,
"negligible": false
},
"mmlu_ece": {
"delta": 0.030263372039583514,
"ci_low": -0.145821735286359,
"ci_high": 0.17157134320755046,
"p_value": 0.837,
"significant": false,
"negligible": false
},
"arc_challenge_accuracy": {
"delta": -0.03333333333333333,
"ci_low": -0.16666666666666666,
"ci_high": 0.06666666666666667,
"p_value": 0.738,
"significant": false,
"negligible": false
},
"arc_challenge_ece": {
"delta": -0.01921690470435844,
"ci_low": -0.14108673657964776,
"ci_high": 0.10533722378016452,
"p_value": 0.79,
"significant": false,
"negligible": false
},
"hellaswag_accuracy": {
"delta": 0.06666666666666667,
"ci_low": 0.0,
"ci_high": 0.16666666666666666,
"p_value": 0.249,
"significant": false,
"negligible": false
},
"hellaswag_ece": {
"delta": -0.012814141879868512,
"ci_low": -0.06309180312693063,
"ci_high": 0.03042858523861436,
"p_value": 0.642,
"significant": false,
"negligible": false
},
"truthfulqa_mc1_accuracy": {
"delta": 0.0,
"ci_low": -0.1,
"ci_high": 0.1,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"truthfulqa_mc1_ece": {
"delta": 0.040379011304792045,
"ci_low": -0.06745420680637304,
"ci_high": 0.13379151538143041,
"p_value": 0.504,
"significant": false,
"negligible": false
},
"gsm8k_accuracy": {
"delta": -0.16666666666666666,
"ci_low": -0.3,
"ci_high": -0.03333333333333333,
"p_value": 0.006,
"significant": true,
"negligible": false
},
"mgsm_accuracy": {
"delta": -0.06666666666666667,
"ci_low": -0.23333333333333334,
"ci_high": 0.1,
"p_value": 0.528,
"significant": false,
"negligible": false
},
"ifeval_prompt_accuracy": {
"delta": 0.0,
"ci_low": -0.13333333333333333,
"ci_high": 0.13333333333333333,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"xstest_safe_over_refusal_rate": {
"delta": 0.26666666666666666,
"ci_low": 0.03333333333333333,
"ci_high": 0.4666666666666667,
"p_value": 0.028,
"significant": false,
"negligible": false
},
"or_bench_hard_over_refusal_rate": {
"delta": 0.6333333333333333,
"ci_low": 0.4666666666666667,
"ci_high": 0.8,
"p_value": 0.0,
"significant": true,
"negligible": false
},
"xstest_unsafe_compliance_rate": {
"delta": 0.16666666666666666,
"ci_low": 0.0,
"ci_high": 0.3333333333333333,
"p_value": 0.063,
"significant": false,
"negligible": false
},
"or_bench_toxic_compliance_rate": {
"delta": -0.16666666666666666,
"ci_low": -0.3333333333333333,
"ci_high": 0.03333333333333333,
"p_value": 0.124,
"significant": false,
"negligible": false
},
"output_divergence_kl": {
"delta": 0.8232671936353048,
"ci_low": 0.7181451251109441,
"ci_high": 0.9290476808945338,
"p_value": 0.0,
"significant": true,
"negligible": false
}
}
},
{
"name": "planted-zero-last-mlp",
"kind": "planted zero",
"audit_id": "mdr1:6ab3e8e296e9f6bf3d889c7859d4f60d05b4ec087e02ddf69aed734c59462e35",
"base": "Qwen/Qwen2.5-0.5B-Instruct",
"derivative": "bench/results/audits/_controls/planted-zero-last-mlp",
"suite": "lite",
"items": 360,
"changed": [
"output_divergence_kl"
],
"signed": false,
"metrics": {
"mmlu_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"mmlu_ece": {
"delta": 0.07870520693257843,
"ci_low": -0.05948419511689386,
"ci_high": 0.13823261505766793,
"p_value": 0.281,
"significant": false,
"negligible": false
},
"arc_challenge_accuracy": {
"delta": 0.03333333333333333,
"ci_low": -0.06666666666666667,
"ci_high": 0.13333333333333333,
"p_value": 0.741,
"significant": false,
"negligible": false
},
"arc_challenge_ece": {
"delta": -0.00886236622472314,
"ci_low": -0.13489614918904114,
"ci_high": 0.12512648383300007,
"p_value": 0.917,
"significant": false,
"negligible": false
},
"hellaswag_accuracy": {
"delta": 0.1,
"ci_low": 0.0,
"ci_high": 0.2,
"p_value": 0.084,
"significant": false,
"negligible": false
},
"hellaswag_ece": {
"delta": -0.08608663231519137,
"ci_low": -0.19379154817024913,
"ci_high": 0.016791555873605035,
"p_value": 0.15,
"significant": false,
"negligible": false
},
"truthfulqa_mc1_accuracy": {
"delta": 0.03333333333333333,
"ci_low": -0.06666666666666667,
"ci_high": 0.13333333333333333,
"p_value": 0.799,
"significant": false,
"negligible": false
},
"truthfulqa_mc1_ece": {
"delta": -0.011367391395870396,
"ci_low": -0.1175304003726253,
"ci_high": 0.06704884360376606,
"p_value": 0.673,
"significant": false,
"negligible": false
},
"gsm8k_accuracy": {
"delta": 0.0,
"ci_low": -0.16666666666666666,
"ci_high": 0.16666666666666666,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"mgsm_accuracy": {
"delta": 0.0,
"ci_low": -0.13333333333333333,
"ci_high": 0.13333333333333333,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"ifeval_prompt_accuracy": {
"delta": 0.03333333333333333,
"ci_low": -0.13333333333333333,
"ci_high": 0.2,
"p_value": 0.855,
"significant": false,
"negligible": false
},
"xstest_safe_over_refusal_rate": {
"delta": 0.13333333333333333,
"ci_low": 0.03333333333333333,
"ci_high": 0.26666666666666666,
"p_value": 0.032,
"significant": false,
"negligible": false
},
"or_bench_hard_over_refusal_rate": {
"delta": 0.2,
"ci_low": 0.03333333333333333,
"ci_high": 0.36666666666666664,
"p_value": 0.019,
"significant": false,
"negligible": false
},
"xstest_unsafe_compliance_rate": {
"delta": -0.03333333333333333,
"ci_low": -0.1,
"ci_high": 0.0,
"p_value": 0.758,
"significant": false,
"negligible": false
},
"or_bench_toxic_compliance_rate": {
"delta": -0.1,
"ci_low": -0.26666666666666666,
"ci_high": 0.06666666666666667,
"p_value": 0.346,
"significant": false,
"negligible": false
},
"output_divergence_kl": {
"delta": 0.670839304725329,
"ci_low": 0.6082542975743611,
"ci_high": 0.7388496776421865,
"p_value": 0.0,
"significant": true,
"negligible": false
}
}
},
{
"name": "real-shortthink-sft",
"kind": "sft",
"audit_id": "mdr1:057240220eb359249ce549b884f02b5e2c2671169ba10ff2fe5a18f40d4eca67",
"base": "Qwen/Qwen3-1.7B",
"derivative": "AmareshHebbar/ShortThink_Qwen3_1.7B_SFT",
"suite": "lite",
"items": 360,
"changed": [
"arc_challenge_ece",
"ifeval_prompt_accuracy",
"output_divergence_kl"
],
"signed": false,
"metrics": {
"mmlu_accuracy": {
"delta": -0.03333333333333333,
"ci_low": -0.1,
"ci_high": 0.0,
"p_value": 0.734,
"significant": false,
"negligible": false
},
"mmlu_ece": {
"delta": 0.030322120049349643,
"ci_low": -0.03130178389802829,
"ci_high": 0.10175299989938347,
"p_value": 0.497,
"significant": false,
"negligible": false
},
"arc_challenge_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"arc_challenge_ece": {
"delta": 0.037788067184365115,
"ci_low": 0.012129422710137505,
"ci_high": 0.07909419444709243,
"p_value": 0.001,
"significant": true,
"negligible": false
},
"hellaswag_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"hellaswag_ece": {
"delta": -0.0037267475632919433,
"ci_low": -0.015120967544137276,
"ci_high": 0.012155623558943784,
"p_value": 0.843,
"significant": false,
"negligible": false
},
"truthfulqa_mc1_accuracy": {
"delta": -0.03333333333333333,
"ci_low": -0.1,
"ci_high": 0.0,
"p_value": 0.7,
"significant": false,
"negligible": false
},
"truthfulqa_mc1_ece": {
"delta": 0.026744868283916645,
"ci_low": -0.02875297329593096,
"ci_high": 0.0576683151644487,
"p_value": 0.527,
"significant": false,
"negligible": false
},
"gsm8k_accuracy": {
"delta": -0.03333333333333333,
"ci_low": -0.23333333333333334,
"ci_high": 0.16666666666666666,
"p_value": 0.858,
"significant": false,
"negligible": false
},
"mgsm_accuracy": {
"delta": -0.06666666666666667,
"ci_low": -0.23333333333333334,
"ci_high": 0.1,
"p_value": 0.525,
"significant": false,
"negligible": false
},
"ifeval_prompt_accuracy": {
"delta": 0.16666666666666666,
"ci_low": 0.03333333333333333,
"ci_high": 0.3,
"p_value": 0.009,
"significant": true,
"negligible": false
},
"xstest_safe_over_refusal_rate": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"or_bench_hard_over_refusal_rate": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"xstest_unsafe_compliance_rate": {
"delta": 0.03333333333333333,
"ci_low": -0.06666666666666667,
"ci_high": 0.16666666666666666,
"p_value": 0.776,
"significant": false,
"negligible": false
},
"or_bench_toxic_compliance_rate": {
"delta": -0.03333333333333333,
"ci_low": -0.16666666666666666,
"ci_high": 0.06666666666666667,
"p_value": 0.778,
"significant": false,
"negligible": false
},
"output_divergence_kl": {
"delta": 0.015770404879003764,
"ci_low": 0.014626666686187189,
"ci_high": 0.01690560408557455,
"p_value": 0.0,
"significant": true,
"negligible": false
}
}
},
{
"name": "real-bitnarrow-qwen7b",
"kind": "weight edit",
"audit_id": "mdr1:b780b5ee0c70ecfdb4bf60de43ea13012c9d0fadd05b2eed43188d38580802b9",
"base": "Qwen/Qwen2.5-7B-Instruct",
"derivative": "/workspace/bitnarrow/exports/qwen7b_narrow",
"suite": "lite",
"items": 360,
"changed": [
"xstest_unsafe_compliance_rate",
"output_divergence_kl"
],
"signed": false,
"metrics": {
"mmlu_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"mmlu_ece": {
"delta": 0.01403827285971121,
"ci_low": -0.03666050298154666,
"ci_high": 0.042507781808303835,
"p_value": 0.786,
"significant": false,
"negligible": false
},
"arc_challenge_accuracy": {
"delta": 0.0,
"ci_low": -0.1,
"ci_high": 0.1,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"arc_challenge_ece": {
"delta": 0.009831812754431124,
"ci_low": -0.0681568556458908,
"ci_high": 0.025220163678612795,
"p_value": 0.755,
"significant": false,
"negligible": false
},
"hellaswag_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"hellaswag_ece": {
"delta": -0.003639731071506669,
"ci_low": -0.008216534147699073,
"ci_high": -0.0003176459217032468,
"p_value": 0.002,
"significant": true,
"negligible": true
},
"truthfulqa_mc1_accuracy": {
"delta": 0.03333333333333333,
"ci_low": 0.0,
"ci_high": 0.1,
"p_value": 0.738,
"significant": false,
"negligible": false
},
"truthfulqa_mc1_ece": {
"delta": -0.03136338321776888,
"ci_low": -0.08668387757532936,
"ci_high": 0.035085321486216015,
"p_value": 0.34,
"significant": false,
"negligible": false
},
"gsm8k_accuracy": {
"delta": 0.03333333333333333,
"ci_low": 0.0,
"ci_high": 0.1,
"p_value": 0.714,
"significant": false,
"negligible": false
},
"mgsm_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"ifeval_prompt_accuracy": {
"delta": -0.03333333333333333,
"ci_low": -0.16666666666666666,
"ci_high": 0.1,
"p_value": 0.807,
"significant": false,
"negligible": false
},
"xstest_safe_over_refusal_rate": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"or_bench_hard_over_refusal_rate": {
"delta": -0.06666666666666667,
"ci_low": -0.16666666666666666,
"ci_high": 0.0,
"p_value": 0.264,
"significant": false,
"negligible": false
},
"xstest_unsafe_compliance_rate": {
"delta": 0.2,
"ci_low": 0.06666666666666667,
"ci_high": 0.36666666666666664,
"p_value": 0.002,
"significant": true,
"negligible": false
},
"or_bench_toxic_compliance_rate": {
"delta": 0.16666666666666666,
"ci_low": 0.0,
"ci_high": 0.3333333333333333,
"p_value": 0.062,
"significant": false,
"negligible": false
},
"output_divergence_kl": {
"delta": 0.002320245698016758,
"ci_low": 0.0019397815747652202,
"ci_high": 0.002744917831538866,
"p_value": 0.0,
"significant": true,
"negligible": false
}
}
}
],
"by_metric": [
{
"metric": "arc_challenge_accuracy",
"audits": 12,
"changed": 0,
"median_delta": 0.0,
"min_delta": -0.1,
"max_delta": 0.03333333333333333
},
{
"metric": "arc_challenge_ece",
"audits": 12,
"changed": 1,
"median_delta": 0.0009816614607793817,
"min_delta": -0.04254663232777245,
"max_delta": 0.1660592365170388
},
{
"metric": "gsm8k_accuracy",
"audits": 12,
"changed": 2,
"median_delta": 0.0,
"min_delta": -0.23333333333333334,
"max_delta": 0.06666666666666667
},
{
"metric": "hellaswag_accuracy",
"audits": 12,
"changed": 0,
"median_delta": 0.0,
"min_delta": -0.2,
"max_delta": 0.1
},
{
"metric": "hellaswag_ece",
"audits": 12,
"changed": 1,
"median_delta": -0.0017835813929958366,
"min_delta": -0.08608663231519137,
"max_delta": 0.23731161602954598
},
{
"metric": "ifeval_prompt_accuracy",
"audits": 12,
"changed": 3,
"median_delta": 0.0,
"min_delta": -0.23333333333333334,
"max_delta": 0.23333333333333334
},
{
"metric": "mgsm_accuracy",
"audits": 12,
"changed": 1,
"median_delta": 0.0,
"min_delta": -0.16666666666666666,
"max_delta": 0.1
},
{
"metric": "mmlu_accuracy",
"audits": 12,
"changed": 0,
"median_delta": 0.0,
"min_delta": -0.23333333333333334,
"max_delta": 0.03333333333333333
},
{
"metric": "mmlu_ece",
"audits": 12,
"changed": 0,
"median_delta": 0.022825454383483657,
"min_delta": -0.0042497849531882015,
"max_delta": 0.19188274008709583
},
{
"metric": "or_bench_hard_over_refusal_rate",
"audits": 12,
"changed": 3,
"median_delta": 0.0,
"min_delta": -0.3,
"max_delta": 0.6333333333333333
},
{
"metric": "or_bench_toxic_compliance_rate",
"audits": 12,
"changed": 3,
"median_delta": 0.0,
"min_delta": -0.8,
"max_delta": 0.7666666666666667
},
{
"metric": "output_divergence_kl",
"audits": 12,
"changed": 10,
"median_delta": 0.011718104826286435,
"min_delta": 0.0,
"max_delta": 9.00265097618103
},
{
"metric": "truthfulqa_mc1_accuracy",
"audits": 12,
"changed": 0,
"median_delta": 0.0,
"min_delta": -0.03333333333333333,
"max_delta": 0.06666666666666667
},
{
"metric": "truthfulqa_mc1_ece",
"audits": 12,
"changed": 0,
"median_delta": 0.0,
"min_delta": -0.03136338321776888,
"max_delta": 0.12813527616657805
},
{
"metric": "xstest_safe_over_refusal_rate",
"audits": 12,
"changed": 2,
"median_delta": 0.0,
"min_delta": -0.5,
"max_delta": 0.4
},
{
"metric": "xstest_unsafe_compliance_rate",
"audits": 12,
"changed": 4,
"median_delta": 0.016666666666666666,
"min_delta": -0.8,
"max_delta": 0.9666666666666667
}
],
"by_kind": [
{
"kind": "instruction tuning",
"audits": 1,
"with_change": 1,
"median_changed_metrics": 6
},
{
"kind": "null identity",
"audits": 2,
"with_change": 0,
"median_changed_metrics": 0.0
},
{
"kind": "null micro noise",
"audits": 2,
"with_change": 2,
"median_changed_metrics": 1.0
},
{
"kind": "orpo",
"audits": 1,
"with_change": 1,
"median_changed_metrics": 1
},
{
"kind": "planted noise",
"audits": 2,
"with_change": 2,
"median_changed_metrics": 6.0
},
{
"kind": "planted prune",
"audits": 1,
"with_change": 1,
"median_changed_metrics": 3
},
{
"kind": "planted zero",
"audits": 1,
"with_change": 1,
"median_changed_metrics": 1
},
{
"kind": "sft",
"audits": 1,
"with_change": 1,
"median_changed_metrics": 3
},
{
"kind": "weight edit",
"audits": 1,
"with_change": 1,
"median_changed_metrics": 2
}
]
}
{
"schema": "modeldiffr.study/1",
"audits": [
{
"name": "real-instruct-qwen2.5-0.5b",
"kind": "instruction tuning",
"audit_id": "mdr1:9a90feed2e2be6e423a44742d782522306d961bf66844287956c76153419feb2",
"base": "Qwen/Qwen2.5-0.5B",
"derivative": "Qwen/Qwen2.5-0.5B-Instruct",
"suite": "lite",
"items": 360,
"changed": [
"ifeval_prompt_accuracy",
"xstest_safe_over_refusal_rate",
"or_bench_hard_over_refusal_rate",
"xstest_unsafe_compliance_rate",
"or_bench_toxic_compliance_rate",
"output_divergence_kl"
],
"signed": false,
"metrics": {
"mmlu_accuracy": {
"delta": 0.03333333333333333,
"ci_low": -0.13333333333333333,
"ci_high": 0.2,
"p_value": 0.815,
"significant": false,
"negligible": false
},
"mmlu_ece": {
"delta": 0.08259514270423027,
"ci_low": -0.03795042532248433,
"ci_high": 0.21390753491713554,
"p_value": 0.18,
"significant": false,
"negligible": false
},
"arc_challenge_accuracy": {
"delta": 0.0,
"ci_low": 0.0,
"ci_high": 0.0,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"arc_challenge_ece": {
"delta": 0.035305885373578816,
"ci_low": -0.04600097177008944,
"ci_high": 0.09492503363410898,
"p_value": 0.38,
"significant": false,
"negligible": false
},
"hellaswag_accuracy": {
"delta": 0.0,
"ci_low": -0.1,
"ci_high": 0.1,
"p_value": 1.0,
"significant": false,
"negligible": false
},
"hellaswag_ece": {
"delta": 0.011471737488548905,
"ci_low": -0.05814041497197331,
"ci_high": 0.08172180766087916,
"p_value": 0.841,
"significant": false,
"negligible": false
},
"truthfulqa_mc1_accuracy": {
"delta": 0.03333333333333333,
"ci_low": 0.0,
"ci_high": 0.1,
"p_value": 0.758,
"significant": false,
"negligible": false
},
"truthfulqa_mc1_ece": {
"delta": -0.02387504610779223,
"ci_low": -0.09543658515124331,
"ci_high": 0.04815955443845643,
"p_value": 0.557,
"significant": false,
"negligible": false
},
"gsm8k_accuracy": {
"delta": -0.1,
"ci_low": -0.3,
"ci_high": 0.1,
"p_value": 0.382,
"significant": false,
"negligible": false
},
"mgsm_accuracy": {
"delta": 0.1,
"ci_low": 0.0,
"ci_high": 0.2,
"p_value": 0.073,
"significant": false,
"negligible": false