config
dict | results
dict |
|---|---|
{
"model_dtype": "torch.float16",
"model_name": "anthropic/claude-3.5-haiku",
"model_sha": "main"
}
|
{
"exp1": {
"accuracy": 0.9333333333333333,
"delta_tool_calls": -0.06999999999999995,
"relative_deviation": 0.93
},
"exp2": {
"accuracy": 0.8666666666666667,
"delta_tool_calls": 0.9299999999999999,
"relative_deviation": 1.5166666666666666
},
"exp3": {
"accuracy": 1,
"delta_tool_calls": 0.10000000000000009,
"relative_deviation": 1.0333333333333334
},
"exp4": {
"accuracy": 0.8333333333333334,
"delta_tool_calls": 0,
"relative_deviation": 1
},
"exp5": {
"accuracy": 1,
"delta_tool_calls": 0,
"relative_deviation": 1
},
"exp6": {
"accuracy": 1,
"delta_tool_calls": 0.03000000000000025,
"relative_deviation": 1.0075
},
"exp7": {
"accuracy": 0.8666666666666667,
"delta_tool_calls": 0.86,
"relative_deviation": 1.9885057471264367
},
"exp8": {
"accuracy": 0.9333333333333333,
"delta_tool_calls": -0.030000000000000027,
"relative_deviation": 0.985
},
"exp9": {
"accuracy": 0.8,
"delta_tool_calls": 0.06999999999999984,
"relative_deviation": 1.035
},
"exp10": {
"accuracy": 0.9666666666666667,
"delta_tool_calls": 0.029999999999999805,
"relative_deviation": 1.015
},
"exp11": {
"accuracy": 0.9666666666666667,
"delta_tool_calls": 0,
"relative_deviation": 1
},
"exp12": {
"accuracy": 0.6666666666666666,
"delta_tool_calls": -0.046666666666666856,
"relative_deviation": 0.9955128205128205
},
"exp13": {
"accuracy": 0.6888888888888889,
"delta_tool_calls": -0.06666666666666643,
"relative_deviation": 0.9935897435897436
},
"exp14": {
"accuracy": 0.8666666666666667,
"delta_tool_calls": -0.1366666666666685,
"relative_deviation": 0.9868589743589742
},
"exp15": {
"accuracy": 0.9555555555555556,
"delta_tool_calls": -0.06666666666666643,
"relative_deviation": 0.9935897435897436
}
}
|
{
"model_dtype": "torch.float16",
"model_name": "openai/gpt-4o-mini",
"model_sha": "main"
}
|
{
"exp1": {
"accuracy": 1,
"delta_tool_calls": 0,
"relative_deviation": 1
},
"exp2": {
"accuracy": 0.9,
"delta_tool_calls": 0.1299999999999999,
"relative_deviation": 1.065
},
"exp3": {
"accuracy": 1,
"delta_tool_calls": 0,
"relative_deviation": 1
},
"exp4": {
"accuracy": 0.9,
"delta_tool_calls": 0,
"relative_deviation": 1
},
"exp5": {
"accuracy": 1,
"delta_tool_calls": 0,
"relative_deviation": 1
},
"exp6": {
"accuracy": 0.8666666666666667,
"delta_tool_calls": 0.9000000000000004,
"relative_deviation": 1.225
},
"exp7": {
"accuracy": 0.9333333333333333,
"delta_tool_calls": 0,
"relative_deviation": 1
},
"exp8": {
"accuracy": 1,
"delta_tool_calls": 0,
"relative_deviation": 1
},
"exp9": {
"accuracy": 0.8666666666666667,
"delta_tool_calls": 0,
"relative_deviation": 1
},
"exp10": {
"accuracy": 0.9333333333333333,
"delta_tool_calls": 0,
"relative_deviation": 1
},
"exp11": {
"accuracy": 0.8666666666666667,
"delta_tool_calls": 0.5299999999999998,
"relative_deviation": 1.1766666666666665
},
"exp12": {
"accuracy": 0.4,
"delta_tool_calls": 1.1333333333333329,
"relative_deviation": 1.108974358974359
},
"exp13": {
"accuracy": 0.4888888888888889,
"delta_tool_calls": -0.5100000000000016,
"relative_deviation": 0.9509615384615383
},
"exp14": {
"accuracy": 0.8666666666666667,
"delta_tool_calls": -0.06666666666666643,
"relative_deviation": 0.9935897435897436
},
"exp15": {
"accuracy": 0.8666666666666667,
"delta_tool_calls": 0.2666666666666657,
"relative_deviation": 1.0256410256410255
}
}
|
{
"model_dtype": "torch.float16",
"model_name": "openai/gpt-4o",
"model_sha": "main"
}
|
{
"exp1": null,
"exp2": null,
"exp3": null,
"exp4": null,
"exp5": null,
"exp6": null,
"exp7": null,
"exp8": null,
"exp9": null,
"exp10": null,
"exp11": null,
"exp12": {
"accuracy": 0.8444444444444444,
"delta_tool_calls": 0.4666666666666668,
"relative_deviation": 1.044871794871795
},
"exp13": {
"accuracy": 0.9333333333333333,
"delta_tool_calls": 0.1999999999999993,
"relative_deviation": 1.0192307692307692
},
"exp14": {
"accuracy": 1,
"delta_tool_calls": -0.023333333333333428,
"relative_deviation": 0.9977564102564103
},
"exp15": {
"accuracy": 0.9111111111111111,
"delta_tool_calls": -0.08999999999999986,
"relative_deviation": 0.9913461538461539
}
}
|
{
"model_dtype": "torch.float16",
"model_name": "qwen/Qwen2.5-14B",
"model_sha": "main"
}
|
{
"exp1": {
"accuracy": 0.9333333333333333,
"delta_tool_calls": 0,
"relative_deviation": 1
},
"exp2": {
"accuracy": 0.8666666666666667,
"delta_tool_calls": 0.3999999999999999,
"relative_deviation": 1.2
},
"exp3": {
"accuracy": 0.8666666666666667,
"delta_tool_calls": 0.43000000000000016,
"relative_deviation": 1.1433333333333333
},
"exp4": {
"accuracy": 0.6,
"delta_tool_calls": -0.27,
"relative_deviation": 0.91
},
"exp5": {
"accuracy": 0.6,
"delta_tool_calls": 0.4700000000000002,
"relative_deviation": 1.1566666666666667
},
"exp6": {
"accuracy": 0.7,
"delta_tool_calls": -0.10000000000000009,
"relative_deviation": 0.975
},
"exp7": {
"accuracy": 0.9,
"delta_tool_calls": 0.1699999999999997,
"relative_deviation": 1.1699999999999997
},
"exp8": {
"accuracy": 0.8,
"delta_tool_calls": 0,
"relative_deviation": 1
},
"exp9": {
"accuracy": 0.8666666666666667,
"delta_tool_calls": 0.029999999999999805,
"relative_deviation": 1.016042780748663
},
"exp10": {
"accuracy": 0.8,
"delta_tool_calls": 0.029999999999999805,
"relative_deviation": 1.015
},
"exp11": {
"accuracy": 0.7666666666666667,
"delta_tool_calls": -0.06999999999999984,
"relative_deviation": 0.9766666666666667
},
"exp12": {
"accuracy": 0.13333333333333333,
"delta_tool_calls": -0.44333333333333336,
"relative_deviation": 0.9573717948717949
},
"exp13": {
"accuracy": 0.17777777777777778,
"delta_tool_calls": -1.1100000000000012,
"relative_deviation": 0.8932692307692307
},
"exp14": {
"accuracy": 0.24444444444444444,
"delta_tool_calls": -1.200000000000001,
"relative_deviation": 0.8846153846153845
},
"exp15": {
"accuracy": 0.24444444444444444,
"delta_tool_calls": -2.3100000000000005,
"relative_deviation": 0.7525
}
}
|
Subsets and Splits
No community queries yet
The top public SQL queries from the community will appear here once available.