Hugging Face's logo

Datasets:
Autonomous-Scientific-Agents
/
results

Modalities:
Text
Formats:
json
Size:
< 1K
Libraries:
Datasets
Dask
License:
Dataset card Data Studio Files
xet
Community
1
tdphamm commited on
Commit
8e5c3b6
·
verified ·
1 Parent(s): 6e9c1c8

Upload 4 files

Browse files
Files changed (4) hide show
  1. claude-3.5/anthropic__claude-3.5-haiku.results.json +84 -0
  2. gpt-4o-mini/openai__gpt-4o-mini.results.json +84 -0
  3. gpt-4o/openai__gpt-4o.results.json +29 -0
  4. qwen-2.5/qwen__Qwen2.5-14B.results.json +84 -0
claude-3.5/anthropic__claude-3.5-haiku.results.json ADDED
@@ -0,0 +1,84 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "config": {
3
+ "model_dtype": "torch.float16",
4
+ "model_name": "anthropic/claude-3.5-haiku",
5
+ "model_sha": "main"
6
+ },
7
+ "results": {
8
+ "exp1": {
9
+ "accuracy": 0.9333333333333333,
10
+ "delta_tool_calls": -0.06999999999999995,
11
+ "relative_deviation": 0.93
12
+ },
13
+ "exp2": {
14
+ "accuracy": 0.8666666666666667,
15
+ "delta_tool_calls": 0.9299999999999999,
16
+ "relative_deviation": 1.5166666666666666
17
+ },
18
+ "exp3": {
19
+ "accuracy": 1.0,
20
+ "delta_tool_calls": 0.10000000000000009,
21
+ "relative_deviation": 1.0333333333333334
22
+ },
23
+ "exp4": {
24
+ "accuracy": 0.8333333333333334,
25
+ "delta_tool_calls": 0.0,
26
+ "relative_deviation": 1.0
27
+ },
28
+ "exp5": {
29
+ "accuracy": 1.0,
30
+ "delta_tool_calls": 0.0,
31
+ "relative_deviation": 1.0
32
+ },
33
+ "exp6": {
34
+ "accuracy": 1.0,
35
+ "delta_tool_calls": 0.03000000000000025,
36
+ "relative_deviation": 1.0075
37
+ },
38
+ "exp7": {
39
+ "accuracy": 0.8666666666666667,
40
+ "delta_tool_calls": 0.86,
41
+ "relative_deviation": 1.9885057471264367
42
+ },
43
+ "exp8": {
44
+ "accuracy": 0.9333333333333333,
45
+ "delta_tool_calls": -0.030000000000000027,
46
+ "relative_deviation": 0.985
47
+ },
48
+ "exp9": {
49
+ "accuracy": 0.8,
50
+ "delta_tool_calls": 0.06999999999999984,
51
+ "relative_deviation": 1.035
52
+ },
53
+ "exp10": {
54
+ "accuracy": 0.9666666666666667,
55
+ "delta_tool_calls": 0.029999999999999805,
56
+ "relative_deviation": 1.015
57
+ },
58
+ "exp11": {
59
+ "accuracy": 0.9666666666666667,
60
+ "delta_tool_calls": 0.0,
61
+ "relative_deviation": 1.0
62
+ },
63
+ "exp12": {
64
+ "accuracy": 0.6666666666666666,
65
+ "delta_tool_calls": -0.046666666666666856,
66
+ "relative_deviation": 0.9955128205128205
67
+ },
68
+ "exp13": {
69
+ "accuracy": 0.6888888888888889,
70
+ "delta_tool_calls": -0.06666666666666643,
71
+ "relative_deviation": 0.9935897435897436
72
+ },
73
+ "exp14": {
74
+ "accuracy": 0.8666666666666667,
75
+ "delta_tool_calls": -0.1366666666666685,
76
+ "relative_deviation": 0.9868589743589742
77
+ },
78
+ "exp15": {
79
+ "accuracy": 0.9555555555555556,
80
+ "delta_tool_calls": -0.06666666666666643,
81
+ "relative_deviation": 0.9935897435897436
82
+ }
83
+ }
84
+ }
gpt-4o-mini/openai__gpt-4o-mini.results.json ADDED
@@ -0,0 +1,84 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "config": {
3
+ "model_dtype": "torch.float16",
4
+ "model_name": "openai/gpt-4o-mini",
5
+ "model_sha": "main"
6
+ },
7
+ "results": {
8
+ "exp1": {
9
+ "accuracy": 1.0,
10
+ "delta_tool_calls": 0.0,
11
+ "relative_deviation": 1.0
12
+ },
13
+ "exp2": {
14
+ "accuracy": 0.9,
15
+ "delta_tool_calls": 0.1299999999999999,
16
+ "relative_deviation": 1.065
17
+ },
18
+ "exp3": {
19
+ "accuracy": 1.0,
20
+ "delta_tool_calls": 0.0,
21
+ "relative_deviation": 1.0
22
+ },
23
+ "exp4": {
24
+ "accuracy": 0.9,
25
+ "delta_tool_calls": 0.0,
26
+ "relative_deviation": 1.0
27
+ },
28
+ "exp5": {
29
+ "accuracy": 1.0,
30
+ "delta_tool_calls": 0.0,
31
+ "relative_deviation": 1.0
32
+ },
33
+ "exp6": {
34
+ "accuracy": 0.8666666666666667,
35
+ "delta_tool_calls": 0.9000000000000004,
36
+ "relative_deviation": 1.225
37
+ },
38
+ "exp7": {
39
+ "accuracy": 0.9333333333333333,
40
+ "delta_tool_calls": 0.0,
41
+ "relative_deviation": 1.0
42
+ },
43
+ "exp8": {
44
+ "accuracy": 1.0,
45
+ "delta_tool_calls": 0.0,
46
+ "relative_deviation": 1.0
47
+ },
48
+ "exp9": {
49
+ "accuracy": 0.8666666666666667,
50
+ "delta_tool_calls": 0.0,
51
+ "relative_deviation": 1.0
52
+ },
53
+ "exp10": {
54
+ "accuracy": 0.9333333333333333,
55
+ "delta_tool_calls": 0.0,
56
+ "relative_deviation": 1.0
57
+ },
58
+ "exp11": {
59
+ "accuracy": 0.8666666666666667,
60
+ "delta_tool_calls": 0.5299999999999998,
61
+ "relative_deviation": 1.1766666666666665
62
+ },
63
+ "exp12": {
64
+ "accuracy": 0.4,
65
+ "delta_tool_calls": 1.1333333333333329,
66
+ "relative_deviation": 1.108974358974359
67
+ },
68
+ "exp13": {
69
+ "accuracy": 0.4888888888888889,
70
+ "delta_tool_calls": -0.5100000000000016,
71
+ "relative_deviation": 0.9509615384615383
72
+ },
73
+ "exp14": {
74
+ "accuracy": 0.8666666666666667,
75
+ "delta_tool_calls": -0.06666666666666643,
76
+ "relative_deviation": 0.9935897435897436
77
+ },
78
+ "exp15": {
79
+ "accuracy": 0.8666666666666667,
80
+ "delta_tool_calls": 0.2666666666666657,
81
+ "relative_deviation": 1.0256410256410255
82
+ }
83
+ }
84
+ }
gpt-4o/openai__gpt-4o.results.json ADDED
@@ -0,0 +1,29 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "config": {
3
+ "model_dtype": "torch.float16",
4
+ "model_name": "openai/gpt-4o",
5
+ "model_sha": "main"
6
+ },
7
+ "results": {
8
+ "exp12": {
9
+ "accuracy": 0.8444444444444444,
10
+ "delta_tool_calls": 0.4666666666666668,
11
+ "relative_deviation": 1.044871794871795
12
+ },
13
+ "exp13": {
14
+ "accuracy": 0.9333333333333333,
15
+ "delta_tool_calls": 0.1999999999999993,
16
+ "relative_deviation": 1.0192307692307692
17
+ },
18
+ "exp14": {
19
+ "accuracy": 1.0,
20
+ "delta_tool_calls": -0.023333333333333428,
21
+ "relative_deviation": 0.9977564102564103
22
+ },
23
+ "exp15": {
24
+ "accuracy": 0.9111111111111111,
25
+ "delta_tool_calls": -0.08999999999999986,
26
+ "relative_deviation": 0.9913461538461539
27
+ }
28
+ }
29
+ }
qwen-2.5/qwen__Qwen2.5-14B.results.json ADDED
@@ -0,0 +1,84 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ {
2
+ "config": {
3
+ "model_dtype": "torch.float16",
4
+ "model_name": "qwen/Qwen2.5-14B",
5
+ "model_sha": "main"
6
+ },
7
+ "results": {
8
+ "exp1": {
9
+ "accuracy": 0.9333333333333333,
10
+ "delta_tool_calls": 0.0,
11
+ "relative_deviation": 1.0
12
+ },
13
+ "exp2": {
14
+ "accuracy": 0.8666666666666667,
15
+ "delta_tool_calls": 0.3999999999999999,
16
+ "relative_deviation": 1.2
17
+ },
18
+ "exp3": {
19
+ "accuracy": 0.8666666666666667,
20
+ "delta_tool_calls": 0.43000000000000016,
21
+ "relative_deviation": 1.1433333333333333
22
+ },
23
+ "exp4": {
24
+ "accuracy": 0.6,
25
+ "delta_tool_calls": -0.27,
26
+ "relative_deviation": 0.91
27
+ },
28
+ "exp5": {
29
+ "accuracy": 0.6,
30
+ "delta_tool_calls": 0.4700000000000002,
31
+ "relative_deviation": 1.1566666666666667
32
+ },
33
+ "exp6": {
34
+ "accuracy": 0.7,
35
+ "delta_tool_calls": -0.10000000000000009,
36
+ "relative_deviation": 0.975
37
+ },
38
+ "exp7": {
39
+ "accuracy": 0.9,
40
+ "delta_tool_calls": 0.1699999999999997,
41
+ "relative_deviation": 1.1699999999999997
42
+ },
43
+ "exp8": {
44
+ "accuracy": 0.8,
45
+ "delta_tool_calls": 0.0,
46
+ "relative_deviation": 1.0
47
+ },
48
+ "exp9": {
49
+ "accuracy": 0.8666666666666667,
50
+ "delta_tool_calls": 0.029999999999999805,
51
+ "relative_deviation": 1.016042780748663
52
+ },
53
+ "exp10": {
54
+ "accuracy": 0.8,
55
+ "delta_tool_calls": 0.029999999999999805,
56
+ "relative_deviation": 1.015
57
+ },
58
+ "exp11": {
59
+ "accuracy": 0.7666666666666667,
60
+ "delta_tool_calls": -0.06999999999999984,
61
+ "relative_deviation": 0.9766666666666667
62
+ },
63
+ "exp12": {
64
+ "accuracy": 0.13333333333333333,
65
+ "delta_tool_calls": -0.44333333333333336,
66
+ "relative_deviation": 0.9573717948717949
67
+ },
68
+ "exp13": {
69
+ "accuracy": 0.17777777777777778,
70
+ "delta_tool_calls": -1.1100000000000012,
71
+ "relative_deviation": 0.8932692307692307
72
+ },
73
+ "exp14": {
74
+ "accuracy": 0.24444444444444444,
75
+ "delta_tool_calls": -1.200000000000001,
76
+ "relative_deviation": 0.8846153846153845
77
+ },
78
+ "exp15": {
79
+ "accuracy": 0.24444444444444444,
80
+ "delta_tool_calls": -2.3100000000000005,
81
+ "relative_deviation": 0.7525
82
+ }
83
+ }
84
+ }