Anonumous commited on
Commit
dd5afab
·
1 Parent(s): 231aa2e

Fix model naming for new models

Browse files
Files changed (1) hide show
  1. leaderboard.json +23 -32
leaderboard.json CHANGED
@@ -1,6 +1,6 @@
1
  [
2
  {
3
- "model": "Anonumous/Gemini 3 Pro",
4
  "score": 0.776,
5
  "math_score": 0.94,
6
  "physics_score": 0.612,
@@ -9,7 +9,7 @@
9
  "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке."
10
  },
11
  {
12
- "model": "AlexWortega/Gemeni 2.5 Pro",
13
  "score": 0.728,
14
  "math_score": 0.874,
15
  "physics_score": 0.582,
@@ -18,7 +18,7 @@
18
  "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
19
  },
20
  {
21
- "model": "Anonumous/GPT-5",
22
  "score": 0.705,
23
  "math_score": 0.91,
24
  "physics_score": 0.5,
@@ -33,10 +33,10 @@
33
  "physics_score": 0.5,
34
  "total_tokens": 2186756,
35
  "evaluation_time": 5107.465,
36
- "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
37
  },
38
  {
39
- "model": "Anonumous/GPT-OSS-120B",
40
  "score": 0.675,
41
  "math_score": 0.849,
42
  "physics_score": 0.5,
@@ -51,7 +51,7 @@
51
  "physics_score": 0.469,
52
  "total_tokens": 1164000,
53
  "evaluation_time": 5025.798,
54
- "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
55
  },
56
  {
57
  "model": "o4-mini-high",
@@ -63,7 +63,7 @@
63
  "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
64
  },
65
  {
66
- "model": "Anonumous/GPT-5 Nano",
67
  "score": 0.649,
68
  "math_score": 0.839,
69
  "physics_score": 0.459,
@@ -72,7 +72,7 @@
72
  "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке."
73
  },
74
  {
75
- "model": "Anonumous/GPT-5 Mini",
76
  "score": 0.634,
77
  "math_score": 0.849,
78
  "physics_score": 0.418,
@@ -81,7 +81,7 @@
81
  "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке."
82
  },
83
  {
84
- "model": "Anonumous/Claude Sonnet 4.5",
85
  "score": 0.61,
86
  "math_score": 0.688,
87
  "physics_score": 0.531,
@@ -90,7 +90,7 @@
90
  "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке."
91
  },
92
  {
93
- "model": "Anonumous/Claude Opus 4.1",
94
  "score": 0.607,
95
  "math_score": 0.704,
96
  "physics_score": 0.51,
@@ -99,16 +99,7 @@
99
  "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке."
100
  },
101
  {
102
- "model": "Anonumous/Тестовая моделька",
103
- "score": 0.586,
104
- "math_score": 0.8,
105
- "physics_score": 0.373,
106
- "total_tokens": 1394299,
107
- "evaluation_time": 4533.2,
108
- "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
109
- },
110
- {
111
- "model": "Anonumous/GPT-OSS-20B",
112
  "score": 0.583,
113
  "math_score": 0.789,
114
  "physics_score": 0.378,
@@ -117,7 +108,7 @@
117
  "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке."
118
  },
119
  {
120
- "model": "AlexWortega/Claude Sonnet 4",
121
  "score": 0.551,
122
  "math_score": 0.633,
123
  "physics_score": 0.469,
@@ -132,7 +123,7 @@
132
  "physics_score": 0.408,
133
  "total_tokens": 2112951,
134
  "evaluation_time": 16974.732,
135
- "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
136
  },
137
  {
138
  "model": "Gemini 2.0 Flash",
@@ -159,10 +150,10 @@
159
  "physics_score": 0.347,
160
  "total_tokens": 549983,
161
  "evaluation_time": 2434.593,
162
- "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
163
  },
164
  {
165
- "model": "LakoMoor/QVikhr-3-8B-Instruction",
166
  "score": 0.445,
167
  "math_score": 0.563,
168
  "physics_score": 0.327,
@@ -171,7 +162,7 @@
171
  "system_prompt": "You are a helpful assistant. Answer in Russian."
172
  },
173
  {
174
- "model": "LakoMoor/Qwen3-8B",
175
  "score": 0.417,
176
  "math_score": 0.538,
177
  "physics_score": 0.296,
@@ -195,7 +186,7 @@
195
  "physics_score": 0.337,
196
  "total_tokens": 252843,
197
  "evaluation_time": 702.003,
198
- "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
199
  },
200
  {
201
  "model": "DeepSeek R1 Distill Qwen 14B",
@@ -213,7 +204,7 @@
213
  "physics_score": 0.255,
214
  "total_tokens": 339857,
215
  "evaluation_time": 2901.808,
216
- "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
217
  },
218
  {
219
  "model": "gpt-4o",
@@ -222,7 +213,7 @@
222
  "physics_score": 0.245,
223
  "total_tokens": 399483,
224
  "evaluation_time": 1145.041,
225
- "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
226
  },
227
  {
228
  "model": "GigaChat-2-Max",
@@ -231,7 +222,7 @@
231
  "physics_score": 0.265,
232
  "total_tokens": 185204,
233
  "evaluation_time": 965.849,
234
- "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
235
  },
236
  {
237
  "model": "AvitoTech/A-vibe",
@@ -258,7 +249,7 @@
258
  "physics_score": 0.0,
259
  "total_tokens": 322441,
260
  "evaluation_time": 5670.726,
261
- "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
262
  },
263
  {
264
  "model": "GigaChat-Max",
@@ -267,7 +258,7 @@
267
  "physics_score": 0.173,
268
  "total_tokens": 200271,
269
  "evaluation_time": 1056.48,
270
- "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
271
  },
272
  {
273
  "model": "Gemma 3 4B",
@@ -285,6 +276,6 @@
285
  "physics_score": 0.071,
286
  "total_tokens": 136051,
287
  "evaluation_time": 576.885,
288
- "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
289
  }
290
  ]
 
1
  [
2
  {
3
+ "model": "Gemini 3 Pro",
4
  "score": 0.776,
5
  "math_score": 0.94,
6
  "physics_score": 0.612,
 
9
  "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке."
10
  },
11
  {
12
+ "model": "Gemini 2.5 Pro",
13
  "score": 0.728,
14
  "math_score": 0.874,
15
  "physics_score": 0.582,
 
18
  "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
19
  },
20
  {
21
+ "model": "GPT-5",
22
  "score": 0.705,
23
  "math_score": 0.91,
24
  "physics_score": 0.5,
 
33
  "physics_score": 0.5,
34
  "total_tokens": 2186756,
35
  "evaluation_time": 5107.465,
36
+ "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке."
37
  },
38
  {
39
+ "model": "GPT-OSS-120B",
40
  "score": 0.675,
41
  "math_score": 0.849,
42
  "physics_score": 0.5,
 
51
  "physics_score": 0.469,
52
  "total_tokens": 1164000,
53
  "evaluation_time": 5025.798,
54
+ "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке."
55
  },
56
  {
57
  "model": "o4-mini-high",
 
63
  "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
64
  },
65
  {
66
+ "model": "GPT-5 Nano",
67
  "score": 0.649,
68
  "math_score": 0.839,
69
  "physics_score": 0.459,
 
72
  "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке."
73
  },
74
  {
75
+ "model": "GPT-5 Mini",
76
  "score": 0.634,
77
  "math_score": 0.849,
78
  "physics_score": 0.418,
 
81
  "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке."
82
  },
83
  {
84
+ "model": "Claude Sonnet 4.5",
85
  "score": 0.61,
86
  "math_score": 0.688,
87
  "physics_score": 0.531,
 
90
  "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке."
91
  },
92
  {
93
+ "model": "Claude Opus 4.1",
94
  "score": 0.607,
95
  "math_score": 0.704,
96
  "physics_score": 0.51,
 
99
  "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке."
100
  },
101
  {
102
+ "model": "GPT-OSS-20B",
 
 
 
 
 
 
 
 
 
103
  "score": 0.583,
104
  "math_score": 0.789,
105
  "physics_score": 0.378,
 
108
  "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке."
109
  },
110
  {
111
+ "model": "Claude Sonnet 4",
112
  "score": 0.551,
113
  "math_score": 0.633,
114
  "physics_score": 0.469,
 
123
  "physics_score": 0.408,
124
  "total_tokens": 2112951,
125
  "evaluation_time": 16974.732,
126
+ "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
127
  },
128
  {
129
  "model": "Gemini 2.0 Flash",
 
150
  "physics_score": 0.347,
151
  "total_tokens": 549983,
152
  "evaluation_time": 2434.593,
153
+ "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
154
  },
155
  {
156
+ "model": "QVikhr-3-8B-Instruction",
157
  "score": 0.445,
158
  "math_score": 0.563,
159
  "physics_score": 0.327,
 
162
  "system_prompt": "You are a helpful assistant. Answer in Russian."
163
  },
164
  {
165
+ "model": "Qwen3-8B",
166
  "score": 0.417,
167
  "math_score": 0.538,
168
  "physics_score": 0.296,
 
186
  "physics_score": 0.337,
187
  "total_tokens": 252843,
188
  "evaluation_time": 702.003,
189
+ "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
190
  },
191
  {
192
  "model": "DeepSeek R1 Distill Qwen 14B",
 
204
  "physics_score": 0.255,
205
  "total_tokens": 339857,
206
  "evaluation_time": 2901.808,
207
+ "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
208
  },
209
  {
210
  "model": "gpt-4o",
 
213
  "physics_score": 0.245,
214
  "total_tokens": 399483,
215
  "evaluation_time": 1145.041,
216
+ "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
217
  },
218
  {
219
  "model": "GigaChat-2-Max",
 
222
  "physics_score": 0.265,
223
  "total_tokens": 185204,
224
  "evaluation_time": 965.849,
225
+ "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
226
  },
227
  {
228
  "model": "AvitoTech/A-vibe",
 
249
  "physics_score": 0.0,
250
  "total_tokens": 322441,
251
  "evaluation_time": 5670.726,
252
+ "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
253
  },
254
  {
255
  "model": "GigaChat-Max",
 
258
  "physics_score": 0.173,
259
  "total_tokens": 200271,
260
  "evaluation_time": 1056.48,
261
+ "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
262
  },
263
  {
264
  "model": "Gemma 3 4B",
 
276
  "physics_score": 0.071,
277
  "total_tokens": 136051,
278
  "evaluation_time": 576.885,
279
+ "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке."
280
  }
281
  ]