| [ | |
| { | |
| "model": "Gemini 3 Pro", | |
| "score": 0.776, | |
| "math_score": 0.94, | |
| "physics_score": 0.612, | |
| "total_tokens": 2441816, | |
| "evaluation_time": 6400.851, | |
| "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке." | |
| }, | |
| { | |
| "model": "Gemini 2.5 Pro", | |
| "score": 0.728, | |
| "math_score": 0.874, | |
| "physics_score": 0.582, | |
| "total_tokens": 2227721, | |
| "evaluation_time": 4937.3, | |
| "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." | |
| }, | |
| { | |
| "model": "GPT-5", | |
| "score": 0.705, | |
| "math_score": 0.91, | |
| "physics_score": 0.5, | |
| "total_tokens": 1374085, | |
| "evaluation_time": 4908.359, | |
| "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке." | |
| }, | |
| { | |
| "model": "o3-mini-high", | |
| "score": 0.692, | |
| "math_score": 0.884, | |
| "physics_score": 0.5, | |
| "total_tokens": 2186756, | |
| "evaluation_time": 5107.465, | |
| "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке." | |
| }, | |
| { | |
| "model": "GPT-OSS-120B", | |
| "score": 0.675, | |
| "math_score": 0.849, | |
| "physics_score": 0.5, | |
| "total_tokens": 671703, | |
| "evaluation_time": 939.085, | |
| "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке." | |
| }, | |
| { | |
| "model": "o3", | |
| "score": 0.669, | |
| "math_score": 0.868, | |
| "physics_score": 0.469, | |
| "total_tokens": 1164000, | |
| "evaluation_time": 5025.798, | |
| "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке." | |
| }, | |
| { | |
| "model": "o4-mini-high", | |
| "score": 0.664, | |
| "math_score": 0.868, | |
| "physics_score": 0.459, | |
| "total_tokens": 1997548, | |
| "evaluation_time": 5811.027, | |
| "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." | |
| }, | |
| { | |
| "model": "GPT-5.1-max-reasoning", | |
| "score": 0.662, | |
| "math_score": 0.834, | |
| "physics_score": 0.49, | |
| "total_tokens": 1932240, | |
| "evaluation_time": 4141.273, | |
| "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке." | |
| }, | |
| { | |
| "model": "GPT-5 Nano", | |
| "score": 0.649, | |
| "math_score": 0.839, | |
| "physics_score": 0.459, | |
| "total_tokens": 2218450, | |
| "evaluation_time": 5109.693, | |
| "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке." | |
| }, | |
| { | |
| "model": "GPT-5 Mini", | |
| "score": 0.634, | |
| "math_score": 0.849, | |
| "physics_score": 0.418, | |
| "total_tokens": 993326, | |
| "evaluation_time": 3368.527, | |
| "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке." | |
| }, | |
| { | |
| "model": "Claude Sonnet 4.5", | |
| "score": 0.61, | |
| "math_score": 0.688, | |
| "physics_score": 0.531, | |
| "total_tokens": 461074, | |
| "evaluation_time": 1216.334, | |
| "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке." | |
| }, | |
| { | |
| "model": "Claude Opus 4.1", | |
| "score": 0.607, | |
| "math_score": 0.704, | |
| "physics_score": 0.51, | |
| "total_tokens": 448628, | |
| "evaluation_time": 1927.201, | |
| "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке." | |
| }, | |
| { | |
| "model": "GPT-OSS-20B", | |
| "score": 0.583, | |
| "math_score": 0.789, | |
| "physics_score": 0.378, | |
| "total_tokens": 1034077, | |
| "evaluation_time": 4009.333, | |
| "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке." | |
| }, | |
| { | |
| "model": "Claude Sonnet 4", | |
| "score": 0.551, | |
| "math_score": 0.633, | |
| "physics_score": 0.469, | |
| "total_tokens": 490996, | |
| "evaluation_time": 1294.7, | |
| "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." | |
| }, | |
| { | |
| "model": "Qwen QwQ 32B", | |
| "score": 0.53, | |
| "math_score": 0.653, | |
| "physics_score": 0.408, | |
| "total_tokens": 2112951, | |
| "evaluation_time": 16974.732, | |
| "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." | |
| }, | |
| { | |
| "model": "Gemini 2.0 Flash", | |
| "score": 0.514, | |
| "math_score": 0.558, | |
| "physics_score": 0.469, | |
| "total_tokens": 495313, | |
| "evaluation_time": 736.576, | |
| "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." | |
| }, | |
| { | |
| "model": "Claude 3.7 Sonnet", | |
| "score": 0.47, | |
| "math_score": 0.542, | |
| "physics_score": 0.398, | |
| "total_tokens": 405583, | |
| "evaluation_time": 1081.97, | |
| "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." | |
| }, | |
| { | |
| "model": "gpt-4.1", | |
| "score": 0.466, | |
| "math_score": 0.584, | |
| "physics_score": 0.347, | |
| "total_tokens": 549983, | |
| "evaluation_time": 2434.593, | |
| "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." | |
| }, | |
| { | |
| "model": "QVikhr-3-8B-Instruction", | |
| "score": 0.445, | |
| "math_score": 0.563, | |
| "physics_score": 0.327, | |
| "total_tokens": 1486327, | |
| "evaluation_time": 11874.2, | |
| "system_prompt": "You are a helpful assistant. Answer in Russian." | |
| }, | |
| { | |
| "model": "Qwen3-8B", | |
| "score": 0.417, | |
| "math_score": 0.538, | |
| "physics_score": 0.296, | |
| "total_tokens": 1576445, | |
| "evaluation_time": 12744.3, | |
| "system_prompt": "You are a helpful assistant. Answer in Russian." | |
| }, | |
| { | |
| "model": "Gemma 3 27B", | |
| "score": 0.4, | |
| "math_score": 0.474, | |
| "physics_score": 0.327, | |
| "total_tokens": 384164, | |
| "evaluation_time": 3024.304, | |
| "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." | |
| }, | |
| { | |
| "model": "Claude 3.5 Sonnet", | |
| "score": 0.376, | |
| "math_score": 0.416, | |
| "physics_score": 0.337, | |
| "total_tokens": 252843, | |
| "evaluation_time": 702.003, | |
| "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." | |
| }, | |
| { | |
| "model": "DeepSeek R1 Distill Qwen 14B", | |
| "score": 0.346, | |
| "math_score": 0.447, | |
| "physics_score": 0.245, | |
| "total_tokens": 806258, | |
| "evaluation_time": 7904.138, | |
| "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." | |
| }, | |
| { | |
| "model": "DeepSeek V3 0324", | |
| "score": 0.343, | |
| "math_score": 0.432, | |
| "physics_score": 0.255, | |
| "total_tokens": 339857, | |
| "evaluation_time": 2901.808, | |
| "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." | |
| }, | |
| { | |
| "model": "gpt-4o", | |
| "score": 0.338, | |
| "math_score": 0.432, | |
| "physics_score": 0.245, | |
| "total_tokens": 399483, | |
| "evaluation_time": 1145.041, | |
| "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." | |
| }, | |
| { | |
| "model": "GigaChat-2-Max", | |
| "score": 0.314, | |
| "math_score": 0.363, | |
| "physics_score": 0.265, | |
| "total_tokens": 185204, | |
| "evaluation_time": 965.849, | |
| "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." | |
| }, | |
| { | |
| "model": "AvitoTech/A-vibe", | |
| "score": 0.28, | |
| "math_score": 0.367, | |
| "physics_score": 0.194, | |
| "total_tokens": 797771, | |
| "evaluation_time": 4097.367, | |
| "system_prompt": null | |
| }, | |
| { | |
| "model": "GigaChat-2-Pro", | |
| "score": 0.27, | |
| "math_score": 0.316, | |
| "physics_score": 0.224, | |
| "total_tokens": 215297, | |
| "evaluation_time": 1250.343, | |
| "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." | |
| }, | |
| { | |
| "model": "Qwen2.5 72B Instruct", | |
| "score": 0.189, | |
| "math_score": 0.379, | |
| "physics_score": 0.0, | |
| "total_tokens": 322441, | |
| "evaluation_time": 5670.726, | |
| "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." | |
| }, | |
| { | |
| "model": "GigaChat-Max", | |
| "score": 0.181, | |
| "math_score": 0.189, | |
| "physics_score": 0.173, | |
| "total_tokens": 200271, | |
| "evaluation_time": 1056.48, | |
| "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." | |
| }, | |
| { | |
| "model": "Gemma 3 4B", | |
| "score": 0.18, | |
| "math_score": 0.258, | |
| "physics_score": 0.102, | |
| "total_tokens": 726285, | |
| "evaluation_time": 2959.358, | |
| "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." | |
| }, | |
| { | |
| "model": "GigaChat-2", | |
| "score": 0.083, | |
| "math_score": 0.095, | |
| "physics_score": 0.071, | |
| "total_tokens": 136051, | |
| "evaluation_time": 576.885, | |
| "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." | |
| } | |
| ] |