[ { "model": "Gemini 3 Pro", "score": 0.776, "math_score": 0.94, "physics_score": 0.612, "total_tokens": 2441816, "evaluation_time": 6400.851, "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке." }, { "model": "Gemini 2.5 Pro", "score": 0.728, "math_score": 0.874, "physics_score": 0.582, "total_tokens": 2227721, "evaluation_time": 4937.3, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." }, { "model": "GPT-5", "score": 0.705, "math_score": 0.91, "physics_score": 0.5, "total_tokens": 1374085, "evaluation_time": 4908.359, "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке." }, { "model": "o3-mini-high", "score": 0.692, "math_score": 0.884, "physics_score": 0.5, "total_tokens": 2186756, "evaluation_time": 5107.465, "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке." }, { "model": "GPT-OSS-120B", "score": 0.675, "math_score": 0.849, "physics_score": 0.5, "total_tokens": 671703, "evaluation_time": 939.085, "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке." }, { "model": "o3", "score": 0.669, "math_score": 0.868, "physics_score": 0.469, "total_tokens": 1164000, "evaluation_time": 5025.798, "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке." }, { "model": "o4-mini-high", "score": 0.664, "math_score": 0.868, "physics_score": 0.459, "total_tokens": 1997548, "evaluation_time": 5811.027, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." }, { "model": "GPT-5.1-max-reasoning", "score": 0.662, "math_score": 0.834, "physics_score": 0.49, "total_tokens": 1932240, "evaluation_time": 4141.273, "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке." }, { "model": "GPT-5 Nano", "score": 0.649, "math_score": 0.839, "physics_score": 0.459, "total_tokens": 2218450, "evaluation_time": 5109.693, "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке." }, { "model": "GPT-5 Mini", "score": 0.634, "math_score": 0.849, "physics_score": 0.418, "total_tokens": 993326, "evaluation_time": 3368.527, "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке." }, { "model": "Claude Sonnet 4.5", "score": 0.61, "math_score": 0.688, "physics_score": 0.531, "total_tokens": 461074, "evaluation_time": 1216.334, "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке." }, { "model": "Claude Opus 4.1", "score": 0.607, "math_score": 0.704, "physics_score": 0.51, "total_tokens": 448628, "evaluation_time": 1927.201, "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке." }, { "model": "GPT-OSS-20B", "score": 0.583, "math_score": 0.789, "physics_score": 0.378, "total_tokens": 1034077, "evaluation_time": 4009.333, "system_prompt": "Ты - полезный ИИ-ассистент, решающий задачи по математике и физике. Отвечай на русском языке." }, { "model": "Claude Sonnet 4", "score": 0.551, "math_score": 0.633, "physics_score": 0.469, "total_tokens": 490996, "evaluation_time": 1294.7, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." }, { "model": "Qwen QwQ 32B", "score": 0.53, "math_score": 0.653, "physics_score": 0.408, "total_tokens": 2112951, "evaluation_time": 16974.732, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." }, { "model": "Gemini 2.0 Flash", "score": 0.514, "math_score": 0.558, "physics_score": 0.469, "total_tokens": 495313, "evaluation_time": 736.576, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." }, { "model": "Claude 3.7 Sonnet", "score": 0.47, "math_score": 0.542, "physics_score": 0.398, "total_tokens": 405583, "evaluation_time": 1081.97, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." }, { "model": "gpt-4.1", "score": 0.466, "math_score": 0.584, "physics_score": 0.347, "total_tokens": 549983, "evaluation_time": 2434.593, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." }, { "model": "QVikhr-3-8B-Instruction", "score": 0.445, "math_score": 0.563, "physics_score": 0.327, "total_tokens": 1486327, "evaluation_time": 11874.2, "system_prompt": "You are a helpful assistant. Answer in Russian." }, { "model": "Qwen3-8B", "score": 0.417, "math_score": 0.538, "physics_score": 0.296, "total_tokens": 1576445, "evaluation_time": 12744.3, "system_prompt": "You are a helpful assistant. Answer in Russian." }, { "model": "Gemma 3 27B", "score": 0.4, "math_score": 0.474, "physics_score": 0.327, "total_tokens": 384164, "evaluation_time": 3024.304, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." }, { "model": "Claude 3.5 Sonnet", "score": 0.376, "math_score": 0.416, "physics_score": 0.337, "total_tokens": 252843, "evaluation_time": 702.003, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." }, { "model": "DeepSeek R1 Distill Qwen 14B", "score": 0.346, "math_score": 0.447, "physics_score": 0.245, "total_tokens": 806258, "evaluation_time": 7904.138, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." }, { "model": "DeepSeek V3 0324", "score": 0.343, "math_score": 0.432, "physics_score": 0.255, "total_tokens": 339857, "evaluation_time": 2901.808, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." }, { "model": "gpt-4o", "score": 0.338, "math_score": 0.432, "physics_score": 0.245, "total_tokens": 399483, "evaluation_time": 1145.041, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." }, { "model": "GigaChat-2-Max", "score": 0.314, "math_score": 0.363, "physics_score": 0.265, "total_tokens": 185204, "evaluation_time": 965.849, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." }, { "model": "AvitoTech/A-vibe", "score": 0.28, "math_score": 0.367, "physics_score": 0.194, "total_tokens": 797771, "evaluation_time": 4097.367, "system_prompt": null }, { "model": "GigaChat-2-Pro", "score": 0.27, "math_score": 0.316, "physics_score": 0.224, "total_tokens": 215297, "evaluation_time": 1250.343, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." }, { "model": "Qwen2.5 72B Instruct", "score": 0.189, "math_score": 0.379, "physics_score": 0.0, "total_tokens": 322441, "evaluation_time": 5670.726, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." }, { "model": "GigaChat-Max", "score": 0.181, "math_score": 0.189, "physics_score": 0.173, "total_tokens": 200271, "evaluation_time": 1056.48, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." }, { "model": "Gemma 3 4B", "score": 0.18, "math_score": 0.258, "physics_score": 0.102, "total_tokens": 726285, "evaluation_time": 2959.358, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." }, { "model": "GigaChat-2", "score": 0.083, "math_score": 0.095, "physics_score": 0.071, "total_tokens": 136051, "evaluation_time": 576.885, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." } ]