[ { "model_name": "o3-mini-high", "score": 0.6921052631578948, "math_score": 0.8842105263157894, "physics_score": 0.5, "total_tokens": 2186756, "evaluation_time": 5107.464560031891, "system_prompt": "Р’С‹ - полезный помощник РїРѕ математике Рё физике. Ответьте РЅР° СЂСѓСЃСЃРєРѕРј языке." }, { "model_name": "o3", "score": 0.6689044038668099, "math_score": 0.868421052631579, "physics_score": 0.46938775510204084, "total_tokens": 1164000, "evaluation_time": 5025.797904491425, "system_prompt": "Р’С‹ - полезный помощник РїРѕ математике Рё физике. Ответьте РЅР° СЂСѓСЃСЃРєРѕРј языке." }, { "model_name": "o4-mini-high", "score": 0.6638023630504833, "math_score": 0.868421052631579, "physics_score": 0.45918367346938777, "total_tokens": 1997548, "evaluation_time": 5811.026826620102, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." }, { "model_name": "Qwen QwQ 32B", "score": 0.5303974221267455, "math_score": 0.6526315789473685, "physics_score": 0.40816326530612246, "total_tokens": 2112951, "evaluation_time": 16974.732090711594, "system_prompt": "Р’С‹ - полезный помощник РїРѕ математике Рё физике. Ответьте РЅР° СЂСѓСЃСЃРєРѕРј языке." }, { "model_name": "Gemini 2.0 Flash", "score": 0.5136412459720731, "math_score": 0.5578947368421052, "physics_score": 0.46938775510204084, "total_tokens": 495313, "evaluation_time": 736.5758397579193, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." }, { "model_name": "Claude 3.7 Sonnet", "score": 0.47003222341568207, "math_score": 0.5421052631578948, "physics_score": 0.3979591836734694, "total_tokens": 405583, "evaluation_time": 1081.969652414322, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." }, { "model_name": "gpt-4.1", "score": 0.46557465091299677, "math_score": 0.5842105263157895, "physics_score": 0.3469387755102041, "total_tokens": 549983, "evaluation_time": 2434.5933046340942, "system_prompt": "Р’С‹ - полезный помощник РїРѕ математике Рё физике. Ответьте РЅР° СЂСѓСЃСЃРєРѕРј языке." }, { "model_name": "Gemma 3 27B", "score": 0.40010741138560685, "math_score": 0.47368421052631576, "physics_score": 0.32653061224489793, "total_tokens": 384164, "evaluation_time": 3024.3041207790375, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." }, { "model_name": "Claude 3.5 Sonnet", "score": 0.3762620837808808, "math_score": 0.41578947368421054, "physics_score": 0.336734693877551, "total_tokens": 252843, "evaluation_time": 702.003228187561, "system_prompt": "Р’С‹ - полезный помощник РїРѕ математике Рё физике. Ответьте РЅР° СЂСѓСЃСЃРєРѕРј языке." }, { "model_name": "DeepSeek R1 Distill Qwen 14B", "score": 0.3461331901181525, "math_score": 0.4473684210526316, "physics_score": 0.24489795918367346, "total_tokens": 806258, "evaluation_time": 7904.137916564941, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." }, { "model_name": "DeepSeek V3 0324", "score": 0.34334049409237377, "math_score": 0.43157894736842106, "physics_score": 0.25510204081632654, "total_tokens": 339857, "evaluation_time": 2901.8081181049347, "system_prompt": "Р’С‹ - полезный помощник РїРѕ математике Рё физике. Ответьте РЅР° СЂСѓСЃСЃРєРѕРј языке." }, { "model_name": "gpt-4o", "score": 0.3382384532760473, "math_score": 0.43157894736842106, "physics_score": 0.24489795918367346, "total_tokens": 399483, "evaluation_time": 1145.0411348342896, "system_prompt": "Р’С‹ - полезный помощник РїРѕ математике Рё физике. Ответьте РЅР° СЂСѓСЃСЃРєРѕРј языке." }, { "model_name": "GigaChat-2-Max", "score": 0.3142320085929109, "math_score": 0.3631578947368421, "physics_score": 0.2653061224489796, "total_tokens": 185204, "evaluation_time": 965.8490540981293, "system_prompt": "Р’С‹ - полезный помощник РїРѕ математике Рё физике. Ответьте РЅР° СЂСѓСЃСЃРєРѕРј языке." }, { "model_name": "GigaChat-2-Pro", "score": 0.27013963480128894, "math_score": 0.3157894736842105, "physics_score": 0.22448979591836735, "total_tokens": 215297, "evaluation_time": 1250.343486070633, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." }, { "model_name": "Qwen2.5 72B Instruct", "score": 0.18947368421052632, "math_score": 0.37894736842105264, "physics_score": 0.0, "total_tokens": 322441, "evaluation_time": 5670.72598361969, "system_prompt": "Р’С‹ - полезный помощник РїРѕ математике Рё физике. Ответьте РЅР° СЂСѓСЃСЃРєРѕРј языке." }, { "model_name": "GigaChat-Max", "score": 0.18147153598281418, "math_score": 0.18947368421052632, "physics_score": 0.17346938775510204, "total_tokens": 200271, "evaluation_time": 1056.4797942638397, "system_prompt": "Р’С‹ - полезный помощник РїРѕ математике Рё физике. Ответьте РЅР° СЂСѓСЃСЃРєРѕРј языке." }, { "model_name": "Gemma 3 4B", "score": 0.17996777658431795, "math_score": 0.2578947368421053, "physics_score": 0.10204081632653061, "total_tokens": 726285, "evaluation_time": 2959.3581898212433, "system_prompt": "Вы - полезный помощник по математике и физике. Ответьте на русском языке." }, { "model_name": "GigaChat-2", "score": 0.08308270676691729, "math_score": 0.09473684210526316, "physics_score": 0.07142857142857142, "total_tokens": 136051, "evaluation_time": 576.884927034378, "system_prompt": "Р’С‹ - полезный помощник РїРѕ математике Рё физике. Ответьте РЅР° СЂСѓСЃСЃРєРѕРј языке." } ]