Spaces:
Sleeping
Sleeping
Download eval/benchmark_tool_vs_notool_results.json from Cuong2004/math-solver: direct link, hf CLI and curl.
- Browser
- Download file 30.7 kB
-
https://huggingface.co/spaces/Cuong2004/math-solver/resolve/main/eval/benchmark_tool_vs_notool_results.json
- Command line
-
hf download hf://spaces/Cuong2004/math-solver/eval/benchmark_tool_vs_notool_results.json
-
curl -L -o benchmark_tool_vs_notool_results.json https://huggingface.co/spaces/Cuong2004/math-solver/resolve/main/eval/benchmark_tool_vs_notool_results.json
30.7 kB
| [ | |
| { | |
| "id": "geo_2016_essay_qessay_V", | |
| "year": 2016, | |
| "topic": "oxyz", | |
| "subtopic": "oxyz_advanced", | |
| "difficulty": "easy", | |
| "raw_text": "Câu V (1,0 điểm). Trong không gian với hệ tọa độ\n cho ba điểm\n\n và\n Viết phương trình mặt phẳng đi qua\n,\nOxyz\n(3;2; 2),\nA\n−\n(1;0;1)\nB\n(2; 1;3).\nC\n−\nA và vuông góc với đường thẳng\n.\nBC Tìm tọa độ\nhình chiếu vuông góc của A trên đường thẳng\n.\nBC", | |
| "ground_truth_answer": "(P): x - y + 2z + 3 = 0; H(0; 1; -1)", | |
| "no_tool": { | |
| "status": "OK", | |
| "latency_ms": 173802.8, | |
| "predicted_answer": null, | |
| "answer_match": false, | |
| "predicted_coordinates": {}, | |
| "geometry_eval": { | |
| "is_valid": false, | |
| "checked_count": 0, | |
| "error_count": 0, | |
| "csr_pct": 0.0, | |
| "oxyz_mae": null, | |
| "oxyz_mse": null, | |
| "errors": [ | |
| "No coordinates provided" | |
| ] | |
| } | |
| }, | |
| "tool": { | |
| "status": "OK", | |
| "latency_ms": 73650.2, | |
| "math_latency_ms": 73607.4, | |
| "engine_latency_ms": 42.8, | |
| "predicted_answer": "Matrix([[t + 2], [t + 1], [3 - 5*t]])", | |
| "answer_match": false, | |
| "predicted_coordinates": { | |
| "A": [ | |
| -1.0, | |
| 0.0, | |
| 1.0 | |
| ], | |
| "B": [ | |
| 3.0, | |
| 2.0, | |
| -2.0 | |
| ], | |
| "C": [ | |
| 2.0, | |
| 1.0, | |
| 3.0 | |
| ], | |
| "BC": [ | |
| -2.4271, | |
| -1.7634, | |
| 0.0 | |
| ], | |
| "B, C": [ | |
| 0.9271, | |
| -2.8532, | |
| 0.0 | |
| ], | |
| "H": [ | |
| 2.2222, | |
| 1.2222, | |
| 1.8889 | |
| ] | |
| }, | |
| "geometry_eval": { | |
| "is_valid": true, | |
| "checked_count": 13, | |
| "error_count": 0, | |
| "csr_pct": 100.0, | |
| "oxyz_mae": 0.0, | |
| "oxyz_mse": 0.0, | |
| "errors": [] | |
| } | |
| } | |
| }, | |
| { | |
| "id": "geo_2016_essay_qessay_VII", | |
| "year": 2016, | |
| "topic": "solid_geometry", | |
| "subtopic": "polyhedra_volume", | |
| "difficulty": "medium", | |
| "raw_text": "Câu VII (1,0 điểm). Cho lăng trụ\n'\n. '\n'\nABC A B C có đáy ABC là tam giác vuông cân tại\n,\nB\n2 .\nAC\na\n=\n\nHình chiếu vuông góc của\n'\nA trên mặt phẳng (\n)\nABC là trung điểm của cạnh\n,\nAC đường thẳng\n'\nA B\ntạo với mặt phẳng (\n)\nABC một góc 45o. Tính theo\n thể tích khối lăng trụ\na\n. '\n'\n'\nABC A B C và chứng\nminh\n'\nA B vuông góc với\n' .\nB C", | |
| "ground_truth_answer": "V = a^3", | |
| "no_tool": { | |
| "status": "OK", | |
| "latency_ms": 175275.6, | |
| "predicted_answer": null, | |
| "answer_match": false, | |
| "predicted_coordinates": {}, | |
| "geometry_eval": { | |
| "is_valid": false, | |
| "checked_count": 0, | |
| "error_count": 0, | |
| "csr_pct": 0.0, | |
| "oxyz_mae": null, | |
| "oxyz_mse": null, | |
| "errors": [ | |
| "No coordinates provided" | |
| ] | |
| } | |
| }, | |
| "tool": { | |
| "status": "ERROR", | |
| "latency_ms": 270415.7, | |
| "error": "Agent 'reasoning_solver' cascade exhausted all 1 model tiers. Last error: litellm.Timeout: Connection timed out. Timeout passed=90.0, time taken=90.004 seconds", | |
| "answer_match": false, | |
| "geometry_eval": { | |
| "is_valid": false, | |
| "csr_pct": 0.0 | |
| } | |
| } | |
| }, | |
| { | |
| "id": "geo_2016_essay_qessay_VIII", | |
| "year": 2016, | |
| "topic": "plane_geometry", | |
| "subtopic": "plane_geometry", | |
| "difficulty": "medium", | |
| "raw_text": "Câu VIII (1,0 điểm). Trong mặt phẳng với hệ tọa độ\n cho tứ giác\n,\nOxy\nABCD nội tiếp đường tròn\nđường kính\n.\nBD Gọi\n,\nM N lần lượt là hình chiếu vuông góc của A trên các đường thẳng\n,\nBC BD và\n là giao điểm của hai đường thẳng\nP\n,\n.\nMN AC Biết đường thẳng AC có phương trình\n1\n0,\nx\ny\n−\n−=\n\n và hoành độ điểm\n(0;4),\n(2;2)\nM\nN\nA nhỏ hơn 2. Tìm tọa độ các điểm\n và\n,\nP A\n.\nB", | |
| "ground_truth_answer": "P(5/2; 3/2), A(0; -1), B(-1; 4)", | |
| "no_tool": { | |
| "status": "OK", | |
| "latency_ms": 174763.2, | |
| "predicted_answer": null, | |
| "answer_match": false, | |
| "predicted_coordinates": {}, | |
| "geometry_eval": { | |
| "is_valid": false, | |
| "checked_count": 0, | |
| "error_count": 0, | |
| "csr_pct": 0.0, | |
| "oxyz_mae": null, | |
| "oxyz_mse": null, | |
| "errors": [ | |
| "No coordinates provided" | |
| ] | |
| } | |
| }, | |
| "tool": { | |
| "status": "ERROR", | |
| "latency_ms": 270349.2, | |
| "error": "Agent 'reasoning_solver' cascade exhausted all 1 model tiers. Last error: litellm.Timeout: Connection timed out. Timeout passed=90.0, time taken=90.003 seconds", | |
| "answer_match": false, | |
| "geometry_eval": { | |
| "is_valid": false, | |
| "csr_pct": 0.0 | |
| } | |
| } | |
| }, | |
| { | |
| "id": "geo_2017_123_q2", | |
| "year": 2017, | |
| "topic": "oxyz", | |
| "subtopic": "oxyz_basic", | |
| "difficulty": "easy", | |
| "raw_text": "Câu 2. Trong không gian với hệ tọa độ 𝑂𝑥𝑦𝑧, cho mặt phẳng (𝑃):𝑥−2𝑦+ 𝑧−5 = 0. Điểm nào\ndưới đây thuộc (𝑃) ?", | |
| "ground_truth_answer": "M(1; 1; 6)", | |
| "no_tool": { | |
| "status": "OK", | |
| "latency_ms": 174317.9, | |
| "predicted_answer": "<đáp án toán học cuối cùng: số, phân số, phương trình mp/đt, toạ độ điểm>", | |
| "answer_match": false, | |
| "predicted_coordinates": {}, | |
| "geometry_eval": { | |
| "is_valid": false, | |
| "checked_count": 0, | |
| "error_count": 0, | |
| "csr_pct": 0.0, | |
| "oxyz_mae": null, | |
| "oxyz_mse": null, | |
| "errors": [ | |
| "No coordinates provided" | |
| ] | |
| } | |
| }, | |
| "tool": { | |
| "status": "OK", | |
| "latency_ms": 41199.799999999996, | |
| "math_latency_ms": 41198.2, | |
| "engine_latency_ms": 1.6, | |
| "predicted_answer": "-5", | |
| "answer_match": false, | |
| "predicted_coordinates": { | |
| "P": [ | |
| 0.0, | |
| 0.0, | |
| 0.0 | |
| ], | |
| "-2.0": [ | |
| -3.0, | |
| 0.0, | |
| 0.0 | |
| ], | |
| "-5.0": [ | |
| 3.0, | |
| 0.0, | |
| 0.0 | |
| ] | |
| }, | |
| "geometry_eval": { | |
| "is_valid": true, | |
| "checked_count": 4, | |
| "error_count": 0, | |
| "csr_pct": 100.0, | |
| "oxyz_mae": 0.0, | |
| "oxyz_mse": 0.0, | |
| "errors": [] | |
| } | |
| } | |
| }, | |
| { | |
| "id": "geo_2017_123_q9", | |
| "year": 2017, | |
| "topic": "oxyz", | |
| "subtopic": "oxyz_basic", | |
| "difficulty": "easy", | |
| "raw_text": "Câu 9. Trong không gian với hệ tọa độ 𝑂𝑥𝑦𝑧, vectơ nào dưới đây là một vectơ pháp tuyến của\nmặt phẳng (𝑂𝑥𝑦) ?", | |
| "ground_truth_answer": "k = (0; 0; 1)", | |
| "no_tool": { | |
| "status": "OK", | |
| "latency_ms": 174860.7, | |
| "predicted_answer": "(0, 0, 1)", | |
| "answer_match": true, | |
| "predicted_coordinates": { | |
| "A": [ | |
| 0, | |
| 0, | |
| 0 | |
| ], | |
| "B": [ | |
| 1, | |
| 0, | |
| 0 | |
| ] | |
| }, | |
| "geometry_eval": { | |
| "is_valid": true, | |
| "checked_count": 4, | |
| "error_count": 0, | |
| "csr_pct": 100.0, | |
| "oxyz_mae": null, | |
| "oxyz_mse": null, | |
| "errors": [] | |
| } | |
| }, | |
| "tool": { | |
| "status": "OK", | |
| "latency_ms": 27215.699999999997, | |
| "math_latency_ms": 27210.1, | |
| "engine_latency_ms": 5.6, | |
| "predicted_answer": "Matrix([[0], [0], [1]])", | |
| "answer_match": true, | |
| "predicted_coordinates": { | |
| "O": [ | |
| 0.0, | |
| 0.0, | |
| 0.0 | |
| ], | |
| "x": [ | |
| 1.0, | |
| 0.0, | |
| 0.0 | |
| ], | |
| "y": [ | |
| 0.0, | |
| 1.0, | |
| 0.0 | |
| ], | |
| "z": [ | |
| 0.0, | |
| 0.0, | |
| 1.0 | |
| ], | |
| "Oxy": [ | |
| 2.0, | |
| 2.0, | |
| 4.0 | |
| ] | |
| }, | |
| "geometry_eval": { | |
| "is_valid": true, | |
| "checked_count": 4, | |
| "error_count": 0, | |
| "csr_pct": 100.0, | |
| "oxyz_mae": 0.0, | |
| "oxyz_mse": 0.0, | |
| "errors": [] | |
| } | |
| } | |
| }, | |
| { | |
| "id": "geo_2017_123_q12", | |
| "year": 2017, | |
| "topic": "solid_geometry", | |
| "subtopic": "polyhedra_volume", | |
| "difficulty": "easy", | |
| "raw_text": "Câu 12. Tính bán kính 𝑅 của mặt cầu ngoại tiếp một hình lập phương có cạnh bằng 2𝑎.", | |
| "ground_truth_answer": "R = sqrt(3)*a", | |
| "no_tool": { | |
| "status": "OK", | |
| "latency_ms": 40945.8, | |
| "predicted_answer": "a\\\\sqrt{3}", | |
| "answer_match": true, | |
| "predicted_coordinates": {}, | |
| "geometry_eval": { | |
| "is_valid": false, | |
| "checked_count": 0, | |
| "error_count": 0, | |
| "csr_pct": 0.0, | |
| "oxyz_mae": null, | |
| "oxyz_mse": null, | |
| "errors": [ | |
| "No coordinates provided" | |
| ] | |
| } | |
| }, | |
| "tool": { | |
| "status": "OK", | |
| "latency_ms": 30412.7, | |
| "math_latency_ms": 30406.2, | |
| "engine_latency_ms": 6.5, | |
| "predicted_answer": "sqrt(3)*a", | |
| "answer_match": true, | |
| "predicted_coordinates": { | |
| "A": [ | |
| 0.0, | |
| 0.0, | |
| 0.0 | |
| ], | |
| "B": [ | |
| 8.0, | |
| 0.0, | |
| 0.0 | |
| ], | |
| "C": [ | |
| 8.0, | |
| 8.0, | |
| 0.0 | |
| ], | |
| "D": [ | |
| 0.0, | |
| 8.0, | |
| 0.0 | |
| ], | |
| "A1": [ | |
| 0.0, | |
| 0.0, | |
| 8.0 | |
| ], | |
| "B1": [ | |
| 8.0, | |
| 0.0, | |
| 8.0 | |
| ], | |
| "C1": [ | |
| 8.0, | |
| 8.0, | |
| 8.0 | |
| ], | |
| "D1": [ | |
| 0.0, | |
| 8.0, | |
| 8.0 | |
| ] | |
| }, | |
| "geometry_eval": { | |
| "is_valid": true, | |
| "checked_count": 35, | |
| "error_count": 0, | |
| "csr_pct": 100.0, | |
| "oxyz_mae": 0.0, | |
| "oxyz_mse": 0.0, | |
| "errors": [] | |
| } | |
| } | |
| }, | |
| { | |
| "id": "geo_2017_123_q14", | |
| "year": 2017, | |
| "topic": "oxyz", | |
| "subtopic": "oxyz_basic", | |
| "difficulty": "easy", | |
| "raw_text": "Câu 14. Trong không gian với hệ tọa độ 𝑂𝑥𝑦𝑧, phương trình nào dưới đây là phương trình mặt\nphẳng đi qua điểm 𝑀(3; −1; 1) và vuông góc với đường thẳng 𝛥: 𝑥−1\n3\n= 𝑦+ 2\n−2\n= 𝑧−3\n1\n ?", | |
| "ground_truth_answer": "3x - 2y + z - 12 = 0", | |
| "no_tool": { | |
| "status": "OK", | |
| "latency_ms": 47563.3, | |
| "predicted_answer": "3x - 2y + z - 12 = 0", | |
| "answer_match": true, | |
| "predicted_coordinates": { | |
| "M": [ | |
| 3, | |
| -1, | |
| 1 | |
| ] | |
| }, | |
| "geometry_eval": { | |
| "is_valid": true, | |
| "checked_count": 6, | |
| "error_count": 0, | |
| "csr_pct": 100.0, | |
| "oxyz_mae": 0.0, | |
| "oxyz_mse": 0.0, | |
| "errors": [] | |
| } | |
| }, | |
| "tool": { | |
| "status": "OK", | |
| "latency_ms": 48924.4, | |
| "math_latency_ms": 48902.3, | |
| "engine_latency_ms": 22.1, | |
| "predicted_answer": "3x - 2y + z - 12 = 0", | |
| "answer_match": true, | |
| "predicted_coordinates": { | |
| "M": [ | |
| 3.0, | |
| -1.0, | |
| 1.0 | |
| ], | |
| "Delta": [ | |
| 2.1213, | |
| 2.1213, | |
| 0.0 | |
| ], | |
| "1, 3, -2, 1": [ | |
| 0.0, | |
| 3.0, | |
| 0.0 | |
| ], | |
| "P": [ | |
| -2.5485, | |
| 1.3234, | |
| -0.2832 | |
| ], | |
| "D": [ | |
| -2.5728, | |
| 0.7979, | |
| 0.2832 | |
| ], | |
| "e": [ | |
| -2.1314, | |
| -2.1587, | |
| 0.1003 | |
| ], | |
| "l": [ | |
| 0.1351, | |
| -2.6862, | |
| -0.2919 | |
| ], | |
| "t": [ | |
| 2.1474, | |
| -1.8056, | |
| 0.6115 | |
| ], | |
| "a": [ | |
| 1.8489, | |
| 1.4078, | |
| 3.5801 | |
| ] | |
| }, | |
| "geometry_eval": { | |
| "is_valid": true, | |
| "checked_count": 14, | |
| "error_count": 0, | |
| "csr_pct": 100.0, | |
| "oxyz_mae": 0.0, | |
| "oxyz_mse": 0.0, | |
| "errors": [] | |
| } | |
| } | |
| }, | |
| { | |
| "id": "geo_2017_123_q16", | |
| "year": 2017, | |
| "topic": "solid_geometry", | |
| "subtopic": "polyhedra_volume", | |
| "difficulty": "easy", | |
| "raw_text": "Câu 16. Cho khối chóp tứ giác đều có cạnh đáy bằng 𝑎, cạnh bên gấp hai lần cạnh đáy. Tính thể\ntích 𝑉 của khối chóp đã cho.", | |
| "ground_truth_answer": "V = sqrt(14)/6 * a^3", | |
| "no_tool": { | |
| "status": "OK", | |
| "latency_ms": 91571.8, | |
| "predicted_answer": "\\frac{\\sqrt{14}}{6}a^3", | |
| "answer_match": true, | |
| "predicted_coordinates": { | |
| "S": [ | |
| 0, | |
| 0, | |
| "a\\sqrt{14}/2" | |
| ], | |
| "A": [ | |
| "a/2", | |
| "a/2", | |
| 0 | |
| ], | |
| "B": [ | |
| "-a/2", | |
| "a/2", | |
| 0 | |
| ], | |
| "C": [ | |
| "-a/2", | |
| "-a/2", | |
| 0 | |
| ], | |
| "D": [ | |
| "a/2", | |
| "-a/2", | |
| 0 | |
| ] | |
| }, | |
| "geometry_eval": { | |
| "is_valid": false, | |
| "checked_count": 0, | |
| "error_count": 0, | |
| "csr_pct": 0.0, | |
| "oxyz_mae": null, | |
| "oxyz_mse": null, | |
| "errors": [ | |
| "Failed to parse numerical coordinates" | |
| ] | |
| } | |
| }, | |
| "tool": { | |
| "status": "OK", | |
| "latency_ms": 47708.5, | |
| "math_latency_ms": 47700.6, | |
| "engine_latency_ms": 7.9, | |
| "predicted_answer": "sqrt(14)*a**3/6", | |
| "answer_match": true, | |
| "predicted_coordinates": { | |
| "A": [ | |
| 0.0, | |
| 0.0, | |
| 0.0 | |
| ], | |
| "B": [ | |
| 4.0, | |
| 0.0, | |
| 0.0 | |
| ], | |
| "C": [ | |
| 4.0, | |
| 4.0, | |
| 0.0 | |
| ], | |
| "D": [ | |
| 0.0, | |
| 4.0, | |
| 0.0 | |
| ], | |
| "O": [ | |
| 2.0, | |
| 2.0, | |
| 0.0 | |
| ], | |
| "S": [ | |
| 2.0, | |
| 2.0, | |
| 7.4833 | |
| ] | |
| }, | |
| "geometry_eval": { | |
| "is_valid": true, | |
| "checked_count": 37, | |
| "error_count": 0, | |
| "csr_pct": 100.0, | |
| "oxyz_mae": 0.0, | |
| "oxyz_mse": 0.0, | |
| "errors": [] | |
| } | |
| } | |
| }, | |
| { | |
| "id": "geo_2017_123_q18", | |
| "year": 2017, | |
| "topic": "round_bodies", | |
| "subtopic": "round_bodies", | |
| "difficulty": "easy", | |
| "raw_text": "Câu 18. Tính thể tích 𝑉 của khối trụ có bán kính đáy 𝑟= 4 và chiều cao ℎ= 4 2\n√.", | |
| "ground_truth_answer": "V = 64*sqrt(2)*pi", | |
| "no_tool": { | |
| "status": "OK", | |
| "latency_ms": 90874.1, | |
| "predicted_answer": "64\\sqrt{2}\\pi", | |
| "answer_match": true, | |
| "predicted_coordinates": { | |
| "A": [ | |
| 4, | |
| 0, | |
| 0 | |
| ], | |
| "B": [ | |
| 0, | |
| 4, | |
| 0 | |
| ] | |
| }, | |
| "geometry_eval": { | |
| "is_valid": true, | |
| "checked_count": 6, | |
| "error_count": 0, | |
| "csr_pct": 100.0, | |
| "oxyz_mae": null, | |
| "oxyz_mse": null, | |
| "errors": [] | |
| } | |
| }, | |
| "tool": { | |
| "status": "OK", | |
| "latency_ms": 23976.4, | |
| "math_latency_ms": 23963.9, | |
| "engine_latency_ms": 12.5, | |
| "predicted_answer": "64*sqrt(2)*pi", | |
| "answer_match": true, | |
| "predicted_coordinates": { | |
| "O1": [ | |
| -0.0, | |
| 0.0, | |
| 0.0 | |
| ], | |
| "O2": [ | |
| -4.277, | |
| -0.0, | |
| -0.0 | |
| ], | |
| "O1_": [ | |
| -0.2808, | |
| 0.1753, | |
| 0.0 | |
| ] | |
| }, | |
| "geometry_eval": { | |
| "is_valid": true, | |
| "checked_count": 7, | |
| "error_count": 0, | |
| "csr_pct": 100.0, | |
| "oxyz_mae": 1.1915, | |
| "oxyz_mse": 2.8391, | |
| "errors": [] | |
| } | |
| } | |
| }, | |
| { | |
| "id": "geo_2017_123_q26", | |
| "year": 2017, | |
| "topic": "oxyz", | |
| "subtopic": "oxyz_advanced", | |
| "difficulty": "easy", | |
| "raw_text": "Câu 26. Trong không gian với hệ tọa độ 𝑂𝑥𝑦𝑧, cho điểm 𝑀(1; −2; 3). Gọi 𝐼 là hình chiếu vuông\ngóc của 𝑀 trên trục 𝑂𝑥. Phương trình nào dưới đây là phương trình của mặt cầu tâm 𝐼, bán kính\n𝐼𝑀 ?", | |
| "ground_truth_answer": "(x - 1)^2 + y^2 + z^2 = 13", | |
| "no_tool": { | |
| "status": "OK", | |
| "latency_ms": 79580.4, | |
| "predicted_answer": "(x-1)^2 + y^2 + z^2 = 13", | |
| "answer_match": true, | |
| "predicted_coordinates": { | |
| "M": [ | |
| 1, | |
| -2, | |
| 3 | |
| ], | |
| "I": [ | |
| 1, | |
| 0, | |
| 0 | |
| ] | |
| }, | |
| "geometry_eval": { | |
| "is_valid": true, | |
| "checked_count": 4, | |
| "error_count": 0, | |
| "csr_pct": 100.0, | |
| "oxyz_mae": 0.0, | |
| "oxyz_mse": 0.0, | |
| "errors": [] | |
| } | |
| }, | |
| "tool": { | |
| "status": "OK", | |
| "latency_ms": 45250.6, | |
| "math_latency_ms": 44006.6, | |
| "engine_latency_ms": 1244.0, | |
| "predicted_answer": "(x - 1)^2 + y^2 + z^2 = 13", | |
| "answer_match": true, | |
| "predicted_coordinates": {}, | |
| "geometry_eval": { | |
| "is_valid": false, | |
| "checked_count": 0, | |
| "error_count": 0, | |
| "csr_pct": 0.0, | |
| "oxyz_mae": null, | |
| "oxyz_mse": null, | |
| "errors": [ | |
| "No coordinates provided" | |
| ] | |
| } | |
| } | |
| }, | |
| { | |
| "id": "geo_2017_123_q27", | |
| "year": 2017, | |
| "topic": "oxyz", | |
| "subtopic": "oxyz_basic", | |
| "difficulty": "easy", | |
| "raw_text": "Câu 27. Trong không gian với hệ tọa độ 𝑂𝑥𝑦𝑧, phương trình nào dưới đây là phương trình của\nđường thẳng đi qua điểm 𝐴(2; 3; 0) và vuông góc với mặt phẳng (𝑃):𝑥+ 3𝑦−𝑧+ 5 = 0 ?", | |
| "ground_truth_answer": "x = 1 + t, y = 3t, z = 1 - t", | |
| "no_tool": { | |
| "status": "OK", | |
| "latency_ms": 60915.7, | |
| "predicted_answer": "\\frac{x-2}{1} = \\frac{y-3}{3} = \\frac{z}{-1}", | |
| "answer_match": false, | |
| "predicted_coordinates": { | |
| "A": [ | |
| 2, | |
| 3, | |
| 0 | |
| ], | |
| "B": [ | |
| 3, | |
| 6, | |
| -1 | |
| ] | |
| }, | |
| "geometry_eval": { | |
| "is_valid": true, | |
| "checked_count": 8, | |
| "error_count": 0, | |
| "csr_pct": 100.0, | |
| "oxyz_mae": 0.0, | |
| "oxyz_mse": 0.0, | |
| "errors": [] | |
| } | |
| }, | |
| "tool": { | |
| "status": "OK", | |
| "latency_ms": 48658.2, | |
| "math_latency_ms": 48642.6, | |
| "engine_latency_ms": 15.6, | |
| "predicted_answer": "x - 2 = (y - 3)/3 = z/(-1)", | |
| "answer_match": false, | |
| "predicted_coordinates": { | |
| "A": [ | |
| 2.0, | |
| 3.0, | |
| 0.0 | |
| ], | |
| "L": [ | |
| 1.3246, | |
| 2.6295, | |
| 0.0 | |
| ], | |
| "I": [ | |
| -3.4777, | |
| -0.0048, | |
| 0.0 | |
| ], | |
| "P": [ | |
| 0.0, | |
| -3.0, | |
| 0.0 | |
| ], | |
| "-1.0": [ | |
| 2.0, | |
| 2.0, | |
| 4.0 | |
| ] | |
| }, | |
| "geometry_eval": { | |
| "is_valid": true, | |
| "checked_count": 11, | |
| "error_count": 0, | |
| "csr_pct": 100.0, | |
| "oxyz_mae": 0.0, | |
| "oxyz_mse": 0.0, | |
| "errors": [] | |
| } | |
| } | |
| }, | |
| { | |
| "id": "geo_2017_123_q28", | |
| "year": 2017, | |
| "topic": "solid_geometry", | |
| "subtopic": "polyhedra_volume", | |
| "difficulty": "easy", | |
| "raw_text": "Câu 28. Hình hộp chữ nhật có ba kích thước đôi một khác nhau có bao nhiêu mặt phẳng đối xứng ?", | |
| "ground_truth_answer": "3", | |
| "no_tool": { | |
| "status": "OK", | |
| "latency_ms": 173872.8, | |
| "predicted_answer": null, | |
| "answer_match": false, | |
| "predicted_coordinates": {}, | |
| "geometry_eval": { | |
| "is_valid": false, | |
| "checked_count": 0, | |
| "error_count": 0, | |
| "csr_pct": 0.0, | |
| "oxyz_mae": null, | |
| "oxyz_mse": null, | |
| "errors": [ | |
| "No coordinates provided" | |
| ] | |
| } | |
| }, | |
| "tool": { | |
| "status": "OK", | |
| "latency_ms": 66585.3, | |
| "math_latency_ms": 62717.6, | |
| "engine_latency_ms": 3867.7, | |
| "predicted_answer": "3", | |
| "answer_match": true, | |
| "predicted_coordinates": {}, | |
| "geometry_eval": { | |
| "is_valid": false, | |
| "checked_count": 0, | |
| "error_count": 0, | |
| "csr_pct": 0.0, | |
| "oxyz_mae": null, | |
| "oxyz_mse": null, | |
| "errors": [ | |
| "No coordinates provided" | |
| ] | |
| } | |
| } | |
| }, | |
| { | |
| "id": "geo_2017_123_q37", | |
| "year": 2017, | |
| "topic": "solid_geometry", | |
| "subtopic": "polyhedra_volume", | |
| "difficulty": "medium", | |
| "raw_text": "Câu 37. Cho khối chóp 𝑆. 𝐴𝐵𝐶𝐷 có đáy là hình vuông cạnh a, 𝑆𝐴 vuông góc với đáy và 𝑆𝐶 tạo\nvới mặt phẳng (𝑆𝐴𝐵) một góc 30o . Tính thể tích 𝑉 của khối chóp đã cho.", | |
| "ground_truth_answer": "V = sqrt(2)/3 * a^3", | |
| "no_tool": { | |
| "status": "OK", | |
| "latency_ms": 138424.4, | |
| "predicted_answer": "\\\\frac{a^3\\\\sqrt{2}}{3}", | |
| "answer_match": false, | |
| "predicted_coordinates": {}, | |
| "geometry_eval": { | |
| "is_valid": false, | |
| "checked_count": 0, | |
| "error_count": 0, | |
| "csr_pct": 0.0, | |
| "oxyz_mae": null, | |
| "oxyz_mse": null, | |
| "errors": [ | |
| "No coordinates provided" | |
| ] | |
| } | |
| }, | |
| "tool": { | |
| "status": "OK", | |
| "latency_ms": 52197.399999999994, | |
| "math_latency_ms": 52194.7, | |
| "engine_latency_ms": 2.7, | |
| "predicted_answer": "sqrt(2)*a**2*sqrt(a**2)/3", | |
| "answer_match": false, | |
| "predicted_coordinates": { | |
| "A": [ | |
| 0.0, | |
| 0.0, | |
| 0.0 | |
| ], | |
| "B": [ | |
| 4.0, | |
| 0.0, | |
| 0.0 | |
| ], | |
| "C": [ | |
| 4.0, | |
| 4.0, | |
| 0.0 | |
| ], | |
| "D": [ | |
| 0.0, | |
| 4.0, | |
| 0.0 | |
| ], | |
| "S": [ | |
| 0.0, | |
| 0.0, | |
| 8.0 | |
| ] | |
| }, | |
| "geometry_eval": { | |
| "is_valid": true, | |
| "checked_count": 26, | |
| "error_count": 0, | |
| "csr_pct": 100.0, | |
| "oxyz_mae": 0.0, | |
| "oxyz_mse": 0.0, | |
| "errors": [] | |
| } | |
| } | |
| }, | |
| { | |
| "id": "geo_2017_123_q38", | |
| "year": 2017, | |
| "topic": "solid_geometry", | |
| "subtopic": "polyhedra_volume", | |
| "difficulty": "medium", | |
| "raw_text": "Câu 38. Cho hình chóp tứ giác đều 𝑆. 𝐴𝐵𝐶𝐷 có các cạnh đều bằng 𝑎2\n√. Tính thể tích 𝑉 của khối\nnón có đỉnh 𝑆 và đường tròn đáy là đường tròn nội tiếp tứ giác 𝐴𝐵𝐶𝐷.", | |
| "ground_truth_answer": "V = pi*a^3 / 6", | |
| "no_tool": { | |
| "status": "OK", | |
| "latency_ms": 162366.8, | |
| "predicted_answer": "\\frac{\\pi a^3}{6}", | |
| "answer_match": true, | |
| "predicted_coordinates": { | |
| "S": [ | |
| 0, | |
| 0, | |
| "a" | |
| ], | |
| "A": [ | |
| "a\\sqrt{2}/2", | |
| "a\\sqrt{2}/2", | |
| 0 | |
| ], | |
| "B": [ | |
| "-a\\sqrt{2}/2", | |
| "a\\sqrt{2}/2", | |
| 0 | |
| ], | |
| "C": [ | |
| "-a\\sqrt{2}/2", | |
| "-a\\sqrt{2}/2", | |
| 0 | |
| ], | |
| "D": [ | |
| "a\\sqrt{2}/2", | |
| "-a\\sqrt{2}/2", | |
| 0 | |
| ] | |
| }, | |
| "geometry_eval": { | |
| "is_valid": false, | |
| "checked_count": 0, | |
| "error_count": 0, | |
| "csr_pct": 0.0, | |
| "oxyz_mae": null, | |
| "oxyz_mse": null, | |
| "errors": [ | |
| "Failed to parse numerical coordinates" | |
| ] | |
| } | |
| }, | |
| "tool": { | |
| "status": "OK", | |
| "latency_ms": 69180.9, | |
| "math_latency_ms": 65873.0, | |
| "engine_latency_ms": 3307.9, | |
| "predicted_answer": "pi*a**2*sqrt(a**2)/6", | |
| "answer_match": false, | |
| "predicted_coordinates": {}, | |
| "geometry_eval": { | |
| "is_valid": false, | |
| "checked_count": 0, | |
| "error_count": 0, | |
| "csr_pct": 0.0, | |
| "oxyz_mae": null, | |
| "oxyz_mse": null, | |
| "errors": [ | |
| "No coordinates provided" | |
| ] | |
| } | |
| } | |
| }, | |
| { | |
| "id": "geo_2017_123_q40", | |
| "year": 2017, | |
| "topic": "oxyz", | |
| "subtopic": "oxyz_basic", | |
| "difficulty": "medium", | |
| "raw_text": "Câu 40. Trong không gian với hệ tọa độ 𝑂𝑥𝑦𝑧, cho hai đường thẳng 𝑑ଵ:൞\n𝑥= 1 + 3𝑡\n𝑦= −2 + 𝑡\n𝑧= 2\n,\n𝑑ଶ: 𝑥−1\n2\n= 𝑦+ 2\n−1\n= 𝑧\n2 và mặt phẳng (𝑃):2𝑥+ 2𝑦−3𝑧= 0. Phương trình nào dưới đây là\nphương trình mặt phẳng đi qua giao điểm của 𝑑ଵ và (𝑃), đồng thời vuông góc với 𝑑ଶ?", | |
| "ground_truth_answer": "2x - y + 2z - 13 = 0", | |
| "no_tool": { | |
| "status": "OK", | |
| "latency_ms": 170382.3, | |
| "predicted_answer": null, | |
| "answer_match": false, | |
| "predicted_coordinates": {}, | |
| "geometry_eval": { | |
| "is_valid": false, | |
| "checked_count": 0, | |
| "error_count": 0, | |
| "csr_pct": 0.0, | |
| "oxyz_mae": null, | |
| "oxyz_mse": null, | |
| "errors": [ | |
| "No coordinates provided" | |
| ] | |
| } | |
| }, | |
| "tool": { | |
| "status": "OK", | |
| "latency_ms": 57525.2, | |
| "math_latency_ms": 57510.6, | |
| "engine_latency_ms": 14.6, | |
| "predicted_answer": "2x - y + 2z - 13 = 0", | |
| "answer_match": true, | |
| "predicted_coordinates": { | |
| "M1": [ | |
| 1.0, | |
| -2.0, | |
| 2.0 | |
| ], | |
| "M2": [ | |
| 1.0, | |
| -2.0, | |
| 0.0 | |
| ], | |
| "d1": [ | |
| 2.217, | |
| 2.0211, | |
| 0.0 | |
| ], | |
| "M1, 3, 1, 0": [ | |
| 1.3372, | |
| 2.6855, | |
| 0.0 | |
| ], | |
| "d2": [ | |
| 0.2768, | |
| 2.9872, | |
| 0.0 | |
| ], | |
| "M2, 2, -1, 2": [ | |
| -0.821, | |
| 2.8855, | |
| 0.0 | |
| ], | |
| "P_int": [ | |
| -1.8079, | |
| 2.3941, | |
| 0.0 | |
| ], | |
| "P": [ | |
| -2.5507, | |
| 1.5793, | |
| 0.0 | |
| ], | |
| "l": [ | |
| -2.9489, | |
| 0.5512, | |
| 0.0 | |
| ], | |
| "a": [ | |
| -2.9489, | |
| -0.5512, | |
| 0.0 | |
| ], | |
| "n": [ | |
| -2.5507, | |
| -1.5793, | |
| 0.0 | |
| ], | |
| "e_": [ | |
| -1.8079, | |
| -2.3941, | |
| 0.0 | |
| ], | |
| "T": [ | |
| -0.821, | |
| -2.8855, | |
| 0.0 | |
| ], | |
| "r": [ | |
| 0.2768, | |
| -2.9872, | |
| 0.0 | |
| ], | |
| "g": [ | |
| 1.3372, | |
| -2.6855, | |
| 0.0 | |
| ], | |
| "e": [ | |
| 2.217, | |
| -2.0211, | |
| 0.0 | |
| ], | |
| "t": [ | |
| 2.7974, | |
| -1.0837, | |
| 0.0 | |
| ], | |
| "-3.0": [ | |
| 2.0, | |
| 2.0, | |
| 4.0 | |
| ] | |
| }, | |
| "geometry_eval": { | |
| "is_valid": true, | |
| "checked_count": 25, | |
| "error_count": 0, | |
| "csr_pct": 100.0, | |
| "oxyz_mae": 0.0, | |
| "oxyz_mse": 0.0, | |
| "errors": [] | |
| } | |
| } | |
| }, | |
| { | |
| "id": "geo_2017_123_q43", | |
| "year": 2017, | |
| "topic": "oxyz", | |
| "subtopic": "oxyz_basic", | |
| "difficulty": "hard", | |
| "raw_text": "Câu 43. Trong không gian với hệ tọa độ 𝑂𝑥𝑦𝑧, cho điểm 𝑀( −1; 1; 3) và hai đường thẳng\n𝛥: 𝑥−1\n3\n= 𝑦+ 3\n2\n= 𝑧−1\n1\n, 𝛥ᇱ: 𝑥+ 1\n1\n= 𝑦\n3 = 𝑧\n−2 . Phương trình nào dưới đây là phương trình\nđường thẳng đi qua 𝑀, vuông góc với 𝛥 và 𝛥ᇱ.", | |
| "ground_truth_answer": "x = -1 - t, y = 1 + t, z = 3 + t", | |
| "no_tool": { | |
| "status": "OK", | |
| "latency_ms": 173143.5, | |
| "predicted_answer": null, | |
| "answer_match": false, | |
| "predicted_coordinates": {}, | |
| "geometry_eval": { | |
| "is_valid": false, | |
| "checked_count": 0, | |
| "error_count": 0, | |
| "csr_pct": 0.0, | |
| "oxyz_mae": null, | |
| "oxyz_mse": null, | |
| "errors": [ | |
| "No coordinates provided" | |
| ] | |
| } | |
| }, | |
| "tool": { | |
| "status": "OK", | |
| "latency_ms": 78757.0, | |
| "math_latency_ms": 78751.2, | |
| "engine_latency_ms": 5.8, | |
| "predicted_answer": "\\frac{x+1}{-1} = \\frac{y-1}{1} = \\frac{z-3}{1}", | |
| "answer_match": false, | |
| "predicted_coordinates": { | |
| "M": [ | |
| -1.0, | |
| 1.0, | |
| 3.0 | |
| ], | |
| "P1": [ | |
| 1.0, | |
| -3.0, | |
| 1.0 | |
| ], | |
| "P2": [ | |
| -1.0, | |
| 0.0, | |
| 0.0 | |
| ], | |
| "Delta": [ | |
| -2.7029, | |
| 1.3017, | |
| 0.0 | |
| ], | |
| "P1, P2": [ | |
| -2.7029, | |
| -1.3017, | |
| 0.0 | |
| ], | |
| "Delta_prime": [ | |
| -0.6676, | |
| -2.9248, | |
| 0.0 | |
| ], | |
| "L_target": [ | |
| 1.8705, | |
| -2.3455, | |
| 0.0 | |
| ], | |
| "M, u_target": [ | |
| 2.0, | |
| 2.0, | |
| 4.0 | |
| ] | |
| }, | |
| "geometry_eval": { | |
| "is_valid": true, | |
| "checked_count": 13, | |
| "error_count": 0, | |
| "csr_pct": 100.0, | |
| "oxyz_mae": 0.0, | |
| "oxyz_mse": 0.0, | |
| "errors": [] | |
| } | |
| } | |
| }, | |
| { | |
| "id": "geo_2017_123_q47", | |
| "year": 2017, | |
| "topic": "oxyz", | |
| "subtopic": "optimization_application", | |
| "difficulty": "hard", | |
| "raw_text": "Câu 47. Trong không gian với hệ tọa độ 𝑂𝑥𝑦𝑧, cho mặt cầu (𝑆):𝑥ଶ+ 𝑦ଶ+ 𝑧ଶ= 9, điểm\n𝑀(1; 1; 2) và mặt phẳng (𝑃):𝑥+ 𝑦+ 𝑧−4 = 0. Gọi 𝛥 là đường thẳng đi qua 𝑀, thuộc (𝑃) và cắt\n(𝑆) tại hai điểm 𝐴, 𝐵 sao cho 𝐴𝐵 nhỏ nhất. Biết rằng 𝛥 có một vectơ chỉ phương là 𝑢→(1; 𝑎; 𝑏),\ntính 𝑇= 𝑎−𝑏.", | |
| "ground_truth_answer": "T = -1", | |
| "no_tool": { | |
| "status": "OK", | |
| "latency_ms": 156620.6, | |
| "predicted_answer": "-1", | |
| "answer_match": true, | |
| "predicted_coordinates": { | |
| "A": [ | |
| "1 + sqrt(6)/2", | |
| "1 - sqrt(6)/2", | |
| 2 | |
| ], | |
| "B": [ | |
| "1 - sqrt(6)/2", | |
| "1 + sqrt(6)/2", | |
| 2 | |
| ] | |
| }, | |
| "geometry_eval": { | |
| "is_valid": true, | |
| "checked_count": 14, | |
| "error_count": 0, | |
| "csr_pct": 100.0, | |
| "oxyz_mae": null, | |
| "oxyz_mse": null, | |
| "errors": [] | |
| } | |
| }, | |
| "tool": { | |
| "status": "ERROR", | |
| "latency_ms": 270468.5, | |
| "error": "Agent 'reasoning_solver' cascade exhausted all 1 model tiers. Last error: litellm.Timeout: Connection timed out. Timeout passed=90.0, time taken=90.149 seconds", | |
| "answer_match": false, | |
| "geometry_eval": { | |
| "is_valid": false, | |
| "csr_pct": 0.0 | |
| } | |
| } | |
| } | |
| ] |