|
|
--- |
|
|
dataset_info: |
|
|
features: |
|
|
- name: index |
|
|
dtype: int64 |
|
|
- name: image |
|
|
dtype: image |
|
|
- name: image_path |
|
|
dtype: string |
|
|
- name: question |
|
|
dtype: string |
|
|
- name: answer |
|
|
dtype: string |
|
|
splits: |
|
|
- name: test |
|
|
num_bytes: 204206564 |
|
|
num_examples: 2055 |
|
|
download_size: 193374166 |
|
|
dataset_size: 204206564 |
|
|
configs: |
|
|
- config_name: default |
|
|
data_files: |
|
|
- split: test |
|
|
path: data/test-* |
|
|
--- |
|
|
|
|
|
## KMMR-VisMath |
|
|
**Evaluation toolkit** |
|
|
[](https://github.com/TutorusResearch/VLMEvalkit.git) |
|
|
|
|
|
- **구성**: 수학 문제 해결에 필요한 핵심 정보(가격, 수량, 측정값 등)가 이미지로 제시되고, 이를 활용하여 풀어야 하는 한국어 질의문 및 단계별 추론 과정으로 구성. |
|
|
- **데이터 수량**: 복합추론 데이터 167개, 단순추론 데이터 1,888개 |
|
|
- **특징**: 이미지 내 시각정보를 정확히 인식하고 질의문에서 요구하는 수학적 연산을 수행해야 답변 가능한 복합 추론 문제 |
|
|
- **목적**: 시각-언어 모델의 시각 정보 추출 능력, 한국어 이해 능력, 수학적 추론 능력을 통합적으로 평가하기 위한 벤치마크 데이터셋 |
|
|
|
|
|
## Evaluation Results |
|
|
| Scale | Model | Complex | Simple | overall | |
|
|
| :--- | :--- | :---: | :---: | :---: | |
|
|
| **2B ~ 3B** | Qwen2-VL-2B | 1.19 | 6.99 | 6.52 | |
|
|
| | Qwen2.5-VL-3B | 5.98 | **47.56** | **44.2** | |
|
|
| | InternVL3-2B | **7.18** | 28.44 | 26.74 | |
|
|
| | InternVL3.5-2B | 6.58 | 34.85 | 32.57 | |
|
|
| **7B ~ 8B** | Qwen2-VL-7B | 9.58 | 61.54 | 57.32 | |
|
|
| | Qwen2.5-VL-7B | 16.16 | 71.34 | 66.87 | |
|
|
| | InternVL3-8B | 8.98 | 47.19 | 44.09 | |
|
|
| | InternVL3.5-8B | 13.77 | 61.86 | 57.96 | |
|
|
| | InternVL3.5-8B (Fast Thinking) | 16.76 | **74.25** | 69.59 | |
|
|
| | InternVL3.5-8B (Long Thinking) | **43.71** | 70.07 | **67.93** | |
|
|
| **11B ~ 14B** | Llama-Vision-11B | 2.4 | 7.73 | 7.3 | |
|
|
| | Gemma3-12B | 7.18 | 41.04 | 38.28 | |
|
|
| | InternVL3-14B | 22.15 | 68.85 | 65.07 | |
|
|
| | InternVL3.5-14B | 20.35 | 66.84 | 63.09 | |
|
|
| | InternVL3.5-14B (Fast thinking) | 29.94 | 77.17 | 73.34 | |
|
|
| | InternVL3.5-14B (Long thinking) | **40.71** | **79.87** | **76.69** | |
|
|
| **Commercial** | Gemini2.5-Flash | **65.26** | **87.71** | **85.87** | |
|
|
| | GPT-4.1 | 31.73 | 61.12 | 58.75 | |
|
|
|
|
|
## Acknowledgements |
|
|
본 데이터셋은 2023년도 정부(과학기술정보통신부)의 재원으로 정보통신기획평가원의 지원을 받아 수행된 연구임 |
|
|
(과제번호: RS-2023-00216011, 사람처럼 개념적으로 이해/추론이 가능한 복합인공지능 원천기술 연구) |
|
|
|
|
|
This work was supported by Institute of Information & Communications Technology Planning & Evaluation (IITP) grant funded by the Korea government (MSIT) |
|
|
(RS-2023-00216011, Development of artificial complex intelligence for conceptually understanding and inferring like human) |
|
|
|
