| AndesUI数据集由训练集(train)和测试集(test)两部分组成，其中测试集包含的APP均未在训练集中出现过。 | |
| 该数据集涵盖三大任务类型： | |
| 1. Grounding任务：根据控件描述预测其bbox坐标； | |
| 2. Referring任务：根据给定的bbox预测对应控件的描述信息； | |
| 3. QA任务：根据自然场景的提问回答需要点击的bbox坐标。 | |
| 根据技术报告，原始测试集包含： | |
| - 8,642条Referring数据 | |
| - 7,194条Grounding数据 | |
| - 1,181条QA数据 | |
| 为便于测试，我们从中随机抽取了以下规模的子集： | |
| - Referring数据：1,500条 | |
| - Grounding数据：1,500条 | |
| - QA数据：748条 | |
| 这些子集数据已对外开源。 | |
| 每个子集都提供json和tsv两种格式文件，其中图片路径采用相对路径表示。 | |
| 具体任务说明： | |
| Referring任务： | |
| json文件包含三个字段：description（描述）、imgpath（图片路径）、bbox（边界框）。该任务要求模型根据给定的bbox预测对应控件的描述信息。不同模型对bbox格式有不同要求： | |
| - Qwen模型：推荐使用[xmin,ymin,xmax,ymax]（基于原图坐标） | |
| - Intern模型：推荐使用[xmin,ymin,xmax,ymax]（基于归一化坐标） | |
| 准确率计算标准：预测结果(pred)与描述(description)的最长公共子串长度不为0即视为正确。 | |
| Grounding任务： | |
| json文件包含question（问题）、imgpath（图片路径）、bbox（边界框）三个字段。该任务与Referring任务相反，要求根据控件描述预测其bbox坐标。不同模型的输出格式要求： | |
| - 部分模型适合直接输出[x_center,y_center] | |
| - 部分模型适合输出[xmin,ymin,xmax,ymax] | |
| 对于输出bbox的情况，需计算其几何中心作为[x_center,y_center]。 | |
| 准确率判定标准：预测的中心点坐标需落在真实bbox范围内。 | |
| QA任务的评估标准与Grounding任务保持一致。 | |
| AndesUI Test数据集的评测功能已集成至VLMEvalKit评估工具。针对Grounding、Referring和QA三种任务类型，我们分别开发了对应的专用评测脚本，这些脚本需放置在vlmeval/dataset/GUI目录下，用户可直接调用进行自动化评估。 |