readme_CN.md

AndesUI数据集由训练集(train)和测试集(test)两部分组成，其中测试集包含的APP均未在训练集中出现过。

该数据集涵盖三大任务类型：

1. Grounding任务：根据控件描述预测其bbox坐标；
2. Referring任务：根据给定的bbox预测对应控件的描述信息；
3. QA任务：根据自然场景的提问回答需要点击的bbox坐标。

根据技术报告，原始测试集包含：

• 8,642条Referring数据
• 7,194条Grounding数据
• 1,181条QA数据

为便于测试，我们从中随机抽取了以下规模的子集：

• Referring数据：1,500条
• Grounding数据：1,500条
• QA数据：748条 这些子集数据已对外开源。

每个子集都提供json和tsv两种格式文件，其中图片路径采用相对路径表示。

具体任务说明：

Referring任务： json文件包含三个字段：description（描述）、imgpath（图片路径）、bbox（边界框）。该任务要求模型根据给定的bbox预测对应控件的描述信息。不同模型对bbox格式有不同要求：

• Qwen模型：推荐使用[xmin,ymin,xmax,ymax]（基于原图坐标）
• Intern模型：推荐使用[xmin,ymin,xmax,ymax]（基于归一化坐标）

准确率计算标准：预测结果(pred)与描述(description)的最长公共子串长度不为0即视为正确。

Grounding任务： json文件包含question（问题）、imgpath（图片路径）、bbox（边界框）三个字段。该任务与Referring任务相反，要求根据控件描述预测其bbox坐标。不同模型的输出格式要求：

• 部分模型适合直接输出[x_center,y_center]
• 部分模型适合输出[xmin,ymin,xmax,ymax]

对于输出bbox的情况，需计算其几何中心作为[x_center,y_center]。 准确率判定标准：预测的中心点坐标需落在真实bbox范围内。

QA任务的评估标准与Grounding任务保持一致。

AndesUI Test数据集的评测功能已集成至VLMEvalKit评估工具。针对Grounding、Referring和QA三种任务类型，我们分别开发了对应的专用评测脚本，这些脚本需放置在vlmeval/dataset/GUI目录下，用户可直接调用进行自动化评估。