Update readme_CN.md
Browse files- readme_CN.md +40 -40
readme_CN.md
CHANGED
|
@@ -1,41 +1,41 @@
|
|
| 1 |
-
|
| 2 |
-
AndesUI数据集由训练集(train)和测试集(test)两部分组成,其中测试集包含的APP均未在训练集中出现过。
|
| 3 |
-
|
| 4 |
-
该数据集涵盖三大任务类型:
|
| 5 |
-
1. Grounding任务:根据控件描述预测其bbox坐标;
|
| 6 |
-
2. Referring任务:根据给定的bbox预测对应控件的描述信息;
|
| 7 |
-
3. QA任务:根据自然场景的提问回答需要点击的bbox坐标。
|
| 8 |
-
|
| 9 |
-
根据技术报告,原始测试集包含:
|
| 10 |
-
- 8,642条Referring数据
|
| 11 |
-
- 7,194条Grounding数据
|
| 12 |
-
- 1,181条QA数据
|
| 13 |
-
|
| 14 |
-
为便于测试,我们从中随机抽取了以下规模的子集:
|
| 15 |
-
- Referring数据:1,500条
|
| 16 |
-
- Grounding数据:1,500条
|
| 17 |
-
- QA数据:748条
|
| 18 |
-
这些子集数据已对外开源。
|
| 19 |
-
|
| 20 |
-
每个子集都提供json和tsv两种格式文件,其中图片路径采用相对路径表示。
|
| 21 |
-
|
| 22 |
-
具体任务说明:
|
| 23 |
-
|
| 24 |
-
Referring任务:
|
| 25 |
-
json文件包含三个字段:description(描述)、imgpath(图片路径)、bbox(边界框)。该任务要求模型根据给定的bbox预测对应控件的描述信息。不同模型对bbox格式有不同要求:
|
| 26 |
-
- Qwen模型:推荐使用[xmin,ymin,xmax,ymax](基于原图坐标)
|
| 27 |
-
- Intern模型:推荐使用[xmin,ymin,xmax,ymax](基于归一化坐标)
|
| 28 |
-
|
| 29 |
-
准确率计算标准:预测结果(pred)与描述(description)的最长公共子串长度不为0即视为正确。
|
| 30 |
-
|
| 31 |
-
Grounding任务:
|
| 32 |
-
json文件包含question(问题)、imgpath(图片路径)、bbox(边界框)三个字段。该任务与Referring任务相反,要求根据控件描述预测其bbox坐标。不同模型的输出格式要求:
|
| 33 |
-
- 部分模型适合直接输出[x_center,y_center]
|
| 34 |
-
- 部分模型适合输出[xmin,ymin,xmax,ymax]
|
| 35 |
-
|
| 36 |
-
对于输出bbox的情况,需计算其几何中心作为[x_center,y_center]。
|
| 37 |
-
准确率判定标准:预测的中心点坐标需落在真实bbox范围内。
|
| 38 |
-
|
| 39 |
-
QA任务的评估标准与Grounding任务保持一致。
|
| 40 |
-
|
| 41 |
AndesUI Test数据集的评测功能已集成至VLMEvalKit评估工具。针对Grounding、Referring和QA三种任务类型,我们分别开发了对应的专用评测脚本,这些脚本需放置在vlmeval/dataset/GUI目录下,用户可直接调用进行自动化评估。
|
|
|
|
| 1 |
+
|
| 2 |
+
AndesUI数据集由训练集(train)和测试集(test)两部分组成,其中测试集包含的APP均未在训练集中出现过。
|
| 3 |
+
|
| 4 |
+
该数据集涵盖三大任务类型:
|
| 5 |
+
1. Grounding任务:根据控件描述预测其bbox坐标;
|
| 6 |
+
2. Referring任务:根据给定的bbox预测对应控件的描述信息;
|
| 7 |
+
3. QA任务:根据自然场景的提问回答需要点击的bbox坐标。
|
| 8 |
+
|
| 9 |
+
根据技术报告,原始测试集包含:
|
| 10 |
+
- 8,642条Referring数据
|
| 11 |
+
- 7,194条Grounding数据
|
| 12 |
+
- 1,181条QA数据
|
| 13 |
+
|
| 14 |
+
为便于测试,我们从中随机抽取了以下规模的子集:
|
| 15 |
+
- Referring数据:1,500条
|
| 16 |
+
- Grounding数据:1,500条
|
| 17 |
+
- QA数据:748条
|
| 18 |
+
这些子集数据已对外开源。
|
| 19 |
+
|
| 20 |
+
每个子集都提供json和tsv两种格式文件,其中图片路径采用相对路径表示。
|
| 21 |
+
|
| 22 |
+
具体任务说明:
|
| 23 |
+
|
| 24 |
+
Referring任务:
|
| 25 |
+
json文件包含三个字段:description(描述)、imgpath(图片路径)、bbox(边界框)。该任务要求模型根据给定的bbox预测对应控件的描述信息。不同模型对bbox格式有不同要求:
|
| 26 |
+
- Qwen模型:推荐使用[xmin,ymin,xmax,ymax](基于原图坐标)
|
| 27 |
+
- Intern模型:推荐使用[xmin,ymin,xmax,ymax](基于归一化坐标)
|
| 28 |
+
|
| 29 |
+
准确率计算标准:预测结果(pred)与描述(description)的最长公共子串长度不为0即视为正确。
|
| 30 |
+
|
| 31 |
+
Grounding任务:
|
| 32 |
+
json文件包含question(问题)、imgpath(图片路径)、bbox(边界框)三个字段。该任务与Referring任务相反,要求根据控件描述预测其bbox坐标。不同模型的输出格式要求:
|
| 33 |
+
- 部分模型适合直接输出[x_center,y_center]
|
| 34 |
+
- 部分模型适合输出[xmin,ymin,xmax,ymax]
|
| 35 |
+
|
| 36 |
+
对于输出bbox的情况,需计算其几何中心作为[x_center,y_center]。
|
| 37 |
+
准确率判定标准:预测的中心点坐标需落在真实bbox范围内。
|
| 38 |
+
|
| 39 |
+
QA任务的评估标准与Grounding任务保持一致。
|
| 40 |
+
|
| 41 |
AndesUI Test数据集的评测功能已集成至VLMEvalKit评估工具。针对Grounding、Referring和QA三种任务类型,我们分别开发了对应的专用评测脚本,这些脚本需放置在vlmeval/dataset/GUI目录下,用户可直接调用进行自动化评估。
|