davenliu commited on
Commit
9bd01b3
·
verified ·
1 Parent(s): a1e76cd

Update readme_CN.md

Browse files
Files changed (1) hide show
  1. readme_CN.md +40 -40
readme_CN.md CHANGED
@@ -1,41 +1,41 @@
1
-
2
- AndesUI数据集由训练集(train)和测试集(test)两部分组成,其中测试集包含的APP均未在训练集中出现过。
3
-
4
- 该数据集涵盖三大任务类型:
5
- 1. Grounding任务:根据控件描述预测其bbox坐标;
6
- 2. Referring任务:根据给定的bbox预测对应控件的描述信息;
7
- 3. QA任务:根据自然场景的提问回答需要点击的bbox坐标。
8
-
9
- 根据技术报告,原始测试集包含:
10
- - 8,642条Referring数据
11
- - 7,194条Grounding数据
12
- - 1,181条QA数据
13
-
14
- 为便于测试,我们从中随机抽取了以下规模的子集:
15
- - Referring数据:1,500条
16
- - Grounding数据:1,500条
17
- - QA数据:748条
18
- 这些子集数据已对外开源。
19
-
20
- 每个子集都提供json和tsv两种格式文件,其中图片路径采用相对路径表示。
21
-
22
- 具体任务说明:
23
-
24
- Referring任务:
25
- json文件包含三个字段:description(描述)、imgpath(图片路径)、bbox(边界框)。该任务要求模型根据给定的bbox预测对应控件的描述信息。不同模型对bbox格式有不同要求:
26
- - Qwen模型:推荐使用[xmin,ymin,xmax,ymax](基于原图坐标)
27
- - Intern模型:推荐使用[xmin,ymin,xmax,ymax](基于归一化坐标)
28
- - AndesVL-4B-UI模型:推荐使用<|box_start|>(xmin,ymin),(xmax,ymax)<|box_end|>(基于归一化再乘以10000的坐标)
29
- 准确率计算标准:预测结果(pred)与描述(description)的最长公共子串长度不为0即视为正确。
30
-
31
- Grounding任务:
32
- json文件包含question(问题)、imgpath(图片路径)、bbox(边界框)三个字段。该任务与Referring任务相反,要求根据控件描述预测其bbox坐标。不同模型的输出格式要求:
33
- - 部分模型适合直接输出[x_center,y_center]
34
- - 部分模型适合输出[xmin,ymin,xmax,ymax]
35
- - AndesVL-4B-UI模型适合输出<|box_start|>(xmin,ymin),(xmax,ymax)<|box_end|>
36
- 对于输出bbox的情况,需计算其几何中心作为[x_center,y_center]。
37
- 准确率判定标准:预测的中心点坐标需落在真实bbox范围内。
38
-
39
- QA任务的评估标准与Grounding任务保持一致。
40
-
41
  AndesUI Test数据集的评测功能已集成至VLMEvalKit评估工具。针对Grounding、Referring和QA三种任务类型,我们分别开发了对应的专用评测脚本,这些脚本需放置在vlmeval/dataset/GUI目录下,用户可直接调用进行自动化评估。
 
1
+
2
+ AndesUI数据集由训练集(train)和测试集(test)两部分组成,其中测试集包含的APP均未在训练集中出现过。
3
+
4
+ 该数据集涵盖三大任务类型:
5
+ 1. Grounding任务:根据控件描述预测其bbox坐标;
6
+ 2. Referring任务:根据给定的bbox预测对应控件的描述信息;
7
+ 3. QA任务:根据自然场景的提问回答需要点击的bbox坐标。
8
+
9
+ 根据技术报告,原始测试集包含:
10
+ - 8,642条Referring数据
11
+ - 7,194条Grounding数据
12
+ - 1,181条QA数据
13
+
14
+ 为便于测试,我们从中随机抽取了以下规模的子集:
15
+ - Referring数据:1,500条
16
+ - Grounding数据:1,500条
17
+ - QA数据:748条
18
+ 这些子集数据已对外开源。
19
+
20
+ 每个子集都提供json和tsv两种格式文件,其中图片路径采用相对路径表示。
21
+
22
+ 具体任务说明:
23
+
24
+ Referring任务:
25
+ json文件包含三个字段:description(描述)、imgpath(图片路径)、bbox(边界框)。该任务要求模型根据给定的bbox预测对应控件的描述信息。不同模型对bbox格式有不同要求:
26
+ - Qwen模型:推荐使用[xmin,ymin,xmax,ymax](基于原图坐标)
27
+ - Intern模型:推荐使用[xmin,ymin,xmax,ymax](基于归一化坐标)
28
+
29
+ 准确率计算标准:预测结果(pred)与描述(description)的最长公共子串长度不为0即视为正确。
30
+
31
+ Grounding任务:
32
+ json文件包含question(问题)、imgpath(图片路径)、bbox(边界框)三个字段。该任务与Referring任务相反,要求根据控件描述预测其bbox坐标。不同模型的输出格式要求:
33
+ - 部分模型适合直接输出[x_center,y_center]
34
+ - 部分模型适合输出[xmin,ymin,xmax,ymax]
35
+
36
+ 对于输出bbox的情况,需计算其几何中心作为[x_center,y_center]。
37
+ 准确率判定标准:预测的中心点坐标需落在真实bbox范围内。
38
+
39
+ QA任务的评估标准与Grounding任务保持一致。
40
+
41
  AndesUI Test数据集的评测功能已集成至VLMEvalKit评估工具。针对Grounding、Referring和QA三种任务类型,我们分别开发了对应的专用评测脚本,这些脚本需放置在vlmeval/dataset/GUI目录下,用户可直接调用进行自动化评估。