CMGUI

CMGUI (Chinese Mobile GUI) 是一个大规模、高质量的数据集，专门为开发中文移动应用的 GUI 智能体而构建。该数据集包含从 50 多个真实中文移动应用中收集的 18k 条轨迹 和 98k 个单步，涵盖电商（如淘宝、拼多多）、社交媒体（如小红书、抖音）和本地服务（如美团、高德地图）等多个功能领域。

CMGUI-Bench 是从 CMGUI 派生出的对应导航基准，包含 386 条轨迹和2,547 个单步，跨越 44 个广泛使用的中文应用，具有多选动作标注，以适应每个单步可能存在多个有效操作的多样化 GUI 操作场景。CMGUI 和 CMGUI-Bench 都经过严格的人工验证，并带有精确的边界框标注，解决了高质量开源中文移动 GUI 数据集严重稀缺的问题。

核心特性

面向中文：专为中文移动应用和移动用户交互设计
高质量标注：每条轨迹都包含人工验证的动作和人工标注的边界框
多分辨率支持：在不同设备分辨率（如 720x1280、1080x2400、1440x3200）下捕获截图
丰富的动作空间：支持 CLICK、TYPE、SWIPE 等常见移动交互模式
真实任务：指令设计反映了中文移动应用生态系统中的实际用户场景

数据集结构

CMGUI 数据集的组织结构如下：

CMGUI/
├── README.md                      # 本文件
├── episode_annotation_train.jsonl # 训练轨迹标注（JSONL 格式，每行一个轨迹）
├── episode_annotation_test.jsonl  # 测试轨迹标注（JSONL 格式，每行一个轨迹）
├── screenshot_zip/                # 包含屏幕截图归档的目录
│   ├── screenshot_train.zip       # 训练集主要屏幕截图归档
│   ├── screenshot_train.z01       # 分割归档第 1 部分
│   ├── screenshot_train.z02       # 分割归档第 2 部分
│   ├── ...
│   └── screenshot_test.zip        # 测试/基准截图归档
└── screenshot/                    # 解压后的截图（PNG 文件）
    ├── 47b85366-5449-4894-9ece-beb2b1b41ced.png
    ├── 4c0cd4d6-4935-42b2-a867-cf4f4142d2f0.png
    └── ...

轨迹标注格式

数据集分为训练集和测试集，分别存储在 episode_annotation_train.jsonl 和 episode_annotation_test.jsonl 中。这些 JSONL 文件中的每一行代表一条轨迹。以下是详细的字段说明：

轨迹数据字段

字段	类型	描述
`split`	`str`	数据集划分标识符（"train" 或 "test"）
`episode_id`	`int`	轨迹的唯一标识符
`instruction`	`str`	描述任务的自然语言指令（中文）
`app`	`str`	轨迹中使用的主要移动应用名称
`episode_length`	`int`	轨迹中的总单步数

单步数据字段

step_data 字段是一个单步对象列表，每个对象包含以下字段：

字段	类型	描述
`step_id`	`int`	从0开始的单步编号，表示在 episode 序列中的位置
`screenshot`	`str`	该单步的截图文件名（位于 `screenshot/` 目录中）
`screenshot_width`	`int`	截图的宽度（像素）
`screenshot_height`	`int`	截图的高度（像素）
`action`	`str`	在该单步执行的动作类型。见下方动作类型说明
`type_text`	`str`	TYPE 动作的文本输入；其他动作类型为空字符串
`touch_coord`	`list[int]`	动作开始的触摸坐标 `[x, y]`。非坐标动作为 `[-1, -1]`
`lift_coord`	`list[int]`	动作结束的抬起坐标 `[x, y]`。非坐标动作为 `[-1, -1]`
`bbox`	`list[list[int]]`	目标 UI 元素的边界框坐标列表 `[[x1, y1, x2, y2], ...]`。不适用则为空列表 `[]`

注意: 在训练集中，bbox 中的边界框数量小于或等于 1；在测试集中，bbox 中的边界框数量可以大于 1，表示在对应单步中存在多个可点击的有效 UI 元素。

动作类型

动作	描述	参数
CLICK	单击/点击 UI 元素	`touch_coord` = `lift_coord` = 点击位置
LONG_PRESS	长按 UI 元素	`touch_coord` = `lift_coord` = 按压位置
SWIPE	滑动/滚动手势	`touch_coord` = 起始位置，`lift_coord` = 结束位置
TYPE	文本输入动作	`type_text` 中的文本
KEY_BACK	按返回键	-
KEY_HOME	按主页键	-
WAIT	等待页面/内容加载	-
STOP	任务完成信号	-

坐标系统

所有坐标都是相对于截图尺寸的绝对像素值
原点 (0, 0) 位于屏幕的左上角
边界框格式：[[x1, y1, x2, y2], ...]，其中每个 (x1, y1) 是 UI 元素的左上角，(x2, y2) 是右下角

轨迹数据示例

{
    "split": "train",
    "episode_id": 0,
    "instruction": "打开腾讯地图，搜索“望京医院”，发起步行导航",
    "app": "腾讯地图",
    "episode_length": 9,
    "step_data": [
        {
            "step_id": 0,
            "screenshot": "47b85366-5449-4894-9ece-beb2b1b41ced.png",
            "screenshot_width": 1080,
            "screenshot_height": 2400,
            "action": "CLICK",
            "type_text": "",
            "touch_coord": [
                538,
                643
            ],
            "lift_coord": [
                538,
                643
            ],
            "bbox": [
                [
                    474,
                    581,
                    604,
                    708
                ]
            ]
        },
        // ... more steps
    ]
}

截图解压说明

将所有截图解压到 screenshot/ 目录：

训练集截图：

unzip screenshot_zip/screenshot_train.zip -d .

unzip 命令会在解压过程中自动检测并合并分卷归档（.z01、.z02 等）。

测试集截图：

unzip screenshot_zip/screenshot_test.zip -d .

引用

如果您发现该数据集对您的研究有帮助，请引用以下论文：

@article{xie2026secagent,
    title={SecAgent: Efficient Mobile GUI Agent with Semantic Context}, 
    author={Yiping Xie and Song Chen and Jingxuan Xing and Wei Jiang and Zekun Zhu and Yingyao Wang and Pi Bu and Jun Song and Yuning Jiang and Bo Zheng},
    journal={arXiv preprint arXiv:2603.08533},
    year={2026}
}

许可证

本作品采用知识共享署名 4.0 国际许可协议进行许可。