CMGUI 数据集
📄 项目主页 | 🌐 Hugging Face 模型 | 🌐 ModelScope 模型
**CMGUI** (Chinese Mobile GUI) 是一个大规模、高质量的数据集，专门为开发中文移动应用的 GUI 智能体而构建。该数据集包含从 **50 多个**真实中文移动应用中收集的 **18k 条轨迹** 和 **98k 个单步**，涵盖电商（如淘宝、拼多多）、社交媒体（如小红书、抖音）和本地服务（如美团、高德地图）等多个功能领域。 **CMGUI-Bench** 是从 CMGUI 派生出的对应导航基准，包含 386 条轨迹和2,547 个单步，跨越 44 个广泛使用的中文应用，具有多选动作标注，以适应每个单步可能存在多个有效操作的多样化 GUI 操作场景。CMGUI 和 CMGUI-Bench 都经过严格的人工验证，并带有精确的边界框标注，解决了高质量开源中文移动 GUI 数据集严重稀缺的问题。 ### 核心特性 - **面向中文**：专为中文移动应用和移动用户交互设计 - **高质量标注**：每条轨迹都包含人工验证的动作和人工标注的边界框 - **多分辨率支持**：在不同设备分辨率（如 720x1280、1080x2400、1440x3200）下捕获截图 - **丰富的动作空间**：支持 CLICK、TYPE、SWIPE 等常见移动交互模式 - **真实任务**：指令设计反映了中文移动应用生态系统中的实际用户场景 ## 数据集结构 CMGUI 数据集的组织结构如下： ``` CMGUI/ ├── README.md # 本文件 ├── episode_annotation_train.jsonl # 训练轨迹标注（JSONL 格式，每行一个轨迹） ├── episode_annotation_test.jsonl # 测试轨迹标注（JSONL 格式，每行一个轨迹） ├── screenshot_zip/ # 包含屏幕截图归档的目录 │ ├── screenshot_train.zip # 训练集主要屏幕截图归档 │ ├── screenshot_train.z01 # 分割归档第 1 部分 │ ├── screenshot_train.z02 # 分割归档第 2 部分 │ ├── ... │ └── screenshot_test.zip # 测试/基准截图归档 └── screenshot/ # 解压后的截图（PNG 文件） ├── 47b85366-5449-4894-9ece-beb2b1b41ced.png ├── 4c0cd4d6-4935-42b2-a867-cf4f4142d2f0.png └── ... ``` ## 轨迹标注格式 数据集分为训练集和测试集，分别存储在 `episode_annotation_train.jsonl` 和 `episode_annotation_test.jsonl` 中。这些 JSONL 文件中的每一行代表一条轨迹。以下是详细的字段说明： ### 轨迹数据字段 | 字段 | 类型 | 描述 | |-------|------|-------------| | `split` | `str` | 数据集划分标识符（"train" 或 "test"） | | `episode_id` | `int` | 轨迹的唯一标识符 | | `instruction` | `str` | 描述任务的自然语言指令（中文） | | `app` | `str` | 轨迹中使用的主要移动应用名称 | | `episode_length` | `int` | 轨迹中的总单步数 | ### 单步数据字段 `step_data` 字段是一个单步对象列表，每个对象包含以下字段： | 字段 | 类型 | 描述 | |-------|------|-------------| | `step_id` | `int` | 从0开始的单步编号，表示在 episode 序列中的位置 | | `screenshot` | `str` | 该单步的截图文件名（位于 `screenshot/` 目录中） | | `screenshot_width` | `int` | 截图的宽度（像素） | | `screenshot_height` | `int` | 截图的高度（像素） | | `action` | `str` | 在该单步执行的动作类型。见下方动作类型说明 | | `type_text` | `str` | TYPE 动作的文本输入；其他动作类型为空字符串 | | `touch_coord` | `list[int]` | 动作开始的触摸坐标 `[x, y]`。非坐标动作为 `[-1, -1]` | | `lift_coord` | `list[int]` | 动作结束的抬起坐标 `[x, y]`。非坐标动作为 `[-1, -1]` | | `bbox` | `list[list[int]]` | 目标 UI 元素的边界框坐标列表 `[[x1, y1, x2, y2], ...]`。不适用则为空列表 `[]` | **注意:** 在训练集中，`bbox` 中的边界框数量小于或等于 1；在测试集中，`bbox` 中的边界框数量可以大于 1，表示在对应单步中存在多个可点击的有效 UI 元素。 ### 动作类型 | 动作 | 描述 | 参数 | |--------|-------------|------------------| | **CLICK** | 单击/点击 UI 元素 | `touch_coord` = `lift_coord` = 点击位置 | | **LONG_PRESS** | 长按 UI 元素 | `touch_coord` = `lift_coord` = 按压位置 | | **SWIPE** | 滑动/滚动手势 | `touch_coord` = 起始位置，`lift_coord` = 结束位置 | | **TYPE** | 文本输入动作 | `type_text` 中的文本 | | **KEY_BACK** | 按返回键 | - | | **KEY_HOME** | 按主页键 | - | | **WAIT** | 等待页面/内容加载 | - | | **STOP** | 任务完成信号 | - | ### 坐标系统 - 所有坐标都是相对于截图尺寸的**绝对像素值** - 原点 `(0, 0)` 位于屏幕的**左上角** - 边界框格式：`[[x1, y1, x2, y2], ...]`，其中每个 `(x1, y1)` 是 UI 元素的左上角，`(x2, y2)` 是右下角 ### 轨迹数据示例 ```json { "split": "train", "episode_id": 0, "instruction": "打开腾讯地图，搜索“望京医院”，发起步行导航", "app": "腾讯地图", "episode_length": 9, "step_data": [ { "step_id": 0, "screenshot": "47b85366-5449-4894-9ece-beb2b1b41ced.png", "screenshot_width": 1080, "screenshot_height": 2400, "action": "CLICK", "type_text": "", "touch_coord": [ 538, 643 ], "lift_coord": [ 538, 643 ], "bbox": [ [ 474, 581, 604, 708 ] ] }, // ... more steps ] } ``` ## 截图解压说明 将所有截图解压到 `screenshot/` 目录： **训练集截图：** ```bash unzip screenshot_zip/screenshot_train.zip -d . ``` `unzip` 命令会在解压过程中自动检测并合并分卷归档（`.z01`、`.z02` 等）。 **测试集截图：** ```bash unzip screenshot_zip/screenshot_test.zip -d . ``` ## 引用 如果您发现该数据集对您的研究有帮助，请引用以下论文： ``` @article{xie2026secagent, title={SecAgent: Efficient Mobile GUI Agent with Semantic Context}, author={Yiping Xie and Song Chen and Jingxuan Xing and Wei Jiang and Zekun Zhu and Yingyao Wang and Pi Bu and Jun Song and Yuning Jiang and Bo Zheng}, journal={arXiv preprint arXiv:2603.08533}, year={2026} } ``` ## 许可证