---
license: cc-by-sa-4.0
---

# 启元机器人家庭操作挑战赛数据集

> English version: [README_EN.md](README_EN.md)

## UMI Sample Data

本目录是一个标准的 **LeRobot v2.1** 数据集，包含 5 个双手操作 episode，以及左、右手腕载 ego 相机数据。

```bash
pip install "lerobot==0.3.3"
```

```python
from lerobot.datasets.lerobot_dataset import LeRobotDataset

dataset = LeRobotDataset(
    repo_id="local/umi_sample_data_v21",
    root="/path/to/umi_sample_data_v21",
)
```

### 数据概览

| Episode | `task_index` | 任务 | 帧数 | 时长 |
| :--- | ---: | :--- | ---: | ---: |
| `episode_000000` | 0 | fold the red shirt | 1410 | 47 s |
| `episode_000001` | 1 | fold the black shirt | 1050 | 35 s |
| `episode_000002` | 2 | fold the yellow shirt | 870 | 29 s |
| `episode_000003` | 1 | fold the black shirt | 1050 | 35 s |
| `episode_000004` | 3 | fold the brown shirt | 1560 | 52 s |

数据集共 5940 帧、4 个唯一任务，帧率为 30 FPS，ego 视频分辨率为 960 × 960。

### 目录结构

```text
umi_sample_data_v21/
├── data/chunk-000/                       # 5 个 episode Parquet 文件
├── videos/chunk-000/
│   ├── observation.images.left_ego/      # 左手 ego 视频
│   └── observation.images.right_ego/     # 右手 ego 视频
├── meta/
│   ├── info.json                         # 数据集与字段定义
│   ├── tasks.jsonl                       # 任务与 task_index 映射
│   ├── episodes.jsonl                    # episode 长度与任务
│   ├── episodes_stats.jsonl              # 每个 episode 的统计量
│   └── calibration.json                  # 相机与 IMU 标定参数
├── annotation/                           # episode 级任务和动作分段标注
└── imu/                                  # 左右手 IMU 数据
```

### 数据集字段说明

#### 图像

| 数据集字段 | 数据源 |
| :--- | :--- |
| `observation.images.left_ego` | 左手腕载 RGB ego 相机，960 × 960 |
| `observation.images.right_ego` | 右手腕载 RGB ego 相机，960 × 960 |

#### 本体感知与动作

`observation.state` 和 `action` 均为 16 维，字段顺序一致：

| 索引 | 字段顺序 | 物理意义 | 单位 |
| :--- | :--- | :--- | :--- |
| 0–2 | `left_x, left_y, left_z` | 左手末端位置 | m |
| 3–6 | `left_qw, left_qx, left_qy, left_qz` | 左手末端四元数 `(w, x, y, z)` | - |
| 7 | `left_gripper` | 左夹爪开合角度 | ° |
| 8–10 | `right_x, right_y, right_z` | 右手末端位置 | m |
| 11–14 | `right_qw, right_qx, right_qy, right_qz` | 右手末端四元数 `(w, x, y, z)` | - |
| 15 | `right_gripper` | 右夹爪开合角度 | ° |

`observation.state` 表示当前帧状态。除末帧外，`action[t] = state[t+1]`；末帧 action 保留原始采集序列的下一时刻目标，因此不一定等于本 episode 的末帧 state。左右手位姿使用独立坐标系，不能直接计算双手之间的相对距离或姿态。

#### 索引字段

| 字段 | 类型 | 说明 |
| :--- | :--- | :--- |
| `timestamp` | float32 | episode 内时间，单位为秒 |
| `frame_index` | int64 | episode 内帧编号，从 0 开始 |
| `episode_index` | int64 | episode 编号，范围为 0–4 |
| `index` | int64 | 数据集全局帧编号，范围为 0–5939 |
| `task_index` | int64 | 任务编号，对应 `meta/tasks.jsonl` |

#### 标注与 IMU

| 文件 | 说明 |
| :--- | :--- |
| `annotation/episode_subtasks_*.jsonl` | episode 级任务、目标物体与成功状态 |
| `annotation/action_steps_*.jsonl` | 细粒度动作分段 |
| `imu/episode_*_{left,right}.csv` | 左右手时间戳、三轴角速度和三轴加速度 |

标注区间采用 `[start_frame_index, end_frame_index)`，即包含起始帧、不包含结束帧。

`action_steps` 的 `subtask_index` 在本批交付里**恒为 0**，是占位字段，不要当作指向
`episode_subtasks` 的外键使用；两层的对应关系请按帧区间重叠自行计算。本数据集每集
恰好 1 条 `episode_subtasks`（=整集任务）。