File size: 4,124 Bytes
8be5535 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 | ---
license: cc-by-sa-4.0
---
# 启元机器人家庭操作挑战赛数据集
> English version: [README_EN.md](README_EN.md)
## UMI Sample Data
本目录是一个标准的 **LeRobot v2.1** 数据集，包含 5 个双手操作 episode，以及左、右手腕载 ego 相机数据。
```bash
pip install "lerobot==0.3.3"
```
```python
from lerobot.datasets.lerobot_dataset import LeRobotDataset
dataset = LeRobotDataset(
repo_id="local/umi_sample_data_v21",
root="/path/to/umi_sample_data_v21",
)
```
### 数据概览
| Episode | `task_index` | 任务 | 帧数 | 时长 |
| :--- | ---: | :--- | ---: | ---: |
| `episode_000000` | 0 | fold the red shirt | 1410 | 47 s |
| `episode_000001` | 1 | fold the black shirt | 1050 | 35 s |
| `episode_000002` | 2 | fold the yellow shirt | 870 | 29 s |
| `episode_000003` | 1 | fold the black shirt | 1050 | 35 s |
| `episode_000004` | 3 | fold the brown shirt | 1560 | 52 s |
数据集共 5940 帧、4 个唯一任务，帧率为 30 FPS，ego 视频分辨率为 960 × 960。
### 目录结构
```text
umi_sample_data_v21/
├── data/chunk-000/ # 5 个 episode Parquet 文件
├── videos/chunk-000/
│ ├── observation.images.left_ego/ # 左手 ego 视频
│ └── observation.images.right_ego/ # 右手 ego 视频
├── meta/
│ ├── info.json # 数据集与字段定义
│ ├── tasks.jsonl # 任务与 task_index 映射
│ ├── episodes.jsonl # episode 长度与任务
│ ├── episodes_stats.jsonl # 每个 episode 的统计量
│ └── calibration.json # 相机与 IMU 标定参数
├── annotation/ # episode 级任务和动作分段标注
└── imu/ # 左右手 IMU 数据
```
### 数据集字段说明
#### 图像
| 数据集字段 | 数据源 |
| :--- | :--- |
| `observation.images.left_ego` | 左手腕载 RGB ego 相机，960 × 960 |
| `observation.images.right_ego` | 右手腕载 RGB ego 相机，960 × 960 |
#### 本体感知与动作
`observation.state` 和 `action` 均为 16 维，字段顺序一致：
| 索引 | 字段顺序 | 物理意义 | 单位 |
| :--- | :--- | :--- | :--- |
| 0–2 | `left_x, left_y, left_z` | 左手末端位置 | m |
| 3–6 | `left_qw, left_qx, left_qy, left_qz` | 左手末端四元数 `(w, x, y, z)` | - |
| 7 | `left_gripper` | 左夹爪开合角度 | ° |
| 8–10 | `right_x, right_y, right_z` | 右手末端位置 | m |
| 11–14 | `right_qw, right_qx, right_qy, right_qz` | 右手末端四元数 `(w, x, y, z)` | - |
| 15 | `right_gripper` | 右夹爪开合角度 | ° |
`observation.state` 表示当前帧状态。除末帧外，`action[t] = state[t+1]`；末帧 action 保留原始采集序列的下一时刻目标，因此不一定等于本 episode 的末帧 state。左右手位姿使用独立坐标系，不能直接计算双手之间的相对距离或姿态。
#### 索引字段
| 字段 | 类型 | 说明 |
| :--- | :--- | :--- |
| `timestamp` | float32 | episode 内时间，单位为秒 |
| `frame_index` | int64 | episode 内帧编号，从 0 开始 |
| `episode_index` | int64 | episode 编号，范围为 0–4 |
| `index` | int64 | 数据集全局帧编号，范围为 0–5939 |
| `task_index` | int64 | 任务编号，对应 `meta/tasks.jsonl` |
#### 标注与 IMU
| 文件 | 说明 |
| :--- | :--- |
| `annotation/episode_subtasks_*.jsonl` | episode 级任务、目标物体与成功状态 |
| `annotation/action_steps_*.jsonl` | 细粒度动作分段 |
| `imu/episode_*_{left,right}.csv` | 左右手时间戳、三轴角速度和三轴加速度 |
标注区间采用 `[start_frame_index, end_frame_index)`，即包含起始帧、不包含结束帧。
`action_steps` 的 `subtask_index` 在本批交付里**恒为 0**，是占位字段，不要当作指向
`episode_subtasks` 的外键使用；两层的对应关系请按帧区间重叠自行计算。本数据集每集
恰好 1 条 `episode_subtasks`（=整集任务）。
|