| --- |
| license: cc-by-sa-4.0 |
| --- |
| |
| # 启元机器人家庭操作挑战赛数据集 |
|
|
| > English version: [README_EN.md](README_EN.md) |
|
|
| ## UMI Sample Data |
|
|
| 本目录是一个标准的 **LeRobot v2.1** 数据集，包含 5 个双手操作 episode，以及左、右手腕载 ego 相机数据。 |
|
|
| ```bash |
| pip install "lerobot==0.3.3" |
| ``` |
|
|
| ```python |
| from lerobot.datasets.lerobot_dataset import LeRobotDataset |
| |
| dataset = LeRobotDataset( |
| repo_id="local/umi_sample_data_v21", |
| root="/path/to/umi_sample_data_v21", |
| ) |
| ``` |
|
|
| ### 数据概览 |
|
|
| | Episode | `task_index` | 任务 | 帧数 | 时长 | |
| | :--- | ---: | :--- | ---: | ---: | |
| | `episode_000000` | 0 | fold the red shirt | 1410 | 47 s | |
| | `episode_000001` | 1 | fold the black shirt | 1050 | 35 s | |
| | `episode_000002` | 2 | fold the yellow shirt | 870 | 29 s | |
| | `episode_000003` | 1 | fold the black shirt | 1050 | 35 s | |
| | `episode_000004` | 3 | fold the brown shirt | 1560 | 52 s | |
|
|
| 数据集共 5940 帧、4 个唯一任务，帧率为 30 FPS，ego 视频分辨率为 960 × 960。 |
|
|
| ### 目录结构 |
|
|
| ```text |
| umi_sample_data_v21/ |
| ├── data/chunk-000/ # 5 个 episode Parquet 文件 |
| ├── videos/chunk-000/ |
| │ ├── observation.images.left_ego/ # 左手 ego 视频 |
| │ └── observation.images.right_ego/ # 右手 ego 视频 |
| ├── meta/ |
| │ ├── info.json # 数据集与字段定义 |
| │ ├── tasks.jsonl # 任务与 task_index 映射 |
| │ ├── episodes.jsonl # episode 长度与任务 |
| │ ├── episodes_stats.jsonl # 每个 episode 的统计量 |
| │ └── calibration.json # 相机与 IMU 标定参数 |
| ├── annotation/ # episode 级任务和动作分段标注 |
| └── imu/ # 左右手 IMU 数据 |
| ``` |
|
|
| ### 数据集字段说明 |
|
|
| #### 图像 |
|
|
| | 数据集字段 | 数据源 | |
| | :--- | :--- | |
| | `observation.images.left_ego` | 左手腕载 RGB ego 相机，960 × 960 | |
| | `observation.images.right_ego` | 右手腕载 RGB ego 相机，960 × 960 | |
|
|
| #### 本体感知与动作 |
|
|
| `observation.state` 和 `action` 均为 16 维，字段顺序一致： |
|
|
| | 索引 | 字段顺序 | 物理意义 | 单位 | |
| | :--- | :--- | :--- | :--- | |
| | 0–2 | `left_x, left_y, left_z` | 左手末端位置 | m | |
| | 3–6 | `left_qw, left_qx, left_qy, left_qz` | 左手末端四元数 `(w, x, y, z)` | - | |
| | 7 | `left_gripper` | 左夹爪开合角度 | ° | |
| | 8–10 | `right_x, right_y, right_z` | 右手末端位置 | m | |
| | 11–14 | `right_qw, right_qx, right_qy, right_qz` | 右手末端四元数 `(w, x, y, z)` | - | |
| | 15 | `right_gripper` | 右夹爪开合角度 | ° | |
|
|
| `observation.state` 表示当前帧状态。除末帧外，`action[t] = state[t+1]`；末帧 action 保留原始采集序列的下一时刻目标，因此不一定等于本 episode 的末帧 state。左右手位姿使用独立坐标系，不能直接计算双手之间的相对距离或姿态。 |
|
|
| #### 索引字段 |
|
|
| | 字段 | 类型 | 说明 | |
| | :--- | :--- | :--- | |
| | `timestamp` | float32 | episode 内时间，单位为秒 | |
| | `frame_index` | int64 | episode 内帧编号，从 0 开始 | |
| | `episode_index` | int64 | episode 编号，范围为 0–4 | |
| | `index` | int64 | 数据集全局帧编号，范围为 0–5939 | |
| | `task_index` | int64 | 任务编号，对应 `meta/tasks.jsonl` | |
|
|
| #### 标注与 IMU |
|
|
| | 文件 | 说明 | |
| | :--- | :--- | |
| | `annotation/episode_subtasks_*.jsonl` | episode 级任务、目标物体与成功状态 | |
| | `annotation/action_steps_*.jsonl` | 细粒度动作分段 | |
| | `imu/episode_*_{left,right}.csv` | 左右手时间戳、三轴角速度和三轴加速度 | |
|
|
| 标注区间采用 `[start_frame_index, end_frame_index)`，即包含起始帧、不包含结束帧。 |
|
|
| `action_steps` 的 `subtask_index` 在本批交付里**恒为 0**，是占位字段，不要当作指向 |
| `episode_subtasks` 的外键使用；两层的对应关系请按帧区间重叠自行计算。本数据集每集 |
| 恰好 1 条 `episode_subtasks`（=整集任务）。 |
|
|
