metadata
license: cc-by-sa-4.0
启元机器人家庭操作挑战赛数据集
English version: README_EN.md
UMI Sample Data
本目录是一个标准的 LeRobot v2.1 数据集，包含 5 个双手操作 episode，以及左、右手腕载 ego 相机数据。
pip install "lerobot==0.3.3"
from lerobot.datasets.lerobot_dataset import LeRobotDataset
dataset = LeRobotDataset(
repo_id="local/umi_sample_data_v21",
root="/path/to/umi_sample_data_v21",
)
数据概览
| Episode | task_index |
任务 | 帧数 | 时长 |
|---|---|---|---|---|
episode_000000 |
0 | fold the red shirt | 1410 | 47 s |
episode_000001 |
1 | fold the black shirt | 1050 | 35 s |
episode_000002 |
2 | fold the yellow shirt | 870 | 29 s |
episode_000003 |
1 | fold the black shirt | 1050 | 35 s |
episode_000004 |
3 | fold the brown shirt | 1560 | 52 s |
数据集共 5940 帧、4 个唯一任务，帧率为 30 FPS，ego 视频分辨率为 960 × 960。
目录结构
umi_sample_data_v21/
├── data/chunk-000/ # 5 个 episode Parquet 文件
├── videos/chunk-000/
│ ├── observation.images.left_ego/ # 左手 ego 视频
│ └── observation.images.right_ego/ # 右手 ego 视频
├── meta/
│ ├── info.json # 数据集与字段定义
│ ├── tasks.jsonl # 任务与 task_index 映射
│ ├── episodes.jsonl # episode 长度与任务
│ ├── episodes_stats.jsonl # 每个 episode 的统计量
│ └── calibration.json # 相机与 IMU 标定参数
├── annotation/ # episode 级任务和动作分段标注
└── imu/ # 左右手 IMU 数据
数据集字段说明
图像
| 数据集字段 | 数据源 |
|---|---|
observation.images.left_ego |
左手腕载 RGB ego 相机，960 × 960 |
observation.images.right_ego |
右手腕载 RGB ego 相机，960 × 960 |
本体感知与动作
observation.state 和 action 均为 16 维，字段顺序一致：
| 索引 | 字段顺序 | 物理意义 | 单位 |
|---|---|---|---|
| 0–2 | left_x, left_y, left_z |
左手末端位置 | m |
| 3–6 | left_qw, left_qx, left_qy, left_qz |
左手末端四元数 (w, x, y, z) |
- |
| 7 | left_gripper |
左夹爪开合角度 | ° |
| 8–10 | right_x, right_y, right_z |
右手末端位置 | m |
| 11–14 | right_qw, right_qx, right_qy, right_qz |
右手末端四元数 (w, x, y, z) |
- |
| 15 | right_gripper |
右夹爪开合角度 | ° |
observation.state 表示当前帧状态。除末帧外，action[t] = state[t+1]；末帧 action 保留原始采集序列的下一时刻目标，因此不一定等于本 episode 的末帧 state。左右手位姿使用独立坐标系，不能直接计算双手之间的相对距离或姿态。
索引字段
| 字段 | 类型 | 说明 |
|---|---|---|
timestamp |
float32 | episode 内时间，单位为秒 |
frame_index |
int64 | episode 内帧编号，从 0 开始 |
episode_index |
int64 | episode 编号，范围为 0–4 |
index |
int64 | 数据集全局帧编号，范围为 0–5939 |
task_index |
int64 | 任务编号，对应 meta/tasks.jsonl |
标注与 IMU
| 文件 | 说明 |
|---|---|
annotation/episode_subtasks_*.jsonl |
episode 级任务、目标物体与成功状态 |
annotation/action_steps_*.jsonl |
细粒度动作分段 |
imu/episode_*_{left,right}.csv |
左右手时间戳、三轴角速度和三轴加速度 |
标注区间采用 [start_frame_index, end_frame_index)，即包含起始帧、不包含结束帧。
action_steps 的 subtask_index 在本批交付里恒为 0，是占位字段，不要当作指向
episode_subtasks 的外键使用；两层的对应关系请按帧区间重叠自行计算。本数据集每集
恰好 1 条 episode_subtasks（=整集任务）。