README.md

---
task_categories:
- robotics
tags:
- lerobot
- vla
- imitation-learning
- bimanual-manipulation
- piperx
language:
- zh
pretty_name: Ragtel PiperX Bimanual 1 kg Packing
---

# Ragtel PiperX 双臂 1 kg 装箱数据集

本数据集由 Ragtel 双臂遥操作系统采集并转换为 **LeRobot v3.0** 格式，用于双臂 VLA、模仿学习和离线数据审核。当前版本包含 12 个 episode、51,185 帧，约 28.44 分钟；机器人信号和三路视频均输出为 30 Hz。

## 数据集概览

| 项目 | 值 |
|---|---|
| 任务 | `1KG装箱` |
| 机器人 | 双 PiperX，左右臂均为真实数据 |
| Episode | 12 |
| 总帧数 | 51,185 |
| 总时长 | 1,706.17 s（约 28.44 min） |
| 采样率 | 30 Hz |
| State / Action | `float32[14]` |
| 视频 | 3 路真实 RGB，1280×720，H.264，30 FPS，无音频 |
| LeRobot 版本 | v3.0 |
| Split | `train: 0:12` |

## 快速加载

```python
from lerobot.datasets.lerobot_dataset import LeRobotDataset

dataset = LeRobotDataset("TimerChen/FactoryDataset")
sample = dataset[0]

print(sample["observation.state"].shape)       # torch.Size([14])
print(sample["action"].shape)                  # torch.Size([14])
print(sample["observation.images.top"].shape)  # torch.Size([3, 720, 1280])
```

## 目录与文件规范

```text
FactoryDataset/
├── data/chunk-000/file-000.parquet
├── videos/
│   ├── observation.images.left_wrist/chunk-000/file-000.mp4 ... file-011.mp4
│   ├── observation.images.top/chunk-000/file-000.mp4 ... file-011.mp4
│   └── observation.images.right_wrist/chunk-000/file-000.mp4 ... file-011.mp4
└── meta/
    ├── info.json
    ├── stats.json
    ├── tasks.parquet
    ├── episodes/chunk-000/file-000.parquet
    ├── ragtel/alignment.v1.json
    ├── ragtel/batch_conversion.v1.json
    └── ragtel_calibration/
        ├── manifest.json
        ├── export_intrinsics.json
        ├── robot_description.urdf
        ├── left_wrist/
        ├── top/
        └── right_wrist/
```

每个 episode 对应每个相机目录中的一个 MP4，文件编号与 `episode_index` 一致。Parquet 中的 `frame_index` 在每个 episode 内从 0 开始，`timestamp = frame_index / 30`，时间单位为秒。

## 字段定义

| Key | 类型/形状 | 含义 |
|---|---|---|
| `observation.state` | `float32[14]` | 左右 PiperX 的实测关节位置与夹爪位置 |
| `action` | `float32[14]` | 实际发送给左右 follower 的关节与夹爪目标 |
| `observation.images.left_wrist` | video `[720,1280,3]` | 左腕相机，raw slot 0、采集设备 `/dev/video4` |
| `observation.images.top` | video `[720,1280,3]` | 顶部固定相机，raw slot 1、采集设备 `/dev/video2` |
| `observation.images.right_wrist` | video `[720,1280,3]` | 右腕相机，raw slot 2、采集设备 `/dev/video6` |
| `timestamp` | `float32` | episode 内相对时间，单位秒 |
| `frame_index` | `int64` | episode 内帧号，从 0 开始 |
| `episode_index` | `int64` | episode 编号，范围 0–11 |
| `index` | `int64` | 全数据集全局帧索引 |
| `task_index` | `int64` | 任务索引；当前仅有任务 0：`1KG装箱` |

## 14 维 State / Action 规范

两个向量采用完全相同的维度顺序：

```text
[left_j1, left_j2, left_j3, left_j4, left_j5, left_j6, left_gripper,
 right_j1, right_j2, right_j3, right_j4, right_j5, right_j6, right_gripper]
```

- 关节维度单位为 **rad**。
- 夹爪维度单位为 **mm**，约 0 表示闭合、90 表示张开。
- `observation.state` 是机器人反馈；`action` 是映射后实际发送给 follower 的目标，不是下一帧 state。
- J1–J5 的规范范围取自数据集随附的 `meta/ragtel_calibration/robot_description.urdf`，不是由当前样本统计得到。
- J6 当前存在范围/角度约定问题，尚未最终确认。下表仅列出 URDF 快照中的暂定值，**不得把 J6 这一范围直接作为数据裁剪、异常剔除或硬件安全限位依据**。
- 夹爪采用本数据集导出的控制量约定 `0–90 mm`；URDF 中单侧指爪的 prismatic 行程 `0–0.05 m` 不能直接等同于这里的夹爪开口量。
- 当前 51,185 帧逐维统计的 min/max、mean、std 和分位数仍完整保存在 `meta/stats.json`，用于数据分布检查和归一化。

| Dim | State 含义 | Action 含义 | 规范/暂定范围 | 范围来源与状态 |
|---:|---|---|---:|---|
| 0 | 左 J1 位置 | 左 J1 目标 | `[-2.61799, 2.61799] rad` | URDF `joint1` |
| 1 | 左 J2 位置 | 左 J2 目标 | `[0, 3.14159] rad` | URDF `joint2` |
| 2 | 左 J3 位置 | 左 J3 目标 | `[-2.96706, 0] rad` | URDF `joint3` |
| 3 | 左 J4 位置 | 左 J4 目标 | `[-1.55334, 1.55334] rad` | URDF `joint4` |
| 4 | 左 J5 位置 | 左 J5 目标 | `[-1.55334, 1.55334] rad` | URDF `joint5` |
| 5 | 左 J6 位置 | 左 J6 目标 | `[-2.09440, 2.09440] rad` | **URDF 暂定；范围待确认** |
| 6 | 左夹爪位置 | 左夹爪目标 | `[0, 90] mm` | 数据集控制量约定 |
| 7 | 右 J1 位置 | 右 J1 目标 | `[-2.61799, 2.61799] rad` | URDF `joint1` |
| 8 | 右 J2 位置 | 右 J2 目标 | `[0, 3.14159] rad` | URDF `joint2` |
| 9 | 右 J3 位置 | 右 J3 目标 | `[-2.96706, 0] rad` | URDF `joint3` |
| 10 | 右 J4 位置 | 右 J4 目标 | `[-1.55334, 1.55334] rad` | URDF `joint4` |
| 11 | 右 J5 位置 | 右 J5 目标 | `[-1.55334, 1.55334] rad` | URDF `joint5` |
| 12 | 右 J6 位置 | 右 J6 目标 | `[-2.09440, 2.09440] rad` | **URDF 暂定；范围待确认** |
| 13 | 右夹爪位置 | 右夹爪目标 | `[0, 90] mm` | 数据集控制量约定 |

J6 的待确认问题在当前统计中可见：左 J6 state/action 最小值约为 `-2.399/-2.411 rad`，右 J6 state/action 最小值约为 `-3.067/-3.082 rad`，均低于 URDF 暂定下限 `-2.094 rad`。在确认编码器零点、角度展开方式和真实机械范围之前，应保留这些原始数值并单独处理。

右臂 action 的 J4/J5（dim 10/11）在转换时执行了符号修正，以统一 raw action 与机器人 state 的方向约定。原始数据未被修改。

## 时间对齐

raw 数据中的 state、action、session 事件共享进程内单调时钟：

- `robot_state.csv` 提供 state/feedback 时间戳；
- `action.csv` 提供 action 时间戳；
- `teleop_events.csv` 提供各相机的 `VideoRecordStart/Stop`；
- `video/manifest.json` 提供 camera slot、设备和视频段信息。

导出时建立 30 Hz 固定时间网格，state/action 线性插值到对应时刻，视频按相机启动锚点选择最近的帧。每个 episode 的原始时间范围、视频锚点和网格起止时间保存在 `meta/ragtel/alignment.v1.json`。

当前 `camera_offsets_ms=0`、`action_delay_ms=0` 是导出默认值，并非测量得到的物理延迟。raw 没有逐视频帧的 host 单调时间戳，因此本版本不能被描述为硬件级帧同步；用于精确闭环 replay 前应进一步标定视频延迟和 action delay。

## 相机标定与 URDF

`meta/ragtel_calibration/` 包含：

- 三路相机内参；
- 左右腕相机手眼外参；
- 顶部相机相对左右机械臂 base 的外参；
- `piper_x_w_gripper.urdf` 的数据集快照；
- 标定来源、角色映射和 SHA256 信息。

当前标定按相机角色从参考标定快照重映射到 `left_wrist/top/right_wrist`。raw manifest 只保存 `/dev/video*`，没有稳定相机序列号，因此 `physical_camera_serial_verified=false`。在度量级三维重投影、Overlay 验证或更换相机后，应先核对物理相机序列号，必要时重新标定。

## Episode 清单

| Episode | Raw session | 帧数 | 时长 (s) |
|---:|---|---:|---:|
| 0 | `8_19_2` | 4,987 | 166.23 |
| 1 | `8_19_3` | 4,052 | 135.07 |
| 2 | `8_19_4` | 3,494 | 116.47 |
| 3 | `8_19_6` | 4,646 | 154.87 |
| 4 | `8_19_7` | 3,945 | 131.50 |
| 5 | `8_19_8` | 3,685 | 122.83 |
| 6 | `8_19_9` | 4,395 | 146.50 |
| 7 | `8_19_10` | 3,859 | 128.63 |
| 8 | `8_19_11` | 6,062 | 202.07 |
| 9 | `8_19_12` | 4,711 | 157.03 |
| 10 | `8_19_13` | 3,596 | 119.87 |
| 11 | `8_19_14` | 3,753 | 125.10 |

## 数据质量与使用注意事项

1. 当前发布只包含时长不少于 30 秒且被选入首批转换的 12 条 session。
2. 三路视频都是真实画面，不包含 dummy/黑色视频；左右臂 14 个数值维度也都是真实数据。
3. `stats.json` 提供全量 min/max/mean/std 及分位数，可用于归一化；部署时仍需使用机器人自身限位和安全控制。
4. 在训练前建议逐 episode 检查画面、state/action tracking error、任务成功状态以及视频时间偏移。
5. 这是数据集快照。raw 来源和转换 provenance 见 `meta/ragtel/batch_conversion.v1.json`，不要通过修改 Parquet/MP4 来修正 raw；修订应生成新的版本。