UsanoCoCr/humanoid-everyday-stepit

Humanoid-Everyday · stepit action（G1 子集）

一个自包含的标准 LeRobot v2.1 数据集，由原始 Humanoid-Everyday 数据集的 Unitree G1 子集 重新表达而来。与原始数据唯一的区别是 action 列被替换成了一个 41 维、包含完整 base 状态 （位置 + 姿态 + 线速度）的动作向量；其余所有列均逐字节保持不变，可直接用标准 LeRobot 加载器读取。

• 动作空间：41 维 = base(10) + G1 身体 29 关节 + 双手开合 2；抽取相应切片即可喂给 stepit（Unitree G1 29-DOF）控制器（见下文 stepit qpos）。
• 规模：4068 episodes / 1,781,092 frames / 246 tasks / 9 chunks，fps = 30，robot_type = g1。
• 体积：≈ 394 GB（parquet ≈ 391 GB + 视频 ≈ 3 GB + meta ≈ 2 MB）。

原始数据是 G1/H1 混合的（共 8954 episodes）。stepit 只支持 Unitree G1，因此 4886 个 H1 episode 被跳过，只保留 4068 个 G1 episode（被跳过的清单见 meta/skipped_manifest.json）。

---

目录结构

data_stepit/
├── data/                                 # 每个 episode 一个 parquet（逐帧 observation + action）
│   └── chunk-XXX/episode_YYYYYY.parquet
├── videos/                               # 每个 episode 一个 mp4（第一视角 RGB，H.264）
│   └── chunk-XXX/egocentric/episode_YYYYYY.mp4
└── meta/
    ├── info.json                         # 数据集级元数据 + features schema（action 为 41 维）
    ├── stats.json                        # 全局逐列统计（action + 若干 observation 列）
    ├── episodes.jsonl                    # 每 episode 的 length / tasks / 全局帧区间 / instruction
    ├── episodes_stats.jsonl              # 每 episode 逐列统计（占位，保留 LeRobot 结构）
    ├── tasks.jsonl                       # task_index → 任务名（共 246 个 task）
    ├── hand_thresholds.json              # 手部开/合二值化所用的 Otsu 阈值及标定信息
    ├── converted_manifest.json           # 已转换 episode 清单
    └── skipped_manifest.json             # 被跳过的非 G1 episode 清单（含关节维度 signature）

• 文件名沿用原始稀疏编号（episode_index 不连续），parquet 与 mp4 通过 episode_index 一一对齐。
• 编号约定：chunk = episode_index // 1000；路径模板见 info.json 的 data_path / video_path。

---

坐标系与单位约定

量	单位	坐标系
位置 position	米 (m)	里程计/世界系
四元数 quat	无量纲，顺序 (w, x, y, z)	里程计/世界系
线速度 velocity / base_lin_vel	m/s	base（机体）系（已实测确认，见下文）
角速度 gyroscope	rad/s	base 系
关节角	弧度 (rad)	各关节本地定义
时间 timestamp	秒 (s)	—
深度 depth	米 (m)	相机系

---

每帧包含的所有列（parquet 每行 = 1 帧）

列名	类型	形状	含义
observation.depth.egocentric	list<list<float>>	480×640	第一视角深度图（米）。RGB 不在 parquet 里，在 videos/ 中
observation.lidar	list<list<float>>	(N, 3)	LiDAR 点云 (x,y,z)，N 每帧可变（示例约 4700 点）
observation.imu.quaternion	list<float>	4	IMU 姿态四元数
observation.imu.accelerometer	list<float>	3	IMU 线加速度
observation.imu.gyroscope	list<float>	3	IMU 角速度（base 系，[·]z 为偏航角速度）
observation.imu.rpy	list<float>	3	IMU roll / pitch / yaw
observation.odometry.position	list<float>	3	机体里程计位置 (x, y, z)
observation.odometry.velocity	list<float>	3	机体线速度 (vx, vy, vz)，base 系
observation.odometry.rpy	list<float>	3	机体 roll / pitch / yaw
observation.odometry.quat	list<float>	4	机体姿态四元数 (w, x, y, z)
observation.arm_joints	list<float>	14	手臂关节角（弧度），左臂 7 + 右臂 7
observation.leg_joints	list<float>	15	腿 + 腰关节角（弧度），左腿 6 + 右腿 6 + 腰 3
observation.hand_joints	list<float>	14	Dex3 灵巧手关节角（弧度），左手 7 + 右手 7
observation.tactile.sensor_id	list<int64>	(M,)	触觉传感器 id，M 每帧可变（示例 18）
observation.tactile.values	list<list<float>>	(M, 4)	触觉读数（含 NaN padding）
observation.leg_velocity_cmd	list<float>	3	可选列（仅 --leg-velocity 生成时存在），见下文
action	list<float>	41	见下节（本数据集唯一被改写的列）
timestamp	float	—	帧时间戳（秒）
frame_index	int64	—	episode 内帧序号（从 0 开始）
episode_index	int64	—	全局 episode 序号（稀疏）
index	int64	—	全局帧序号
task_index	int64	—	任务序号（对应 meta/tasks.jsonl）
next.done	bool	—	是否为该 episode 的最后一帧

---

⭐ action（41 维）逐维详解

布局为 **[ base(10) , 身体29关节 , 双手2 ]**：

 ┌──────────────── base (10) ────────────────┐┌──────────── body 29 ────────────┐┌ hands 2 ┐
 [ pos(3) | quat(4) wxyz | lin_vel(3) ]        [ leg+waist(15) | arm(14) ]         [ L | R ]
   0:3       3:7            7:10                  10:25            25:39              39  40

base：action[0:10]（机体状态，连续 10 维）

下标	名称	含义	来源
0	base_pos_x	机体位置 x (m)	observation.odometry.position[0]
1	base_pos_y	机体位置 y (m)	observation.odometry.position[1]
2	base_pos_z	机体位置 z (m)	observation.odometry.position[2]
3	base_quat_w	姿态四元数 w	observation.odometry.quat[0]
4	base_quat_x	姿态四元数 x	observation.odometry.quat[1]
5	base_quat_y	姿态四元数 y	observation.odometry.quat[2]
6	base_quat_z	姿态四元数 z	observation.odometry.quat[3]
7	base_lin_vel_x	base 系线速度 vx (m/s)	observation.odometry.velocity[0]
8	base_lin_vel_y	base 系线速度 vy (m/s)	observation.odometry.velocity[1]
9	base_lin_vel_z	base 系线速度 vz (m/s)	observation.odometry.velocity[2]

• base_lin_vel 直接取 observation.odometry.velocity 的全 3 维，已实测为 base 系，无需旋转：在整圈 转向的行走 episode 上，它与「base 系差分位置」的吻合度 MAE≈0.033，明显优于世界系的 0.066。
• 多数操作任务机体几乎不动，base_lin_vel 大多 ≈ 0；真正有行走的 episode（如 chunk-007）才有明显非零值。

body：action[10:39]（G1 身体 29 关节，弧度，stepit 原生顺序）

下标	段	关节名（依次）
10:16	左腿 6	left_hip_pitch, left_hip_roll, left_hip_yaw, left_knee, left_ankle_pitch, left_ankle_roll
16:22	右腿 6	right_hip_pitch, right_hip_roll, right_hip_yaw, right_knee, right_ankle_pitch, right_ankle_roll
22:25	腰 3	waist_yaw, waist_roll, waist_pitch
25:32	左臂 7	left_shoulder_pitch, left_shoulder_roll, left_shoulder_yaw, left_elbow, left_wrist_roll, left_wrist_pitch, left_wrist_yaw
32:39	右臂 7	right_shoulder_pitch, right_shoulder_roll, right_shoulder_yaw, right_elbow, right_wrist_roll, right_wrist_pitch, right_wrist_yaw

• action[10:25]（腿+腰 15 维）整段直接来自 observation.leg_joints；action[25:39]（手臂 14 维） 整段直接来自 observation.arm_joints —— 同机器人、同顺序、同单位，无需 retarget。

hands：action[39:41]（每手开/合二值）

下标	名称	含义
39	left_hand_closed	左手：0 = 张开，1 = 握合
40	right_hand_closed	右手：0 = 张开，1 = 握合

由连续的 observation.hand_joints 经 Otsu 阈值二值化得到，方法见下文。

从 action 提取 stepit qpos

⚠️ stepit 的 36 维 MuJoCo qpos 不再是单一切片。 由于把线速度插进了 base，qpos （base 7 + G1 身体 29 关节，stepit 原生顺序：左腿→右腿→腰→左臂→右臂）现在是 **action[0:7] ++ action[10:39]**（即跳过中间 3 维线速度 action[7:10]）。

qpos = np.concatenate([action[:, 0:7], action[:, 10:39]], axis=1)   # (T, 36)，喂给 stepit

---

observation 各列详解

• observation.depth.egocentric (480, 640) float：第一视角深度图，单位米。对应的 RGB 帧不在 parquet 中，以 H.264 mp4 存于 videos/chunk-XXX/egocentric/episode_YYYYYY.mp4（480×640×3，30 fps）。
• observation.lidar (N, 3)：LiDAR 点云，每点 (x, y, z)，点数 N 逐帧可变。
• **observation.imu.***：quaternion(4)、accelerometer(3)、gyroscope(3, 角速度)、rpy(3)。
• **observation.odometry.***：position(3)、velocity(3, base 系线速度)、rpy(3)、quat(4, wxyz)。
• observation.arm_joints (14) = 左臂 7 + 右臂 7（关节角，弧度）。
• observation.leg_joints (15) = 左腿 6 + 右腿 6 + 腰 3（关节角，弧度）。
• observation.hand_joints (14) = 左手 7 + 右手 7，Dex3 灵巧手连续关节角（弧度）。每手 7 维顺序为 0 ThumbRot, 1 ThumbLow, 2 ThumbUp, 3 MidLow, 4 MidUp, 5 IdxLow, 6 IdxUp。
• observation.tactile.sensor_id (M,) int64 / observation.tactile.values (M, 4) float：触觉传感器 id 及其读数，M 逐帧可变，未用到的槽位以 NaN padding。

---

手部二值是怎么来的

原始 observation.hand_joints 是 Dex3 灵巧手的连续关节角。转换时用「中指 + 食指弯曲 DOF」的平均绝对值 mean(|θ|)（左手全局下标 [3,4,5,6]、右手 [10,11,12,13]）作为「握合程度」代理量，再用 Otsu 阈值二值化：

• 左手阈值 0.6253，右手阈值 0.6578（见 meta/hand_thresholds.json）；
• score > 阈值 记为 1（握合），否则 0（张开）；
• 阈值在 24 个 G1 episode / 8259 帧上标定，可在转换时用 --left-thr/--right-thr 覆盖。

---

可选：腿部速度指令列 observation.leg_velocity_cmd

转换时加 --leg-velocity 会额外写入一列 observation.leg_velocity_cmd（3 维 float32），供 Psi0 这类 速度控制的腿部 policy 直接读取。加不加这个 flag 都不影响 action（始终 41 维）。

下标	名称	来源
0	base_lin_vel_x (vx)	observation.odometry.velocity[0]
1	base_lin_vel_y (vy)	observation.odometry.velocity[1]
2	base_ang_vel_yaw (ωyaw)	observation.imu.gyroscope[2]

注意区分两者：action 里的 base_lin_vel（action[7:10]）= odometry.velocity 的**全 3 维线速度 [vx, vy, vz]**；而这里的可选列 leg_velocity_cmd = [vx, vy, ωyaw]（平面平移速度 + 偏航角速度）。 用途不同，可按需各取所需。该列是否存在由 finalize_stepit_meta.py 自动探测并登记进 info.json / stats.json。

---

任务（tasks）构成

共 246 个 task，task_index → 任务名 见 meta/tasks.jsonl；每 episode 的自然语言 instruction 见 meta/episodes.jsonl。任务名以类别前缀组织，7 个顶层类别：

类别	task 数	类别	task 数
Basic	64	HRI（人机交互）	41
Articulated（铰接物体）	48	deformable（可形变物体）	19
Locomanip（移动操作）	47	Tool_use（工具使用）	19
Precision（精细操作）	8

---

快速读取示例

import pyarrow.parquet as pq
import numpy as np

t = pq.read_table("data/chunk-003/episode_003370.parquet")
action = np.array(t.column("action").to_pylist())    # (T, 41)

base_pos     = action[:, 0:3]      # 机体位置 (m)
base_quat    = action[:, 3:7]      # 姿态四元数 wxyz
base_lin_vel = action[:, 7:10]     # base 系线速度 vx,vy,vz（下游速度感知控制器用）
leg_waist    = action[:, 10:25]    # 腿15：左腿6 + 右腿6 + 腰3
arms         = action[:, 25:39]    # 臂14：左臂7 + 右臂7
left_closed  = action[:, 39]       # 0/1
right_closed = action[:, 40]       # 0/1

# 喂给 stepit 的 36 维 MuJoCo qpos（跳过中间 3 维线速度）
qpos = np.concatenate([action[:, 0:7], action[:, 10:39]], axis=1)   # (T, 36)

---

与原始 Humanoid-Everyday 的关系

• 源仓库：USC-PSI-Lab/humanoid-everyday（LeRobot v2.1，fps=30，G1/H1 混合，共 8954 episode / 3,436,171 帧 / 246 task）。用关节维度签名区分机器人：G1 = (leg 15, arm 14, hand 14, action 28)， H1 = (leg 13, arm 14, hand 12, action 26)。
• **本数据集只保留 G1、只改写 action**，其余列逐字节不变。
• 原始 action 是「上半身操作指令」：G1 为 28 维 [hand(14), arm(14)]，只含手 + 臂的目标关节角， 不含腿、不含底盘、不含速度。本数据集的 41 维 action 是从 observation 里的腿/臂/底盘列重建的 （见各维「来源」列），与原始 action 的语义不同：原始是上半身指令，本数据集是完整机体 qpos 参考 + 线速度。