tangjielong
commited on
Commit
·
0c03ca9
1
Parent(s):
b93e657
add README
Browse files
README.md
ADDED
|
@@ -0,0 +1,155 @@
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 1 |
+
# Zarr数据集格式说明
|
| 2 |
+
|
| 3 |
+
本文档详细描述了生成的Zarr数据集的格式、字段含义和数据结构。
|
| 4 |
+
|
| 5 |
+
## 📁 数据集类型
|
| 6 |
+
|
| 7 |
+
本工具集生成两种类型的Zarr数据集:
|
| 8 |
+
|
| 9 |
+
1. **Diffusion Policy (DP) 训练数据集** - 用于扩散策略训练
|
| 10 |
+
2. **Masked Action Model (MAM) 训练数据集** - 用于掩码动作模型训练
|
| 11 |
+
|
| 12 |
+
## 🎯 Diffusion Policy (DP) 数据集格式
|
| 13 |
+
|
| 14 |
+
### **数据组织结构**
|
| 15 |
+
|
| 16 |
+
```
|
| 17 |
+
0901_PushCube_points_mask_dp.zarr/
|
| 18 |
+
├── data/ # 数据组
|
| 19 |
+
│ ├── img1 # 视角0图像数据
|
| 20 |
+
│ ├── img2 # 视角1图像数据
|
| 21 |
+
│ ├── state # 当前帧状态数据
|
| 22 |
+
│ ├── action # 下一帧动作数据
|
| 23 |
+
│ └── condition # 基于points mask的全局数据
|
| 24 |
+
└── meta/ # 元数据组
|
| 25 |
+
└── episode_ends # 轨迹结束索引(上界)
|
| 26 |
+
```
|
| 27 |
+
|
| 28 |
+
### **字段详细说明**
|
| 29 |
+
|
| 30 |
+
#### **data/img1** - 视角0图像数据
|
| 31 |
+
- **维度**: `(total_frames, C, H, W)`
|
| 32 |
+
- **数据类型**: `uint8`
|
| 33 |
+
- **说明**: 所有轨迹的视角0图像,按帧顺序拼接
|
| 34 |
+
- **示例**: `(6970, 3, 512, 512)` 表示6970帧,3通道,512x512分辨率
|
| 35 |
+
|
| 36 |
+
#### **data/img2** - 视角1图像数据
|
| 37 |
+
- **维度**: `(total_frames, C, H, W)`
|
| 38 |
+
- **数据类型**: `uint8`
|
| 39 |
+
- **说明**: 所有轨迹的视角1图像,按帧顺序拼接
|
| 40 |
+
- **示例**: `(6970, 3, 512, 512)` 表示6970帧,3通道,512x512分辨率
|
| 41 |
+
|
| 42 |
+
#### **data/state** - 当前帧状态数据
|
| 43 |
+
- **维度**: `(total_frames, 7)`
|
| 44 |
+
- **数据类型**: `float32`
|
| 45 |
+
- **说明**: 每一帧对应的机器人动作状态
|
| 46 |
+
- **字段含义**:
|
| 47 |
+
- `[:, 0:3]`: 位置 (x, y, z)
|
| 48 |
+
- `[:, 3:6]`: 方向 (dx, dy, dz)
|
| 49 |
+
- `[:, 6]`: 夹爪状态 (gripper)
|
| 50 |
+
|
| 51 |
+
#### **data/action** - 下一帧动作数据
|
| 52 |
+
- **维度**: `(total_frames, 7)`
|
| 53 |
+
- **数据类型**: `float32`
|
| 54 |
+
- **说明**: 每一帧对应的下一帧动作(用于预测)
|
| 55 |
+
- **字段含义**: 与state相同
|
| 56 |
+
- **特殊处理**: 最后一帧的action使用自身值填充
|
| 57 |
+
|
| 58 |
+
#### **data/condition** - 条件数据
|
| 59 |
+
- **维度**: `(total_frames, max_length, 8)`
|
| 60 |
+
- **数据类型**: `float32`
|
| 61 |
+
- **说明**: 每一帧对应的完整轨迹条件mask数据
|
| 62 |
+
- **字段含义**:
|
| 63 |
+
- `[:, :, 0:3]`: 位置序列 (x, y, z)
|
| 64 |
+
- `[:, :, 3:6]`: 方向序列 (dx, dy, dz)
|
| 65 |
+
- `[:, :, 6]`: 夹爪状态序列 (gripper) 0/1 表示开合/关闭
|
| 66 |
+
- `[:, :, 7]`: 时间序列 (time)
|
| 67 |
+
|
| 68 |
+
#### **meta/episode_ends** - 轨迹结束索引
|
| 69 |
+
- **维度**: `(num_trajectories,)`
|
| 70 |
+
- **数据类型**: `int64`
|
| 71 |
+
- **说明**: 每个轨迹在全局数组中的结束位置(累积索引)
|
| 72 |
+
- **示例**: `[157, 310, 470, ...]` 表示第1个轨迹结束于第157帧,第2个轨迹结束于第310帧
|
| 73 |
+
|
| 74 |
+
|
| 75 |
+
## 🎯 Masked Action Model (MAM) 数据集格式
|
| 76 |
+
|
| 77 |
+
### **数据组织结构**
|
| 78 |
+
|
| 79 |
+
```
|
| 80 |
+
0901_PushCube_points_mask_mam.zarr/
|
| 81 |
+
├── data/ # 数据组
|
| 82 |
+
│ ├── img1 # 第0帧视角0图像
|
| 83 |
+
│ ├── img2 # 第0帧视角1图像
|
| 84 |
+
│ ├── state # 第0帧状态数据
|
| 85 |
+
│ ├── action # 完整轨迹动作数据
|
| 86 |
+
│ └── MAS # 掩码动作序列
|
| 87 |
+
└── meta/ # 元数据组
|
| 88 |
+
└── episode_ends # 轨迹有效长度
|
| 89 |
+
```
|
| 90 |
+
|
| 91 |
+
### **字段详细说明**
|
| 92 |
+
|
| 93 |
+
#### **data/img1** - 第0帧视角0图像
|
| 94 |
+
- **维度**: `(num_episodes, C, H, W)`
|
| 95 |
+
- **数据类型**: `uint8`
|
| 96 |
+
- **说明**: 每个轨迹的第0帧视角0图像
|
| 97 |
+
- **示例**: `(100, 3, 512, 512)` 表示100个轨迹,3通道,512x512分辨率
|
| 98 |
+
|
| 99 |
+
#### **data/img2** - 第0帧视角1图像
|
| 100 |
+
- **维度**: `(num_episodes, C, H, W)`
|
| 101 |
+
- **数据类型**: `uint8`
|
| 102 |
+
- **说明**: 每个轨迹的第0帧视角1图像
|
| 103 |
+
- **示例**: `(100, 3, 512, 512)` 表示100个轨迹,3通道,512x512分辨率
|
| 104 |
+
|
| 105 |
+
#### **data/state** - 第0帧状态数据
|
| 106 |
+
- **维度**: `(num_episodes, 7)`
|
| 107 |
+
- **数据类型**: `float32`
|
| 108 |
+
- **说明**: 每个轨迹第0帧的机器人动作状态
|
| 109 |
+
- **字段含义**:
|
| 110 |
+
- `[:, 0:3]`: 位置 (x, y, z)
|
| 111 |
+
- `[:, 3:6]`: 方向 (dx, dy, dz)
|
| 112 |
+
- `[:, 6]`: 夹爪状态 (gripper)
|
| 113 |
+
|
| 114 |
+
#### **data/action** - 完整轨迹动作数据
|
| 115 |
+
- **维度**: `(num_episodes, max_length, 8)`
|
| 116 |
+
- **数据类型**: `float32`
|
| 117 |
+
- **说明**: 每个轨迹的完整动作序列,包含padding
|
| 118 |
+
- **字段含义**:
|
| 119 |
+
- `[:, :, 0:3]`: 位置序列 (x, y, z)
|
| 120 |
+
- `[:, :, 3:6]`: 方向序列 (dx, dy, dz)
|
| 121 |
+
- `[:, :, 6]`: 夹爪状态序列 (gripper)
|
| 122 |
+
- `[:, :, 7]`: 时间序列 (time)
|
| 123 |
+
- **Padding**: 不足max_length的部分用-1填充
|
| 124 |
+
|
| 125 |
+
#### **data/MAS** - 掩码动作序列
|
| 126 |
+
- **维度**: `(num_episodes, max_length, 8)`
|
| 127 |
+
- **数据类型**: `float32`
|
| 128 |
+
- **说明**: 每个轨迹对应的掩码动作序列(条件数据)
|
| 129 |
+
- **字段含义**: 与action相同
|
| 130 |
+
- **用途**: 作为模型的条件输入
|
| 131 |
+
|
| 132 |
+
#### **meta/episode_ends** - 轨迹有效长度
|
| 133 |
+
- **维度**: `(num_episodes,)`
|
| 134 |
+
- **数据类型**: `int64`
|
| 135 |
+
- **说明**: 每个轨迹的实际有效长度(不含padding)
|
| 136 |
+
- **示例**: `[157, 153, 160, ...]` 表示第1个轨迹有157帧,第2个轨迹有153帧
|
| 137 |
+
|
| 138 |
+
### **MAM数据集特点**
|
| 139 |
+
|
| 140 |
+
- **轨迹级数据**: 每个字段都是轨迹级别的数据
|
| 141 |
+
- **第0帧信息**: img1、img2、state都是第0帧的信息
|
| 142 |
+
- **完整序列**: action和MAS包含完整的轨迹序列
|
| 143 |
+
- **Padding处理**: 短轨迹用-1填充到max_length
|
| 144 |
+
- **掩码训练**: MAS作为条件,action作为预测目标
|
| 145 |
+
|
| 146 |
+
## 📊 数据维度对比
|
| 147 |
+
|
| 148 |
+
| 字段 | DP数据集 | MAM数据集 | 说明 |
|
| 149 |
+
|------|----------|-----------|------|
|
| 150 |
+
| img1 | (total_frames, C, H, W) | (num_episodes, C, H, W) | DP: 所有帧;MAM: 第0帧 |
|
| 151 |
+
| img2 | (total_frames, C, H, W) | (num_episodes, C, H, W) | DP: 所有帧;MAM: 第0帧 |
|
| 152 |
+
| state | (total_frames, 7) | (num_episodes, 7) | DP: 每帧;MAM: 第0帧 |
|
| 153 |
+
| action | (total_frames, 7) | (num_episodes, max_length, 8) | DP: 下一帧;MAM: 完整序列 |
|
| 154 |
+
| condition/MAS | (total_frames, max_length, 8) | (num_episodes, max_length, 8) | 条件数据 |
|
| 155 |
+
| episode_ends | (num_trajectories,) | (num_episodes,) | 索引/长度 |
|