tangjielong commited on
Commit
0c03ca9
·
1 Parent(s): b93e657

add README

Browse files
Files changed (1) hide show
  1. README.md +155 -0
README.md ADDED
@@ -0,0 +1,155 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ # Zarr数据集格式说明
2
+
3
+ 本文档详细描述了生成的Zarr数据集的格式、字段含义和数据结构。
4
+
5
+ ## 📁 数据集类型
6
+
7
+ 本工具集生成两种类型的Zarr数据集:
8
+
9
+ 1. **Diffusion Policy (DP) 训练数据集** - 用于扩散策略训练
10
+ 2. **Masked Action Model (MAM) 训练数据集** - 用于掩码动作模型训练
11
+
12
+ ## 🎯 Diffusion Policy (DP) 数据集格式
13
+
14
+ ### **数据组织结构**
15
+
16
+ ```
17
+ 0901_PushCube_points_mask_dp.zarr/
18
+ ├── data/ # 数据组
19
+ │ ├── img1 # 视角0图像数据
20
+ │ ├── img2 # 视角1图像数据
21
+ │ ├── state # 当前帧状态数据
22
+ │ ├── action # 下一帧动作数据
23
+ │ └── condition # 基于points mask的全局数据
24
+ └── meta/ # 元数据组
25
+ └── episode_ends # 轨迹结束索引(上界)
26
+ ```
27
+
28
+ ### **字段详细说明**
29
+
30
+ #### **data/img1** - 视角0图像数据
31
+ - **维度**: `(total_frames, C, H, W)`
32
+ - **数据类型**: `uint8`
33
+ - **说明**: 所有轨迹的视角0图像,按帧顺序拼接
34
+ - **示例**: `(6970, 3, 512, 512)` 表示6970帧,3通道,512x512分辨率
35
+
36
+ #### **data/img2** - 视角1图像数据
37
+ - **维度**: `(total_frames, C, H, W)`
38
+ - **数据类型**: `uint8`
39
+ - **说明**: 所有轨迹的视角1图像,按帧顺序拼接
40
+ - **示例**: `(6970, 3, 512, 512)` 表示6970帧,3通道,512x512分辨率
41
+
42
+ #### **data/state** - 当前帧状态数据
43
+ - **维度**: `(total_frames, 7)`
44
+ - **数据类型**: `float32`
45
+ - **说明**: 每一帧对应的机器人动作状态
46
+ - **字段含义**:
47
+ - `[:, 0:3]`: 位置 (x, y, z)
48
+ - `[:, 3:6]`: 方向 (dx, dy, dz)
49
+ - `[:, 6]`: 夹爪状态 (gripper)
50
+
51
+ #### **data/action** - 下一帧动作数据
52
+ - **维度**: `(total_frames, 7)`
53
+ - **数据类型**: `float32`
54
+ - **说明**: 每一帧对应的下一帧动作(用于预测)
55
+ - **字段含义**: 与state相同
56
+ - **特殊处理**: 最后一帧的action使用自身值填充
57
+
58
+ #### **data/condition** - 条件数据
59
+ - **维度**: `(total_frames, max_length, 8)`
60
+ - **数据类型**: `float32`
61
+ - **说明**: 每一帧对应的完整轨迹条件mask数据
62
+ - **字段含义**:
63
+ - `[:, :, 0:3]`: 位置序列 (x, y, z)
64
+ - `[:, :, 3:6]`: 方向序列 (dx, dy, dz)
65
+ - `[:, :, 6]`: 夹爪状态序列 (gripper) 0/1 表示开合/关闭
66
+ - `[:, :, 7]`: 时间序列 (time)
67
+
68
+ #### **meta/episode_ends** - 轨迹结束索引
69
+ - **维度**: `(num_trajectories,)`
70
+ - **数据类型**: `int64`
71
+ - **说明**: 每个轨迹在全局数组中的结束位置(累积索引)
72
+ - **示例**: `[157, 310, 470, ...]` 表示第1个轨迹结束于第157帧,第2个轨迹结束于第310帧
73
+
74
+
75
+ ## 🎯 Masked Action Model (MAM) 数据集格式
76
+
77
+ ### **数据组织结构**
78
+
79
+ ```
80
+ 0901_PushCube_points_mask_mam.zarr/
81
+ ├── data/ # 数据组
82
+ │ ├── img1 # 第0帧视角0图像
83
+ │ ├── img2 # 第0帧视角1图像
84
+ │ ├── state # 第0帧状态数据
85
+ │ ├── action # 完整轨迹动作数据
86
+ │ └── MAS # 掩码动作序列
87
+ └── meta/ # 元数据组
88
+ └── episode_ends # 轨迹有效长度
89
+ ```
90
+
91
+ ### **字段详细说明**
92
+
93
+ #### **data/img1** - 第0帧视角0图像
94
+ - **维度**: `(num_episodes, C, H, W)`
95
+ - **数据类型**: `uint8`
96
+ - **说明**: 每个轨迹的第0帧视角0图像
97
+ - **示例**: `(100, 3, 512, 512)` 表示100个轨迹,3通道,512x512分辨率
98
+
99
+ #### **data/img2** - 第0帧视角1图像
100
+ - **维度**: `(num_episodes, C, H, W)`
101
+ - **数据类型**: `uint8`
102
+ - **说明**: 每个轨迹的第0帧视角1图像
103
+ - **示例**: `(100, 3, 512, 512)` 表示100个轨迹,3通道,512x512分辨率
104
+
105
+ #### **data/state** - 第0帧状态数据
106
+ - **维度**: `(num_episodes, 7)`
107
+ - **数据类型**: `float32`
108
+ - **说明**: 每个轨迹第0帧的机器人动作状态
109
+ - **字段含义**:
110
+ - `[:, 0:3]`: 位置 (x, y, z)
111
+ - `[:, 3:6]`: 方向 (dx, dy, dz)
112
+ - `[:, 6]`: 夹爪状态 (gripper)
113
+
114
+ #### **data/action** - 完整轨迹动作数据
115
+ - **维度**: `(num_episodes, max_length, 8)`
116
+ - **数据类型**: `float32`
117
+ - **说明**: 每个轨迹的完整动作序列,包含padding
118
+ - **字段含义**:
119
+ - `[:, :, 0:3]`: 位置序列 (x, y, z)
120
+ - `[:, :, 3:6]`: 方向序列 (dx, dy, dz)
121
+ - `[:, :, 6]`: 夹爪状态序列 (gripper)
122
+ - `[:, :, 7]`: 时间序列 (time)
123
+ - **Padding**: 不足max_length的部分用-1填充
124
+
125
+ #### **data/MAS** - 掩码动作序列
126
+ - **维度**: `(num_episodes, max_length, 8)`
127
+ - **数据类型**: `float32`
128
+ - **说明**: 每个轨迹对应的掩码动作序列(条件数据)
129
+ - **字段含义**: 与action相同
130
+ - **用途**: 作为模型的条件输入
131
+
132
+ #### **meta/episode_ends** - 轨迹有效长度
133
+ - **维度**: `(num_episodes,)`
134
+ - **数据类型**: `int64`
135
+ - **说明**: 每个轨迹的实际有效长度(不含padding)
136
+ - **示例**: `[157, 153, 160, ...]` 表示第1个轨迹有157帧,第2个轨迹有153帧
137
+
138
+ ### **MAM数据集特点**
139
+
140
+ - **轨迹级数据**: 每个字段都是轨迹级别的数据
141
+ - **第0帧信息**: img1、img2、state都是第0帧的信息
142
+ - **完整序列**: action和MAS包含完整的轨迹序列
143
+ - **Padding处理**: 短轨迹用-1填充到max_length
144
+ - **掩码训练**: MAS作为条件,action作为预测目标
145
+
146
+ ## 📊 数据维度对比
147
+
148
+ | 字段 | DP数据集 | MAM数据集 | 说明 |
149
+ |------|----------|-----------|------|
150
+ | img1 | (total_frames, C, H, W) | (num_episodes, C, H, W) | DP: 所有帧;MAM: 第0帧 |
151
+ | img2 | (total_frames, C, H, W) | (num_episodes, C, H, W) | DP: 所有帧;MAM: 第0帧 |
152
+ | state | (total_frames, 7) | (num_episodes, 7) | DP: 每帧;MAM: 第0帧 |
153
+ | action | (total_frames, 7) | (num_episodes, max_length, 8) | DP: 下一帧;MAM: 完整序列 |
154
+ | condition/MAS | (total_frames, max_length, 8) | (num_episodes, max_length, 8) | 条件数据 |
155
+ | episode_ends | (num_trajectories,) | (num_episodes,) | 索引/长度 |