# Zarr数据集格式说明 本文档详细描述了生成的Zarr数据集的格式、字段含义和数据结构。 ## 📁 数据集类型 本工具集生成两种类型的Zarr数据集： 1. **Diffusion Policy (DP) 训练数据集** - 用于扩散策略训练 2. **Masked Action Model (MAM) 训练数据集** - 用于掩码动作模型训练 ## 🎯 Diffusion Policy (DP) 数据集格式 ### **数据组织结构** ``` 0901_PushCube_points_mask_dp.zarr/ ├── data/ # 数据组 │ ├── img1 # 视角0图像数据 │ ├── img2 # 视角1图像数据 │ ├── state # 当前帧状态数据 │ ├── action # 下一帧动作数据 │ └── condition # 基于points mask的全局数据 └── meta/ # 元数据组 └── episode_ends # 轨迹结束索引（上界） ``` ### **字段详细说明** #### **data/img1** - 视角0图像数据 - **维度**: `(total_frames, C, H, W)` - **数据类型**: `uint8` - **说明**: 所有轨迹的视角0图像，按帧顺序拼接 - **示例**: `(6970, 3, 512, 512)` 表示6970帧，3通道，512x512分辨率 #### **data/img2** - 视角1图像数据 - **维度**: `(total_frames, C, H, W)` - **数据类型**: `uint8` - **说明**: 所有轨迹的视角1图像，按帧顺序拼接 - **示例**: `(6970, 3, 512, 512)` 表示6970帧，3通道，512x512分辨率 #### **data/state** - 当前帧状态数据 - **维度**: `(total_frames, 7)` - **数据类型**: `float32` - **说明**: 每一帧对应的机器人动作状态 - **字段含义**: - `[:, 0:3]`: 位置 (x, y, z) - `[:, 3:6]`: 方向 (dx, dy, dz) - `[:, 6]`: 夹爪状态 (gripper) #### **data/action** - 下一帧动作数据 - **维度**: `(total_frames, 7)` - **数据类型**: `float32` - **说明**: 每一帧对应的下一帧动作（用于预测） - **字段含义**: 与state相同 - **特殊处理**: 最后一帧的action使用自身值填充 #### **data/condition** - 条件数据 - **维度**: `(total_frames, max_length, 8)` - **数据类型**: `float32` - **说明**: 每一帧对应的完整轨迹条件mask数据 - **字段含义**: - `[:, :, 0:3]`: 位置序列 (x, y, z) - `[:, :, 3:6]`: 方向序列 (dx, dy, dz) - `[:, :, 6]`: 夹爪状态序列 (gripper) 0/1 表示开合/关闭 - `[:, :, 7]`: 时间序列 (time) #### **meta/episode_ends** - 轨迹结束索引 - **维度**: `(num_trajectories,)` - **数据类型**: `int64` - **说明**: 每个轨迹在全局数组中的结束位置（累积索引） - **示例**: `[157, 310, 470, ...]` 表示第1个轨迹结束于第157帧，第2个轨迹结束于第310帧 ## 🎯 Masked Action Model (MAM) 数据集格式 ### **数据组织结构** ``` 0901_PushCube_points_mask_mam.zarr/ ├── data/ # 数据组 │ ├── img1 # 第0帧视角0图像 │ ├── img2 # 第0帧视角1图像 │ ├── state # 第0帧状态数据 │ ├── action # 完整轨迹动作数据 │ └── MAS # 掩码动作序列 └── meta/ # 元数据组 └── episode_ends # 轨迹有效长度 ``` ### **字段详细说明** #### **data/img1** - 第0帧视角0图像 - **维度**: `(num_episodes, C, H, W)` - **数据类型**: `uint8` - **说明**: 每个轨迹的第0帧视角0图像 - **示例**: `(100, 3, 512, 512)` 表示100个轨迹，3通道，512x512分辨率 #### **data/img2** - 第0帧视角1图像 - **维度**: `(num_episodes, C, H, W)` - **数据类型**: `uint8` - **说明**: 每个轨迹的第0帧视角1图像 - **示例**: `(100, 3, 512, 512)` 表示100个轨迹，3通道，512x512分辨率 #### **data/state** - 第0帧状态数据 - **维度**: `(num_episodes, 7)` - **数据类型**: `float32` - **说明**: 每个轨迹第0帧的机器人动作状态 - **字段含义**: - `[:, 0:3]`: 位置 (x, y, z) - `[:, 3:6]`: 方向 (dx, dy, dz) - `[:, 6]`: 夹爪状态 (gripper) #### **data/action** - 完整轨迹动作数据 - **维度**: `(num_episodes, max_length, 8)` - **数据类型**: `float32` - **说明**: 每个轨迹的完整动作序列，包含padding - **字段含义**: - `[:, :, 0:3]`: 位置序列 (x, y, z) - `[:, :, 3:6]`: 方向序列 (dx, dy, dz) - `[:, :, 6]`: 夹爪状态序列 (gripper) - `[:, :, 7]`: 时间序列 (time) - **Padding**: 不足max_length的部分用-1填充 #### **data/MAS** - 掩码动作序列 - **维度**: `(num_episodes, max_length, 8)` - **数据类型**: `float32` - **说明**: 每个轨迹对应的掩码动作序列（条件数据） - **字段含义**: 与action相同 - **用途**: 作为模型的条件输入 #### **meta/episode_ends** - 轨迹有效长度 - **维度**: `(num_episodes,)` - **数据类型**: `int64` - **说明**: 每个轨迹的实际有效长度（不含padding） - **示例**: `[157, 153, 160, ...]` 表示第1个轨迹有157帧，第2个轨迹有153帧 ### **MAM数据集特点** - **轨迹级数据**: 每个字段都是轨迹级别的数据 - **第0帧信息**: img1、img2、state都是第0帧的信息 - **完整序列**: action和MAS包含完整的轨迹序列 - **Padding处理**: 短轨迹用-1填充到max_length - **掩码训练**: MAS作为条件，action作为预测目标 ## 📊 数据维度对比 | 字段 | DP数据集 | MAM数据集 | 说明 | |------|----------|-----------|------| | img1 | (total_frames, C, H, W) | (num_episodes, C, H, W) | DP: 所有帧；MAM: 第0帧 | | img2 | (total_frames, C, H, W) | (num_episodes, C, H, W) | DP: 所有帧；MAM: 第0帧 | | state | (total_frames, 7) | (num_episodes, 7) | DP: 每帧；MAM: 第0帧 | | action | (total_frames, 7) | (num_episodes, max_length, 8) | DP: 下一帧；MAM: 完整序列 | | condition/MAS | (total_frames, max_length, 8) | (num_episodes, max_length, 8) | 条件数据 | | episode_ends | (num_trajectories,) | (num_episodes,) | 索引/长度 |