MaskedActionModel/Masked_action_model

Zarr数据集格式说明

本文档详细描述了生成的Zarr数据集的格式、字段含义和数据结构。

📁 数据集类型

本工具集生成两种类型的Zarr数据集：

1. Diffusion Policy (DP) 训练数据集 - 用于扩散策略训练
2. Masked Action Model (MAM) 训练数据集 - 用于掩码动作模型训练

🎯 Diffusion Policy (DP) 数据集格式

数据组织结构

0901_PushCube_points_mask_dp.zarr/
├── data/                           # 数据组
│   ├── img1                        # 视角0图像数据
│   ├── img2                        # 视角1图像数据
│   ├── state                       # 当前帧状态数据
│   ├── action                      # 下一帧动作数据
│   └── condition                   # 基于points mask的全局数据
└── meta/                           # 元数据组
    └── episode_ends                # 轨迹结束索引（上界）

字段详细说明

data/img1 - 视角0图像数据

• 维度: (total_frames, C, H, W)
• 数据类型: uint8
• 说明: 所有轨迹的视角0图像，按帧顺序拼接
• 示例: (6970, 3, 512, 512) 表示6970帧，3通道，512x512分辨率

data/img2 - 视角1图像数据

• 维度: (total_frames, C, H, W)
• 数据类型: uint8
• 说明: 所有轨迹的视角1图像，按帧顺序拼接
• 示例: (6970, 3, 512, 512) 表示6970帧，3通道，512x512分辨率

data/state - 当前帧状态数据

• 维度: (total_frames, 7)
• 数据类型: float32
• 说明: 每一帧对应的机器人动作状态
• 字段含义:
  • [:, 0:3]: 位置 (x, y, z)
  • [:, 3:6]: 方向 (dx, dy, dz)
  • [:, 6]: 夹爪状态 (gripper)

data/action - 下一帧动作数据

• 维度: (total_frames, 7)
• 数据类型: float32
• 说明: 每一帧对应的下一帧动作（用于预测）
• 字段含义: 与state相同
• 特殊处理: 最后一帧的action使用自身值填充

data/condition - 条件数据

• 维度: (total_frames, max_length, 8)
• 数据类型: float32
• 说明: 每一帧对应的完整轨迹条件mask数据
• 字段含义:
  • [:, :, 0:3]: 位置序列 (x, y, z)
  • [:, :, 3:6]: 方向序列 (dx, dy, dz)
  • [:, :, 6]: 夹爪状态序列 (gripper) 0/1 表示开合/关闭
  • [:, :, 7]: 时间序列 (time)

meta/episode_ends - 轨迹结束索引

• 维度: (num_trajectories,)
• 数据类型: int64
• 说明: 每个轨迹在全局数组中的结束位置（累积索引）
• 示例: [157, 310, 470, ...] 表示第1个轨迹结束于第157帧，第2个轨迹结束于第310帧

🎯 Masked Action Model (MAM) 数据集格式

数据组织结构

0901_PushCube_points_mask_mam.zarr/
├── data/                           # 数据组
│   ├── img1                        # 第0帧视角0图像
│   ├── img2                        # 第0帧视角1图像
│   ├── state                       # 第0帧状态数据
│   ├── action                      # 完整轨迹动作数据
│   └── MAS                         # 掩码动作序列
└── meta/                           # 元数据组
    └── episode_ends                # 轨迹有效长度

字段详细说明

data/img1 - 第0帧视角0图像

• 维度: (num_episodes, C, H, W)
• 数据类型: uint8
• 说明: 每个轨迹的第0帧视角0图像
• 示例: (100, 3, 512, 512) 表示100个轨迹，3通道，512x512分辨率

data/img2 - 第0帧视角1图像

• 维度: (num_episodes, C, H, W)
• 数据类型: uint8
• 说明: 每个轨迹的第0帧视角1图像
• 示例: (100, 3, 512, 512) 表示100个轨迹，3通道，512x512分辨率

data/state - 第0帧状态数据

• 维度: (num_episodes, 7)
• 数据类型: float32
• 说明: 每个轨迹第0帧的机器人动作状态
• 字段含义:
  • [:, 0:3]: 位置 (x, y, z)
  • [:, 3:6]: 方向 (dx, dy, dz)
  • [:, 6]: 夹爪状态 (gripper)

data/action - 完整轨迹动作数据

• 维度: (num_episodes, max_length, 8)
• 数据类型: float32
• 说明: 每个轨迹的完整动作序列，包含padding
• 字段含义:
  • [:, :, 0:3]: 位置序列 (x, y, z)
  • [:, :, 3:6]: 方向序列 (dx, dy, dz)
  • [:, :, 6]: 夹爪状态序列 (gripper)
  • [:, :, 7]: 时间序列 (time)
• Padding: 不足max_length的部分用-1填充

data/MAS - 掩码动作序列

• 维度: (num_episodes, max_length, 8)
• 数据类型: float32
• 说明: 每个轨迹对应的掩码动作序列（条件数据）
• 字段含义: 与action相同
• 用途: 作为模型的条件输入

meta/episode_ends - 轨迹有效长度

• 维度: (num_episodes,)
• 数据类型: int64
• 说明: 每个轨迹的实际有效长度（不含padding）
• 示例: [157, 153, 160, ...] 表示第1个轨迹有157帧，第2个轨迹有153帧

MAM数据集特点

• 轨迹级数据: 每个字段都是轨迹级别的数据
• 第0帧信息: img1、img2、state都是第0帧的信息
• 完整序列: action和MAS包含完整的轨迹序列
• Padding处理: 短轨迹用-1填充到max_length
• 掩码训练: MAS作为条件，action作为预测目标

📊 数据维度对比

字段	DP数据集	MAM数据集	说明
img1	(total_frames, C, H, W)	(num_episodes, C, H, W)	DP: 所有帧；MAM: 第0帧
img2	(total_frames, C, H, W)	(num_episodes, C, H, W)	DP: 所有帧；MAM: 第0帧
state	(total_frames, 7)	(num_episodes, 7)	DP: 每帧；MAM: 第0帧
action	(total_frames, 7)	(num_episodes, max_length, 8)	DP: 下一帧；MAM: 完整序列
condition/MAS	(total_frames, max_length, 8)	(num_episodes, max_length, 8)	条件数据
episode_ends	(num_trajectories,)	(num_episodes,)	索引/长度