Muse_Robot_Dataset_02
机器人饮料抓取与放置任务数据集，包含多模态传感器数据（RGB、声学、雷达、热成像、深度）与机械臂控制信号。
1. 数据概况
| 项目 | 数值 |
|---|---|
| Episode 总数 | 118 |
| 有效 Episode | 97 |
| 废弃 Episode | 21（标注 problem.abolished = true） |
| 任务类型 | 饮料抓取 + 放置（4 种指令） |
| 每个 Episode 帧数 | 271–483（平均 ~364） |
| RGB 分辨率 | 1280 x 720 |
2. 目录结构
Muse_Robot_Dataset_02/
├── README.md
├── thermal_data/ # 118 个 episode 数据目录
│ └── {episode_name}/
│ ├── images/ # RGB 图片 (1280x720, .jpg)
│ ├── image_timestamps.txt # 帧时间戳
│ ├── video.mp4 # [生成] RGB 视频
│ ├── mask/
│ │ └── video.mp4 # [生成] SAM3 分割 mask 视频
│ ├── depth/
│ │ └── images/ # 深度图 (1280x720, .jpg)
│ ├── acoustic/
│ │ ├── images/ # 声学频谱图 (699x809, .jpg)
│ │ └── images_masked/ # [生成] 声学 overlay 视频
│ │ ├── video.mp4 # 彩色背景
│ │ ├── video_dark.mp4 # 黑色背景
│ │ └── video_grey.mp4 # 灰度背景
│ ├── radar/
│ │ ├── images/ # 雷达图 (182x182, .jpg)
│ │ ├── raw/ # 雷达原始数据 (.npy)
│ │ └── images_masked/ # [生成] 雷达 overlay 视频
│ │ ├── video.mp4
│ │ ├── video_dark.mp4
│ │ └── video_grey.mp4
│ ├── thermal/
│ │ ├── left/
│ │ │ ├── images/ # 左热像仪 (192x256, .jpg)
│ │ │ └── raw/ # 左热像仪原始数据 (.npy)
│ │ ├── right/
│ │ │ ├── images/ # 右热像仪 (192x256, .jpg)
│ │ │ └── raw/ # 右热像仪原始数据 (.npy)
│ │ ├── images/
│ │ │ └── video.mp4 # [生成] 左右热像合并视频
│ │ └── images_masked/ # [生成] 热成像 overlay 视频
│ │ ├── video.mp4
│ │ ├── video_dark.mp4
│ │ └── video_grey.mp4
│ ├── 6d_pose/
│ │ └── right_arm.npy # 6D 位姿
│ ├── arm_command/
│ │ └── right_arm.txt # 关节指令
│ ├── arm_status/
│ │ ├── raw_right_arm.txt # 原始关节状态
│ │ └── right_arm.txt # 关节状态
│ ├── ee_command/
│ │ └── right_ee.txt # 末端执行器指令
│ └── hand_status/
│ ├── right_hand_force.txt # 手指力
│ └── right_hand_position.txt # 手指位置
│
└── thermal_labels/ # 标注文件
├── {episode_name}.json # 118 个标注文件
└── {episode_name}_validity.json # 118 个有效性文件 [生成]
标记
[生成]的文件由scripts/process_dataset_02.py处理生成。
3. 传感器数据
图像分辨率
| 传感器 | 分辨率 | 格式 | 说明 |
|---|---|---|---|
| RGB | 1280 x 720 | .jpg | 主相机 |
| Depth | 1280 x 720 | .jpg | 深度图 |
| Acoustic | 699 x 809 | .jpg | 声学频谱图 |
| Radar | 182 x 182 | .jpg / .npy | 雷达图像 + 原始数据 |
| Thermal (L/R) | 192 x 256 | .jpg / .npy | 左/右热像仪 + 原始数据 |
帧对齐
- RGB、Acoustic、Thermal、Depth、Radar 帧数一致，帧号对齐
- 生成的 overlay 视频已做帧对齐处理：缺帧用最近邻帧填充
4. 标注格式
Label 文件（thermal_labels/{episode}.json）
{
"video_name": "2026_04_07_21_02_52_000",
"relative_path": "video/2026_04_07_21_02_52_000",
"description": "Video annotation file.",
"frame_num_total": 453,
"pre_instructions": ["Pick up the hot drink in the box.", "..."],
"problem": {
"abolished": false,
"issue": false
},
"annotations": [
{
"instruction": "Pick up the cold drink in the box.",
"start": 40,
"end": 313
},
{
"instruction": "Place the drink into the basket.",
"start": 300,
"end": 452
}
]
}
字段说明：
video_name: Episode 名称frame_num_total: 总帧数problem.abolished: 是否废弃（true = 数据有问题，不可用于训练）problem.issue: 是否有潜在问题annotations: 标注片段列表，每个包含instruction（任务指令）、start/end（帧范围）pre_instructions: 预定义指令模板列表
Validity 文件（thermal_labels/{episode}_validity.json）
由处理流水线生成，记录 SAM3 分割验证结果：
// 有效 episode
{"abolished": false, "reason": "Valid: 2 instances detected"}
// 废弃 episode（标注中标记）
{"abolished": true, "reason": "Marked abolished in label"}
// 废弃 episode（SAM3 检测不足）
{"abolished": true, "reason": "SAM3 detected 1 instance(s), expected >= 2"}
5. 任务指令
共 4 种唯一指令，每个有效 episode 包含 2 个标注片段（抓取 + 放置）：
| 指令 | 出现次数 |
|---|---|
Pick up the hot drink in the box. |
32 |
Pick up the cold drink in the box. |
30 |
Pick up the room-temperature drink in the box. |
35 |
Place the drink into the basket. |
96 |
共 193 个标注片段，分布于 97 个有效 episode 中。
6. 生成的视频文件
通过 scripts/process_dataset_02.py 处理生成，仅对 97 个有效 episode 产出：
| 视频 | 路径 | 说明 |
|---|---|---|
| RGB 视频 | video.mp4 |
RGB 图片编码为 H.264 视频 |
| Mask 视频 | mask/video.mp4 |
SAM3 分割 mask（白色=目标区域） |
| 声学 raw | acoustic/images/video.mp4 |
声学频谱原始视频 |
| 声学 overlay | acoustic/images_masked/video{,_dark,_grey}.mp4 |
声学 overlay（3 种背景） |
| 雷达 raw | radar/images/video.mp4 |
雷达原始视频 |
| 雷达 overlay | radar/images_masked/video{,_dark,_grey}.mp4 |
雷达 overlay（3 种背景） |
| 热成像 左 raw | thermal/left/images/video.mp4 |
左热像仪原始视频 |
| 热成像 右 raw | thermal/right/images/video.mp4 |
右热像仪原始视频 |
| 热成像 合并 | thermal/images/video.mp4 |
左右热像合并视频 |
| 热成像 overlay | thermal/images_masked/video{,_dark,_grey}.mp4 |
热成像 overlay（3 种背景） |
每个有效 episode 共 16 个 mp4 文件，所有视频帧数与 RGB 一致。
处理参数
| 参数 | 值 | 说明 |
|---|---|---|
| SAM3 Prompt | small box |
检测饮料盒 |
| score_threshold_detection | 0.65 | 初始检测置信度阈值 |
| mask_area_threshold | 10000 | 面积过滤：> 10000 像素的 mask 被滤除（大盒子） |
| 视频编码 | H.264, CRF 23, 30fps | — |
7. 与 Dataset_01 的差异
| Dataset_01 | Dataset_02 | |
|---|---|---|
| Episode 数量 | 454 | 118（97 valid + 21 abolished） |
| 顶层结构 | {sensor}_data/ + {sensor}_labels/ 分离 |
仅 thermal_data/ + thermal_labels/，所有传感器在 episode 内部 |
| 任务类型 | towel/clothes/box/item/drink（11 种指令） | 仅 drink（4 种指令） |
| SAM3 Prompt | 按传感器分别设置 | 统一 small box |
| 帧对齐 | 未对齐（sensor 视频可能帧数不同） | 已对齐（缺帧用最近邻填充） |