| # Muse_Robot_Dataset_02 |
| |
| 机器人饮料抓取与放置任务数据集，包含多模态传感器数据（RGB、声学、雷达、热成像、深度）与机械臂控制信号。 |
| |
| ## 1. 数据概况 |
| |
| | 项目 | 数值 | |
| |------|------| |
| | Episode 总数 | 118 | |
| | 有效 Episode | 97 | |
| | 废弃 Episode | 21（标注 `problem.abolished = true`） | |
| | 任务类型 | 饮料抓取 + 放置（4 种指令） | |
| | 每个 Episode 帧数 | 271–483（平均 ~364） | |
| | RGB 分辨率 | 1280 x 720 | |
| |
| ## 2. 目录结构 |
| |
| ``` |
| Muse_Robot_Dataset_02/ |
| ├── README.md |
| ├── thermal_data/ # 118 个 episode 数据目录 |
| │ └── {episode_name}/ |
| │ ├── images/ # RGB 图片 (1280x720, .jpg) |
| │ ├── image_timestamps.txt # 帧时间戳 |
| │ ├── video.mp4 # [生成] RGB 视频 |
| │ ├── mask/ |
| │ │ └── video.mp4 # [生成] SAM3 分割 mask 视频 |
| │ ├── depth/ |
| │ │ └── images/ # 深度图 (1280x720, .jpg) |
| │ ├── acoustic/ |
| │ │ ├── images/ # 声学频谱图 (699x809, .jpg) |
| │ │ └── images_masked/ # [生成] 声学 overlay 视频 |
| │ │ ├── video.mp4 # 彩色背景 |
| │ │ ├── video_dark.mp4 # 黑色背景 |
| │ │ └── video_grey.mp4 # 灰度背景 |
| │ ├── radar/ |
| │ │ ├── images/ # 雷达图 (182x182, .jpg) |
| │ │ ├── raw/ # 雷达原始数据 (.npy) |
| │ │ └── images_masked/ # [生成] 雷达 overlay 视频 |
| │ │ ├── video.mp4 |
| │ │ ├── video_dark.mp4 |
| │ │ └── video_grey.mp4 |
| │ ├── thermal/ |
| │ │ ├── left/ |
| │ │ │ ├── images/ # 左热像仪 (192x256, .jpg) |
| │ │ │ └── raw/ # 左热像仪原始数据 (.npy) |
| │ │ ├── right/ |
| │ │ │ ├── images/ # 右热像仪 (192x256, .jpg) |
| │ │ │ └── raw/ # 右热像仪原始数据 (.npy) |
| │ │ ├── images/ |
| │ │ │ └── video.mp4 # [生成] 左右热像合并视频 |
| │ │ └── images_masked/ # [生成] 热成像 overlay 视频 |
| │ │ ├── video.mp4 |
| │ │ ├── video_dark.mp4 |
| │ │ └── video_grey.mp4 |
| │ ├── 6d_pose/ |
| │ │ └── right_arm.npy # 6D 位姿 |
| │ ├── arm_command/ |
| │ │ └── right_arm.txt # 关节指令 |
| │ ├── arm_status/ |
| │ │ ├── raw_right_arm.txt # 原始关节状态 |
| │ │ └── right_arm.txt # 关节状态 |
| │ ├── ee_command/ |
| │ │ └── right_ee.txt # 末端执行器指令 |
| │ └── hand_status/ |
| │ ├── right_hand_force.txt # 手指力 |
| │ └── right_hand_position.txt # 手指位置 |
| │ |
| └── thermal_labels/ # 标注文件 |
| ├── {episode_name}.json # 118 个标注文件 |
| └── {episode_name}_validity.json # 118 个有效性文件 [生成] |
| ``` |
| |
| > 标记 `[生成]` 的文件由 `scripts/process_dataset_02.py` 处理生成。 |
|
|
| ## 3. 传感器数据 |
|
|
| ### 图像分辨率 |
|
|
| | 传感器 | 分辨率 | 格式 | 说明 | |
| |--------|--------|------|------| |
| | RGB | 1280 x 720 | .jpg | 主相机 | |
| | Depth | 1280 x 720 | .jpg | 深度图 | |
| | Acoustic | 699 x 809 | .jpg | 声学频谱图 | |
| | Radar | 182 x 182 | .jpg / .npy | 雷达图像 + 原始数据 | |
| | Thermal (L/R) | 192 x 256 | .jpg / .npy | 左/右热像仪 + 原始数据 | |
|
|
| ### 帧对齐 |
|
|
| - RGB、Acoustic、Thermal、Depth、Radar 帧数一致，帧号对齐 |
| - 生成的 overlay 视频已做帧对齐处理：缺帧用最近邻帧填充 |
|
|
|
|
| ## 4. 标注格式 |
|
|
| ### Label 文件（`thermal_labels/{episode}.json`） |
| |
| ```json |
| { |
| "video_name": "2026_04_07_21_02_52_000", |
| "relative_path": "video/2026_04_07_21_02_52_000", |
| "description": "Video annotation file.", |
| "frame_num_total": 453, |
| "pre_instructions": ["Pick up the hot drink in the box.", "..."], |
| "problem": { |
| "abolished": false, |
| "issue": false |
| }, |
| "annotations": [ |
| { |
| "instruction": "Pick up the cold drink in the box.", |
| "start": 40, |
| "end": 313 |
| }, |
| { |
| "instruction": "Place the drink into the basket.", |
| "start": 300, |
| "end": 452 |
| } |
| ] |
| } |
| ``` |
| |
| **字段说明**： |
| - `video_name`: Episode 名称 |
| - `frame_num_total`: 总帧数 |
| - `problem.abolished`: 是否废弃（true = 数据有问题，不可用于训练） |
| - `problem.issue`: 是否有潜在问题 |
| - `annotations`: 标注片段列表，每个包含 `instruction`（任务指令）、`start`/`end`（帧范围） |
| - `pre_instructions`: 预定义指令模板列表 |
|
|
| ### Validity 文件（`thermal_labels/{episode}_validity.json`） |
|
|
| 由处理流水线生成，记录 SAM3 分割验证结果： |
|
|
| ```json |
| // 有效 episode |
| {"abolished": false, "reason": "Valid: 2 instances detected"} |
| |
| // 废弃 episode（标注中标记） |
| {"abolished": true, "reason": "Marked abolished in label"} |
| |
| // 废弃 episode（SAM3 检测不足） |
| {"abolished": true, "reason": "SAM3 detected 1 instance(s), expected >= 2"} |
| ``` |
|
|
| ## 5. 任务指令 |
|
|
| 共 4 种唯一指令，每个有效 episode 包含 2 个标注片段（抓取 + 放置）： |
|
|
| | 指令 | 出现次数 | |
| |------|----------| |
| | `Pick up the hot drink in the box.` | 32 | |
| | `Pick up the cold drink in the box.` | 30 | |
| | `Pick up the room-temperature drink in the box.` | 35 | |
| | `Place the drink into the basket.` | 96 | |
|
|
| > 共 193 个标注片段，分布于 97 个有效 episode 中。 |
|
|
| ## 6. 生成的视频文件 |
|
|
| 通过 `scripts/process_dataset_02.py` 处理生成，仅对 97 个有效 episode 产出： |
|
|
| | 视频 | 路径 | 说明 | |
| |------|------|------| |
| | RGB 视频 | `video.mp4` | RGB 图片编码为 H.264 视频 | |
| | Mask 视频 | `mask/video.mp4` | SAM3 分割 mask（白色=目标区域） | |
| | 声学 raw | `acoustic/images/video.mp4` | 声学频谱原始视频 | |
| | 声学 overlay | `acoustic/images_masked/video{,_dark,_grey}.mp4` | 声学 overlay（3 种背景） | |
| | 雷达 raw | `radar/images/video.mp4` | 雷达原始视频 | |
| | 雷达 overlay | `radar/images_masked/video{,_dark,_grey}.mp4` | 雷达 overlay（3 种背景） | |
| | 热成像 左 raw | `thermal/left/images/video.mp4` | 左热像仪原始视频 | |
| | 热成像 右 raw | `thermal/right/images/video.mp4` | 右热像仪原始视频 | |
| | 热成像 合并 | `thermal/images/video.mp4` | 左右热像合并视频 | |
| | 热成像 overlay | `thermal/images_masked/video{,_dark,_grey}.mp4` | 热成像 overlay（3 种背景） | |
|
|
| **每个有效 episode 共 16 个 mp4 文件**，所有视频帧数与 RGB 一致。 |
|
|
| ### 处理参数 |
|
|
| | 参数 | 值 | 说明 | |
| |------|-----|------| |
| | SAM3 Prompt | `small box` | 检测饮料盒 | |
| | score_threshold_detection | 0.65 | 初始检测置信度阈值 | |
| | mask_area_threshold | 10000 | 面积过滤：> 10000 像素的 mask 被滤除（大盒子） | |
| | 视频编码 | H.264, CRF 23, 30fps | — | |
|
|
| ## 7. 与 Dataset_01 的差异 |
| |
| | | Dataset_01 | Dataset_02 | |
| |---|---|---| |
| | Episode 数量 | 454 | 118（97 valid + 21 abolished） | |
| | 顶层结构 | `{sensor}_data/` + `{sensor}_labels/` 分离 | 仅 `thermal_data/` + `thermal_labels/`，所有传感器在 episode 内部 | |
| | 任务类型 | towel/clothes/box/item/drink（11 种指令） | 仅 drink（4 种指令） | |
| | SAM3 Prompt | 按传感器分别设置 | 统一 `small box` | |
| | 帧对齐 | 未对齐（sensor 视频可能帧数不同） | 已对齐（缺帧用最近邻填充） | |
| |
