File size: 7,941 Bytes
ce86585 | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159 160 161 162 163 164 165 166 167 168 169 170 171 172 173 174 175 176 177 178 179 180 181 182 183 184 185 186 187 188 189 190 191 192 193 194 195 196 197 | # Muse_Robot_Dataset_02
机器人饮料抓取与放置任务数据集，包含多模态传感器数据（RGB、声学、雷达、热成像、深度）与机械臂控制信号。
## 1. 数据概况
| 项目 | 数值 |
|------|------|
| Episode 总数 | 118 |
| 有效 Episode | 97 |
| 废弃 Episode | 21（标注 `problem.abolished = true`） |
| 任务类型 | 饮料抓取 + 放置（4 种指令） |
| 每个 Episode 帧数 | 271–483（平均 ~364） |
| RGB 分辨率 | 1280 x 720 |
## 2. 目录结构
```
Muse_Robot_Dataset_02/
├── README.md
├── thermal_data/ # 118 个 episode 数据目录
│ └── {episode_name}/
│ ├── images/ # RGB 图片 (1280x720, .jpg)
│ ├── image_timestamps.txt # 帧时间戳
│ ├── video.mp4 # [生成] RGB 视频
│ ├── mask/
│ │ └── video.mp4 # [生成] SAM3 分割 mask 视频
│ ├── depth/
│ │ └── images/ # 深度图 (1280x720, .jpg)
│ ├── acoustic/
│ │ ├── images/ # 声学频谱图 (699x809, .jpg)
│ │ └── images_masked/ # [生成] 声学 overlay 视频
│ │ ├── video.mp4 # 彩色背景
│ │ ├── video_dark.mp4 # 黑色背景
│ │ └── video_grey.mp4 # 灰度背景
│ ├── radar/
│ │ ├── images/ # 雷达图 (182x182, .jpg)
│ │ ├── raw/ # 雷达原始数据 (.npy)
│ │ └── images_masked/ # [生成] 雷达 overlay 视频
│ │ ├── video.mp4
│ │ ├── video_dark.mp4
│ │ └── video_grey.mp4
│ ├── thermal/
│ │ ├── left/
│ │ │ ├── images/ # 左热像仪 (192x256, .jpg)
│ │ │ └── raw/ # 左热像仪原始数据 (.npy)
│ │ ├── right/
│ │ │ ├── images/ # 右热像仪 (192x256, .jpg)
│ │ │ └── raw/ # 右热像仪原始数据 (.npy)
│ │ ├── images/
│ │ │ └── video.mp4 # [生成] 左右热像合并视频
│ │ └── images_masked/ # [生成] 热成像 overlay 视频
│ │ ├── video.mp4
│ │ ├── video_dark.mp4
│ │ └── video_grey.mp4
│ ├── 6d_pose/
│ │ └── right_arm.npy # 6D 位姿
│ ├── arm_command/
│ │ └── right_arm.txt # 关节指令
│ ├── arm_status/
│ │ ├── raw_right_arm.txt # 原始关节状态
│ │ └── right_arm.txt # 关节状态
│ ├── ee_command/
│ │ └── right_ee.txt # 末端执行器指令
│ └── hand_status/
│ ├── right_hand_force.txt # 手指力
│ └── right_hand_position.txt # 手指位置
│
└── thermal_labels/ # 标注文件
├── {episode_name}.json # 118 个标注文件
└── {episode_name}_validity.json # 118 个有效性文件 [生成]
```
> 标记 `[生成]` 的文件由 `scripts/process_dataset_02.py` 处理生成。
## 3. 传感器数据
### 图像分辨率
| 传感器 | 分辨率 | 格式 | 说明 |
|--------|--------|------|------|
| RGB | 1280 x 720 | .jpg | 主相机 |
| Depth | 1280 x 720 | .jpg | 深度图 |
| Acoustic | 699 x 809 | .jpg | 声学频谱图 |
| Radar | 182 x 182 | .jpg / .npy | 雷达图像 + 原始数据 |
| Thermal (L/R) | 192 x 256 | .jpg / .npy | 左/右热像仪 + 原始数据 |
### 帧对齐
- RGB、Acoustic、Thermal、Depth、Radar 帧数一致，帧号对齐
- 生成的 overlay 视频已做帧对齐处理：缺帧用最近邻帧填充
## 4. 标注格式
### Label 文件（`thermal_labels/{episode}.json`）
```json
{
"video_name": "2026_04_07_21_02_52_000",
"relative_path": "video/2026_04_07_21_02_52_000",
"description": "Video annotation file.",
"frame_num_total": 453,
"pre_instructions": ["Pick up the hot drink in the box.", "..."],
"problem": {
"abolished": false,
"issue": false
},
"annotations": [
{
"instruction": "Pick up the cold drink in the box.",
"start": 40,
"end": 313
},
{
"instruction": "Place the drink into the basket.",
"start": 300,
"end": 452
}
]
}
```
**字段说明**：
- `video_name`: Episode 名称
- `frame_num_total`: 总帧数
- `problem.abolished`: 是否废弃（true = 数据有问题，不可用于训练）
- `problem.issue`: 是否有潜在问题
- `annotations`: 标注片段列表，每个包含 `instruction`（任务指令）、`start`/`end`（帧范围）
- `pre_instructions`: 预定义指令模板列表
### Validity 文件（`thermal_labels/{episode}_validity.json`）
由处理流水线生成，记录 SAM3 分割验证结果：
```json
// 有效 episode
{"abolished": false, "reason": "Valid: 2 instances detected"}
// 废弃 episode（标注中标记）
{"abolished": true, "reason": "Marked abolished in label"}
// 废弃 episode（SAM3 检测不足）
{"abolished": true, "reason": "SAM3 detected 1 instance(s), expected >= 2"}
```
## 5. 任务指令
共 4 种唯一指令，每个有效 episode 包含 2 个标注片段（抓取 + 放置）：
| 指令 | 出现次数 |
|------|----------|
| `Pick up the hot drink in the box.` | 32 |
| `Pick up the cold drink in the box.` | 30 |
| `Pick up the room-temperature drink in the box.` | 35 |
| `Place the drink into the basket.` | 96 |
> 共 193 个标注片段，分布于 97 个有效 episode 中。
## 6. 生成的视频文件
通过 `scripts/process_dataset_02.py` 处理生成，仅对 97 个有效 episode 产出：
| 视频 | 路径 | 说明 |
|------|------|------|
| RGB 视频 | `video.mp4` | RGB 图片编码为 H.264 视频 |
| Mask 视频 | `mask/video.mp4` | SAM3 分割 mask（白色=目标区域） |
| 声学 raw | `acoustic/images/video.mp4` | 声学频谱原始视频 |
| 声学 overlay | `acoustic/images_masked/video{,_dark,_grey}.mp4` | 声学 overlay（3 种背景） |
| 雷达 raw | `radar/images/video.mp4` | 雷达原始视频 |
| 雷达 overlay | `radar/images_masked/video{,_dark,_grey}.mp4` | 雷达 overlay（3 种背景） |
| 热成像 左 raw | `thermal/left/images/video.mp4` | 左热像仪原始视频 |
| 热成像 右 raw | `thermal/right/images/video.mp4` | 右热像仪原始视频 |
| 热成像 合并 | `thermal/images/video.mp4` | 左右热像合并视频 |
| 热成像 overlay | `thermal/images_masked/video{,_dark,_grey}.mp4` | 热成像 overlay（3 种背景） |
**每个有效 episode 共 16 个 mp4 文件**，所有视频帧数与 RGB 一致。
### 处理参数
| 参数 | 值 | 说明 |
|------|-----|------|
| SAM3 Prompt | `small box` | 检测饮料盒 |
| score_threshold_detection | 0.65 | 初始检测置信度阈值 |
| mask_area_threshold | 10000 | 面积过滤：> 10000 像素的 mask 被滤除（大盒子） |
| 视频编码 | H.264, CRF 23, 30fps | — |
## 7. 与 Dataset_01 的差异
| | Dataset_01 | Dataset_02 |
|---|---|---|
| Episode 数量 | 454 | 118（97 valid + 21 abolished） |
| 顶层结构 | `{sensor}_data/` + `{sensor}_labels/` 分离 | 仅 `thermal_data/` + `thermal_labels/`，所有传感器在 episode 内部 |
| 任务类型 | towel/clothes/box/item/drink（11 种指令） | 仅 drink（4 种指令） |
| SAM3 Prompt | 按传感器分别设置 | 统一 `small box` |
| 帧对齐 | 未对齐（sensor 视频可能帧数不同） | 已对齐（缺帧用最近邻填充） |
|