README.md

---
license: other
pretty_name: MultiCam Dynamic-Rig Stereo + IMU
tags:
  - multi-view
  - stereo
  - imu
  - 4d-reconstruction
  - visual-inertial
---

# MultiCam · 动态 rig 立体 + IMU 数据集

8 视角双目 + 8 路 IMU,**相机阵列本身在运动**的一段同步采集。

## 为什么单独成库

同批 111 个采集会话里,用陀螺仪逐一筛查后,**只有这一段的相机架真的动过**:

| | 陀螺峰值 |
|---|---|
| **本段** (`ui_1785563256`) | **42.9 dps** |
| 第二名 | 1.40 dps |
| 其余 63 段 | 0.3–0.9 dps(传感器噪声底) |

差 30 倍,分离度极干净。其余会话都是"人动、架子静止",放在
[`DeDeHCL/multicam-4d-stereo`](https://huggingface.co/datasets/DeDeHCL/multicam-4d-stereo)。

## 规格

| 项 | 值 |
|---|---|
| 视角 | 8 台双目模组(DECXIN / Nori-3D,AR0234) |
| 图像 | 每台 left+right,1920×1200,**579 帧** |
| 帧率 | 60 Hz(ESP32 硬件触发,单源并联) |
| **跨相机同步** | **0.525 µs** |
| **IMU** | 每台 1 个 ICM-42688P,**601 Hz**,6 轴 |
| IMU 样本 | 每帧 11 个 × 8 台 × 579 帧 = **50952** |
| 时长 | 9.65 秒 |
| 标定 | 8 台全部含内参 + 双目外参 + 极线校正映射 |

## 目录结构

```
0801_1347_imu/
├── capture_info.json     相机清单、帧范围、同步质量、对齐说明
├── clock_sync.json       跨相机时钟偏移/漂移(28 对)
├── README.txt
└── <相机名>/             Cat Cow Dog Fish Mouse Pig Sheep Tiger
    ├── left/   000000.jpg … 000578.jpg
    ├── right/  000000.jpg … 000578.jpg
    ├── calibration/  foundationstereo_K.txt · stereo_calibration.npz · summary.json
    └── imu.jsonl     579 行,每行 11 个样本
```

## 三层对齐关系(重要)

**1. 同一台相机内:图像 ↔ IMU —— 无需时间标定**

IMU 样本的 `t_us` 与该帧的 `exp_start_us` / `exp_end_us` 来自**同一个硬件计数器**:

```json
{"frame": 0, "trigger_index": 20,
 "exp_start_us": 3181507905, "exp_end_us": 3181512898,
 "imu": [{"t_us": 3181495949, "acc_mg": [...], "gyro_dps": [...]}, ...]}
```

直接可比,不用估 time offset —— 这是多数 VIO 流程里最麻烦的一步。

**2. 跨相机:按 `frame` 号对齐**

所有相机的第 k 帧 ≡ 第 k 个硬件触发脉冲,抖动 0.525 µs。
`Dog/left/000123.jpg` 与 `Cat/left/000123.jpg` 是同一瞬间。

**3. 跨相机 IMU 融合:用 `clock_sync.json`**

各相机的计数器彼此独立(偏移可达数十秒,漂移几 ppm)。要把 8 路 IMU
放到同一时间轴:

```
t_ref = (t_cam − offset_us) / (1 + drift_ppm × 1e-6)
```

## 用法要点

- `left`/`right` 是**转正后的原始拆分,未做极线校正**。送 FoundationStereo 前,
  先用 `calibration/stereo_calibration.npz` 里的 `left_map` / `right_map`
  做 `cv2.remap`,再配 `foundationstereo_K.txt`。
- 视差约定 `x_left − x_right > 0`。
- 已裁掉原始采集开头 20 帧(AE 预热),帧号重新从 000000 起编,时间轴均匀无断点。
- 8 个 IMU 刚性固定在同一支架上,测的是**同一个刚体运动**——既是冗余
  (8 路平均可把噪声降约 √8),也意味着得到的是整个 rig 的 6DoF 运动。

> 数据含真实人物影像,仓库私有,仅授权者可访问。