| --- |
| license: other |
| pretty_name: MultiCam Dynamic-Rig Stereo + IMU |
| tags: |
| - multi-view |
| - stereo |
| - imu |
| - 4d-reconstruction |
| - visual-inertial |
| --- |
| |
| # MultiCam · 动态 rig 立体 + IMU 数据集 |
|
|
| 8 视角双目 + 8 路 IMU,**相机阵列本身在运动**的一段同步采集。 |
|
|
| ## 为什么单独成库 |
|
|
| 同批 111 个采集会话里,用陀螺仪逐一筛查后,**只有这一段的相机架真的动过**: |
|
|
| | | 陀螺峰值 | |
| |---|---| |
| | **本段** (`ui_1785563256`) | **42.9 dps** | |
| | 第二名 | 1.40 dps | |
| | 其余 63 段 | 0.3–0.9 dps(传感器噪声底) | |
|
|
| 差 30 倍,分离度极干净。其余会话都是"人动、架子静止",放在 |
| [`DeDeHCL/multicam-4d-stereo`](https://huggingface.co/datasets/DeDeHCL/multicam-4d-stereo)。 |
|
|
| ## 规格 |
|
|
| | 项 | 值 | |
| |---|---| |
| | 视角 | 8 台双目模组(DECXIN / Nori-3D,AR0234) | |
| | 图像 | 每台 left+right,1920×1200,**579 帧** | |
| | 帧率 | 60 Hz(ESP32 硬件触发,单源并联) | |
| | **跨相机同步** | **0.525 µs** | |
| | **IMU** | 每台 1 个 ICM-42688P,**601 Hz**,6 轴 | |
| | IMU 样本 | 每帧 11 个 × 8 台 × 579 帧 = **50952** | |
| | 时长 | 9.65 秒 | |
| | 标定 | 8 台全部含内参 + 双目外参 + 极线校正映射 | |
|
|
| ## 目录结构 |
|
|
| ``` |
| 0801_1347_imu/ |
| ├── capture_info.json 相机清单、帧范围、同步质量、对齐说明 |
| ├── clock_sync.json 跨相机时钟偏移/漂移(28 对) |
| ├── README.txt |
| └── <相机名>/ Cat Cow Dog Fish Mouse Pig Sheep Tiger |
| ├── left/ 000000.jpg … 000578.jpg |
| ├── right/ 000000.jpg … 000578.jpg |
| ├── calibration/ foundationstereo_K.txt · stereo_calibration.npz · summary.json |
| └── imu.jsonl 579 行,每行 11 个样本 |
| ``` |
|
|
| ## 三层对齐关系(重要) |
|
|
| **1. 同一台相机内:图像 ↔ IMU —— 无需时间标定** |
|
|
| IMU 样本的 `t_us` 与该帧的 `exp_start_us` / `exp_end_us` 来自**同一个硬件计数器**: |
|
|
| ```json |
| {"frame": 0, "trigger_index": 20, |
| "exp_start_us": 3181507905, "exp_end_us": 3181512898, |
| "imu": [{"t_us": 3181495949, "acc_mg": [...], "gyro_dps": [...]}, ...]} |
| ``` |
|
|
| 直接可比,不用估 time offset —— 这是多数 VIO 流程里最麻烦的一步。 |
|
|
| **2. 跨相机:按 `frame` 号对齐** |
|
|
| 所有相机的第 k 帧 ≡ 第 k 个硬件触发脉冲,抖动 0.525 µs。 |
| `Dog/left/000123.jpg` 与 `Cat/left/000123.jpg` 是同一瞬间。 |
|
|
| **3. 跨相机 IMU 融合:用 `clock_sync.json`** |
| |
| 各相机的计数器彼此独立(偏移可达数十秒,漂移几 ppm)。要把 8 路 IMU |
| 放到同一时间轴: |
| |
| ``` |
| t_ref = (t_cam − offset_us) / (1 + drift_ppm × 1e-6) |
| ``` |
| |
| ## 用法要点 |
| |
| - `left`/`right` 是**转正后的原始拆分,未做极线校正**。送 FoundationStereo 前, |
| 先用 `calibration/stereo_calibration.npz` 里的 `left_map` / `right_map` |
| 做 `cv2.remap`,再配 `foundationstereo_K.txt`。 |
| - 视差约定 `x_left − x_right > 0`。 |
| - 已裁掉原始采集开头 20 帧(AE 预热),帧号重新从 000000 起编,时间轴均匀无断点。 |
| - 8 个 IMU 刚性固定在同一支架上,测的是**同一个刚体运动**——既是冗余 |
| (8 路平均可把噪声降约 √8),也意味着得到的是整个 rig 的 6DoF 运动。 |
| |
| > 数据含真实人物影像,仓库私有,仅授权者可访问。 |
| |
