HelloDeDe/multicam-dynamic-rig-imu

MultiCam · 动态 rig 立体 + IMU 数据集

8 视角双目 + 8 路 IMU,相机阵列本身在运动的一段同步采集。

为什么单独成库

同批 111 个采集会话里,用陀螺仪逐一筛查后,只有这一段的相机架真的动过:

	陀螺峰值
本段 (ui_1785563256)	42.9 dps
第二名	1.40 dps
其余 63 段	0.3–0.9 dps(传感器噪声底)

差 30 倍,分离度极干净。其余会话都是"人动、架子静止",放在 DeDeHCL/multicam-4d-stereo。

规格

项	值
视角	8 台双目模组(DECXIN / Nori-3D,AR0234)
图像	每台 left+right,1920×1200,579 帧
帧率	60 Hz(ESP32 硬件触发,单源并联)
跨相机同步	0.525 µs
IMU	每台 1 个 ICM-42688P,601 Hz,6 轴
IMU 样本	每帧 11 个 × 8 台 × 579 帧 = 50952
时长	9.65 秒
标定	8 台全部含内参 + 双目外参 + 极线校正映射

目录结构

0801_1347_imu/
├── capture_info.json     相机清单、帧范围、同步质量、对齐说明
├── clock_sync.json       跨相机时钟偏移/漂移(28 对)
├── README.txt
└── <相机名>/             Cat Cow Dog Fish Mouse Pig Sheep Tiger
    ├── left/   000000.jpg … 000578.jpg
    ├── right/  000000.jpg … 000578.jpg
    ├── calibration/  foundationstereo_K.txt · stereo_calibration.npz · summary.json
    └── imu.jsonl     579 行,每行 11 个样本

三层对齐关系(重要)

1. 同一台相机内:图像 ↔ IMU —— 无需时间标定

IMU 样本的 t_us 与该帧的 exp_start_us / exp_end_us 来自同一个硬件计数器:

{"frame": 0, "trigger_index": 20,
 "exp_start_us": 3181507905, "exp_end_us": 3181512898,
 "imu": [{"t_us": 3181495949, "acc_mg": [...], "gyro_dps": [...]}, ...]}

直接可比,不用估 time offset —— 这是多数 VIO 流程里最麻烦的一步。

2. 跨相机:按 frame 号对齐

所有相机的第 k 帧 ≡ 第 k 个硬件触发脉冲,抖动 0.525 µs。 Dog/left/000123.jpg 与 Cat/left/000123.jpg 是同一瞬间。

3. 跨相机 IMU 融合:用 clock_sync.json

各相机的计数器彼此独立(偏移可达数十秒,漂移几 ppm)。要把 8 路 IMU 放到同一时间轴:

t_ref = (t_cam − offset_us) / (1 + drift_ppm × 1e-6)

用法要点

• left/right 是转正后的原始拆分,未做极线校正。送 FoundationStereo 前, 先用 calibration/stereo_calibration.npz 里的 left_map / right_map 做 cv2.remap,再配 foundationstereo_K.txt。
• 视差约定 x_left − x_right > 0。
• 已裁掉原始采集开头 20 帧(AE 预热),帧号重新从 000000 起编,时间轴均匀无断点。
• 8 个 IMU 刚性固定在同一支架上,测的是同一个刚体运动——既是冗余 (8 路平均可把噪声降约 √8),也意味着得到的是整个 rig 的 6DoF 运动。

数据含真实人物影像,仓库私有,仅授权者可访问。