--- pretty_name: MultiCam 4D Stereo Dataset tags: - stereo - multi-view - 4d-reconstruction - foundationstereo - charuco-calibration --- # MultiCam 4D Stereo Dataset 同步 **8 目立体相机** 4D 采集数据。8 台 DECXIN/Nori 并排立体模组由**单个 ESP32 门控触发器**并联驱动,跨相机同步 **~0.4µs(亚微秒)**。每台相机自带用屏幕 ChArUco 标定出的**双目内参**。 ## 相机 每台相机有唯一动物名(对应物理标签):`Cat` `Pig` `Cow` `Fish` `Tiger` `Sheep` `Dog` `Mouse`。 ## 文件(每个 zip = 一段截取) | 文件 | 会话 | 帧范围 | 每台每目帧数 | |---|---|---|---| | `ui_1784818172_8s到结尾_8台命名带内参.zip` | ui_1784818172 | 8s→结尾 | 353 | | `ui_1784817901_4s到7s_8台命名带内参.zip` | ui_1784817901 | 4s→7s | 90 | | `ui_1784817901_10s到结尾_8台命名带内参.zip` | ui_1784817901 | 10s→结尾 | 291 | (帧范围按 30fps 换算;每 zip 解压得到一个 `dataset__/` 顶层目录。) ## 目录结构 ``` dataset__/ ├── capture_info.json # 元信息(相机/帧范围/同步抖动/含标定清单) ├── README.txt # 用法说明 ├── Tiger/ │ ├── left/ 000000.jpg … NNNNNN.jpg │ ├── right/ 000000.jpg … NNNNNN.jpg │ └── calibration/ │ ├── foundationstereo_K.txt # 校正后 K + 基线(FoundationStereo 格式) │ ├── stereo_calibration.npz # K/D/R/T + 极线校正映射 left_map/right_map │ └── stereo_calibration_summary.json ├── Fish/ … Cat/ … Pig/ … Cow/ … Sheep/ … Dog/ … Mouse/ … ``` ## 对齐约定 - 同一相机 `left/NNNNNN.jpg` 与 `right/NNNNNN.jpg` = **同一原始帧**。 - 不同相机的**同名帧** = **同一触发瞬间**(亚微秒同步)。 - `left`/`right` 为原始拆分(相机倒装已转正,**未极线校正**);视差约定 `x_left - x_right > 0`,符合 FoundationStereo。 ## 使用 (FoundationStereo) 送 FoundationStereo 前,对每台的 `left`/`right` 用其 `calibration/stereo_calibration.npz` 里的 `left_map`/`right_map` 做 `cv2.remap` 极线校正,再配 `foundationstereo_K.txt`: ```python import numpy as np, cv2 c = np.load("Tiger/calibration/stereo_calibration.npz") L = cv2.remap(cv2.imread("Tiger/left/000000.jpg"), c["left_map_x"], c["left_map_y"], cv2.INTER_LINEAR) R = cv2.remap(cv2.imread("Tiger/right/000000.jpg"), c["right_map_x"], c["right_map_y"], cv2.INTER_LINEAR) # 校正后的 L/R + foundationstereo_K.txt -> FoundationStereo ``` ## 标定质量 每台屏幕 ChArUco 双目标定:stereo RMS ≈ 0.6px、基线 ≈ 59.5mm(8 台聚集在 59.35–59.83mm,硬件一致)。