| --- |
| pretty_name: MultiCam 4D Stereo Dataset |
| tags: |
| - stereo |
| - multi-view |
| - 4d-reconstruction |
| - foundationstereo |
| - charuco-calibration |
| --- |
| |
| # MultiCam 4D Stereo Dataset |
|
|
| 同步 **8 目立体相机** 4D 采集数据。8 台 DECXIN/Nori 并排立体模组由**单个 ESP32 门控触发器**并联驱动,跨相机同步 **~0.4µs(亚微秒)**。每台相机自带用屏幕 ChArUco 标定出的**双目内参**。 |
|
|
| ## 相机 |
|
|
| 每台相机有唯一动物名(对应物理标签):`Cat` `Pig` `Cow` `Fish` `Tiger` `Sheep` `Dog` `Mouse`。 |
|
|
| ## 文件(每个 zip = 一段截取) |
|
|
| | 文件 | 会话 | 帧范围 | 每台每目帧数 | |
| |---|---|---|---| |
| | `ui_1784818172_8s到结尾_8台命名带内参.zip` | ui_1784818172 | 8s→结尾 | 353 | |
| | `ui_1784817901_4s到7s_8台命名带内参.zip` | ui_1784817901 | 4s→7s | 90 | |
| | `ui_1784817901_10s到结尾_8台命名带内参.zip` | ui_1784817901 | 10s→结尾 | 291 | |
| |
| (帧范围按 30fps 换算;每 zip 解压得到一个 `dataset_<session>_<range>/` 顶层目录。) |
| |
| ## 目录结构 |
| |
| ``` |
| dataset_<session>_<range>/ |
| ├── capture_info.json # 元信息(相机/帧范围/同步抖动/含标定清单) |
| ├── README.txt # 用法说明 |
| ├── Tiger/ |
| │ ├── left/ 000000.jpg … NNNNNN.jpg |
| │ ├── right/ 000000.jpg … NNNNNN.jpg |
| │ └── calibration/ |
| │ ├── foundationstereo_K.txt # 校正后 K + 基线(FoundationStereo 格式) |
| │ ├── stereo_calibration.npz # K/D/R/T + 极线校正映射 left_map/right_map |
| │ └── stereo_calibration_summary.json |
| ├── Fish/ … Cat/ … Pig/ … Cow/ … Sheep/ … Dog/ … Mouse/ … |
| ``` |
| |
| ## 对齐约定 |
| |
| - 同一相机 `left/NNNNNN.jpg` 与 `right/NNNNNN.jpg` = **同一原始帧**。 |
| - 不同相机的**同名帧** = **同一触发瞬间**(亚微秒同步)。 |
| - `left`/`right` 为原始拆分(相机倒装已转正,**未极线校正**);视差约定 `x_left - x_right > 0`,符合 FoundationStereo。 |
| |
| ## 使用 (FoundationStereo) |
| |
| 送 FoundationStereo 前,对每台的 `left`/`right` 用其 `calibration/stereo_calibration.npz` 里的 `left_map`/`right_map` 做 `cv2.remap` 极线校正,再配 `foundationstereo_K.txt`: |
| |
| ```python |
| import numpy as np, cv2 |
| c = np.load("Tiger/calibration/stereo_calibration.npz") |
| L = cv2.remap(cv2.imread("Tiger/left/000000.jpg"), c["left_map_x"], c["left_map_y"], cv2.INTER_LINEAR) |
| R = cv2.remap(cv2.imread("Tiger/right/000000.jpg"), c["right_map_x"], c["right_map_y"], cv2.INTER_LINEAR) |
| # 校正后的 L/R + foundationstereo_K.txt -> FoundationStereo |
| ``` |
| |
| ## 标定质量 |
| |
| 每台屏幕 ChArUco 双目标定:stereo RMS ≈ 0.6px、基线 ≈ 59.5mm(8 台聚集在 59.35–59.83mm,硬件一致)。 |
| |
