| # SpatialVID synthetic camera controls |
|
|
| SpatialVID 원본은 관측 RGB와 그 RGB에 대응하는 source camera만 제공한다. |
| 이 평가판의 novel camera paths는 실제 별도 촬영 camera가 아니라 NeoVerse |
| demo 규약을 이용해 명시적으로 합성한 benchmark instructions다. |
|
|
| ## Twelve instructions |
|
|
| | trajectory ID | NeoVerse endpoint operation | relative endpoint translation | |
| |---|---|---| |
| | `orbit_left` | `angle=15`, `orbit_radius=1.0` | `[-0.258819, 0, 0.034074]` | |
| | `orbit_right` | `angle=15`, `orbit_radius=1.0` | `[+0.258819, 0, 0.034074]` | |
| | `tilt_up` | `angle=15` | `[0, 0, 0]` | |
| | `tilt_down` | `angle=15` | `[0, 0, 0]` | |
| | `pan_left` | `angle=15` | `[0, 0, 0]` | |
| | `pan_right` | `angle=15` | `[0, 0, 0]` | |
| | `move_left` | `distance=0.1` | `[-0.1, 0, 0]` | |
| | `move_right` | `distance=0.1` | `[+0.1, 0, 0]` | |
| | `push_in` | `distance=0.1` | `[0, 0, +0.1]` | |
| | `pull_out` | `distance=0.1` | `[0, 0, -0.1]` | |
| | `boom_up` | `distance=0.1` | `[0, -0.1, 0]` | |
| | `boom_down` | `distance=0.1` | `[0, +0.1, 0]` | |
|
|
| 각 path는 `num_frames=81`, `mode="relative"`, `zoom_ratio=1.0`, |
| `use_first_frame=true`다. Frame 0은 identity이고 frame 80은 위 endpoint다. |
| NeoVerse `CameraTrajectory._compose_keyframes`와 동일하게 rotation은 Slerp, |
| translation은 선형 보간한다. 좌우/상하 부호는 일반적인 이름 추측이 아니라 |
| NeoVerse `_get_camera_matrix` 구현을 그대로 따른다. |
|
|
| SpatialVID는 dynamic scene으로 취급하므로 각 frame의 absolute control은 다음과 같다. |
|
|
| ```text |
| target_c2w[t] = source_c2w[t] @ relative_c2w[t] |
| ``` |
|
|
| 따라서 target frame 0은 source frame 0과 정확히 같고, 원래 관측 camera |
| motion 위에 지시 motion이 합성된다. 모든 행렬은 OpenCV camera-to-world다. |
| Orbit radius 1.0과 translation distance 0.1은 물리 미터가 아니라 source |
| reconstruction unit이다. |
|
|
| ## Files |
|
|
| - NeoVerse-compatible relative keyframes: |
| `trajectory_specs/<trajectory_id>.json` |
| - 평가 loader가 읽는 absolute OpenCV c2w: |
| `camera_controls/<scene_id>/<trajectory_id>/transforms.json` |
| - Case ID: `<scene_id>__<trajectory_id>` |
| - 재생성 및 검증: `python build_camera_controls.py` |
| - 읽기 전용 검증: `python build_camera_controls.py --check` |
|
|
| 200개 source 각각에 12개 path를 연결하므로 manifest에는 2,400개 |
| camera-control-only case와 194,400개 control pose가 있다. Paired target RGB는 없다. |
|
|
