SpatialVID synthetic camera controls
SpatialVID 원본은 관측 RGB와 그 RGB에 대응하는 source camera만 제공한다. 이 평가판의 novel camera paths는 실제 별도 촬영 camera가 아니라 NeoVerse demo 규약을 이용해 명시적으로 합성한 benchmark instructions다.
Twelve instructions
| trajectory ID | NeoVerse endpoint operation | relative endpoint translation |
|---|---|---|
orbit_left |
angle=15, orbit_radius=1.0 |
[-0.258819, 0, 0.034074] |
orbit_right |
angle=15, orbit_radius=1.0 |
[+0.258819, 0, 0.034074] |
tilt_up |
angle=15 |
[0, 0, 0] |
tilt_down |
angle=15 |
[0, 0, 0] |
pan_left |
angle=15 |
[0, 0, 0] |
pan_right |
angle=15 |
[0, 0, 0] |
move_left |
distance=0.1 |
[-0.1, 0, 0] |
move_right |
distance=0.1 |
[+0.1, 0, 0] |
push_in |
distance=0.1 |
[0, 0, +0.1] |
pull_out |
distance=0.1 |
[0, 0, -0.1] |
boom_up |
distance=0.1 |
[0, -0.1, 0] |
boom_down |
distance=0.1 |
[0, +0.1, 0] |
각 path는 num_frames=81, mode="relative", zoom_ratio=1.0,
use_first_frame=true다. Frame 0은 identity이고 frame 80은 위 endpoint다.
NeoVerse CameraTrajectory._compose_keyframes와 동일하게 rotation은 Slerp,
translation은 선형 보간한다. 좌우/상하 부호는 일반적인 이름 추측이 아니라
NeoVerse _get_camera_matrix 구현을 그대로 따른다.
SpatialVID는 dynamic scene으로 취급하므로 각 frame의 absolute control은 다음과 같다.
target_c2w[t] = source_c2w[t] @ relative_c2w[t]
따라서 target frame 0은 source frame 0과 정확히 같고, 원래 관측 camera motion 위에 지시 motion이 합성된다. 모든 행렬은 OpenCV camera-to-world다. Orbit radius 1.0과 translation distance 0.1은 물리 미터가 아니라 source reconstruction unit이다.
Files
- NeoVerse-compatible relative keyframes:
trajectory_specs/<trajectory_id>.json - 평가 loader가 읽는 absolute OpenCV c2w:
camera_controls/<scene_id>/<trajectory_id>/transforms.json - Case ID:
<scene_id>__<trajectory_id> - 재생성 및 검증:
python build_camera_controls.py - 읽기 전용 검증:
python build_camera_controls.py --check
200개 source 각각에 12개 path를 연결하므로 manifest에는 2,400개 camera-control-only case와 194,400개 control pose가 있다. Paired target RGB는 없다.