HugMinjun/geo4d_evals

Geo4D 최종 Evaluation Set 설명 및 분류

이 문서는 /workspace/dataset/geo4d_evals에 포함된 최종 evaluation set 5종을 설명하고, 데이터의 획득 방식과 평가 관계를 기준으로 분류한다. 수치와 경로는 2026-08-31 KST 기준 각 데이터셋의 manifest.json을 기준으로 집계했다. 공통 저장 규약의 세부 정의는 ../dataformat.md를 따른다.

1. 전체 구성

최종 evaluation set은 다음 5개 데이터셋으로 구성된다.

Geo4D evaluation sets
├── Monocular in-the-wild video
│   ├── 관측 RGB + 합성 novel camera-only control: DynPose, SpatialVID
│   └── 관측 RGB + 제공된 novel camera-only control: Vista4D
├── Multi-view video
│   └── 동일 원본 time ID의 실제 source-target RGB: DyCheck
└── Multi-view, novel-time video
    └── camera-time grid에서 시점과 시간을 함께 재조합: CamXTime

여기서 분류 기준은 다음과 같다.

• Monocular in-the-wild video: 하나의 일반 영상이 주된 RGB 관측이며, 같은 장면의 동기화된 별도 카메라 target RGB가 없다.
• Multi-view video: 같은 동적 장면을 서로 다른 실제 카메라에서 관측한 RGB가 있고, source와 target을 원본 시간 기준으로 대응시킬 수 있다.
• Multi-view, novel-time video: 여러 카메라와 여러 시간의 RGB grid가 있어, camera 경로뿐 아니라 시간 진행 방식도 source와 다르게 구성할 수 있다.

1.1 한눈에 보는 비교

데이터셋	주 분류	고유 source	평가 case	paired target	camera-only control	프레임 길이	FPS
DynPose	Monocular in-the-wild + synthetic novel-camera control	377	4,524	0	4,524	83–256	scene별 가변
SpatialVID	Monocular in-the-wild + synthetic novel-camera control	200	2,400	0	2,400	81 고정	출력 FPS 미정의
Vista4D	Monocular in-the-wild + novel-camera control	51	110	0	110	49 고정	24/25/30
DyCheck	Multi-view	20	20	13	0	180–424	30/60
CamXTime	Multi-view, novel-time	31	217	217	0	81 고정	30

합계는 고유 source 디렉터리 679개, 평가 case 7,271개, paired target 230개다. 물리적으로 저장된 RGB는 source 86,842프레임과 target 21,505프레임으로 총 108,347프레임이다. DynPose, SpatialVID, Vista4D에는 RGB target 대신 각각 718,188프레임, 194,400프레임, 5,390프레임, 총 917,978프레임의 camera-control pose가 별도로 있다.

중요: 평가 case와 고유 source는 같은 개념이 아니다. DynPose와 SpatialVID는 source마다 12개 합성 trajectory를 연결해 각각 4,524개와 2,400개 case를 만들고, CamXTime은 source 31개를 7가지 target temporal pattern에 사용해 217개 case를 만들며, Vista4D는 source 51개에 110개 camera trajectory를 연결한다.

2. 카테고리별 분류

2.1 Monocular in-the-wild video

이 그룹의 공통점은 실제 환경에서 얻은 일반 단안 영상이 source이고, 동일 장면을 다른 실제 카메라로 촬영한 paired target RGB가 없다는 점이다. 다만 평가 신호의 형태에 따라 다시 두 군집으로 나뉜다.

관측 RGB와 novel camera-only control 제공

• DynPose: YouTube RGB와 ViPE 관측 pose에 NeoVerse demo의 12개 표준 relative trajectory를 합성한다.
• SpatialVID: 관측 source pose에 같은 12개 표준 relative trajectory를 합성한다.
• Vista4D: Pexels/DAVIS source 영상과 별도의 목표 camera trajectory를 제공한다.

세 데이터셋 모두 입력은 monocular in-the-wild이지만 평가 조건에는 novel camera path가 포함된다. DynPose/SpatialVID control은 원본 제공 신호가 아니라 명시적으로 정의한 synthetic benchmark control이고, Vista4D control은 원 평가 데이터에서 가져왔다. 실제 target RGB는 없으므로 full-reference novel-view metric보다는 camera-conditioned generation이나 trajectory-following 평가에 적합하다. DynPose/SpatialVID의 source pose 자체는 계속 관측 RGB에 대응하는 pose이며 목표 path로 오해하면 안 된다.

2.2 Multi-view video

• DyCheck는 동적 장면을 camera 0 source와 camera 1/2 target에서 관측한 실제 multi-view 데이터다.
• paired case는 source와 target이 같은 원본 time_id를 갖도록 정렬된다.
• 20개 case 중 13개만 paired target RGB를 가지며, 나머지 7개는 원본 validation camera가 없는 source-only case다.

즉 DyCheck는 dataset-level로는 has_target=true이지만 target coverage가 mixed다. loader는 데이터셋 이름이나 디렉터리 존재를 추측하지 말고, 각 case의 target_path와 pair_id를 확인해야 한다.

2.3 Multi-view, novel-time video

• CamXTime은 scene별 120-camera × 120-time RGB grid를 기반으로 한다.
• 하나의 forward source에 camera 경로와 원본 motion-frame mapping이 다른 7개 target을 연결한다.
• target pattern은 backward, zigzag, slowmo, fastmo, bullettime_early, bullettime_mid, bullettime_late다.

source와 target의 출력 index는 모두 0–80이지만, 같은 index가 같은 원본 시간을 뜻하지 않는다. 정확한 관계는 양쪽 extras/temporal_mapping.json에 기록된 camera index와 motion-frame index로 해석해야 한다. 이 특성 때문에 CamXTime은 단순 novel-view가 아니라 novel-view + novel-time 평가 데이터다.

3. 데이터셋별 상세 설명

3.1 DynPose (dynpose_eval)

성격과 목적

DynPose-100K++에서 num_frames >= 81 조건으로 선택한 400개 표본 중 RGB를 복원할 수 있었던 377개를 포함한다. 영상은 metadata의 YouTube 링크와 시간 구간을 이용해 복원했으며, 23개 private/unavailable 영상은 최종 set에서 제외했다.

이 데이터셋은 자연스러운 촬영 조건, 압축, camera motion, 동적 객체가 섞인 대규모 in-the-wild 단안 평가군이다. 실제 paired target은 없으며, ViPE 관측 camera 위에 NeoVerse 기본 12종 relative path를 합성해 camera-control-only benchmark를 구성한다.

구성

• 고유 source: 377개
• 평가 case: 4,524개 (377 × 12 trajectories)
• 총 source frame: 59,849개
• camera-control pose: 718,188개 (59,849 × 12)
• scene별 길이: 83–256프레임
• FPS: 23.976, 24, 25, 29.97, 30 등을 포함한 10개 rational variant
• RGB: H.264 MP4, yuv420p, 832×480
• target RGB: 없음
• camera control: pan_left/right, tilt_up/down, move_left/right, push_in/pull_out, boom_up/down, orbit_left/right
• pairing: 4,524개 모두 camera-control-only unpaired case

카메라와 부가 데이터

• pose는 ViPE 공식 artifact의 OpenCV c2w다.
• intrinsics와 pose 원본 NPZ를 extras/에 보존한다.
• Z-only half-float OpenEXR depth를 scene별 ZIP으로 보존한다. 이 depth는 원본 canvas 기준이며 핵심 RGB처럼 crop/resize된 값이 아니다.
• 한 scene은 fx, fy가 모두 음수여서, projection을 보존하도록 focal sign과 pose를 함께 정규화했다.
• camera translation은 물리 단위가 확정되지 않은 reconstruction unit이다.

Camera-control 정의

• 각 trajectory는 source와 같은 83–256프레임의 relative OpenCV c2w다.
• frame 0의 identity에서 마지막 지시 pose까지 rotation Slerp와 translation 선형 보간을 사용한다.
• 프레임별 target_c2w[t] = source_c2w[t] @ relative_c2w[t]로 absolute control을 만든다.
• pan/tilt는 15°, translation은 0.1 reconstruction unit, orbit은 15°와 radius 1.0의 NeoVerse 기본값이다.

주의점

• source pose는 목표 trajectory가 아니라 관측 RGB의 추정 trajectory다.
• 합성 distance/radius는 물리 미터가 아니며 scene 사이의 절대 이동량으로 비교하지 않는다.
• YouTube timestamp만으로 FPS를 재추론하지 말고 case의 fps와 output_fps_rational을 사용해야 한다.
• 원래 400개 표본 전체가 아니라 RGB 복원에 성공한 377개가 최종 모집단이다.

3.2 SpatialVID (spatialvid_eval)

성격과 목적

SpatialVID에서 동적 콘텐츠를 중심으로 선정한 200개 단안 영상 평가군이다. 원본 영상 전체가 아니라 annotation 구간에서 균등 추출된 81개 frame을 사용한다. 도시, 거리, 군중, 이동 촬영처럼 실제 영상의 장면 다양성과 동적 복잡도를 분석하기 좋다. 각 source에 NeoVerse demo와 동일한 12개 camera instruction을 결합해 camera-control 평가 case를 정의한다.

구성

• 고유 source: 200개
• 평가 case: 2,400개 (200 × 12 trajectories)
• 총 source frame: 16,200개
• camera-control pose: 194,400개 (2,400 × 81)
• 길이: 모든 case가 81프레임
• RGB: lossless PNG sequence, 832×480
• target RGB: 없음
• camera control: pan_left/right, tilt_up/down, move_left/right, push_in/pull_out, boom_up/down, orbit_left/right
• pairing: 2,400개 모두 camera-control-only unpaired case
• dynamic mask: 없음

Camera-control 정의

• NeoVerse CameraTrajectory.from_predefined의 기본값을 사용한다. pan/tilt는 15°, translation은 0.1 reconstruction unit, orbit은 15°와 radius 1.0이다.
• 모든 trajectory는 81프레임의 relative OpenCV c2w이며, frame 0의 identity에서 frame 80의 지시 pose까지 rotation Slerp와 translation 선형 보간을 사용한다.
• SpatialVID는 동적 source이므로 NeoVerse demo와 동일하게 프레임별 target_c2w[t] = source_c2w[t] @ relative_c2w[t]로 absolute control을 만든다. 따라서 모든 control의 첫 pose는 해당 source 첫 pose와 정확히 같다.
• NeoVerse-compatible keyframe 정의는 trajectory_specs/<trajectory_id>.json, 통합 포맷의 absolute control은 camera_controls/<scene_id>/<trajectory_id>/transforms.json에 저장한다.
• orbit radius 1.0은 물리 미터가 아니라 SpatialVID source reconstruction unit이다. scene 사이의 절대 이동량으로 해석하지 않는다.

시간 표현

입력 자체가 원본에서 균등 subsampling된 PNG sequence이므로 하나의 출력 FPS를 부여하지 않는다. 각 frame의 정확한 원본 index와 source_frame_index / original_video_fps로 계산한 timestamp는 extras/temporal_mapping.json에 있다. 따라서 일정 간격의 81개 배열이라는 사실을 81-frame짜리 원본 동영상으로 오해하면 안 된다.

분석 가능한 metadata

각 case에는 다음과 같은 clustering feature가 있다.

• dynamic_ratio
• crowd_density
• motion_tags
• scene_type
• aesthetic_score
• camera_move_distance
• camera_rotation_angle
• 원본 video FPS와 frame 수

이 필드들은 움직임 크기, 군중 밀도, scene domain, camera translation/rotation 강도에 따른 stratified evaluation에 바로 사용할 수 있다.

주의점

• fps=null은 FPS 정보가 없다는 뜻이 아니라, subsampling 결과 전체를 표현하는 단일 FPS가 부정확하다는 뜻이다.
• RGB와 같은 시점의 pose는 원래 관측 카메라이고, 목표 path는 위 규칙으로 합성한 benchmark control이다. 둘을 실제 별도 촬영 camera로 해석하면 안 된다.
• camera translation의 물리 단위는 확정되지 않았다.

3.3 Vista4D (vista4d_eval)

성격과 목적

Pexels와 DAVIS의 in-the-wild 단안 source에 사전에 정의된 novel camera trajectory를 결합한 camera-control 평가군이다. 입력 영상과 원하는 camera motion은 있지만, 그 camera에서 촬영된 실제 target RGB는 없다.

구성

• 고유 source: 51개
  • Pexels 38개
  • DAVIS 13개
• 평가 case/camera trajectory: 110개
• source frame: 51 × 49 = 2,499개
• camera-control pose: 110 × 49 = 5,390개
• FPS 분포: source 기준 24 FPS 19개, 25 FPS 23개, 30 FPS 9개
• RGB: H.264 MP4, 832×480
• target: 없음

카메라와 마스크

• camera_controls/<scene>/<trajectory>/transforms.json이 실제 평가 control이다.
• source camera rotation은 원본의 작은 SO(3) 오차를 SVD로 가장 가까운 proper rotation에 projection했다. translation은 바꾸지 않았다.
• 표준 first-frame 일치 조건을 만족한 FSFF case는 1개뿐이다. 나머지 109개 원본 FSFF 배열은 표준 control로 선언하지 않고 extras/original_fsff.npz에 보존한다.
• 51개 source 모두 dynamic/background mask가 있으며 background == ~dynamic이다.
• sky mask는 background mask와 다른 의미이므로 extras/sky_masks.npz에 분리돼 있다.

적합한 평가

• camera-conditioned video generation
• trajectory adherence
• source 첫 frame 또는 source video의 내용/동작 보존
• camera motion 종류별 성능 분석

실제 target RGB가 없으므로 pixel-aligned full-reference metric을 바로 계산할 수는 없다.

3.4 DyCheck (dycheck_eval)

성격과 목적

동적 장면을 여러 실제 카메라로 촬영한 multi-view 평가군이다. camera 0의 train frame을 source로, camera 1 또는 2의 validation frame을 target으로 사용하며 동일한 원본 time ID끼리 pair를 구성한다.

구성

• 원본 scene: 20개
• 평가 case: 20개
• paired case: 13개
• source-only case: 7개
• source frame: 5,783개
• target frame: 3,928개
• 총 RGB frame: 9,711개
• scene/camera별 길이: 180–424프레임
• FPS: 18개 case가 30, 2개 case가 60
• RGB: PNG sequence, 832×480

paired scene은 apple, block, paper-windmill, space-out, spin, teddy, wheel에서 구성되며 일부 scene은 camera 1과 camera 2가 각각 별도 case다. backpack, creeper, handwavy, haru-sit, mochi-high-five, pillow, sriracha-tree는 paired validation RGB가 없어 source-only다.

카메라, 시간, 마스크

• 원본 camera orientation의 transpose와 camera position으로 OpenCV c2w를 구성한다.
• bad-frame 제거 때문에 source/target frame 수와 시간 간격이 camera별로 다를 수 있다.
• 정확한 원본 frame name, camera ID, time ID는 extras/frame_mapping.json에 있다.
• 원본 RGBA alpha는 dynamic mask가 아니라 RGB/LiDAR projection의 valid mask다.
• target의 co-visible mask는 novel-view metric 유효영역이며 dynamic/background mask가 아니다.

주의점

• protocol.has_target=true만 보고 모든 case에 target이 있다고 가정하면 안 된다.
• paired frame은 배열을 단순 연결한 것이 아니라 같은 원본 time ID로 매칭한 결과다.
• portrait source가 많아 중앙 crop 범위가 크므로 원본과 시각적 field of view가 다를 수 있다.

3.5 CamXTime (camxtime_eval)

성격과 목적

camera와 time을 동시에 제어하는 평가군이다. scene별 camera-time grid에서 forward source와 서로 다른 시간 진행 방식의 target을 실제 RGB로 조립한다. 다섯 데이터셋 중 유일하게 모든 case가 paired target을 가지며, target 시간이 source와 의도적으로 달라질 수 있다.

구성

• 원래 scene: 32개
• 최종 포함 scene: 31개
• 제외 scene: scene_25 1개 (camera_039.mp4 누락)
• source: 31개
• target 및 paired case: 217개 = 31 scene × 7 pattern
• source frame: 2,511개
• target frame: 17,577개
• 모든 sequence: 81프레임, 30 FPS, 832×480
• RGB: H.264 MP4, yuv420p

7개 target temporal pattern

Pattern	의미
backward	원본 동작 시간을 역방향으로 진행
zigzag	시간축을 앞뒤로 오가는 mapping
slowmo	느린 시간 진행
fastmo	빠른 시간 진행
bullettime_early	원본 motion frame 30에 시간을 고정
bullettime_mid	원본 motion frame 60에 시간을 고정
bullettime_late	원본 motion frame 90에 시간을 고정

카메라와 시간 mapping

• authoritative mapping은 전처리 metadata의 source_cam_idx, source_motion_frame, timestamps다.
• source와 target은 출력 index로는 대응하지만 원본 motion time은 pattern별로 다르다.
• slowmo와 fastmo는 helper 구현만 보면 같아 보이지만, 실제 eval metadata의 motion-frame mapping은 서로 다르므로 metadata를 우선한다.
• camera rotation의 작은 비정규성은 translation을 유지한 채 SVD로 proper rotation에 projection했다.
• intrinsics는 이미 832×480 image plane용이므로 RGB crop/resize 변환을 다시 적용하지 않는다.

주의점

• 누락 camera를 이웃 camera RGB로 대체하면 선언 pose와 영상이 불일치하므로 scene_25는 제외됐다.
• source와 target의 frame index가 같다고 동일 시간이라고 판단하면 안 된다.
• dynamic mask는 제공되지 않는다.

4. 추가 clustering 축

세 가지 주 분류 외에도 아래 축으로 데이터셋 또는 case를 묶으면 평가 결과를 더 잘 해석할 수 있다.

4.1 평가 supervision 형태

군집	데이터셋	평가 신호
Full paired RGB	CamXTime	모든 case에 target RGB 존재
Mixed paired RGB	DyCheck	13 paired + 7 source-only
Camera-control-only	DynPose, SpatialVID, Vista4D	목표 pose는 있지만 target RGB 없음

이 구분은 metric 선택에 직접 영향을 준다. paired RGB 군집은 full-reference metric을 사용할 수 있지만, camera-control-only/source-only 군집은 trajectory adherence, geometry consistency, perceptual quality처럼 target RGB에 의존하지 않는 평가가 필요하다.

4.2 시간 구조

시간 군집	데이터셋	특징
원본 진행 유지	DynPose, Vista4D	원본 frame 수와 FPS 유지
원본 time ID 동기화	DyCheck	서로 다른 카메라를 동일 time ID로 pair
균등 subsampling	SpatialVID	81개 정수 frame index, 단일 출력 FPS 미정의
의도적 retiming	CamXTime	reverse, zigzag, speed change, frozen time

4.3 카메라의 출처

카메라 군집	데이터셋	해석
실제 multi-camera capture	DyCheck	서로 다른 실제 촬영 camera
camera-time RGB grid	CamXTime	grid에서 camera/time index를 선택
reconstruction/estimation camera	DynPose, SpatialVID source	관측 RGB에 추정·제공된 trajectory
설계된 novel camera control	DynPose/SpatialVID control, Vista4D	source에 합성하거나 별도로 주어진 목표 trajectory

4.4 동적 콘텐츠 및 장면 다양성

• 광범위한 in-the-wild 다양성: DynPose, SpatialVID
• 동적 객체 중심의 소규모 정밀 multi-view capture: DyCheck
• camera motion prompt/trajectory 다양성: Vista4D
• 시간 조작 다양성: CamXTime

특히 DynPose/SpatialVID는 12개 표준 trajectory family를 제공하며, SpatialVID는 여기에 dynamic_ratio, crowd density, scene type, motion tag를 함께 제공해 움직임·장면 복잡도·제어 방향별 clustering에 적합하다. Vista4D는 trajectory 이름을 기준으로 dolly, crane, arc, follow, zoom 계열을 분리할 수 있고, CamXTime은 temporal pattern이 명시적인 실험 축이다.

4.5 부가 신호

데이터셋	Dynamic/background mask	기타 mask	Depth	정확한 temporal mapping
DynPose	없음	없음	Z-only EXR ZIP	YouTube 구간/FPS metadata
SpatialVID	없음	없음	없음	원본 frame index와 timestamp
Vista4D	있음	sky mask	없음	원본 FPS 유지
DyCheck	없음	valid mask, target co-visible mask	최종 포맷에는 미포함	frame name/time ID/camera ID
CamXTime	없음	없음	없음	camera index/motion-frame/timestamp

마스크 이름이 비슷해도 의미가 다르다. Vista4D의 dynamic/background만 표준 foreground/complement 관계이며, DyCheck alpha와 co-visible mask는 metric 유효영역 계열이다.

4.6 Caption 출처

• 원본 metadata caption 재사용: DynPose, Vista4D, CamXTime
• Qwen3-VL로 생성: SpatialVID, DyCheck
• target별 시간 의미를 반영한 caption: CamXTime bullet-time target
• 동기화된 시점 간 source caption 재사용: DyCheck paired target

caption 출처가 다르므로 text-video alignment를 비교할 때 생성 caption과 원본 caption을 별도 군집으로 분석하는 것이 안전하다.

4.7 저장 표현과 decode 비용

• MP4: DynPose, Vista4D, CamXTime
• PNG sequence: SpatialVID, DyCheck

PNG sequence는 frame-exact 접근과 반복 실험에 유리하지만 inode와 저장 공간 사용량이 크다. MP4는 저장 효율이 높지만 random access 및 decode 방식이 평가 속도와 재현성에 영향을 줄 수 있다.

5. 평가 설계 권장안

5.1 최소 공통 평가

5개 데이터셋에 공통으로 적용할 수 있는 축은 다음과 같다.

• 출력 해상도 480×832
• OpenCV pinhole c2w
• source caption 조건
• temporal consistency
• camera/geometry consistency
• perceptual quality

단, 모든 데이터셋에 target RGB가 있는 것은 아니므로 pixel metric을 공통 필수 metric으로 두면 안 된다.

5.2 계층형 결과 보고

전체 평균 하나보다는 다음 순서로 결과를 나눠 보고하는 것이 좋다.

1. 주 카테고리: monocular / multi-view / multi-view novel-time
2. supervision: paired RGB / mixed pair / camera-only / source-only
3. 시간 구조: original / synchronized / subsampled / retimed
4. camera motion 강도 또는 trajectory family
5. 동적 복잡도와 scene domain

이 구조는 217-case CamXTime이나 377-case DynPose처럼 큰 데이터셋이 전체 평균을 과도하게 지배하는 문제도 줄여준다. 데이터셋별 평균을 먼저 계산한 뒤 카테고리 평균을 구하는 macro-average와, 전체 case를 합산하는 micro-average를 함께 보고하는 것이 권장된다.

6. Loader 구현 시 핵심 규칙

• 경로와 관계는 디렉터리 이름으로 추론하지 말고 각 manifest.json의 cases와 pairing을 사용한다.
• target_path != null일 때만 paired target을 읽는다.
• camera_control != null은 실제 target RGB가 아니라 목표 camera trajectory다.
• protocol.num_frames 또는 protocol.fps가 null이면 case별 값을 확인한다.
• SpatialVID와 CamXTime의 시간 관계는 extras/temporal_mapping.json을 사용한다.
• DyCheck pair는 source/target의 원본 time ID mapping을 확인한다.
• mask는 이름이 아니라 manifest extension의 의미를 확인한다.
• camera translation의 물리 단위가 unspecified인 데이터셋 사이에서 절대 이동량을 직접 비교하지 않는다.

7. Manifest 위치

• camxtime_eval/manifest.json
• dycheck_eval/manifest.json
• dynpose_eval/manifest.json
• spatialvid_eval/manifest.json
• vista4d_eval/manifest.json