blenderobj_eval/README.md

blenderobj_eval

/workspace/dataset/blenderobj 렌더를 dataformat.md 통합 포맷으로 변환한 평가 데이터셋. camxtime_eval 과 같은 구조이되, 카메라 축이 하나 더 있다.

50 scene × 3 trajectory pair × 7 pattern = 1,050 case
source 118개 · target 847개(참조) + 203개(예비) · 81 frame · 832×480 · 30 fps

생성: ../../convert_blenderobj_eval.py · 캡션: ../../caption_blenderobj.py · 쌍 선택: ../../select_pair.py → ../../build_pair_selection.py

---

1. source / target 구성

원본은 trajectory 하나당 정지 카메라 100대 × 180프레임 격자를 가로지른 81프레임 영상이고, 한 씬에 trajectory 가 3개다. 확인한 세 가지가 구성을 결정한다.

확인한 사실	결과
한 trajectory 안에서 7개 패턴의 카메라 포즈가 완전히 동일하다 (bit-identical)	같은 traj 안의 pair 는 순수 retiming
세 trajectory 의 프레임 i 는 같은 물리 상태다 (T_world_object 일치)	다른 traj 는 동시 촬영된 다른 시점
세 trajectory 가 같은 world frame·미터 단위를 쓴다	source·target 포즈가 정렬 없이 바로 비교된다

case 하나는 이렇게 생겼다.

source = <scene>/<traj_s>/forward          항상 forward
target = <scene>/<traj_t>/<pattern>        7개 패턴 전부, traj_t ≠ traj_s

source 는 forward 뿐이다

target 패턴들이 요구하는 씬 시각은 전부 소스 프레임 0–80 안에 있다 (zigzag 0–40, slowmo 0–40, bullettime 10 · 40 · 70). forward 만 그 구간을 전부 관측하므로, forward 이외를 source 로 쓰면 관측하지 않은 시각을 만들어내라는 문제가 된다. 원본에서 fastmo 를 뺀 이유와 같다. 변환기는 이것을 불변식으로 검사한다 (target frames ⊆ source frames).

같은 traj 안의 retiming 은 넣지 않는다

카메라가 동일한 retiming 은 camxtime_eval 이 이미 재고 있다. 이 데이터셋이 더하는 것은 카메라 축이므로 cross-trajectory 만 만든다.

tier	구성	case
view_only	pattern = forward	150
view_time	pattern ≠ forward	900

trajectory 쌍은 ⚠️ 씬마다 다르다

궤적의 고도 프로파일(traj000 14° · traj001 58° · traj002 8자 32°)은 고정이지만 azimuth 오프셋이 씬마다 랜덤이다 (traj001 14종, traj002 9종). 그래서 어느 쌍이 가까운지가 씬마다 달라, 전 씬 공통으로 쌍을 고정하면 손해다.

50씬 × 6개 방향쌍 × 전 프레임(간격 5)을 실제로 렌더해 재고, 씬마다 상위 3쌍을 골랐다.

score = (mean(mPSNR) − std(mPSNR)) × (1 − 빈프레임비율)

mPSNR 은 source 가우시안을 target pose 에서 렌더했을 때 가우시안이 있는 픽셀만 잰 PSNR 이다. 평균이 높고 영상 내내 난이도가 균일한 쌍이 뽑힌다.

선택 방식	점수	고정 대비
고정 순환 3쌍 (이전 릴리스)	15.38	—
씬별 최적 cycle	15.80	+0.41
씬별 상위 3쌍 (현재)	16.72	+1.34

빈 렌더 프레임(커버리지 0)은 전체 측정에서 57/5,100 있었지만 선택된 쌍에서는 0 이다. 50씬에서 각 쌍이 뽑힌 횟수:

pair	씬 수
traj002 → traj000	42
traj000 → traj002	33
traj002 → traj001	23
traj001 → traj002	20
traj000 → traj001	18
traj001 → traj000	14

선택표는 ../../blenderobj_pair_selection_top3.json 이고 씬별 6쌍 점수·시선각·커버리지가 전부 들어 있다. manifest.protocol.pair_selection 이 이 파일을 가리킨다. 쌍을 바꾸려면 이 JSON 만 갈아 끼우고 변환을 다시 돌리면 된다 (2초, VAE 재인코딩 불필요 — 4절 참고).

2. ⚠️ cross-trajectory 는 외삽 강도가 크다

case 마다 metadata.view_change 에 시선각·baseline 이 들어 있다. 쌍별 실측 평균:

pair	평균 시선각	baseline
traj000 ↔ traj002	54.6°	1.36 m
traj001 ↔ traj002	74.8°	1.75 m
traj000 ↔ traj001	88.5°	2.03 m

시점 차이를 줄여도 이득은 크지 않다 — 프레임별 시선각과 품질의 상관이 corr(angle, mPSNR) = −0.20 이고, <45° 구간도 mPSNR 17.48 / 커버리지 0.593 에 그친다 (≥45° 는 16.32 / 0.507). 한계는 각도가 아니라 단일 시점 lift 자체다.

3. subset

subset	case 수	뜻
view_only	150	순수 NVS
view_time	900	카메라 + 시간
mini	210	5씬 간격 10씬 전체 — camxtime_eval(217) 과 같은 규모의 빠른 반복용

import json
cases = json.load(open("manifest.json"))["cases"]
mini = [c for c in cases if "mini" in c["metadata"]["subsets"]]
hard = [c for c in cases if c["metadata"]["view_change"]["view_direction_deg_mean"] > 80]

4. 디렉터리

source/<scene>__<traj>/                     # 항상 forward
target/<scene>__<traj>__<pattern>/
    rgb_video.mp4          # h264 crf17 — 원본 렌더를 재인코딩 없이 그대로 (hardlink)
    transforms.json        # c2w, OpenCV, 미터, per-frame intrinsics
    caption.txt
    extras/
        rgb_lossless.mkv       # FFV1, bit-exact — 픽셀 지표는 반드시 이 파일
        temporal_mapping.json  # 출력 프레임별 (격자 카메라, 소스 모션 프레임, 씬 시각, 재생 시각)
        object_poses.npz       # T_world_object (81, N, 4, 4) + instance_ids
        traj_caption.txt       # 원본의 trajectory 캡션
        blender_meta.json      # 원본 meta.json
extras/scenes/<scene>/         # 씬 공통: metadata/objects/patterns/render_manifest/camera_layout
manifest.json

source/<scene>__<traj> 와 target/<scene>__<traj>__forward 는 같은 영상이다. 전자는 조건 입력, 후자는 다른 trajectory 에서 볼 때의 GT 다.

쓰이지 않는 target 디렉터리도 남긴다 (--keep-all-targets, 씬별 선택을 쓰면 자동). 현재 847개가 case 에 참조되고 203개가 예비로 남아 있다. 쌍 선택을 바꿔도 디렉터리와 latent 의 대응이 그대로라 다시 만들 것이 없다.

왜 쌍을 바꿔도 VAE 를 다시 인코딩하지 않아도 되나

vae_latents 는 영상(디렉터리) 단위로 만들어진다 — VAE(그 디렉터리의 81프레임). 쌍 선택은 "어떤 (source, target) 조합을 case 로 쓸지"만 정하고 영상을 바꾸지 않는다. <scene>__<traj>__<pattern> 21개는 선택과 무관하게 같은 원본 렌더의 하드링크이고, 캡션(씬 내용 + traj 캡션 + 패턴 문장)도 디렉터리 고유 속성이라 umT5 임베딩도 그대로다. 쌍 선택에 종속적인 것은 WM pose 뿐이고 (target 이 어느 source 의 게이지에 있는지), 그건 재주입 27초면 끝난다.

전처리가 항등인 이유

렌더가 이미 832×480 이고 intrinsics 도 fx = fy = 416.0, cx = 415.5, cy = 239.5 로 포맷 해상도와 일치한다. crop/resize 가 항등이므로 intrinsics 를 건드리지 않고, mp4 는 디코드·인코딩 없이 하드링크한다 — 압축 손실이 한 번도 추가되지 않는다.

5. 지표는 extras/rgb_lossless.mkv 로 잰다

rgb_video.mp4 는 원본 렌더의 CRF 17 파일 그대로이고 소스 대비 최대 픽셀 오차가 53이다. PSNR·SSIM·LPIPS 는 extras/rgb_lossless.mkv (FFV1, bit-exact) 로 계산한다. manifest.preprocessing.metric_reference 가 이를 선언한다.

6. 시계가 두 개다

필드	뜻
timestamps_seconds	그 프레임이 담고 있는 씬(물리) 시각. 패턴마다 다르다
playback_timestamps_seconds	재생 시각 i / 30. 전 패턴 공통
time_stride	씬 시간 배율. zigzag 은 상수가 아니라 null

출력 프레임 index 는 source·target 이 1:1 로 대응한다 (output_frame_alignment). 그 프레임이 보는 씬 시각이 패턴마다 다를 뿐이고, 양쪽 temporal_mapping.json 에 다 들어 있다.

7. 캡션 — 세 조각의 합

caption.txt = <Qwen3-VL-8B-Instruct 가 쓴 씬 내용 캡션>   씬당 1개, traj000/forward 기준
            + <원본 traj_caption.txt 그대로>              trajectory 캡션
            + <motion 문장 (룰베이스)>                     패턴별 고정 문구

motion 문장은 manifest.captioning.motion_sentences 에 전부 선언돼 있고, 문구는 camxtime_eval 과 맞췄다.

8. 재생성

# 1) 씬 내용 캡션 (GPU 1장, 50영상 · 3분, 재개 가능)
CUDA_VISIBLE_DEVICES=7 /opt/conda/envs/geodynvs_spacetimepilot/bin/python \
    /workspace/dataset/caption_blenderobj.py \
    --output /workspace/dataset/blenderobj_content_captions.json

# 2) 쌍 선택 측정 (GPU 2장 · 약 2시간) → 씬별 상위 3쌍
for i in 0 1; do CUDA_VISIBLE_DEVICES=$((i+5)) \
  /opt/conda/envs/geodynvs_neoverse/bin/python /workspace/dataset/select_pair.py \
    --scenes 25 --scene-stride 2 --scene-start $i --stride 5 \
    --report /tmp/pair_$i.json & done; wait
python /workspace/dataset/build_pair_selection.py --reports /tmp/pair_0.json /tmp/pair_1.json \
    --top 3 --out /workspace/dataset/blenderobj_pair_selection_top3.json

# 3) 변환 + 검증 (변환 2초, 검증 1분 45초)
python /workspace/dataset/convert_blenderobj_eval.py \
    --output-root /workspace/dataset/geo4d_evals/blenderobj_eval \
    --pair-selection /workspace/dataset/blenderobj_pair_selection_top3.json --workers 8

# 4) WM pose 재주입 (27초) — 쌍이 바뀌면 이것만 다시 하면 된다
/opt/conda/envs/geodynvs_neoverse/bin/python /workspace/dataset/wm_pose_blenderobj.py \
    --priors gt --inject-only
python /workspace/dataset/build_latents_manifest.py --check-tensors

옵션	기본	뜻
--pair-selection	없음	씬별 쌍 JSON. 없으면 --traj-pairs 를 전 씬 공통으로
--traj-pairs SRC:TGT …	순환 3쌍	전 씬 공통 쌍
--keep-all-targets	--pair-selection 시 자동	쓰지 않는 target 도 남긴다
--patterns …	7개 전부	target 패턴
--link-mode	hardlink	copy / symlink 가능
--captions-only	off	캡션만 갱신

--overwrite 는 루트의 README.md · NOTES.md 를 보존한다.

9. 검증 항목

--validate-only 가 dataformat.md 11절을 검사한다. 965 디렉터리 · 1,050 case 통과.

• case_id / pair_id 유일성, case ↔ pair 1:1, 경로 존재·root 이탈 없음
• mp4·mkv 모두 832×480 · 81프레임 · 30fps (실제 디코드 카운트)
• c2w 유한·마지막 행 [0,0,0,1]·회전 orthonormal·det +1 (실측 최대 오차 1.4e-06)
• intrinsics 가 항등 전처리 값과 일치
• caption 비어 있지 않고 caption_key 가 본문 SHA-256 과 일치
• temporal mapping 길이 81, timestamps == source_motion_frame / 30
• 다른 traj pair 는 source·target 포즈가 실제로 다르고, 격자 카메라 index 는 일치한다
• target 이 요구하는 씬 시각이 전부 source 관측 구간 안에 있다
• forward target 은 source 와 씬 시각이 일치한다
• 미참조 target 디렉터리는 개수를 보고하고 내용까지 검사한다 (source 는 미참조 시 오류)

10. 인코딩 산출물 — VAE latent · umT5 · WM pose

평가에 바로 쓰는 인코딩은 ../../blenderobj_latents 에 있다 (CamXTime_latents 와 같은 스키마, 같은 source/target 구조).

source 와 target 의 카메라 아크가 다르므로 WM pose 는 게이지 정의가 필요하고, 가우시안 렌더링으로 검증해 relative(프레임별 상대 합성)를 캐노니컬로 정했다. 한 target 이 두 source 와 짝지어질 수 있어 (현재 29/50 씬) target 파일에 cam_wm_c2w__from_<source_traj> 키가 source 별로 들어 있고, case 의 metadata.wm_pose_key 가 어느 것을 쓸지 가리킨다. 자세한 내용과 실측치는 그쪽 README 2·3·8절에 있다.

11. WorldMirror 게이지에 대해

원본 README 10절이 제안한 wm_source.npz / wm_target.npz 는 이 평가셋 안에 굽지 않고 blenderobj_latents 쪽에 cam_wm_c2w 로 넣었다 (게이지 4종 전부 저장). 포즈가 미터 단위 GT 이고 (camera.reconstruction_unit = "meters") 세 traj 가 같은 world frame 을 쓰므로, 어떤 게이지든 로딩 시점에 다시 계산할 수 있다.

⚠️ 원본 10.4 의 "WM 에 camera prior 를 주면 normalize_poses 로 게이지가 닫힌 형태로 결정된다" 는 실측으로 기각됐다. prior 를 줘도 WM 은 자기 출력 좌표계(첫 카메라 원점)를 유지한다 — blenderobj_latents/README.md 3.1 참조. 다만 prior 는 pose·intrinsic 추정 자체를 개선하므로 (|Δfx| 45.6 → 4.7 px) 캐노니컬 릴리스는 prior 를 켠 쪽이다.