| # blenderobj_eval |
| |
| `/workspace/dataset/blenderobj` 렌더를 [`dataformat.md`](../../dataformat.md) 통합 포맷으로 변환한 |
| 평가 데이터셋. `camxtime_eval` 과 같은 구조이되, **카메라 축이 하나 더 있다.** |
|
|
| ``` |
| 50 scene × 3 trajectory pair × 7 pattern = 1,050 case |
| source 118개 · target 847개(참조) + 203개(예비) · 81 frame · 832×480 · 30 fps |
| ``` |
|
|
| 생성: [`../../convert_blenderobj_eval.py`](../../convert_blenderobj_eval.py) · |
| 캡션: [`../../caption_blenderobj.py`](../../caption_blenderobj.py) · |
| 쌍 선택: [`../../select_pair.py`](../../select_pair.py) → [`../../build_pair_selection.py`](../../build_pair_selection.py) |
|
|
| --- |
|
|
| ## 1. source / target 구성 |
|
|
| 원본은 trajectory 하나당 **정지 카메라 100대 × 180프레임** 격자를 가로지른 81프레임 영상이고, |
| 한 씬에 trajectory 가 3개다. 확인한 세 가지가 구성을 결정한다. |
|
|
| | 확인한 사실 | 결과 | |
| |---|---| |
| | 한 trajectory 안에서 7개 패턴의 카메라 포즈가 **완전히 동일**하다 (bit-identical) | 같은 traj 안의 pair 는 순수 retiming | |
| | 세 trajectory 의 프레임 *i* 는 **같은 물리 상태**다 (`T_world_object` 일치) | 다른 traj 는 동시 촬영된 다른 시점 | |
| | 세 trajectory 가 같은 world frame·미터 단위를 쓴다 | source·target 포즈가 정렬 없이 바로 비교된다 | |
|
|
| case 하나는 이렇게 생겼다. |
|
|
| ``` |
| source = <scene>/<traj_s>/forward 항상 forward |
| target = <scene>/<traj_t>/<pattern> 7개 패턴 전부, traj_t ≠ traj_s |
| ``` |
|
|
| ### source 는 `forward` 뿐이다 |
|
|
| target 패턴들이 요구하는 씬 시각은 전부 **소스 프레임 0–80** 안에 있다 |
| (zigzag 0–40, slowmo 0–40, bullettime 10 · 40 · 70). `forward` 만 그 구간을 전부 관측하므로, |
| `forward` 이외를 source 로 쓰면 관측하지 않은 시각을 만들어내라는 문제가 된다. |
| 원본에서 `fastmo` 를 뺀 이유와 같다. 변환기는 이것을 불변식으로 검사한다 |
| (`target frames ⊆ source frames`). |
|
|
| ### 같은 traj 안의 retiming 은 넣지 않는다 |
|
|
| 카메라가 동일한 retiming 은 `camxtime_eval` 이 이미 재고 있다. 이 데이터셋이 더하는 것은 |
| 카메라 축이므로 **cross-trajectory 만** 만든다. |
|
|
| | tier | 구성 | case | |
| |---|---|---| |
| | `view_only` | pattern = forward | 150 | |
| | `view_time` | pattern ≠ forward | 900 | |
|
|
| ### trajectory 쌍은 ⚠️ **씬마다 다르다** |
|
|
| 궤적의 고도 프로파일(traj000 14° · traj001 58° · traj002 8자 32°)은 고정이지만 |
| **azimuth 오프셋이 씬마다 랜덤**이다 (traj001 14종, traj002 9종). 그래서 어느 쌍이 가까운지가 |
| 씬마다 달라, 전 씬 공통으로 쌍을 고정하면 손해다. |
|
|
| 50씬 × 6개 방향쌍 × 전 프레임(간격 5)을 실제로 렌더해 재고, 씬마다 **상위 3쌍**을 골랐다. |
|
|
| ``` |
| score = (mean(mPSNR) − std(mPSNR)) × (1 − 빈프레임비율) |
| ``` |
|
|
| `mPSNR` 은 source 가우시안을 target pose 에서 렌더했을 때 **가우시안이 있는 픽셀만** 잰 |
| PSNR 이다. 평균이 높고 영상 내내 난이도가 균일한 쌍이 뽑힌다. |
|
|
| | 선택 방식 | 점수 | 고정 대비 | |
| |---|---|---| |
| | 고정 순환 3쌍 (이전 릴리스) | 15.38 | — | |
| | 씬별 최적 cycle | 15.80 | +0.41 | |
| | **씬별 상위 3쌍 (현재)** | **16.72** | **+1.34** | |
|
|
| 빈 렌더 프레임(커버리지 0)은 전체 측정에서 57/5,100 있었지만 **선택된 쌍에서는 0** 이다. |
| 50씬에서 각 쌍이 뽑힌 횟수: |
|
|
| | pair | 씬 수 | |
| |---|---| |
| | traj002 → traj000 | 42 | |
| | traj000 → traj002 | 33 | |
| | traj002 → traj001 | 23 | |
| | traj001 → traj002 | 20 | |
| | traj000 → traj001 | 18 | |
| | traj001 → traj000 | 14 | |
|
|
| 선택표는 [`../../blenderobj_pair_selection_top3.json`](../../blenderobj_pair_selection_top3.json) |
| 이고 씬별 6쌍 점수·시선각·커버리지가 전부 들어 있다. `manifest.protocol.pair_selection` 이 |
| 이 파일을 가리킨다. 쌍을 바꾸려면 이 JSON 만 갈아 끼우고 변환을 다시 돌리면 된다 |
| (2초, **VAE 재인코딩 불필요** — 4절 참고). |
|
|
| ## 2. ⚠️ cross-trajectory 는 외삽 강도가 크다 |
|
|
| case 마다 `metadata.view_change` 에 시선각·baseline 이 들어 있다. 쌍별 실측 평균: |
|
|
| | pair | 평균 시선각 | baseline | |
| |---|---|---| |
| | traj000 ↔ traj002 | 54.6° | 1.36 m | |
| | traj001 ↔ traj002 | 74.8° | 1.75 m | |
| | traj000 ↔ traj001 | 88.5° | 2.03 m | |
|
|
| 시점 차이를 줄여도 이득은 크지 않다 — 프레임별 시선각과 품질의 상관이 |
| `corr(angle, mPSNR) = −0.20` 이고, <45° 구간도 mPSNR 17.48 / 커버리지 0.593 에 그친다 |
| (≥45° 는 16.32 / 0.507). 한계는 각도가 아니라 **단일 시점 lift** 자체다. |
|
|
| ## 3. subset |
|
|
| | subset | case 수 | 뜻 | |
| |---|---|---| |
| | `view_only` | 150 | 순수 NVS | |
| | `view_time` | 900 | 카메라 + 시간 | |
| | `mini` | 210 | 5씬 간격 10씬 전체 — camxtime_eval(217) 과 같은 규모의 빠른 반복용 | |
| |
| ```python |
| import json |
| cases = json.load(open("manifest.json"))["cases"] |
| mini = [c for c in cases if "mini" in c["metadata"]["subsets"]] |
| hard = [c for c in cases if c["metadata"]["view_change"]["view_direction_deg_mean"] > 80] |
| ``` |
| |
| ## 4. 디렉터리 |
| |
| ``` |
| source/<scene>__<traj>/ # 항상 forward |
| target/<scene>__<traj>__<pattern>/ |
| rgb_video.mp4 # h264 crf17 — 원본 렌더를 재인코딩 없이 그대로 (hardlink) |
| transforms.json # c2w, OpenCV, 미터, per-frame intrinsics |
| caption.txt |
| extras/ |
| rgb_lossless.mkv # FFV1, bit-exact — 픽셀 지표는 반드시 이 파일 |
| temporal_mapping.json # 출력 프레임별 (격자 카메라, 소스 모션 프레임, 씬 시각, 재생 시각) |
| object_poses.npz # T_world_object (81, N, 4, 4) + instance_ids |
| traj_caption.txt # 원본의 trajectory 캡션 |
| blender_meta.json # 원본 meta.json |
| extras/scenes/<scene>/ # 씬 공통: metadata/objects/patterns/render_manifest/camera_layout |
| manifest.json |
| ``` |
| |
| `source/<scene>__<traj>` 와 `target/<scene>__<traj>__forward` 는 같은 영상이다. |
| 전자는 조건 입력, 후자는 다른 trajectory 에서 볼 때의 GT 다. |
| |
| **쓰이지 않는 target 디렉터리도 남긴다** (`--keep-all-targets`, 씬별 선택을 쓰면 자동). |
| 현재 847개가 case 에 참조되고 203개가 예비로 남아 있다. 쌍 선택을 바꿔도 디렉터리와 |
| latent 의 대응이 그대로라 다시 만들 것이 없다. |
| |
| ### 왜 쌍을 바꿔도 VAE 를 다시 인코딩하지 않아도 되나 |
| |
| `vae_latents` 는 **영상(디렉터리) 단위**로 만들어진다 — `VAE(그 디렉터리의 81프레임)`. |
| 쌍 선택은 "어떤 (source, target) 조합을 case 로 쓸지"만 정하고 **영상을 바꾸지 않는다.** |
| `<scene>__<traj>__<pattern>` 21개는 선택과 무관하게 같은 원본 렌더의 하드링크이고, |
| 캡션(씬 내용 + traj 캡션 + 패턴 문장)도 디렉터리 고유 속성이라 umT5 임베딩도 그대로다. |
| 쌍 선택에 종속적인 것은 **WM pose 뿐**이고 (target 이 어느 source 의 게이지에 있는지), |
| 그건 재주입 27초면 끝난다. |
|
|
| ### 전처리가 항등인 이유 |
|
|
| 렌더가 이미 832×480 이고 intrinsics 도 `fx = fy = 416.0, cx = 415.5, cy = 239.5` 로 |
| 포맷 해상도와 일치한다. crop/resize 가 항등이므로 intrinsics 를 건드리지 않고, |
| mp4 는 **디코드·인코딩 없이 하드링크**한다 — 압축 손실이 한 번도 추가되지 않는다. |
|
|
| ## 5. 지표는 `extras/rgb_lossless.mkv` 로 잰다 |
| |
| `rgb_video.mp4` 는 원본 렌더의 CRF 17 파일 그대로이고 소스 대비 최대 픽셀 오차가 53이다. |
| PSNR·SSIM·LPIPS 는 `extras/rgb_lossless.mkv` (FFV1, bit-exact) 로 계산한다. |
| `manifest.preprocessing.metric_reference` 가 이를 선언한다. |
|
|
| ## 6. 시계가 두 개다 |
|
|
| | 필드 | 뜻 | |
| |---|---| |
| | `timestamps_seconds` | 그 프레임이 담고 있는 **씬(물리) 시각**. 패턴마다 다르다 | |
| | `playback_timestamps_seconds` | **재생 시각** `i / 30`. 전 패턴 공통 | |
| | `time_stride` | 씬 시간 배율. `zigzag` 은 상수가 아니라 `null` | |
|
|
| 출력 프레임 index 는 source·target 이 1:1 로 대응한다 (`output_frame_alignment`). |
| 그 프레임이 보는 씬 시각이 패턴마다 다를 뿐이고, 양쪽 `temporal_mapping.json` 에 다 들어 있다. |
|
|
| ## 7. 캡션 — 세 조각의 합 |
|
|
| ``` |
| caption.txt = <Qwen3-VL-8B-Instruct 가 쓴 씬 내용 캡션> 씬당 1개, traj000/forward 기준 |
| + <원본 traj_caption.txt 그대로> trajectory 캡션 |
| + <motion 문장 (룰베이스)> 패턴별 고정 문구 |
| ``` |
|
|
| motion 문장은 `manifest.captioning.motion_sentences` 에 전부 선언돼 있고, 문구는 |
| camxtime_eval 과 맞췄다. |
| |
| ## 8. 재생성 |
| |
| ```bash |
| # 1) 씬 내용 캡션 (GPU 1장, 50영상 · 3분, 재개 가능) |
| CUDA_VISIBLE_DEVICES=7 /opt/conda/envs/geodynvs_spacetimepilot/bin/python \ |
| /workspace/dataset/caption_blenderobj.py \ |
| --output /workspace/dataset/blenderobj_content_captions.json |
| |
| # 2) 쌍 선택 측정 (GPU 2장 · 약 2시간) → 씬별 상위 3쌍 |
| for i in 0 1; do CUDA_VISIBLE_DEVICES=$((i+5)) \ |
| /opt/conda/envs/geodynvs_neoverse/bin/python /workspace/dataset/select_pair.py \ |
| --scenes 25 --scene-stride 2 --scene-start $i --stride 5 \ |
| --report /tmp/pair_$i.json & done; wait |
| python /workspace/dataset/build_pair_selection.py --reports /tmp/pair_0.json /tmp/pair_1.json \ |
| --top 3 --out /workspace/dataset/blenderobj_pair_selection_top3.json |
| |
| # 3) 변환 + 검증 (변환 2초, 검증 1분 45초) |
| python /workspace/dataset/convert_blenderobj_eval.py \ |
| --output-root /workspace/dataset/geo4d_evals/blenderobj_eval \ |
| --pair-selection /workspace/dataset/blenderobj_pair_selection_top3.json --workers 8 |
| |
| # 4) WM pose 재주입 (27초) — 쌍이 바뀌면 이것만 다시 하면 된다 |
| /opt/conda/envs/geodynvs_neoverse/bin/python /workspace/dataset/wm_pose_blenderobj.py \ |
| --priors gt --inject-only |
| python /workspace/dataset/build_latents_manifest.py --check-tensors |
| ``` |
| |
| | 옵션 | 기본 | 뜻 | |
| |---|---|---| |
| | `--pair-selection` | 없음 | 씬별 쌍 JSON. 없으면 `--traj-pairs` 를 전 씬 공통으로 | |
| | `--traj-pairs SRC:TGT …` | 순환 3쌍 | 전 씬 공통 쌍 | |
| | `--keep-all-targets` | `--pair-selection` 시 자동 | 쓰지 않는 target 도 남긴다 | |
| | `--patterns …` | 7개 전부 | target 패턴 | |
| | `--link-mode` | `hardlink` | `copy` / `symlink` 가능 | |
| | `--captions-only` | off | 캡션만 갱신 | |
| |
| `--overwrite` 는 루트의 `README.md` · `NOTES.md` 를 보존한다. |
| |
| ## 9. 검증 항목 |
| |
| `--validate-only` 가 `dataformat.md` 11절을 검사한다. 965 디렉터리 · 1,050 case 통과. |
| |
| - case_id / pair_id 유일성, case ↔ pair 1:1, 경로 존재·root 이탈 없음 |
| - mp4·mkv 모두 832×480 · 81프레임 · 30fps (실제 디코드 카운트) |
| - `c2w` 유한·마지막 행 `[0,0,0,1]`·회전 orthonormal·det +1 (실측 최대 오차 `1.4e-06`) |
| - intrinsics 가 항등 전처리 값과 일치 |
| - caption 비어 있지 않고 `caption_key` 가 본문 SHA-256 과 일치 |
| - temporal mapping 길이 81, `timestamps == source_motion_frame / 30` |
| - 다른 traj pair 는 source·target 포즈가 실제로 다르고, 격자 카메라 index 는 일치한다 |
| - **target 이 요구하는 씬 시각이 전부 source 관측 구간 안에 있다** |
| - `forward` target 은 source 와 씬 시각이 일치한다 |
| - 미참조 target 디렉터리는 개수를 보고하고 내용까지 검사한다 (source 는 미참조 시 오류) |
|
|
| ## 10. 인코딩 산출물 — VAE latent · umT5 · WM pose |
|
|
| 평가에 바로 쓰는 인코딩은 [`../../blenderobj_latents`](../../blenderobj_latents) 에 있다 |
| (CamXTime_latents 와 같은 스키마, 같은 source/target 구조). |
| |
| source 와 target 의 카메라 아크가 다르므로 WM pose 는 **게이지 정의가 필요**하고, |
| 가우시안 렌더링으로 검증해 `relative`(프레임별 상대 합성)를 캐노니컬로 정했다. |
| 한 target 이 두 source 와 짝지어질 수 있어 (현재 29/50 씬) target 파일에 |
| `cam_wm_c2w__from_<source_traj>` 키가 source 별로 들어 있고, case 의 `metadata.wm_pose_key` |
| 가 어느 것을 쓸지 가리킨다. 자세한 내용과 실측치는 그쪽 README 2·3·8절에 있다. |
| |
| ## 11. WorldMirror 게이지에 대해 |
| |
| 원본 README 10절이 제안한 `wm_source.npz` / `wm_target.npz` 는 이 평가셋 안에 굽지 않고 |
| `blenderobj_latents` 쪽에 `cam_wm_c2w` 로 넣었다 (게이지 4종 전부 저장). 포즈가 미터 단위 |
| GT 이고 (`camera.reconstruction_unit = "meters"`) 세 traj 가 같은 world frame 을 쓰므로, |
| 어떤 게이지든 로딩 시점에 다시 계산할 수 있다. |
| |
| > ⚠️ 원본 10.4 의 "WM 에 camera prior 를 주면 `normalize_poses` 로 게이지가 닫힌 형태로 |
| > 결정된다" 는 **실측으로 기각됐다.** prior 를 줘도 WM 은 자기 출력 좌표계(첫 카메라 원점)를 |
| > 유지한다 — `blenderobj_latents/README.md` 3.1 참조. 다만 prior 는 pose·intrinsic 추정 |
| > 자체를 개선하므로 (|Δfx| 45.6 → 4.7 px) 캐노니컬 릴리스는 prior 를 켠 쪽이다. |
| |
