blenderobj_eval/README.md

# blenderobj_eval

`/workspace/dataset/blenderobj` 렌더를 [`dataformat.md`](../../dataformat.md) 통합 포맷으로 변환한
평가 데이터셋. `camxtime_eval` 과 같은 구조이되, **카메라 축이 하나 더 있다.**

```
50 scene × 3 trajectory pair × 7 pattern = 1,050 case
source 118개 · target 847개(참조) + 203개(예비) · 81 frame · 832×480 · 30 fps
```

생성: [`../../convert_blenderobj_eval.py`](../../convert_blenderobj_eval.py) ·
캡션: [`../../caption_blenderobj.py`](../../caption_blenderobj.py) ·
쌍 선택: [`../../select_pair.py`](../../select_pair.py) → [`../../build_pair_selection.py`](../../build_pair_selection.py)

---

## 1. source / target 구성

원본은 trajectory 하나당 **정지 카메라 100대 × 180프레임** 격자를 가로지른 81프레임 영상이고,
한 씬에 trajectory 가 3개다. 확인한 세 가지가 구성을 결정한다.

| 확인한 사실 | 결과 |
|---|---|
| 한 trajectory 안에서 7개 패턴의 카메라 포즈가 **완전히 동일**하다 (bit-identical) | 같은 traj 안의 pair 는 순수 retiming |
| 세 trajectory 의 프레임 *i* 는 **같은 물리 상태**다 (`T_world_object` 일치) | 다른 traj 는 동시 촬영된 다른 시점 |
| 세 trajectory 가 같은 world frame·미터 단위를 쓴다 | source·target 포즈가 정렬 없이 바로 비교된다 |

case 하나는 이렇게 생겼다.

```
source = <scene>/<traj_s>/forward          항상 forward
target = <scene>/<traj_t>/<pattern>        7개 패턴 전부, traj_t ≠ traj_s
```

### source 는 `forward` 뿐이다

target 패턴들이 요구하는 씬 시각은 전부 **소스 프레임 0–80** 안에 있다
(zigzag 0–40, slowmo 0–40, bullettime 10 · 40 · 70). `forward` 만 그 구간을 전부 관측하므로,
`forward` 이외를 source 로 쓰면 관측하지 않은 시각을 만들어내라는 문제가 된다.
원본에서 `fastmo` 를 뺀 이유와 같다. 변환기는 이것을 불변식으로 검사한다
(`target frames ⊆ source frames`).

### 같은 traj 안의 retiming 은 넣지 않는다

카메라가 동일한 retiming 은 `camxtime_eval` 이 이미 재고 있다. 이 데이터셋이 더하는 것은
카메라 축이므로 **cross-trajectory 만** 만든다.

| tier | 구성 | case |
|---|---|---|
| `view_only` | pattern = forward | 150 |
| `view_time` | pattern ≠ forward | 900 |

### trajectory 쌍은 ⚠️ **씬마다 다르다**

궤적의 고도 프로파일(traj000 14° · traj001 58° · traj002 8자 32°)은 고정이지만
**azimuth 오프셋이 씬마다 랜덤**이다 (traj001 14종, traj002 9종). 그래서 어느 쌍이 가까운지가
씬마다 달라, 전 씬 공통으로 쌍을 고정하면 손해다.

50씬 × 6개 방향쌍 × 전 프레임(간격 5)을 실제로 렌더해 재고, 씬마다 **상위 3쌍**을 골랐다.

```
score = (mean(mPSNR) − std(mPSNR)) × (1 − 빈프레임비율)
```

`mPSNR` 은 source 가우시안을 target pose 에서 렌더했을 때 **가우시안이 있는 픽셀만** 잰
PSNR 이다. 평균이 높고 영상 내내 난이도가 균일한 쌍이 뽑힌다.

| 선택 방식 | 점수 | 고정 대비 |
|---|---|---|
| 고정 순환 3쌍 (이전 릴리스) | 15.38 | — |
| 씬별 최적 cycle | 15.80 | +0.41 |
| **씬별 상위 3쌍 (현재)** | **16.72** | **+1.34** |

빈 렌더 프레임(커버리지 0)은 전체 측정에서 57/5,100 있었지만 **선택된 쌍에서는 0** 이다.
50씬에서 각 쌍이 뽑힌 횟수:

| pair | 씬 수 |
|---|---|
| traj002 → traj000 | 42 |
| traj000 → traj002 | 33 |
| traj002 → traj001 | 23 |
| traj001 → traj002 | 20 |
| traj000 → traj001 | 18 |
| traj001 → traj000 | 14 |

선택표는 [`../../blenderobj_pair_selection_top3.json`](../../blenderobj_pair_selection_top3.json)
이고 씬별 6쌍 점수·시선각·커버리지가 전부 들어 있다. `manifest.protocol.pair_selection` 이
이 파일을 가리킨다. 쌍을 바꾸려면 이 JSON 만 갈아 끼우고 변환을 다시 돌리면 된다
(2초, **VAE 재인코딩 불필요** — 4절 참고).

## 2. ⚠️ cross-trajectory 는 외삽 강도가 크다

case 마다 `metadata.view_change` 에 시선각·baseline 이 들어 있다. 쌍별 실측 평균:

| pair | 평균 시선각 | baseline |
|---|---|---|
| traj000 ↔ traj002 | 54.6° | 1.36 m |
| traj001 ↔ traj002 | 74.8° | 1.75 m |
| traj000 ↔ traj001 | 88.5° | 2.03 m |

시점 차이를 줄여도 이득은 크지 않다 — 프레임별 시선각과 품질의 상관이
`corr(angle, mPSNR) = −0.20` 이고, <45° 구간도 mPSNR 17.48 / 커버리지 0.593 에 그친다
(≥45° 는 16.32 / 0.507). 한계는 각도가 아니라 **단일 시점 lift** 자체다.

## 3. subset

| subset | case 수 | 뜻 |
|---|---|---|
| `view_only` | 150 | 순수 NVS |
| `view_time` | 900 | 카메라 + 시간 |
| `mini` | 210 | 5씬 간격 10씬 전체 — camxtime_eval(217) 과 같은 규모의 빠른 반복용 |

```python
import json
cases = json.load(open("manifest.json"))["cases"]
mini = [c for c in cases if "mini" in c["metadata"]["subsets"]]
hard = [c for c in cases if c["metadata"]["view_change"]["view_direction_deg_mean"] > 80]
```

## 4. 디렉터리

```
source/<scene>__<traj>/                     # 항상 forward
target/<scene>__<traj>__<pattern>/
    rgb_video.mp4          # h264 crf17 — 원본 렌더를 재인코딩 없이 그대로 (hardlink)
    transforms.json        # c2w, OpenCV, 미터, per-frame intrinsics
    caption.txt
    extras/
        rgb_lossless.mkv       # FFV1, bit-exact — 픽셀 지표는 반드시 이 파일
        temporal_mapping.json  # 출력 프레임별 (격자 카메라, 소스 모션 프레임, 씬 시각, 재생 시각)
        object_poses.npz       # T_world_object (81, N, 4, 4) + instance_ids
        traj_caption.txt       # 원본의 trajectory 캡션
        blender_meta.json      # 원본 meta.json
extras/scenes/<scene>/         # 씬 공통: metadata/objects/patterns/render_manifest/camera_layout
manifest.json
```

`source/<scene>__<traj>` 와 `target/<scene>__<traj>__forward` 는 같은 영상이다.
전자는 조건 입력, 후자는 다른 trajectory 에서 볼 때의 GT 다.

**쓰이지 않는 target 디렉터리도 남긴다** (`--keep-all-targets`, 씬별 선택을 쓰면 자동).
현재 847개가 case 에 참조되고 203개가 예비로 남아 있다. 쌍 선택을 바꿔도 디렉터리와
latent 의 대응이 그대로라 다시 만들 것이 없다.

### 왜 쌍을 바꿔도 VAE 를 다시 인코딩하지 않아도 되나

`vae_latents` 는 **영상(디렉터리) 단위**로 만들어진다 — `VAE(그 디렉터리의 81프레임)`.
쌍 선택은 "어떤 (source, target) 조합을 case 로 쓸지"만 정하고 **영상을 바꾸지 않는다.**
`<scene>__<traj>__<pattern>` 21개는 선택과 무관하게 같은 원본 렌더의 하드링크이고,
캡션(씬 내용 + traj 캡션 + 패턴 문장)도 디렉터리 고유 속성이라 umT5 임베딩도 그대로다.
쌍 선택에 종속적인 것은 **WM pose 뿐**이고 (target 이 어느 source 의 게이지에 있는지),
그건 재주입 27초면 끝난다.

### 전처리가 항등인 이유

렌더가 이미 832×480 이고 intrinsics 도 `fx = fy = 416.0, cx = 415.5, cy = 239.5` 로
포맷 해상도와 일치한다. crop/resize 가 항등이므로 intrinsics 를 건드리지 않고,
mp4 는 **디코드·인코딩 없이 하드링크**한다 — 압축 손실이 한 번도 추가되지 않는다.

## 5. 지표는 `extras/rgb_lossless.mkv` 로 잰다

`rgb_video.mp4` 는 원본 렌더의 CRF 17 파일 그대로이고 소스 대비 최대 픽셀 오차가 53이다.
PSNR·SSIM·LPIPS 는 `extras/rgb_lossless.mkv` (FFV1, bit-exact) 로 계산한다.
`manifest.preprocessing.metric_reference` 가 이를 선언한다.

## 6. 시계가 두 개다

| 필드 | 뜻 |
|---|---|
| `timestamps_seconds` | 그 프레임이 담고 있는 **씬(물리) 시각**. 패턴마다 다르다 |
| `playback_timestamps_seconds` | **재생 시각** `i / 30`. 전 패턴 공통 |
| `time_stride` | 씬 시간 배율. `zigzag` 은 상수가 아니라 `null` |

출력 프레임 index 는 source·target 이 1:1 로 대응한다 (`output_frame_alignment`).
그 프레임이 보는 씬 시각이 패턴마다 다를 뿐이고, 양쪽 `temporal_mapping.json` 에 다 들어 있다.

## 7. 캡션 — 세 조각의 합

```
caption.txt = <Qwen3-VL-8B-Instruct 가 쓴 씬 내용 캡션>   씬당 1개, traj000/forward 기준
            + <원본 traj_caption.txt 그대로>              trajectory 캡션
            + <motion 문장 (룰베이스)>                     패턴별 고정 문구
```

motion 문장은 `manifest.captioning.motion_sentences` 에 전부 선언돼 있고, 문구는
camxtime_eval 과 맞췄다.

## 8. 재생성

```bash
# 1) 씬 내용 캡션 (GPU 1장, 50영상 · 3분, 재개 가능)
CUDA_VISIBLE_DEVICES=7 /opt/conda/envs/geodynvs_spacetimepilot/bin/python \
    /workspace/dataset/caption_blenderobj.py \
    --output /workspace/dataset/blenderobj_content_captions.json

# 2) 쌍 선택 측정 (GPU 2장 · 약 2시간) → 씬별 상위 3쌍
for i in 0 1; do CUDA_VISIBLE_DEVICES=$((i+5)) \
  /opt/conda/envs/geodynvs_neoverse/bin/python /workspace/dataset/select_pair.py \
    --scenes 25 --scene-stride 2 --scene-start $i --stride 5 \
    --report /tmp/pair_$i.json & done; wait
python /workspace/dataset/build_pair_selection.py --reports /tmp/pair_0.json /tmp/pair_1.json \
    --top 3 --out /workspace/dataset/blenderobj_pair_selection_top3.json

# 3) 변환 + 검증 (변환 2초, 검증 1분 45초)
python /workspace/dataset/convert_blenderobj_eval.py \
    --output-root /workspace/dataset/geo4d_evals/blenderobj_eval \
    --pair-selection /workspace/dataset/blenderobj_pair_selection_top3.json --workers 8

# 4) WM pose 재주입 (27초) — 쌍이 바뀌면 이것만 다시 하면 된다
/opt/conda/envs/geodynvs_neoverse/bin/python /workspace/dataset/wm_pose_blenderobj.py \
    --priors gt --inject-only
python /workspace/dataset/build_latents_manifest.py --check-tensors
```

| 옵션 | 기본 | 뜻 |
|---|---|---|
| `--pair-selection` | 없음 | 씬별 쌍 JSON. 없으면 `--traj-pairs` 를 전 씬 공통으로 |
| `--traj-pairs SRC:TGT …` | 순환 3쌍 | 전 씬 공통 쌍 |
| `--keep-all-targets` | `--pair-selection` 시 자동 | 쓰지 않는 target 도 남긴다 |
| `--patterns …` | 7개 전부 | target 패턴 |
| `--link-mode` | `hardlink` | `copy` / `symlink` 가능 |
| `--captions-only` | off | 캡션만 갱신 |

`--overwrite` 는 루트의 `README.md` · `NOTES.md` 를 보존한다.

## 9. 검증 항목

`--validate-only` 가 `dataformat.md` 11절을 검사한다. 965 디렉터리 · 1,050 case 통과.

- case_id / pair_id 유일성, case ↔ pair 1:1, 경로 존재·root 이탈 없음
- mp4·mkv 모두 832×480 · 81프레임 · 30fps (실제 디코드 카운트)
- `c2w` 유한·마지막 행 `[0,0,0,1]`·회전 orthonormal·det +1 (실측 최대 오차 `1.4e-06`)
- intrinsics 가 항등 전처리 값과 일치
- caption 비어 있지 않고 `caption_key` 가 본문 SHA-256 과 일치
- temporal mapping 길이 81, `timestamps == source_motion_frame / 30`
- 다른 traj pair 는 source·target 포즈가 실제로 다르고, 격자 카메라 index 는 일치한다
- **target 이 요구하는 씬 시각이 전부 source 관측 구간 안에 있다**
- `forward` target 은 source 와 씬 시각이 일치한다
- 미참조 target 디렉터리는 개수를 보고하고 내용까지 검사한다 (source 는 미참조 시 오류)

## 10. 인코딩 산출물 — VAE latent · umT5 · WM pose

평가에 바로 쓰는 인코딩은 [`../../blenderobj_latents`](../../blenderobj_latents) 에 있다
(CamXTime_latents 와 같은 스키마, 같은 source/target 구조).

source 와 target 의 카메라 아크가 다르므로 WM pose 는 **게이지 정의가 필요**하고,
가우시안 렌더링으로 검증해 `relative`(프레임별 상대 합성)를 캐노니컬로 정했다.
한 target 이 두 source 와 짝지어질 수 있어 (현재 29/50 씬) target 파일에
`cam_wm_c2w__from_<source_traj>` 키가 source 별로 들어 있고, case 의 `metadata.wm_pose_key`
가 어느 것을 쓸지 가리킨다. 자세한 내용과 실측치는 그쪽 README 2·3·8절에 있다.

## 11. WorldMirror 게이지에 대해

원본 README 10절이 제안한 `wm_source.npz` / `wm_target.npz` 는 이 평가셋 안에 굽지 않고
`blenderobj_latents` 쪽에 `cam_wm_c2w` 로 넣었다 (게이지 4종 전부 저장). 포즈가 미터 단위
GT 이고 (`camera.reconstruction_unit = "meters"`) 세 traj 가 같은 world frame 을 쓰므로,
어떤 게이지든 로딩 시점에 다시 계산할 수 있다.

> ⚠️ 원본 10.4 의 "WM 에 camera prior 를 주면 `normalize_poses` 로 게이지가 닫힌 형태로
> 결정된다" 는 **실측으로 기각됐다.** prior 를 줘도 WM 은 자기 출력 좌표계(첫 카메라 원점)를
> 유지한다 — `blenderobj_latents/README.md` 3.1 참조. 다만 prior 는 pose·intrinsic 추정
> 자체를 개선하므로 (|Δfx| 45.6 → 4.7 px) 캐노니컬 릴리스는 prior 를 켠 쪽이다.