# OpenVid-1M — 0.5초 간격 10프레임 시퀀스 데이터셋

`download_openvid.md`의 런북을 실행한 결과물입니다.
학습 샘플 1개 = **연속 프레임 10장** + 그 사이 **인접 쌍 9개**에 붙일 "차이 캡션".

## 한눈에

| 항목 | 값 |
|---|---|
| 시퀀스 | **116,596** |
| 시퀀스당 프레임 | 10장 (0.5초 간격, 0.0 → 4.5초) |
| **인접 프레임 쌍** | **1,049,364** ← 다음 단계 VLM 호출 수 |
| 소스 클립 | 87,002개 (클립당 평균 1.34 윈도우, **최대 2**) |
| jpg | 1,165,960장 / 52.5 GB (768px, q=3, 평균 44 KB) |
| 원본 mp4 | 87,002개 / 711.9 GB |
| 메타데이터 | 1.4 GB |
| **합계 디스크** | **약 766 GB** |

## 선별 기준

```
motion score ∈ [5.27, 60]        # 5.27 = 후보군 상위 29.5%
aesthetic score ≥ 5.0
길이 ≥ 4.75초 (윈도우 1개) / ≥ 9.75초 (윈도우 2개)
클립당 시퀀스 최대 2개            # 같은 영상이 데이터셋을 지배하지 않도록
caption에 talk|talking|interview|podcast 없을 것
video 이름이 celebv_ / pixabay_ 로 시작하지 않을 것
camera motion 조건 없음
```

## 구성

| | |
|---|---|
| camera | static 63.4% / pan_right 7.8% / pan_left 7.0% / Undetermined 6.5% / zoom_in 2.8% / tilt_up 2.2% … → **고정 63.4%, 무빙 36.6%** |
| 해상도 | 1080p 원본 64.9% (모두 768px 폭으로 리사이즈) |
| motion score | min 5.27 / p25 6.76 / **중앙값 9.74** / p75 20.95 / max 60.00 |
| 원본 클립 길이 | 중앙값 9.8초 |
| 윈도우 배분 | 1개 57,408 클립 + 2개 29,594 클립 |

## 레이아웃

```
openvid_raw/
├── download_openvid.md        # 런북 (방법론 + 실측치)
├── README.md                  # 이 파일 (결과)
├── sequences.jsonl            # ★ 학습 데이터 인덱스 (1줄 = 1시퀀스 = jpg 10장)
├── videos/                    # ★ 원본 mp4 87,002개
│   └── <video>.mp4
├── frames/                    # ★ 추출된 jpg (768px, q=3)
│   └── <2-hex shard>/<clip>__w<N>/f00.jpg … f09.jpg
├── meta/
│   ├── OpenVid-1M.csv         # 원본 메타데이터 (857MB)
│   ├── OpenVidHD.csv          # 1080p 태깅용 (300MB)
│   ├── part_index.jsonl       # clip -> (zip part, member, bytes)  1,019,957행
│   └── manifest.csv           # 필터링·정렬된 다운로드 우선순위 (111,536행, cum_gb 포함)
└── scripts/
    ├── hfzip.py               # HTTP Range로 zip 멤버 직접 읽기 (429 재시도 포함)
    ├── build_index.py         # part_index.jsonl 생성
    ├── motion_cut.py          # 모션 컷 percentile 확인
    ├── select_clips.py        # manifest.csv 생성
    ├── fetch_clips.py         # mp4 다운로드 (재개 가능)
    ├── extract_frames.py      # 0.5초 간격 10프레임 추출 + sequences.jsonl
    └── verify_dataset.py      # 무결성 검증
```

`frames/`는 seq_id의 md5 앞 2자리로 **256개 샤드**에 나눠 담습니다 (Lustre에서 한
디렉터리에 십만 개 서브디렉터리를 두지 않기 위함). 경로는 `sequences.jsonl`에
그대로 들어 있으므로 샤딩을 신경 쓸 필요는 없습니다.

## sequences.jsonl 한 줄

```json
{
  "id": "<clip>__w0",
  "video": "<clip>.mp4",
  "frames": ["frames/90/<clip>__w0/f00.jpg", ..., "frames/90/<clip>__w0/f09.jpg"],
  "timestamps": [0.0, 0.5, 1.0, 1.5, 2.0, 2.5, 3.0, 3.5, 4.0, 4.5],
  "step_sec": 0.5,
  "n_frames": 10,
  "video_caption": "OpenVid 원본 캡션 (VLM 프롬프트 컨텍스트용)",
  "meta": {"seconds": "...", "fps": "...", "motion": "...",
           "aesthetic": "...", "camera": "...", "hd": "1"}
}
```

경로는 모두 이 디렉터리(`openvid_raw/`) 기준 상대경로입니다.
윈도우 `w`의 프레임 `i`는 원본 영상의 `w*5.0 + i*0.5` 초 지점입니다.

## 검증 결과

`python3 scripts/verify_dataset.py --full` (전수, 3.6분)

```
sequences        : 116,596
unique ids       : 116,596   (dupes: 0)
source clips     : 87,002    (mean 1.34 windows/clip)
windows/clip     : {1: 57408, 2: 29594}   over cap(2): 0
n_frames         : {10: 116596}
step_sec         : {0.5: 116596}
frames listed    : 1,165,960
adjacent pairs   : 1,049,364
motion           : min 5.27  med 9.74  max 60.00   below 5.27: 0
path check       : FULL -> 0 problems
jpgs on disk     : 1,165,960  (52.5 GB, mean 44 KB)
orphan jpgs      : 0
```

### 내용 품질 (무작위 표본 실측)

| 지표 | 값 |
|---|---|
| 인접 프레임 평균 픽셀 변화 (그레이 0–255) | 평균 **16.6** / 중앙값 15.5 / p10 4.6 / p90 30.3 |
| 사실상 정지인 시퀀스 (평균 \|Δ\| < 2) | **1.0%** |
| 시퀀스 내부에 샷 전환이 섞인 것 | **3.2%** |

샷 전환 3.2%는 OpenVid의 장면 분할이 완벽하지 않아 남는 잔차입니다.
차이 캡션 단계에서 "완전히 다른 장면"으로 나오는 쌍은 버리면 됩니다.

캡션 키워드 필터는 `talk|talking|interview|podcast`만 보므로, 이 단어가 없는
토킹헤드(운전하며 말하기, 강연 등)는 일부 남아 있습니다. 더 강하게 걸러야 하면
`scripts/select_clips.py`의 `TALKING` 정규식에 `speaks|vlog|presenter` 등을 추가하십시오.

## 실행 시간 (2026-08-21 실측)

| 단계 | 시간 | 비고 |
|---|---|---|
| 다운로드 | 144.5분 | 507.1 GB, 평균 58 MB/s, **실패 0**, 32 워커 |
| 프레임 추출 | 58분 | 87,002 클립, 176 프로세스, 25 클립/s |
| 전수 검증 | 3.6분 | 1,165,960개 경로 |

## 데이터 늘리기

`meta/manifest.csv`는 `efficiency` 정렬(= `bytes / windows` 오름차순)로 고정되어 있고
`cum_gb` 누적 컬럼을 가집니다. 예산만 올리면 이미 받은 파일은 건너뛰고 다음 구간만 받습니다.

```bash
python3 scripts/fetch_clips.py --budget-gb 800 --out videos --workers 32   # 200GB 더
python3 scripts/extract_frames.py --workers 176                            # 기존 윈도우는 skip
python3 scripts/verify_dataset.py --full
```

**`manifest.csv`를 다시 만들면 순서가 바뀌어 이어받기가 깨집니다.**

| `--budget-gb` | 클립 | 시퀀스 | 인접 쌍 |
|---|---|---|---|
| **600** (현재) | 84,362 | 111,417 | 1,002,753 |
| 800 | 96,176 | 128,540 | 1,156,860 |
| 1,000 | 104,216 | 140,898 | 1,268,082 |
| 전체 (1,390) | 111,536 | 153,391 | 1,380,519 |

> 현재 시퀀스가 표의 111,417보다 많은 이유는, 예산 구간 밖이지만 이미 디스크에 있던
> 클립 2,640개(+5,179 시퀀스)도 함께 추출했기 때문입니다.

`efficiency` 정렬은 GB당 시퀀스를 최대화하는 대신 저비트레이트 클립을 앞세웁니다.
같은 100만 쌍을 무편향 `shuffle` 정렬로 채우면 1,007GB가 필요합니다.
편향 자체는 크지 않습니다 (1080p 70.2%→64.9%, static 59.0%→63.4%, aesthetic 동일).

## 다음 단계

`sequences.jsonl` 1줄당 인접 쌍 9개 → **약 105만 회 VLM 호출**이 필요합니다.
프롬프트 스키마는 `download_openvid.md` 6절을 참고하십시오.