| # OpenVid-1M — 0.5초 간격 10프레임 시퀀스 데이터셋 |
|
|
| `download_openvid.md`의 런북을 실행한 결과물입니다. |
| 학습 샘플 1개 = **연속 프레임 10장** + 그 사이 **인접 쌍 9개**에 붙일 "차이 캡션". |
|
|
| ## 한눈에 |
|
|
| | 항목 | 값 | |
| |---|---| |
| | 시퀀스 | **116,596** | |
| | 시퀀스당 프레임 | 10장 (0.5초 간격, 0.0 → 4.5초) | |
| | **인접 프레임 쌍** | **1,049,364** ← 다음 단계 VLM 호출 수 | |
| | 소스 클립 | 87,002개 (클립당 평균 1.34 윈도우, **최대 2**) | |
| | jpg | 1,165,960장 / 52.5 GB (768px, q=3, 평균 44 KB) | |
| | 원본 mp4 | 87,002개 / 711.9 GB | |
| | 메타데이터 | 1.4 GB | |
| | **합계 디스크** | **약 766 GB** | |
|
|
| ## 선별 기준 |
|
|
| ``` |
| motion score ∈ [5.27, 60] # 5.27 = 후보군 상위 29.5% |
| aesthetic score ≥ 5.0 |
| 길이 ≥ 4.75초 (윈도우 1개) / ≥ 9.75초 (윈도우 2개) |
| 클립당 시퀀스 최대 2개 # 같은 영상이 데이터셋을 지배하지 않도록 |
| caption에 talk|talking|interview|podcast 없을 것 |
| video 이름이 celebv_ / pixabay_ 로 시작하지 않을 것 |
| camera motion 조건 없음 |
| ``` |
|
|
| ## 구성 |
|
|
| | | | |
| |---|---| |
| | camera | static 63.4% / pan_right 7.8% / pan_left 7.0% / Undetermined 6.5% / zoom_in 2.8% / tilt_up 2.2% … → **고정 63.4%, 무빙 36.6%** | |
| | 해상도 | 1080p 원본 64.9% (모두 768px 폭으로 리사이즈) | |
| | motion score | min 5.27 / p25 6.76 / **중앙값 9.74** / p75 20.95 / max 60.00 | |
| | 원본 클립 길이 | 중앙값 9.8초 | |
| | 윈도우 배분 | 1개 57,408 클립 + 2개 29,594 클립 | |
|
|
| ## 레이아웃 |
|
|
| ``` |
| openvid_raw/ |
| ├── download_openvid.md # 런북 (방법론 + 실측치) |
| ├── README.md # 이 파일 (결과) |
| ├── sequences.jsonl # ★ 학습 데이터 인덱스 (1줄 = 1시퀀스 = jpg 10장) |
| ├── videos/ # ★ 원본 mp4 87,002개 |
| │ └── <video>.mp4 |
| ├── frames/ # ★ 추출된 jpg (768px, q=3) |
| │ └── <2-hex shard>/<clip>__w<N>/f00.jpg … f09.jpg |
| ├── meta/ |
| │ ├── OpenVid-1M.csv # 원본 메타데이터 (857MB) |
| │ ├── OpenVidHD.csv # 1080p 태깅용 (300MB) |
| │ ├── part_index.jsonl # clip -> (zip part, member, bytes) 1,019,957행 |
| │ └── manifest.csv # 필터링·정렬된 다운로드 우선순위 (111,536행, cum_gb 포함) |
| └── scripts/ |
| ├── hfzip.py # HTTP Range로 zip 멤버 직접 읽기 (429 재시도 포함) |
| ├── build_index.py # part_index.jsonl 생성 |
| ├── motion_cut.py # 모션 컷 percentile 확인 |
| ├── select_clips.py # manifest.csv 생성 |
| ├── fetch_clips.py # mp4 다운로드 (재개 가능) |
| ├── extract_frames.py # 0.5초 간격 10프레임 추출 + sequences.jsonl |
| └── verify_dataset.py # 무결성 검증 |
| ``` |
|
|
| `frames/`는 seq_id의 md5 앞 2자리로 **256개 샤드**에 나눠 담습니다 (Lustre에서 한 |
| 디렉터리에 십만 개 서브디렉터리를 두지 않기 위함). 경로는 `sequences.jsonl`에 |
| 그대로 들어 있으므로 샤딩을 신경 쓸 필요는 없습니다. |
| |
| ## sequences.jsonl 한 줄 |
| |
| ```json |
| { |
| "id": "<clip>__w0", |
| "video": "<clip>.mp4", |
| "frames": ["frames/90/<clip>__w0/f00.jpg", ..., "frames/90/<clip>__w0/f09.jpg"], |
| "timestamps": [0.0, 0.5, 1.0, 1.5, 2.0, 2.5, 3.0, 3.5, 4.0, 4.5], |
| "step_sec": 0.5, |
| "n_frames": 10, |
| "video_caption": "OpenVid 원본 캡션 (VLM 프롬프트 컨텍스트용)", |
| "meta": {"seconds": "...", "fps": "...", "motion": "...", |
| "aesthetic": "...", "camera": "...", "hd": "1"} |
| } |
| ``` |
| |
| 경로는 모두 이 디렉터리(`openvid_raw/`) 기준 상대경로입니다. |
| 윈도우 `w`의 프레임 `i`는 원본 영상의 `w*5.0 + i*0.5` 초 지점입니다. |
| |
| ## 검증 결과 |
| |
| `python3 scripts/verify_dataset.py --full` (전수, 3.6분) |
| |
| ``` |
| sequences : 116,596 |
| unique ids : 116,596 (dupes: 0) |
| source clips : 87,002 (mean 1.34 windows/clip) |
| windows/clip : {1: 57408, 2: 29594} over cap(2): 0 |
| n_frames : {10: 116596} |
| step_sec : {0.5: 116596} |
| frames listed : 1,165,960 |
| adjacent pairs : 1,049,364 |
| motion : min 5.27 med 9.74 max 60.00 below 5.27: 0 |
| path check : FULL -> 0 problems |
| jpgs on disk : 1,165,960 (52.5 GB, mean 44 KB) |
| orphan jpgs : 0 |
| ``` |
| |
| ### 내용 품질 (무작위 표본 실측) |
| |
| | 지표 | 값 | |
| |---|---| |
| | 인접 프레임 평균 픽셀 변화 (그레이 0–255) | 평균 **16.6** / 중앙값 15.5 / p10 4.6 / p90 30.3 | |
| | 사실상 정지인 시퀀스 (평균 \|Δ\| < 2) | **1.0%** | |
| | 시퀀스 내부에 샷 전환이 섞인 것 | **3.2%** | |
| |
| 샷 전환 3.2%는 OpenVid의 장면 분할이 완벽하지 않아 남는 잔차입니다. |
| 차이 캡션 단계에서 "완전히 다른 장면"으로 나오는 쌍은 버리면 됩니다. |
| |
| 캡션 키워드 필터는 `talk|talking|interview|podcast`만 보므로, 이 단어가 없는 |
| 토킹헤드(운전하며 말하기, 강연 등)는 일부 남아 있습니다. 더 강하게 걸러야 하면 |
| `scripts/select_clips.py`의 `TALKING` 정규식에 `speaks|vlog|presenter` 등을 추가하십시오. |
| |
| ## 실행 시간 (2026-08-21 실측) |
| |
| | 단계 | 시간 | 비고 | |
| |---|---|---| |
| | 다운로드 | 144.5분 | 507.1 GB, 평균 58 MB/s, **실패 0**, 32 워커 | |
| | 프레임 추출 | 58분 | 87,002 클립, 176 프로세스, 25 클립/s | |
| | 전수 검증 | 3.6분 | 1,165,960개 경로 | |
| |
| ## 데이터 늘리기 |
| |
| `meta/manifest.csv`는 `efficiency` 정렬(= `bytes / windows` 오름차순)로 고정되어 있고 |
| `cum_gb` 누적 컬럼을 가집니다. 예산만 올리면 이미 받은 파일은 건너뛰고 다음 구간만 받습니다. |
| |
| ```bash |
| python3 scripts/fetch_clips.py --budget-gb 800 --out videos --workers 32 # 200GB 더 |
| python3 scripts/extract_frames.py --workers 176 # 기존 윈도우는 skip |
| python3 scripts/verify_dataset.py --full |
| ``` |
| |
| **`manifest.csv`를 다시 만들면 순서가 바뀌어 이어받기가 깨집니다.** |
| |
| | `--budget-gb` | 클립 | 시퀀스 | 인접 쌍 | |
| |---|---|---|---| |
| | **600** (현재) | 84,362 | 111,417 | 1,002,753 | |
| | 800 | 96,176 | 128,540 | 1,156,860 | |
| | 1,000 | 104,216 | 140,898 | 1,268,082 | |
| | 전체 (1,390) | 111,536 | 153,391 | 1,380,519 | |
| |
| > 현재 시퀀스가 표의 111,417보다 많은 이유는, 예산 구간 밖이지만 이미 디스크에 있던 |
| > 클립 2,640개(+5,179 시퀀스)도 함께 추출했기 때문입니다. |
| |
| `efficiency` 정렬은 GB당 시퀀스를 최대화하는 대신 저비트레이트 클립을 앞세웁니다. |
| 같은 100만 쌍을 무편향 `shuffle` 정렬로 채우면 1,007GB가 필요합니다. |
| 편향 자체는 크지 않습니다 (1080p 70.2%→64.9%, static 59.0%→63.4%, aesthetic 동일). |
| |
| ## 다음 단계 |
| |
| `sequences.jsonl` 1줄당 인접 쌍 9개 → **약 105만 회 VLM 호출**이 필요합니다. |
| 프롬프트 스키마는 `download_openvid.md` 6절을 참고하십시오. |
| |
