OpenVid-1M — 0.5초 간격 10프레임 시퀀스 데이터셋
download_openvid.md의 런북을 실행한 결과물입니다.
학습 샘플 1개 = 연속 프레임 10장 + 그 사이 인접 쌍 9개에 붙일 "차이 캡션".
한눈에
| 항목 | 값 |
|---|---|
| 시퀀스 | 116,596 |
| 시퀀스당 프레임 | 10장 (0.5초 간격, 0.0 → 4.5초) |
| 인접 프레임 쌍 | 1,049,364 ← 다음 단계 VLM 호출 수 |
| 소스 클립 | 87,002개 (클립당 평균 1.34 윈도우, 최대 2) |
| jpg | 1,165,960장 / 52.5 GB (768px, q=3, 평균 44 KB) |
| 원본 mp4 | 87,002개 / 711.9 GB |
| 메타데이터 | 1.4 GB |
| 합계 디스크 | 약 766 GB |
선별 기준
motion score ∈ [5.27, 60] # 5.27 = 후보군 상위 29.5%
aesthetic score ≥ 5.0
길이 ≥ 4.75초 (윈도우 1개) / ≥ 9.75초 (윈도우 2개)
클립당 시퀀스 최대 2개 # 같은 영상이 데이터셋을 지배하지 않도록
caption에 talk|talking|interview|podcast 없을 것
video 이름이 celebv_ / pixabay_ 로 시작하지 않을 것
camera motion 조건 없음
구성
| camera | static 63.4% / pan_right 7.8% / pan_left 7.0% / Undetermined 6.5% / zoom_in 2.8% / tilt_up 2.2% … → 고정 63.4%, 무빙 36.6% |
| 해상도 | 1080p 원본 64.9% (모두 768px 폭으로 리사이즈) |
| motion score | min 5.27 / p25 6.76 / 중앙값 9.74 / p75 20.95 / max 60.00 |
| 원본 클립 길이 | 중앙값 9.8초 |
| 윈도우 배분 | 1개 57,408 클립 + 2개 29,594 클립 |
레이아웃
openvid_raw/
├── download_openvid.md # 런북 (방법론 + 실측치)
├── README.md # 이 파일 (결과)
├── sequences.jsonl # ★ 학습 데이터 인덱스 (1줄 = 1시퀀스 = jpg 10장)
├── videos/ # ★ 원본 mp4 87,002개
│ └── <video>.mp4
├── frames/ # ★ 추출된 jpg (768px, q=3)
│ └── <2-hex shard>/<clip>__w<N>/f00.jpg … f09.jpg
├── meta/
│ ├── OpenVid-1M.csv # 원본 메타데이터 (857MB)
│ ├── OpenVidHD.csv # 1080p 태깅용 (300MB)
│ ├── part_index.jsonl # clip -> (zip part, member, bytes) 1,019,957행
│ └── manifest.csv # 필터링·정렬된 다운로드 우선순위 (111,536행, cum_gb 포함)
└── scripts/
├── hfzip.py # HTTP Range로 zip 멤버 직접 읽기 (429 재시도 포함)
├── build_index.py # part_index.jsonl 생성
├── motion_cut.py # 모션 컷 percentile 확인
├── select_clips.py # manifest.csv 생성
├── fetch_clips.py # mp4 다운로드 (재개 가능)
├── extract_frames.py # 0.5초 간격 10프레임 추출 + sequences.jsonl
└── verify_dataset.py # 무결성 검증
frames/는 seq_id의 md5 앞 2자리로 256개 샤드에 나눠 담습니다 (Lustre에서 한
디렉터리에 십만 개 서브디렉터리를 두지 않기 위함). 경로는 sequences.jsonl에
그대로 들어 있으므로 샤딩을 신경 쓸 필요는 없습니다.
sequences.jsonl 한 줄
{
"id": "<clip>__w0",
"video": "<clip>.mp4",
"frames": ["frames/90/<clip>__w0/f00.jpg", ..., "frames/90/<clip>__w0/f09.jpg"],
"timestamps": [0.0, 0.5, 1.0, 1.5, 2.0, 2.5, 3.0, 3.5, 4.0, 4.5],
"step_sec": 0.5,
"n_frames": 10,
"video_caption": "OpenVid 원본 캡션 (VLM 프롬프트 컨텍스트용)",
"meta": {"seconds": "...", "fps": "...", "motion": "...",
"aesthetic": "...", "camera": "...", "hd": "1"}
}
경로는 모두 이 디렉터리(openvid_raw/) 기준 상대경로입니다.
윈도우 w의 프레임 i는 원본 영상의 w*5.0 + i*0.5 초 지점입니다.
검증 결과
python3 scripts/verify_dataset.py --full (전수, 3.6분)
sequences : 116,596
unique ids : 116,596 (dupes: 0)
source clips : 87,002 (mean 1.34 windows/clip)
windows/clip : {1: 57408, 2: 29594} over cap(2): 0
n_frames : {10: 116596}
step_sec : {0.5: 116596}
frames listed : 1,165,960
adjacent pairs : 1,049,364
motion : min 5.27 med 9.74 max 60.00 below 5.27: 0
path check : FULL -> 0 problems
jpgs on disk : 1,165,960 (52.5 GB, mean 44 KB)
orphan jpgs : 0
내용 품질 (무작위 표본 실측)
| 지표 | 값 |
|---|---|
| 인접 프레임 평균 픽셀 변화 (그레이 0–255) | 평균 16.6 / 중앙값 15.5 / p10 4.6 / p90 30.3 |
| 사실상 정지인 시퀀스 (평균 |Δ| < 2) | 1.0% |
| 시퀀스 내부에 샷 전환이 섞인 것 | 3.2% |
샷 전환 3.2%는 OpenVid의 장면 분할이 완벽하지 않아 남는 잔차입니다. 차이 캡션 단계에서 "완전히 다른 장면"으로 나오는 쌍은 버리면 됩니다.
캡션 키워드 필터는 talk|talking|interview|podcast만 보므로, 이 단어가 없는
토킹헤드(운전하며 말하기, 강연 등)는 일부 남아 있습니다. 더 강하게 걸러야 하면
scripts/select_clips.py의 TALKING 정규식에 speaks|vlog|presenter 등을 추가하십시오.
실행 시간 (2026-08-21 실측)
| 단계 | 시간 | 비고 |
|---|---|---|
| 다운로드 | 144.5분 | 507.1 GB, 평균 58 MB/s, 실패 0, 32 워커 |
| 프레임 추출 | 58분 | 87,002 클립, 176 프로세스, 25 클립/s |
| 전수 검증 | 3.6분 | 1,165,960개 경로 |
데이터 늘리기
meta/manifest.csv는 efficiency 정렬(= bytes / windows 오름차순)로 고정되어 있고
cum_gb 누적 컬럼을 가집니다. 예산만 올리면 이미 받은 파일은 건너뛰고 다음 구간만 받습니다.
python3 scripts/fetch_clips.py --budget-gb 800 --out videos --workers 32 # 200GB 더
python3 scripts/extract_frames.py --workers 176 # 기존 윈도우는 skip
python3 scripts/verify_dataset.py --full
manifest.csv를 다시 만들면 순서가 바뀌어 이어받기가 깨집니다.
--budget-gb |
클립 | 시퀀스 | 인접 쌍 |
|---|---|---|---|
| 600 (현재) | 84,362 | 111,417 | 1,002,753 |
| 800 | 96,176 | 128,540 | 1,156,860 |
| 1,000 | 104,216 | 140,898 | 1,268,082 |
| 전체 (1,390) | 111,536 | 153,391 | 1,380,519 |
현재 시퀀스가 표의 111,417보다 많은 이유는, 예산 구간 밖이지만 이미 디스크에 있던 클립 2,640개(+5,179 시퀀스)도 함께 추출했기 때문입니다.
efficiency 정렬은 GB당 시퀀스를 최대화하는 대신 저비트레이트 클립을 앞세웁니다.
같은 100만 쌍을 무편향 shuffle 정렬로 채우면 1,007GB가 필요합니다.
편향 자체는 크지 않습니다 (1080p 70.2%→64.9%, static 59.0%→63.4%, aesthetic 동일).
다음 단계
sequences.jsonl 1줄당 인접 쌍 9개 → 약 105만 회 VLM 호출이 필요합니다.
프롬프트 스키마는 download_openvid.md 6절을 참고하십시오.