FlashVTG/scripts/VIDSTG_CROSS_DOMAIN.md

VidSTG 跨领域推理说明

在 VidSTG validation 上运行 FlashVTG 进行跨领域 VMR 实验。

1. 数据格式转换

使用 val_annotations.json（推荐）：1 caption = 1 样本，共 3996 条。

python scripts/convert_vidstg_to_vmr.py \
  --mode caption \
  --annotations features/vidstg/val_annotations.json \
  --output data/vidstg_val_vmr.jsonl

输出：每行 qid, query（caption 描述）, duration, vid, relevant_windows。
vid 格式为 {video_id}_{start_sec}_{end_sec}（对应 used_segment）。CLIP/SlowFast 提取时加 --vmr_path 即只对每段 used_segment 提特征。

2. 特征提取（CLIP + SlowFast + LLaMA）

一键提取:

bash scripts/extract_all_vidstg_features.sh

或分步执行:

2.1 视频特征（CLIP，仅 used_segment）

pip install open_clip_torch decord Pillow
python scripts/extract_vidstg_clip_features.py \
  --vmr_path data/vidstg_val_vmr.jsonl \
  --vidstg_root features/vidstg \
  --output_dir features/vidstg/clip_features

按 VMR 中每个 vid（即 used_segment）只提取该段特征，输出 {vid}.npz，如 10712559773_16.5_19.9.npz。

2.2 Motion 特征（SlowFast，仅 used_segment）

pip install pytorchvideo
python scripts/extract_vidstg_slowfast_features.py \
  --vmr_path data/vidstg_val_vmr.jsonl \
  --vidstg_root features/vidstg \
  --output_dir features/vidstg/slowfast_features

2.3 文本特征（LLaMA-7B, 4096-dim）

pip install transformers
python scripts/extract_vidstg_llama_features.py --vmr_path data/vidstg_val_vmr.jsonl --output_dir features/vidstg/llama_text_feature

输出: qid{qid}.npz, key "last_hidden_state", shape (L, 4096)

3. 运行推理

bash scripts/inference_vidstg.sh \
  data/MR_16.py \
  <path/to/model_best.ckpt> \
  features/vidstg/clip_features \
  features/vidstg/llama_text_feature \
  features/vidstg/slowfast_features   # 可选，双流时提供

结果保存在 checkpoint 目录下的 hl_val_submission.jsonl。