FlashVTG/scripts/VIDSTG_CROSS_DOMAIN.md

# VidSTG 跨领域推理说明

在 VidSTG validation 上运行 FlashVTG 进行跨领域 VMR 实验。

## 1. 数据格式转换

使用 **val_annotations.json**（推荐）：1 caption = 1 样本，共 3996 条。

```bash
python scripts/convert_vidstg_to_vmr.py \
  --mode caption \
  --annotations features/vidstg/val_annotations.json \
  --output data/vidstg_val_vmr.jsonl
```

输出：每行 `qid`, `query`（caption 描述）, `duration`, `vid`, `relevant_windows`。  
vid 格式为 `{video_id}_{start_sec}_{end_sec}`（对应 used_segment）。CLIP/SlowFast 提取时加 `--vmr_path` 即只对每段 used_segment 提特征。

## 2. 特征提取（CLIP + SlowFast + LLaMA）

一键提取:
```bash
bash scripts/extract_all_vidstg_features.sh
```

或分步执行:

### 2.1 视频特征（CLIP，仅 used_segment）

```bash
pip install open_clip_torch decord Pillow
python scripts/extract_vidstg_clip_features.py \
  --vmr_path data/vidstg_val_vmr.jsonl \
  --vidstg_root features/vidstg \
  --output_dir features/vidstg/clip_features
```

按 VMR 中每个 vid（即 used_segment）只提取该段特征，输出 `{vid}.npz`，如 `10712559773_16.5_19.9.npz`。

### 2.2 Motion 特征（SlowFast，仅 used_segment）

```bash
pip install pytorchvideo
python scripts/extract_vidstg_slowfast_features.py \
  --vmr_path data/vidstg_val_vmr.jsonl \
  --vidstg_root features/vidstg \
  --output_dir features/vidstg/slowfast_features
```

### 2.3 文本特征（LLaMA-7B, 4096-dim）

```bash
pip install transformers
python scripts/extract_vidstg_llama_features.py --vmr_path data/vidstg_val_vmr.jsonl --output_dir features/vidstg/llama_text_feature
```

输出: `qid{qid}.npz`, key `"last_hidden_state"`, shape `(L, 4096)`

## 3. 运行推理

```bash
bash scripts/inference_vidstg.sh \
  data/MR_16.py \
  <path/to/model_best.ckpt> \
  features/vidstg/clip_features \
  features/vidstg/llama_text_feature \
  features/vidstg/slowfast_features   # 可选，双流时提供
```

结果保存在 checkpoint 目录下的 `hl_val_submission.jsonl`。