# FT_work 数据集转换指南

## 参数说明

在 `preprocess.py` 中，有三个重要参数：

### 1. N_EXTRACT = 10
**含义**: 从每个视频中提取的**窗口数量**

**工作流程**:
- 代码会在视频的总帧数中均匀选择 10 个起始点
- 每个起始点会提取一个连续的帧窗口
- 例如：视频有 300 帧，会随机选择 10 个起始位置（如帧 0, 33, 66, 99, ...）

### 2. WINDOW_LEN = 5
**含义**: 每个窗口包含的**连续帧数**

**工作流程**:
- 从每个起始点开始，连续提取 5 帧图像
- 这 5 帧会拼接成一张宽图（水平拼接）
- 例如：起始帧为 0，则提取帧 0, 1, 2, 3, 4

### 3. MAX_SAMPLE = 100
**含义**: 限制的**最大视频处理数量**（按代码逻辑，实际是限制处理的类别数）

**注意**: 代码中的实现有点问题，这个参数可能不能按预期工作。建议设置为更大的值或删除这个限制。

---

## 输出示例

假设有一个视频 `video_001.mp4`，包含 300 帧：

1. **选择起始点**: 10 个起始点 = [0, 33, 66, 99, 132, 165, 198, 231, 264, 297]
2. **提取窗口**: 每个起始点提取 5 帧
   - 窗口 1: 帧 [0, 1, 2, 3, 4]
   - 窗口 2: 帧 [33, 34, 35, 36, 37]
   - ...
   - 窗口 10: 帧 [297, 298, 299, 300, 301] (如果超出会报错)
3. **生成输出**: 每个窗口生成一张图片
   - `video_001_0.png`: 包含窗口1的5帧图像 + 对应音频频谱图
   - `video_001_1.png`: 包含窗口2的5帧图像 + 对应音频频谱图
   - ...
   - `video_001_9.png`: 包含窗口10的5帧图像 + 对应音频频谱图

**每个输出图片的格式**:
- 上半部分: 音频频谱图（时间轴对应这5帧的时间）
- 下半部分: 5帧图像水平拼接（500x500 每帧，总宽 2500px）

---

## 使用步骤

### 步骤 1: 转换数据集格式

运行转换脚本，将 FT_work 数据集转换为 AVLips 格式：

```bash
cd /apdcephfs_gy4/share_303628665/joywu/research/LipFD
python convert_ft_work.py
```

这将创建 `./AVLips/` 目录，包含：
```
AVLips/
├── 0_real/*.mp4      # 真实视频
├── 1_fake/*.mp4      # 假视频
└── wav/
    ├── 0_real/*.wav  # 真实视频的音频
    └── 1_fake/*.wav  # 假视频的音频
```

### 步骤 2: 修改 preprocess.py 参数

根据你的需求调整参数：

```python
############ Custom parameter ##############
N_EXTRACT = 10   # 每个视频提取10个窗口
WINDOW_LEN = 5   # 每个窗口5帧
MAX_SAMPLE = 1000  # 增加这个值以处理更多视频（或设为0表示不限制）
############################################

audio_root = "./AVLips/wav"
video_root = "./AVLips"
output_root = "./datasets/AVLips"
```

### 步骤 3: 运行预处理

```bash
python preprocess.py
```

---

## 计算输出数量

如果你有 N 个视频，那么：

- **总输出图片数** = N × N_EXTRACT
- **每个视频的输出数** = N_EXTRACT = 10 张图片
- **每张图片包含的帧数** = WINDOW_LEN = 5 帧

例如：
- 100 个视频 → 100 × 10 = 1000 张输出图片
- 1000 个视频 → 1000 × 10 = 10000 张输出图片

---

## 注意事项

1. **视频帧数要求**: 视频至少需要 `WINDOW_LEN` 帧（5帧），否则会报错
2. **音频提取**: 需要安装 ffmpeg (`pip install ffmpeg-python` 或系统安装 ffmpeg)
3. **磁盘空间**: 输出图片可能很大（每张约 500x3000 像素），确保有足够空间
4. **处理时间**: 每个视频需要提取音频、读取帧、生成频谱图，可能需要较长时间

---

## 自定义调整

如果你想修改提取策略，可以调整以下代码（在 `preprocess.py` 的第 47-52 行）：

```python
# 原始：均匀选择起始点
frame_idx = np.linspace(
    0,
    frame_count - WINDOW_LEN - 1,
    N_EXTRACT,
    endpoint=True,
    dtype=np.uint8,
).tolist()

# 改为：随机选择起始点（可能更有代表性）
frame_idx = np.random.choice(
    frame_count - WINDOW_LEN,
    size=N_EXTRACT,
    replace=False
).tolist()
```