# FT_work 数据集预处理完整指南

## 📋 目录

1. [参数详解](#参数详解)
2. [数据集结构对比](#数据集结构对比)
3. [使用流程](#使用流程)
4. [文件说明](#文件说明)
5. [示例与计算](#示例与计算)
6. [常见问题](#常见问题)

---

## 参数详解

### 1. N_EXTRACT = 10
**含义**: 从**每个视频**中提取的窗口数量

**详细解释**:
- 代码会在视频帧范围内均匀选择 10 个起始点
- 每个起始点对应一个时间窗口
- 例如：视频有 300 帧，会选择 10 个起始位置（如：0, 33, 66, 99, 132, 165, 198, 231, 264, 297）

**影响**:
- 值越大 → 每个视频生成的样本越多 → 数据集越大
- 值越小 → 每个视频生成的样本越少 → 可能丢失信息

### 2. WINDOW_LEN = 5
**含义**: 每个窗口包含的**连续帧数**

**详细解释**:
- 从每个起始点开始，连续提取 5 帧图像
- 这 5 帧会水平拼接成一张图（宽 2500px = 5 × 500px）
- 例如：起始帧为 0，则提取帧 [0, 1, 2, 3, 4]

**影响**:
- 值越大 → 每个样本包含更多时间信息 → 但单张图片更宽
- 值越小 → 每个样本时间跨度短 → 可能捕捉不到完整动作

### 3. MAX_SAMPLE = 100 (建议改为 0)
**含义**: 限制的**最大视频处理数量**

**⚠️ 注意**: 原代码中这个参数有 bug，建议使用改进版脚本（`preprocess_improved.py`）
- `MAX_SAMPLE = 0`: 处理所有视频（无限制）
- `MAX_SAMPLE = 100`: 只处理前 100 个视频

**建议**: 设置为 0（无限制）或根据实际情况调整

---

## 数据集结构对比

### FT_work 原始结构
```
/apdcephfs_gy5/share_303628665/joyewu/dataset/FT_work/videos/
├── train/
│   ├── real/Real/*.mp4
│   └── fake/{AniPortrait,Joyvasa,Ditto,Hallo,Sonic}/*.mp4
├── test/
│   ├── real/Real/*.mp4
│   └── fake/{SadTalk,EDTalk,Float}/*.mp4
└── val/
    ├── real/Real/*.mp4
    └── fake/{AniPortrait,Joyvasa,Ditto,Hallo,Sonic}/*.mp4
```

**特点**:
- 按 train/test/val 分割
- fake 视频按方法分类在不同子文件夹
- **没有单独的音频文件**（需要从视频中提取）

### AVLips 目标结构（preprocess.py 需要）
```
AVLips/
├── 0_real/*.mp4           # 所有真实视频
├── 1_fake/*.mp4           # 所有假视频
└── wav/
    ├── 0_real/*.wav       # 真实视频的音频
    └── 1_fake/*.wav       # 假视频的音频
```

**特点**:
- 不区分 train/test/val（所有数据合并）
- 真实和假视频分开存放
- **需要单独的 WAV 音频文件**

---

## 使用流程

### 快速开始（推荐）

```bash
cd /apdcephfs_gy4/share_303628665/joywu/research/LipFD

# 方式 1: 使用自动化脚本（需要手动添加执行权限）
chmod +x run_preprocess.sh
./run_preprocess.sh

# 方式 2: 手动执行步骤
```

### 手动执行步骤

#### 步骤 1: 转换数据集格式

```bash
python convert_ft_work.py
```

**功能**:
- 将 FT_work 的所有视频（train/test/val）合并
- 分为 `0_real/` 和 `1_fake/` 两类
- 从视频中提取音频保存为 WAV 格式
- 输出到 `./AVLips/` 目录

**输出**:
```
AVLips/
├── 0_real/  (真实视频)
├── 1_fake/  (假视频)
└── wav/
    ├── 0_real/  (真实音频)
    └── 1_fake/  (假音频)
```

#### 步骤 2: 修改参数（可选）

编辑 `preprocess_improved.py`：

```python
############ Custom parameter ##############
N_EXTRACT = 10   # 每个视频提取10个窗口
WINDOW_LEN = 5   # 每个窗口5帧
MAX_SAMPLE = 0   # 0 = 处理所有视频
############################################

audio_root = "./AVLips/wav"
video_root = "./AVLips"
output_root = "./datasets/AVLips"
```

#### 步骤 3: 运行预处理

```bash
# 使用改进版（推荐）
python preprocess_improved.py

# 或使用原版
python preprocess.py
```

**功能**:
- 从每个视频中提取帧
- 生成音频的梅尔频谱图
- 将帧和频谱图拼接成最终图片
- 输出到 `./datasets/AVLips/` 目录

---

## 文件说明

### 1. `convert_ft_work.py`
**功能**: 数据集格式转换

**输入**: `/apdcephfs_gy5/share_303628665/joyewu/dataset/FT_work/videos/`

**输出**: `./AVLips/`

**依赖**:
- `ffmpeg` (用于从视频提取音频)
- `shutil`, `os`, `tqdm`

### 2. `preprocess_improved.py` (推荐)
**功能**: 预处理脚本（改进版）

**改进点**:
- ✅ 修复 `dtype=np.uint8` 导致的索引错误
- ✅ 添加详细的错误处理
- ✅ 添加进度显示
- ✅ 检查视频长度是否足够
- ✅ 检查音频文件是否存在
- ✅ 清理临时文件

**输入**: `./AVLips/`

**输出**: `./datasets/AVLips/`

### 3. `preprocess.py` (原版)
**功能**: 原始预处理脚本

**⚠️ 已知问题**:
- `dtype=np.uint8` 可能导致索引错误（视频帧数 > 255 时）
- 错误处理不完善
- 日志输出不够详细

### 4. `run_preprocess.sh`
**功能**: 自动化执行脚本

**使用**:
```bash
chmod +x run_preprocess.sh
./run_preprocess.sh
```

---

## 示例与计算

### 示例 1: 单个视频的处理

**输入**: `video_001.mp4` (300 帧，10秒 @ 30fps)

**参数**: `N_EXTRACT=10`, `WINDOW_LEN=5`

**处理流程**:

1. **选择起始点** (10个):
   ```
   [0, 33, 66, 99, 132, 165, 198, 231, 264, 297]
   ```

2. **提取窗口** (每个窗口5帧):
   ```
   窗口 0: 帧 [0, 1, 2, 3, 4]
   窗口 1: 帧 [33, 34, 35, 36, 37]
   ...
   窗口 9: 帧 [297, 298, 299, 300, 301]  ← 会报错！(超出范围)
   ```

3. **生成输出** (10张图片):
   ```
   video_001_0.png  (频谱图 + 5帧图像)
   video_001_1.png
   ...
   video_001_9.png
   ```

**每张图片的格式**:
```
+------------------------+
|   音频频谱图 (500x2500)  |  ← 对应这5帧的时间段
+------------------------+
|   帧0   |   帧1   | ... |  ← 5帧水平拼接 (500x2500)
+------------------------+
```

### 示例 2: 计算总输出数量

**假设**:
- 真实视频: 500 个
- 假视频: 500 个
- `N_EXTRACT = 10`

**计算**:
```
总视频数 = 500 + 500 = 1000 个
总输出图片数 = 1000 × 10 = 10,000 张
```

**每张图片大小** (估算):
```
分辨率: 1000px × 2500px (高×宽)
RGB: 3 channels
文件大小: ~200-500KB (取决于压缩)
总大小: ~2-5GB
```

---

## 常见问题

### Q1: 视频帧数不足怎么办？

**A**: 改进版脚本会自动跳过帧数不足的视频，并显示警告。

**建议**: 可以：
1. 减小 `WINDOW_LEN` (如改为 3)
2. 或只使用长视频

### Q2: 为什么需要提取音频？

**A**: `preprocess.py` 需要单独的 WAV 文件来生成梅尔频谱图。

**解决方案**: `convert_ft_work.py` 会自动使用 ffmpeg 提取音频。

### Q3: 如何只处理部分数据？

**A**: 设置 `MAX_SAMPLE` 参数：

```python
MAX_SAMPLE = 100  # 只处理前100个视频
```

或使用改进版脚本的命令行参数（需要自行添加）。

### Q4: 输出的图片格式是什么？

**A**: PNG 格式，RGB 色彩空间。

**尺寸**:
- 高度: 1000px (频谱图 500px + 帧 500px)
- 宽度: 2500px (5帧 × 500px)

### Q5: 能否处理其他数据集？

**A**: 可以，但需要：

1. 将数据集转换为 AVLips 格式
2. 确保有对应的音频文件
3. 修改 `audio_root` 和 `video_root` 参数

### Q6: 处理速度如何？

**A**: 取决于：
- 视频数量
- 视频长度
- `N_EXTRACT` 和 `WINDOW_LEN` 参数
- CPU/GPU 性能

**估算**:
- 1个视频 ~ 1-5秒
- 1000个视频 ~ 15-80分钟

**加速建议**:
- 使用多进程 (`multiprocessing`)
- 减小 `N_EXTRACT`
- 使用更快的硬盘（SSD）

---

## 联系与反馈

如有问题或建议，请提出 Issue 或联系开发者。

---

**最后更新**: 2026-06-18