| # FT_work 数据集预处理完整指南 |
| |
| ## 📋 目录 |
| |
| 1. [参数详解](#参数详解) |
| 2. [数据集结构对比](#数据集结构对比) |
| 3. [使用流程](#使用流程) |
| 4. [文件说明](#文件说明) |
| 5. [示例与计算](#示例与计算) |
| 6. [常见问题](#常见问题) |
| |
| --- |
| |
| ## 参数详解 |
| |
| ### 1. N_EXTRACT = 10 |
| **含义**: 从**每个视频**中提取的窗口数量 |
|
|
| **详细解释**: |
| - 代码会在视频帧范围内均匀选择 10 个起始点 |
| - 每个起始点对应一个时间窗口 |
| - 例如：视频有 300 帧，会选择 10 个起始位置（如：0, 33, 66, 99, 132, 165, 198, 231, 264, 297） |
|
|
| **影响**: |
| - 值越大 → 每个视频生成的样本越多 → 数据集越大 |
| - 值越小 → 每个视频生成的样本越少 → 可能丢失信息 |
|
|
| ### 2. WINDOW_LEN = 5 |
| **含义**: 每个窗口包含的**连续帧数** |
| |
| **详细解释**: |
| - 从每个起始点开始，连续提取 5 帧图像 |
| - 这 5 帧会水平拼接成一张图（宽 2500px = 5 × 500px） |
| - 例如：起始帧为 0，则提取帧 [0, 1, 2, 3, 4] |
| |
| **影响**: |
| - 值越大 → 每个样本包含更多时间信息 → 但单张图片更宽 |
| - 值越小 → 每个样本时间跨度短 → 可能捕捉不到完整动作 |
| |
| ### 3. MAX_SAMPLE = 100 (建议改为 0) |
| **含义**: 限制的**最大视频处理数量** |
|
|
| **⚠️ 注意**: 原代码中这个参数有 bug，建议使用改进版脚本（`preprocess_improved.py`） |
| - `MAX_SAMPLE = 0`: 处理所有视频（无限制） |
| - `MAX_SAMPLE = 100`: 只处理前 100 个视频 |
|
|
| **建议**: 设置为 0（无限制）或根据实际情况调整 |
|
|
| --- |
|
|
| ## 数据集结构对比 |
|
|
| ### FT_work 原始结构 |
| ``` |
| /apdcephfs_gy5/share_303628665/joyewu/dataset/FT_work/videos/ |
| ├── train/ |
| │ ├── real/Real/*.mp4 |
| │ └── fake/{AniPortrait,Joyvasa,Ditto,Hallo,Sonic}/*.mp4 |
| ├── test/ |
| │ ├── real/Real/*.mp4 |
| │ └── fake/{SadTalk,EDTalk,Float}/*.mp4 |
| └── val/ |
| ├── real/Real/*.mp4 |
| └── fake/{AniPortrait,Joyvasa,Ditto,Hallo,Sonic}/*.mp4 |
| ``` |
| |
| **特点**: |
| - 按 train/test/val 分割 |
| - fake 视频按方法分类在不同子文件夹 |
| - **没有单独的音频文件**（需要从视频中提取） |
|
|
| ### AVLips 目标结构（preprocess.py 需要） |
| ``` |
| AVLips/ |
| ├── 0_real/*.mp4 # 所有真实视频 |
| ├── 1_fake/*.mp4 # 所有假视频 |
| └── wav/ |
| ├── 0_real/*.wav # 真实视频的音频 |
| └── 1_fake/*.wav # 假视频的音频 |
| ``` |
|
|
| **特点**: |
| - 不区分 train/test/val（所有数据合并） |
| - 真实和假视频分开存放 |
| - **需要单独的 WAV 音频文件** |
|
|
| --- |
|
|
| ## 使用流程 |
|
|
| ### 快速开始（推荐） |
|
|
| ```bash |
| cd /apdcephfs_gy4/share_303628665/joywu/research/LipFD |
| |
| # 方式 1: 使用自动化脚本（需要手动添加执行权限） |
| chmod +x run_preprocess.sh |
| ./run_preprocess.sh |
| |
| # 方式 2: 手动执行步骤 |
| ``` |
|
|
| ### 手动执行步骤 |
|
|
| #### 步骤 1: 转换数据集格式 |
|
|
| ```bash |
| python convert_ft_work.py |
| ``` |
|
|
| **功能**: |
| - 将 FT_work 的所有视频（train/test/val）合并 |
| - 分为 `0_real/` 和 `1_fake/` 两类 |
| - 从视频中提取音频保存为 WAV 格式 |
| - 输出到 `./AVLips/` 目录 |
| |
| **输出**: |
| ``` |
| AVLips/ |
| ├── 0_real/ (真实视频) |
| ├── 1_fake/ (假视频) |
| └── wav/ |
| ├── 0_real/ (真实音频) |
| └── 1_fake/ (假音频) |
| ``` |
| |
| #### 步骤 2: 修改参数（可选） |
|
|
| 编辑 `preprocess_improved.py`： |
|
|
| ```python |
| ############ Custom parameter ############## |
| N_EXTRACT = 10 # 每个视频提取10个窗口 |
| WINDOW_LEN = 5 # 每个窗口5帧 |
| MAX_SAMPLE = 0 # 0 = 处理所有视频 |
| ############################################ |
| |
| audio_root = "./AVLips/wav" |
| video_root = "./AVLips" |
| output_root = "./datasets/AVLips" |
| ``` |
|
|
| #### 步骤 3: 运行预处理 |
|
|
| ```bash |
| # 使用改进版（推荐） |
| python preprocess_improved.py |
| |
| # 或使用原版 |
| python preprocess.py |
| ``` |
|
|
| **功能**: |
| - 从每个视频中提取帧 |
| - 生成音频的梅尔频谱图 |
| - 将帧和频谱图拼接成最终图片 |
| - 输出到 `./datasets/AVLips/` 目录 |
|
|
| --- |
|
|
| ## 文件说明 |
|
|
| ### 1. `convert_ft_work.py` |
| **功能**: 数据集格式转换 |
|
|
| **输入**: `/apdcephfs_gy5/share_303628665/joyewu/dataset/FT_work/videos/` |
|
|
| **输出**: `./AVLips/` |
|
|
| **依赖**: |
| - `ffmpeg` (用于从视频提取音频) |
| - `shutil`, `os`, `tqdm` |
|
|
| ### 2. `preprocess_improved.py` (推荐) |
| **功能**: 预处理脚本（改进版） |
| |
| **改进点**: |
| - ✅ 修复 `dtype=np.uint8` 导致的索引错误 |
| - ✅ 添加详细的错误处理 |
| - ✅ 添加进度显示 |
| - ✅ 检查视频长度是否足够 |
| - ✅ 检查音频文件是否存在 |
| - ✅ 清理临时文件 |
| |
| **输入**: `./AVLips/` |
| |
| **输出**: `./datasets/AVLips/` |
| |
| ### 3. `preprocess.py` (原版) |
| **功能**: 原始预处理脚本 |
| |
| **⚠️ 已知问题**: |
| - `dtype=np.uint8` 可能导致索引错误（视频帧数 > 255 时） |
| - 错误处理不完善 |
| - 日志输出不够详细 |
| |
| ### 4. `run_preprocess.sh` |
| **功能**: 自动化执行脚本 |
|
|
| **使用**: |
| ```bash |
| chmod +x run_preprocess.sh |
| ./run_preprocess.sh |
| ``` |
|
|
| --- |
|
|
| ## 示例与计算 |
|
|
| ### 示例 1: 单个视频的处理 |
|
|
| **输入**: `video_001.mp4` (300 帧，10秒 @ 30fps) |
|
|
| **参数**: `N_EXTRACT=10`, `WINDOW_LEN=5` |
|
|
| **处理流程**: |
|
|
| 1. **选择起始点** (10个): |
| ``` |
| [0, 33, 66, 99, 132, 165, 198, 231, 264, 297] |
| ``` |
|
|
| 2. **提取窗口** (每个窗口5帧): |
| ``` |
| 窗口 0: 帧 [0, 1, 2, 3, 4] |
| 窗口 1: 帧 [33, 34, 35, 36, 37] |
| ... |
| 窗口 9: 帧 [297, 298, 299, 300, 301] ← 会报错！(超出范围) |
| ``` |
|
|
| 3. **生成输出** (10张图片): |
| ``` |
| video_001_0.png (频谱图 + 5帧图像) |
| video_001_1.png |
| ... |
| video_001_9.png |
| ``` |
|
|
| **每张图片的格式**: |
| ``` |
| +------------------------+ |
| | 音频频谱图 (500x2500) | ← 对应这5帧的时间段 |
| +------------------------+ |
| | 帧0 | 帧1 | ... | ← 5帧水平拼接 (500x2500) |
| +------------------------+ |
| ``` |
|
|
| ### 示例 2: 计算总输出数量 |
|
|
| **假设**: |
| - 真实视频: 500 个 |
| - 假视频: 500 个 |
| - `N_EXTRACT = 10` |
|
|
| **计算**: |
| ``` |
| 总视频数 = 500 + 500 = 1000 个 |
| 总输出图片数 = 1000 × 10 = 10,000 张 |
| ``` |
|
|
| **每张图片大小** (估算): |
| ``` |
| 分辨率: 1000px × 2500px (高×宽) |
| RGB: 3 channels |
| 文件大小: ~200-500KB (取决于压缩) |
| 总大小: ~2-5GB |
| ``` |
|
|
| --- |
|
|
| ## 常见问题 |
|
|
| ### Q1: 视频帧数不足怎么办？ |
|
|
| **A**: 改进版脚本会自动跳过帧数不足的视频，并显示警告。 |
|
|
| **建议**: 可以： |
| 1. 减小 `WINDOW_LEN` (如改为 3) |
| 2. 或只使用长视频 |
|
|
| ### Q2: 为什么需要提取音频？ |
|
|
| **A**: `preprocess.py` 需要单独的 WAV 文件来生成梅尔频谱图。 |
|
|
| **解决方案**: `convert_ft_work.py` 会自动使用 ffmpeg 提取音频。 |
|
|
| ### Q3: 如何只处理部分数据？ |
|
|
| **A**: 设置 `MAX_SAMPLE` 参数： |
|
|
| ```python |
| MAX_SAMPLE = 100 # 只处理前100个视频 |
| ``` |
|
|
| 或使用改进版脚本的命令行参数（需要自行添加）。 |
|
|
| ### Q4: 输出的图片格式是什么？ |
|
|
| **A**: PNG 格式，RGB 色彩空间。 |
|
|
| **尺寸**: |
| - 高度: 1000px (频谱图 500px + 帧 500px) |
| - 宽度: 2500px (5帧 × 500px) |
|
|
| ### Q5: 能否处理其他数据集？ |
|
|
| **A**: 可以，但需要： |
|
|
| 1. 将数据集转换为 AVLips 格式 |
| 2. 确保有对应的音频文件 |
| 3. 修改 `audio_root` 和 `video_root` 参数 |
|
|
| ### Q6: 处理速度如何？ |
|
|
| **A**: 取决于： |
| - 视频数量 |
| - 视频长度 |
| - `N_EXTRACT` 和 `WINDOW_LEN` 参数 |
| - CPU/GPU 性能 |
|
|
| **估算**: |
| - 1个视频 ~ 1-5秒 |
| - 1000个视频 ~ 15-80分钟 |
|
|
| **加速建议**: |
| - 使用多进程 (`multiprocessing`) |
| - 减小 `N_EXTRACT` |
| - 使用更快的硬盘（SSD） |
|
|
| --- |
|
|
| ## 联系与反馈 |
|
|
| 如有问题或建议，请提出 Issue 或联系开发者。 |
|
|
| --- |
|
|
| **最后更新**: 2026-06-18 |
|
|
