FT_work 数据集预处理完整指南
📋 目录
参数详解
1. N_EXTRACT = 10
含义: 从每个视频中提取的窗口数量
详细解释:
- 代码会在视频帧范围内均匀选择 10 个起始点
- 每个起始点对应一个时间窗口
- 例如：视频有 300 帧，会选择 10 个起始位置（如：0, 33, 66, 99, 132, 165, 198, 231, 264, 297）
影响:
- 值越大 → 每个视频生成的样本越多 → 数据集越大
- 值越小 → 每个视频生成的样本越少 → 可能丢失信息
2. WINDOW_LEN = 5
含义: 每个窗口包含的连续帧数
详细解释:
- 从每个起始点开始，连续提取 5 帧图像
- 这 5 帧会水平拼接成一张图（宽 2500px = 5 × 500px）
- 例如：起始帧为 0，则提取帧 [0, 1, 2, 3, 4]
影响:
- 值越大 → 每个样本包含更多时间信息 → 但单张图片更宽
- 值越小 → 每个样本时间跨度短 → 可能捕捉不到完整动作
3. MAX_SAMPLE = 100 (建议改为 0)
含义: 限制的最大视频处理数量
⚠️ 注意: 原代码中这个参数有 bug，建议使用改进版脚本（preprocess_improved.py）
MAX_SAMPLE = 0: 处理所有视频（无限制）MAX_SAMPLE = 100: 只处理前 100 个视频
建议: 设置为 0（无限制）或根据实际情况调整
数据集结构对比
FT_work 原始结构
/apdcephfs_gy5/share_303628665/joyewu/dataset/FT_work/videos/
├── train/
│ ├── real/Real/*.mp4
│ └── fake/{AniPortrait,Joyvasa,Ditto,Hallo,Sonic}/*.mp4
├── test/
│ ├── real/Real/*.mp4
│ └── fake/{SadTalk,EDTalk,Float}/*.mp4
└── val/
├── real/Real/*.mp4
└── fake/{AniPortrait,Joyvasa,Ditto,Hallo,Sonic}/*.mp4
特点:
- 按 train/test/val 分割
- fake 视频按方法分类在不同子文件夹
- 没有单独的音频文件（需要从视频中提取）
AVLips 目标结构（preprocess.py 需要）
AVLips/
├── 0_real/*.mp4 # 所有真实视频
├── 1_fake/*.mp4 # 所有假视频
└── wav/
├── 0_real/*.wav # 真实视频的音频
└── 1_fake/*.wav # 假视频的音频
特点:
- 不区分 train/test/val（所有数据合并）
- 真实和假视频分开存放
- 需要单独的 WAV 音频文件
使用流程
快速开始（推荐）
cd /apdcephfs_gy4/share_303628665/joywu/research/LipFD
# 方式 1: 使用自动化脚本（需要手动添加执行权限）
chmod +x run_preprocess.sh
./run_preprocess.sh
# 方式 2: 手动执行步骤
手动执行步骤
步骤 1: 转换数据集格式
python convert_ft_work.py
功能:
- 将 FT_work 的所有视频（train/test/val）合并
- 分为
0_real/和1_fake/两类 - 从视频中提取音频保存为 WAV 格式
- 输出到
./AVLips/目录
输出:
AVLips/
├── 0_real/ (真实视频)
├── 1_fake/ (假视频)
└── wav/
├── 0_real/ (真实音频)
└── 1_fake/ (假音频)
步骤 2: 修改参数（可选）
编辑 preprocess_improved.py：
############ Custom parameter ##############
N_EXTRACT = 10 # 每个视频提取10个窗口
WINDOW_LEN = 5 # 每个窗口5帧
MAX_SAMPLE = 0 # 0 = 处理所有视频
############################################
audio_root = "./AVLips/wav"
video_root = "./AVLips"
output_root = "./datasets/AVLips"
步骤 3: 运行预处理
# 使用改进版（推荐）
python preprocess_improved.py
# 或使用原版
python preprocess.py
功能:
- 从每个视频中提取帧
- 生成音频的梅尔频谱图
- 将帧和频谱图拼接成最终图片
- 输出到
./datasets/AVLips/目录
文件说明
1. convert_ft_work.py
功能: 数据集格式转换
输入: /apdcephfs_gy5/share_303628665/joyewu/dataset/FT_work/videos/
输出: ./AVLips/
依赖:
ffmpeg(用于从视频提取音频)shutil,os,tqdm
2. preprocess_improved.py (推荐)
功能: 预处理脚本（改进版）
改进点:
- ✅ 修复
dtype=np.uint8导致的索引错误 - ✅ 添加详细的错误处理
- ✅ 添加进度显示
- ✅ 检查视频长度是否足够
- ✅ 检查音频文件是否存在
- ✅ 清理临时文件
输入: ./AVLips/
输出: ./datasets/AVLips/
3. preprocess.py (原版)
功能: 原始预处理脚本
⚠️ 已知问题:
dtype=np.uint8可能导致索引错误（视频帧数 > 255 时）- 错误处理不完善
- 日志输出不够详细
4. run_preprocess.sh
功能: 自动化执行脚本
使用:
chmod +x run_preprocess.sh
./run_preprocess.sh
示例与计算
示例 1: 单个视频的处理
输入: video_001.mp4 (300 帧，10秒 @ 30fps)
参数: N_EXTRACT=10, WINDOW_LEN=5
处理流程:
选择起始点 (10个):
[0, 33, 66, 99, 132, 165, 198, 231, 264, 297]提取窗口 (每个窗口5帧):
窗口 0: 帧 [0, 1, 2, 3, 4] 窗口 1: 帧 [33, 34, 35, 36, 37] ... 窗口 9: 帧 [297, 298, 299, 300, 301] ← 会报错！(超出范围)生成输出 (10张图片):
video_001_0.png (频谱图 + 5帧图像) video_001_1.png ... video_001_9.png
每张图片的格式:
+------------------------+
| 音频频谱图 (500x2500) | ← 对应这5帧的时间段
+------------------------+
| 帧0 | 帧1 | ... | ← 5帧水平拼接 (500x2500)
+------------------------+
示例 2: 计算总输出数量
假设:
- 真实视频: 500 个
- 假视频: 500 个
N_EXTRACT = 10
计算:
总视频数 = 500 + 500 = 1000 个
总输出图片数 = 1000 × 10 = 10,000 张
每张图片大小 (估算):
分辨率: 1000px × 2500px (高×宽)
RGB: 3 channels
文件大小: ~200-500KB (取决于压缩)
总大小: ~2-5GB
常见问题
Q1: 视频帧数不足怎么办？
A: 改进版脚本会自动跳过帧数不足的视频，并显示警告。
建议: 可以：
- 减小
WINDOW_LEN(如改为 3) - 或只使用长视频
Q2: 为什么需要提取音频？
A: preprocess.py 需要单独的 WAV 文件来生成梅尔频谱图。
解决方案: convert_ft_work.py 会自动使用 ffmpeg 提取音频。
Q3: 如何只处理部分数据？
A: 设置 MAX_SAMPLE 参数：
MAX_SAMPLE = 100 # 只处理前100个视频
或使用改进版脚本的命令行参数（需要自行添加）。
Q4: 输出的图片格式是什么？
A: PNG 格式，RGB 色彩空间。
尺寸:
- 高度: 1000px (频谱图 500px + 帧 500px)
- 宽度: 2500px (5帧 × 500px)
Q5: 能否处理其他数据集？
A: 可以，但需要：
- 将数据集转换为 AVLips 格式
- 确保有对应的音频文件
- 修改
audio_root和video_root参数
Q6: 处理速度如何？
A: 取决于：
- 视频数量
- 视频长度
N_EXTRACT和WINDOW_LEN参数- CPU/GPU 性能
估算:
- 1个视频 ~ 1-5秒
- 1000个视频 ~ 15-80分钟
加速建议:
- 使用多进程 (
multiprocessing) - 减小
N_EXTRACT - 使用更快的硬盘（SSD）
联系与反馈
如有问题或建议，请提出 Issue 或联系开发者。
最后更新: 2026-06-18