FT_work 数据集转换指南
参数说明
在 preprocess.py 中，有三个重要参数：
1. N_EXTRACT = 10
含义: 从每个视频中提取的窗口数量
工作流程:
- 代码会在视频的总帧数中均匀选择 10 个起始点
- 每个起始点会提取一个连续的帧窗口
- 例如：视频有 300 帧，会随机选择 10 个起始位置（如帧 0, 33, 66, 99, ...）
2. WINDOW_LEN = 5
含义: 每个窗口包含的连续帧数
工作流程:
- 从每个起始点开始，连续提取 5 帧图像
- 这 5 帧会拼接成一张宽图（水平拼接）
- 例如：起始帧为 0，则提取帧 0, 1, 2, 3, 4
3. MAX_SAMPLE = 100
含义: 限制的最大视频处理数量（按代码逻辑，实际是限制处理的类别数）
注意: 代码中的实现有点问题，这个参数可能不能按预期工作。建议设置为更大的值或删除这个限制。
输出示例
假设有一个视频 video_001.mp4，包含 300 帧：
- 选择起始点: 10 个起始点 = [0, 33, 66, 99, 132, 165, 198, 231, 264, 297]
- 提取窗口: 每个起始点提取 5 帧
- 窗口 1: 帧 [0, 1, 2, 3, 4]
- 窗口 2: 帧 [33, 34, 35, 36, 37]
- ...
- 窗口 10: 帧 [297, 298, 299, 300, 301] (如果超出会报错)
- 生成输出: 每个窗口生成一张图片
video_001_0.png: 包含窗口1的5帧图像 + 对应音频频谱图video_001_1.png: 包含窗口2的5帧图像 + 对应音频频谱图- ...
video_001_9.png: 包含窗口10的5帧图像 + 对应音频频谱图
每个输出图片的格式:
- 上半部分: 音频频谱图（时间轴对应这5帧的时间）
- 下半部分: 5帧图像水平拼接（500x500 每帧，总宽 2500px）
使用步骤
步骤 1: 转换数据集格式
运行转换脚本，将 FT_work 数据集转换为 AVLips 格式：
cd /apdcephfs_gy4/share_303628665/joywu/research/LipFD
python convert_ft_work.py
这将创建 ./AVLips/ 目录，包含：
AVLips/
├── 0_real/*.mp4 # 真实视频
├── 1_fake/*.mp4 # 假视频
└── wav/
├── 0_real/*.wav # 真实视频的音频
└── 1_fake/*.wav # 假视频的音频
步骤 2: 修改 preprocess.py 参数
根据你的需求调整参数：
############ Custom parameter ##############
N_EXTRACT = 10 # 每个视频提取10个窗口
WINDOW_LEN = 5 # 每个窗口5帧
MAX_SAMPLE = 1000 # 增加这个值以处理更多视频（或设为0表示不限制）
############################################
audio_root = "./AVLips/wav"
video_root = "./AVLips"
output_root = "./datasets/AVLips"
步骤 3: 运行预处理
python preprocess.py
计算输出数量
如果你有 N 个视频，那么：
- 总输出图片数 = N × N_EXTRACT
- 每个视频的输出数 = N_EXTRACT = 10 张图片
- 每张图片包含的帧数 = WINDOW_LEN = 5 帧
例如：
- 100 个视频 → 100 × 10 = 1000 张输出图片
- 1000 个视频 → 1000 × 10 = 10000 张输出图片
注意事项
- 视频帧数要求: 视频至少需要
WINDOW_LEN帧（5帧），否则会报错 - 音频提取: 需要安装 ffmpeg (
pip install ffmpeg-python或系统安装 ffmpeg) - 磁盘空间: 输出图片可能很大（每张约 500x3000 像素），确保有足够空间
- 处理时间: 每个视频需要提取音频、读取帧、生成频谱图，可能需要较长时间
自定义调整
如果你想修改提取策略，可以调整以下代码（在 preprocess.py 的第 47-52 行）：
# 原始：均匀选择起始点
frame_idx = np.linspace(
0,
frame_count - WINDOW_LEN - 1,
N_EXTRACT,
endpoint=True,
dtype=np.uint8,
).tolist()
# 改为：随机选择起始点（可能更有代表性）
frame_idx = np.random.choice(
frame_count - WINDOW_LEN,
size=N_EXTRACT,
replace=False
).tolist()