| # FT_work 数据集转换指南 |
| |
| ## 参数说明 |
| |
| 在 `preprocess.py` 中，有三个重要参数： |
| |
| ### 1. N_EXTRACT = 10 |
| **含义**: 从每个视频中提取的**窗口数量** |
|
|
| **工作流程**: |
| - 代码会在视频的总帧数中均匀选择 10 个起始点 |
| - 每个起始点会提取一个连续的帧窗口 |
| - 例如：视频有 300 帧，会随机选择 10 个起始位置（如帧 0, 33, 66, 99, ...） |
|
|
| ### 2. WINDOW_LEN = 5 |
| **含义**: 每个窗口包含的**连续帧数** |
| |
| **工作流程**: |
| - 从每个起始点开始，连续提取 5 帧图像 |
| - 这 5 帧会拼接成一张宽图（水平拼接） |
| - 例如：起始帧为 0，则提取帧 0, 1, 2, 3, 4 |
| |
| ### 3. MAX_SAMPLE = 100 |
| **含义**: 限制的**最大视频处理数量**（按代码逻辑，实际是限制处理的类别数） |
|
|
| **注意**: 代码中的实现有点问题，这个参数可能不能按预期工作。建议设置为更大的值或删除这个限制。 |
|
|
| --- |
|
|
| ## 输出示例 |
|
|
| 假设有一个视频 `video_001.mp4`，包含 300 帧： |
|
|
| 1. **选择起始点**: 10 个起始点 = [0, 33, 66, 99, 132, 165, 198, 231, 264, 297] |
| 2. **提取窗口**: 每个起始点提取 5 帧 |
| - 窗口 1: 帧 [0, 1, 2, 3, 4] |
| - 窗口 2: 帧 [33, 34, 35, 36, 37] |
| - ... |
| - 窗口 10: 帧 [297, 298, 299, 300, 301] (如果超出会报错) |
| 3. **生成输出**: 每个窗口生成一张图片 |
| - `video_001_0.png`: 包含窗口1的5帧图像 + 对应音频频谱图 |
| - `video_001_1.png`: 包含窗口2的5帧图像 + 对应音频频谱图 |
| - ... |
| - `video_001_9.png`: 包含窗口10的5帧图像 + 对应音频频谱图 |
|
|
| **每个输出图片的格式**: |
| - 上半部分: 音频频谱图（时间轴对应这5帧的时间） |
| - 下半部分: 5帧图像水平拼接（500x500 每帧，总宽 2500px） |
|
|
| --- |
|
|
| ## 使用步骤 |
|
|
| ### 步骤 1: 转换数据集格式 |
|
|
| 运行转换脚本，将 FT_work 数据集转换为 AVLips 格式： |
| |
| ```bash |
| cd /apdcephfs_gy4/share_303628665/joywu/research/LipFD |
| python convert_ft_work.py |
| ``` |
| |
| 这将创建 `./AVLips/` 目录，包含： |
| ``` |
| AVLips/ |
| ├── 0_real/*.mp4 # 真实视频 |
| ├── 1_fake/*.mp4 # 假视频 |
| └── wav/ |
| ├── 0_real/*.wav # 真实视频的音频 |
| └── 1_fake/*.wav # 假视频的音频 |
| ``` |
| |
| ### 步骤 2: 修改 preprocess.py 参数 |
|
|
| 根据你的需求调整参数： |
|
|
| ```python |
| ############ Custom parameter ############## |
| N_EXTRACT = 10 # 每个视频提取10个窗口 |
| WINDOW_LEN = 5 # 每个窗口5帧 |
| MAX_SAMPLE = 1000 # 增加这个值以处理更多视频（或设为0表示不限制） |
| ############################################ |
| |
| audio_root = "./AVLips/wav" |
| video_root = "./AVLips" |
| output_root = "./datasets/AVLips" |
| ``` |
|
|
| ### 步骤 3: 运行预处理 |
|
|
| ```bash |
| python preprocess.py |
| ``` |
|
|
| --- |
|
|
| ## 计算输出数量 |
|
|
| 如果你有 N 个视频，那么： |
|
|
| - **总输出图片数** = N × N_EXTRACT |
| - **每个视频的输出数** = N_EXTRACT = 10 张图片 |
| - **每张图片包含的帧数** = WINDOW_LEN = 5 帧 |
| |
| 例如： |
| - 100 个视频 → 100 × 10 = 1000 张输出图片 |
| - 1000 个视频 → 1000 × 10 = 10000 张输出图片 |
| |
| --- |
| |
| ## 注意事项 |
| |
| 1. **视频帧数要求**: 视频至少需要 `WINDOW_LEN` 帧（5帧），否则会报错 |
| 2. **音频提取**: 需要安装 ffmpeg (`pip install ffmpeg-python` 或系统安装 ffmpeg) |
| 3. **磁盘空间**: 输出图片可能很大（每张约 500x3000 像素），确保有足够空间 |
| 4. **处理时间**: 每个视频需要提取音频、读取帧、生成频谱图，可能需要较长时间 |
|
|
| --- |
|
|
| ## 自定义调整 |
|
|
| 如果你想修改提取策略，可以调整以下代码（在 `preprocess.py` 的第 47-52 行）： |
|
|
| ```python |
| # 原始：均匀选择起始点 |
| frame_idx = np.linspace( |
| 0, |
| frame_count - WINDOW_LEN - 1, |
| N_EXTRACT, |
| endpoint=True, |
| dtype=np.uint8, |
| ).tolist() |
| |
| # 改为：随机选择起始点（可能更有代表性） |
| frame_idx = np.random.choice( |
| frame_count - WINDOW_LEN, |
| size=N_EXTRACT, |
| replace=False |
| ).tolist() |
| ``` |
|
|
