| # FT_Work 数据集部署文档索引 |
| |
| ## 📚 文档清单 |
| |
| ### 核心文档 |
| | 文件名 | 用途 | 重要性 | |
| |--------|------|--------| |
| | `FT_WORK_SETUP_GUIDE.md` | **详细环境设置指南** - 包含完整的问题解决记录 | ⭐⭐⭐⭐⭐ | |
| | `QUICK_DEPLOYMENT.md` | **快速部署指南** - 一键部署和常见问题解决 | ⭐⭐⭐⭐ | |
| | `deepfake_preprocess.py` | **主处理脚本** - 已支持FT_work数据集 | ⭐⭐⭐⭐⭐ | |
| | `requirements.txt` | **依赖列表** - 已更新包含所有必需包 | ⭐⭐⭐⭐ | |
| |
| ### 辅助脚本 |
| | 文件名 | 用途 | 使用场景 | |
| |--------|------|----------| |
| | `setup_ft_work.sh` | **快速部署脚本** - 自动化环境检查 | 新服务器部署 | |
| | `test_paths.py` | **路径验证脚本** - 检查模型文件路径 | 环境验证 | |
| | `test_directory_structure.py` | **目录结构扫描** - 查看数据集结构 | 数据集检查 | |
|
|
| ### 模板文件 |
| | 文件名 | 用途 | 备注 | |
| |--------|------|------| |
| | `train_metadata_template.csv` | Metadata文件模板 | 手动模式使用 | |
|
|
| ## 🎯 使用流程 |
|
|
| ### 新服务器部署流程 |
| 1. **阅读文档** → `QUICK_DEPLOYMENT.md` |
| 2. **运行脚本** → `./setup_ft_work.sh` |
| 3. **验证环境** → `python test_paths.py` |
| 4. **开始处理** → 使用 `deepfake_preprocess.py` |
|
|
| ### 问题排查流程 |
| 1. **查看详细指南** → `FT_WORK_SETUP_GUIDE.md` |
| 2. **检查错误类型** → 参考问题解决记录 |
| 3. **运行测试脚本** → 验证具体问题 |
|
|
| ## 🔄 修改记录总结 |
|
|
| ### 代码修改 |
| 1. **数据集支持** - 添加FT_work数据集处理逻辑 |
| 2. **路径修复** - 使用绝对路径替代相对路径 |
| 3. **递归搜索** - 支持多层级的嵌套目录结构 |
| 4. **自动模式** - 无需手动创建metadata文件 |
| |
| ### 依赖更新 |
| 1. **添加scikit-image** - 解决ModuleNotFoundError |
| 2. **更新requirements.txt** - 包含所有必需包 |
| |
| ### 功能增强 |
| 1. **目录结构保持** - 输出镜像输入结构 |
| 2. **错误处理改进** - 更好的错误报告 |
| 3. **进度显示优化** - 实时处理进度 |
| |
| ## 📋 关键参数备忘 |
| |
| ### 数据集路径 |
| ```bash |
| DATA_PATH="/apdcephfs_gy4/share_303628665/joywu/dataset/FT_work/videos" |
| SAVE_PATH="/apdcephfs_gy5/share_303628665/joyewu/research/AVH-Align/ft_work_preprocessed" |
| ``` |
| |
| ### 处理命令 |
| ```bash |
| # 训练集 |
| python deepfake_preprocess.py --dataset FT_work --split train --data_path $DATA_PATH --save_path $SAVE_PATH |
|
|
| # 验证集 |
| python deepfake_preprocess.py --dataset FT_work --split val --data_path $DATA_PATH --save_path $SAVE_PATH |
|
|
| # 测试集 |
| python deepfake_preprocess.py --dataset FT_work --split test --data_path $DATA_PATH --save_path $SAVE_PATH |
| ``` |
| |
| ## 🚨 重要提醒 |
| |
| ### 部署前检查 |
| - [ ] 确认数据集路径可访问 |
| - [ ] 检查存储空间是否充足 |
| - [ ] 验证Python环境版本 |
| - [ ] 安装所有系统依赖 |
| |
| ### 运行时注意事项 |
| - [ ] 使用自动模式（无需metadata） |
| - [ ] 根据系统资源调整max_workers |
| - [ ] 监控存储空间使用情况 |
| - [ ] 检查错误日志及时处理 |
| |
| ## 📞 紧急联系方式 |
| |
| 如果部署遇到问题： |
| 1. 首先查看 `FT_WORK_SETUP_GUIDE.md` 中的问题解决记录 |
| 2. 运行 `test_paths.py` 验证环境 |
| 3. 检查错误日志中的具体信息 |
| |
| --- |
| |
| **文档版本**: 1.0 |
| **创建时间**: 2026-06-03 |
| **覆盖范围**: 完整部署流程和问题解决 |
| **适用场景**: 新服务器部署和环境迁移 |
