DOCUMENTATION_INDEX.md

FT_Work 数据集部署文档索引

📚 文档清单

核心文档

文件名	用途	重要性
FT_WORK_SETUP_GUIDE.md	详细环境设置指南 - 包含完整的问题解决记录	⭐⭐⭐⭐⭐
QUICK_DEPLOYMENT.md	快速部署指南 - 一键部署和常见问题解决	⭐⭐⭐⭐
deepfake_preprocess.py	主处理脚本 - 已支持FT_work数据集	⭐⭐⭐⭐⭐
requirements.txt	依赖列表 - 已更新包含所有必需包	⭐⭐⭐⭐

辅助脚本

文件名	用途	使用场景
setup_ft_work.sh	快速部署脚本 - 自动化环境检查	新服务器部署
test_paths.py	路径验证脚本 - 检查模型文件路径	环境验证
test_directory_structure.py	目录结构扫描 - 查看数据集结构	数据集检查

模板文件

文件名	用途	备注
train_metadata_template.csv	Metadata文件模板	手动模式使用

🎯 使用流程

新服务器部署流程

1. 阅读文档 → QUICK_DEPLOYMENT.md
2. 运行脚本 → ./setup_ft_work.sh
3. 验证环境 → python test_paths.py
4. 开始处理 → 使用 deepfake_preprocess.py

问题排查流程

1. 查看详细指南 → FT_WORK_SETUP_GUIDE.md
2. 检查错误类型 → 参考问题解决记录
3. 运行测试脚本 → 验证具体问题

🔄 修改记录总结

代码修改

1. 数据集支持 - 添加FT_work数据集处理逻辑
2. 路径修复 - 使用绝对路径替代相对路径
3. 递归搜索 - 支持多层级的嵌套目录结构
4. 自动模式 - 无需手动创建metadata文件

依赖更新

1. 添加scikit-image - 解决ModuleNotFoundError
2. 更新requirements.txt - 包含所有必需包

功能增强

1. 目录结构保持 - 输出镜像输入结构
2. 错误处理改进 - 更好的错误报告
3. 进度显示优化 - 实时处理进度

📋 关键参数备忘

数据集路径

DATA_PATH="/apdcephfs_gy4/share_303628665/joywu/dataset/FT_work/videos"
SAVE_PATH="/apdcephfs_gy5/share_303628665/joyewu/research/AVH-Align/ft_work_preprocessed"

处理命令

# 训练集
python deepfake_preprocess.py --dataset FT_work --split train --data_path $DATA_PATH --save_path $SAVE_PATH

# 验证集
python deepfake_preprocess.py --dataset FT_work --split val --data_path $DATA_PATH --save_path $SAVE_PATH

# 测试集
python deepfake_preprocess.py --dataset FT_work --split test --data_path $DATA_PATH --save_path $SAVE_PATH

🚨 重要提醒

部署前检查

• 确认数据集路径可访问
• 检查存储空间是否充足
• 验证Python环境版本
• 安装所有系统依赖

运行时注意事项

• 使用自动模式（无需metadata）
• 根据系统资源调整max_workers
• 监控存储空间使用情况
• 检查错误日志及时处理

📞 紧急联系方式

如果部署遇到问题：

1. 首先查看 FT_WORK_SETUP_GUIDE.md 中的问题解决记录
2. 运行 test_paths.py 验证环境
3. 检查错误日志中的具体信息

---

文档版本: 1.0
创建时间: 2026-06-03
覆盖范围: 完整部署流程和问题解决
适用场景: 新服务器部署和环境迁移