dfcdata / script /README_EXTRACT.md
shuohann's picture
Add files using upload-large-folder tool
8a11391 verified
|
Raw
History Blame Contribute Delete
3.44 kB

自动解压脚本使用说明

概述

extract_all.sh 是一个自动化解压脚本,用于处理数据集目录中的各种压缩格式文件。

功能特性

  • ✅ 自动检测并处理所有压缩格式
  • ✅ 支持双压缩文件 (.zip.zip)
  • ✅ 支持 ZIP 分卷 (.z01, .z02 或 .001, .002)
  • ✅ 支持 TAR.GZ 分卷 (.tar.gz.00, .01)
  • ✅ 自动跳过已处理文件
  • ✅ 详细的日志记录
  • ✅ 错误处理和报告

使用方法

基本使用

cd /ocean/projects/cis220031p/shan1/data_ck/deepfake_dataset/compress/test
./extract_all.sh

查看进度

脚本运行时会输出彩色日志,同时所有日志会保存到 extraction.log 文件:

# 实时查看日志
tail -f extraction.log

# 查看成功记录
grep SUCCESS extraction.log

# 查看错误记录
grep ERROR extraction.log

# 查看警告记录
grep WARNING extraction.log

支持的压缩格式

1. 双压缩文件

  • .zip.zip - 会自动解压两次

2. ZIP 分卷格式

  • .zip + .z01, .z02, ... .zXX
  • .zip.001, .zip.002, ... .zip.XXX
  • .001, .002, ... .XXX

3. TAR.GZ 分卷格式

  • .tar.gz.00, .tar.gz.01, ... .tar.gz.XX

4. 普通压缩文件

  • .zip
  • .tar.gz

配置

脚本中的主要配置项(位于脚本开头):

SEVENZ="/ocean/projects/cis220031p/shan1/7z/7zz"  # 7z 程序路径
BASE_DIR="/ocean/projects/cis220031p/shan1/data_ck/deepfake_dataset/compress/test"  # 工作目录
LOG_FILE="${BASE_DIR}/extraction.log"  # 日志文件路径

输出

解压后的文件会放在对应的目录中,与压缩文件在同一目录下。

例如:

ADD2022_Track1_Eval/
  ├── track1test.zip      (原始压缩文件)
  ├── track1test.z01      (分卷文件)
  ├── extracted_files/    (解压后的内容)
  └── ...

注意事项

  1. 磁盘空间: 确保有足够的磁盘空间,因为解压后的文件可能比压缩文件大很多
  2. 时间: 大文件解压可能需要较长时间,请耐心等待
  3. 权限: 确保脚本有执行权限,如果没有请运行 chmod +x extract_all.sh
  4. 7z 工具: 确保 7z 工具路径正确且可执行

故障排除

如果解压失败

  1. 检查日志文件查看具体错误:

    grep ERROR extraction.log
    
  2. 检查 7z 工具是否可用:

    /ocean/projects/cis220031p/shan1/7z/7zz
    
  3. 检查磁盘空间:

    df -h
    
  4. 检查文件完整性:

    • 确认所有分卷文件都已下载
    • 检查文件大小是否正常

常见错误

  • "7zz not found": 检查 SEVENZ 路径是否正确
  • "Failed to extract": 可能是文件损坏或格式不支持
  • "No split parts found": 分卷文件可能缺失

示例输出

2024-12-05 14:00:00 - INFO: Starting extraction process...
2024-12-05 14:00:00 - INFO: Using 7zz at: /ocean/projects/cis220031p/shan1/7z/7zz
2024-12-05 14:00:01 - INFO: Processing directory: ADD2022_Adaptation
2024-12-05 14:00:01 - WARNING: Found double zip file: track1adp.zip.zip - will extract twice
2024-12-05 14:00:05 - SUCCESS: First extraction completed: track1adp.zip.zip
2024-12-05 14:00:10 - SUCCESS: Second extraction completed: track1adp.zip
...
2024-12-05 14:30:00 - INFO: === Extraction Process Complete ===

更多信息

详细的问题总结请查看 COMPRESSION_ISSUES.md 文件。