dfcdata / script /README_EXTRACT.md
shuohann's picture
Add files using upload-large-folder tool
8a11391 verified
|
Raw
History Blame Contribute Delete
3.44 kB
# 自动解压脚本使用说明
## 概述
`extract_all.sh` 是一个自动化解压脚本,用于处理数据集目录中的各种压缩格式文件。
## 功能特性
- ✅ 自动检测并处理所有压缩格式
- ✅ 支持双压缩文件 (.zip.zip)
- ✅ 支持 ZIP 分卷 (.z01, .z02 或 .001, .002)
- ✅ 支持 TAR.GZ 分卷 (.tar.gz.00, .01)
- ✅ 自动跳过已处理文件
- ✅ 详细的日志记录
- ✅ 错误处理和报告
## 使用方法
### 基本使用
```bash
cd /ocean/projects/cis220031p/shan1/data_ck/deepfake_dataset/compress/test
./extract_all.sh
```
### 查看进度
脚本运行时会输出彩色日志,同时所有日志会保存到 `extraction.log` 文件:
```bash
# 实时查看日志
tail -f extraction.log
# 查看成功记录
grep SUCCESS extraction.log
# 查看错误记录
grep ERROR extraction.log
# 查看警告记录
grep WARNING extraction.log
```
## 支持的压缩格式
### 1. 双压缩文件
- `.zip.zip` - 会自动解压两次
### 2. ZIP 分卷格式
- `.zip` + `.z01`, `.z02`, ... `.zXX`
- `.zip.001`, `.zip.002`, ... `.zip.XXX`
- `.001`, `.002`, ... `.XXX`
### 3. TAR.GZ 分卷格式
- `.tar.gz.00`, `.tar.gz.01`, ... `.tar.gz.XX`
### 4. 普通压缩文件
- `.zip`
- `.tar.gz`
## 配置
脚本中的主要配置项(位于脚本开头):
```bash
SEVENZ="/ocean/projects/cis220031p/shan1/7z/7zz" # 7z 程序路径
BASE_DIR="/ocean/projects/cis220031p/shan1/data_ck/deepfake_dataset/compress/test" # 工作目录
LOG_FILE="${BASE_DIR}/extraction.log" # 日志文件路径
```
## 输出
解压后的文件会放在对应的目录中,与压缩文件在同一目录下。
例如:
```
ADD2022_Track1_Eval/
├── track1test.zip (原始压缩文件)
├── track1test.z01 (分卷文件)
├── extracted_files/ (解压后的内容)
└── ...
```
## 注意事项
1. **磁盘空间**: 确保有足够的磁盘空间,因为解压后的文件可能比压缩文件大很多
2. **时间**: 大文件解压可能需要较长时间,请耐心等待
3. **权限**: 确保脚本有执行权限,如果没有请运行 `chmod +x extract_all.sh`
4. **7z 工具**: 确保 7z 工具路径正确且可执行
## 故障排除
### 如果解压失败
1. 检查日志文件查看具体错误:
```bash
grep ERROR extraction.log
```
2. 检查 7z 工具是否可用:
```bash
/ocean/projects/cis220031p/shan1/7z/7zz
```
3. 检查磁盘空间:
```bash
df -h
```
4. 检查文件完整性:
- 确认所有分卷文件都已下载
- 检查文件大小是否正常
### 常见错误
- **"7zz not found"**: 检查 `SEVENZ` 路径是否正确
- **"Failed to extract"**: 可能是文件损坏或格式不支持
- **"No split parts found"**: 分卷文件可能缺失
## 示例输出
```
2024-12-05 14:00:00 - INFO: Starting extraction process...
2024-12-05 14:00:00 - INFO: Using 7zz at: /ocean/projects/cis220031p/shan1/7z/7zz
2024-12-05 14:00:01 - INFO: Processing directory: ADD2022_Adaptation
2024-12-05 14:00:01 - WARNING: Found double zip file: track1adp.zip.zip - will extract twice
2024-12-05 14:00:05 - SUCCESS: First extraction completed: track1adp.zip.zip
2024-12-05 14:00:10 - SUCCESS: Second extraction completed: track1adp.zip
...
2024-12-05 14:30:00 - INFO: === Extraction Process Complete ===
```
## 更多信息
详细的问题总结请查看 `COMPRESSION_ISSUES.md` 文件。