atad-tokyo's picture
Add files using upload-large-folder tool
4496b90 verified
|
Raw
History Blame Contribute Delete
4.73 kB
# 批量处理简化声学特征提取系统
本系统用于批量处理指定目录下的所有CSV文件,提取简化声学特征(f0_mean, intensity_mean, jitter_mean, log_energy_mean)。
## 🎯 系统特点
- **批量处理**: 自动处理目录下的所有CSV文件
- **视频索引**: 参照`ego4d_test_werewolf_qwen25vl_v.py`中的逻辑自动匹配视频文件
- **详细日志**: 记录每个文件的处理过程和结果
- **统计报告**: 生成处理统计和结果摘要
- **错误处理**: 完善的错误处理和恢复机制
## 📁 文件结构
```
prosodic_features_analysis/
├── batch_process_simple_acoustic_features.py # 基础批量处理脚本
├── run_batch_simple_acoustic_features.py # 完整批量处理脚本(推荐)
├── config_batch_processing.py # 配置文件
├── video_audio_analysis_simple_acoustic_features.py # 核心分析器
└── README_BATCH_PROCESSING.md # 本文档
```
## 🚀 快速开始
### 1. 配置系统
编辑 `config_batch_processing.py` 文件:
```python
# 输入目录 - 包含所有CSV文件的目录
INPUT_DIRECTORY = "/home/mdxuser/Desktop/caixin-large/Social_Interaction/ego4d/labeled"
# 输出目录 - 处理结果保存的目录
OUTPUT_DIRECTORY = "/home/mdxuser/Desktop/caixin-large/Social_Interaction/sensevoice_deployment/prosodic_features_analysis/batch_simple_acoustic_results"
# 视频文件基础目录
VIDEO_BASE_DIRECTORY = "/home/mdxuser/Desktop/caixin-large/Social_Interaction/ego4d/video"
```
### 2. 运行批量处理
```bash
# 激活环境
conda activate llava2
# 进入目录
cd /home/mdxuser/Desktop/caixin-large/Social_Interaction/sensevoice_deployment/prosodic_features_analysis
# 运行批量处理
python run_batch_simple_acoustic_features.py
```
## 📊 输出结果
### 处理结果文件
每个CSV文件会生成对应的结果文件:
- 文件名格式: `simple_acoustic_features_{原文件名}.csv`
- 包含四个声学特征: `f0_mean`, `intensity_mean`, `jitter_mean`, `log_energy_mean`
### 统计报告
- `batch_processing_stats.csv`: 详细的处理统计
- 包含每个文件的处理状态、时间、行数等信息
### 日志文件
- `simple_acoustic_features_logs/`: 每个文件的详细处理日志
- 包含特征提取的详细过程和参数
## 🔧 配置参数
| 参数 | 默认值 | 说明 |
|------|--------|------|
| `SEGMENT_DURATION` | 5.0 | 音频片段长度(秒) |
| `MAX_DURATION` | 30.0 | 最大音频时长(秒) |
| `SAMPLING_RATE` | 16000 | 采样率(Hz) |
| `ENABLE_LOGGING` | True | 是否启用日志记录 |
## 📋 文件匹配逻辑
### CSV文件格式
```
labeled_ego4d_{uuid}_Game{N}.csv
```
### 视频文件格式
```
{uuid}_Game{N}_1.mp4 # 优先选择
{uuid}_Game{N}_2.mp4 # 备选
```
### 匹配示例
```
CSV: labeled_ego4d_3ba069be-60fa-47fc-bd7b-f85bf649a5bd_Game2.csv
视频: 3ba069be-60fa-47fc-bd7b-f85bf649a5bd_Game2_1.mp4
输出: simple_acoustic_features_labeled_ego4d_3ba069be-60fa-47fc-bd7b-f85bf649a5bd_Game2.csv
```
## 📈 处理统计示例
```
📊 批量处理完成统计
================================================================================
📁 总文件数: 8
✅ 成功处理: 7
❌ 处理失败: 1
📈 总处理行数: 1,247
⏱️ 总处理时间: 245.67 秒
⚡ 平均处理时间: 30.71 秒/文件
📁 输出目录: /path/to/output
```
## ⚠️ 注意事项
1. **视频文件匹配**: 系统会自动查找对应的视频文件,如果找不到会跳过该CSV文件
2. **内存使用**: 处理大文件时可能占用较多内存,建议监控系统资源
3. **处理时间**: 每个文件的处理时间取决于音频长度和系统性能
4. **错误处理**: 单个文件处理失败不会影响其他文件的处理
## 🔍 故障排除
### 常见问题
1. **找不到视频文件**
- 检查视频文件是否存在于指定目录
- 确认文件命名格式是否正确
2. **内存不足**
- 减少 `SEGMENT_DURATION` 参数
- 分批处理文件
3. **处理速度慢**
- 检查系统资源使用情况
- 考虑使用更快的存储设备
### 日志分析
查看详细日志:
```bash
# 查看最新日志
ls -la simple_acoustic_features_logs/
# 查看特定文件的日志
cat simple_acoustic_features_logs/simple_acoustic_features_analysis_*.log
```
## 📞 技术支持
如果遇到问题,请检查:
1. 配置文件是否正确
2. 输入输出目录是否存在
3. 视频文件是否可访问
4. 系统资源是否充足
## 🔄 更新日志
- **v1.0**: 初始版本,支持基本的批量处理功能
- **v1.1**: 添加配置文件和详细统计
- **v1.2**: 改进错误处理和日志记录