atad-tokyo's picture
Add files using upload-large-folder tool
4496b90 verified
|
Raw
History Blame Contribute Delete
4.73 kB

批量处理简化声学特征提取系统

本系统用于批量处理指定目录下的所有CSV文件,提取简化声学特征(f0_mean, intensity_mean, jitter_mean, log_energy_mean)。

🎯 系统特点

  • 批量处理: 自动处理目录下的所有CSV文件
  • 视频索引: 参照ego4d_test_werewolf_qwen25vl_v.py中的逻辑自动匹配视频文件
  • 详细日志: 记录每个文件的处理过程和结果
  • 统计报告: 生成处理统计和结果摘要
  • 错误处理: 完善的错误处理和恢复机制

📁 文件结构

prosodic_features_analysis/
├── batch_process_simple_acoustic_features.py    # 基础批量处理脚本
├── run_batch_simple_acoustic_features.py        # 完整批量处理脚本(推荐)
├── config_batch_processing.py                  # 配置文件
├── video_audio_analysis_simple_acoustic_features.py  # 核心分析器
└── README_BATCH_PROCESSING.md                   # 本文档

🚀 快速开始

1. 配置系统

编辑 config_batch_processing.py 文件:

# 输入目录 - 包含所有CSV文件的目录
INPUT_DIRECTORY = "/home/mdxuser/Desktop/caixin-large/Social_Interaction/ego4d/labeled"

# 输出目录 - 处理结果保存的目录
OUTPUT_DIRECTORY = "/home/mdxuser/Desktop/caixin-large/Social_Interaction/sensevoice_deployment/prosodic_features_analysis/batch_simple_acoustic_results"

# 视频文件基础目录
VIDEO_BASE_DIRECTORY = "/home/mdxuser/Desktop/caixin-large/Social_Interaction/ego4d/video"

2. 运行批量处理

# 激活环境
conda activate llava2

# 进入目录
cd /home/mdxuser/Desktop/caixin-large/Social_Interaction/sensevoice_deployment/prosodic_features_analysis

# 运行批量处理
python run_batch_simple_acoustic_features.py

📊 输出结果

处理结果文件

每个CSV文件会生成对应的结果文件:

  • 文件名格式: simple_acoustic_features_{原文件名}.csv
  • 包含四个声学特征: f0_mean, intensity_mean, jitter_mean, log_energy_mean

统计报告

  • batch_processing_stats.csv: 详细的处理统计
  • 包含每个文件的处理状态、时间、行数等信息

日志文件

  • simple_acoustic_features_logs/: 每个文件的详细处理日志
  • 包含特征提取的详细过程和参数

🔧 配置参数

参数 默认值 说明
SEGMENT_DURATION 5.0 音频片段长度(秒)
MAX_DURATION 30.0 最大音频时长(秒)
SAMPLING_RATE 16000 采样率(Hz)
ENABLE_LOGGING True 是否启用日志记录

📋 文件匹配逻辑

CSV文件格式

labeled_ego4d_{uuid}_Game{N}.csv

视频文件格式

{uuid}_Game{N}_1.mp4  # 优先选择
{uuid}_Game{N}_2.mp4  # 备选

匹配示例

CSV: labeled_ego4d_3ba069be-60fa-47fc-bd7b-f85bf649a5bd_Game2.csv
视频: 3ba069be-60fa-47fc-bd7b-f85bf649a5bd_Game2_1.mp4
输出: simple_acoustic_features_labeled_ego4d_3ba069be-60fa-47fc-bd7b-f85bf649a5bd_Game2.csv

📈 处理统计示例

📊 批量处理完成统计
================================================================================
📁 总文件数: 8
✅ 成功处理: 7
❌ 处理失败: 1
📈 总处理行数: 1,247
⏱️  总处理时间: 245.67 秒
⚡ 平均处理时间: 30.71 秒/文件
📁 输出目录: /path/to/output

⚠️ 注意事项

  1. 视频文件匹配: 系统会自动查找对应的视频文件,如果找不到会跳过该CSV文件
  2. 内存使用: 处理大文件时可能占用较多内存,建议监控系统资源
  3. 处理时间: 每个文件的处理时间取决于音频长度和系统性能
  4. 错误处理: 单个文件处理失败不会影响其他文件的处理

🔍 故障排除

常见问题

  1. 找不到视频文件

    • 检查视频文件是否存在于指定目录
    • 确认文件命名格式是否正确
  2. 内存不足

    • 减少 SEGMENT_DURATION 参数
    • 分批处理文件
  3. 处理速度慢

    • 检查系统资源使用情况
    • 考虑使用更快的存储设备

日志分析

查看详细日志:

# 查看最新日志
ls -la simple_acoustic_features_logs/

# 查看特定文件的日志
cat simple_acoustic_features_logs/simple_acoustic_features_analysis_*.log

📞 技术支持

如果遇到问题,请检查:

  1. 配置文件是否正确
  2. 输入输出目录是否存在
  3. 视频文件是否可访问
  4. 系统资源是否充足

🔄 更新日志

  • v1.0: 初始版本,支持基本的批量处理功能
  • v1.1: 添加配置文件和详细统计
  • v1.2: 改进错误处理和日志记录