datainfo.py

import os
import re
import pandas as pd
from pathlib import Path
from collections import defaultdict

def natural_sort_key(s):
    """
    用于自然排序的键函数，确保10排在2后面
    """
    return [int(text) if text.isdigit() else text.lower() for text in re.split(r'(\d+)', s)]

def determine_dataset_name(file_path):
    """
    从文件路径确定数据集名称
    
    Args:
        file_path (str): 文件路径
    
    Returns:
        str: 数据集名称
    """
    # 从路径中提取目录结构
    path_parts = Path(file_path).parts
    
    # 尝试查找符合命名模式的部分 (如RM_001_CWRU)
    for part in path_parts:
        if re.match(r'RM_\d+_\w+', part):
            return part
    
    # 如果没有找到匹配的模式，则使用父目录名作为数据集名称
    parent_dir = os.path.basename(os.path.dirname(file_path))
    if parent_dir and parent_dir != ".":
        return parent_dir
    
    # 最后的备选方案是使用文件名的一部分
    base_name = os.path.basename(file_path)
    name_parts = base_name.split('_')
    if len(name_parts) > 1:
        return name_parts[0]
    
    # 如果都不符合，返回无扩展名的文件名
    return os.path.splitext(base_name)[0]

def explore_datasets(root_dir):
    """
    遍历目录收集数据集信息，并按数据集分组
    
    Args:
        root_dir (str): 数据集的根目录
    
    Returns:
        list: 包含所有数据集信息的列表，已按数据集顺序排序
    """
    # 用于存储各数据集文件的字典
    dataset_files = defaultdict(list)
    
    # 首先收集所有文件并按数据集分组
    print("正在收集文件信息...")
    for root, dirs, files in os.walk(root_dir):
        # 对目录和文件进行自然排序
        dirs.sort(key=natural_sort_key)
        files.sort(key=natural_sort_key)
        
        for file in files:
            # 跳过一些非数据文件
            if file.startswith('.') or file == 'dataset_info.csv' or file == 'datainfo.py':
                continue
            
            # 检查是否在RM_004_IMS目录下，如果是，即使没有后缀也接受该文件
            is_ims_file = 'RM_004_IMS' in root
            has_valid_extension = file.endswith(('.csv', '.mat', '.txt', '.dat', '.npy', '.npz', '.h5', '.hdf5', '.xlsx', '.xls'))
            
            # 如果文件有有效后缀或者在RM_004_IMS目录下，则处理它
            if has_valid_extension or is_ims_file:
                file_path = os.path.join(root, file)
                # 确定此文件属于哪个数据集
                dataset_name = determine_dataset_name(file_path)
                
                # 获取文件扩展名，如果没有则标记为'BIN'(二进制)或'DAT'
                ext = os.path.splitext(file)[1][1:].upper()
                if not ext and is_ims_file:
                    ext = 'BIN'  # 为IMS文件指定一个默认类型
                
                dataset_files[dataset_name].append({
                    'path': file_path,
                    'rel_path': os.path.relpath(file_path, root_dir + '/' + dataset_name),
                    'name': os.path.splitext(file)[0] if os.path.splitext(file)[0] else file,  # 如果没有扩展名，使用完整文件名
                    'file': file,
                    'type': ext
                })
    
    # 对数据集名称进行排序，确保如RM_001在RM_002之前
    datasets = []
    sorted_dataset_names = sorted(dataset_files.keys(), key=natural_sort_key)
    
    # 为每个数据集分配ID并处理其文件
    for dataset_id, dataset_name in enumerate(sorted_dataset_names, 1):
        print(f"处理数据集 {dataset_id}: {dataset_name}")
        file_id_in_dataset = 0
        
        # 对每个数据集中的文件进行处理
        for file_info in dataset_files[dataset_name]:
            file_id_in_dataset += 1
            file_path = file_info['path']
            rel_path = file_info['rel_path']
            file = os.path.basename(file_path)
            file_part = file_info['file']
            
            # 获取文件基本信息
            file_info = {
                'Id': len(datasets) + 1,
                'Dataset_id': dataset_id,
                'Name': dataset_name,
                'Description': "",
                'TYPE': '',
                'File': rel_path,
                'Visiable': 1,
                'Label': '',
                'Label_Description': '',
                'RUL_label': '',
                'RUL_label_description': '',
                'Fault level': '',
                'Domain_id': '',
                'Domain_description': '',
                'Sample_rate': '',
                'Sample_lenth': '',
                'Channel': '',
                'Fault_Diagnosis': '',
                'Anomaly_Detection': '',
                'Remaining_Life': '',
                # 'Digital_Twin_Prediction': '',

            }
            
            # 从文件名和路径推断信息
            path_lower = rel_path.lower()
            filename_lower = file.lower()
            
            # # 尝试识别数据集类型和领域
            # domain_keywords = {
            #     'bearing': {'id': 1, 'description': '轴承故障诊断'},
            #     'gear': {'id': 2, 'description': '齿轮故障诊断'},
            #     'motor': {'id': 3, 'description': '电机故障诊断'},
            #     'pump': {'id': 4, 'description': '泵故障诊断'},
            #     'fan': {'id': 5, 'description': '风机故障诊断'},
            #     'cwru': {'id': 6, 'description': 'Case Western Reserve University 轴承数据集'},
            #     'nasa': {'id': 7, 'description': 'NASA 进行性退化数据集'},
            #     'phm': {'id': 8, 'description': 'PHM 竞赛数据集'},
            # }
            
            # for keyword, info in domain_keywords.items():
            #     if keyword in filename_lower or keyword in path_lower or keyword in dataset_name.lower():
            #         file_info['Domain_id'] = info['id']
            #         file_info['Domain_description'] = info['description']
            #         break
            
            # # 尝试识别任务类型
            # task_keywords = {
            #     'Fault_Diagnosis': ['fault', 'failure', 'diagnosis', 'diagnostic'],
            #     'Anomaly_Detection': ['anomaly', 'outlier', 'detection'],
            #     'Remaining_Life': ['remaining', 'life', 'rul', 'prognostics', 'prognosis'],
            #     'Digital_Twin_Prediction': ['digital', 'twin', 'simulation']
            # }
            
            # for task, keywords in task_keywords.items():
            #     if any(kw in filename_lower or kw in path_lower or kw in dataset_name.lower() for kw in keywords):
            #         file_info[task] = 'Yes'
                    
            #         # 如果是剩余寿命任务，尝试填充RUL标签信息
            #         if task == 'Remaining_Life' and file_info['Remaining_Life'] == 'Yes':
            #             file_info['RUL_label'] = 'RUL'
            #             file_info['RUL_label_description'] = '设备剩余使用寿命(天/小时/循环)'
            
            datasets.append(file_info)
    
    return datasets

def save_to_csv(datasets, output_file):
    """
    将数据集信息保存到CSV文件
    
    Args:
        datasets (list): 数据集信息列表
        output_file (str): 输出文件路径
    """
    if not datasets:
        print("没有找到数据集")
        return
        
    columns = [
        'Id', 'Dataset_id', 'Name', 'Description', 'TYPE', 'File', 'Visiable', 
        'Label', 'Label_Description',        'RUL_label', 'RUL_label_description', 'Fault level','Domain_id', 'Domain_description', 
        'Sample_rate', 'Sample_lenth', 'Channel', 'Fault_Diagnosis', 
        'Anomaly_Detection', 'Remaining_Life', 'Digital_Twin_Prediction',

    ]
    
    # # 处理可能包含非ASCII字符的文件路径
    # for item in datasets:
    #     if 'File' in item and item['File']:
    #         try:
    #             # 确保文件路径是有效的 UTF-8 字符串
    #             item['File'] = item['File'].encode('utf-8', errors='ignore').decode('utf-8')
    #         except Exception as e:
    #             print(f"处理文件路径时出错: {e}, 路径: {item['File']}")
    #             item['File'] = repr(item['File'])[1:-1]  # 使用字符串表示作为后备
    
    df = pd.DataFrame(datasets, columns=columns)
    df.to_csv(output_file, index=False, encoding='utf-8-sig')
    print(f"找到 {len(datasets)} 个数据集文件")  # , encoding='utf-8-sig'
    print(f"数据已保存到 {output_file}")

def main():
    # 指定根目录和输出文件
    root_dir = '/home/user/data/PHMbenchdata/raw'
    output_file = os.path.join(root_dir, 'dataset_info2.csv')
    
    print(f"开始遍历目录: {root_dir}")
    # 遍历目录收集信息
    datasets = explore_datasets(root_dir)
    
    # 保存到CSV
    save_to_csv(datasets, output_file)

if __name__ == "__main__":
    main()