Dataset.csv

from huggingface_hub import list_files, hf_hub_download
import soundfile as sf
import pandas as pd
from pathlib import Path

# 1. Ищем все аудиофайлы в репозитории
repo_id = "Kremon96/VALL-E-X_Dataset"
file_list = list_files(repo_id)

# Фильтруем только аудиофайлы
audio_extensions = {'.wav', '.mp3', '.flac', '.m4a', '.ogg'}
audio_files = [f for f in file_list if Path(f.path).suffix.lower() in audio_extensions]

print(f"Найдено аудиофайлов: {len(audio_files)}")

# 2. Скачиваем и загружаем каждый файл
dataset_entries = []

for i, file_info in enumerate(audio_files):
    try:
        # Скачиваем файл
        local_path = hf_hub_download(
            repo_id=repo_id,
            filename=file_info.path,
            repo_type="dataset"
        )
        
        # Загружаем аудио
        audio_data, sample_rate = sf.read(local_path)
        
        # Создаем запись для датасета
        dataset_entries.append({
            'audio': {
                'array': audio_data,
                'sampling_rate': sample_rate,
                'path': local_path
            },
            'filename': Path(file_info.path).name,
            'index': i
        })
        
        print(f"✅ Загружено: {file_info.path}")
        
    except Exception as e:
        print(f"❌ Ошибка загрузки {file_info.path}: {e}")

# 3. Создаем DataFrame и датасет
if dataset_entries:
    # Преобразуем в DataFrame
    df = pd.DataFrame(dataset_entries)
    
    # Сохраняем как CSV для дальнейшего использования
    df.to_csv('vall_ex_dataset_processed.csv', index=False)
    
    # Создаем датасет в формате Hugging Face
    from datasets import Dataset
    hf_dataset = Dataset.from_pandas(df)
    
    # Сохраняем локально
    hf_dataset.save_to_disk('./vall_ex_processed_dataset')
    
    print(f"\n✅ Датасет успешно создан!")
    print(f"   Файлов: {len(hf_dataset)}")
    print(f"   Сохранен в: ./vall_ex_processed_dataset/")
    print(f"   CSV с метаданными: vall_ex_dataset_processed.csv")
    
    # Пример доступа к данным
    print("\n📊 Пример первого аудио:")
    print(f"   Форма аудио: {hf_dataset[0]['audio']['array'].shape}")
    print(f"   Частота: {hf_dataset[0]['audio']['sampling_rate']} Гц")
else:
    print("❌ Не удалось загрузить ни одного аудиофайла")
    from huggingface_hub import list_files, hf_hub_download
import soundfile as sf
import pandas as pd
from pathlib import Path

# 1. Ищем все аудиофайлы в репозитории
repo_id = "Kremon96/VALL-E-X_Dataset"
file_list = list_files(repo_id)

# Фильтруем только аудиофайлы
audio_extensions = {'.wav', '.mp3', '.flac', '.m4a', '.ogg'}
audio_files = [f for f in file_list if Path(f.path).suffix.lower() in audio_extensions]

print(f"Найдено аудиофайлов: {len(audio_files)}")

# 2. Скачиваем и загружаем каждый файл
dataset_entries = []

for i, file_info in enumerate(audio_files):
    try:
        # Скачиваем файл
        local_path = hf_hub_download(
            repo_id=repo_id,
            filename=file_info.path,
            repo_type="dataset"
        )
        
        # Загружаем аудио
        audio_data, sample_rate = sf.read(local_path)
        
        # Создаем запись для датасета
        dataset_entries.append({
            'audio': {
                'array': audio_data,
                'sampling_rate': sample_rate,
                'path': local_path
            },
            'filename': Path(file_info.path).name,
            'index': i
        })
        
        print(f"✅ Загружено: {file_info.path}")
        
    except Exception as e:
        print(f"❌ Ошибка загрузки {file_info.path}: {e}")

# 3. Создаем DataFrame и датасет
if dataset_entries:
    # Преобразуем в DataFrame
    df = pd.DataFrame(dataset_entries)
    
    # Сохраняем как CSV для дальнейшего использования
    df.to_csv('vall_ex_dataset_processed.csv', index=False)
    
    # Создаем датасет в формате Hugging Face
    from datasets import Dataset
    hf_dataset = Dataset.from_pandas(df)
    
    # Сохраняем локально
    hf_dataset.save_to_disk('./vall_ex_processed_dataset')
    
    print(f"\n✅ Датасет успешно создан!")
    print(f"   Файлов: {len(hf_dataset)}")
    print(f"   Сохранен в: ./vall_ex_processed_dataset/")
    print(f"   CSV с метаданными: vall_ex_dataset_processed.csv")
    
    # Пример доступа к данным
    print("\n📊 Пример первого аудио:")
    print(f"   Форма аудио: {hf_dataset[0]['audio']['array'].shape}")
    print(f"   Частота: {hf_dataset[0]['audio']['sampling_rate']} Гц")
else:
    print("❌ Не удалось загрузить ни одного аудиофайла")