Kremon96/VALL-E-X_Dataset

import datasets from datasets import DatasetDict, Audio, DatasetInfo, Features, Value, Sequence from transformers import pipeline import logging

Настройка логирования

logging.basicConfig(level=logging.INFO) logger = logging.getLogger(name)

_DESCRIPTION = """Расширенная версия VALL-E-X_Dataset с автоматическим распознаванием речи (ASR)"""

_HOMEPAGE = "https://huggingface.co/datasets/Kremon96/VALL-E-X_Dataset"

_LICENSE = "mit"

class VallEXWithASR(datasets.GeneratorBasedBuilder): """Датасет VALL-E-X с автоматической транскрипцией аудио."""

VERSION = datasets.Version("1.0.0")

def _info(self):
    return datasets.DatasetInfo(
        description=_DESCRIPTION,
        features=datasets.Features({
            "audio": datasets.Audio(sampling_rate=16000),
            "transcription": datasets.Value("string"),
            "duration": datasets.Value("float32"),
            "original_metadata": datasets.Value("string")
        }),
        homepage=_HOMEPAGE,
        license=_LICENSE,
    )

def _split_generators(self, dl_manager):
    # Загружаем оригинальный датасет
    original_dataset = datasets.load_dataset(
        "Kremon96/VALL-E-X_Dataset", 
        split="train",
        trust_remote_code=True
    )
    
    return [
        datasets.SplitGenerator(
            name=datasets.Split.TRAIN,
            gen_kwargs={"dataset": original_dataset}
        )
    ]

def _generate_examples(self, dataset):
    """Генератор примеров с транскрипцией."""
    
    # Инициализируем ASR пайплайн (загружается при первом вызове)
    asr_pipeline = None
    
    for idx, example in enumerate(dataset):
        # Ленивая загрузка пайплайна (только при первом использовании)
        if asr_pipeline is None:
            logger.info("Загрузка модели Whisper для ASR...")
            try:
                asr_pipeline = pipeline(
                    "automatic-speech-recognition",
                    model="openai/whisper-base",
                    device=-1  # -1 для CPU, 0 для GPU
                )
            except Exception as e:
                logger.error(f"Ошибка загрузки модели: {e}")
                asr_pipeline = None
        
        # Получаем аудио данные
        audio_data = example["audio"]
        
        # Распознаем речь, если модель загружена
        transcription = ""
        if asr_pipeline is not None and audio_data["array"] is not None:
            try:
                result = asr_pipeline({
                    "array": audio_data["array"],
                    "sampling_rate": audio_data["sampling_rate"]
                })
                transcription = result["text"]
                logger.info(f"Образец {idx}: Транскрибировано успешно")
            except Exception as e:
                logger.warning(f"Ошибка транскрипции для образца {idx}: {e}")
                transcription = f"[Ошибка ASR: {str(e)[:50]}]"
        
        # Возвращаем пример с транскрипцией
        yield idx, {
            "audio": {
                "path": None,  # Для сгенерированных аудио
                "array": audio_data["array"],
                "sampling_rate": 16000
            },
            "transcription": transcription,
            "duration": example.get("duration", 0.0),
            "original_metadata": str(example)
        }