fw_eval_clean / README.md
Saidakmal's picture
Upload README.md with huggingface_hub
4ee2bf4 verified
metadata
language:
  - uz
task_categories:
  - automatic-speech-recognition
pretty_name: FW Eval Clean (Uzbek ASR)
size_categories:
  - 10K<n<100K

FW Eval Clean

Очищенный набор для оценки ASR на узбекском языке. Содержит 97 390 аудиосегментов (формат .opus) и эталонные транскрипции, плюс гипотезы исходной системы и метрики WER/CER.

Файлы

  • fw_eval_clean.jsonl — манифест (по одной записи на строку). Поля:
    • audio_filepath — относительный путь к аудио (audios/audio_XXXXXXX.opus)
    • duration — длительность сегмента, сек.
    • reference — эталонный текст
    • hypothesis_raw — гипотеза с пунктуацией
    • hypothesis — гипотеза без пунктуации (используется для WER)
    • wer, cer — метрики на этой записи
  • audios.zip.part00, audios.zip.part01, audios.zip.part02 — все аудио, ZIP разрезан на куски по ~10ГБ (store-режим, без сжатия — opus уже сжат). Общий размер ~26ГБ.

Как использовать

# Скачать
hf download Saidakmal/fw_eval_clean --repo-type dataset --local-dir .

# Склеить части и распаковать
cat audios.zip.part* > audios.zip
unzip -q audios.zip
# Получится папка audios/ — пути в JSONL уже относительные.

Или через Python:

from huggingface_hub import snapshot_download
import zipfile, json

local = snapshot_download("Saidakmal/fw_eval_clean", repo_type="dataset")
with zipfile.ZipFile(f"{local}/audios.zip") as z:
    z.extractall(local)

with open(f"{local}/fw_eval_clean.jsonl") as f:
    for line in f:
        d = json.loads(line)
        # d["audio_filepath"] = "audios/audio_XXXXXXX.opus"
        ...