🗂️ visualears-golden-6669

English + فارسی · Part of Shenava 1.0 · Project hub · SLT paper submission

🌟 At a glance | معرفی سریع

	English	فارسی
🎯 Purpose	Held-out VisualEars6669 / Golden6669 evaluation dataset.	مجموعهٔ ارزیابی نگه‌داشته‌شدهٔ Golden6669 با شرایط پاک، دورمیدان و مسدود برای سنجش واقع‌گرایانهٔ ASR فارسی.
🧩 Role	evaluation and benchmarking asset	مصنوع ارزیابی و بنچمارک
📦 Snapshot	13 files; approximately 916.66 MB	13 فایل؛ حدود 916.66 MB
🧱 Packaging	5 Parquet files and 0 standalone audio files	5 فایل Parquet و 0 فایل صوتی مستقل
🗣️ Language	Persian / Farsi	فارسی
⚖️ License	Apache License 2.0	مجوز Apache 2.0

🇬🇧 English dataset card

🧭 Dataset description

Held-out VisualEars6669 / Golden6669 evaluation dataset. It is published as one component of the Shenava-1 open Persian speech stack. The collection separates training corpora, relabels, active-learning queues, calibration sets, and held-out evaluation assets so that each repository has a clear operational role.

This card documents the repository snapshot rather than claiming that every file is an interchangeable training example. Consumers must distinguish raw media, manifests, pipeline state, labels, benchmark outputs, and model-generated annotations. Preserve source identifiers and consult retained technical notes for artifact-specific fields.

🎯 Intended uses

• Reproduce the specific Shenava/VisualEars pipeline stage named by this repository.
• Train, filter, calibrate, review, or evaluate Persian speech systems according to the role above.
• Study Persian ASR data quality, acoustic conditions, text normalization, hard words, and semantic error behavior.
• Build documented derivatives while retaining source revision, row identifiers, provenance, and transformation logs.

🚫 Uses to avoid

• Do not merge evaluation or gold sets into training data.
• Do not assume machine-generated labels are equivalent to human-verified ground truth.
• Do not use uncertain, non-Persian, raw, or calibration queues as clean training data without applying their review decision.
• Do not use speech content to infer sensitive personal attributes or to identify speakers.
• Do not publish private information found in audio or transcripts; downstream users remain responsible for privacy review.

📁 Repository structure

Audited snapshot: 13 files, approximately 916.66 MB. Common file groups: .parquet × 5, no extension × 2, .json × 2, .jsonl × 2, .md × 1, .csv × 1.

Representative or largest paths:

• data/test-00002-of-00005.parquet
• data/test-00000-of-00005.parquet
• data/test-00001-of-00005.parquet
• data/test-00003-of-00005.parquet
• data/test-00004-of-00005.parquet

Parquet repositories should be read by shard. Audio-folder repositories may require their metadata/manifests to pair media with labels. Pipeline-state and result repositories can contain JSON, JSONL, CSV, or checkpoint artifacts rather than a conventional train table.

🚀 Loading and inspection

from datasets import load_dataset

repo_id = "Reza2kn/visualears-golden-6669"
dataset = load_dataset(repo_id, split="test", streaming=True)
first = next(iter(dataset))
print(first.keys())

If the repository is an artifact archive rather than a directly loadable dataset script, use snapshot_download(repo_id=repo_id, repo_type="dataset") and read its manifests or media files explicitly. Always inspect features, split names, and the card revision before launching a long job.

For audio, confirm the decoded sampling rate and channel count rather than trusting filename extensions. For text, preserve Persian Unicode, ZWNJ/half-space, digits, and original text before applying a normalized view. Never overwrite the source transcript during normalization.

🧬 Provenance and processing

The repository name and collection note define its stage in the Shenava pipeline. Derived labels, confidence signals, curriculum decisions, and quality buckets should be treated as versioned annotations. When creating a derivative, record the source repository revision, selection rule, normalization version, model revision used for pseudo-labeling, and human-review status.

✅ Quality checks

At minimum, validate file readability, unique/stable identifiers, audio duration, transcript emptiness, language, sampling rate, clipping, duplicated content, and manifest/media correspondence. For evaluation data, verify that reference text and sample membership have not changed. For generated labels, manually inspect stratified samples across confidence, duration, source, and acoustic condition.

⚠️ Biases and limitations

The data may unevenly represent accents, regions, ages, genders, speaking styles, recording devices, noise conditions, and formal versus conversational Persian. Filtering can improve average label quality while removing difficult but important speakers. Pseudo-labels inherit model errors. Literary recitation, telephony, far-field audio, and spontaneous speech are distinct domains and should not be treated as interchangeable.

🇮🇷 کارت مجموعه‌داده به فارسی

🧭 معرفی مجموعه‌داده

مجموعهٔ ارزیابی نگه‌داشته‌شدهٔ Golden6669 با شرایط پاک، دورمیدان و مسدود برای سنجش واقع‌گرایانهٔ ASR فارسی. این مخزن بخشی از زنجیرهٔ باز و فارسی‌محور Shenava-1 است. مجموعه، پیکرهٔ آموزش، بازبرچسب‌گذاری، صف یادگیری فعال، دادهٔ کالیبراسیون و معیارهای نگه‌داشته‌شده را جدا می‌کند تا نقش هر مخزن روشن بماند.

این کارت وضعیت یک نسخهٔ مشخص از مخزن را توضیح می‌دهد و ادعا نمی‌کند که همهٔ فایل‌ها نمونهٔ آموزشی هم‌نوع هستند. رسانهٔ خام، manifest، وضعیت خط لوله، برچسب، خروجی بنچمارک و annotation تولیدشده با مدل باید بر اساس نقش واقعی خود مصرف شوند.

🎯 کاربردهای پیشنهادی

• بازتولید همان مرحله از خط لولهٔ Shenava/VisualEars که در نام و توضیح مخزن آمده است.
• آموزش، پالایش، کالیبراسیون، بازبینی یا ارزیابی سامانهٔ گفتار فارسی متناسب با نقش داده.
• مطالعهٔ کیفیت داده، شرایط صوتی، نرمال‌سازی متن، واژه‌های دشوار و خطاهای معنایی.
• ساخت مشتق مستند همراه با حفظ نسخهٔ مبدأ، شناسهٔ ردیف، منشأ و گزارش تبدیل.

🚫 کاربردهای نامناسب

• دادهٔ ارزیابی یا طلایی را وارد آموزش نکنید.
• برچسب تولیدشده با مدل را بدون بازبینی معادل حقیقت انسانی ندانید.
• صف نامطمئن، غیرفارسی، خام یا کالیبراسیون را پیش از اعمال تصمیم بازبینی، دادهٔ پاک فرض نکنید.
• از محتوا برای شناسایی گوینده یا استنباط ویژگی حساس استفاده نکنید.
• اطلاعات خصوصی احتمالی در صوت یا متن را بازنشر نکنید و ارزیابی حریم خصوصی را انجام دهید.

📁 ساختار مخزن

نسخهٔ ممیزی‌شده شامل 13 فایل با حجم تقریبی 916.66 MB است. گروه‌های رایج فایل: .parquet × 5, no extension × 2, .json × 2, .jsonl × 2, .md × 1, .csv × 1.

مسیرهای شاخص یا بزرگ:

• data/test-00002-of-00005.parquet
• data/test-00000-of-00005.parquet
• data/test-00001-of-00005.parquet
• data/test-00003-of-00005.parquet
• data/test-00004-of-00005.parquet

مخزن Parquet را به‌صورت شاردی بخوانید. در مخزن audio-folder، manifest یا فراداده برای اتصال صوت و برچسب لازم است. مخزن وضعیت خط لوله یا نتایج ممکن است به‌جای جدول train شامل JSON، JSONL، CSV یا چک‌پوینت باشد.

🚀 بارگذاری و بررسی

در بارگذاری با datasets ابتدا نام split و features را بررسی کنید. اگر مخزن آرشیو مصنوع است، با snapshot_download فایل‌های لازم را انتخابی دریافت کنید. نرخ نمونه‌برداری و تعداد کانال را پس از decode تأیید کنید. در متن، نسخهٔ اصلی فارسی، نیم‌فاصله و رقم‌ها را نگه دارید و نمای نرمال‌شده را در ستونی جدا بسازید.

🧬 منشأ و پردازش

نام مخزن و توضیح مجموعه، جایگاه داده را در خط لوله مشخص می‌کند. برچسب مشتق، confidence، تصمیم curriculum و سطل کیفیت را annotation نسخه‌دار بدانید. در ساخت مشتق، revision مبدأ، قاعدهٔ انتخاب، نسخهٔ نرمال‌سازی، مدل تولیدکنندهٔ pseudo-label و وضعیت بازبینی انسانی را ثبت کنید.

✅ کنترل کیفیت

خوانایی فایل، یکتایی شناسه، مدت صوت، متن خالی، زبان، نرخ نمونه، clipping، تکرار محتوا و تطابق manifest با رسانه را بررسی کنید. در دادهٔ ارزیابی، ثابت‌بودن اعضا و متن مرجع ضروری است. برای برچسب ماشینی، نمونه‌گیری لایه‌بندی‌شده بر اساس confidence، مدت، منشأ و شرایط صوتی انجام دهید.

⚠️ سوگیری‌ها و محدودیت‌ها

ممکن است لهجه، منطقه، سن، جنسیت، سبک گفتار، دستگاه ضبط، نویز و گفتار رسمی/محاوره‌ای به‌طور نامتوازن پوشش داده شوند. پالایش شدید می‌تواند میانگین کیفیت را بالا ببرد ولی گویندگان دشوار و مهم را حذف کند. pseudo-label خطای مدل را به ارث می‌برد و حوزه‌هایی مانند شعرخوانی، تلفن، دورمیدان و گفتار خودانگیخته قابل جایگزینی با یکدیگر نیستند.

🔬 Reproducibility | بازتولیدپذیری

• Pin the dataset revision and record selected files or shards. | نسخهٔ مخزن و شاردهای انتخابی را ثبت کنید.
• Keep immutable IDs and provenance columns. | شناسهٔ پایدار و ستون منشأ را حفظ کنید.
• Publish accepted/rejected counts for every filter. | شمارش پذیرش و رد هر فیلتر را منتشر کنید.
• Separate original, normalized, and model-generated text. | متن اصلی، نرمال‌شده و تولیدشده با مدل را جدا نگه دارید.
• Audit train/eval overlap by content, speaker when available, and source. | هم‌پوشانی آموزش و ارزیابی را بر اساس محتوا، گویندهٔ موجود و منشأ بررسی کنید.

📚 Citation, links, and license | استناد، پیوندها و مجوز

• 🤗 Shenava-1 collection
• 🧰 Project repository
• 📄 SLT paper submission
• 📊 Persian ASR Triple Threat

@dataset{shenava1_visualears_golden_6669,
  title  = {visualears-golden-6669: a Shenava-1 Persian data artifact},
  author = {Reza2kn},
  year   = {2026},
  url    = {https://huggingface.co/datasets/Reza2kn/visualears-golden-6669}
}

Released under the Apache License 2.0. این مخزن با مجوز Apache 2.0 منتشر شده است.

---

📎 Retained technical notes | یادداشت‌های فنی پیشین

The pre-existing technical card is retained below for revision-specific commands, measurements, and artifact details. The bilingual sections above define the common Shenava-1 documentation contract.

یادداشت فنی قبلی برای فرمان‌ها، اندازه‌گیری‌ها و جزئیات همان نسخه در ادامه حفظ شده است. بخش‌های دوزبانهٔ بالا قرارداد مستندسازی مشترک Shenava-1 را تعریف می‌کنند.

VisualEars Golden 6,669

A 6,669-row Persian ASR benchmark slice for VisualEars evaluation, sourced from shekar-ai/neyshekar-persian-asr-fa and packaged as 16 kHz mono WAV audio embedded in Parquet.

Intended use

Use the test split as a held-out ASR evaluation set. The reference transcript is the text column. Preserve the provenance columns when reporting metrics so subsets can be analyzed by acoustic condition, duration bucket, text bucket, cluster, and original Neyshekar source row.

Schema

column	meaning
id	Stable row id, vg6669_XXXXX
audio	16 kHz mono WAV audio (datasets.Audio)
text	Raw reference transcript
duration / duration_s	Duration in seconds
condition	Selected acoustic condition label (clean, farfield, obstructed)
condition_confidence	Condition selector confidence
duration_bucket, text_bucket	Stratification buckets
cluster, cluster_affinity	Diversity-clustering metadata
source_dataset, source_file_path, source_row_index, source_id, source_manifest_id	Source provenance
license	Legacy per-row provenance field; the repository release is licensed under Apache-2.0

Composition

• Rows: 6,669
• Audio duration: 10.49 hours
• Conditions:
  • obstructed: 4,335
  • farfield: 1,934
  • clean: 400
• Duration buckets:
  • dur_lt3: 1,050
  • dur_3_6: 3,192
  • dur_6_12: 2,145
  • dur_12_25: 281
  • dur_25_plus: 1
• Text buckets:
  • text_very_short: 307
  • text_short: 2,276
  • text_medium: 3,116
  • text_long: 970

Loading

For ASR benchmarking, load audio as encoded bytes and hand decoding/resampling to your evaluation pipeline:

from datasets import load_dataset, Audio

ds = load_dataset("Reza2kn/visualears-golden-6669", split="test")
ds = ds.cast_column("audio", Audio(sampling_rate=16000, decode=False))
row = ds[0]
print(row["text"])
print(row["audio"]["path"], len(row["audio"]["bytes"]))

If you want decoded waveform arrays directly from datasets, install the audio decoder dependency used by your datasets version (for recent versions, torchcodec) and keep the default decoded Audio feature.

Scoring contract

Report Persian WER/CER with the VisualEars Persian normalizer rather than an English/Whisper normalizer. At minimum, normalize Arabic/Persian Yeh/Kaf variants, strip diacritics and punctuation, normalize digits, and collapse whitespace.

Provenance

Rows are selected from shekar-ai/neyshekar-persian-asr-fa, whose labels are prompt/source-text references rather than pseudo-ASR transcripts. The local build manifest is included under metadata/ for audit.

Artifact verification

Local build verification before upload:

• Parquet shards: 5
• Total rows: 6,669
• Total compressed Parquet bytes: 906,699,639
• Total Arrow dataset bytes: 1,211,448,567
• Spot-check audio: 15/15 sampled records were 16 kHz, mono, 16-bit WAV.

See metadata/shard_hashes.json for local SHA-256 hashes.