phoonnx-f5tts / samples /RESULTS.md
Jarbas's picture
docs: listening samples + ASR round-trip intelligibility results (18 wavs)
8700d0a verified
|
Raw
History Blame Contribute Delete
6.21 kB

ASR round-trip intelligibility results

faster-whisper small (CPU int8), language forced per voice. Normalization before scoring: NFC, strip Arabic diacritics/tatweel, lowercase, strip punctuation. Arabic WER is naturally inflated (orthographic variation, dialect vs MSA ASR bias) — CER is the more reliable signal.

voice sample WER CER dur (s) flag
f5tts-v1-base 01_greeting 0.22 0.00 6.0
f5tts-v1-base 02_weather 0.00 0.00 6.7
habibi-tts-unified 01_msa_tech 0.38 0.09 4.4
habibi-tts-unified 02_msa_welcome 0.11 0.04 4.5
habibi-tts-msa 01_msa_tech 0.25 0.04 4.4
habibi-tts-msa 02_msa_weather 0.38 0.06 3.5
habibi-tts-egy 01_msa_tech 0.12 0.04 4.4
habibi-tts-egy 02_egy_weather 0.25 0.10 3.9
habibi-tts-sau 01_msa_tech 0.12 0.04 4.4
habibi-tts-sau 02_sau_weather 0.00 0.00 4.0
habibi-tts-uae 01_msa_tech 0.62 0.11 4.4
habibi-tts-uae 02_uae_weather 0.22 0.09 3.5
habibi-tts-alg 01_msa_tech 0.62 0.15 4.4
habibi-tts-alg 02_alg_weather 0.56 0.16 4.4
habibi-tts-irq 01_msa_tech 0.12 0.04 4.4
habibi-tts-irq 02_irq_weather 0.25 0.05 3.9
habibi-tts-mar 01_msa_tech 0.38 0.04 4.4
habibi-tts-mar 02_mar_weather 0.67 0.16 4.2

Details

f5tts-v1-base / 01_greeting

  • target: Hello there, welcome to the open voice operating system.
  • transcript: Hello there. Welcome to the OpenVoice operating system.
  • WER=0.22 CER=0.00

f5tts-v1-base / 02_weather

  • target: The weather today is sunny with a gentle breeze from the north.
  • transcript: The weather today is sunny, with a gentle breeze from the north.
  • WER=0.00 CER=0.00

habibi-tts-unified / 01_msa_tech

  • target: التكنولوجيا الحديثة غيرت طريقة تواصل الناس حول العالم.
  • transcript: التكنولوجيا الحديثة غير الطريقة التواصل الناس حول العالم
  • WER=0.38 CER=0.09

habibi-tts-unified / 02_msa_welcome

  • target: مرحباً بكم في نظام الصوت المفتوح، يسعدنا انضمامكم إلينا.
  • transcript: مرحبا بكم في نظام الصوت المفتوح يسعدنا نظمامكم إلينا
  • WER=0.11 CER=0.04

habibi-tts-msa / 01_msa_tech

  • target: التكنولوجيا الحديثة غيرت طريقة تواصل الناس حول العالم.
  • transcript: التكنولوجيا الحديثة غير الطريقة تواصل الناس حول العالم
  • WER=0.25 CER=0.04

habibi-tts-msa / 02_msa_weather

  • target: الطقس اليوم مشمس وجميل في معظم مناطق البلاد.
  • transcript: التقص اليوم مش مس وجميل في معظم مناطق البلاد
  • WER=0.38 CER=0.06

habibi-tts-egy / 01_msa_tech

  • target: التكنولوجيا الحديثة غيرت طريقة تواصل الناس حول العالم.
  • transcript: التكنولوجيا الحديثة غيرت طريقة التواصل الناس حول العالم
  • WER=0.12 CER=0.04

habibi-tts-egy / 02_egy_weather

  • target: النهاردة الجو جميل جداً في القاهرة والناس مبسوطة.
  • transcript: أنهارد الجوي جميل جداً في القاهرة والناس مبسوطة
  • WER=0.25 CER=0.10

habibi-tts-sau / 01_msa_tech

  • target: التكنولوجيا الحديثة غيرت طريقة تواصل الناس حول العالم.
  • transcript: التكنولوجيا الحديثة غيرت طريقة التواصل الناس حول العالم
  • WER=0.12 CER=0.04

habibi-tts-sau / 02_sau_weather

  • target: اليوم الجو حلو مرة في الرياض والناس طالعين يتمشون.
  • transcript: اليوم الجو حلو مرة في الرياض والناس طالعين يتمشون
  • WER=0.00 CER=0.00

habibi-tts-uae / 01_msa_tech

  • target: التكنولوجيا الحديثة غيرت طريقة تواصل الناس حول العالم.
  • transcript: تل تكنولوجيا الحديثة غير الطريقة التواصل الناس حول العالم
  • WER=0.62 CER=0.11

habibi-tts-uae / 02_uae_weather

  • target: اليوم الجو وايد حلو في دبي والناس كلهم برع.
  • transcript: دا اليوم الجو وايض حلو في دبي والناس كلهم برع
  • WER=0.22 CER=0.09

habibi-tts-alg / 01_msa_tech

  • target: التكنولوجيا الحديثة غيرت طريقة تواصل الناس حول العالم.
  • transcript: تلتكنولوجي الحديث غير الطريق التواصل الناس حول العالم
  • WER=0.62 CER=0.15

habibi-tts-alg / 02_alg_weather

  • target: اليوم الجو شباب بزاف في الجزائر والناس خارجين يتساراو.
  • transcript: دا اليوم الجوش باب بزاف الجزائر والناس خارجين يتصارعوا
  • WER=0.56 CER=0.16

habibi-tts-irq / 01_msa_tech

  • target: التكنولوجيا الحديثة غيرت طريقة تواصل الناس حول العالم.
  • transcript: التكنولوجيا الحديثة غيرت طريقة التواصل الناس حول العالم
  • WER=0.12 CER=0.04

habibi-tts-irq / 02_irq_weather

  • target: اليوم الجو حلو هواية ببغداد والناس طالعين يتمشون.
  • transcript: تاليوم الجو حلو هواية ببقداد والناس طالعين يتمشون
  • WER=0.25 CER=0.05

habibi-tts-mar / 01_msa_tech

  • target: التكنولوجيا الحديثة غيرت طريقة تواصل الناس حول العالم.
  • transcript: دل تكنولوجيا الحديثة غير طريقة تواصل الناس حول العالم
  • WER=0.38 CER=0.04

habibi-tts-mar / 02_mar_weather

  • target: اليوم الجو زوين بزاف في الرباط والناس خارجين يتسارا.
  • transcript: كاليوم الجوزوين بالزاف الرباط والناس خارجين يتسعر
  • WER=0.67 CER=0.16