multivoice-plt / README.md
mimba's picture
Update README.md
638926f verified
|
Raw
History Blame Contribute Delete
7.62 kB
metadata
language:
  - mg
license: cc-by-nc-sa-4.0
pretty_name: Mimba Multi-Voice Malagasy TTS Corpus (plt)
task_categories:
  - text-to-speech
tags:
  - text-to-speech
  - tts
  - voice-cloning
  - multi-speaker
  - speaker-diversity
  - malagasy
  - plt
  - low-resource
  - synthetic
  - OmniVoice
  - OpenVoice
size_categories:
  - 10K<n<100K
dataset_info:
  features:
    - name: id
      dtype: string
    - name: speaker_id
      dtype: int64
    - name: speaker_name
      dtype: string
    - name: text
      dtype: string
    - name: text_phonemized
      dtype: string
    - name: audio
      dtype: audio
    - name: sampling_rate
      dtype: int64
    - name: duration
      dtype: float64
    - name: src_idx
      dtype: int64
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/*.parquet

Mimba Multi-Voice Malagasy TTS Corpus (plt)

Dataset complet — 524 voix × 50 énoncés = 26 200 clips (5,72 Go).

Un corpus TTS multi-locuteurs en malgache (Plateau Malagasy, plt), conçu pour finetuner un modèle de clonage vocal (BlueTTS) sans perdre sa capacité de clonage zero-shot. Chaque voix parle un malgache à accent natif tout en présentant un timbre distinct.

▶️ L'audio se joue directement dans le dataset viewer (colonne audio = feature 🤗 Audio standard). Clique sur une ligne pour écouter.

⚠️ Synthétique, pas humain. Tout l'audio est généré (voir Provenance et Limites). Les phrases sont de vraies phrases malgaches natives, déjà phonémisées.


Résumé

Propriété Valeur
Langue Malagasy (plt / mg)
Voix cibles 524 (timbres distincts)
Énoncés par voix ~50 (fenêtre tournante sur le corpus texte natif)
Total 26 200 clips (5,72 Go)
Audio Mono, 24 000 Hz, PCM-16 en bytes dans le Parquet (WAV ou FLAC sans perte selon le lot)
Texte Phrases natives malgaches (text) + phonèmes IPA (text_phonemized)
Shards data/{voix}.parquet — un fichier par voix (reprise incrémentale)

Pourquoi ce dataset

Finetuner un TTS de clonage sur peu de locuteurs (ici 4 voix natives) fait s'effondrer l'espace locuteur : le modèle oublie le clonage et se met à répéter des syllabes (overfitting). La parade : entraîner sur des centaines de timbres, pour que le modèle apprenne à séparer le contenu du locuteur.

Ce corpus fournit cette diversité de locuteurs en malgache natif, obtenue par un pipeline en trois temps qui combine le meilleur de deux outils :

Étape Outil Rôle
A OmniVoice Voice Design générer ~527 timbres variés (couleur de voix) → mimba/omnivoice-voicebank
B OpenVoice V2 Voice Conversion plaquer ces timbres sur 4 voix nativesréférences à accent malgachemimba/plt-multivoice-vc
C OmniVoice clone (language_id='plt') générer ce corpus, propre + accent natif conservé (ref = clip VC)

L'accent natif est porté par la référence (clip VC issu de voix natives), et OmniVoice apporte une synthèse plus limpide que le transfert de timbre seul.


⚡ Utilisation

Charger / écouter

from datasets import load_dataset

ds = load_dataset("mimba/multivoice-plt", split="train")
row = ds[0]
print(row["speaker_name"], "|", row["text"])
audio = row["audio"]          # {'array': np.float32[...], 'sampling_rate': 24000}

import IPython.display as ipd
ipd.display(ipd.Audio(audio["array"], rate=audio["sampling_rate"]))

Écouter une voix précise (par shard)

import io, soundfile as sf, pandas as pd
from huggingface_hub import hf_hub_download

d = pd.read_parquet(hf_hub_download("mimba/multivoice-plt",
                                    "data/female_youngadult_high_normal_british.parquet",
                                    repo_type="dataset"))
arr, sr = sf.read(io.BytesIO(d.iloc[0]["audio"]["bytes"]))
ipd.display(ipd.Audio(arr, rate=sr))

Pour l'entraînement

text_phonemized est déjà en IPA compatible avec le vocabulaire BlueTTS (pas de G2P à refaire). speaker_id identifie chaque voix — remappe-le en 0..N-1 avant l'entraînement (les ids sources ne sont pas contigus).


Champs

Champ Type Description
id string {speaker_name}_{src_idx}
speaker_id int64 Identifiant de la voix (⚠️ non contigu — à remapper)
speaker_name string Nom du timbre, ex. female_child_high_normal_indian
text string Phrase malgache native
text_phonemized string Phonèmes IPA de text (prêts pour l'entraînement)
audio audio {bytes: <WAV ou FLAC, 24 kHz mono PCM-16>, path: None} — joué par le viewer ; soundfile détecte le format par l'en-tête
sampling_rate int64 24000
duration float64 Durée du clip (s)
src_idx int64 Index de la phrase source dans le corpus texte

Comment il a été produit

  1. Timbres (A) — ~527 voix via OmniVoice Voice Design (attributs, sans référence), dédupliquées par embedding locuteur → mimba/omnivoice-voicebank.
  2. Références natives (B) — OpenVoice V2 ToneColorConverter convertit 4 voix natives malgaches vers chacun de ces timbres → clips à accent malgache + timbre unique (mimba/plt-multivoice-vc, 1 référence consolidée par timbre dans aux/refs.parquet).
  3. Génération (C) — pour chaque timbre, OmniVoice clone (ref_audio = clip VC, language_id='plt', num_step=32, déterministe) ~50 phrases natives tirées du corpus mimba/styletts2-plt-corpus (déjà phonémisées ; fenêtre tournante → couverture large, une paire voix↔phrase quasi unique).
  4. Stockage — un Parquet par voix (data/{voix}.parquet), audio 24 kHz en bytes (WAV puis FLAC), push incrémental + purge disque (reprenable).

Limites

  • Synthétique, pas humain. Timbre issu d'OmniVoice, accent hérité des 4 voix natives via conversion. Qualité et prosodie propres au pipeline.
  • Diversité de texte inégale entre lots. Les 250 premières voix ont été générées depuis un pool réduit (198 phrases, fortement réutilisées) ; les suivantes tirent dans ~30 000 phrases uniques du corpus source. L'ensemble reste largement dominé par le second lot, mais la répétition n'est pas uniforme d'une voix à l'autre.
  • Labels d'attributs = intention, pas garantie (hérités des noms de timbres OmniVoice).
  • 24 kHz — resample si ton modèle attend un autre taux d'échantillonnage.

Usage prévu

Finetuning multi-locuteurs de TTS/clonage sur langue peu dotée (projet Mimba), pour préserver le clonage zero-shot tout en apprenant à parler malgache natif.


Licence

cc-by-nc-sa-4.0 — usage non commercial, attribution, partage à l'identique. Vérifier indépendamment les licences d'OmniVoice et d'OpenVoice V2 avant tout usage commercial.


Citation

@misc{mimba2026multivoiceplt,
  title  = {Mimba Multi-Voice Malagasy TTS Corpus (plt)},
  author = {Mimba Ngouana Fofou},
  year   = {2026},
}
Contact: @Mimba