multivoice-nnh / README.md
mimba's picture
Create README.md
a672332 verified
|
Raw
History Blame Contribute Delete
8.53 kB
metadata
language:
  - nnh
license: cc-by-nc-sa-4.0
pretty_name: Mimba Multi-Voice Ngiemboon TTS Corpus (nnh)
task_categories:
  - text-to-speech
tags:
  - text-to-speech
  - tts
  - voice-cloning
  - multi-speaker
  - speaker-diversity
  - ngiemboon
  - nnh
  - cameroon
  - african-languages
  - low-resource
  - tonal
  - synthetic
  - OmniVoice
  - OpenVoice
size_categories:
  - 10K<n<100K
dataset_info:
  features:
    - name: id
      dtype: string
    - name: speaker_id
      dtype: int64
    - name: speaker_name
      dtype: string
    - name: text
      dtype: string
    - name: text_phonemized
      dtype: string
    - name: audio
      dtype: audio
    - name: sampling_rate
      dtype: int64
    - name: duration
      dtype: float64
    - name: src_idx
      dtype: int64
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/*.parquet

Mimba Multi-Voice Ngiemboon TTS Corpus (nnh)

Un corpus TTS multi-locuteurs en ngiemboon (Grassfields Bantu, ouest du Cameroun), conçu pour finetuner un modèle de clonage vocal (BlueTTS) sans lui faire perdre sa capacité de clonage zero-shot.

Chaque clip associe une phrase ngiemboon, sa transcription phonémique IPA et un audio porté par l'un de ~525 timbres distincts.

▶️ L'audio se joue directement dans le dataset viewer (colonne audio = feature 🤗 Audio).

⚠️ Entièrement synthétique. Aucune voix humaine n'a été enregistrée pour ce corpus. Voir Provenance et Limites.


Résumé

Propriété Valeur
Langue Ngiemboon (nnh), Cameroun — langue tonale
Voix ~525 timbres distincts
Énoncés par voix 50 (fenêtre tournante sur le corpus texte)
Total ~26 250 clips
Audio Mono, 24 000 Hz, FLAC (sans perte) en bytes dans le Parquet
Texte Phrase ngiemboon (text) + phonèmes IPA (text_phonemized)
Shards data/{voix}.parquet — un fichier par voix

Pourquoi ce dataset

Finetuner un TTS de clonage sur peu de locuteurs détruit l'espace locuteur : le modèle oublie le clonage et se met à répéter des syllabes. Mesuré sur un run précédent avec 4 voix : la similarité locuteur s'effondrait de 0,45 à 0,22 en 1 000 steps.

La parade : entraîner sur des centaines de timbres, pour que le modèle apprenne à séparer le contenu du locuteur. La diversité remplace le gel des poids.

Étape Outil Rôle
A OmniVoice Voice Design ~527 timbres variés → mimba/omnivoice-voicebank
B OpenVoice V2 Voice Conversion plaque ces timbres sur les 6 voix nnh du corpus source → références à accent ngiemboonmimba/nnh-multivoice-vc
C OmniVoice clone (language_id='nnh') génère ce corpus : propre, accent conservé (ref = clip VC)

L'accent est porté par la référence (issue de voix ngiemboon), la conversion de timbre ne changeant que la couleur de voix — prononciation, rythme et tons sont hérités de la source.


Phonémisation

Le corpus source ne fournit que du texte : text_phonemized est calculé par nnh_g2p.py, une translittération orthographe AGLC → IPA.

  • L'orthographe ngiemboon est phonémique (Alphabet Général des Langues Camerounaises) : une lettre = un phonème, et plusieurs lettres sont déjà des symboles IPA (ɛ ɔ ŋ ʉ).
  • Les tons sont CONSERVÉS : ◌́ (haut), ◌̀ (bas descendant), ◌̂ (descendant), ◌̌ (montant) ; le ton bas simple reste non marqué, comme dans l'orthographe. Les phonèmes sont livrés en forme décomposée (NFD) — c'est le diacritique combinant qui figure dans le vocabulaire BlueTTS, pas la lettre précomposée.
  • L'apostrophe ʼ note l'occlusive glottale /ʔ/.
  • La prénasalisation (mb, nd, ng…) est ramenée à la nasale pleine (m, n, ŋ) : les marqueurs en exposant ᵐ ⁿ ᵑ sont les seuls symboles absents du vocabulaire BlueTTS.

Couverture vérifiée sur 3 000 phrases : 100 % des caractères produits existent dans le vocabulaire (244 entrées) — aucun phonème perdu en PAD.


⚡ Utilisation

from datasets import load_dataset

ds = load_dataset("mimba/multivoice-nnh", split="train")
row = ds[0]
print(row["speaker_name"], "|", row["text"])
print(row["text_phonemized"])
audio = row["audio"]          # {'array': np.float32[...], 'sampling_rate': 24000}

import IPython.display as ipd
ipd.display(ipd.Audio(audio["array"], rate=audio["sampling_rate"]))

Écouter une voix précise :

import io, soundfile as sf, pandas as pd
from huggingface_hub import hf_hub_download

d = pd.read_parquet(hf_hub_download("mimba/multivoice-nnh",
                                    "data/female_youngadult_high_normal_british.parquet",
                                    repo_type="dataset"))
arr, sr = sf.read(io.BytesIO(d.iloc[0]["audio"]["bytes"]))   # FLAC lu directement

Pour l'entraînement : text_phonemized est prêt à l'emploi (aucun G2P à refaire), mais speaker_id doit être remappé en 0..N-1 — les ids sources ne sont pas contigus.


Champs

Champ Type Description
id string {speaker_name}_{src_idx}
speaker_id int64 Identifiant de la voix (⚠️ non contigu — à remapper)
speaker_name string Nom du timbre, ex. female_child_high_normal_indian
text string Phrase ngiemboon
text_phonemized string Phonèmes IPA, tons conservés, forme décomposée
audio audio {bytes: <FLAC 24 kHz mono PCM-16>, path: None}
sampling_rate int64 24000
duration float64 Durée du clip (s)
src_idx int64 Index de la phrase dans le corpus texte

Comment il a été produit

  1. Timbres — ~527 voix via OmniVoice Voice Design (attributs, sans référence audio), dédupliquées par embedding locuteur.
  2. Références — OpenVoice V2 ToneColorConverter convertit les 6 voix de mimba/nnh-tts-dataset vers chacun de ces timbres.
  3. Génération — pour chaque timbre, OmniVoice clone (ref_audio = clip VC, language_id='nnh', num_step=32, déterministe) 50 phrases tirées de mimba/text2text (nnh_fra), phonémisées à la volée. Fenêtre tournante : chaque voix reçoit des phrases différentes.
  4. Stockage — un Parquet par voix, FLAC 24 kHz en bytes, push incrémental et reprenable.

Limites

  • Chaîne synthétique longue. Contrairement à son équivalent malgache, qui part de 4 voix humaines réelles, ce corpus s'appuie sur mimba/nnh-tts-dataset, lui-même généré par TTS. L'accent ngiemboon est donc hérité au second degré : toute imperfection des 6 voix de référence se propage ici.
  • G2P non validé par un locuteur. nnh_g2p.py est construit à partir de la charte alphabétique et de la littérature (SIL / AGLC) — il n'a pas été vérifié à l'oreille par un locuteur natif. Les valeurs de /ÿ et les réalisations contextuelles de b, d, g restent incertaines.
  • Tons présents mais non évalués. Ils sont transmis au modèle ; que celui-ci les restitue audiblement reste à démontrer par écoute.
  • Diversité de contenu bornée par le corpus texte source.
  • 24 kHz — rééchantillonner si le modèle cible attend autre chose.

Usage prévu

Finetuning multi-locuteurs de TTS/clonage pour une langue peu dotée (projet Mimba) : apprendre à parler ngiemboon sans perdre le clonage zero-shot.


Licence

cc-by-nc-sa-4.0 — usage non commercial, attribution, partage à l'identique. Vérifier indépendamment les licences d'OmniVoice et d'OpenVoice V2 avant tout usage commercial.


Citation

@misc{mimba2026multivoicennh,
  title  = {Mimba Multi-Voice Ngiemboon TTS Corpus (nnh)},
  author = {Mimba Ngouana Fofou},
  year   = {2026},
}
Contact : @Mimba