multivoice-nnh / README.md
mimba's picture
Create README.md
a672332 verified
|
Raw
History Blame Contribute Delete
8.53 kB
---
language:
- nnh
license: cc-by-nc-sa-4.0
pretty_name: Mimba Multi-Voice Ngiemboon TTS Corpus (nnh)
task_categories:
- text-to-speech
tags:
- text-to-speech
- tts
- voice-cloning
- multi-speaker
- speaker-diversity
- ngiemboon
- nnh
- cameroon
- african-languages
- low-resource
- tonal
- synthetic
- OmniVoice
- OpenVoice
size_categories:
- 10K<n<100K
dataset_info:
features:
- name: id
dtype: string
- name: speaker_id
dtype: int64
- name: speaker_name
dtype: string
- name: text
dtype: string
- name: text_phonemized
dtype: string
- name: audio
dtype: audio
- name: sampling_rate
dtype: int64
- name: duration
dtype: float64
- name: src_idx
dtype: int64
configs:
- config_name: default
data_files:
- split: train
path: data/*.parquet
---
# Mimba Multi-Voice Ngiemboon TTS Corpus (`nnh`)
Un corpus TTS **multi-locuteurs en ngiemboon** (Grassfields Bantu, ouest du Cameroun),
conçu pour **finetuner un modèle de clonage vocal** ([BlueTTS](https://github.com/maxmelichov/BlueTTS))
sans lui faire perdre sa capacité de **clonage zero-shot**.
Chaque clip associe une phrase ngiemboon, sa **transcription phonémique IPA** et un audio
porté par l'un de **~525 timbres distincts**.
> ▶️ **L'audio se joue directement dans le dataset viewer** (colonne `audio` = feature 🤗 `Audio`).
> ⚠️ **Entièrement synthétique.** Aucune voix humaine n'a été enregistrée pour ce corpus.
> Voir [Provenance](#comment-il-a-été-produit) et [Limites](#limites).
---
## Résumé
| Propriété | Valeur |
|---|---|
| Langue | Ngiemboon (`nnh`), Cameroun — langue **tonale** |
| Voix | **~525** timbres distincts |
| Énoncés par voix | 50 (fenêtre tournante sur le corpus texte) |
| Total | **~26 250** clips |
| Audio | Mono, **24 000 Hz**, **FLAC** (sans perte) en bytes dans le Parquet |
| Texte | Phrase ngiemboon (`text`) + **phonèmes IPA** (`text_phonemized`) |
| Shards | `data/{voix}.parquet` — un fichier par voix |
---
## Pourquoi ce dataset
Finetuner un TTS de clonage sur **peu de locuteurs** détruit l'espace locuteur : le modèle
oublie le clonage et se met à **répéter des syllabes**. Mesuré sur un run précédent avec
4 voix : la similarité locuteur s'effondrait de **0,45 à 0,22 en 1 000 steps**.
La parade : entraîner sur **des centaines de timbres**, pour que le modèle apprenne à
**séparer le contenu du locuteur**. La diversité remplace le gel des poids.
| Étape | Outil | Rôle |
|---|---|---|
| **A** | [OmniVoice](https://github.com/k2-fsa/OmniVoice) *Voice Design* | ~527 **timbres** variés → [`mimba/omnivoice-voicebank`](https://huggingface.co/datasets/mimba/omnivoice-voicebank) |
| **B** | [OpenVoice V2](https://github.com/myshell-ai/OpenVoice) *Voice Conversion* | plaque ces timbres sur les **6 voix nnh** du corpus source → **références à accent ngiemboon** → [`mimba/nnh-multivoice-vc`](https://huggingface.co/datasets/mimba/nnh-multivoice-vc) |
| **C** | OmniVoice *clone* (`language_id='nnh'`) | génère ce corpus : **propre, accent conservé** (ref = clip VC) |
L'accent est **porté par la référence** (issue de voix ngiemboon), la conversion de timbre
ne changeant que la couleur de voix — prononciation, rythme et tons sont hérités de la source.
---
## Phonémisation
Le corpus source ne fournit que du texte : `text_phonemized` est **calculé** par
[`nnh_g2p.py`](https://huggingface.co/datasets/mimba/multivoice-nnh), une translittération
orthographe AGLC → IPA.
- **L'orthographe ngiemboon est phonémique** (Alphabet Général des Langues Camerounaises) :
une lettre = un phonème, et plusieurs lettres *sont* déjà des symboles IPA (`ɛ ɔ ŋ ʉ`).
- **Les tons sont CONSERVÉS** : `◌́` (haut), `◌̀` (bas descendant), `◌̂` (descendant),
`◌̌` (montant) ; le ton bas simple reste non marqué, comme dans l'orthographe.
Les phonèmes sont livrés en forme **décomposée** (NFD) — c'est le diacritique combinant
qui figure dans le vocabulaire BlueTTS, pas la lettre précomposée.
- L'apostrophe `ʼ` note l'**occlusive glottale** `/ʔ/`.
- La **prénasalisation** (`mb`, `nd`, `ng`…) est ramenée à la nasale pleine (`m`, `n`, `ŋ`) :
les marqueurs en exposant `ᵐ ⁿ ᵑ` sont les **seuls** symboles absents du vocabulaire BlueTTS.
Couverture vérifiée sur 3 000 phrases : **100 %** des caractères produits existent dans le
vocabulaire (244 entrées) — aucun phonème perdu en `PAD`.
---
## ⚡ Utilisation
```python
from datasets import load_dataset
ds = load_dataset("mimba/multivoice-nnh", split="train")
row = ds[0]
print(row["speaker_name"], "|", row["text"])
print(row["text_phonemized"])
audio = row["audio"] # {'array': np.float32[...], 'sampling_rate': 24000}
import IPython.display as ipd
ipd.display(ipd.Audio(audio["array"], rate=audio["sampling_rate"]))
```
Écouter une voix précise :
```python
import io, soundfile as sf, pandas as pd
from huggingface_hub import hf_hub_download
d = pd.read_parquet(hf_hub_download("mimba/multivoice-nnh",
"data/female_youngadult_high_normal_british.parquet",
repo_type="dataset"))
arr, sr = sf.read(io.BytesIO(d.iloc[0]["audio"]["bytes"])) # FLAC lu directement
```
**Pour l'entraînement** : `text_phonemized` est prêt à l'emploi (aucun G2P à refaire), mais
`speaker_id` doit être **remappé en `0..N-1`** — les ids sources ne sont pas contigus.
---
## Champs
| Champ | Type | Description |
|---|---|---|
| `id` | string | `{speaker_name}_{src_idx}` |
| `speaker_id` | int64 | Identifiant de la voix (⚠️ non contigu — à remapper) |
| `speaker_name` | string | Nom du timbre, ex. `female_child_high_normal_indian` |
| `text` | string | Phrase ngiemboon |
| `text_phonemized` | string | Phonèmes IPA, **tons conservés**, forme décomposée |
| `audio` | audio | `{bytes: <FLAC 24 kHz mono PCM-16>, path: None}` |
| `sampling_rate` | int64 | `24000` |
| `duration` | float64 | Durée du clip (s) |
| `src_idx` | int64 | Index de la phrase dans le corpus texte |
---
## Comment il a été produit
1. **Timbres** — ~527 voix via OmniVoice Voice Design (attributs, sans référence audio),
dédupliquées par embedding locuteur.
2. **Références** — OpenVoice V2 *ToneColorConverter* convertit les **6 voix** de
[`mimba/nnh-tts-dataset`](https://huggingface.co/datasets/mimba/nnh-tts-dataset) vers
chacun de ces timbres.
3. **Génération** — pour chaque timbre, OmniVoice **clone** (`ref_audio` = clip VC,
`language_id='nnh'`, `num_step=32`, déterministe) 50 phrases tirées de
[`mimba/text2text`](https://huggingface.co/datasets/mimba/text2text) (`nnh_fra`),
phonémisées à la volée. Fenêtre tournante : chaque voix reçoit des phrases différentes.
4. **Stockage** — un Parquet par voix, FLAC 24 kHz en bytes, push incrémental et reprenable.
---
## Limites
- **Chaîne synthétique longue.** Contrairement à son équivalent malgache, qui part de
**4 voix humaines réelles**, ce corpus s'appuie sur `mimba/nnh-tts-dataset`, lui-même
**généré par TTS**. L'accent ngiemboon est donc hérité *au second degré* : toute
imperfection des 6 voix de référence se propage ici.
- **G2P non validé par un locuteur.** `nnh_g2p.py` est construit à partir de la charte
alphabétique et de la littérature (SIL / AGLC) — **il n'a pas été vérifié à l'oreille par
un locuteur natif**. Les valeurs de `ẅ`/`ÿ` et les réalisations contextuelles de `b`, `d`,
`g` restent incertaines.
- **Tons présents mais non évalués.** Ils sont transmis au modèle ; que celui-ci les
restitue *audiblement* reste à démontrer par écoute.
- **Diversité de contenu bornée** par le corpus texte source.
- **24 kHz** — rééchantillonner si le modèle cible attend autre chose.
---
## Usage prévu
Finetuning multi-locuteurs de TTS/clonage pour une langue peu dotée (projet **Mimba**) :
apprendre à parler ngiemboon **sans perdre** le clonage zero-shot.
---
## Licence
`cc-by-nc-sa-4.0` — usage non commercial, attribution, partage à l'identique.
Vérifier indépendamment les licences d'OmniVoice et d'OpenVoice V2 avant tout usage commercial.
---
## Citation
```bibtex
@misc{mimba2026multivoicennh,
title = {Mimba Multi-Voice Ngiemboon TTS Corpus (nnh)},
author = {Mimba Ngouana Fofou},
year = {2026},
}
```
##### *Contact : [@Mimba](baounabaouna@gmail.com)*