multivoice-plt / README.md
mimba's picture
Update README.md
638926f verified
|
Raw
History Blame Contribute Delete
7.62 kB
---
language:
- mg
license: cc-by-nc-sa-4.0
pretty_name: Mimba Multi-Voice Malagasy TTS Corpus (plt)
task_categories:
- text-to-speech
tags:
- text-to-speech
- tts
- voice-cloning
- multi-speaker
- speaker-diversity
- malagasy
- plt
- low-resource
- synthetic
- OmniVoice
- OpenVoice
size_categories:
- 10K<n<100K
dataset_info:
features:
- name: id
dtype: string
- name: speaker_id
dtype: int64
- name: speaker_name
dtype: string
- name: text
dtype: string
- name: text_phonemized
dtype: string
- name: audio
dtype: audio
- name: sampling_rate
dtype: int64
- name: duration
dtype: float64
- name: src_idx
dtype: int64
configs:
- config_name: default
data_files:
- split: train
path: data/*.parquet
---
# Mimba Multi-Voice Malagasy TTS Corpus (`plt`)
> ✅ **Dataset complet** — 524 voix × 50 énoncés = **26 200 clips** (5,72 Go).
Un **corpus TTS multi-locuteurs en malgache (Plateau Malagasy, `plt`)**, conçu pour
**finetuner un modèle de clonage vocal** ([BlueTTS](https://github.com/maxmelichov/BlueTTS))
sans perdre sa capacité de **clonage zero-shot**. Chaque voix parle un **malgache à
accent natif** tout en présentant un **timbre distinct**.
> ▶️ **L'audio se joue directement dans le dataset viewer** (colonne `audio` = feature
> 🤗 `Audio` standard). Clique sur une ligne pour écouter.
> ⚠️ **Synthétique, pas humain.** Tout l'audio est généré (voir [Provenance](#comment-il-a-été-produit)
> et [Limites](#limites)). Les phrases sont de vraies phrases malgaches natives, déjà phonémisées.
---
## Résumé
| Propriété | Valeur |
|---|---|
| Langue | Malagasy (`plt` / `mg`) |
| Voix cibles | **524** (timbres distincts) |
| Énoncés par voix | ~50 (fenêtre tournante sur le corpus texte natif) |
| Total | **26 200** clips (5,72 Go) |
| Audio | Mono, **24 000 Hz**, PCM-16 en bytes dans le Parquet (WAV ou **FLAC** sans perte selon le lot) |
| Texte | Phrases **natives** malgaches (`text`) + **phonèmes IPA** (`text_phonemized`) |
| Shards | **`data/{voix}.parquet`** — un fichier par voix (reprise incrémentale) |
---
## Pourquoi ce dataset
Finetuner un TTS de clonage sur **peu de locuteurs** (ici 4 voix natives) fait
s'effondrer l'espace locuteur : le modèle **oublie le clonage** et se met à
**répéter des syllabes** (overfitting). La parade : entraîner sur **des centaines de
timbres**, pour que le modèle apprenne à **séparer le *contenu* du *locuteur***.
Ce corpus fournit cette **diversité de locuteurs** en **malgache natif**, obtenue par
un pipeline en trois temps qui combine le meilleur de deux outils :
| Étape | Outil | Rôle |
|---|---|---|
| **A** | [OmniVoice](https://github.com/k2-fsa/OmniVoice) *Voice Design* | générer ~527 **timbres** variés (couleur de voix) → [`mimba/omnivoice-voicebank`](https://huggingface.co/datasets/mimba/omnivoice-voicebank) |
| **B** | [OpenVoice V2](https://github.com/myshell-ai/OpenVoice) *Voice Conversion* | plaquer ces timbres sur **4 voix natives****références à accent malgache** → [`mimba/plt-multivoice-vc`](https://huggingface.co/datasets/mimba/plt-multivoice-vc) |
| **C** | OmniVoice *clone* (`language_id='plt'`) | générer ce corpus, **propre + accent natif conservé** (ref = clip VC) |
L'accent natif est **porté par la référence** (clip VC issu de voix natives), et
OmniVoice apporte une **synthèse plus limpide** que le transfert de timbre seul.
---
## ⚡ Utilisation
### Charger / écouter
```python
from datasets import load_dataset
ds = load_dataset("mimba/multivoice-plt", split="train")
row = ds[0]
print(row["speaker_name"], "|", row["text"])
audio = row["audio"] # {'array': np.float32[...], 'sampling_rate': 24000}
import IPython.display as ipd
ipd.display(ipd.Audio(audio["array"], rate=audio["sampling_rate"]))
```
### Écouter une voix précise (par shard)
```python
import io, soundfile as sf, pandas as pd
from huggingface_hub import hf_hub_download
d = pd.read_parquet(hf_hub_download("mimba/multivoice-plt",
"data/female_youngadult_high_normal_british.parquet",
repo_type="dataset"))
arr, sr = sf.read(io.BytesIO(d.iloc[0]["audio"]["bytes"]))
ipd.display(ipd.Audio(arr, rate=sr))
```
### Pour l'entraînement
`text_phonemized` est déjà en **IPA compatible** avec le vocabulaire BlueTTS
(pas de G2P à refaire). `speaker_id` identifie chaque voix — **remappe-le en
`0..N-1`** avant l'entraînement (les ids sources ne sont pas contigus).
---
## Champs
| Champ | Type | Description |
|---|---|---|
| `id` | string | `{speaker_name}_{src_idx}` |
| `speaker_id` | int64 | Identifiant de la voix (⚠️ non contigu — à remapper) |
| `speaker_name` | string | Nom du timbre, ex. `female_child_high_normal_indian` |
| `text` | string | Phrase malgache native |
| `text_phonemized` | string | Phonèmes IPA de `text` (prêts pour l'entraînement) |
| `audio` | audio | `{bytes: <WAV ou FLAC, 24 kHz mono PCM-16>, path: None}` — joué par le viewer ; `soundfile` détecte le format par l'en-tête |
| `sampling_rate` | int64 | `24000` |
| `duration` | float64 | Durée du clip (s) |
| `src_idx` | int64 | Index de la phrase source dans le corpus texte |
---
## Comment il a été produit
1. **Timbres (A)** — ~527 voix via OmniVoice Voice Design (attributs, sans référence),
dédupliquées par embedding locuteur → `mimba/omnivoice-voicebank`.
2. **Références natives (B)** — OpenVoice V2 *ToneColorConverter* convertit **4 voix
natives malgaches** vers chacun de ces timbres → clips à **accent malgache** +
timbre unique (`mimba/plt-multivoice-vc`, 1 référence consolidée par timbre dans
`aux/refs.parquet`).
3. **Génération (C)** — pour chaque timbre, OmniVoice **clone** (`ref_audio` = clip VC,
`language_id='plt'`, `num_step=32`, déterministe) ~50 phrases **natives** tirées du
corpus `mimba/styletts2-plt-corpus` (déjà phonémisées ; fenêtre tournante → couverture
large, une paire voix↔phrase quasi unique).
4. **Stockage** — un Parquet par voix (`data/{voix}.parquet`), audio 24 kHz en bytes (WAV puis FLAC),
push incrémental + purge disque (reprenable).
---
## Limites
- **Synthétique, pas humain.** Timbre issu d'OmniVoice, accent hérité des 4 voix
natives via conversion. Qualité et prosodie propres au pipeline.
- **Diversité de texte inégale entre lots.** Les ~250 premières voix ont été générées
depuis un pool réduit (~198 phrases, fortement réutilisées) ; les suivantes tirent dans
**~30 000 phrases uniques** du corpus source. L'ensemble reste largement dominé par le
second lot, mais la répétition n'est pas uniforme d'une voix à l'autre.
- **Labels d'attributs = intention, pas garantie** (hérités des noms de timbres OmniVoice).
- **24 kHz** — resample si ton modèle attend un autre taux d'échantillonnage.
---
## Usage prévu
Finetuning multi-locuteurs de TTS/clonage sur langue peu dotée (projet **Mimba**),
pour **préserver le clonage zero-shot** tout en apprenant à parler **malgache natif**.
---
## Licence
`cc-by-nc-sa-4.0` — usage non commercial, attribution, partage à l'identique.
Vérifier indépendamment les licences d'OmniVoice et d'OpenVoice V2 avant tout usage commercial.
---
## Citation
```bibtex
@misc{mimba2026multivoiceplt,
title = {Mimba Multi-Voice Malagasy TTS Corpus (plt)},
author = {Mimba Ngouana Fofou},
year = {2026},
}
```
##### *Contact: [@Mimba](baounabaouna@gmail.com)*