Datasets:
metadata
language:
- plt
license: cc-by-nc-sa-4.0
size_categories:
- 1M<n<10M
task_categories:
- text-generation
pretty_name: Mimba PL-BERT
tags:
- text
- low-resource-languages
- malagasy
- pl-bert
dataset_info:
features:
- name: text
dtype: string
splits:
- name: plt
num_bytes: 391960035
num_examples: 3939749
download_size: 219515725
dataset_size: 391960035
configs:
- config_name: default
data_files:
- split: plt
path: data/plt-*
PL-BERT Malgache (mimba/pl-bert)
Ce dataset contient des phrases en malgache hautement nettoyées et filtrées, spécialement formatées pour l'entraînement de modèles de traitement du langage naturel orientés Text-To-Speech (TTS), comme PL-BERT (vocal-cloning et alignement).
Les données proviennent de sources combinées après l'application de filtres de qualité stricts (longueur des phrases, dédoublonnage, exclusion des caractères parasites d'interfaces et des langues étrangères).
Structure du Dataset
Le dataset est structuré sous un split unique personnalisé afin de pouvoir accueillir d'autres langues ou configurations à l'avenir :
- Split :
plt - Format : Parquet
- Colonne :
text(chaîne de caractères contenant la phrase en malgache)
Utilisation avec la bibliothèque datasets
Pour charger ce split spécifique dans vos scripts d'entraînement, utilisez simplement :
from datasets import load_dataset
dataset = load_dataset("mimba/pl-bert", split="plt")
print(dataset[0])