pl-bert / README.md
mimba's picture
Update README.md
8f4e133 verified
|
Raw
History Blame Contribute Delete
1.52 kB
metadata
language:
  - plt
license: cc-by-nc-sa-4.0
size_categories:
  - 1M<n<10M
task_categories:
  - text-generation
pretty_name: Mimba PL-BERT
tags:
  - text
  - low-resource-languages
  - malagasy
  - pl-bert
dataset_info:
  features:
    - name: text
      dtype: string
  splits:
    - name: plt
      num_bytes: 391960035
      num_examples: 3939749
  download_size: 219515725
  dataset_size: 391960035
configs:
  - config_name: default
    data_files:
      - split: plt
        path: data/plt-*

PL-BERT Malgache (mimba/pl-bert)

Ce dataset contient des phrases en malgache hautement nettoyées et filtrées, spécialement formatées pour l'entraînement de modèles de traitement du langage naturel orientés Text-To-Speech (TTS), comme PL-BERT (vocal-cloning et alignement).

Les données proviennent de sources combinées après l'application de filtres de qualité stricts (longueur des phrases, dédoublonnage, exclusion des caractères parasites d'interfaces et des langues étrangères).

Structure du Dataset

Le dataset est structuré sous un split unique personnalisé afin de pouvoir accueillir d'autres langues ou configurations à l'avenir :

  • Split : plt
  • Format : Parquet
  • Colonne : text (chaîne de caractères contenant la phrase en malgache)

Utilisation avec la bibliothèque datasets

Pour charger ce split spécifique dans vos scripts d'entraînement, utilisez simplement :

from datasets import load_dataset

dataset = load_dataset("mimba/pl-bert", split="plt")
print(dataset[0])