README.md

metadata

license: apache-2.0
task_categories:
  - translation
language:
  - pt
  - en
  - es
pretty_name: MiniTranslatorDataset
size_categories:
  - 1K<n<10K
tags:
  - translation
  - multilingual
  - machine-translation
  - natural-language-processing
  - nlp
  - portuguese
  - english
  - spanish
  - parallel-corpus
  - text
  - language
format:
  - csv

MiniTranslatorDataset

O MiniTranslatorDataset é um dataset de tradução multilíngue com 1.000 exemplos, reunindo Português, Inglês e Espanhol.

Ele foi pensado como uma base inicial para ser expandida e aprimorada. A proposta não é tentar ser um grande corpus definitivo, mas oferecer uma estrutura simples sobre a qual novos exemplos podem ser adicionados e os dados existentes podem ser revisados e melhorados.

Idiomas

O dataset trabalha com três idiomas:

• Português (pt)
• Inglês (en)
• Espanhol (es)

As traduções podem ocorrer entre os diferentes idiomas presentes no dataset.

Estrutura dos dados

Os dados estão disponíveis no arquivo:

dataset.csv

O arquivo utiliza CSV e possui as seguintes colunas:

Coluna	Descrição
source_language	Idioma do texto original
target_language	Idioma para o qual o texto é traduzido
source_text	Texto original
target_text	Tradução do texto original

Um exemplo da estrutura:

source_language,target_language,source_text,target_text
pt,en,"Olá, tudo bem?","Hello, how are you?"
en,es,"I like learning new things.","Me gusta aprender cosas nuevas."
es,pt,"Hoy tenemos una reunión.","Hoje temos uma reunião."

Quantidade

A versão atual contém:

1.000 exemplos de tradução.

Esse número não representa um limite do projeto. O dataset foi estruturado para que novos exemplos possam ser adicionados posteriormente.

Objetivo

O MiniTranslatorDataset serve como uma base para projetos que precisam trabalhar com tradução entre Português, Inglês e Espanhol.

Ele pode ser utilizado para:

• treinamento e fine-tuning de modelos;
• desenvolvimento de sistemas de tradução;
• experimentos com modelos multilíngues;
• criação de protótipos;
• avaliação de modelos de tradução;
• desenvolvimento de projetos de NLP.

A ideia principal é que o dataset possa ser continuamente melhorado, tanto em quantidade quanto em qualidade.

Expansão e melhorias

O dataset pode receber novos exemplos ao longo do tempo.

Além de simplesmente aumentar a quantidade de dados, melhorias futuras podem incluir:

• correção de traduções;
• inclusão de frases mais naturais;
• maior variedade de vocabulário;
• maior variedade de contextos;
• equilíbrio entre as direções de tradução;
• revisão dos exemplos existentes;
• inclusão de frases com diferentes níveis de complexidade.

Contribuições que melhorem os dados são bem-vindas.

Carregando o dataset

Python + pandas

import pandas as pd

df = pd.read_csv("dataset.csv")

print(df.head())

Hugging Face Datasets

O CSV pode ser carregado diretamente com a biblioteca datasets:

from datasets import load_dataset

dataset = load_dataset("SynastriaNetworks/MiniTranslatorDataset")

print(dataset)

Os exemplos podem então ser acessados normalmente:

print(dataset["train"][0])

Licença

O MiniTranslatorDataset é disponibilizado sob a Apache License 2.0.

Você pode usar, modificar e redistribuir o dataset de acordo com os termos da licença, inclusive em projetos comerciais.

Consulte o arquivo LICENSE para o texto completo da licença.

Arquivo

dataset.csv

O arquivo contém os 1.000 exemplos atualmente disponíveis no dataset.

Resumo

Nome: MiniTranslatorDataset Exemplos: 1.000 Formato: CSV Arquivo: dataset.csv Idiomas: Português, Inglês e Espanhol Tarefa: Tradução Licença: Apache 2.0

Status

Versão inicial.

O MiniTranslatorDataset começa com 1.000 exemplos e foi criado para continuar evoluindo. Novos dados, correções e melhorias podem ser incorporados conforme o dataset for desenvolvido.