arthurg-santos's picture
Update README.md
dcb2602 verified
|
Raw
History Blame
4.27 kB
---
license: apache-2.0
task_categories:
- translation
language:
- pt
- en
- es
pretty_name: MiniTranslatorDataset
size_categories:
- 1K<n<10K
tags:
- translation
- multilingual
- machine-translation
- natural-language-processing
- nlp
- portuguese
- english
- spanish
- parallel-corpus
- text
- language
format:
- csv
---
# MiniTranslatorDataset
O **MiniTranslatorDataset** é um dataset de tradução multilíngue com **1.000 exemplos**, reunindo **Português, Inglês e Espanhol**.
Ele foi pensado como uma **base inicial para ser expandida e aprimorada**. A proposta não é tentar ser um grande corpus definitivo, mas oferecer uma estrutura simples sobre a qual novos exemplos podem ser adicionados e os dados existentes podem ser revisados e melhorados.
## Idiomas
O dataset trabalha com três idiomas:
* Português (`pt`)
* Inglês (`en`)
* Espanhol (`es`)
As traduções podem ocorrer entre os diferentes idiomas presentes no dataset.
## Estrutura dos dados
Os dados estão disponíveis no arquivo:
```text
dataset.csv
```
O arquivo utiliza CSV e possui as seguintes colunas:
| Coluna | Descrição |
| ----------------- | -------------------------------------- |
| `source_language` | Idioma do texto original |
| `target_language` | Idioma para o qual o texto é traduzido |
| `source_text` | Texto original |
| `target_text` | Tradução do texto original |
Um exemplo da estrutura:
```csv
source_language,target_language,source_text,target_text
pt,en,"Olá, tudo bem?","Hello, how are you?"
en,es,"I like learning new things.","Me gusta aprender cosas nuevas."
es,pt,"Hoy tenemos una reunión.","Hoje temos uma reunião."
```
## Quantidade
A versão atual contém:
**1.000 exemplos de tradução.**
Esse número não representa um limite do projeto. O dataset foi estruturado para que novos exemplos possam ser adicionados posteriormente.
## Objetivo
O MiniTranslatorDataset serve como uma base para projetos que precisam trabalhar com tradução entre Português, Inglês e Espanhol.
Ele pode ser utilizado para:
* treinamento e fine-tuning de modelos;
* desenvolvimento de sistemas de tradução;
* experimentos com modelos multilíngues;
* criação de protótipos;
* avaliação de modelos de tradução;
* desenvolvimento de projetos de NLP.
A ideia principal é que o dataset possa ser **continuamente melhorado**, tanto em quantidade quanto em qualidade.
## Expansão e melhorias
O dataset pode receber novos exemplos ao longo do tempo.
Além de simplesmente aumentar a quantidade de dados, melhorias futuras podem incluir:
* correção de traduções;
* inclusão de frases mais naturais;
* maior variedade de vocabulário;
* maior variedade de contextos;
* equilíbrio entre as direções de tradução;
* revisão dos exemplos existentes;
* inclusão de frases com diferentes níveis de complexidade.
Contribuições que melhorem os dados são bem-vindas.
## Carregando o dataset
### Python + pandas
```python
import pandas as pd
df = pd.read_csv("dataset.csv")
print(df.head())
```
### Hugging Face Datasets
O CSV pode ser carregado diretamente com a biblioteca `datasets`:
```python
from datasets import load_dataset
dataset = load_dataset("SynastriaNetworks/MiniTranslatorDataset")
print(dataset)
```
Os exemplos podem então ser acessados normalmente:
```python
print(dataset["train"][0])
```
## Licença
O MiniTranslatorDataset é disponibilizado sob a **Apache License 2.0**.
Você pode usar, modificar e redistribuir o dataset de acordo com os termos da licença, inclusive em projetos comerciais.
Consulte o arquivo `LICENSE` para o texto completo da licença.
## Arquivo
```text
dataset.csv
```
O arquivo contém os **1.000 exemplos** atualmente disponíveis no dataset.
## Resumo
**Nome:** MiniTranslatorDataset
**Exemplos:** 1.000
**Formato:** CSV
**Arquivo:** `dataset.csv`
**Idiomas:** Português, Inglês e Espanhol
**Tarefa:** Tradução
**Licença:** Apache 2.0
## Status
**Versão inicial.**
O MiniTranslatorDataset começa com 1.000 exemplos e foi criado para continuar evoluindo. Novos dados, correções e melhorias podem ser incorporados conforme o dataset for desenvolvido.