File size: 4,359 Bytes
19582e6
 
a6a27ec
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
2291ae2
 
19582e6
a6a27ec
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
dcb2602
a6a27ec
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
9c44831
a6a27ec
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
---
license: apache-2.0
task_categories:
- translation
language:
- pt
- en
- es
pretty_name: MiniTranslatorDataset
size_categories:
- 1K<n<10K
tags:
- translation
- multilingual
- machine-translation
- natural-language-processing
- nlp
- portuguese
- english
- spanish
- parallel-corpus
- text
- language
format:
  - csv
---
# MiniTranslatorDataset

O **MiniTranslatorDataset** é um dataset de tradução multilíngue com **1.000 exemplos**, reunindo **Português, Inglês e Espanhol**.

Ele foi pensado como uma **base inicial para ser expandida e aprimorada**. A proposta não é tentar ser um grande corpus definitivo, mas oferecer uma estrutura simples sobre a qual novos exemplos podem ser adicionados e os dados existentes podem ser revisados e melhorados.

## Idiomas

O dataset trabalha com três idiomas:

* Português (`pt`)
* Inglês (`en`)
* Espanhol (`es`)

As traduções podem ocorrer entre os diferentes idiomas presentes no dataset.

## Estrutura dos dados

Os dados estão disponíveis no arquivo:

```text
dataset.csv
```

O arquivo utiliza CSV e possui as seguintes colunas:

| Coluna            | Descrição                              |
| ----------------- | -------------------------------------- |
| `source_language` | Idioma do texto original               |
| `target_language` | Idioma para o qual o texto é traduzido |
| `source_text`     | Texto original                         |
| `target_text`     | Tradução do texto original             |

Um exemplo da estrutura:

```csv
source_language,target_language,source_text,target_text
pt,en,"Olá, tudo bem?","Hello, how are you?"
en,es,"I like learning new things.","Me gusta aprender cosas nuevas."
es,pt,"Hoy tenemos una reunión.","Hoje temos uma reunião."
```

## Quantidade

A versão atual contém:

**1.000 exemplos de tradução.**

Esse número não representa um limite do projeto. O dataset foi estruturado para que novos exemplos possam ser adicionados posteriormente.

## Objetivo

O MiniTranslatorDataset serve como uma base para projetos que precisam trabalhar com tradução entre Português, Inglês e Espanhol.

Ele pode ser utilizado para:

* treinamento e fine-tuning de modelos;
* desenvolvimento de sistemas de tradução;
* experimentos com modelos multilíngues;
* criação de protótipos;
* avaliação de modelos de tradução;
* desenvolvimento de projetos de NLP.

A ideia principal é que o dataset possa ser **continuamente melhorado**, tanto em quantidade quanto em qualidade.

## Expansão e melhorias

O dataset pode receber novos exemplos ao longo do tempo.

Além de simplesmente aumentar a quantidade de dados, melhorias futuras podem incluir:

* correção de traduções;
* inclusão de frases mais naturais;
* maior variedade de vocabulário;
* maior variedade de contextos;
* equilíbrio entre as direções de tradução;
* revisão dos exemplos existentes;
* inclusão de frases com diferentes níveis de complexidade.

Contribuições que melhorem os dados são bem-vindas.

## Carregando o dataset

### Python + pandas

```python
import pandas as pd

df = pd.read_csv("dataset.csv")

print(df.head())
```

### Hugging Face Datasets

O CSV pode ser carregado diretamente com a biblioteca `datasets`:

```python
from datasets import load_dataset

dataset = load_dataset("SynastriaNetworks/MiniTranslatorDataset")

print(dataset)
```

Os exemplos podem então ser acessados normalmente:

```python
print(dataset["train"][0])
```

## Licença

O MiniTranslatorDataset é disponibilizado sob a **Apache License 2.0**.

Você pode usar, modificar e redistribuir o dataset de acordo com os termos da licença, inclusive em projetos comerciais.

Consulte o arquivo [LICENSE](https://huggingface.co/datasets/SynastriaNetworks/MiniTranslatorDataset/blob/main/LICENSE) para o texto completo da licença.

## Arquivo

```text
dataset.csv
```

O arquivo contém os **1.000 exemplos** atualmente disponíveis no dataset.

## Resumo

**Nome:** MiniTranslatorDataset
**Exemplos:** 1.000
**Formato:** CSV
**Arquivo:** `dataset.csv`
**Idiomas:** Português, Inglês e Espanhol
**Tarefa:** Tradução
**Licença:** Apache 2.0

## Status

**Versão inicial.**

O MiniTranslatorDataset começa com 1.000 exemplos e foi criado para continuar evoluindo. Novos dados, correções e melhorias podem ser incorporados conforme o dataset for desenvolvido.