arthurg-santos commited on
Commit
a6a27ec
·
verified ·
1 Parent(s): 19582e6

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +166 -0
README.md CHANGED
@@ -1,3 +1,169 @@
1
  ---
2
  license: apache-2.0
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
3
  ---
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
  ---
2
  license: apache-2.0
3
+ task_categories:
4
+ - translation
5
+ language:
6
+ - pt
7
+ - en
8
+ - es
9
+ pretty_name: MiniTranslatorDataset
10
+ size_categories:
11
+ - 1K<n<10K
12
+ tags:
13
+ - translation
14
+ - multilingual
15
+ - machine-translation
16
+ - natural-language-processing
17
+ - nlp
18
+ - portuguese
19
+ - english
20
+ - spanish
21
+ - parallel-corpus
22
+ - text
23
+ - language
24
  ---
25
+ # MiniTranslatorDataset
26
+
27
+ O **MiniTranslatorDataset** é um dataset de tradução multilíngue com **1.000 exemplos**, reunindo **Português, Inglês e Espanhol**.
28
+
29
+ Ele foi pensado como uma **base inicial para ser expandida e aprimorada**. A proposta não é tentar ser um grande corpus definitivo, mas oferecer uma estrutura simples sobre a qual novos exemplos podem ser adicionados e os dados existentes podem ser revisados e melhorados.
30
+
31
+ ## Idiomas
32
+
33
+ O dataset trabalha com três idiomas:
34
+
35
+ * Português (`pt`)
36
+ * Inglês (`en`)
37
+ * Espanhol (`es`)
38
+
39
+ As traduções podem ocorrer entre os diferentes idiomas presentes no dataset.
40
+
41
+ ## Estrutura dos dados
42
+
43
+ Os dados estão disponíveis no arquivo:
44
+
45
+ ```text
46
+ dataset.csv
47
+ ```
48
+
49
+ O arquivo utiliza CSV e possui as seguintes colunas:
50
+
51
+ | Coluna | Descrição |
52
+ | ----------------- | -------------------------------------- |
53
+ | `source_language` | Idioma do texto original |
54
+ | `target_language` | Idioma para o qual o texto é traduzido |
55
+ | `source_text` | Texto original |
56
+ | `target_text` | Tradução do texto original |
57
+
58
+ Um exemplo da estrutura:
59
+
60
+ ```csv
61
+ source_language,target_language,source_text,target_text
62
+ pt,en,"Olá, tudo bem?","Hello, how are you?"
63
+ en,es,"I like learning new things.","Me gusta aprender cosas nuevas."
64
+ es,pt,"Hoy tenemos una reunión.","Hoje temos uma reunião."
65
+ ```
66
+
67
+ ## Quantidade
68
+
69
+ A versão atual contém:
70
+
71
+ **1.000 exemplos de tradução.**
72
+
73
+ Esse número não representa um limite do projeto. O dataset foi estruturado para que novos exemplos possam ser adicionados posteriormente.
74
+
75
+ ## Objetivo
76
+
77
+ O MiniTranslatorDataset serve como uma base para projetos que precisam trabalhar com tradução entre Português, Inglês e Espanhol.
78
+
79
+ Ele pode ser utilizado para:
80
+
81
+ * treinamento e fine-tuning de modelos;
82
+ * desenvolvimento de sistemas de tradução;
83
+ * experimentos com modelos multilíngues;
84
+ * criação de protótipos;
85
+ * avaliação de modelos de tradução;
86
+ * desenvolvimento de projetos de NLP.
87
+
88
+ A ideia principal é que o dataset possa ser **continuamente melhorado**, tanto em quantidade quanto em qualidade.
89
+
90
+ ## Expansão e melhorias
91
+
92
+ O dataset pode receber novos exemplos ao longo do tempo.
93
+
94
+ Além de simplesmente aumentar a quantidade de dados, melhorias futuras podem incluir:
95
+
96
+ * correção de traduções;
97
+ * inclusão de frases mais naturais;
98
+ * maior variedade de vocabulário;
99
+ * maior variedade de contextos;
100
+ * equilíbrio entre as direções de tradução;
101
+ * revisão dos exemplos existentes;
102
+ * inclusão de frases com diferentes níveis de complexidade.
103
+
104
+ Contribuições que melhorem os dados são bem-vindas.
105
+
106
+ ## Carregando o dataset
107
+
108
+ ### Python + pandas
109
+
110
+ ```python
111
+ import pandas as pd
112
+
113
+ df = pd.read_csv("dataset.csv")
114
+
115
+ print(df.head())
116
+ ```
117
+
118
+ ### Hugging Face Datasets
119
+
120
+ O CSV pode ser carregado diretamente com a biblioteca `datasets`:
121
+
122
+ ```python
123
+ from datasets import load_dataset
124
+
125
+ dataset = load_dataset(
126
+ "csv",
127
+ data_files="dataset.csv"
128
+ )
129
+
130
+ print(dataset)
131
+ ```
132
+
133
+ Os exemplos podem então ser acessados normalmente:
134
+
135
+ ```python
136
+ print(dataset["train"][0])
137
+ ```
138
+
139
+ ## Licença
140
+
141
+ O MiniTranslatorDataset é disponibilizado sob a **Apache License 2.0**.
142
+
143
+ Você pode usar, modificar e redistribuir o dataset de acordo com os termos da licença, inclusive em projetos comerciais.
144
+
145
+ Consulte o arquivo `LICENSE` para o texto completo da licença.
146
+
147
+ ## Arquivo
148
+
149
+ ```text
150
+ dataset.csv
151
+ ```
152
+
153
+ O arquivo contém os **1.000 exemplos** atualmente disponíveis no dataset.
154
+
155
+ ## Resumo
156
+
157
+ **Nome:** MiniTranslatorDataset
158
+ **Exemplos:** 1.000
159
+ **Formato:** CSV
160
+ **Arquivo:** `dataset.csv`
161
+ **Idiomas:** Português, Inglês e Espanhol
162
+ **Tarefa:** Tradução
163
+ **Licença:** Apache 2.0
164
+
165
+ ## Status
166
+
167
+ **Versão inicial.**
168
+
169
+ O MiniTranslatorDataset começa com 1.000 exemplos e foi criado para continuar evoluindo. Novos dados, correções e melhorias podem ser incorporados conforme o dataset for desenvolvido.