PyraLabs commited on
Commit
d1b9c81
·
verified ·
1 Parent(s): 338db84

Update README_PT-BR.md

Browse files
Files changed (1) hide show
  1. README_PT-BR.md +219 -94
README_PT-BR.md CHANGED
@@ -5,33 +5,104 @@ task_categories:
5
  language:
6
  - pt
7
  - en
8
- pretty_name: The Delta Dataset
 
 
 
 
 
 
 
 
 
 
 
 
 
9
  ---
10
 
11
  # The Delta Dataset V2
12
 
13
- **The Delta Dataset V2** é um dataset conversacional criado para o treinamento e fine-tuning dos modelos Delta desenvolvidos pela **Pyra Labs**.
 
 
14
 
15
- Esta versão introduz um formato estruturado em **JSONL**, substituindo o formato anterior em texto simples baseado em tokens especiais como `[SYS]`, `[SEP]`, `[USR]` e `[ASS]`.
16
 
17
  ---
18
 
19
- ## 🌎 Idioma
20
 
21
- Este README está atualmente disponível em inglês e português.
22
 
23
  **[🇺🇸 English](README.md)** · **[🇧🇷 Português (Brasil)](README_PT-BR.md)**
24
 
25
  > 🇺🇸 **Want to read this README in English?**
26
- > [Leia o README em Inglês](README.md)
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
27
 
28
  ---
29
 
30
- ## Formato
 
 
31
 
32
- Cada linha do dataset é um objeto JSON válido contendo quatro campos:
33
 
34
- ```json
35
  {
36
  "system": "...",
37
  "user": "...",
@@ -42,31 +113,37 @@ Cada linha do dataset é um objeto JSON válido contendo quatro campos:
42
 
43
  ### Campos
44
 
45
- * `system` — Instrução de sistema opcional que define o comportamento ou contexto do assistente.
46
- * `user` — Mensagem ou solicitação enviada pelo usuário.
47
  * `think` — Conteúdo opcional de raciocínio associado à resposta.
48
  * `bot` — Resposta final do assistente.
49
 
50
- Os campos `system` e `think` podem conter `null` quando não estiverem presentes.
 
 
 
 
51
 
52
- ## Exemplo com instrução de sistema e raciocínio
53
 
54
- ```json
55
  {
56
  "system": "Você é Delta, um assistente de programação prestativo e técnico. Explique conceitos de programação com clareza, escreva código funcional, mantenha boas práticas e adapte a resposta à linguagem solicitada. Quando houver erros, identifique a causa e apresente uma correção objetiva.",
57
  "user": "Como faço um loop que imprime os números de 1 a 10 em Python?",
58
  "think": "A tarefa pede um exemplo simples de repetição. Em Python, range(1, 11) gera os valores de 1 até 10, pois o valor final não é incluído. Vou mostrar um loop for curto e funcional.",
59
- "bot": "Você pode usar um loop `for` com `range()`:\n\n`python\nfor i in range(1, 11):\n print(i)\n`\n\nO `range(1, 11)` começa em 1 e termina antes de 11, então imprime os números de 1 a 10."
60
  }
61
- ```
 
 
62
 
63
- ## Exemplo sem instrução de sistema ou raciocínio
64
 
65
- Nem todo exemplo precisa de uma instrução de sistema ou de um raciocínio.
66
 
67
- Nesses casos, os campos correspondentes recebem `null`:
68
 
69
- ```json
70
  {
71
  "system": null,
72
  "user": "Oi :)",
@@ -75,122 +152,170 @@ Nesses casos, os campos correspondentes recebem `null`:
75
  }
76
  ```
77
 
78
- ## Estrutura JSONL
 
 
 
 
79
 
80
- O dataset utiliza o formato **JSON Lines (JSONL)**.
81
 
82
- Cada exemplo de treinamento ocupa uma única linha:
83
 
84
- ```json
85
  {"system":null,"user":"Oi :)","think":null,"bot":"Oi! 😊 Tudo bem por aí?"}
 
86
  ```
87
 
88
- **Com `system` e `think`:**
89
 
90
- ```json
91
- {
92
- "system":"Você é Delta...",
93
- "user":"Como faço um loop em Python?",
94
- "think":"...",
95
- "bot":"Você pode usar um `for`..."
96
- }
97
  ```
98
 
99
- Como alternativa, você pode escrever tudo em uma única linha, sem sequências de escape:
100
 
101
- ```json
102
- {"system":"Você é Delta, um assistente de programação prestativo e técnico. Explique conceitos de programação com clareza, escreva código funcional, mantenha boas práticas e adapte a resposta à linguagem solicitada. Quando houver erros, identifique a causa e apresente uma correção objetiva.","user":"Como faço um loop que imprime os números de 1 a 10 em Python?","think":"A tarefa pede um exemplo simples de repetição. Em Python, range(1, 11) gera os valores de 1 até 10, pois o valor final não é incluído. Vou mostrar um loop for curto e funcional.","bot":"Você pode usar um loop `for` com `range()`:\n\n`python\nfor i in range(1, 11):\n print(i)\n`\n\nO `range(1, 11)` começa em 1 e termina antes de 11, então imprime os números de 1 a 10."}
103
- ```
104
 
105
- Isso permite que os exemplos sejam processados individualmente e torna o dataset adequado para streaming e pré-processamento de grandes quantidades de dados.
106
 
107
- ## V1 → V2
108
 
109
- A versão anterior representava as conversas utilizando tokens especiais:
110
 
111
- ```text
112
- [SYS] [SEP] [USR] [SEP] [ASS] [SEP]
 
 
 
 
 
 
 
113
  ```
114
 
115
- O formato V2 substitui essa representação por campos JSON explícitos:
116
 
117
- ```json
118
- {
119
- "system": "...",
120
- "user": "...",
121
- "think": "...",
122
- "bot": "..."
123
- }
124
  ```
125
 
126
- Isso torna cada componente do exemplo explícito e facilita sua interpretação durante o pré-processamento do dataset.
127
 
128
- ## Campos opcionais
129
 
130
- Tanto `system` quanto `think` são opcionais.
131
 
132
- Quando não forem necessários, eles devem ser representados como `null` em vez de serem omitidos:
133
 
134
- ```json
135
- {
136
- "system": null,
137
- "user": "Oi!",
138
- "think": null,
139
- "bot": "Olá! Como posso ajudar?"
140
- }
141
- ```
142
 
143
- ## Uso pretendido
144
 
145
- O The Delta Dataset V2 foi desenvolvido para:
146
 
147
- * Treinamento de modelos Delta.
148
- * Fine-tuning de modelos conversacionais.
149
- * Treinamento de assistentes focados em programação.
150
- * Experimentos envolvendo dados conversacionais estruturados.
151
- * Pesquisas com modelos que separam dados de raciocínio das respostas finais.
152
 
153
- ## Formato dos dados
 
 
 
 
 
 
154
 
155
- | Campo | Tipo | Obrigatório | Aceita `null` |
156
- | -------- | ------ | ----------: | ------------: |
157
- | `system` | string | Sim | Sim |
158
- | `user` | string | Sim | Não |
159
- | `think` | string | Sim | Sim |
160
- | `bot` | string | Sim | Não |
161
 
162
- ## Schema de exemplo
163
 
164
- ```json
165
- {
166
- "system": "string | null",
167
- "user": "string",
168
- "think": "string | null",
169
- "bot": "string"
170
- }
 
171
  ```
172
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
173
  ---
174
 
175
- ## Ajude o The Delta Dataset a crescer
176
 
177
- Por enquanto, o The Delta Dataset V2 possui apenas uma pequena quantidade de dados — mas todo dataset precisa começar de algum lugar.
178
 
179
- Se você está lendo isso e gostaria de ajudar o dataset a crescer, **crie seus próprios datasets e compartilhe-os no seu perfil!**
180
 
181
- Você pode utilizar o formato do Delta Dataset para criar suas próprias coleções de conversas, exemplos de programação, dados de raciocínio ou qualquer outra ideia interessante que você queira experimentar.
182
 
183
- Nós vamos adorar ver o que você criar e saber que você gostou do dataset a ponto de construir algo seu. :>
184
 
185
- **Crie. Experimente. Compartilhe. Cresça.**
186
 
187
- Obrigado por fazer parte do The Delta Dataset! ❤️
 
 
 
 
 
 
188
 
189
  ---
190
 
191
- ## Versão
 
 
 
 
192
 
193
- **Dataset:** The Delta Dataset V2
194
- **Formato:** JSONL
195
 
196
- **Feito pela Pyra Labs <3**
 
5
  language:
6
  - pt
7
  - en
8
+ pretty_name: Delta Dataset
9
+ ---
10
+
11
+ ---
12
+
13
+ license: mit
14
+ task_categories:
15
+
16
+ * text-generation
17
+ language:
18
+ * pt
19
+ * en
20
+ pretty_name: The Delta Dataset
21
+
22
  ---
23
 
24
  # The Delta Dataset V2
25
 
26
+ **The Delta Dataset** é um dataset colaborativo e open-source criado para ajudar no desenvolvimento e aprimoramento da próxima geração de modelos de inteligência artificial.
27
+
28
+ O projeto é desenvolvido pela **Pyra Labs** e pode ser utilizado para treinar e ajustar modelos Delta, assim como outros modelos e projetos de IA.
29
 
30
+ Em vez de ser limitado a um único modelo ou arquitetura, o objetivo do The Delta Dataset é fornecer um espaço aberto onde pessoas possam criar, compartilhar, melhorar e reutilizar dados de treinamento de alta qualidade.
31
 
32
  ---
33
 
34
+ ## Idioma
35
 
36
+ Este README está disponível em inglês e português.
37
 
38
  **[🇺🇸 English](README.md)** · **[🇧🇷 Português (Brasil)](README_PT-BR.md)**
39
 
40
  > 🇺🇸 **Want to read this README in English?**
41
+ > [Read the English README](README.md)
42
+
43
+ ---
44
+
45
+ ## Sobre o Dataset
46
+
47
+ O The Delta Dataset é desenvolvido como um **dataset colaborativo para treinamento de modelos de IA**.
48
+
49
+ Qualquer pessoa pode contribuir com exemplos sobre assuntos como:
50
+
51
+ * Programação
52
+ * Matemática
53
+ * Ciências
54
+ * História
55
+ * Geografia
56
+ * Idiomas
57
+ * Raciocínio
58
+ * Conhecimento geral
59
+ * Conversas
60
+ * Escrita criativa
61
+ * Explicações
62
+ * Uso de ferramentas
63
+ * E outros tipos de dados úteis para treinamento de IA
64
+
65
+ A ideia é que o dataset cresça continuamente por meio das contribuições da comunidade.
66
+
67
+ A Pyra Labs utiliza o The Delta Dataset no desenvolvimento de seus próprios modelos, mas o dataset não é limitado aos modelos da Pyra Labs. Outros pesquisadores, desenvolvedores e projetos de IA também podem utilizá-lo de acordo com a licença.
68
+
69
+ ---
70
+
71
+ # Deltaset
72
+
73
+ **Deltaset** é o formato textual original criado para o The Delta Dataset.
74
+
75
+ Ele representa exemplos de conversas utilizando tokens especiais:
76
+
77
+ ```dataset-deltaset.txt id="m8q2kf"
78
+ [SYS] Você é Delta Ultra Mini.
79
+ [SEP]
80
+
81
+ [USR] O que é Python?
82
+ [SEP]
83
+
84
+ [ASS] Python é uma linguagem de programação de alto nível...
85
+ [SEP]
86
+ ```
87
+
88
+ O formato utiliza tokens para separar diferentes partes da conversa:
89
+
90
+ * `[SYS]` — Instrução do sistema
91
+ * `[USR]` — Mensagem do usuário
92
+ * `[ASS]` — Resposta do assistente
93
+ * `[SEP]` — Separador entre seções
94
+
95
+ O Deltaset foi criado para ser simples, legível e fácil de produzir manualmente.
96
 
97
  ---
98
 
99
+ # Formato da V2
100
+
101
+ A segunda versão do The Delta Dataset introduz um formato estruturado baseado em **JSONL**.
102
 
103
+ Em vez de representar os exemplos utilizando tokens especiais, cada exemplo é armazenado como um objeto JSON contendo quatro campos:
104
 
105
+ ```json id="p6w1zc"
106
  {
107
  "system": "...",
108
  "user": "...",
 
113
 
114
  ### Campos
115
 
116
+ * `system` — Instrução opcional que define o comportamento ou contexto do assistente.
117
+ * `user` — Mensagem ou solicitação do usuário.
118
  * `think` — Conteúdo opcional de raciocínio associado à resposta.
119
  * `bot` — Resposta final do assistente.
120
 
121
+ Os campos `system` e `think` podem receber `null` quando não estiverem presentes.
122
+
123
+ Os campos `user` e `bot` são obrigatórios.
124
+
125
+ ---
126
 
127
+ ## Exemplo com instrução do sistema e raciocínio
128
 
129
+ ````json id="v7k3na"
130
  {
131
  "system": "Você é Delta, um assistente de programação prestativo e técnico. Explique conceitos de programação com clareza, escreva código funcional, mantenha boas práticas e adapte a resposta à linguagem solicitada. Quando houver erros, identifique a causa e apresente uma correção objetiva.",
132
  "user": "Como faço um loop que imprime os números de 1 a 10 em Python?",
133
  "think": "A tarefa pede um exemplo simples de repetição. Em Python, range(1, 11) gera os valores de 1 até 10, pois o valor final não é incluído. Vou mostrar um loop for curto e funcional.",
134
+ "bot": "Você pode usar um loop `for` com `range()`:\n\n```python\nfor i in range(1, 11):\n print(i)\n```\n\nO `range(1, 11)` começa em 1 e termina antes de 11, então imprime os números de 1 a 10."
135
  }
136
+ ````
137
+
138
+ ---
139
 
140
+ ## Exemplo sem instrução do sistema ou raciocínio
141
 
142
+ Nem todo exemplo precisa de uma instrução do sistema ou de um campo de raciocínio.
143
 
144
+ Nesses casos, os campos correspondentes podem ser definidos como `null`:
145
 
146
+ ```json id="vf845a"
147
  {
148
  "system": null,
149
  "user": "Oi :)",
 
152
  }
153
  ```
154
 
155
+ ---
156
+
157
+ # Estrutura JSONL
158
+
159
+ A V2 do The Delta Dataset utiliza **JSON Lines (JSONL)**.
160
 
161
+ Cada exemplo de treinamento é um objeto JSON independente. No dataset, cada objeto é armazenado em sua própria linha.
162
 
163
+ Por exemplo:
164
 
165
+ ```json id="q4s8md"
166
  {"system":null,"user":"Oi :)","think":null,"bot":"Oi! 😊 Tudo bem por aí?"}
167
+ {"system":"Você é Delta, um assistente de programação prestativo.","user":"Como faço um loop em Python?","think":"O usuário precisa de um exemplo básico de loop em Python.","bot":"Você pode usar um loop `for` com `range()`."}
168
  ```
169
 
170
+ Essa estrutura permite que os exemplos sejam processados individualmente e facilita operações de streaming, pré-processamento, filtragem e treinamento em larga escala.
171
 
172
+ Alternativamente, um exemplo completo pode ser escrito em uma única linha, sem formatação desnecessária:
173
+
174
+ ```json id="h59kx0"
175
+ {"system":"Você é Delta, um assistente de programação prestativo e técnico. Explique conceitos de programação com clareza e escreva código funcional.","user":"Como faço um loop que imprime os números de 1 a 10 em Python?","think":"A tarefa pede um exemplo simples de repetição utilizando um loop for em Python.","bot":"Você pode usar um loop `for` com `range()` para imprimir os números de 1 a 10."}
 
 
 
176
  ```
177
 
178
+ ---
179
 
180
+ # Da V1 para a V2
 
 
181
 
182
+ A V2 altera a representação interna dos exemplos do dataset, mantendo o propósito principal do projeto.
183
 
184
+ ### V1
185
 
186
+ A versão original utilizava o formato textual **Deltaset**:
187
 
188
+ ```dataset-deltaset.txt id="n2c7vx"
189
+ [SYS] Você é Delta Ultra Mini.
190
+ [SEP]
191
+
192
+ [USR] O que é Python?
193
+ [SEP]
194
+
195
+ [ASS] Python é uma linguagem de programação...
196
+ [SEP]
197
  ```
198
 
199
+ ### V2
200
 
201
+ A nova versão utiliza uma estrutura JSONL:
202
+
203
+ ```json id="x5m9rb"
204
+ {"system":"Você é Delta Ultra Mini.","user":"O que é Python?","think":null,"bot":"Python é uma linguagem de programação..."}
 
 
 
205
  ```
206
 
207
+ A nova estrutura facilita o acesso individual aos campos por meio de ferramentas e pipelines de processamento de dados e também adiciona um campo dedicado para conteúdo opcional de `think`.
208
 
209
+ O Deltaset continua sendo uma parte importante da história do projeto e pode continuar sendo útil para projetos que trabalham com o formato original.
210
 
211
+ ---
212
 
213
+ # Contribuindo
214
 
215
+ O The Delta Dataset é um projeto colaborativo.
 
 
 
 
 
 
 
216
 
217
+ Você pode contribuir criando exemplos de treinamento de alta qualidade e compartilhando seus próprios datasets com a comunidade.
218
 
219
+ As contribuições podem abordar diversos assuntos e formatos, desde que sejam úteis para o treinamento de modelos de IA.
220
 
221
+ Ao criar dados, procure manter:
 
 
 
 
222
 
223
+ * Precisão
224
+ * Clareza
225
+ * Utilidade
226
+ * Linguagem natural
227
+ * Originalidade
228
+ * Formatação consistente
229
+ * Respostas de alta qualidade
230
 
231
+ Evite enviar dados de baixa qualidade, duplicados, enganosos ou criados intencionalmente para prejudicar o treinamento de modelos.
 
 
 
 
 
232
 
233
+ ---
234
 
235
+ # O que torna um exemplo bom?
236
+
237
+ Um bom exemplo de treinamento deve fornecer informações úteis e significativas para o modelo.
238
+
239
+ Por exemplo:
240
+
241
+ ```json id="j3v6pc"
242
+ {"system":null,"user":"O que uma função faz em Python?","think":null,"bot":"Uma função em Python é um bloco reutilizável de código criado para executar uma tarefa específica. Funções podem receber argumentos e retornar valores."}
243
  ```
244
 
245
+ Os exemplos devem evitar:
246
+
247
+ * Informações deliberadamente falsas
248
+ * Spam
249
+ * Exemplos duplicados
250
+ * Respostas extremamente pouco úteis
251
+ * Informações pessoais privadas ou sensíveis
252
+ * Conteúdo de ódio ou discriminatório
253
+ * Conteúdo sexual explícito
254
+ * Conteúdo que promova atividades prejudiciais ou ilegais
255
+ * Dados criados exclusivamente para manipular ou degradar o treinamento de modelos
256
+
257
+ O objetivo não é simplesmente aumentar o número de exemplos, mas aumentar a quantidade de **dados de treinamento úteis**.
258
+
259
+ ---
260
+
261
+ # Utilizando o The Delta Dataset
262
+
263
+ O The Delta Dataset pode ser utilizado em diferentes projetos de treinamento e pesquisa em IA.
264
+
265
+ Alguns exemplos de utilização incluem:
266
+
267
+ * Pré-treinamento
268
+ * Fine-tuning
269
+ * Instruction tuning
270
+ * Treinamento de modelos conversacionais
271
+ * Experimentação com datasets
272
+ * Pesquisa em pré-processamento de dados
273
+ * Avaliação e benchmarking
274
+
275
+ Você não precisa utilizar um modelo Delta para usar o dataset.
276
+
277
+ O dataset é open-source e foi criado para ser útil além dos modelos desenvolvidos pela Pyra Labs.
278
+
279
+ ---
280
+
281
+ # Pyra Labs e Delta
282
+
283
+ O The Delta Dataset é desenvolvido dentro do ecossistema da **Pyra Labs**.
284
+
285
+ A Pyra Labs utiliza o dataset para apoiar o desenvolvimento de seus modelos de IA, incluindo a família de modelos Delta.
286
+
287
+ No entanto, o The Delta Dataset é um projeto open-source independente, com um objetivo mais amplo: **criar dados de treinamento acessíveis, reutilizáveis e produzidos de forma colaborativa para modelos de IA.**
288
+
289
  ---
290
 
291
+ # Comunidade
292
 
293
+ Atualmente, o The Delta Dataset possui uma quantidade pequena de dados, mas todo dataset precisa começar de algum lugar.
294
 
295
+ Se você está lendo isso e quer ajudar o projeto a crescer, crie seus próprios datasets, experimente novos exemplos e compartilhe seu trabalho com a comunidade.
296
 
297
+ Você pode contribuir com dados, criar projetos utilizando o dataset ou simplesmente experimentar com ele e mostrar o que conseguiu criar.
298
 
299
+ Nós vamos adorar ver o que você criou com o dataset.
300
 
301
+ ---
302
 
303
+ # Licença
304
+
305
+ O The Delta Dataset é distribuído sob a **Licença MIT**.
306
+
307
+ Você pode usar, modificar e redistribuir o dataset de acordo com os termos da licença.
308
+
309
+ Consulte o arquivo [LICENSE](LICENSE) para ver o texto completo da licença.
310
 
311
  ---
312
 
313
+ # Visão
314
+
315
+ O objetivo do The Delta Dataset é tornar dados de treinamento de alta qualidade mais abertos e acessíveis.
316
+
317
+ O desenvolvimento de IA n��o deve depender exclusivamente de datasets fechados aos quais apenas um pequeno número de organizações possui acesso.
318
 
319
+ Ao criar um dataset aberto e colaborativo, a comunidade pode contribuir com conhecimento, experimentar novas ideias e ajudar a desenvolver sistemas de IA melhores em conjunto.
 
320
 
321
+ **The Delta Dataset é construído pela comunidade, para a comunidade.**