Datasets:
Tasks:
Summarization
Modalities:
Text
Formats:
parquet
Languages:
Portuguese
Size:
1K - 10K
Tags:
legal
Update para uso do linkedin
Browse files
README.md
CHANGED
|
@@ -1,11 +1,61 @@
|
|
| 1 |
-
|
| 2 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 3 |
|
| 4 |
-
|
| 5 |
-
O dataset é armazenado em formato JSON, onde cada registo segue uma estrutura de diálogo entre "usuário" e "assistente", simulando uma interação em que o modelo de linguagem é solicitado a criar um sumário de um documento. Esse formato é particularmente útil para tarefas de treino de modelos baseados em chat, facilitando o processo de fine-tuning.
|
| 6 |
|
| 7 |
-
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
| 8 |
|
| 9 |
-
messages: Uma lista de mensagens que compõem o diálogo entre "usuário" e "assistente".
|
| 10 |
-
"role": "user" – Contém a solicitação para gerar um sumário do conteúdo do documento (campo texto_sem_html).
|
| 11 |
-
"role": "assistant" – Contém o sumário do documento conforme esperado (campo notes).
|
|
|
|
| 1 |
+
---
|
| 2 |
+
task_categories:
|
| 3 |
+
- summarization
|
| 4 |
+
language:
|
| 5 |
+
- pt
|
| 6 |
+
tags:
|
| 7 |
+
- legal
|
| 8 |
+
pretty_name: 'Dataset: Sumários do Diário da República Portuguesa'
|
| 9 |
+
size_categories:
|
| 10 |
+
- 1K<n<10K
|
| 11 |
+
---
|
| 12 |
|
| 13 |
+
# Descrição
|
|
|
|
| 14 |
|
| 15 |
+
O dataset `dre_phi_3_sumarios` contém aproximadamente 6000 registos de documentos legais do Diário da República Português, incluindo **Decreto-Lei**, **Portaria**, **Resolução do Conselho de Ministros** e **Lei**. Este conjunto de dados foi desenvolvido para facilitar o treino de Modelos de Linguagem de Grande Escala (LLMs) na tarefa de sumarização de documentos legais, fornecendo uma base de exemplos variados e estruturados que promovem a precisão e o alinhamento com o estilo formal esperado em sumários do Diário da República.
|
| 16 |
+
|
| 17 |
+
## Estrutura dos Dados
|
| 18 |
+
|
| 19 |
+
O dataset está armazenado em formato JSON, com cada registo estruturado como um diálogo entre "usuário" e "assistente". Esta organização simula uma interação em que o modelo de linguagem é solicitado a criar um sumário para um documento. Esse formato é particularmente útil para tarefas de *fine-tuning* em modelos baseados em chat, que visam gerar respostas alinhadas ao contexto legal.
|
| 20 |
+
|
| 21 |
+
### Estrutura de Cada Registo:
|
| 22 |
+
|
| 23 |
+
- **messages**: Uma lista de mensagens que compõem o diálogo entre "usuário" e "assistente".
|
| 24 |
+
- `"role": "user"` – Contém a solicitação para gerar um sumário do conteúdo do documento (campo `texto_sem_html`).
|
| 25 |
+
- `"role": "assistant"` – Contém o sumário do documento, conforme esperado no contexto legal (campo `notes`).
|
| 26 |
+
|
| 27 |
+
#### Exemplo de Dados
|
| 28 |
+
|
| 29 |
+
```json
|
| 30 |
+
{
|
| 31 |
+
"messages": [
|
| 32 |
+
{
|
| 33 |
+
"content": "Crie um sumário do seguinte documento : [conteúdo do documento].",
|
| 34 |
+
"role": "user"
|
| 35 |
+
},
|
| 36 |
+
{
|
| 37 |
+
"content": "[sumário do documento]",
|
| 38 |
+
"role": "assistant"
|
| 39 |
+
}
|
| 40 |
+
]
|
| 41 |
+
}
|
| 42 |
+
|
| 43 |
+
## Tamanho e Formato
|
| 44 |
+
|
| 45 |
+
- **Tamanho**: Aproximadamente 6000 registos (1K < n < 10K).
|
| 46 |
+
- **Formato**: JSON, otimizado para facilitar o treino de LLMs na tarefa de sumarização.
|
| 47 |
+
|
| 48 |
+
Este formato de dataset, com exemplos estruturados em formato de *chat*, oferece uma base valiosa para treinar modelos de sumarização em documentos legais, possibilitando um alinhamento preciso e adequado à formalidade dos textos do Diário da República.
|
| 49 |
+
|
| 50 |
+
## Acesso ao Dataset
|
| 51 |
+
|
| 52 |
+
Este dataset está disponível publicamente e pode ser utilizado por qualquer pessoa interessada em treinar modelos para a sumarização de documentos legais. Para mais informações e acesso, consulte [empgces/dre_phi_3_sumarios](https://huggingface.co/datasets/empgces/dre_phi_3_sumarios).
|
| 53 |
+
|
| 54 |
+
## Nota Final
|
| 55 |
+
|
| 56 |
+
Este artigo é o terceiro da série deste projeto, onde exploramos a importância dos datasets na qualidade de Fine-Tuning de LLMs para otimização de tarefas empresariais.
|
| 57 |
+
|
| 58 |
+
Este projeto foi desenvolvido no contexto da Smart Learning, uma empresa dedicada a promover os benefícios da Inteligência Artificial e a ajudar empresas e indivíduos a criar uma estratégia eficaz de implementação destas novas ferramentas tecnológicas. A Smart Learning foca-se em tornar acessível o conhecimento e as ferramentas de IA, ajudando os seus parceiros a integrar soluções inovadoras nos seus processos, otimizando operações e impulsionando a eficiência.
|
| 59 |
+
|
| 60 |
+
Com o nosso compromisso em formar e capacitar, estamos aqui para apoiar empresas de diferentes setores a explorar e adotar a IA como parte fundamental da sua estratégia de crescimento e inovação.
|
| 61 |
|
|
|
|
|
|
|
|
|