empgces commited on
Commit
eb1741f
·
verified ·
1 Parent(s): 0b82a83

Update para uso do linkedin

Browse files
Files changed (1) hide show
  1. README.md +58 -8
README.md CHANGED
@@ -1,11 +1,61 @@
1
- Descrição
2
- Este dataset, intitulado dre_phi_3_sumarios, contém aproximadamente 6000 registos de documentos legais do Diário da República, incluindo Decreto-Lei, Portaria, Resolução do Conselho de Ministros e Lei. Este conjunto de dados foi criado para facilitar o treino de Modelos de Linguagem de Grande Escala (LLMs) na tarefa de sumarização de documentos legais, proporcionando uma base rica em exemplos variados e estruturados para garantir a precisão e a aderência ao estilo do Diário da República.
 
 
 
 
 
 
 
 
 
3
 
4
- Estrutura dos Dados
5
- O dataset é armazenado em formato JSON, onde cada registo segue uma estrutura de diálogo entre "usuário" e "assistente", simulando uma interação em que o modelo de linguagem é solicitado a criar um sumário de um documento. Esse formato é particularmente útil para tarefas de treino de modelos baseados em chat, facilitando o processo de fine-tuning.
6
 
7
- Cada registo possui a seguinte estrutura:
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
8
 
9
- messages: Uma lista de mensagens que compõem o diálogo entre "usuário" e "assistente".
10
- "role": "user" – Contém a solicitação para gerar um sumário do conteúdo do documento (campo texto_sem_html).
11
- "role": "assistant" – Contém o sumário do documento conforme esperado (campo notes).
 
1
+ ---
2
+ task_categories:
3
+ - summarization
4
+ language:
5
+ - pt
6
+ tags:
7
+ - legal
8
+ pretty_name: 'Dataset: Sumários do Diário da República Portuguesa'
9
+ size_categories:
10
+ - 1K<n<10K
11
+ ---
12
 
13
+ # Descrição
 
14
 
15
+ O dataset `dre_phi_3_sumarios` contém aproximadamente 6000 registos de documentos legais do Diário da República Português, incluindo **Decreto-Lei**, **Portaria**, **Resolução do Conselho de Ministros** e **Lei**. Este conjunto de dados foi desenvolvido para facilitar o treino de Modelos de Linguagem de Grande Escala (LLMs) na tarefa de sumarização de documentos legais, fornecendo uma base de exemplos variados e estruturados que promovem a precisão e o alinhamento com o estilo formal esperado em sumários do Diário da República.
16
+
17
+ ## Estrutura dos Dados
18
+
19
+ O dataset está armazenado em formato JSON, com cada registo estruturado como um diálogo entre "usuário" e "assistente". Esta organização simula uma interação em que o modelo de linguagem é solicitado a criar um sumário para um documento. Esse formato é particularmente útil para tarefas de *fine-tuning* em modelos baseados em chat, que visam gerar respostas alinhadas ao contexto legal.
20
+
21
+ ### Estrutura de Cada Registo:
22
+
23
+ - **messages**: Uma lista de mensagens que compõem o diálogo entre "usuário" e "assistente".
24
+ - `"role": "user"` – Contém a solicitação para gerar um sumário do conteúdo do documento (campo `texto_sem_html`).
25
+ - `"role": "assistant"` – Contém o sumário do documento, conforme esperado no contexto legal (campo `notes`).
26
+
27
+ #### Exemplo de Dados
28
+
29
+ ```json
30
+ {
31
+ "messages": [
32
+ {
33
+ "content": "Crie um sumário do seguinte documento : [conteúdo do documento].",
34
+ "role": "user"
35
+ },
36
+ {
37
+ "content": "[sumário do documento]",
38
+ "role": "assistant"
39
+ }
40
+ ]
41
+ }
42
+
43
+ ## Tamanho e Formato
44
+
45
+ - **Tamanho**: Aproximadamente 6000 registos (1K < n < 10K).
46
+ - **Formato**: JSON, otimizado para facilitar o treino de LLMs na tarefa de sumarização.
47
+
48
+ Este formato de dataset, com exemplos estruturados em formato de *chat*, oferece uma base valiosa para treinar modelos de sumarização em documentos legais, possibilitando um alinhamento preciso e adequado à formalidade dos textos do Diário da República.
49
+
50
+ ## Acesso ao Dataset
51
+
52
+ Este dataset está disponível publicamente e pode ser utilizado por qualquer pessoa interessada em treinar modelos para a sumarização de documentos legais. Para mais informações e acesso, consulte [empgces/dre_phi_3_sumarios](https://huggingface.co/datasets/empgces/dre_phi_3_sumarios).
53
+
54
+ ## Nota Final
55
+
56
+ Este artigo é o terceiro da série deste projeto, onde exploramos a importância dos datasets na qualidade de Fine-Tuning de LLMs para otimização de tarefas empresariais.
57
+
58
+ Este projeto foi desenvolvido no contexto da Smart Learning, uma empresa dedicada a promover os benefícios da Inteligência Artificial e a ajudar empresas e indivíduos a criar uma estratégia eficaz de implementação destas novas ferramentas tecnológicas. A Smart Learning foca-se em tornar acessível o conhecimento e as ferramentas de IA, ajudando os seus parceiros a integrar soluções inovadoras nos seus processos, otimizando operações e impulsionando a eficiência.
59
+
60
+ Com o nosso compromisso em formar e capacitar, estamos aqui para apoiar empresas de diferentes setores a explorar e adotar a IA como parte fundamental da sua estratégia de crescimento e inovação.
61