File size: 3,476 Bytes
1ecc3c1 81a43d0 04e7bd0 fa3d5b1 04e7bd0 fa3d5b1 04e7bd0 fa3d5b1 8e41d66 fa3d5b1 |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 |
---
dataset_info:
features:
- name: text
dtype: string
splits:
- name: train
num_bytes: 2127042420
num_examples: 9727103
- name: test
num_bytes: 21865030
num_examples: 100000
download_size: 1235657151
dataset_size: 2148907450
configs:
- config_name: default
data_files:
- split: train
path: data/train-*
- split: test
path: data/test-*
license: apache-2.0
task_categories:
- fill-mask
language:
- pt
tags:
- legal
- licitação
- editais
pretty_name: Lic Corpus
---
## Descrição
O **Lic Corpus** é um conjunto de dados focado no domínio jurídico e de licitações, composto por documentos como editais de licitação, contratos públicos e legislações relacionadas a processos licitatórios. Este dataset foi projetado para ser utilizado no pré-treinamento de modelos de linguagem, especialmente para tarefas de Processamento de Linguagem Natural (PLN) no contexto de licitações e contratos públicos no Brasil.
Os dados foram extraídos de fontes como o Comprasnet, TCE-PI, Portal Nacional de Contratações Públicas (PNCP) e GOV BR, abrangendo o período de 2012 a 2023. O corpus foi pré-processado para remover dados irrelevantes e garantir a consistência e a legibilidade dos textos.
## Arquitetura do Modelo Utilizado
O modelo que pode ser treinado com esse corpus é baseado na arquitetura BERT, utilizando a tarefa de **Masked Language Modeling (MLM)** para o pré-treinamento. A abordagem de **Transferência de Aprendizado** permite que o modelo aproveite o conhecimento prévio de outros modelos, como o BERT, para tarefas específicas de PLN em documentos de licitação e contratos.
## Características do Dataset
- **Fonte dos Dados**:
- **Editais de Licitação**: Comprasnet (278.739 documentos) e TCE-PI (142.374 documentos)
- **Contratos Públicos**: TCE-PI (34.041 documentos), PNCP (4.861 documentos)
- **Leis de Licitação e Contratos**: GOV BR (21 documentos)
- **Tamanho Total**: 460.036 documentos
- **Total de Tokens**: 1.492.319.518
- **Número de Exemplos**:
- **Treinamento**: 9.727.103 amostras
- **Teste**: 100.000 amostras
- **Número de Tokens por Documento**: Cada documento foi dividido em amostras menores, com no máximo 128 tokens para otimizar o treinamento.
## Preprocessing
O pré-processamento inclui a extração de texto de diferentes formatos de documentos, remoção de cabeçalhos e rodapés, limpeza de caracteres especiais e padronização de elementos como números, e-mails, URLs, datas e horários. Além disso, as amostras muito curtas (menos de 10 tokens) foram descartadas, e as amostras longas foram divididas em blocos de até 128 tokens.
## Tarefas de PLN
O **Lic Corpus** pode ser utilizado para uma série de tarefas de PLN, como:
- **Tarefas Específicas de Contratações Públicas**: O corpus pode ser utilizado em outras tarefas relacionadas ao domínio jurídico e de contratações públicas, como a análise de cláusulas contratuais e legislação.
## Configuração
### Arquivos do Dataset
- **Treinamento**: `data/train-*`
- **Teste**: `data/test-*`
### Licença
Este dataset está sob a licença **Apache 2.0**, permitindo o uso e modificação para fins acadêmicos e comerciais, desde que a devida atribuição seja feita.
## Como Usar
Para carregar o dataset, utilize a biblioteca `datasets` do Hugging Face:
```python
from datasets import load_dataset
dataset = load_dataset("vic35get/licCorpus")
``` |