|
|
--- |
|
|
dataset_info: |
|
|
features: |
|
|
- name: text |
|
|
dtype: string |
|
|
splits: |
|
|
- name: train |
|
|
num_bytes: 2127042420 |
|
|
num_examples: 9727103 |
|
|
- name: test |
|
|
num_bytes: 21865030 |
|
|
num_examples: 100000 |
|
|
download_size: 1235657151 |
|
|
dataset_size: 2148907450 |
|
|
configs: |
|
|
- config_name: default |
|
|
data_files: |
|
|
- split: train |
|
|
path: data/train-* |
|
|
- split: test |
|
|
path: data/test-* |
|
|
license: apache-2.0 |
|
|
task_categories: |
|
|
- fill-mask |
|
|
language: |
|
|
- pt |
|
|
tags: |
|
|
- legal |
|
|
- licitação |
|
|
- editais |
|
|
pretty_name: Lic Corpus |
|
|
--- |
|
|
|
|
|
## Descrição |
|
|
|
|
|
O **Lic Corpus** é um conjunto de dados focado no domínio jurídico e de licitações, composto por documentos como editais de licitação, contratos públicos e legislações relacionadas a processos licitatórios. Este dataset foi projetado para ser utilizado no pré-treinamento de modelos de linguagem, especialmente para tarefas de Processamento de Linguagem Natural (PLN) no contexto de licitações e contratos públicos no Brasil. |
|
|
|
|
|
Os dados foram extraídos de fontes como o Comprasnet, TCE-PI, Portal Nacional de Contratações Públicas (PNCP) e GOV BR, abrangendo o período de 2012 a 2023. O corpus foi pré-processado para remover dados irrelevantes e garantir a consistência e a legibilidade dos textos. |
|
|
|
|
|
## Arquitetura do Modelo Utilizado |
|
|
|
|
|
O modelo que pode ser treinado com esse corpus é baseado na arquitetura BERT, utilizando a tarefa de **Masked Language Modeling (MLM)** para o pré-treinamento. A abordagem de **Transferência de Aprendizado** permite que o modelo aproveite o conhecimento prévio de outros modelos, como o BERT, para tarefas específicas de PLN em documentos de licitação e contratos. |
|
|
|
|
|
## Características do Dataset |
|
|
|
|
|
- **Fonte dos Dados**: |
|
|
- **Editais de Licitação**: Comprasnet (278.739 documentos) e TCE-PI (142.374 documentos) |
|
|
- **Contratos Públicos**: TCE-PI (34.041 documentos), PNCP (4.861 documentos) |
|
|
- **Leis de Licitação e Contratos**: GOV BR (21 documentos) |
|
|
- **Tamanho Total**: 460.036 documentos |
|
|
- **Total de Tokens**: 1.492.319.518 |
|
|
- **Número de Exemplos**: |
|
|
- **Treinamento**: 9.727.103 amostras |
|
|
- **Teste**: 100.000 amostras |
|
|
- **Número de Tokens por Documento**: Cada documento foi dividido em amostras menores, com no máximo 128 tokens para otimizar o treinamento. |
|
|
|
|
|
## Preprocessing |
|
|
|
|
|
O pré-processamento inclui a extração de texto de diferentes formatos de documentos, remoção de cabeçalhos e rodapés, limpeza de caracteres especiais e padronização de elementos como números, e-mails, URLs, datas e horários. Além disso, as amostras muito curtas (menos de 10 tokens) foram descartadas, e as amostras longas foram divididas em blocos de até 128 tokens. |
|
|
|
|
|
## Tarefas de PLN |
|
|
|
|
|
O **Lic Corpus** pode ser utilizado para uma série de tarefas de PLN, como: |
|
|
|
|
|
- **Tarefas Específicas de Contratações Públicas**: O corpus pode ser utilizado em outras tarefas relacionadas ao domínio jurídico e de contratações públicas, como a análise de cláusulas contratuais e legislação. |
|
|
|
|
|
## Configuração |
|
|
|
|
|
### Arquivos do Dataset |
|
|
|
|
|
- **Treinamento**: `data/train-*` |
|
|
- **Teste**: `data/test-*` |
|
|
|
|
|
### Licença |
|
|
|
|
|
Este dataset está sob a licença **Apache 2.0**, permitindo o uso e modificação para fins acadêmicos e comerciais, desde que a devida atribuição seja feita. |
|
|
|
|
|
## Como Usar |
|
|
|
|
|
Para carregar o dataset, utilize a biblioteca `datasets` do Hugging Face: |
|
|
|
|
|
```python |
|
|
from datasets import load_dataset |
|
|
|
|
|
dataset = load_dataset("vic35get/licCorpus") |
|
|
``` |
