licCorpus / README.md
vic35get's picture
Update README.md
8e41d66 verified
metadata
dataset_info:
  features:
    - name: text
      dtype: string
  splits:
    - name: train
      num_bytes: 2127042420
      num_examples: 9727103
    - name: test
      num_bytes: 21865030
      num_examples: 100000
  download_size: 1235657151
  dataset_size: 2148907450
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train-*
      - split: test
        path: data/test-*
license: apache-2.0
task_categories:
  - fill-mask
language:
  - pt
tags:
  - legal
  - licitação
  - editais
pretty_name: Lic Corpus

Descrição

O Lic Corpus é um conjunto de dados focado no domínio jurídico e de licitações, composto por documentos como editais de licitação, contratos públicos e legislações relacionadas a processos licitatórios. Este dataset foi projetado para ser utilizado no pré-treinamento de modelos de linguagem, especialmente para tarefas de Processamento de Linguagem Natural (PLN) no contexto de licitações e contratos públicos no Brasil.

Os dados foram extraídos de fontes como o Comprasnet, TCE-PI, Portal Nacional de Contratações Públicas (PNCP) e GOV BR, abrangendo o período de 2012 a 2023. O corpus foi pré-processado para remover dados irrelevantes e garantir a consistência e a legibilidade dos textos.

Arquitetura do Modelo Utilizado

O modelo que pode ser treinado com esse corpus é baseado na arquitetura BERT, utilizando a tarefa de Masked Language Modeling (MLM) para o pré-treinamento. A abordagem de Transferência de Aprendizado permite que o modelo aproveite o conhecimento prévio de outros modelos, como o BERT, para tarefas específicas de PLN em documentos de licitação e contratos.

Características do Dataset

  • Fonte dos Dados:
    • Editais de Licitação: Comprasnet (278.739 documentos) e TCE-PI (142.374 documentos)
    • Contratos Públicos: TCE-PI (34.041 documentos), PNCP (4.861 documentos)
    • Leis de Licitação e Contratos: GOV BR (21 documentos)
  • Tamanho Total: 460.036 documentos
  • Total de Tokens: 1.492.319.518
  • Número de Exemplos:
    • Treinamento: 9.727.103 amostras
    • Teste: 100.000 amostras
  • Número de Tokens por Documento: Cada documento foi dividido em amostras menores, com no máximo 128 tokens para otimizar o treinamento.

Preprocessing

O pré-processamento inclui a extração de texto de diferentes formatos de documentos, remoção de cabeçalhos e rodapés, limpeza de caracteres especiais e padronização de elementos como números, e-mails, URLs, datas e horários. Além disso, as amostras muito curtas (menos de 10 tokens) foram descartadas, e as amostras longas foram divididas em blocos de até 128 tokens.

Tarefas de PLN

O Lic Corpus pode ser utilizado para uma série de tarefas de PLN, como:

  • Tarefas Específicas de Contratações Públicas: O corpus pode ser utilizado em outras tarefas relacionadas ao domínio jurídico e de contratações públicas, como a análise de cláusulas contratuais e legislação.

Configuração

Arquivos do Dataset

  • Treinamento: data/train-*
  • Teste: data/test-*

Licença

Este dataset está sob a licença Apache 2.0, permitindo o uso e modificação para fins acadêmicos e comerciais, desde que a devida atribuição seja feita.

Como Usar

Para carregar o dataset, utilize a biblioteca datasets do Hugging Face:

from datasets import load_dataset

dataset = load_dataset("vic35get/licCorpus")