Update README.md

README.md

@@ -29,4 +29,58 @@ tags:
 - licitação
 - editais
 pretty_name: Bid Corpus
----
+---
+
+## Descrição
+
+O **Bid Corpus** é um conjunto de dados focado no domínio jurídico e de licitações, composto por documentos como editais de licitação, contratos públicos e legislações relacionadas a processos licitatórios. Este dataset foi projetado para ser utilizado no pré-treinamento de modelos de linguagem, especialmente para tarefas de Processamento de Linguagem Natural (PLN) no contexto de licitações e contratos públicos no Brasil.
+
+Os dados foram extraídos de fontes como o Comprasnet, TCE-PI, Portal Nacional de Contratações Públicas (PNCP) e GOV BR, abrangendo o período de 2012 a 2023. O corpus foi pré-processado para remover dados irrelevantes e garantir a consistência e a legibilidade dos textos.
+
+## Arquitetura do Modelo Utilizado
+
+O modelo que pode ser treinado com esse corpus é baseado na arquitetura BERT, utilizando a tarefa de **Masked Language Modeling (MLM)** para o pré-treinamento. A abordagem de **Transferência de Aprendizado** permite que o modelo aproveite o conhecimento prévio de outros modelos, como o BERT, para tarefas específicas de PLN em documentos de licitação e contratos.
+
+## Características do Dataset
+
+- **Fonte dos Dados**:
+    - **Editais de Licitação**: Comprasnet (278.739 documentos) e TCE-PI (142.374 documentos)
+    - **Contratos Públicos**: TCE-PI (34.041 documentos), PNCP (4.861 documentos)
+    - **Leis de Licitação e Contratos**: GOV BR (21 documentos)
+- **Tamanho Total**: 460.036 documentos
+- **Total de Tokens**: 1.492.319.518
+- **Número de Exemplos**:
+    - **Treinamento**: 9.727.103 amostras
+    - **Teste**: 100.000 amostras
+- **Número de Tokens por Documento**: Cada documento foi dividido em amostras menores, com no máximo 128 tokens para otimizar o treinamento.
+
+## Preprocessing
+
+O pré-processamento inclui a extração de texto de diferentes formatos de documentos, remoção de cabeçalhos e rodapés, limpeza de caracteres especiais e padronização de elementos como números, e-mails, URLs, datas e horários. Além disso, as amostras muito curtas (menos de 10 tokens) foram descartadas, e as amostras longas foram divididas em blocos de até 128 tokens.
+
+## Tarefas de PLN
+
+O **Bid Corpus** pode ser utilizado para uma série de tarefas de PLN, como:
+
+- **Tarefas Específicas de Contratações Públicas**: O corpus pode ser utilizado em outras tarefas relacionadas ao domínio jurídico e de contratações públicas, como a análise de cláusulas contratuais e legislação.
+
+## Configuração
+
+### Arquivos do Dataset
+
+- **Treinamento**: `data/train-*`
+- **Teste**: `data/test-*`
+
+### Licença
+
+Este dataset está sob a licença **Apache 2.0**, permitindo o uso e modificação para fins acadêmicos e comerciais, desde que a devida atribuição seja feita.
+
+## Como Usar
+
+Para carregar o dataset, utilize a biblioteca `datasets` do Hugging Face:
+
+```python
+from datasets import load_dataset
+
+dataset = load_dataset("vic35get/bidCorpus")
+```