rfb-bench / README.md
DominuZ's picture
Upload README.md with huggingface_hub
807a738 verified
|
Raw
History Blame Contribute Delete
8.24 kB
metadata
language:
  - pt
license: cc-by-4.0
task_categories:
  - text-classification
tags:
  - ncm
  - fiscal
  - nfe
  - nf-e
  - receita-federal
  - classificacao-fiscal
  - reforma-tributaria
  - benchmark
pretty_name: RFB-bench  Soluções de Consulta NCM (COANA/COSIT)
size_categories:
  - 1K<n<10K

RFB-bench — Soluções de Consulta NCM da Receita Federal (DominuZ/rfb-bench)

Ferramenta de apoio · caráter orientativo · a responsabilidade pela classificação é do contribuinte/contador.

⚠️ Status: extração automática PENDENTE de revisão humana

Os 4.944 pares foram extraídos automaticamente do texto dos atos e ainda não passaram por revisão humana par a par — todos carregam status_verificacao = "pendente". Os atos de origem são decisões oficiais (o rótulo é vinculante na fonte); o que está pendente é a conferência de que a EXTRAÇÃO (descrição ↔ código) foi fiel ao texto de cada ato. Publicamos com o status visível em vez de esperar em silêncio: se você encontrar um par mal extraído, abra uma discussão neste repositório — o campo status_verificacao será atualizado conforme a revisão avançar, e versões futuras marcarão aprovado/rejeitado por par.


O que é

4.944 pares (descrição da mercadoria, código NCM de 8 dígitos) extraídos de Soluções de Consulta vinculantes da Receita Federal — decisões formais da Coana (Coordenação-Geral de Administração Aduaneira) e Cosit (Coordenação-Geral de Tributação) que fixam o NCM correto de uma mercadoria específica, case a case. Cobrem atos publicados entre 2014 e 2026, coletados via API pública do sistema Normas da RFB (normasinternet2.receita.fazenda.gov.br).

Diferente do restante dos dados deste projeto (descrições de item de NF-e, telegráficas), este dataset é prosa jurídica formal — o registro de um parecer da Receita, não de um ERP. É exatamente essa diferença de registro que o torna valioso como benchmark: mede se um classificador generaliza para além do estilo de treino mais comum, não só decora padrões de nota fiscal.

Colunas

coluna tipo descrição
descricao_mercadoria string descrição da mercadoria extraída do texto do ato
ncm8 string (8 dígitos) código NCM fixado pela Solução de Consulta
ncm8_vigente bool true se o código ainda é válido na tabela NCM vigente; false para códigos já extintos (mantidos no bench — a Solução de Consulta continua provando a classificação correta para a nomenclatura da época)
fonte_id_ato identificador do ato de origem no sistema Normas da RFB
epigrafe string epígrafe/identificação formal do ato
data_publicacao data data de publicação do ato
status_verificacao string pendente para todos os 4.944 pares atualmente (ver aviso acima)

Números

  • 4.944 pares extraídos, de 5.165 atos de classificação identificados entre 5.380 atos baixados com sucesso (2014-2026; 1 falha HTTP 406 isolada, tolerada).
  • 1.356 folhas NCM distintas cobertas.
  • 4.615 pares (93,4%) com NCM ainda vigente na tabela oficial atual; 329 (6,6%) com código já extinto (mantidos com a flag ncm8_vigente=false).
  • Fila de 419 atos (8%) sem par extraído com sucesso (padrão de texto não reconhecido pelo extrator, ou NCM malformado) — deliberadamente deixada de fora deste corte: 8% está abaixo do limiar que justificaria construir um segundo caminho de extração assistida por modelo, e 4.944 pares já superou a meta original em ~3x.

Como foi extraído (resumo — a metodologia completa está no ADR-011 do

projeto de origem)

O portal não documenta uma API de busca pública; o protocolo real (busca textual Lucene com filtro de ano, refinada por assunto do ato) foi descoberto por sondagem direta contra o servidor de produção — o filtro de órgão exposto pela interface web, por exemplo, é ignorado silenciosamente pelo servidor, então a extração usa termo de busca + ano + refinamento por assunto no JSON de cada ato, não o filtro de órgão. Outras armadilhas tratadas: falhas HTTP isoladas não abortam a coleta inteira; o texto "multivigente" de um ato repete a ementa por versão (dedupe pós-extração); atos antigos usam um rótulo alternativo para a descrição da mercadoria (CÓDIGO NCM: X <descrição> em vez de Mercadoria: <descrição>); trechos com rótulos jurídicos intercalados (Ex Tipi:) eram limpos antes de virar a descrição final.

Uso pretendido

Este dataset é EVAL, nunca treino. Ele mede generalização de um classificador descrição→NCM treinado em outro estilo de texto (ex.: NF-e) contra prosa jurídica formal — um teste de distribuição fora do treino, não mais um corpus para aprender de. Qualquer pipeline de treino que use dados públicos de NF-e/Portal da Transparência deve rodar uma checagem de anti-contaminação contra este dataset antes de treinar (cópia literal é verificável; overlap semântico entre uma descrição de NF-e e uma descrição de Solução de Consulta não é garantidamente detectado por uma checagem de igualdade de texto — limitação conhecida).

Benchmark aberto — convidamos submissões. Se você tem um classificador NCM (deste projeto ou de outra origem, incluindo abordagens comerciais), rode contra este held-out e publique acc@2/4/6/8. O objetivo é um campo de comparação público e honesto, não um número que só favoreça este projeto — um resultado baixo aqui não é vergonha, é a natureza de um benchmark fora de distribuição.

Contexto de referência (medido no modelo companheiro deste dataset)

O classificador DominuZ/ncm-classificador-bertimbau, treinado majoritariamente em descrições de item de NF-e, mede acc@2 55,2% / acc@8 8,9% neste benchmark — bem abaixo do desempenho no próprio domínio de treino (76,5% acc@8 em dados reais de NF-e). Isso é reportado no model card dele como um desvio de distribuição esperado (prosa formal vs. telegrama de NF-e), não como falha de arquitetura — e é exatamente o tipo de gap que este benchmark existe para expor honestamente.

LGPD e privacidade

Nenhum dado pessoal. As Soluções de Consulta são atos administrativos públicos da Receita Federal, sem identificação de partes privadas — o texto trata da mercadoria, não do contribuinte que fez a consulta.

Licença

CC BY 4.0 (para a compilação estruturada publicada aqui — extração, limpeza, dedupe, flags de vigência e organização em parquet). Os textos-fonte são atos oficiais da administração pública federal, que não são objeto de proteção autoral no Brasil (Lei 9.610/98, art. 8º, IV); a licença cobre o trabalho de curadoria, não os atos em si. Atribuição: cite este repositório e, por par, o ato de origem (epigrafe / fonte_id_ato).

Disclaimer

Ferramenta de apoio · caráter orientativo · a responsabilidade pela classificação é do contribuinte/contador. Os pares deste dataset registram decisões da Receita Federal para os casos específicos que motivaram cada consulta; usar um NCM aqui presente para um item diferente do julgado exige julgamento humano equivalente, não aplicação mecânica.


English summary

4,944 (item description, 8-digit NCM code) pairs extracted from binding tax classification rulings published by Brazil's federal tax authority (2014–2026 public API), covering 1,356 distinct leaf codes. Unlike the telegraphic invoice-item style used to train the companion model, this is formal legal prose — a genuine out-of-distribution benchmark. All 4,944 pairs are currently unreviewed (status_verificacao = pendente); this dataset ships with that caveat visible rather than waiting silently. Eval-only by design — never used for training the companion model (contamination-guard tested in code). Open benchmark: submissions welcome.