empgces's picture
Remove questions from dataset contexts
2575963 verified
|
Raw
History Blame Contribute Delete
6.25 kB
metadata
language:
  - pt
license: mit
task_categories:
  - question-answering
  - text-generation
tags:
  - synthetic
  - european-portuguese
  - grounded-generation
  - instruction-tuning
pretty_name: Grounded Behavior Framework N1 v1.5
size_categories:
  - 1K<n<10K
configs:
  - config_name: default
    data_files:
      - split: train
        path: data/train.jsonl
      - split: validation
        path: data/validation.jsonl
      - split: test
        path: data/test.jsonl

Grounded Behavior Framework N1 v1.5

Dataset sintético em português europeu para treino e avaliação de respostas fundamentadas num contexto fornecido. Cada exemplo contém um contexto, uma pergunta e uma resposta curta que aparece literalmente no contexto.

Como carregar

from datasets import load_dataset

dataset = load_dataset("empgces/grounded-behavior-framework-v1_5")
print(dataset)
print(dataset["train"][0])

Splits

Split Exemplos Utilização
train 4.840 Treino
validation 250 Seleção e validação
test 240 Avaliação final

A versão v1.5 acrescenta 400 exemplos validados ao split de treino da versão base. As revisões de qualidade posteriores preservaram a dimensão e a distribuição dos três splits.

Campos

Cada linha JSONL inclui:

  • id: identificador determinístico do exemplo;
  • context: texto que contém o facto relevante;
  • question: pergunta respondível a partir do contexto;
  • answer: resposta literalmente presente no contexto;
  • curriculum_level, capability_code, subskill: metadados curriculares;
  • domain, document_style, fact_type, entity_type: características do conteúdo;
  • context_length, fact_position, distractor, question_type: controlos de geração;
  • language: variante linguística;
  • provider, batch_id, chunk_id, example_index, prompt_version: rastreabilidade da geração;
  • dataset_version: versão de origem do exemplo.

Processo de criação

Os exemplos foram gerados por vários providers e submetidos a validação estrutural e determinística. A validação confirma, entre outros aspetos:

  • JSON e esquema válidos;
  • número esperado de exemplos por chunk;
  • presença literal da resposta no contexto;
  • distribuição curricular obrigatória dos estados na extensão v1.5;
  • presença de dias e de um intervalo completo em respostas de horários.

Os 400 exemplos acrescentados na v1.5 provêm de 40 chunks validados. Não foram encontrados duplicados exatos contra a versão base ou dentro do refinamento.

Revisão de qualidade pós-construção

Em 26 de julho de 2026 foi realizada uma revisão explícita das respostas Opening_Hours. Foram completadas 141 respostas que continham apenas o intervalo horário apesar de os dias de funcionamento estarem declarados no contexto: 101 em train, 30 em validation e 10 em test.

Não foram inventados dias ou horários e nenhum exemplo foi eliminado. Onze casos em que o contexto não declara dias foram preservados e documentados. O registo completo antes/depois acompanha o pacote em quality/dataset_quality_corrections.jsonl; os casos preservados encontram-se em quality/dataset_quality_unresolved.jsonl.

Auditoria estrutural e de metatexto

Ainda em 26 de julho de 2026, os 5.330 exemplos foram auditados integralmente. Foram removidas 170 perguntas redundantes ou alheias que tinham sido introduzidas no campo context fora de documentos do tipo FAQ. Foram também analisados individualmente 24 casos de metatexto: 17 prefixos foram removidos sem eliminar o facto-alvo e 7 casos foram preservados para não quebrar o grounding nem alterar ambiguidades protegidas.

No total, a versão v1.5 acumula correções auditáveis em 328 exemplos únicos: 141 correções de Opening_Hours, 170 correções estruturais e 17 correções de metatexto. Os IDs dos exemplos alterados foram recalculados com o algoritmo determinístico oficial do projeto.

Todas as 5.330 respostas continuam a aparecer literalmente nos respetivos contextos. Não existem IDs repetidos nem duplicados exatos. As 592 ocorrências em que a resposta aparece mais de uma vez foram mantidas como indicador estatístico e não foram corrigidas por esse motivo.

O relatório cronológico completo, com decisões, justificações e diffs ANTES/DEPOIS, acompanha o pacote em QUALITY_CORRECTIONS.md.

Remoção de perguntas dos contextos

Em 27 de julho de 2026, os 5.330 contextos foram novamente auditados com a regra de que o documento factual fornecido ao modelo não pode conter perguntas. Foram corrigidos 659 contextos (train=562, validation=50, test=47) através da remoção exclusiva de 1.271 segmentos interrogativos.

Não foram alterados os campos question ou answer, não foi acrescentada informação e nenhum exemplo foi eliminado. Os IDs derivados dos 659 exemplos foram recalculados. Depois da revisão:

  • nenhum contexto contém ?;
  • todas as 5.330 respostas permanecem literalmente presentes no contexto;
  • não existem IDs repetidos nem duplicados exatos.

Considerando sobreposições entre revisões, existem 959 exemplos únicos com correções auditáveis acumuladas. O detalhe completo desta revisão acompanha o pacote em quality/context_question_corrections.jsonl.

Utilizações previstas

  • fine-tuning de modelos para question answering fundamentado;
  • avaliação de seguimento de contexto em português europeu;
  • investigação sobre recuperação explícita de factos e resistência a distratores.

Utilizações não previstas

O dataset não deve ser utilizado como fonte factual, para decisões de alto impacto ou como substituto de revisão humana. As entidades e os factos podem ser fictícios.

Limitações

O conteúdo é sintético e pode conter padrões estilísticos dos modelos geradores. A validação automática não equivale a uma revisão linguística humana exaustiva. A cobertura concentra-se no nível curricular N1 e não mede competências gerais de raciocínio.

Informação pessoal

O dataset foi concebido com entidades e factos sintéticos e não pretende representar pessoas reais nem incluir dados pessoais.

Licença

MIT. Ver LICENSE.

Versão

v1.5