README.md

---
language:
- pt
license: mit
task_categories:
- question-answering
- text-generation
tags:
- synthetic
- european-portuguese
- grounded-generation
- instruction-tuning
pretty_name: Grounded Behavior Framework N1 v1.5
size_categories:
- 1K<n<10K
configs:
- config_name: default
  data_files:
  - split: train
    path: data/train.jsonl
  - split: validation
    path: data/validation.jsonl
  - split: test
    path: data/test.jsonl
---

# Grounded Behavior Framework N1 v1.5

Dataset sintético em português europeu para treino e avaliação de respostas
fundamentadas num contexto fornecido. Cada exemplo contém um contexto, uma
pergunta e uma resposta curta que aparece literalmente no contexto.

## Como carregar

```python
from datasets import load_dataset

dataset = load_dataset("empgces/grounded-behavior-framework-v1_5")
print(dataset)
print(dataset["train"][0])
```

## Splits

| Split | Exemplos | Utilização |
| --- | ---: | --- |
| `train` | 4.840 | Treino |
| `validation` | 250 | Seleção e validação |
| `test` | 240 | Avaliação final |

A versão v1.5 acrescenta 400 exemplos validados ao split de treino da versão
base. As revisões de qualidade posteriores preservaram a dimensão e a
distribuição dos três splits.

## Campos

Cada linha JSONL inclui:

- `id`: identificador determinístico do exemplo;
- `context`: texto que contém o facto relevante;
- `question`: pergunta respondível a partir do contexto;
- `answer`: resposta literalmente presente no contexto;
- `curriculum_level`, `capability_code`, `subskill`: metadados curriculares;
- `domain`, `document_style`, `fact_type`, `entity_type`: características do
  conteúdo;
- `context_length`, `fact_position`, `distractor`, `question_type`: controlos
  de geração;
- `language`: variante linguística;
- `provider`, `batch_id`, `chunk_id`, `example_index`, `prompt_version`:
  rastreabilidade da geração;
- `dataset_version`: versão de origem do exemplo.

## Processo de criação

Os exemplos foram gerados por vários providers e submetidos a validação
estrutural e determinística. A validação confirma, entre outros aspetos:

- JSON e esquema válidos;
- número esperado de exemplos por chunk;
- presença literal da resposta no contexto;
- distribuição curricular obrigatória dos estados na extensão v1.5;
- presença de dias e de um intervalo completo em respostas de horários.

Os 400 exemplos acrescentados na v1.5 provêm de 40 chunks validados. Não foram
encontrados duplicados exatos contra a versão base ou dentro do refinamento.

## Revisão de qualidade pós-construção

Em 26 de julho de 2026 foi realizada uma revisão explícita das respostas
`Opening_Hours`. Foram completadas 141 respostas que continham apenas o
intervalo horário apesar de os dias de funcionamento estarem declarados no
contexto: 101 em `train`, 30 em `validation` e 10 em `test`.

Não foram inventados dias ou horários e nenhum exemplo foi eliminado. Onze
casos em que o contexto não declara dias foram preservados e documentados. O
registo completo antes/depois acompanha o pacote em
`quality/dataset_quality_corrections.jsonl`; os casos preservados encontram-se
em `quality/dataset_quality_unresolved.jsonl`.

### Auditoria estrutural e de metatexto

Ainda em 26 de julho de 2026, os 5.330 exemplos foram auditados integralmente.
Foram removidas 170 perguntas redundantes ou alheias que tinham sido
introduzidas no campo `context` fora de documentos do tipo `FAQ`. Foram também
analisados individualmente 24 casos de metatexto: 17 prefixos foram removidos
sem eliminar o facto-alvo e 7 casos foram preservados para não quebrar o
grounding nem alterar ambiguidades protegidas.

No total, a versão v1.5 acumula correções auditáveis em 328 exemplos únicos:
141 correções de `Opening_Hours`, 170 correções estruturais e 17 correções de
metatexto. Os IDs dos exemplos alterados foram recalculados com o algoritmo
determinístico oficial do projeto.

Todas as 5.330 respostas continuam a aparecer literalmente nos respetivos
contextos. Não existem IDs repetidos nem duplicados exatos. As 592 ocorrências
em que a resposta aparece mais de uma vez foram mantidas como indicador
estatístico e não foram corrigidas por esse motivo.

O relatório cronológico completo, com decisões, justificações e diffs
`ANTES`/`DEPOIS`, acompanha o pacote em `QUALITY_CORRECTIONS.md`.

### Remoção de perguntas dos contextos

Em 27 de julho de 2026, os 5.330 contextos foram novamente auditados com a
regra de que o documento factual fornecido ao modelo não pode conter
perguntas. Foram corrigidos 659 contextos (`train=562`, `validation=50`,
`test=47`) através da remoção exclusiva de 1.271 segmentos interrogativos.

Não foram alterados os campos `question` ou `answer`, não foi acrescentada
informação e nenhum exemplo foi eliminado. Os IDs derivados dos 659 exemplos
foram recalculados. Depois da revisão:

- nenhum contexto contém `?`;
- todas as 5.330 respostas permanecem literalmente presentes no contexto;
- não existem IDs repetidos nem duplicados exatos.

Considerando sobreposições entre revisões, existem 959 exemplos únicos com
correções auditáveis acumuladas. O detalhe completo desta revisão acompanha o
pacote em `quality/context_question_corrections.jsonl`.

## Utilizações previstas

- fine-tuning de modelos para question answering fundamentado;
- avaliação de seguimento de contexto em português europeu;
- investigação sobre recuperação explícita de factos e resistência a
  distratores.

## Utilizações não previstas

O dataset não deve ser utilizado como fonte factual, para decisões de alto
impacto ou como substituto de revisão humana. As entidades e os factos podem
ser fictícios.

## Limitações

O conteúdo é sintético e pode conter padrões estilísticos dos modelos
geradores. A validação automática não equivale a uma revisão linguística
humana exaustiva. A cobertura concentra-se no nível curricular N1 e não mede
competências gerais de raciocínio.

## Informação pessoal

O dataset foi concebido com entidades e factos sintéticos e não pretende
representar pessoas reais nem incluir dados pessoais.

## Licença

MIT. Ver `LICENSE`.

## Versão

`v1.5`