marcelohaps/verbovision-caprl-questions-pt

VerboVision CapRL — banco de perguntas (pt-BR)

Banco fixo de 4.836 perguntas de múltipla escolha (12 por imagem, 403 imagens) para avaliar a qualidade de descrições de imagens em português pelo protocolo do CapRL / Prism: uma caption é boa se um LLM sem acesso à imagem consegue responder perguntas sobre ela usando apenas a caption.

Cada pergunta foi gerada a partir da caption-oráculo e dos fatos atômicos anotados por humanos em marcelohaps/verbovision-oracle-facts-pt — nunca a partir da imagem. Isso ancora todo gabarito em um fato validado por anotador humano, em vez de em uma leitura automática da imagem.

Como usar

O modelo avaliado é o captioner (quem escreveu a descrição). O LLM que responde é apenas o instrumento de medição, e deve ser fixo entre avaliações:

descrição gerada pelo modelo M ─┐
                                ├─→ LLM leitor (sem ver a imagem) → resposta
pergunta + opções embaralhadas ─┘

score(M) = 100 × acurácia média por imagem

Pipeline de referência: captions-evaluation

uv run caprl evaluate \
  --captions captions_<modelo>.jsonl \
  --questions questions.jsonl \
  --output-dir ./results/<modelo>
uv run caprl score --eval-dir ./results/<modelo> --oracle-dir ./results/oracle

Embaralhe as alternativas a cada apresentação. O gabarito está concentrado em A (48%) por viés do gerador; sem embaralhar, o score mede viés posicional do leitor em vez de qualidade da caption.

Campos

Campo	Descrição
image_name	Imagem correspondente (verbovision_NNNN.jpg), alinhada por índice com os datasets de origem
question_id	Identificador único (<image_name>#qNN)
pergunta	Enunciado autocontido, em português
opcao_a … opcao_d	As quatro alternativas
gabarito	Letra correta (A–D)
tipo	atributo, relacao_espacial, existencia, contagem, cena, ocr ou acao
fatos	Índices dos fatos-oráculo (em oracle_facts) que fundamentam a pergunta

Distribuição

tipo	perguntas	%
atributo	2.464	51,0
relacao_espacial	540	11,2
existencia	501	10,4
contagem	402	8,3
cena	364	7,5
ocr	362	7,5
acao	203	4,2

Metade do banco testa atributos, refletindo a natureza dos fatos anotados — analise o score por tipo além do agregado.

Como foi construído

Gerado por Claude Sonnet 4.5 (claude-sonnet-4-5-20250929) a partir da caption-oráculo + fatos humanos de cada imagem, com as restrições:

• toda pergunta ancorada em fatos explícitos, com os índices registrados;
• proibidas perguntas de lateralidade dependentes do ponto de vista de pessoas retratadas (fonte comum de falso negativo — captions divergem entre o referencial do observador e o do retratado);
• distratores plausíveis, mutuamente exclusivos e do mesmo tipo da resposta;
• enunciados autocontidos, sem referência à descrição ou a outras perguntas.

Validação: 403/403 imagens cobertas, 12 perguntas cada, sem duplicatas, todos os índices de fatos válidos.

Estado: banco bruto, antes da etapa de filtragem. O pipeline prevê dois filtros que ainda não foram aplicados aqui: descartar perguntas respondíveis sem caption (vazamento de conhecimento de mundo) e perguntas que nem a caption-oráculo permite responder. Espere alguma perda ao filtrar.

Datasets relacionados

• marcelohaps/verbovision-oracle-facts-pt — imagens, captions e fatos anotados por humanos (origem destas perguntas)
• VerboVision/pra_cego_ver_teste_descricoes_longas_final — descrições geradas por modelos, a serem avaliadas

Citação

@article{xing2025caprl,
  title={CapRL: Stimulating Dense Image Caption Capabilities via Reinforcement Learning},
  author={Xing, Long and Dong, Xiaoyi and Zang, Yuhang and others},
  journal={arXiv preprint arXiv:2509.22647},
  year={2025}
}