energy-mcqa-lighteval-rag

Avaliação do RAG da Cemig pelo LightEval, através de um endpoint compatível com OpenAI. O RAG é avaliado como se fosse um modelo: mesmo runner, mesmas tasks e mesmas métricas usadas nos modelos puros.

Como ler

Uma linha por (benchmark, split, modelo, experimento, métrica). modelo é o LLM avaliado; experimento é a configuração de recuperação, decomposta em encoder e cross_encoder. decoder-only é a baseline sem recuperação nenhuma.

Modelos: baseline Qwen3-4B, v1 regulatorio, v2 regulatorio-v2 Métricas: answer_extraction

Parâmetros

parâmetro	valor
benchmark	cemig-ceia/benchmark-energy-mcq-harder (MCQA)
splits	easy (644 questões) e hard (645)
alternativas	7
acaso	0.1429
metrica	answer_extraction (letra entre delimitadores)
generation_size	512
modelos	Qwen/Qwen3-4B (baseline), cemig-nlp-releases/energy-gpt-regulatorio (v1), cemig-nlp-releases/energy-gpt-regulatorio-v2 (v2)
encoders	multilingual-e5-large-ft-v2, qwen3-embedding-0.6B-ft-v2 (v1 dos encoders fora de escopo)
cross_encoder	bge-reranker-v2-m3-ft-v2
retriever_k	5
reranker_k	5
reranker_threshold	0.1
rag_query_mode	task (enunciado + alternativas)
llm_backend	vllm, bfloat16
no	dgx-H100-02
runner	paulovsantanas/light-benchmark @ branch energy-mcq-harder-/-energy-mcq-/-EngDistribuicao
endpoint	juliadollis/rag-cemig-endpoint @ feat/openai-endpoint

Resultados

Benchmark	Split	Experimento	baseline Qwen3-4B	v1 regulatorio	v2 regulatorio-v2
MCQ Harder	easy	decoder-only	74.84%	75.16%	81.37%
MCQ Harder	easy	rag-e5-large-ft-v2	93.63%	87.89%	95.50%
MCQ Harder	easy	rag-e5-large-ft-v2-bge-ft-v2	91.93%	86.96%	93.32%
MCQ Harder	easy	rag-qwen3-ft-v2	93.48%	91.61%	95.03%
MCQ Harder	easy	rag-qwen3-ft-v2-bge-ft-v2	93.48%	88.35%	94.57%
MCQ Harder	hard	decoder-only	26.67%	31.63%	38.45%
MCQ Harder	hard	rag-e5-large-ft-v2	76.12%	74.11%	77.67%
MCQ Harder	hard	rag-e5-large-ft-v2-bge-ft-v2	73.64%	71.16%	75.81%
MCQ Harder	hard	rag-qwen3-ft-v2	78.14%	74.11%	78.76%
MCQ Harder	hard	rag-qwen3-ft-v2-bge-ft-v2	74.42%	70.85%	75.66%

Reprodutibilidade

Rodando de novo, do zero, os mesmos experimentos: 5 de 6 deram valores IDÊNTICOS até a última casa; 1 variou 0,155 pp (uma questão de 644). O piso de ruído é ~0,16 pp, não os ±0,5 pp que estimamos antes. Diferenças acima de ~0,2 pp nesta tabela são sinal.

O fine tuning v1 piorou o sistema

Sem RAG o fine-tuning progride (base 26,67% -> v1 31,63% -> v2 38,45% no hard). COM RAG, o v1 fica ABAIXO do modelo base em TODAS as 8 configurações — no easy chega a 5,74 pp abaixo, ~37x o ruído. Ou seja: o v1 melhorou o modelo sozinho e degradou a capacidade de usar contexto recuperado. Só o v2 supera o base nas duas condições. Avaliar fine-tuning sem RAG teria dado a conclusão oposta.

O reranker atrapalha

O cross-encoder bge-...-ft-v2 derruba a acurácia em TODAS as comparações possíveis, nos três modelos e nos dois splits (2 a 3 pp). Reproduz o achado do benchmark anterior, agora em outra infraestrutura, outro prompt e outra métrica.

Em pm

As métricas em/pm não medem estes modelos: o gold é ' D' e eles respondem '(D)', então os parênteses quebram exact e prefix match e um acerto vira erro. Por isso a métrica é answer_extraction.