Baixar o dataset no ambiente de desenvolvimento
#3
by
palaciodata - opened
Durante a reprodução dos experimentos, o método de carregamento do dataset descrito no paper original não funcionou corretamente devido a incompatibilidades de schema entre os arquivos JSON presentes no repositório. Especificamente, o carregamento direto do repositório resulta em erros relacionados à inconsistência de colunas entre diferentes arquivos.
A forma que se mostrou funcional foi carregar explicitamente o arquivo JSON contendo apenas os pares de perguntas e respostas, utilizando o parâmetro data_files da biblioteca datasets, conforme ilustrado abaixo:
from datasets import load_dataset
questions = load_dataset(
"json",
data_files="hf://datasets/unicamp-dl/rag-rfb/questions_QA_2024_v1.1.json",
split="train"
)