sandrik1271/RAG-QA-Dataset

RAG QA Dataset

Структура

dataset/
├── q0001/
│   ├── meta.json          # {"id", "question", "answer", "doc_ids"}
│   └── Agentic Memory.pdf
├── q0002/
│   ├── meta.json
│   └── ...

Каждая папка qNNNN/ — одна запись: вопрос, эталонный ответ и документ(ы)-источник(и) в оригинальном формате.

meta.json:

{
  "id": "q0001",
  "question": "В чем разница между Agentic Memory и RAG?",
  "answer": "Главное отличие заключается в том, что RAG предоставляет модели внешние статические знания, а Agentic Memory (Память агента) обеспечивает динамическую персонализацию на основе опыта общения с пользователем.",
  "doc_ids": ["Agentic Memory.pdf"]
}

• doc_ids — список имён файлов, лежащих в этой же папке (обычно один; несколько — если вопрос multi-hop и ответ собирается из нескольких документов).

Как пользоваться

Пройтись по всем записям:

import json
from pathlib import Path

dataset_dir = Path("dataset")

for qdir in sorted(dataset_dir.iterdir()):
    if not qdir.is_dir():
        continue
    meta = json.loads((qdir / "meta.json").read_text(encoding="utf-8"))
    doc_paths = [qdir / name for name in meta["doc_ids"]]

    print(meta["id"], meta["question"])
    print("Документы:", doc_paths)

Для прогонки в RAG: берёте question и doc_paths из записи, кормите документы в свой пайплайн (парсинг/индексация), получаете ответ модели и сравниваете с эталонным answer.