top-papers/top-papers-graph-benchmark

top-papers-graph: Task 3 VLM benchmark dataset

Этот датасет содержит Task 3 кейсы для генерации ответа одной vision-language моделью. Исходные экспертные A/B prompts преобразуются в модельную задачу: модель должна извлечь факты из текста, страниц PDF, рисунков или таблиц и вернуть структурированный JSON-ответ. Экспертные rationale и ожидаемые ошибки вынесены в отдельные metadata-файлы, чтобы не протекать в prompt оцениваемой модели.

Дата генерации README: 2026-06-03T07:06:18Z.

Главный датасет: data/task3_vlm_generation.jsonl

Каждая строка — один VLM-ready sample:

• sample_id — стабильный идентификатор строки;
• messages — TRL-style multimodal сообщения: system prompt и user prompt;
• images — относительные пути к изображениям в том же порядке, что и {"type": "image"} placeholders в messages;
• paper_title, paper_id, year — статья, на основе которой создан кейс;
• evidence_kind, page_hint, stratum — тип evidence, подсказка по странице/рисунку/таблице и слой сложности;
• model_task_prompt — адаптированный prompt для одной VLM без формулировки blind A/B сравнения;
• generation_target_schema — ожидаемая структура JSON-ответа;
• review_metadata — диагностические поля для эксперта; их не следует передавать оцениваемой VLM.

Строк в текущей сборке: 386. Строк с изображениями: 386. Всего ссылок на изображения: 1544.

Дополнительные файлы

data/task3_cases_flat.jsonl

Плоская таблица кейсов для аудита. Здесь удобно проверять case_id, paper_title, paper_id, creator_prompt, model_task_prompt, review_focus и enabled/primary flags без раскрытия полной message-структуры.

Строк: 427.

data/task3_cases_summary.csv

CSV-сводка по строкам генерационного датасета. Используется для быстрой ручной проверки в таблицах.

metadata/build_summary.json

Сводка сборки: количество найденных манифестов, записанных кейсов, строк с изображениями, отрендеренных PDF-страниц, скачанных PDF и предупреждений.

review_metadata/task3_case_rationales.jsonl

Экспертные rationale, expected error modes, match/notes и исходный контекст для review. Этот файл нужен для аудита и анализа качества, но не должен попадать в prompt модели, если вы проводите blind A/B evaluation.

assets/images/

Отрендеренные страницы PDF и/или явно приложенные изображения. Пути к этим файлам перечислены в images у строк task3_vlm_generation.jsonl.

ARTICLE_IMAGE_SOURCES.md и article_image_sources.jsonl

Файлы аудита цитирования изображений. Они связывают каждое изображение с sample_id, case_id, paper_id, названием статьи, ссылкой на статью, page_hint и evidence_kind.

Человекочитаемый файл: ARTICLE_IMAGE_SOURCES.md. Машиночитаемый файл: article_image_sources.jsonl.

Распределение по слоям сложности

• easy_control: 61
• multimodal_hard: 228
• temporal_hard: 97

Распределение по типам evidence

• figure: 161
• figure_or_table: 99
• formula: 9
• mixed: 23
• page: 43
• table: 45
• text_claim: 6

Как читать датасет

from datasets import load_dataset
from huggingface_hub import snapshot_download
from pathlib import Path

repo_id = "top-papers/top-papers-graph-benchmark"
config_name = "task3_vlm_generation"
split = "test"

ds = load_dataset(repo_id, config_name, split=split)
repo_root = Path(snapshot_download(repo_id, repo_type="dataset"))

row = ds[0]
messages = row["messages"]
image_paths = [repo_root / rel for rel in row["images"]]

Ожидаемый ответ модели

Модель должна вернуть JSON с полями:

• answer — краткий предметный ответ;
• evidence_used — список использованных страниц/рисунков/таблиц;
• visual_facts — факты, извлечённые из изображений;
• temporal_facts — временные метки/последовательности, если применимо;
• uncertainty — low, medium или high;
• missing_evidence — что невозможно проверить по предоставленным данным.

Правила цитирования изображений

При использовании изображений из assets/images/ нужно ссылаться на соответствующую статью из ARTICLE_IMAGE_SOURCES.md. Для автоматической проверки используйте article_image_sources.jsonl, где каждая строка задаёт соответствие sample_id → image_path → article_url.

Ограничения

• Некоторые кейсы могут не иметь изображений, если PDF/рисунок не был найден или отрендерен.
• Если paper_id не распознан как DOI/arXiv/OpenAlex/PubMed/URL, ссылка в ARTICLE_IMAGE_SOURCES.md может потребовать ручной проверки.
• review_metadata/task3_case_rationales.jsonl содержит экспертные подсказки и не предназначен для передачи в prompt оцениваемой модели.