---
language:
- ru
pretty_name: top-papers-graph Task 3 VLM benchmark
size_categories:
- n<1K
tags:
- scientific-reasoning
- multimodal
- vision-language
- benchmark
- russian
---

# top-papers-graph: Task 3 VLM benchmark dataset

Этот датасет содержит Task 3 кейсы для генерации ответа одной vision-language моделью. Исходные экспертные A/B prompts преобразуются в модельную задачу: модель должна извлечь факты из текста, страниц PDF, рисунков или таблиц и вернуть структурированный JSON-ответ. Экспертные rationale и ожидаемые ошибки вынесены в отдельные metadata-файлы, чтобы не протекать в prompt оцениваемой модели.

Дата генерации README: `2026-06-03T07:06:18Z`.

## Главный датасет: `data/task3_vlm_generation.jsonl`

Каждая строка — один VLM-ready sample:

- `sample_id` — стабильный идентификатор строки;
- `messages` — TRL-style multimodal сообщения: system prompt и user prompt;
- `images` — относительные пути к изображениям в том же порядке, что и `{"type": "image"}` placeholders в `messages`;
- `paper_title`, `paper_id`, `year` — статья, на основе которой создан кейс;
- `evidence_kind`, `page_hint`, `stratum` — тип evidence, подсказка по странице/рисунку/таблице и слой сложности;
- `model_task_prompt` — адаптированный prompt для одной VLM без формулировки blind A/B сравнения;
- `generation_target_schema` — ожидаемая структура JSON-ответа;
- `review_metadata` — диагностические поля для эксперта; их не следует передавать оцениваемой VLM.

Строк в текущей сборке: **386**. Строк с изображениями: **386**. Всего ссылок на изображения: **1544**.

## Дополнительные файлы

### `data/task3_cases_flat.jsonl`

Плоская таблица кейсов для аудита. Здесь удобно проверять `case_id`, `paper_title`, `paper_id`, `creator_prompt`, `model_task_prompt`, `review_focus` и enabled/primary flags без раскрытия полной message-структуры.

Строк: **427**.

### `data/task3_cases_summary.csv`

CSV-сводка по строкам генерационного датасета. Используется для быстрой ручной проверки в таблицах.

### `metadata/build_summary.json`

Сводка сборки: количество найденных манифестов, записанных кейсов, строк с изображениями, отрендеренных PDF-страниц, скачанных PDF и предупреждений.

### `review_metadata/task3_case_rationales.jsonl`

Экспертные rationale, expected error modes, match/notes и исходный контекст для review. Этот файл нужен для аудита и анализа качества, но **не должен попадать в prompt модели**, если вы проводите blind A/B evaluation.

### `assets/images/`

Отрендеренные страницы PDF и/или явно приложенные изображения. Пути к этим файлам перечислены в `images` у строк `task3_vlm_generation.jsonl`.

### `ARTICLE_IMAGE_SOURCES.md` и `article_image_sources.jsonl`

Файлы аудита цитирования изображений. Они связывают каждое изображение с `sample_id`, `case_id`, `paper_id`, названием статьи, ссылкой на статью, `page_hint` и `evidence_kind`.

Человекочитаемый файл: `ARTICLE_IMAGE_SOURCES.md`. Машиночитаемый файл: `article_image_sources.jsonl`.

## Распределение по слоям сложности

- `easy_control`: 61
- `multimodal_hard`: 228
- `temporal_hard`: 97

## Распределение по типам evidence

- `figure`: 161
- `figure_or_table`: 99
- `formula`: 9
- `mixed`: 23
- `page`: 43
- `table`: 45
- `text_claim`: 6

## Как читать датасет

```python
from datasets import load_dataset
from huggingface_hub import snapshot_download
from pathlib import Path

repo_id = "top-papers/top-papers-graph-benchmark"
config_name = "task3_vlm_generation"
split = "test"

ds = load_dataset(repo_id, config_name, split=split)
repo_root = Path(snapshot_download(repo_id, repo_type="dataset"))

row = ds[0]
messages = row["messages"]
image_paths = [repo_root / rel for rel in row["images"]]
```

## Ожидаемый ответ модели

Модель должна вернуть JSON с полями:

- `answer` — краткий предметный ответ;
- `evidence_used` — список использованных страниц/рисунков/таблиц;
- `visual_facts` — факты, извлечённые из изображений;
- `temporal_facts` — временные метки/последовательности, если применимо;
- `uncertainty` — `low`, `medium` или `high`;
- `missing_evidence` — что невозможно проверить по предоставленным данным.

## Правила цитирования изображений

При использовании изображений из `assets/images/` нужно ссылаться на соответствующую статью из `ARTICLE_IMAGE_SOURCES.md`. Для автоматической проверки используйте `article_image_sources.jsonl`, где каждая строка задаёт соответствие `sample_id → image_path → article_url`.

## Ограничения

- Некоторые кейсы могут не иметь изображений, если PDF/рисунок не был найден или отрендерен.
- Если `paper_id` не распознан как DOI/arXiv/OpenAlex/PubMed/URL, ссылка в `ARTICLE_IMAGE_SOURCES.md` может потребовать ручной проверки.
- `review_metadata/task3_case_rationales.jsonl` содержит экспертные подсказки и не предназначен для передачи в prompt оцениваемой модели.