| --- |
| language: |
| - ru |
| pretty_name: top-papers-graph Task 3 VLM benchmark |
| size_categories: |
| - n<1K |
| tags: |
| - scientific-reasoning |
| - multimodal |
| - vision-language |
| - benchmark |
| - russian |
| --- |
| |
| # top-papers-graph: Task 3 VLM benchmark dataset |
|
|
| Этот датасет содержит Task 3 кейсы для генерации ответа одной vision-language моделью. Исходные экспертные A/B prompts преобразуются в модельную задачу: модель должна извлечь факты из текста, страниц PDF, рисунков или таблиц и вернуть структурированный JSON-ответ. Экспертные rationale и ожидаемые ошибки вынесены в отдельные metadata-файлы, чтобы не протекать в prompt оцениваемой модели. |
|
|
| Дата генерации README: `2026-06-03T07:06:18Z`. |
|
|
| ## Главный датасет: `data/task3_vlm_generation.jsonl` |
|
|
| Каждая строка — один VLM-ready sample: |
|
|
| - `sample_id` — стабильный идентификатор строки; |
| - `messages` — TRL-style multimodal сообщения: system prompt и user prompt; |
| - `images` — относительные пути к изображениям в том же порядке, что и `{"type": "image"}` placeholders в `messages`; |
| - `paper_title`, `paper_id`, `year` — статья, на основе которой создан кейс; |
| - `evidence_kind`, `page_hint`, `stratum` — тип evidence, подсказка по странице/рисунку/таблице и слой сложности; |
| - `model_task_prompt` — адаптированный prompt для одной VLM без формулировки blind A/B сравнения; |
| - `generation_target_schema` — ожидаемая структура JSON-ответа; |
| - `review_metadata` — диагностические поля для эксперта; их не следует передавать оцениваемой VLM. |
|
|
| Строк в текущей сборке: **386**. Строк с изображениями: **386**. Всего ссылок на изображения: **1544**. |
|
|
| ## Дополнительные файлы |
|
|
| ### `data/task3_cases_flat.jsonl` |
|
|
| Плоская таблица кейсов для аудита. Здесь удобно проверять `case_id`, `paper_title`, `paper_id`, `creator_prompt`, `model_task_prompt`, `review_focus` и enabled/primary flags без раскрытия полной message-структуры. |
|
|
| Строк: **427**. |
|
|
| ### `data/task3_cases_summary.csv` |
|
|
| CSV-сводка по строкам генерационного датасета. Используется для быстрой ручной проверки в таблицах. |
|
|
| ### `metadata/build_summary.json` |
| |
| Сводка сборки: количество найденных манифестов, записанных кейсов, строк с изображениями, отрендеренных PDF-страниц, скачанных PDF и предупреждений. |
| |
| ### `review_metadata/task3_case_rationales.jsonl` |
|
|
| Экспертные rationale, expected error modes, match/notes и исходный контекст для review. Этот файл нужен для аудита и анализа качества, но **не должен попадать в prompt модели**, если вы проводите blind A/B evaluation. |
|
|
| ### `assets/images/` |
|
|
| Отрендеренные страницы PDF и/или явно приложенные изображения. Пути к этим файлам перечислены в `images` у строк `task3_vlm_generation.jsonl`. |
|
|
| ### `ARTICLE_IMAGE_SOURCES.md` и `article_image_sources.jsonl` |
|
|
| Файлы аудита цитирования изображений. Они связывают каждое изображение с `sample_id`, `case_id`, `paper_id`, названием статьи, ссылкой на статью, `page_hint` и `evidence_kind`. |
|
|
| Человекочитаемый файл: `ARTICLE_IMAGE_SOURCES.md`. Машиночитаемый файл: `article_image_sources.jsonl`. |
|
|
| ## Распределение по слоям сложности |
|
|
| - `easy_control`: 61 |
| - `multimodal_hard`: 228 |
| - `temporal_hard`: 97 |
|
|
| ## Распределение по типам evidence |
|
|
| - `figure`: 161 |
| - `figure_or_table`: 99 |
| - `formula`: 9 |
| - `mixed`: 23 |
| - `page`: 43 |
| - `table`: 45 |
| - `text_claim`: 6 |
|
|
| ## Как читать датасет |
|
|
| ```python |
| from datasets import load_dataset |
| from huggingface_hub import snapshot_download |
| from pathlib import Path |
| |
| repo_id = "top-papers/top-papers-graph-benchmark" |
| config_name = "task3_vlm_generation" |
| split = "test" |
| |
| ds = load_dataset(repo_id, config_name, split=split) |
| repo_root = Path(snapshot_download(repo_id, repo_type="dataset")) |
| |
| row = ds[0] |
| messages = row["messages"] |
| image_paths = [repo_root / rel for rel in row["images"]] |
| ``` |
|
|
| ## Ожидаемый ответ модели |
|
|
| Модель должна вернуть JSON с полями: |
|
|
| - `answer` — краткий предметный ответ; |
| - `evidence_used` — список использованных страниц/рисунков/таблиц; |
| - `visual_facts` — факты, извлечённые из изображений; |
| - `temporal_facts` — временные метки/последовательности, если применимо; |
| - `uncertainty` — `low`, `medium` или `high`; |
| - `missing_evidence` — что невозможно проверить по предоставленным данным. |
|
|
| ## Правила цитирования изображений |
|
|
| При использовании изображений из `assets/images/` нужно ссылаться на соответствующую статью из `ARTICLE_IMAGE_SOURCES.md`. Для автоматической проверки используйте `article_image_sources.jsonl`, где каждая строка задаёт соответствие `sample_id → image_path → article_url`. |
|
|
| ## Ограничения |
|
|
| - Некоторые кейсы могут не иметь изображений, если PDF/рисунок не был найден или отрендерен. |
| - Если `paper_id` не распознан как DOI/arXiv/OpenAlex/PubMed/URL, ссылка в `ARTICLE_IMAGE_SOURCES.md` может потребовать ручной проверки. |
| - `review_metadata/task3_case_rationales.jsonl` содержит экспертные подсказки и не предназначен для передачи в prompt оцениваемой модели. |
|
|
