Upload Task 3 VLM benchmark dataset from Colab

Generated from Task 3 Google Sheet URLs and adapted for VLM A/B generation.

README.md

@@ -1,42 +1,84 @@
 ---
-pretty_name: top-papers-graph Task 3 VLM A/B benchmark
 language:
 - ru
+pretty_name: top-papers-graph Task 3 VLM benchmark
+size_categories:
+- n<1K
 tags:
-- scientific-papers
-- vision-language
+- scientific-reasoning
 - multimodal
+- vision-language
 - benchmark
-- ab-testing
-- top-papers-graph
-size_categories:
-- n<1K
-configs:
-- config_name: task3_vlm_generation
-  data_files:
-  - split: test
-    path: data/task3_vlm_generation.jsonl
-- config_name: task3_cases_flat
-  data_files:
-  - split: test
-    path: data/task3_cases_flat.jsonl
+- russian
 ---
 
-# top-papers-graph Task 3 VLM A/B benchmark
+# top-papers-graph: Task 3 VLM benchmark dataset
+
+Этот датасет содержит Task 3 кейсы для генерации ответа одной vision-language моделью. Исходные экспертные A/B prompts преобразуются в модельную задачу: модель должна извлечь факты из текста, страниц PDF, рисунков или таблиц и вернуть структурированный JSON-ответ. Экспертные rationale и ожидаемые ошибки вынесены в отдельные metadata-файлы, чтобы не протекать в prompt оцениваемой модели.
+
+Дата генерации README: `2026-05-16T20:35:37Z`.
+
+## Главный датасет: `data/task3_vlm_generation.jsonl`
+
+Каждая строка — один VLM-ready sample:
+
+- `sample_id` — стабильный идентификатор строки;
+- `messages` — TRL-style multimodal сообщения: system prompt и user prompt;
+- `images` — относительные пути к изображениям в том же порядке, что и `{"type": "image"}` placeholders в `messages`;
+- `paper_title`, `paper_id`, `year` — статья, на основе которой создан кейс;
+- `evidence_kind`, `page_hint`, `stratum` — тип evidence, подсказка по странице/рисунку/таблице и слой сложности;
+- `model_task_prompt` — адаптированный prompt для одной VLM без формулировки blind A/B сравнения;
+- `generation_target_schema` — ожидаемая структура JSON-ответа;
+- `review_metadata` — диагностические поля для эксперта; их не следует передавать оцениваемой VLM.
+
+Строк в текущей сборке: **273**. Строк с изображениями: **273**. Всего ссылок на изображения: **1092**.
+
+## Дополнительные файлы
+
+### `data/task3_cases_flat.jsonl`
+
+Плоская таблица кейсов для аудита. Здесь удобно проверять `case_id`, `paper_title`, `paper_id`, `creator_prompt`, `model_task_prompt`, `review_focus` и enabled/primary flags без раскрытия полной message-структуры.
+
+Строк: **314**.
+
+### `data/task3_cases_summary.csv`
+
+CSV-сводка по строкам генерационного датасета. Используется для быстрой ручной проверки в таблицах.
 
-Dataset repository target: `top-papers/top-papers-graph-benchmark`.
+### `metadata/build_summary.json`
 
-This dataset contains Task 3 case-based prompts adapted for **single VLM generation**. Expert-created A/B review prompts are transformed into model-facing evidence extraction or reasoning tasks. Expert rationales and expected error modes are kept in metadata, not in the model messages, to reduce prompt leakage during A/B generation.
+Сводка сборки: количество найденных манифестов, записанных кейсов, строк с изображениями, отрендеренных PDF-страниц, скачанных PDF и предупреждений.
 
-## Main files
+### `review_metadata/task3_case_rationales.jsonl`
 
-- `data/task3_vlm_generation.jsonl` — primary model-facing records.
-- `data/task3_cases_flat.jsonl` — compact case metadata for auditing.
-- `metadata/build_summary.json` — build statistics and warnings.
-- `review_metadata/task3_case_rationales.jsonl` — expert-only rationale/diagnostic metadata; do not feed this file to the evaluated VLM.
-- `assets/images/` — optional rendered pages or explicitly supplied image files referenced by `images`.
+Экспертные rationale, expected error modes, match/notes и исходный контекст для review. Этот файл нужен для аудита и анализа качества, но **не должен попадать в prompt модели**, если вы проводите blind A/B evaluation.
 
-## Loading
+### `assets/images/`
+
+Отрендеренные страницы PDF и/или явно приложенные изображения. Пути к этим файлам перечислены в `images` у строк `task3_vlm_generation.jsonl`.
+
+### `ARTICLE_IMAGE_SOURCES.md` и `article_image_sources.jsonl`
+
+Файлы аудита цитирования изображений. Они связывают каждое изображение с `sample_id`, `case_id`, `paper_id`, названием статьи, ссылкой на статью, `page_hint` и `evidence_kind`.
+
+Человекочитаемый файл: `ARTICLE_IMAGE_SOURCES.md`. Машиночитаемый файл: `article_image_sources.jsonl`.
+
+## Распределение по слоям сложности
+
+- `easy_control`: 42
+- `multimodal_hard`: 163
+- `temporal_hard`: 68
+
+## Распределение по типам evidence
+
+- `figure`: 119
+- `figure_or_table`: 62
+- `formula`: 8
+- `mixed`: 21
+- `page`: 31
+- `table`: 32
+
+## Как читать датасет
 
 ```python
 from datasets import load_dataset
@@ -44,18 +86,34 @@ from huggingface_hub import snapshot_download
 from pathlib import Path
 
 repo_id = "top-papers/top-papers-graph-benchmark"
-ds = load_dataset(repo_id, "task3_vlm_generation", split="test")
+config_name = "task3_vlm_generation"
+split = "test"
+
+ds = load_dataset(repo_id, config_name, split=split)
 repo_root = Path(snapshot_download(repo_id, repo_type="dataset"))
+
 row = ds[0]
-image_paths = [repo_root / rel for rel in row["images"]]
 messages = row["messages"]
+image_paths = [repo_root / rel for rel in row["images"]]
 ```
 
-Each row follows the TRL-style multimodal convention used elsewhere in this repository: `messages` contains text and `{"type": "image"}` placeholders, while top-level `images` contains relative paths in the same order.
+## Ожидаемый ответ модели
+
+Модель должна вернуть JSON с полями:
+
+- `answer` — краткий предметный ответ;
+- `evidence_used` — список использованных страниц/рисунков/таблиц;
+- `visual_facts` — факты, извлечённые из изображений;
+- `temporal_facts` — временные метки/последовательности, если применимо;
+- `uncertainty` — `low`, `medium` или `high`;
+- `missing_evidence` — что невозможно проверить по предоставленным данным.
+
+## Правила цитирования изображений
+
+При использовании изображений из `assets/images/` нужно ссылаться на соответствующую статью из `ARTICLE_IMAGE_SOURCES.md`. Для автоматической проверки используйте `article_image_sources.jsonl`, где каждая строка задаёт соответствие `sample_id → image_path → article_url`.
 
-## Build summary
+## Ограничения
 
-- Cases written: 261
-- Cases with images: 185
-- Manifests discovered: 29
-- Rendered PDF pages: 365
+- Некоторые кейсы могут не иметь изображений, если PDF/рисунок не был найден или отрендерен.
+- Если `paper_id` не распознан как DOI/arXiv/OpenAlex/PubMed/URL, ссылка в `ARTICLE_IMAGE_SOURCES.md` может потребовать ручной проверки.
+- `review_metadata/task3_case_rationales.jsonl` содержит экспертные подсказки и не предназначен для передачи в prompt оцениваемой модели.

article_image_sources.jsonl

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:7acd2b4325ff12ad3ed9e1b2f3061a69254bba66130c22fa45f642bdee3f47bd
+size 743988