diff --git "a/data/task3_vlm_generation.jsonl" "b/data/task3_vlm_generation.jsonl" --- "a/data/task3_vlm_generation.jsonl" +++ "b/data/task3_vlm_generation.jsonl" @@ -1,182 +1,3 @@ -{"sample_id": "task3:f0377dec26:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Ordering, Metastability and Phase Transitions in Two-Dimensional Systems", "paper_id": "DOI:10.1088/0022-3719/6/7/010", "year": "1973", "evidence_kind": "figure_or_table", "page_hint": "p.1191–1192, Fig.1 & Fig.2", "model_task_prompt": "Сравните, какой вариант точнее интерпретирует рисунки 1 и 2 (стр. 1191–1192): извлеките связь между направлением обхода замкнутого контура и величиной топологического заряда q, и проверьте, не теряется ли эта визуальная закономерность в hypothesis support.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Ordering, Metastability and Phase Transitions in Two-Dimensional Systems\nИдентификатор статьи: DOI:10.1088/0022-3719/6/7/010\nГод: 1973\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.1191–1192, Fig.1 & Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее интерпретирует рисунки 1 и 2 (стр. 1191–1192): извлеките связь между направлением обхода замкнутого контура и величиной топологического заряда q, и проверьте, не теряется ли эта визуальная закономерность в hypothesis support.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Ordering, Metastability and Phase Transitions in Two-Dimensional Systems\nИдентификатор статьи: DOI:10.1088/0022-3719/6/7/010\nГод: 1973\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.1191–1192, Fig.1 & Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее интерпретирует рисунки 1 и 2 (стр. 1191–1192): извлеките связь между направлением обхода замкнутого контура и величиной топологического заряда q, и проверьте, н�� теряется ли эта визуальная закономерность в hypothesis support.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", "original_creator_prompt": "Сравните, какой вариант точнее интерпретирует рисунки 1 и 2 (стр. 1191–1192): извлеките связь между направлением обхода замкнутого контура и величиной топологического заряда q, и проверьте, не теряется ли эта визуальная закономерность в hypothesis support.", "notes_available": false}} -{"sample_id": "task3:f0377dec26:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Quasicrystalline structures in strongly coupled dusty plasma", "paper_id": "DOI:10.1070/PU1997v040n11ABEH000308", "year": "1977", "evidence_kind": "figure", "page_hint": "p.1166, Fig.4", "model_task_prompt": "Сравните, какой вариант точнее извлекает данные из графика на рис. 4 (стр. 1165): определите, какая кривая соответствует переходу от “газообразного” к “жидкоподобному” состоянию, и проверьте, правильно ли модель связывает появление пика g(r) с указанным в тексте значением параметра связи Γ = 40.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Quasicrystalline structures in strongly coupled dusty plasma\nИдентификатор статьи: DOI:10.1070/PU1997v040n11ABEH000308\nГод: 1977\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.1166, Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает данные из графика на рис. 4 (стр. 1165): определите, какая кривая соответствует переходу от “газообразного” к “жидкоподобному” состоянию, и проверьте, правильно ли модель связывает появление пика g(r) с указанным в тексте значением параметра связи Γ = 40.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий п��едметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Quasicrystalline structures in strongly coupled dusty plasma\nИдентификатор статьи: DOI:10.1070/PU1997v040n11ABEH000308\nГод: 1977\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.1166, Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает данные из графика на рис. 4 (стр. 1165): определите, какая кривая соответствует переходу от “газообразного” к “жидкоподобному” состоянию, и проверьте, правильно ли модель связывает появление пика g(r) с указанным в тексте значением параметра связи Γ = 40.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", "original_creator_prompt": "Сравните, какой вариант точнее извлекает данные из графика на рис. 4 (стр. 1165): определите, какая кривая соответствует переходу от “газообразного” к “жидкоподобному” состоянию, и проверьте, правильно ли модель связывает появление пика g(r) с указанным в тексте значением параметра связи Γ = 40.", "notes_available": false}} -{"sample_id": "task3:f0377dec26:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Quasicrystalline structures in strongly coupled dusty plasma", "paper_id": "DOI:10.1070/PU1997v040n11ABEH000308", "year": "1977", "evidence_kind": "figure_or_table", "page_hint": "p.1166, Fig.5", "model_task_prompt": "Сравните, какой вариант вернее интерпретирует фазовую диаграмму на рис. 5 (стр. 1166): извлеките координаты экспериментальных точек в логарифмическом масштабе осей, определите, относительно каких теоретических кривых они лежат, и проверьте, не нарушается ли при этом условие образования упорядоченных структур, описанное в тексте.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Quasicrystalline structures in strongly coupled dusty plasma\nИдентификатор статьи: DOI:10.1070/PU1997v040n11ABEH000308\nГод: 1977\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.1166, Fig.5\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант вернее интерпретирует фазовую диаграмму на рис. 5 (стр. 1166): извлеките координаты экспериментальных точек в логарифмическом масштабе осей, определите, относительно каких теоретических кривых они лежат, и проверьте, не нарушается ли при этом условие образования упорядоченных структур, описанное в тексте.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Quasicrystalline structures in strongly coupled dusty plasma\nИдентификатор статьи: DOI:10.1070/PU1997v040n11ABEH000308\nГод: 1977\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.1166, Fig.5\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант вернее интерпретирует фазовую диаграмму на рис. 5 (стр. 1166): извлеките координаты экспериментальных точек в логарифмическом масштабе осей, определите, относительно каких теоретических кривых они лежат, и проверьте, не нарушается ли при этом условие образования упорядоченных структур, описанное в тексте.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", "original_creator_prompt": "Сравните, какой вариант вернее интерпретирует фазовую диаграмму на рис. 5 (стр. 1166): извлеките координаты экспериментальных точек в логарифмическом масштабе осей, определите, относительно каких теоретических кривых они лежат, и проверьте, не нарушается ли при этом условие образования упорядоченных структур, описанное в тексте.", "notes_available": false}} -{"sample_id": "task3:f0377dec26:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Melting dynamics of a plasma crystal", "paper_id": "DOI:10.1038/379806a0", "year": "1996", "evidence_kind": "figure", "page_hint": "p. 809, Fig. 3", "model_task_prompt": "Сравните, какой вариант точнее считывает график на рис. 3: определите давление газа (0.32 мбар), при котором ориентационный порядок демонстрирует локальный максимум, в то время как трансляционный порядок продолжает монотонно падать.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Melting dynamics of a plasma crystal\nИдентификатор статьи: DOI:10.1038/379806a0\nГод: 1996\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p. 809, Fig. 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее считывает график на рис. 3: определите давление газа (0.32 мбар), при котором ориентационный порядок демонстрирует локальный максимум, в то время как трансляционный порядок продолжает монотонно падать.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Melting dynamics of a plasma crystal\nИдентификатор статьи: DOI:10.1038/379806a0\nГод: 1996\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p. 809, Fig. 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее считывает график на рис. 3: определите давление газа (0.32 мбар), при котором ориентационный порядок демонстрирует локальный максимум, в то время как трансляционный порядок продолжает монотонно падать.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", "original_creator_prompt": "Сравните, какой вариант точнее считывает график на рис. 3: определите давление газа (0.32 мбар), при котором ориентационный порядок демонстрирует локальный максимум, в то время как трансляционный порядок продолжает монотонно падать.", "notes_available": false}} -{"sample_id": "task3:f0377dec26:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Plasma Crystal: Coulomb Crystallization in a Dusty Plasma", "paper_id": "DOI: https://doi.org/10.1103/PhysRevLett.73.652", "year": "1994", "evidence_kind": "figure", "page_hint": "p. 653, Fig. 4", "model_task_prompt": "Сравните три гистограммы на рис. 4 (стр. 653): определите, какое из распределений (площадь ячеек, число сторон или расстояние до соседа) наиболее чётко отличает экспериментальные данные (чёрные столбцы) от случайного распределения (белые), и проверьте, сохраняет ли модель связь между сужением пиков и выводом о кристаллическом порядке.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Plasma Crystal: Coulomb Crystallization in a Dusty Plasma\nИдентификатор статьи: DOI: https://doi.org/10.1103/PhysRevLett.73.652\nГод: 1994\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p. 653, Fig. 4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните три гистограммы на рис. 4 (стр. 653): определите, какое из распределений (площадь ячеек, число сторон или расстояние до соседа) наиболее чётко отличает экспериментальные данные (чёрные столбцы) от случайного распределения (белые), и проверьте, сохраняет ли модель связь между сужением пиков и выводом о кристаллическом порядке.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Plasma Crystal: Coulomb Crystallization in a Dusty Plasma\nИдентификатор статьи: DOI: https://doi.org/10.1103/PhysRevLett.73.652\nГод: 1994\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p. 653, Fig. 4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните три гистограммы на рис. 4 (стр. 653): определите, какое из распределений (площадь ячеек, число сторон или расстояние до соседа) наиболее чётко отличает экспериментальные данные (чёрные столбцы) от случайного распределения (белые), и проверьте, сохраняет ли модель связь между сужением пиков и выводом о кристаллическом порядке.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", "original_creator_prompt": "Сравните три гистограммы на рис. 4 (стр. 653): определите, какое из распределений (площадь ячеек, число сторон или расстояние до соседа) наиболее чётко отличает экспериментальные данные (чёрные столбцы) от случайного распределения (белые), и проверьте, сохраняет ли модель связь между сужением пиков и выводом о кристаллическом порядке.", "notes_available": false}} -{"sample_id": "task3:f0377dec26:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "case_id": "CASE-006", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Plasma Crystal: Coulomb Crystallization in a Dusty Plasma", "paper_id": "DOI: https://doi.org/10.1103/PhysRevLett.73.652", "year": "1994", "evidence_kind": "figure", "page_hint": "p. 654, Fig. 3", "model_task_prompt": "Проанализируйте тесселяцию на рис. 3: определите, какая геометрическая фигура преобладает среди ячеек Вороного, проверьте, связывает ли модель визуальное доминирование шестиугольников с выводом о формировании кристаллической решётки.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Plasma Crystal: Coulomb Crystallization in a Dusty Plasma\nИдентификатор статьи: DOI: https://doi.org/10.1103/PhysRevLett.73.652\nГод: 1994\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p. 654, Fig. 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nПроанализируйте тесселяцию на рис. 3: определите, какая геометрическая фигура преобладает среди ячеек Вороного, проверьте, связывает ли модель визуальное доминирование шестиугольников с выводом о формировании кристаллической решётки.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Plasma Crystal: Coulomb Crystallization in a Dusty Plasma\nИдентификатор статьи: DOI: https://doi.org/10.1103/PhysRevLett.73.652\nГод: 1994\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p. 654, Fig. 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nПроанализируйте тесселяцию на рис. 3: определите, какая геометрическая фигура преобладает среди ячеек Вороного, проверьте, связывает ли модель визуальное доминирование шестиугольников с выводом о формировании кристаллической решётки.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", "original_creator_prompt": "Проанализируйте тесселяцию на рис. 3: определите, какая геометрическая фигура преобладает среди ячеек Вороного, проверьте, связывает ли модель визуальное доминирование шестиугольников с выводом о формировании кристаллической решётки.", "notes_available": false}} -{"sample_id": "task3:f0377dec26:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "case_id": "CASE-007", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Hexatic phase in two-dimensional Yukawa systems: Existence and properties", "paper_id": "DOI 10.1088/1742-6596/653/1/012103", "year": "2015", "evidence_kind": "figure", "page_hint": "p.3-4, Fig.1 & Fig.3", "model_task_prompt": "Сравните, какой вариант точнее считывает рисунки 1 и 3: извлеките асимптотическое поведение g6(r) для гексатической фазы (степенной закон r^(-1/5)), сопоставьте его с положением пика теплоёмкости Cv и определите границы переходов при Γ = 98 и Γ=154.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Hexatic phase in two-dimensional Yukawa systems: Existence and properties\nИдентификатор статьи: DOI 10.1088/1742-6596/653/1/012103\nГод: 2015\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3-4, Fig.1 & Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее считывает рисунки 1 и 3: извлеките асимптотическое поведение g6(r) для гексатической фазы (степенной закон r^(-1/5)), сопоставьте его с положением пика теплоёмкости Cv и определите границы переходов при Γ = 98 и Γ=154.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Hexatic phase in two-dimensional Yukawa systems: Existence and properties\nИдентификатор статьи: DOI 10.1088/1742-6596/653/1/012103\nГод: 2015\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3-4, Fig.1 & Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее считывает рисунки 1 и 3: извлеките асимптотическое поведение g6(r) для гексатической фазы (степенной закон r^(-1/5)), сопоставьте его с положением пика теплоёмкости Cv и определите границы переходов при Γ = 98 и Γ=154.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", "original_creator_prompt": "Сравните, какой вариант точнее считывает рисунки 1 и 3: извлеките асимптотическое поведение g6(r) для гексатической фазы (степенной закон r^(-1/5)), сопоставьте его с положением пика теплоёмкости Cv и определите границы переходов при Γ = 98 и Γ=154.", "notes_available": false}} -{"sample_id": "task3:f0377dec26:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "case_id": "CASE-008", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Hexatic phase in two-dimensional Yukawa systems: Existence and properties", "paper_id": "DOI 10.1088/1742-6596/653/1/012103", "year": "2015", "evidence_kind": "figure", "page_hint": "p.4–5, Fig.5 & Fig.6", "model_task_prompt": "Проанализируйте динамику фазового сценария при уменьшении Γ: определите последовательность потери порядка (трансляционный до ориентационного), выявите на рис. 5 расхождение в оценках критических точек из работ до и после 2010 года, и проверьте, как на рис. 6 сдвигается диапазон существования гексатической фазы при изменении параметра каппа.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Hexatic phase in two-dimensional Yukawa systems: Existence and properties\nИдентификатор статьи: DOI 10.1088/1742-6596/653/1/012103\nГод: 2015\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.4–5, Fig.5 & Fig.6\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПроанализируйте динамику фазового сценария при уменьшении Γ: определите последовательность потери порядка (трансляционный до ориентационного), выявите на рис. 5 расхождение в оценках критических точек из работ до и после 2010 года, и проверьте, как на рис. 6 сдвигается диапазон существования гексатической фазы при изменении параметра каппа.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Hexatic phase in two-dimensional Yukawa systems: Existence and properties\nИдентификатор статьи: DOI 10.1088/1742-6596/653/1/012103\nГод: 2015\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.4–5, Fig.5 & Fig.6\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПроанализируйте динамику фазового сценария при уменьшении Γ: определите последовательность потери порядка (трансляционный до ориентационного), выявите на рис. 5 расхождение в оценках критических точек из работ до и после 2010 года, и проверьте, как на рис. 6 сдвигается диапазон существования гексатической фазы при изменении параметра каппа.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", "original_creator_prompt": "Проанализируйте динамику фазового сценария при уменьшении Γ: определите последовательность потери порядка (трансляционный до ориентационного), выявите на рис. 5 расхождение в оценках критических точек из работ до и после 2010 года, и проверьте, как на рис. 6 сдвигается диапазон существования гексатической фазы при изменении параметра каппа.", "notes_available": false}} -{"sample_id": "task3:f0377dec26:case-009", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "case_id": "CASE-009", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Laser-induced melting of two-dimensional dusty plasma system in RF discharge", "paper_id": "DOI:10.1038/s41598-020-80082-x", "year": "2021", "evidence_kind": "figure", "page_hint": "p.6-7, Fig.4 & Fig.5", "model_task_prompt": "Отследите последовательность разрушения порядка при уменьшении Γ: определите, какой тип порядка (трансляционный или ориентационный) теряется первым в районе Γ = 160Γ, а какой - в районе Г = 100, и проверьте, соответствует ли эта динамика визуальной эволюции дефектов на диаграммах Вороного (рис. 5).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Laser-induced melting of two-dimensional dusty plasma system in RF discharge\nИдентификатор статьи: DOI:10.1038/s41598-020-80082-x\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.6-7, Fig.4 & Fig.5\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОтследите последовательность разрушения порядка при уменьшении Γ: определите, какой тип порядка (трансляционный или ориентационный) теряется первым в районе Γ = 160Γ, а какой - в районе Г = 100, и проверьте, соответствует ли эта динамика визуальной эволюции дефектов на диаграммах Вороного (рис. 5).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Laser-induced melting of two-dimensional dusty plasma system in RF discharge\nИдентификатор статьи: DOI:10.1038/s41598-020-80082-x\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.6-7, Fig.4 & Fig.5\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОтследите последовательность разрушения порядка при уменьшении Γ: определите, какой тип порядка (трансляционный или ориентационный) теряется первым в районе Γ = 160Γ, а какой - в районе Г = 100, и проверьте, соответствует ли эта динамика визуальной эволюции дефектов на диаграммах Вороного (рис. 5).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если он�� есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", "original_creator_prompt": "Отследите последовательность разрушения порядка при уменьшении Γ: определите, какой тип порядка (трансляционный или ориентационный) теряется первым в районе Γ = 160Γ, а какой - в районе Г = 100, и проверьте, соответствует ли эта динамика визуальной эволюции дефектов на диаграммах Вороного (рис. 5).", "notes_available": false}} -{"sample_id": "task3:f0377dec26:case-010", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "case_id": "CASE-010", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Laser-induced melting of two-dimensional dusty plasma system in RF discharge", "paper_id": "DOI:10.1038/s41598-020-80082-x", "year": "2021", "evidence_kind": "figure", "page_hint": "p.5, Fig.3", "model_task_prompt": "Проанализируйте эволюцию структурного фактора S(kxy) на рис. 3 при переходе от Γ=600 к Γ=50: опишите последовательную трансформацию максимумов (чёткие пики --- размытые гексагоны --- концентрические кольца) и проверьте, связывает ли модель промежуточную стадию с гексатической фазой, а не с прямым переходом твёрдое кристалл - жидкость.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Laser-induced melting of two-dimensional dusty plasma system in RF discharge\nИдентификатор статьи: DOI:10.1038/s41598-020-80082-x\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.5, Fig.3\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПроанализируйте эволюцию структурного фактора S(kxy) на рис. 3 при переходе от Γ=600 к Γ=50: опишите последовательную трансформацию максимумов (чёткие пики --- размытые гексагоны --- концентрические кольца) и проверьте, связывает ли модель промежуточную стадию с гексатической фазой, а не с прямым переходом твёрдое кристалл - жидкость.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Laser-induced melting of two-dimensional dusty plasma system in RF discharge\nИдентификатор статьи: DOI:10.1038/s41598-020-80082-x\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.5, Fig.3\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПроанализируйте эволюцию структурного фактора S(kxy) на рис. 3 при переходе от Γ=600 к Γ=50: опишите последовательную трансформацию максимумов (чёткие пики --- размытые гексагоны --- концентрические кольца) и проверьте, связывает ли модель промежуточную стадию с гексатической фазой, а не с прямым переходом твёрдое кристалл - жидкость.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", "original_creator_prompt": "Проанализируйте эволюцию структурного фактора S(kxy) на рис. 3 при переходе от Γ=600 к Γ=50: опишите последовательную трансформацию максимумов (чёткие пики --- размытые гексагоны --- концентрические кольца) и проверьте, связывает ли модель промежуточную стадию с гексатической фазой, а не с прямым переходом твёрдое кристалл - жидкость.", "notes_available": false}} -{"sample_id": "task3:f0377dec26:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "case_id": "CASE-011", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "Laser-induced melting of two-dimensional dusty plasma system in RF discharge", "paper_id": "DOI:10.1038/s41598-020-80082-x", "year": "2021", "evidence_kind": "page", "page_hint": "p.3, раздел Experiments", "model_task_prompt": "Извлеките базовые параметры эксперимента: диаметр частиц, рабочее давление газа и диапазон мощности лазера, использованного для нагрева, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Laser-induced melting of two-dimensional dusty plasma system in RF discharge\nИдентификатор статьи: DOI:10.1038/s41598-020-80082-x\nГод: 2021\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.3, раздел Experiments\nСлой сложности: easy_control\n\nАдаптированная задача:\nИзвлеките базовые параметры эксперимента: диаметр частиц, рабочее давление газа и диапазон мощности лазера, использованного для нагрева, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Laser-induced melting of two-dimensional dusty plasma system in RF discharge\nИдентификатор статьи: DOI:10.1038/s41598-020-80082-x\nГод: 2021\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.3, раздел Experiments\nСлой сложности: easy_control\n\nАдаптированная задача:\nИзвлеките базовые параметры эксперимента: диаметр частиц, рабочее давление газа и диапазон мощности лазера, использованного для нагрева, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", "original_creator_prompt": "Извлеките базовые параметры эксперимента: диаметр частиц, рабочее давление газа и диапазон мощности лазера, использованного для нагрева, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.", "notes_available": false}} -{"sample_id": "task3:f0377dec26:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "case_id": "CASE-012", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "Laser-induced melting of two-dimensional dusty plasma system in RF discharge", "paper_id": "DOI:10.1038/s41598-020-80082-x", "year": "2021", "evidence_kind": "page", "page_hint": "p.2–3, раздел Experiments", "model_task_prompt": "Извлеките базовые параметры ВЧ-разряда: частоту генератора, расстояние между электродами, рабочее давление аргона и мощность разряда, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Laser-induced melting of two-dimensional dusty plasma system in RF discharge\nИдентификатор статьи: DOI:10.1038/s41598-020-80082-x\nГод: 2021\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.2–3, раздел Experiments\nСлой сложности: easy_control\n\nАдаптированная задача:\nИзвлеките базовые параметры ВЧ-разряда: частоту генератора, расстояние между электродами, рабочее давление аргона и мощность разряда, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Laser-induced melting of two-dimensional dusty plasma system in RF discharge\nИдентификатор статьи: DOI:10.1038/s41598-020-80082-x\nГод: 2021\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.2–3, раздел Experiments\nСлой сложности: easy_control\n\nАдаптированная задача:\nИзвлеките базовые параметры ВЧ-разряда: частоту генератора, расстояние между электродами, рабочее давление аргона и мощность разряда, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", "original_creator_prompt": "Извлеките базовые параметры ВЧ-разряда: частоту генератора, расстояние между электродами, рабочее давление аргона и мощность разряда, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.", "notes_available": false}} -{"sample_id": "task3:8ec4fdad1a:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "\"AI Agents Simulate Behavioral Biases in Financial Markets\"", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "figure_or_table", "page_hint": "Fig.4", "model_task_prompt": "Извлеките из Figure 4 ключевые параметры LLM-агентов (уровни bias, типы personality) и связывает их с описанными в ��ексте рыночными исходами (пузыри, крахи)..", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: \"AI Agents Simulate Behavioral Biases in Financial Markets\"\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из Figure 4 ключевые параметры LLM-агентов (уровни bias, типы personality) и связывает их с описанными в тексте рыночными исходами (пузыри, крахи)..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: \"AI Agents Simulate Behavioral Biases in Financial Markets\"\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из Figure 4 ключевые параметры LLM-агентов (уровни bias, типы personality) и связывает их с описанными в тексте рыночными исходами (пузыри, крахи)..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", "original_creator_prompt": "Сравните, насколько правильно каждый VLM извлекает из Figure 4 ключевые параметры LLM-агентов (уровни bias, типы personality) и связывает их с описанными в тексте рыночными исходами (пузыри, крахи).", "notes_available": false}} -{"sample_id": "task3:8ec4fdad1a:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "case_id": "CASE-002", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "\"AI Agents Simulate Behavioral Biases in Financial Markets\"", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "figure_or_table", "page_hint": "Fig.5", "model_task_prompt": "Определите временные рамки критических изменений на рынке (points of inflection), правильно ли привязывает фазы роста/падения к конкретным таймстэмпам..", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: \"AI Agents Simulate Behavioral Biases in Financial Markets\"\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.5\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпределите временные рамки критических изменений на рынке (points of inflection), правильно ли привязывает фазы роста/падения к конкретным таймстэмпам..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влиян��я поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: \"AI Agents Simulate Behavioral Biases in Financial Markets\"\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.5\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпределите временные рамки критических изменений на рынке (points of inflection), правильно ли привязывает фазы роста/падения к конкретным таймстэмпам..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", "original_creator_prompt": "Сравните, как каждый VLM определяет временные рамки критических изменений на рынке (points of inflection), правильно ли привязывает фазы роста/падения к конкретным таймстэмпам.", "notes_available": false}} -{"sample_id": "task3:8ec4fdad1a:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "case_id": "CASE-003", "stratum": "easy_control", "primary_endpoint": true, "paper_title": "\"AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "page", "page_hint": "p.8", "model_task_prompt": "Определите определение 'herd mentality' и его проявление в росте VWAP..", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: \"AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.8\nСлой сложности: easy_control\n\nАдаптированная задача:\nОпределите определение 'herd mentality' и его проявление в росте VWAP..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: \"AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.8\nСлой сложности: easy_control\n\nАдаптированная задача:\nОпределите определение 'herd mentality' и его проявление в росте VWAP..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", "original_creator_prompt": "Сравните, правильно ли каждый VLM определяет определение 'herd mentality' и его проявление в росте VWAP.", "notes_available": false}} -{"sample_id": "task3:8ec4fdad1a:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets\"", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "table", "page_hint": "Table 1", "model_task_prompt": "Определите, сколько типов personality настроено в агентах и какие именно bias (overconfidence, loss_aversion, dissonance) им назначены..", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\"\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: table\nПодсказка по странице/рисунку/таблице: Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределите, сколько типов personality настроено в агентах и какие именно bias (overconfidence, loss_aversion, dissonance) им назначены..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\"\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: table\nПодсказка по странице/рисунку/таблице: Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределите, сколько типов personality настроено в агентах и какие именно bias (overconfidence, loss_aversion, dissonance) им назначены..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", "original_creator_prompt": "Сравните, сколько типов personality настроено в агентах и какие именно bias (overconfidence, loss_aversion, dissonance) им назначены.", "notes_available": false}} -{"sample_id": "task3:8ec4fdad1a:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "figure", "page_hint": "Fig.6", "model_task_prompt": "Свяжите усиление 'herding' и 'overconfidence' с началом пузыря..", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.6\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСвяжите усиление 'herding' и 'overconfidence' с началом пузыря..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.6\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСвяжите усиление 'herding' и 'overconfidence' с началом пузыря..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Есл�� изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", "original_creator_prompt": "Сравните, как каждый VLM связывает усиление 'herding' и 'overconfidence' с началом пузыря.", "notes_available": false}} -{"sample_id": "task3:8ec4fdad1a:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "case_id": "CASE-006", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "AI Agents Simulate Behavioral Biases in Financial Market", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "figure_or_table", "page_hint": "Fig.3", "model_task_prompt": "Сравните, насколько точно каждый VLM извлекает из Figure 3 значения VWAP и trade volume на разных фазах пузыря и связывает их с bias-параметрами агентов", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Market\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, насколько точно каждый VLM извлекает из Figure 3 значения VWAP и trade volume на разных фазах пузыря и связывает их с bias-параметрами агентов\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель дл�� анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Market\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, насколько точно каждый VLM извлекает из Figure 3 значения VWAP и trade volume на разных фазах пузыря и связывает их с bias-параметрами агентов\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", "original_creator_prompt": "Сравните, насколько точно каждый VLM извлекает из Figure 3 значения VWAP и trade volume на разных фазах пузыря и связывает их с bias-параметрами агентов", "notes_available": false}} -{"sample_id": "task3:8ec4fdad1a:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "case_id": "CASE-007", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "table", "page_hint": "Table 2", "model_task_prompt": "Интерпретируйте данные Table 2: какой bias (overconfidence, loss aversion, dissonance) сильнее всего коррелирует с аномальным ростом VWAP..", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: table\nПодсказка по странице/рисунку/таблице: Table 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИнтерпретируйте данные Table 2: какой bias (overconfidence, loss aversion, dissonance) сильнее всего коррелирует с аномальным ростом VWAP..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: table\nПодсказка по странице/рисунку/таблице: Table 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИнтерпретируйте данные Table 2: какой bias (overconfidence, loss aversion, dissonance) сильнее всего коррелирует с аномальным ростом VWAP..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", "original_creator_prompt": "Сравните, как каждый VLM интерпретирует данные Table 2: какой bias (overconfidence, loss aversion, dissonance) сильнее всего коррелирует с аномальным ростом VWAP.", "notes_available": false}} -{"sample_id": "task3:8ec4fdad1a:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "case_id": "CASE-008", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "figure", "page_hint": "Fig.2", "model_task_prompt": "Определите, сколько типов personality настроено в агентах (из Figure 2) и какие bias к ним привязаны.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпределите, сколько типов personality настроено в агентах (из Figure 2) и какие bias к ним привязаны.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпределите, сколько типов personality настроено в агентах (из Figure 2) и какие bias к ним привязаны.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", "original_creator_prompt": "Сравните, сколько типов personality настроено в агентах (из Figure 2) и какие bias к ним привязаны", "notes_available": false}} -{"sample_id": "task3:8ec4fdad1a:case-009", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "case_id": "CASE-009", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "AI Agents Simulate Behavioral Biases in Financial Market", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "figure", "page_hint": "Fig.6", "model_task_prompt": "Определите момент перехода 'herding' → 'overconfidence' по временной шкале и связывает его с рыночным пузырём.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Market\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.6\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпределите момент перехода 'herding' → 'overconfidence' по временной шкале и связывает его с рыночным пузырём.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, ес��и evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Market\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.6\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпределите момент перехода 'herding' → 'overconfidence' по временной шкале и связывает его с рыночным пузырём.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", "original_creator_prompt": "Сравните, как каждый VLM определяет момент перехода 'herding' → 'overconfidence' по временной шкале и связывает его с рыночным пузырём", "notes_available": false}} -{"sample_id": "task3:8ec4fdad1a:case-010", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "case_id": "CASE-010", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "table", "page_hint": "Table 3", "model_task_prompt": "Определите временную задержку между ростом bias и проявлением рыночного эффекта (пузырь/крах) из Table 3..", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: table\nПодсказка по странице/рисунку/таблице: Table 3\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпределите временную задержку между ростом bias и проявлением рыночного эффекта (пузырь/крах) из Table 3..\n\nИспользуйт�� приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: table\nПодсказка по странице/рисунку/таблице: Table 3\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпределите временную задержку между ростом bias и проявлением рыночного эффекта (пузырь/крах) из Table 3..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", "original_creator_prompt": "Сравните, как каждый VLM определяет временную задержку между ростом bias и проявлением рыночного эффекта (пузырь/крах) из Table 3.", "notes_available": false}} -{"sample_id": "task3:8ec4fdad1a:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынк��.", "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "case_id": "CASE-011", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "page", "page_hint": "p.5", "model_task_prompt": "Определите три основных bias, перечисленных в явном виде на странице 5..", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.5\nСлой сложности: easy_control\n\nАдаптированная задача:\nОпределите три основных bias, перечисленных в явном виде на странице 5..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.5\nСлой сложности: easy_control\n\nАдаптированная задача:\nОпределите три основных bias, перечисленных в явном виде на странице 5..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", "original_creator_prompt": "Сравните, правильно ли каждый VLM определяет три основных bias, перечисленных в явном виде на странице 5.", "notes_available": false}} -{"sample_id": "task3:8ec4fdad1a:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "case_id": "CASE-012", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "page", "page_hint": "p.10", "model_task_prompt": "Сравните, правильно ли каждый VLM определяет, какой тип личности агента (conservative / aggressive) привёл к loss aversion", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.10\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, правильно ли каждый VLM определяет, какой тип личности агента (conservative / aggressive) привёл к loss aversion\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.10\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, правильно ли каждый VLM определяет, какой тип личности агента (conservative / aggressive) привёл к loss aversion\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", "original_creator_prompt": "Сравните, правильно ли каждый VLM определяет, какой тип личности агента (conservative / aggressive) привёл к loss aversion", "notes_available": false}} -{"sample_id": "task3:c5c57bba7e:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "figure", "page_hint": "Fig 6b", "model_task_prompt": "Сравните какой вариант лучше извлекает данные о пороговом значении процента фибробластов из графика при разных Ebond", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: 10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 6b\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные о пороговом значении процента фибробластов из графика при разных Ebond\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, л��ги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: 10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 6b\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные о пороговом значении процента фибробластов из графика при разных Ebond\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", "original_creator_prompt": "Сравните какой вариант лучше извлекает данные о пороговом значении процента фибробластов из графика при разных Ebond", "notes_available": false}} -{"sample_id": "task3:c5c57bba7e:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "table", "page_hint": "Table 1", "model_task_prompt": "Сравните какой вариант лучше извлекает данные о значении параметров из таблицы", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: 10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: table\nПодсказка по странице/рисунку/таблице: Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные о значении параметров из таблицы\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: 10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: table\nПодсказка по странице/рисунку/таблице: Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные о значении параметров из таблицы\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", "original_creator_prompt": "Сравните какой вариант лучше извлекает данные о значении параметров из таблицы", "notes_available": true}} -{"sample_id": "task3:c5c57bba7e:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "formula", "page_hint": "Eq 2", "model_task_prompt": "Сравните какой вариант лучше извлекает формулу Hjunctions из картинки с формулой после уравнения 1", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: 10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: formula\nПодсказка по странице/рисунку/таблице: Eq 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает формулу Hjunctions из картинки с формулой после уравнения 1\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: 10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: formula\nПодсказка по странице/рисунку/таблице: Eq 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает формулу Hjunctions из картинки с формулой после уравнения 1\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence ис��ользована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", "original_creator_prompt": "Сравните какой вариант лучше извлекает формулу Hjunctions из картинки с формулой после уравнения 1", "notes_available": false}} -{"sample_id": "task3:c5c57bba7e:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Discrete Anisotropy Model of Heterogeneous Cardiac Tissue Predicting the Occurrence of Symmetry Breaking of Reentrant Activity", "paper_id": "10.1134/S0021364024600782", "year": "2024", "evidence_kind": "figure", "page_hint": "Fig 1", "model_task_prompt": "Извлеките данные о размере образца.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Discrete Anisotropy Model of Heterogeneous Cardiac Tissue Predicting the Occurrence of Symmetry Breaking of Reentrant Activity\nИдентификатор статьи: 10.1134/S0021364024600782\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките данные о размере образца.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Discrete Anisotropy Model of Heterogeneous Cardiac Tissue Predicting the Occurrence of Symmetry Breaking of Reentrant Activity\nИдентификатор статьи: 10.1134/S0021364024600782\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките данные о размере образца.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает данные о размере образца", "notes_available": false}} -{"sample_id": "task3:c5c57bba7e:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Virtual cardiac monolayers for electrical wave propagation", "paper_id": "10.1038/s41598-017-07653-3", "year": "2017", "evidence_kind": "figure", "page_hint": "Fig 2", "model_task_prompt": "Определите морфологические метрики кардиомиоцитов и фибробластов из экспериментов.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Virtual cardiac monolayers for electrical wave propagation\nИдентификатор статьи: 10.1038/s41598-017-07653-3\nГод: 2017\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределите морфологические метрики кардиомиоцитов и фибробластов из экспериментов.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Virtual cardiac monolayers for electrical wave propagation\nИдентификатор статьи: 10.1038/s41598-017-07653-3\nГод: 2017\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределите морфологические метрики кардиомиоцитов и фибробластов из экспериментов.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", "original_creator_prompt": "Сравните, какой вариант лучше определяет морфологические метрики кардиомиоцитов и фибробластов из экспериментов", "notes_available": false}} -{"sample_id": "task3:c5c57bba7e:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "case_id": "CASE-006", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Simulation of the differential adhesion driven rearrangement of biological cells", "paper_id": "10.1103/PhysRevE.47.2128", "year": "1993", "evidence_kind": "figure", "page_hint": "Fig 5a", "model_task_prompt": "Сравните, какой вариант лучше лучше определяет время выхода на плато длины границ в эксперименте на рисунке 5а", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Simulation of the differential adhesion driven rearrangement of biological cells\nИдентификатор статьи: 10.1103/PhysRevE.47.2128\nГод: 1993\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 5a\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше лучше определяет время выхода на плато длины границ в эксперименте на рисунке 5а\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Simulation of the differential adhesion driven rearrangement of biological cells\nИдентификатор статьи: 10.1103/PhysRevE.47.2128\nГод: 1993\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 5a\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше лучше определяет время выхода на плато длины границ в эксперименте на рисунке 5а\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence", "visual_fact"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", "original_creator_prompt": "Сравните, какой вариант лучше лучше определяет время выхода на плато длины границ в эксперименте на рисунке 5а", "notes_available": false}} -{"sample_id": "task3:c5c57bba7e:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "case_id": "CASE-007", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Simulation of the differential adhesion driven rearrangement of biological cells", "paper_id": "10.1103/PhysRevE.47.2128", "year": "1993", "evidence_kind": "figure", "page_hint": "Fig 13c", "model_task_prompt": "Определите время в шагах Монте-Карло (MCS), когда длина гетеротипических границ примерно равна длине гомотипических границ на рисунке 13с.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Simulation of the differential adhesion driven rearrangement of biological cells\nИдентификатор статьи: 10.1103/PhysRevE.47.2128\nГод: 1993\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 13c\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпределите время в шагах Монте-Карло (MCS), когда длина гетеротипических границ примерно равна длине гомотипических границ на рисунке 13с.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Simulation of the differential adhesion driven rearrangement of biological cells\nИдентификатор статьи: 10.1103/PhysRevE.47.2128\nГод: 1993\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 13c\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпределите время в шагах Монте-Карло (MCS), когда длина гетеротипических границ примерно равна длине гомотипических границ на рисунке 13с.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", "original_creator_prompt": "Сравните, какой вариант лучше определяет время в шагах Монте-Карло (MCS), когда длина гетеротипических границ примерно равна длине гомотипических границ на рисунке 13с", "notes_available": false}} -{"sample_id": "task3:c5c57bba7e:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "case_id": "CASE-008", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Simulation of the differential adhesion driven rearrangement of biological cells", "paper_id": "10.1103/PhysRevE.47.2128", "year": "1993", "evidence_kind": "figure", "page_hint": "Fig 19b", "model_task_prompt": "Определите время в шагах Монте-Карло (MCS), когда длина гетеротипических границ для разных сочетаний (темные со светлыми, темные с окружением, светлые с окружением) начинают заметно расходиться на рисунке 19b.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Simulation of the differential adhesion driven rearrangement of biological cells\nИдентификатор статьи: 10.1103/PhysRevE.47.2128\nГод: 1993\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 19b\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпределите время в шагах Монте-Карло (MCS), когда длина гетеротипических границ для разных сочетаний (темные со светлыми, темные с окружением, светлые с окружением) начинают заметно расходиться на рисунке 19b.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Simulation of the differential adhesion driven rearrangement of biological cells\nИдентификатор статьи: 10.1103/PhysRevE.47.2128\nГод: 1993\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 19b\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпределите время в шагах Монте-Карло (MCS), когда длина гетеротипических границ для разных сочетаний (темные со светлыми, темные с окружением, светлые с окружением) начинают заметно расходиться на рисунке 19b.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "visual_fact"], "expected_error_modes": ["needs_time_fix", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", "original_creator_prompt": "Сравните, какой вариант лучше определяет время в шагах Монте-Карло (MCS), когда длина гетеротипических границ для разных сочетаний (темные со светлыми, темные с окружением, светлые с окружением) начинают заметно расходиться на рисунке 19b", "notes_available": false}} -{"sample_id": "task3:c5c57bba7e:case-009", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "case_id": "CASE-009", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Generation and maturation of human iPSC-derived 3D organotypic cardiac microtissues in long-term culture", "paper_id": "10.1038/s41598-022-22225-w", "year": "2022", "evidence_kind": "figure", "page_hint": "Fig 2", "model_task_prompt": "Сравните, какой вариант лучше различает какой график к какому периоду относится", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Generation and maturation of human iPSC-derived 3D organotypic cardiac microtissues in long-term culture\nИдентификатор статьи: 10.1038/s41598-022-22225-w\nГод: 2022\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше различает какой график к какому периоду относится\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Generation and maturation of human iPSC-derived 3D organotypic cardiac microtissues in long-term culture\nИдентификатор статьи: 10.1038/s41598-022-22225-w\nГод: 2022\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше различает какой график к какому периоду относится\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", "original_creator_prompt": "Сравните, какой вариант лучше различает какой график к какому периоду относится", "notes_available": false}} -{"sample_id": "task3:c5c57bba7e:case-010", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "case_id": "CASE-010", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models", "paper_id": "10.1007/s12012-025-09987-1", "year": "2025", "evidence_kind": "figure", "page_hint": "Graphical Abstract", "model_task_prompt": "Сравните, какой вариант лучше понимает какой цвет означает более позднюю стадию распространения волны", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models\nИдентификатор статьи: 10.1007/s12012-025-09987-1\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Graphical Abstract\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше понимает какой цвет означает более позднюю стадию распространения волны\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models\nИдентификатор статьи: 10.1007/s12012-025-09987-1\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Graphical Abstract\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше понимает какой цвет означает более позднюю стадию распространения волны\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", "original_creator_prompt": "Сравните, какой вариант лучше понимает какой цвет означает более позднюю стадию распространения волны", "notes_available": false}} -{"sample_id": "task3:c5c57bba7e:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "case_id": "CASE-011", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "doi:10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "page", "page_hint": "Abstract", "model_task_prompt": "Сравните, какой вариант лучше формулирует общий тезис статьи о причинах значения порога перколяции", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: doi:10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: page\nПодсказка по странице/рисунку/таблице: Abstract\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант лучше формулирует общий тезис статьи о причинах значения порога перколяции\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: doi:10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: page\nПодсказка по странице/рисунку/таблице: Abstract\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант лучше формулирует общий тезис статьи о причинах значения порога перколяции\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", "original_creator_prompt": "Сравните, какой вариант лучше формулирует общий тезис статьи о причинах значения порога перколяции", "notes_available": false}} -{"sample_id": "task3:c5c57bba7e:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "case_id": "CASE-012", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "Modeling the functional heterogeneity and conditions for the occurrence of microreentry in procedurally created atrial fibrous tissue", "paper_id": "doi:10.1063/5.0151624", "year": "2023", "evidence_kind": "page", "page_hint": "Methods", "model_task_prompt": "Опишите Гамильтониан и его слагаемые в клеточной модели.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Modeling the functional heterogeneity and conditions for the occurrence of microreentry in procedurally created atrial fibrous tissue\nИдентификатор статьи: doi:10.1063/5.0151624\nГод: 2023\nТип evidence: page\nПодсказка по странице/рисунку/таблице: Methods\nСлой сложности: easy_control\n\nАдаптированная задача:\nОпишите Гамильтониан и его слагаемые в клеточной модели.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Modeling the functional heterogeneity and conditions for the occurrence of microreentry in procedurally created atrial fibrous tissue\nИдентификатор статьи: doi:10.1063/5.0151624\nГод: 2023\nТип evidence: page\nПодсказка по странице/рисунку/таблице: Methods\nСлой сложности: easy_control\n\nАдаптированная задача:\nОпишите Гамильтониан и его слагаемые в клеточной модели.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", "original_creator_prompt": "Сравните, какой вариант лучше описывает Гамильтониан и его слагаемые в клеточной модели", "notes_available": false}} -{"sample_id": "task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "doi:10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "figure", "page_hint": "Fig. 1: activation map, blocked regions, main propagation pathways, velocity decay and percolation threshold", "model_task_prompt": "Сравните, какой вариант лучше считывает Fig. 1: где находятся блоки проведения, по каким узким путям распространяется волна, как меняется velocity при росте доли non-conducting cells и какой percolation threshold указан на графике.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: doi:10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig. 1: activation map, blocked regions, main propagation pathways, velocity decay and percolation threshold\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше считывает Fig. 1: где находятся блоки проведения, по каким узким путям распространяется волна, как меняется velocity при росте доли non-conducting cells и какой percolation threshold указан на графике.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: doi:10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig. 1: activation map, blocked regions, main propagation pathways, velocity decay and percolation threshold\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше считывает Fig. 1: где находятся блоки проведения, по каким узким путям распространяется волна, как меняется velocity при росте доли non-conducting cells и какой percolation threshold указан на графике.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", "original_creator_prompt": "Сравните, какой вариант лучше считывает Fig. 1: где находятся блоки проведения, по каким узким путям распространяется волна, как меняется velocity при росте доли non-conducting cells и какой percolation threshold указан на графике.", "notes_available": true}} -{"sample_id": "task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "doi:10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "figure_or_table", "page_hint": "Fig. 6 and Table 1: virtual monolayers, E bond conditions, velocity vs density, percolation threshold", "model_task_prompt": "Сравните, какой вариант лучше связывает Fig. 6 с параметрами модели: различает orange/blue условия cytoskeleton alignment, не путает simulated fibroblast density с experimental fraction и корректно переносит threshold/velocity evidence.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: doi:10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig. 6 and Table 1: virtual monolayers, E bond conditions, velocity vs density, percolation threshold\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше связывает Fig. 6 с параметрами модели: различает orange/blue условия cytoskeleton alignment, не путает simulated fibroblast density с experimental fraction и корректно переносит threshold/velocity evidence.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: doi:10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig. 6 and Table 1: virtual monolayers, E bond conditions, velocity vs density, percolation threshold\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше связывает Fig. 6 с параметрами модели: различает orange/blue условия cytoskeleton alignment, не путает simulated fibroblast density с experimental fraction и корректно переносит threshold/velocity evidence.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", "original_creator_prompt": "Сравните, какой вариант лучше связывает Fig. 6 с параметрами модели: различает orange/blue условия cytoskeleton alignment, не путает simulated fibroblast density с experimental fraction и корректно переносит threshold/velocity evidence.", "notes_available": true}} -{"sample_id": "task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Simulation of the differential adhesion driven rearrangement of biological cells", "paper_id": "doi:10.1103/PhysRevE.47.2128", "year": "1993", "evidence_kind": "figure_or_table", "page_hint": "Simulation snapshots and parameter tables for differential adhesion / extended Potts model", "model_task_prompt": "Извлеките из визуализаций cell sorting, какие клеточные типы перераспределяются, как differential adhesion задаёт rearrangement, и не превращает Potts-model evidence в общий текст про миграцию клеток..", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Simulation of the differential adhesion driven rearrangement of biological cells\nИдентификатор статьи: doi:10.1103/PhysRevE.47.2128\nГод: 1993\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Simulation snapshots and parameter tables for differential adhesion / extended Potts model\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из визуализаций cell sorting, какие клеточные типы перераспределяются, как differential adhesion задаёт rearrangement, и не превращает Potts-model evidence в общий текст про миграцию клеток..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извл��чённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Simulation of the differential adhesion driven rearrangement of biological cells\nИдентификатор статьи: doi:10.1103/PhysRevE.47.2128\nГод: 1993\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Simulation snapshots and parameter tables for differential adhesion / extended Potts model\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из визуализаций cell sorting, какие клеточные типы перераспределяются, как differential adhesion задаёт rearrangement, и не превращает Potts-model evidence в общий текст про миграцию клеток..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает из визуализаций cell sorting, какие клеточные типы перераспределяются, как differential adhesion задаёт rearrangement, и не превращает Potts-model evidence в общий текст про миграцию клеток.", "notes_available": true}} -{"sample_id": "task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "A model for human ventricular tissue", "paper_id": "doi:10.1152/ajpheart.00794.2003", "year": "2004", "evidence_kind": "formula", "page_hint": "Model equations / current definitions / AP trace and restitution-style figures", "model_task_prompt": "Сравните, какой вариант лучше восстанавливает структуру human ventricular tissue model: какие ионные токи и переменные входят в формулы, какие параметры относятся к single-cell AP, а какие — к tissue propagation, без добавления несуществующих channels.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: A model for human ventricular tissue\nИдентификатор статьи: doi:10.1152/ajpheart.00794.2003\nГод: 2004\nТип evidence: formula\nПодсказка по странице/рисунку/таблице: Model equations / current definitions / AP trace and restitution-style figures\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше восстанавливает структуру human ventricular tissue model: какие ионные токи и переменные входят в формулы, какие параметры относятся к single-cell AP, а какие — к tissue propagation, без добавления несуществующих channels.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: A model for human ventricular tissue\nИдентификатор статьи: doi:10.1152/ajpheart.00794.2003\nГод: 2004\nТип evidence: formula\nПодсказка по странице/рисунку/таблице: Model equations / current definitions / AP trace and restitution-style figures\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше восстанавливает структуру human ventricular tissue model: какие ионные токи и переменные входят в формулы, какие параметры относятся к single-cell AP, а какие — к tissue propagation, без добавления несуществующих channels.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", "original_creator_prompt": "Сравните, какой вариант лучше восстанавливает структуру human ventricular tissue model: какие ионные токи и переменные входят в формулы, какие параметры относятся к single-cell AP, а какие — к tissue propagation, без добавления несуществующих channels.", "notes_available": true}} -{"sample_id": "task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Optical Imaging of the Heart", "paper_id": "doi:10.1161/01.RES.0000130529.18016.35", "year": "2004", "evidence_kind": "mixed", "page_hint": "Review figures/tables on optical mapping, voltage-sensitive dyes, activation and repolarization maps", "model_task_prompt": "Сравните, какой вариант лучше переносит из схем и таблиц optical imaging pipeline: что именно измеряется оптическим сигналом, где activation map отличается от repolarization map, и какие ограничения относятся к dye/motion artifact, а не к electrophysiology как таковой.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Optical Imaging of the Heart\nИдентификатор статьи: doi:10.1161/01.RES.0000130529.18016.35\nГод: 2004\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: Review figures/tables on optical mapping, voltage-sensitive dyes, activation and repolarization maps\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше переносит из схем и таблиц optical imaging pipeline: что именно измеряется оптическим сигналом, где activation map отличается от repolarization map, и какие ограничения относятся к dye/motion artifact, а не к electrophysiology как таковой.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Optical Imaging of the Heart\nИдентификатор статьи: doi:10.1161/01.RES.0000130529.18016.35\nГод: 2004\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: Review figures/tables on optical mapping, voltage-sensitive dyes, activation and repolarization maps\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше переносит из схем и таблиц optical imaging pipeline: что именно измеряется оптическим сигналом, где activation map отличается от repolarization map, и какие ограничения относятся к dye/motion artifact, а не к electrophysiology как таковой.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", "original_creator_prompt": "Сравните, какой вариант лучше переносит из схем и таблиц optical imaging pipeline: что именно измеряется оптическим сигналом, где activation map отличается от repolarization map, и какие ограничения относятся к dye/motion artifact, а не к electrophysiology как таковой.", "notes_available": true}} -{"sample_id": "task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "case_id": "CASE-006", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Modeling the functional heterogeneity and conditions for the occurrence of microreentry in procedurally created atrial fibrous tissue", "paper_id": "doi:10.1063/5.0151624", "year": "2023", "evidence_kind": "figure_or_table", "page_hint": "Figures/tables with procedurally created atrial fibrous tissue, heterogeneity settings and microreentry conditions", "model_task_prompt": "Извлеките из схем и карт модели, при каких параметрах fibrous tissue возникает microreentry: геометрия, conduction heterogeneity, obstacle/fibrosis pattern и условия устойчивого reentry не должны смешиваться в один общий фактор..", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Modeling the functional heterogeneity and conditions for the occurrence of microreentry in procedurally created atrial fibrous tissue\nИдентификатор статьи: doi:10.1063/5.0151624\nГод: 2023\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Figures/tables with procedurally created atrial fibrous tissue, heterogeneity settings and microreentry conditions\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из схем и карт модели, при каких параметрах fibrous tissue возникает microreentry: геометрия, conduction heterogeneity, obstacle/fibrosis pattern и условия устойчивого reentry не должны смешиваться в один общий фактор..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Modeling the functional heterogeneity and conditions for the occurrence of microreentry in procedurally created atrial fibrous tissue\nИдентификатор статьи: doi:10.1063/5.0151624\nГод: 2023\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Figures/tables with procedurally created atrial fibrous tissue, heterogeneity settings and microreentry conditions\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из схем и карт модели, при каких параметрах fibrous tissue возникает microreentry: геометрия, conduction heterogeneity, obstacle/fibrosis pattern и условия устойчивого reentry не должны смешиваться в один общий фактор..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает из схем и карт модели, при каких параметрах fibrous tissue возникает microreentry: геометрия, conduction heterogeneity, obstacle/fibrosis pattern и условия устойчивого reentry не должны смешиваться в один общий фактор.", "notes_available": true}} -{"sample_id": "task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "case_id": "CASE-007", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models", "paper_id": "doi:10.1007/s12012-025-09987-1", "year": "2025", "evidence_kind": "mixed", "page_hint": "Workflow figures/tables linking hiPSC-CM readouts, 2D in silico model outputs and toxicity endpoints", "model_task_prompt": "Сравните, какой вариант лучше связывает workflow evidence: какие данные приходят из hiPSC-derived cardiomyocytes, какие — из 2D in silico model, и где именно формируется вывод о cardiovascular toxicity / proarrhythmic risk.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models\nИдентификатор статьи: doi:10.1007/s12012-025-09987-1\nГод: 2025\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: Workflow figures/tables linking hiPSC-CM readouts, 2D in silico model outputs and toxicity endpoints\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше связывает workflow evidence: какие данные приходят из hiPSC-derived cardiomyocytes, какие — из 2D in silico model, и где именно формируется вывод о cardiovascular toxicity / proarrhythmic risk.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models\nИдентификатор статьи: doi:10.1007/s12012-025-09987-1\nГод: 2025\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: Workflow figures/tables linking hiPSC-CM readouts, 2D in silico model outputs and toxicity endpoints\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше связывает workflow evidence: какие данные приходят из hiPSC-derived cardiomyocytes, какие — из 2D in silico model, и где именно формируется вывод о cardiovascular toxicity / proarrhythmic risk.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", "original_creator_prompt": "Сравните, какой вариант лучше связывает workflow evidence: какие данные приходят из hiPSC-derived cardiomyocytes, какие — из 2D in silico model, и где именно формируется вывод о cardiovascular toxicity / proarrhythmic risk.", "notes_available": true}} -{"sample_id": "task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "case_id": "CASE-008", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "doi:10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "figure", "page_hint": "Fig. 1a and S1 Video: activation times, repeated blocks, delayed propagation into left/right regions", "model_task_prompt": "Сравните, какой вариант лучше удерживает temporal ordering в activation map/video: от точки стимуляции волна сначала расходится, затем блокируется, после задержки идёт в left/right regions и снова фракционируется, а не описывается как статическая сеть проводимости.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: doi:10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig. 1a and S1 Video: activation times, repeated blocks, delayed propagation into left/right regions\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше удерживает temporal ordering в activation map/video: от точки стимуляции волна сначала расходится, затем блокируется, после задержки идёт в left/right regions и снова фракционируется, а не описывается как статическая сеть проводимости.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: doi:10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig. 1a and S1 Video: activation times, repeated blocks, delayed propagation into left/right regions\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше удерживает temporal ordering в activation map/video: от точки стимуляции волна сначала расходится, затем блокируется, после задержки идёт в left/right regions и снова фракционируется, а не описывается как статическая сеть проводимости.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence", "visual_fact"], "expected_error_modes": ["needs_time_fix", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", "original_creator_prompt": "Сравните, какой вариант лучше удерживает temporal ordering в activation map/video: от точки стимуляции волна сначала расходится, затем блокируется, после задержки идёт в left/right regions и снова фракционируется, а не описывается как статическая сеть проводимости.", "notes_available": true}} -{"sample_id": "task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-009", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "case_id": "CASE-009", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "A model for human ventricular tissue", "paper_id": "doi:10.1152/ajpheart.00794.2003", "year": "2004", "evidence_kind": "figure_or_table", "page_hint": "AP traces / restitution curves / time-dependent gating variables in model outputs", "model_task_prompt": "Сравните, какой вариант лучше различает быстрые изменения мембранного потенциала, динамику gating variables и более медленные изменения APD/restitution в human ventricular tissue model, не смешивая временные масштабы single-cell and tissue outputs.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: A model for human ventricular tissue\nИдентификатор статьи: doi:10.1152/ajpheart.00794.2003\nГод: 2004\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: AP traces / restitution curves / time-dependent gating variables in model outputs\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше различает быстрые изменения мембранного потенциала, динамику gating variables и более медленные изменения APD/restitution в human ventricular tissue model, не смешивая временные масштабы single-cell and tissue outputs.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: A model for human ventricular tissue\nИдентификатор статьи: doi:10.1152/ajpheart.00794.2003\nГод: 2004\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: AP traces / restitution curves / time-dependent gating variables in model outputs\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше различает быстрые изменения мембранного потенциала, динамику gating variables и более медленные изменения APD/restitution в human ventricular tissue model, не смешивая временные масштабы single-cell and tissue outputs.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", "original_creator_prompt": "Сравните, какой вариант лучше различает быстрые изменения мембранного потенциала, динамику gating variables и более медленные изменения APD/restitution в human ventricular tissue model, не смешивая временные масштабы single-cell and tissue outputs.", "notes_available": true}} -{"sample_id": "task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-010", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "case_id": "CASE-010", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models", "paper_id": "doi:10.1007/s12012-025-09987-1", "year": "2025", "evidence_kind": "mixed", "page_hint": "Drug exposure / screening workflow / model-output sequence across experimental and in silico layers", "model_task_prompt": "Сравните, какой вариант лучше удерживает порядок: сначала experimental hiPSC-CM readouts, затем parameter/model integration, затем 2D tissue-level prediction and toxicity interpretation; ответ не должен превращать pipeline в один одномоментный вывод.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models\nИдентификатор статьи: doi:10.1007/s12012-025-09987-1\nГод: 2025\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: Drug exposure / screening workflow / model-output sequence across experimental and in silico layers\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше удерживает порядок: сначала experimental hiPSC-CM readouts, затем parameter/model integration, затем 2D tissue-level prediction and toxicity interpretation; ответ не должен пр��вращать pipeline в один одномоментный вывод.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models\nИдентификатор статьи: doi:10.1007/s12012-025-09987-1\nГод: 2025\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: Drug exposure / screening workflow / model-output sequence across experimental and in silico layers\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше удерживает порядок: сначала experimental hiPSC-CM readouts, затем parameter/model integration, затем 2D tissue-level prediction and toxicity interpretation; ответ не должен превращать pipeline в один одномоментный вывод.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", "original_creator_prompt": "Сравните, какой вариант лучше удерживает порядок: сначала experimental hiPSC-CM readouts, затем parameter/model integration, затем 2D tissue-level prediction and toxicity interpretation; ответ не должен превращать pipeline в один одномоментный вывод.", "notes_available": true}} -{"sample_id": "task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "case_id": "CASE-011", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "Basic Mechanisms of Cardiac Impulse Propagation and Associated Arrhythmias", "paper_id": "doi:10.1152/physrev.00025.2003", "year": "2004", "evidence_kind": "page", "page_hint": "Abstract / introduction-level review summary", "model_task_prompt": "Сравните, какой вариант точнее передаёт общий тезис обзора: как generation and propagation of cardiac action potentials связаны с arrhythmia mechanisms, без необходимости извлекать сложные значения из figure/table.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Basic Mechanisms of Cardiac Impulse Propagation and Associated Arrhythmias\nИдентификатор статьи: doi:10.1152/physrev.00025.2003\nГод: 2004\nТип evidence: page\nПодсказка по странице/рисунку/таблице: Abstract / introduction-level review summary\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант точнее передаёт общий тезис обзора: как generation and propagation of cardiac action potentials связаны с arrhythmia mechanisms, без необходимости извлекать сложные значения из figure/table.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Basic Mechanisms of Cardiac Impulse Propagation and Associated Arrhythmias\nИдентификатор статьи: doi:10.1152/physrev.00025.2003\nГод: 2004\nТип evidence: page\nПодсказка по странице/рисунку/таблице: Abstract / introduction-level review summary\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант точнее передаёт общий тезис обзора: как generation and propagation of cardiac action potentials связаны с arrhythmia mechanisms, без необходимости извлекать сложные значения из figure/table.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточн��, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", "original_creator_prompt": "Сравните, какой вариант точнее передаёт общий тезис обзора: как generation and propagation of cardiac action potentials связаны с arrhythmia mechanisms, без необходимости извлекать сложные значения из figure/table.", "notes_available": true}} -{"sample_id": "task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "case_id": "CASE-012", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "Optical Imaging of the Heart", "paper_id": "doi:10.1161/01.RES.0000130529.18016.35", "year": "2004", "evidence_kind": "page", "page_hint": "Abstract / review overview of optical techniques in cardiac electrophysiology", "model_task_prompt": "Сравните, какой вариант лучше формулирует основную роль optical imaging in cardiac electrophysiology: какие вопросы оно помогает изучать и почему это не просто обычная видеозапись сердца.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Optical Imaging of the Heart\nИдентификатор статьи: doi:10.1161/01.RES.0000130529.18016.35\nГод: 2004\nТип evidence: page\nПодсказка по странице/рисунку/таблице: Abstract / review overview of optical techniques in cardiac electrophysiology\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант лучше формулирует основную роль optical imaging in cardiac electrophysiology: какие вопросы оно помогает изучать и почему это не просто обычная видеозапись сердца.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Optical Imaging of the Heart\nИдентификатор статьи: doi:10.1161/01.RES.0000130529.18016.35\nГод: 2004\nТип evidence: page\nПодсказка по странице/рисунку/таблице: Abstract / review overview of optical techniques in cardiac electrophysiology\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант лучше формулирует основную роль optical imaging in cardiac electrophysiology: какие вопросы оно помогает изучать и почему это не просто обычная видеозапись сердца.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", "original_creator_prompt": "Сравните, какой вариант лучше формулирует основную роль optical imaging in cardiac electrophysiology: какие вопросы оно помогает изучать и почему это не просто обычная видеозапись сердца.", "notes_available": true}} -{"sample_id": "task3:64495d27da:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Spectral effects in different electrodynamic systems", "submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Nonlinear exceptional-point lasing with ab initio Maxwell– Bloch theory", "paper_id": "doi: 10.1063/5.0105963", "year": "2022", "evidence_kind": "figure", "page_hint": "p.2, Fig.1", "model_task_prompt": "Извлеките отношение накачек D1 к D2, для которого наблюдаются особые точки.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Nonlinear exceptional-point lasing with ab initio Maxwell– Bloch theory\nИдентификатор статьи: doi: 10.1063/5.0105963\nГод: 2022\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките отношение накачек D1 к D2, для которого наблюдаются особые точки.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Nonlinear exceptional-point lasing with ab initio Maxwell– Bloch theory\nИдентификатор статьи: doi: 10.1063/5.0105963\nГод: 2022\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките отношение накачек D1 к D2, для которого наблюдаются особые точки.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0005_vysokikh_dmitrii_konstantinovich__task3_ab_case_manifest.filled - Дмитрий Высоких.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает отношение накачек D1 к D2, для которого наблюдаются особые точки", "notes_available": false}} -{"sample_id": "task3:64495d27da:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Spectral effects in different electrodynamic systems", "submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Observation of trapped light within the radiation continu-um", "paper_id": "doi: 10.1038/nature12289", "year": "2013", "evidence_kind": "figure", "page_hint": "p.3, Fig.3", "model_task_prompt": "Извлеките из рисунка 3 и подписи к нему значения угла и длины волны, соответствующие связанному состоянию в континууме (ССК).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Observation of trapped light within the radiation continu-um\nИдентификатор статьи: doi: 10.1038/nature12289\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 3 и подписи к нему значения угла и длины волны, соответствующие связанному состоянию в континууме (ССК).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Observation of trapped light within the radiation continu-um\nИдентификатор статьи: doi: 10.1038/nature12289\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 3 и подписи к нему значения угла и длины волны, соответствующие связанному состоянию в континууме (ССК).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact", "evidence"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0005_vysokikh_dmitrii_konstantinovich__task3_ab_case_manifest.filled - Дмитрий Высоких.json", "original_creator_prompt": "Ср��вните, какой вариант лучше извлекает из рисунка 3 и подписи к нему значения угла и длины волны, соответствующие связанному состоянию в континууме (ССК)", "notes_available": false}} -{"sample_id": "task3:64495d27da:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Spectral effects in different electrodynamic systems", "submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Reversing the pump depend-ence of a laser at an excep-tional point", "paper_id": "doi: 10.1038/ncomms5034", "year": "2014", "evidence_kind": "figure", "page_hint": "p.4, Fig.2c", "model_task_prompt": "Извлеките из рисунка 2c и подписи к нему диапазон значений поля, в котором зависимость интенсивности генерации от поля накачки инвертирована.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Reversing the pump depend-ence of a laser at an excep-tional point\nИдентификатор статьи: doi: 10.1038/ncomms5034\nГод: 2014\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.4, Fig.2c\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 2c и подписи к нему диапазон значений поля, в котором зависимость интенсивности генерации от поля накачки инвертирована.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Reversing the pump depend-ence of a laser at an excep-tional point\nИдентификатор статьи: doi: 10.1038/ncomms5034\nГод: 2014\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.4, Fig.2c\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 2c и подписи к нему диапазон значений поля, в котором зависимость интенсивности генерации от поля накачки инвертирована.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0005_vysokikh_dmitrii_konstantinovich__task3_ab_case_manifest.filled - Дмитрий Высоких.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 2c и подписи к нему диапазон значений поля, в котором зависимость интенсивности генерации от поля накачки инвертирована", "notes_available": false}} -{"sample_id": "task3:64495d27da:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Spectral effects in different electrodynamic systems", "submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Ultrasensitive optical absorp-tion in graphene based on bound states in the continu-um", "paper_id": "doi: 10.1038/srep08266", "year": "2015", "evidence_kind": "figure", "page_hint": "p.2, Fig.1", "model_task_prompt": "Извлеките из рисунка 1 значения длины волны и волнового вектора (kx), при которых наблюдаются связанные состояния в континууме.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Ultrasensitive optical absorp-tion in graphene based on bound states in the continu-um\nИдентификатор статьи: doi: 10.1038/srep08266\nГод: 2015\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 1 значения длины волны и волнового вектора (kx), при которых наблюдаются связанные состояния в континууме.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Ultrasensitive optical absorp-tion in graphene based on bound states in the continu-um\nИдентификатор статьи: doi: 10.1038/srep08266\nГод: 2015\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 1 значения длины волны и волнового вектора (kx), при которых наблюдаются связанные состояния в континууме.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0005_vysokikh_dmitrii_konstantinovich__task3_ab_case_manifest.filled - Дмитрий Высоких.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 1 значения длины волны и волнового вектора (kx), при которых наблюдаются связанные состояния в континууме", "notes_available": false}} -{"sample_id": "task3:64495d27da:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Spectral effects in different electrodynamic systems", "submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Optical hydrogen sensing with high‑Q guided‑mode resonance of ­Al2O3/WO3/Pd nanostructure", "paper_id": "doi: 10.1038/s41598-023-28204-z", "year": "2023", "evidence_kind": "figure", "page_hint": "p.3, Fig.1", "model_task_prompt": "Извлеките из рисунка 1 геометрические параметры структуры и материалы, из которых она состоит.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Optical hydrogen sensing with high‑Q guided‑mode resonance of ­Al2O3/WO3/Pd nanostructure\nИдентификатор статьи: doi: 10.1038/s41598-023-28204-z\nГод: 2023\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 1 геометрические параметры структуры и материалы, из которых она состоит.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Optical hydrogen sensing with high‑Q guided‑mode resonance of ­Al2O3/WO3/Pd nanostructure\nИдентификатор статьи: doi: 10.1038/s41598-023-28204-z\nГод: 2023\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 1 геометрические параметры структуры и материалы, из которых она состоит.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0005_vysokikh_dmitrii_konstantinovich__task3_ab_case_manifest.filled - Дмитрий Высоких.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 1 геометрические параметры структуры и материалы, из которых она состоит", "notes_available": false}} -{"sample_id": "task3:64495d27da:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Spectral effects in different electrodynamic systems", "submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "case_id": "CASE-006", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Optical hydrogen sensing with high‑Q guided‑mode resonance of Al2O3/WO3/Pd nanostructure", "paper_id": "doi: 10.1038/s41598-023-28204-z", "year": "2023", "evidence_kind": "figure", "page_hint": "p.5, Fig.4", "model_task_prompt": "Извлеките моменты времени (в минутах), в которые подаётся водород в различной концентрации (0, 100, 1000 ppm, ...).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Optical hydrogen sensing with high‑Q guided‑mode resonance of Al2O3/WO3/Pd nanostructure\nИдентификатор статьи: doi: 10.1038/s41598-023-28204-z\nГод: 2023\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.5, Fig.4\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nИзвлеките моменты времени (в минутах), в которые подаётся водород в различной концентрации (0, 100, 1000 ppm, ...).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Optical hydrogen sensing with high‑Q guided‑mode resonance of Al2O3/WO3/Pd nanostructure\nИдентификатор статьи: doi: 10.1038/s41598-023-28204-z\nГод: 2023\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.5, Fig.4\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nИзвлеките моменты времени (в минутах), в которые подаётся водород в различной концентрации (0, 100, 1000 ppm, ...).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence", "visual_fact"], "expected_error_modes": ["needs_time_fix", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0005_vysokikh_dmitrii_konstantinovich__task3_ab_case_manifest.filled - Дмитрий Высоких.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает моменты времени (в минутах), в которые подаётся водород в различной концентрации (0, 100, 1000 ppm, ...)", "notes_available": false}} -{"sample_id": "task3:64495d27da:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Spectral effects in different electrodynamic systems", "submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "case_id": "CASE-007", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Nonlinear exceptional-point lasing with ab initio Maxwell– Bloch theory", "paper_id": "doi: 10.1063/5.0105963", "year": "2022", "evidence_kind": "figure", "page_hint": "p.2, Fig.1", "model_task_prompt": "Извлеките из рисунка 1 отношение накачек D1/D2, при котором наблюдается фазовый переход между PT-симметричным и PT-несимметричным состояниями.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Nonlinear exceptional-point lasing with ab initio Maxwell– Bloch theory\nИдентификатор статьи: doi: 10.1063/5.0105963\nГод: 2022\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 1 отношение накачек D1/D2, при котором наблюдается фазовый переход между PT-симметричным и PT-несимметричным состояниями.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Nonlinear exceptional-point lasing with ab initio Maxwell– Bloch theory\nИдентификатор статьи: doi: 10.1063/5.0105963\nГод: 2022\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 1 отношение накачек D1/D2, при котором наблюдается фазовый переход между PT-симметричным и PT-несимметричным состояниями.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence", "visual_fact"], "expected_error_modes": ["needs_time_fix", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0005_vysokikh_dmitrii_konstantinovich__task3_ab_case_manifest.filled - Дмитрий Высоких.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 1 отношение накачек D1/D2, при котором наблюдается фазовый переход между PT-симметричным и PT-несимметричным состояниями", "notes_available": false}} -{"sample_id": "task3:64495d27da:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Spectral effects in different electrodynamic systems", "submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "case_id": "CASE-008", "stratum": "easy_control", "primary_endpoint": true, "paper_title": "Bloch surface eigenstates within the radiation continuum", "paper_id": "doi: 10.1038/lsa.2013.40", "year": "2013", "evidence_kind": "mixed", "page_hint": "p.2, Fig.1", "model_task_prompt": "Опишите структуру, в которой авторы предлагают наблюдать связанное состояние в континууме.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Bloch surface eigenstates within the radiation continuum\nИдентификатор статьи: doi: 10.1038/lsa.2013.40\nГод: 2013\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: easy_control\n\nАдаптированная задача:\nОпишите структуру, в которой авторы предлагают наблюдать связанное состояние в континууме.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Bloch surface eigenstates within the radiation continuum\nИдентификатор статьи: doi: 10.1038/lsa.2013.40\nГод: 2013\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: easy_control\n\nАдаптированная задача:\nОпишите структуру, в которой авторы предлагают наблюдать связанное состояние в континууме.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence"], "expected_error_modes": ["wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0005_vysokikh_dmitrii_konstantinovich__task3_ab_case_manifest.filled - Дмитрий Высоких.json", "original_creator_prompt": "Сравнить, какой вариант точнее описывает структуру, в которой авторы предлагают наблюдать связанное состояние в континууме", "notes_available": false}} -{"sample_id": "task3:dosi_onur_task3:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "figure", "page_hint": "p.2, Fig.1", "model_task_prompt": "Сравните, какой вариант точнее отражает различие в уровне Fusobacterium между adenoma cases и control на Figure 1, включая направление и относительную величину различия.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее отражает различие в уровне Fusobacterium между adenoma cases и control на Figure 1, включая направление и относительную величину различия.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее отражает различие в уровне Fusobacterium между adenoma cases и control на Figure 1, включая направление и относительную величину различия.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", "original_creator_prompt": "Сравните, какой вариант точнее отражает различие в уровне Fusobacterium между adenoma cases и control на Figure 1, включая направление и относительную величину различия.", "notes_available": false}} -{"sample_id": "task3:dosi_onur_task3:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "table", "page_hint": "p.2, Table 2", "model_task_prompt": "Сравните, какой вариант точнее извлекает зависимость риска аденом от уровня Fusobacterium (tertiles) в Table 2, включая корректное указание odds ratio для высокой группы.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.2, Table 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает зависимость риска аденом от уровня Fusobacterium (tertiles) в Table 2, включая корректное указание odds ratio для высокой группы.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если и��ображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.2, Table 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает зависимость риска аденом от уровня Fusobacterium (tertiles) в Table 2, включая корректное указание odds ratio для высокой группы.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", "original_creator_prompt": "Сравните, какой вариант точнее извлекает зависимость риска аденом от уровня Fusobacterium (tertiles) в Table 2, включая корректное указание odds ratio для высокой группы.", "notes_available": false}} -{"sample_id": "task3:dosi_onur_task3:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "figure", "page_hint": "p.4, Fig.3", "model_task_prompt": "Сравните, какой вариант точнее отражает связь между уровнем Fusobacterium и экспрессией цитокинов (например, IL-10 и TNF-α) на Figure 3, включая направление корреляции.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.4, Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее отражает связь между уровнем Fusobacterium и экспрессией цитокинов (например, IL-10 и TNF-α) на Figure 3, включая направление корреляции.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.4, Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее отражает связь между уровнем Fusobacterium и экспрессией цитокинов (например, IL-10 и TNF-α) на Figure 3, включая направление корреляции.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", "original_creator_prompt": "Сравните, какой вариант точнее отражает связь между уровнем Fusobacterium и экспрессией цитокинов (например, IL-10 и TNF-α) на Figure 3, включая направление корреляции.", "notes_available": false}} -{"sample_id": "task3:dosi_onur_task3:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "figure", "page_hint": "p.4, Fig.4", "model_task_prompt": "Сравните, какой вариант точнее отражает различие уровня Fusobacterium между нормальной и опухолевой тканью по всем пациентам на Figure 4.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.4, Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее отражает различие уровня Fusobacterium между нормальной и опухолевой тканью по всем пациентам на Figure 4.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.4, Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее отражает различие уровня Fusobacterium между нормальной и опухолевой тканью по всем пациентам на Figure 4.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", "original_creator_prompt": "Сравните, какой вариант точнее отражает различие уровня Fusobacterium между нормальной и опухолевой тканью по всем пациентам на Figure 4.", "notes_available": false}} -{"sample_id": "task3:dosi_onur_task3:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "figure", "page_hint": "p.3, Fig.2", "model_task_prompt": "Сравните, какой вариант точнее описывает локализацию Fusobacterium в тканях (например, в mucus layer и colonic crypts) на Figure 2.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее описывает локализацию Fusobacterium в тканях (например, в mucus layer и colonic crypts) на Figure 2.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ��твета в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее описывает локализацию Fusobacterium в тканях (например, в mucus layer и colonic crypts) на Figure 2.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", "original_creator_prompt": "Сравните, какой вариант точнее описывает локализацию Fusobacterium в тканях (например, в mucus layer и colonic crypts) на Figure 2.", "notes_available": false}} -{"sample_id": "task3:dosi_onur_task3:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "case_id": "CASE-006", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "figure_or_table", "page_hint": "p.2, Fig.1; Table 2", "model_task_prompt": "Сравните, какой вариант лучше объединяет данные из Figure 1 и Table 2, связывая уровень Fusobacterium с риском аденом.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.2, Fig.1; Table 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше объединяет данные из Figure 1 и Table 2, связывая уровень Fusobacterium с риском аденом.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графи��ов\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.2, Fig.1; Table 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше объединяет данные из Figure 1 и Table 2, связывая уровень Fusobacterium с риском аденом.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact", "overall"], "expected_error_modes": ["wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", "original_creator_prompt": "Сравните, какой вариант лучше объединяет данные из Figure 1 и Table 2, связывая уровень Fusobacterium с риском аденом.", "notes_available": false}} -{"sample_id": "task3:dosi_onur_task3:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "case_id": "CASE-007", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Fusobacterium nucleatum Promotes Colorectal Carcinogenesis by Modulating E-Cadherin/β-Catenin Signaling via its FadA Adhesin", "paper_id": "doi:10.1016/j.chom.2013.07.012", "year": "2013", "evidence_kind": "figure", "page_hint": "p.15, Fig.2", "model_task_prompt": "Сравните, какой вариант точнее отражает экспериментальное доказательство связывания FadA с E-cadherin на Figure 2.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium nucleatum Promotes Colorectal Carcinogenesis by Modulating E-Cadherin/β-Catenin Signaling via its FadA Adhesin\nИдентификатор статьи: doi:10.1016/j.chom.2013.07.012\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.15, Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее отражает экспериментальное доказательство связывания FadA с E-cadherin на Figure 2.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium nucleatum Promotes Colorectal Carcinogenesis by Modulating E-Cadherin/β-Catenin Signaling via its FadA Adhesin\nИдентификатор статьи: doi:10.1016/j.chom.2013.07.012\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.15, Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее отражает экспериментальное доказательство связывания FadA с E-cadherin на Figure 2.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact", "overall"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", "original_creator_prompt": "Сравните, какой вариант точнее отражает экспериментальное доказательство связывания FadA с E-cadherin на Figure 2.", "notes_available": false}} -{"sample_id": "task3:dosi_onur_task3:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "case_id": "CASE-008", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "figure_or_table", "page_hint": "p.2–4, Fig.1; Table 2; Fig.4", "model_task_prompt": "Сравните, какой вариант лучше отражает роль Fusobacterium на разных стадиях заболевания (от аденомы к более поздним стадиям), сохраняя временную логику.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.2–4, Fig.1; Table 2; Fig.4\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше отражает роль Fusobacterium на разных стадиях заболевания (от аденомы к более поздним стадиям), сохраняя временную логику.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.2–4, Fig.1; Table 2; Fig.4\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше отражает роль Fusobacterium на разных стадиях заболевания (от аденомы к более поздним стадиям), сохраняя временную логику.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательно��ти, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", "original_creator_prompt": "Сравните, какой вариант лучше отражает роль Fusobacterium на разных стадиях заболевания (от аденомы к более поздним стадиям), сохраняя временную логику.", "notes_available": false}} -{"sample_id": "task3:dosi_onur_task3:case-009", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "case_id": "CASE-009", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Fusobacterium nucleatum Potentiates Intestinal Tumorigenesis and Modulates the Tumor-Immune Microenvironment", "paper_id": "doi:10.1016/j.chom.2013.07.007", "year": "2013", "evidence_kind": "figure", "page_hint": "p.3, Fig.2", "model_task_prompt": "Сравните, какой вариант точнее отражает изменение числа опухолей и других показателей после воздействия Fusobacterium nucleatum в эксперименте на мышах (Figure 2).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium nucleatum Potentiates Intestinal Tumorigenesis and Modulates the Tumor-Immune Microenvironment\nИдентификатор статьи: doi:10.1016/j.chom.2013.07.007\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее отражает изменение числа опухолей и других показателей после воздействия Fusobacterium nucleatum в эксперименте на мышах (Figure 2).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium nucleatum Potentiates Intestinal Tumorigenesis and Modulates the Tumor-Immune Microenvironment\nИдентификатор статьи: doi:10.1016/j.chom.2013.07.007\n��од: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее отражает изменение числа опухолей и других показателей после воздействия Fusobacterium nucleatum в эксперименте на мышах (Figure 2).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", "original_creator_prompt": "Сравните, какой вариант точнее отражает изменение числа опухолей и других показателей после воздействия Fusobacterium nucleatum в эксперименте на мышах (Figure 2).", "notes_available": false}} -{"sample_id": "task3:dosi_onur_task3:case-010", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "case_id": "CASE-010", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Fusobacterium nucleatum Potentiates Intestinal Tumorigenesis and Modulates the Tumor-Immune Microenvironment", "paper_id": "doi:10.1016/j.chom.2013.07.007", "year": "2013", "evidence_kind": "figure", "page_hint": "p.3, Fig.2", "model_task_prompt": "Сравните, какой вариант точнее отражает изменения в иммунной среде после воздействия Fusobacterium nucleatum, включая гистологические и воспалительные показатели (Figure 2).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium nucleatum Potentiates Intestinal Tumorigenesis and Modulates the Tumor-Immune Microenvironment\nИдентификатор статьи: doi:10.1016/j.chom.2013.07.007\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее отражает изменения в иммунной среде после воздействия Fusobacterium nucleatum, включая гистологические и воспалительные показатели (Figure 2).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium nucleatum Potentiates Intestinal Tumorigenesis and Modulates the Tumor-Immune Microenvironment\nИдентификатор статьи: doi:10.1016/j.chom.2013.07.007\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее отражает изменения в иммунной среде после воздействия Fusobacterium nucleatum, включая гистологические и воспалительные показатели (Figure 2).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence", "overall"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", "original_creator_prompt": "Сравните, какой вариант точнее отражает изменения в иммунной среде после воздействия Fusobacterium nucleatum, включая гистологические и воспалительные показатели (Figure 2).", "notes_available": false}} -{"sample_id": "task3:dosi_onur_task3:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "case_id": "CASE-011", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "page", "page_hint": "p.1", "model_task_prompt": "Сравните, какой вариант точнее формулирует основную идею статьи о связи Fusobacterium с колоректальными аденомами.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГ��д: 2013\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.1\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант точнее формулирует основную идею статьи о связи Fusobacterium с колоректальными аденомами.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.1\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант точнее формулирует основную идею статьи о связи Fusobacterium с колоректальными аденомами.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", "original_creator_prompt": "Сравните, какой вариант точнее формулирует основную идею статьи о связи Fusobacterium с колоректальными аденомами.", "notes_available": false}} -{"sample_id": "task3:dosi_onur_task3:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "case_id": "CASE-012", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "Fusobacterium nucleatum Promotes Colorectal Carcinogenesis by Modulating E-Cadherin/β-Catenin Signaling via its FadA Adhesin", "paper_id": "doi:10.1016/j.chom.2013.07.012", "year": "2013", "evidence_kind": "page", "page_hint": "p.2–5", "model_task_prompt": "Сравните, какой вариант точнее описывает роль FadA в механизме действия Fusobacterium nucleatum.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium nucleatum Promotes Colorectal Carcinogenesis by Modulating E-Cadherin/β-Catenin Signaling via its FadA Adhesin\nИдентификатор статьи: doi:10.1016/j.chom.2013.07.012\nГод: 2013\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.2–5\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант точнее описывает роль FadA в механизме действия Fusobacterium nucleatum.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium nucleatum Promotes Colorectal Carcinogenesis by Modulating E-Cadherin/β-Catenin Signaling via its FadA Adhesin\nИдентификатор статьи: doi:10.1016/j.chom.2013.07.012\nГод: 2013\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.2–5\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант точнее описывает роль FadA в механизме действия Fusobacterium nucleatum.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": ["wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", "original_creator_prompt": "Сравните, какой вариант точнее описывает роль FadA в механизме действия Fusobacterium nucleatum.", "notes_available": false}} -{"sample_id": "task3:ebb8391305:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ионосфера Земли и проект «Ионозонд»", "submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": false, "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.9, Fig.5", "model_task_prompt": "Сравните, какой вариант точнее считывает порядок значений электронной концентрации (ось X) для слоя F2 в дневное время, учитывая логарифмический масштаб оси.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.9, Fig.5\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее считывает порядок значений электронной концентрации (ось X) для слоя F2 в дневное время, учитывая логарифмический масштаб оси.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.9, Fig.5\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее считывает порядок значений электронной концентрации (ось X) для слоя F2 в дневное время, учитывая логарифмический масштаб оси.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", "original_creator_prompt": "Сравните, какой вариант точнее считывает порядок значений электронной концентрации (ось X) для слоя F2 в дневное время, учитывая логарифмический масштаб оси.", "notes_available": true}} -{"sample_id": "task3:ebb8391305:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ионосфера Земли и проект «Ионозонд»", "submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": false, "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.21, Fig.14", "model_task_prompt": "Проверьте, какой вариант точно извлекает численное значение критической частоты foF2 (5.35 МГц) из мелкого текста, наложенного на плотную цветную ионограмму.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.21, Fig.14\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nПроверьте, какой вариант точно извлекает численное значение критической частоты foF2 (5.35 МГц) из мелкого текста, наложенного на плотную цветную ионограмму.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.21, Fig.14\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nПроверьте, какой вариант точно извлекает численное значение критической частоты foF2 (5.35 МГц) из мелкого текста, наложенного на плотную цветную ионограмму.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact", "evidence"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", "original_creator_prompt": "Проверьте, какой вариант точно извлекает численное значение критической частоты foF2 (5.35 МГц) из мелкого текста, наложенного на плотную цветную ионограмму.", "notes_available": true}} -{"sample_id": "task3:ebb8391305:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ионосфера Земли и проект «Ионозонд»", "submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": false, "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.21, Fig.14", "model_task_prompt": "Оцените, какой вариант корректно различает моды радиосигнала (Z-мода, O-мода, X-мода) и связывает их с соответствующими кривыми на графике.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.21, Fig.14\nСлой сложности: multimodal_hard\n\nАдаптированная зада��а:\nОцените, какой вариант корректно различает моды радиосигнала (Z-мода, O-мода, X-мода) и связывает их с соответствующими кривыми на графике.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.21, Fig.14\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОцените, какой вариант корректно различает моды радиосигнала (Z-мода, O-мода, X-мода) и связывает их с соответствующими кривыми на графике.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact", "evidence"], "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", "original_creator_prompt": "Оцените, какой вариант корректно различает моды радиосигнала (Z-мода, O-мода, X-мода) и связывает их с соответствующими кривыми на графике.", "notes_available": true}} -{"sample_id": "task3:ebb8391305:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ионосфера Земли и проект «Ионозонд»", "submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": false, "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.12, Fig.8", "model_task_prompt": "Сравните, какой вариант лучше понимает разницу между синими лучами (сигналы ГНСС) и красными лучами (зондирование с низкоорбитального спутника).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.12, Fig.8\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше понимает разницу между синими лучами (сигналы ГНСС) и красными лучами (зондирование с низкоорбитального спутника).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.12, Fig.8\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше понимает разницу между синими лучами (сигналы ГНСС) и красными лучами (зондирование с низкоорбитального спутника).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", "original_creator_prompt": "Сравните, какой вариант лучше понимает разницу между синими лучами (сигналы ГНСС) и красными лучами (зондирование с низкоорбитального спутника).", "notes_available": true}} -{"sample_id": "task3:ebb8391305:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ионосфера Земли и проект «Ионозонд»", "submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": false, "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.19, Fig.12", "model_task_prompt": "Проверьте, какой вариант правильно идентифицирует расположение длинных антенн ионозонда ЛАЭРТ и антенны прибора МАЯК на конструкции спутника.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.19, Fig.12\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nПроверьте, какой вариант правильно идентифицирует расположение длинных антенн ионозонда ЛАЭРТ и антенны прибора МАЯК на конструкции спутника.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.19, Fig.12\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nПроверьте, какой вариант правильно идентифицирует расположение длинных антенн ионозонда ЛАЭРТ и антенны прибора МАЯК на конструкции спутника.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", "original_creator_prompt": "Проверьте, какой вариант правильно идентифицирует расположение длинных антенн ионозонда ЛАЭРТ и антенны прибора МАЯК на конструкции спутника.", "notes_available": true}} -{"sample_id": "task3:ebb8391305:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ионосфера Земли и проект «Ионозонд»", "submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "case_id": "CASE-006", "stratum": "multimodal_hard", "primary_endpoint": false, "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.14, Fig.9", "model_task_prompt": "Сравните, какой вариант корректно извлекает пространственную информацию о том, что высокочастотная волна (High-frequency wave) направлена вверх, а низкочастотная (Low-frequency) возникает в турбулентном объеме и идет вниз.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.14, Fig.9\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант корректно извлекает пространственную информацию о том, что высокочастотная волна (High-frequency wave) направлена вверх, а низкочастотная (Low-frequency) возникает в турбулентном объеме и идет вниз.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.14, Fig.9\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант корректно извлекает пространственную информацию о том, что высокочастотная волна (High-frequency wave) направлена вверх, а низкочастотная (Low-frequency) возникает в турбулентном объеме и идет вниз.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", "original_creator_prompt": "Сравните, какой вариант корректно извлекает пространственную информацию о том, что высокочастотная волна (High-frequency wave) направлена вверх, а низкочастотная (Low-frequency) возникает в турбулентном объеме и идет вниз.", "notes_available": true}} -{"sample_id": "task3:ebb8391305:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ионосфера Земли и проект «Ионозонд»", "submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "case_id": "CASE-007", "stratum": "multimodal_hard", "primary_endpoint": false, "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.22, Fig.15", "model_task_prompt": "Оцените, какой вариант правильно понимает структуру составного рисунка: верхняя панель (А) — электрическая компонента, нижняя (Б) — магнитная.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.22, Fig.15\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОцените, какой вариант правильно понимает структуру составного рисунка: верхняя панель (А) — электрическая компонента, нижняя (Б) — магнитная.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.22, Fig.15\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОцените, какой вариант правильно понимает структуру составного рисунка: верхняя панель (А) — электрическая компонента, нижняя (Б) — магнитная.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", "original_creator_prompt": "Оцените, какой вариант правильно понимает структуру составного рисунка: верхняя панель (А) — электрическая компонента, нижняя (Б) — магнитная.", "notes_available": true}} -{"sample_id": "task3:ebb8391305:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ионосфера Земли и проект «Ионозонд»", "submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "case_id": "CASE-008", "stratum": "temporal_hard", "primary_endpoint": false, "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.9, Fig.5", "model_task_prompt": "Сравните, какой вариант лучше улавливает временную динамику (день vs ночь), в частности полное исчезновение слоя D в ночное время на графике профиля.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.9, Fig.5\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше улавливает временную динамику (день vs ночь), в частности полное исчезновение слоя D в ночное время на графике профиля.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.9, Fig.5\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше улавливает временную динамику (день vs ночь), в частности полное исчезновение слоя D �� ночное время на графике профиля.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "visual_fact"], "expected_error_modes": ["needs_time_fix", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", "original_creator_prompt": "Сравните, какой вариант лучше улавливает временную динамику (день vs ночь), в частности полное исчезновение слоя D в ночное время на графике профиля.", "notes_available": true}} -{"sample_id": "task3:ebb8391305:case-009", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ионосфера Земли и проект «Ионозонд»", "submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "case_id": "CASE-009", "stratum": "temporal_hard", "primary_endpoint": false, "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.15, Fig.11", "model_task_prompt": "Проверьте, какой вариант точнее формулирует разницу в дальности распространения радиосигнала днем и ночью из-за изменения слоев ионосферы.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.15, Fig.11\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПроверьте, какой вариант точнее формулирует разницу в дальности распространения радиосигнала днем и ночью из-за изменения слоев ионосферы.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.15, Fig.11\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПроверьте, какой вариант точнее формулирует разницу в дальности распространения радиосигнала днем и ночью из-за изменения слоев ионосферы.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", "original_creator_prompt": "Проверьте, какой вариант точнее формулирует разницу в дальности распространения радиосигнала днем и ночью из-за изменения слоев ионосферы.", "notes_available": true}} -{"sample_id": "task3:ebb8391305:case-010", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ионосфера Земли и проект «Ионозонд»", "submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "case_id": "CASE-010", "stratum": "temporal_hard", "primary_endpoint": false, "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.22, Fig.15", "model_task_prompt": "Оцените, какой вариант правильно извлекает конкретный временной интервал (с начала измерений до 22:47:00), в котором наблюдаются естественные электростатические колебания.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.22, Fig.15\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОцените, какой вариант правильно извлекает конкр��тный временной интервал (с начала измерений до 22:47:00), в котором наблюдаются естественные электростатические колебания.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.22, Fig.15\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОцените, какой вариант правильно извлекает конкретный временной интервал (с начала измерений до 22:47:00), в котором наблюдаются естественные электростатические колебания.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "visual_fact"], "expected_error_modes": ["needs_time_fix", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", "original_creator_prompt": "Оцените, какой вариант правильно извлекает конкретный временной интервал (с начала измерений до 22:47:00), в котором наблюдаются естественные электростатические колебания.", "notes_available": true}} -{"sample_id": "task3:ebb8391305:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ионосфера Земли и проект «Ионозонд»", "submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "case_id": "CASE-011", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.12, Fig.7", "model_task_prompt": "Проверьте, какой вариант правильно описывает базовые компоненты схемы отражения радиосигнала (Земля, ионосфера, антенны).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.12, Fig.7\nСлой сложности: easy_control\n\nАдаптированная задача:\nПроверьте, какой вариант правильно описывает базовые компоненты схемы отражения радиосигнала (Земля, ионосфера, антенны).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.12, Fig.7\nСлой сложности: easy_control\n\nАдаптированная задача:\nПроверьте, какой вариант правильно описывает базовые компоненты схемы отражения радиосигнала (Земля, ионосфера, антенны).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, ф��зы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": ["hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", "original_creator_prompt": "Проверьте, какой вариант правильно описывает базовые компоненты схемы отражения радиосигнала (Земля, ионосфера, антенны).", "notes_available": true}} -{"sample_id": "task3:ebb8391305:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ионосфера Земли и проект «Ионозонд»", "submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "case_id": "CASE-012", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.20, Fig.13", "model_task_prompt": "Сравните, какой вариант корректно определяет количество спутников (4 КА) и количество орбитальных плоскостей на схеме проекта Ионозонд.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.20, Fig.13\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант корректно определяет количество спутников (4 КА) и количество орбитальных плоскостей на схеме проекта Ионозонд.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.20, Fig.13\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант корректно определяет количество спутников (4 КА) и количество орбитальных плоскостей на схеме проекта Ионозонд.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", "original_creator_prompt": "Сравните, какой вариант корректно определяет количество спутников (4 КА) и количество орбитальных плоскостей на схеме проекта Ионозонд.", "notes_available": true}} -{"sample_id": "task3:df07798d94:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "3D reconstuction", "submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "3DGS.zip: A survey on 3D Gaussian Splatting Compression Methods", "paper_id": "arxiv:2407.09510", "year": "2024", "evidence_kind": "figure", "page_hint": "Figure 1", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из гистограммы и использует его в hypothesis support", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: 3DGS.zip: A survey on 3D Gaussian Splatting Compression Methods\nИдентификатор статьи: arxiv:2407.09510\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Figure 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из гистограммы и использует его в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте тольк�� на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: 3DGS.zip: A survey on 3D Gaussian Splatting Compression Methods\nИдентификатор статьи: arxiv:2407.09510\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Figure 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из гистограммы и использует его в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/df07798d94/case-001/rendered_page_0003.png", "assets/images/df07798d94/case-001/rendered_page_0009.png", "assets/images/df07798d94/case-001/rendered_page_0010.png", "assets/images/df07798d94/case-001/rendered_page_0012.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0008_mukhorin_matvei_dmtrievich__task3_ab_case_manifest.filled - Matvey Mukhorin.json", "original_creator_prompt": "Сравните какой вариант лучше извлекает данные из гистограммы и использует его в hypothesis support", "notes_available": false}} -{"sample_id": "task3:df07798d94:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "3D reconstuction", "submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "3DGS.zip: A survey on 3D Gaussian Splatting Compression Methods", "paper_id": "arxiv:2407.09510", "year": "2024", "evidence_kind": "figure", "page_hint": "Figure 2", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из heatmap и использует его в hypothesis support", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: 3DGS.zip: A survey on 3D Gaussian Splatting Compression Methods\nИдентификатор статьи: arxiv:2407.09510\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Figure 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из heatmap и использует его в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующ��ми ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: 3DGS.zip: A survey on 3D Gaussian Splatting Compression Methods\nИдентификатор статьи: arxiv:2407.09510\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Figure 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из heatmap и использует его в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/df07798d94/case-002/rendered_page_0004.png", "assets/images/df07798d94/case-002/rendered_page_0025.png", "assets/images/df07798d94/case-002/rendered_page_0028.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0008_mukhorin_matvei_dmtrievich__task3_ab_case_manifest.filled - Matvey Mukhorin.json", "original_creator_prompt": "Сравните какой вариант лучше извлекает данные из heatmap и использует его в hypothesis support", "notes_available": false}} -{"sample_id": "task3:df07798d94:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "3D reconstuction", "submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Efficient Geometry-aware 3D Generative Adversarial Networks", "paper_id": "arxiv:2112.07945", "year": "2024", "evidence_kind": "table", "page_hint": "Table 1", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: Efficient Geometry-aware 3D Generative Adversarial Networks\nИдентификатор статьи: arxiv:2112.07945\nГод: 2024\nТип evidence: table\nПодсказка по странице/рисунку/таблице: Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: Efficient Geometry-aware 3D Generative Adversarial Networks\nИдентификатор статьи: arxiv:2112.07945\nГод: 2024\nТип evidence: table\nПодсказка по странице/рисунку/таблице: Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/df07798d94/case-003/rendered_page_0003.png", "assets/images/df07798d94/case-003/rendered_page_0014.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0008_mukhorin_matvei_dmtrievich__task3_ab_case_manifest.filled - Matvey Mukhorin.json", "original_creator_prompt": "Сравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support", "notes_available": false}} -{"sample_id": "task3:df07798d94:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "3D reconstuction", "submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Speedy-Splat: Fast 3D Gaussian Splatting with Sparse Pixels and Sparse Primitives", "paper_id": "arxiv:2412.00578", "year": "2024", "evidence_kind": "table", "page_hint": "Table 2", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: Speedy-Splat: Fast 3D Gaussian Splatting with Sparse Pixels and Sparse Primitives\nИдентификатор статьи: arxiv:2412.00578\nГод: 2024\nТип evidence: table\nПодсказка по странице/рисунку/таблице: Table 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: Speedy-Splat: Fast 3D Gaussian Splatting with Sparse Pixels and Sparse Primitives\nИдентификатор статьи: arxiv:2412.00578\nГод: 2024\nТип evidence: table\nПодсказка по странице/рисунку/таблице: Table 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/df07798d94/case-004/rendered_page_0007.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0008_mukhorin_matvei_dmtrievich__task3_ab_case_manifest.filled - Matvey Mukhorin.json", "original_creator_prompt": "Сравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support", "notes_available": false}} -{"sample_id": "task3:df07798d94:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "3D reconstuction", "submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES", "paper_id": "arxiv:2603.11531", "year": "2026", "evidence_kind": "figure", "page_hint": "Figure 2", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из диаграммы и использует его в hypothesis support", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES\nИдентификатор статьи: arxiv:2603.11531\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Figure 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из диаграммы и использует его в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES\nИдентификатор статьи: arxiv:2603.11531\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Figure 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из диаграммы и использует его в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/df07798d94/case-005/rendered_page_0002.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0008_mukhorin_matvei_dmtrievich__task3_ab_case_manifest.filled - Matvey Mukhorin.json", "original_creator_prompt": "Сравните какой вариант лучше извлекает данные из диаграммы и использует его в hypothesis support", "notes_available": false}} -{"sample_id": "task3:df07798d94:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "3D reconstuction", "submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "case_id": "CASE-006", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES", "paper_id": "arxiv:2603.11531", "year": "2026", "evidence_kind": "formula", "page_hint": "Figure 9", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из pie chart и использует его в hypothesis support", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES\nИдентификатор статьи: arxiv:2603.11531\nГод: 2026\nТип evidence: formula\nПодсказка по странице/рисунку/таблице: Figure 9\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из pie chart и использует его в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES\nИдентификатор статьи: arxiv:2603.11531\nГод: 2026\nТип evidence: formula\nПодсказка по странице/рисунку/таблице: Figure 9\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучш�� извлекает данные из pie chart и использует его в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/df07798d94/case-006/rendered_page_0018.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0008_mukhorin_matvei_dmtrievich__task3_ab_case_manifest.filled - Matvey Mukhorin.json", "original_creator_prompt": "Сравните какой вариант лучше извлекает данные из pie chart и использует его в hypothesis support", "notes_available": false}} -{"sample_id": "task3:df07798d94:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "3D reconstuction", "submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "case_id": "CASE-007", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES", "paper_id": "arxiv:2603.11531", "year": "2026", "evidence_kind": "formula", "page_hint": "formula 3", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из формулы и использует их в hypothesis support", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES\nИдентификатор статьи: arxiv:2603.11531\nГод: 2026\nТип evidence: formula\nПодсказка по странице/рисунку/таблице: formula 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из формулы и использует их в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен ��ыть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES\nИдентификатор статьи: arxiv:2603.11531\nГод: 2026\nТип evidence: formula\nПодсказка по странице/рисунку/таблице: formula 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из формулы и использует их в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0008_mukhorin_matvei_dmtrievich__task3_ab_case_manifest.filled - Matvey Mukhorin.json", "original_creator_prompt": "Сравните какой вариант лучше извлекает данные из формулы и использует их в hypothesis support", "notes_available": false}} -{"sample_id": "task3:gorbunov-ivan-yurievich__0d769c50eb:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Superconducting quantum simulators", "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.2, Fig.1", "model_task_prompt": "Сравнить, сколько кубитов в процессоре выводят модели, исходя из иллюстрации.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравнить, сколько кубитов в процессоре выводят модели, исходя из иллюстрации.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравнить, сколько кубитов в процессоре выводят модели, исходя из иллюстрации.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-001/rendered_page_0002.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", "original_creator_prompt": "Сравнить, сколько кубитов в процессоре выводят модели, исходя из иллюстрации.", "notes_available": false}} -{"sample_id": "task3:gorbunov-ivan-yurievich__0d769c50eb:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Superconducting quantum simulators", "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.3, Fig.2", "model_task_prompt": "Сравните, какой вариант правильно сопоставляет характер изменения заселенности измеряемого кубита со значением магнитного потока через кольцо из кубитов в подграфике a.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильно сопоставляет характер изменения заселеннос��и измеряемого кубита со значением магнитного потока через кольцо из кубитов в подграфике a.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильно сопоставляет характер изменения заселенности измеряемого кубита со значением магнитного потока через кольцо из кубитов в подграфике a.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-002/rendered_page_0003.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", "original_creator_prompt": "Сравните, какой вариант правильно сопоставляет характер изменения заселенности измеряемого кубита со значением магнитного потока через кольцо из кубитов в подграфике a.", "notes_available": false}} -{"sample_id": "task3:gorbunov-ivan-yurievich__0d769c50eb:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Superconducting quantum simulators", "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.3, Fig.2", "model_task_prompt": "Сравните, какой вариант правильно описывает изменение максимальной заселенности измеряемого кубита при увеличении числа кубитов в кольце в эксперименте по наблюдению интерференции.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильно описывает изменение максимальной заселенности измеряемого кубита при увеличении числа кубитов в кольце в эксперименте по наблюдению интерференции.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильно описывает изменение максимальной заселенности измеряемого кубита при увеличении числа кубитов в кольце в эксперименте по наблюдению интерференции.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-003/rendered_page_0003.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", "original_creator_prompt": "Сравните, какой вариант правильно описывает изменение максимальной заселенности измеряемого кубита при увеличении числа кубитов в кольце в эксперименте по наблюдению интерференции.", "notes_available": false}} -{"sample_id": "task3:gorbunov-ivan-yurievich__0d769c50eb:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Superconducting quantum simulators", "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.4, Fig.3", "model_task_prompt": "Сравните, какой вариант правильнее объясняет физическую причину идентичности интерференционных картин на Fig. 3 и корректно связывает это объяснение с одинаковой суммой фаз Пайерлса вдоль одного и того же контура.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.4, Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильнее объясняет физическую причину идентичности интерференционных картин на Fig. 3 и корректно связывает это объяснение с одинаковой суммой фаз Пайерлса вдоль одного и того же контура.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть поле��ен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.4, Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильнее объясняет физическую причину идентичности интерференционных картин на Fig. 3 и корректно связывает это объяснение с одинаковой суммой фаз Пайерлса вдоль одного и того же контура.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-004/rendered_page_0004.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", "original_creator_prompt": "Сравните, какой вариант правильнее объясняет физическую причину идентичности интерференционных картин на Fig. 3 и корректно связывает это объяснение с одинаковой суммой фаз Пайерлса вдоль одного и того же контура.", "notes_available": false}} -{"sample_id": "task3:gorbunov-ivan-yurievich__0d769c50eb:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Superconducting quantum simulators", "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.5, Fig.4", "model_task_prompt": "Сравните, какой вариант правильно называет номера и положение кубитов в самой решетке 4х4, значение заселенности которых является наименьшим в эксперименте по осцилляциям Блоха.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.5, Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильно называет номера и положение кубитов в самой решетке 4х4, значение заселенности которых является наименьшим в эксперименте по осцилляциям Блоха.\n\nИспользу��те приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.5, Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильно называет номера и положение кубитов в самой решетке 4х4, значение заселенности которых является наименьшим в эксперименте по осцилляциям Блоха.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-005/rendered_page_0005.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", "original_creator_prompt": "Сравните, какой вариант правильно называет номера и положение кубитов в самой решетке 4х4, значение заселенности которых является наименьшим в эксперименте по осцилляциям Блоха.", "notes_available": false}} -{"sample_id": "task3:gorbunov-ivan-yurievich__0d769c50eb:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Superconducting quantum simulators", "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "case_id": "CASE-006", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.6, Fig.5", "model_task_prompt": "Сравните, какой вариант правильно объясняет причину искривления графиков в эксперименте/симуляциях реального процессора (Actual device) по сравнению с симуляциями идеальной модели (HH model).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.6, Fig.5\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильно объясняет причину искривления графиков в эксперименте/симуляциях реального процессора (Actual device) по сравнению с симуляциями идеальной модели (HH model).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.6, Fig.5\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильно объясняет причину искривления графиков в эксперименте/симуляциях реального процессора (Actual device) по сравнению с симуляциями идеальной модели (HH model).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-006/rendered_page_0006.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", "original_creator_prompt": "Сравните, какой вариант правильно объясняет причину искривления графиков в эксперименте/симуляциях реального процессора (Actual device) по сравнению с симуляциями идеальной модели (HH model).", "notes_available": false}} -{"sample_id": "task3:gorbunov-ivan-yurievich__0d769c50eb:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Superconducting quantum simulators", "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "case_id": "CASE-007", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.6, Fig.5", "model_task_prompt": "Сравните, какой вариант правильно определяет направление начальной скорости частицы относительно направления электрического поля в эксперименте по наблюдению эффекта Холла.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.6, Fig.5\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильно определяет направление начальной скорости частицы относительно направления электрического поля в эксперименте по наблюдению эффекта Холла.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСта��ья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.6, Fig.5\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильно определяет направление начальной скорости частицы относительно направления электрического поля в эксперименте по наблюдению эффекта Холла.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-007/rendered_page_0006.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", "original_creator_prompt": "Сравните, какой вариант правильно определяет направление начальной скорости частицы относительно направления электрического поля в эксперименте по наблюдению эффекта Холла.", "notes_available": false}} -{"sample_id": "task3:gorbunov-ivan-yurievich__0d769c50eb:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Superconducting quantum simulators", "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "case_id": "CASE-008", "stratum": "easy_control", "primary_endpoint": true, "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "formula", "page_hint": "p.S4, p.S5, Fig.S1", "model_task_prompt": "Сравните, какой вариант правильно определяет закон сдвига основной частоты кубита при наличии параметрической модуляции его энергии.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: formula\nПодсказка по странице/рисунку/таблице: p.S4, p.S5, Fig.S1\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант правильно определяет закон сдвига основной частоты кубита при наличии параметрической модуляции его энергии.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"напр��мер Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: formula\nПодсказка по странице/рисунку/таблице: p.S4, p.S5, Fig.S1\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант правильно определяет закон сдвига основной частоты кубита при наличии параметрической модуляции его энергии.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall", "evidence"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", "original_creator_prompt": "Сравните, какой вариант правильно определяет закон сдвига основной частоты кубита при наличии параметрической модуляции его энергии.", "notes_available": false}} -{"sample_id": "task3:gorbunov-ivan-yurievich__0d769c50eb:case-009", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Superconducting quantum simulators", "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "case_id": "CASE-009", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "figure", "page_hint": "Fig. 1", "model_task_prompt": "Сравните, какой вариант правильно дает оценку размера кубита по масштабной шкале на подграфике a.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: figure\nП��дсказка по странице/рисунку/таблице: Fig. 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильно дает оценку размера кубита по масштабной шкале на подграфике a.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig. 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильно дает оценку размера кубита по масштабной шкале на подграфике a.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", "original_creator_prompt": "Сравните, какой вариант правильно дает оценку размера кубита по масштабной шкале на подграфике a.", "notes_available": false}} -{"sample_id": "task3:gorbunov-ivan-yurievich__0d769c50eb:case-010", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Superconducting quantum simulators", "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "case_id": "CASE-010", "stratum": "easy_control", "primary_endpoint": true, "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "Fig.1, p.2", "model_task_prompt": "Сравните, какой вариант правильно определяет примерное значение максимума подграфика g", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: Fig.1, p.2\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант правильно определяет примерное значение максимума подграфика g\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: Fig.1, p.2\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант правильно определяет примерное значение максимума подграфика g\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-010/rendered_page_0002.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall", "evidence"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", "original_creator_prompt": "Сравните, какой вариант правильно определяет примерное значение максимума подграфика g", "notes_available": false}} -{"sample_id": "task3:gorbunov-ivan-yurievich__0d769c50eb:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Superconducting quantum simulators", "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "case_id": "CASE-011", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.3, Fig.2", "model_task_prompt": "Сравнить, какой вариант правильно оценивает моменты времени наибольшей заселенности при нулевом потоке через решетку для подграфика a.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравнить, какой вариант правильно оценивает моменты времени наибольшей заселенности при нулевом потоке через решетку для подграфика a.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравнить, какой вариант правильно оценивает моменты времени наибольшей заселенности при нулевом потоке через решетку для подграфика a.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими к��ючами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-011/rendered_page_0003.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", "original_creator_prompt": "Сравнить, какой вариант правильно оценивает моменты времени наибольшей заселенности при нулевом потоке через решетку для подграфика a.", "notes_available": false}} -{"sample_id": "task3:gorbunov-ivan-yurievich__0d769c50eb:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Superconducting quantum simulators", "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "case_id": "CASE-012", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "figure", "page_hint": "Fig.4", "model_task_prompt": "Сравнить, какой вариант правильно оценивает моменты времени нахождения частицы в центре одномерной цепочки для графика численных симуляций блоховский осцилляций для реального девайса (Actual device)", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.4\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравнить, какой вариант правильно оценивает моменты времени нахождения частицы в центре одномерной цепочки для графика численных симуляций блоховский осцилляций для реального девайса (Actual device)\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.4\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравнить, какой вариант правильно оценивает моменты времени нахождения частицы в центре одномерной цепочки для графика численных симуляций блоховский осцилляций для реального девайса (Actual device)\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", "original_creator_prompt": "Сравнить, какой вариант правильно оценивает моменты времени нахождения частицы в центре одномерной цепочки для графика численных симуляций блоховский осцилляций для реального девайса (Actual device)", "notes_available": false}} -{"sample_id": "task3:fred-westling__4e51465083:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.2, Fig.1", "model_task_prompt": "Сравни, как точно описаны этапы пайплайна симуляции сканирования деревьев: от генерации дерева до итогового облака точек.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни, как точно описаны этапы пайплайна симуляции сканирования деревьев: от генерации дерева до итогового облака точек.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни, как точно описаны этапы пайплайна симуляции сканирования деревьев: от генерации дерева до итогового облака точек.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/fred-westling__4e51465083/case-001/rendered_page_0002.png", "assets/images/fred-westling__4e51465083/case-001/rendered_page_0006.png", "assets/images/fred-westling__4e51465083/case-001/rendered_page_0007.png", "assets/images/fred-westling__4e51465083/case-001/rendered_page_0008.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", "original_creator_prompt": "Сравни, как точно описаны этапы пайплайна симуляции сканирования деревьев: от генерации дерева до итогового облака точек.", "notes_available": false}} -{"sample_id": "task3:fred-westling__4e51465083:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.3, Fig.2", "model_task_prompt": "Сравни, какой вариант верно определяет параметры дерева в интерфейсе Arbaro (уровни ветвления, углы, длина).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни, какой вариант верно определяет параметры дерева в интерфейсе Arbaro (уровни ветвления, углы, длина).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни, какой вариант верно определяет параметры дерева в интерфейсе Arbaro (уровни ветвления, углы, длина).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/fred-westling__4e51465083/case-002/rendered_page_0003.png", "assets/images/fred-westling__4e51465083/case-002/rendered_page_0002.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", "original_creator_prompt": "Сравни, какой вариант верно определяет параметры дерева в интерфейсе Arbaro (уровни ветвления, углы, длина).", "notes_available": false}} -{"sample_id": "task3:fred-westling__4e51465083:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.2, Fig.3", "model_task_prompt": "Сравни, как различаются orchard и forest layout по визуальному представлению и числовым параметрам (spacing, rows).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни, как различаются orchard и forest layout по визуальному представлению и числовым параметрам (spacing, rows).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни, как различаются orchard и forest layout по визуальному представлению и числовым параметрам (spacing, rows).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/fred-westling__4e51465083/case-003/rendered_page_0002.png", "assets/images/fred-westling__4e51465083/case-003/rendered_page_0003.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", "original_creator_prompt": "Сравни, как различаются orchard и forest layout по визуальному представлению и числовым параметрам (spacing, rows).", "notes_available": false}} -{"sample_id": "task3:fred-westling__4e51465083:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.4, Fig.4", "model_task_prompt": "Сравни, в чём отличие single-plane LiDAR от 9-beam LiDAR по внешнему виду лучей и угловым характеристикам", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.4, Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни, в чём отличие single-plane LiDAR от 9-beam LiDAR по внешнему виду лучей и угловым характеристикам\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.4, Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни, в чём отличие single-plane LiDAR от 9-beam LiDAR по внешнему виду лучей и угловым характеристикам\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/fred-westling__4e51465083/case-004/rendered_page_0004.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", "original_creator_prompt": "Сравни, в чём отличие single-plane LiDAR от 9-beam LiDAR по внешнему виду лучей и угловым характеристикам", "notes_available": false}} -{"sample_id": "task3:fred-westling__4e51465083:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.5, Fig.5", "model_task_prompt": "Сравни описания траектории Zeb1: двойной замкнутый контур, обход вокруг центрального дерева.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.5, Fig.5\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни описания траектории Zeb1: двойной замкнутый контур, обход вокруг центрального дерева.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.5, Fig.5\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни описания траектории Zeb1: двойной замкнутый контур, обход вокруг центрального дерева.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/fred-westling__4e51465083/case-005/rendered_page_0005.png", "assets/images/fred-westling__4e51465083/case-005/rendered_page_0004.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", "original_creator_prompt": "Сравни описания траектории Zeb1: двойной замкнутый контур, обход вокруг центрального дерева.", "notes_available": false}} -{"sample_id": "task3:fred-westling__4e51465083:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "case_id": "CASE-006", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.5, Fig.6", "model_task_prompt": "Сравни три типа траекторий (handheld, mobile, aerial) на одном и том же orchard stand.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.5, Fig.6\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни три типа траекторий (handheld, mobile, aerial) на одном и том же orchard stand.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерн��те ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.5, Fig.6\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни три типа траекторий (handheld, mobile, aerial) на одном и том же orchard stand.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/fred-westling__4e51465083/case-006/rendered_page_0005.png", "assets/images/fred-westling__4e51465083/case-006/rendered_page_0004.png", "assets/images/fred-westling__4e51465083/case-006/rendered_page_0009.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", "original_creator_prompt": "Сравни три типа траекторий (handheld, mobile, aerial) на одном и том же orchard stand.", "notes_available": false}} -{"sample_id": "task3:fred-westling__4e51465083:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "case_id": "CASE-007", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.6, Fig.7", "model_task_prompt": "Сравни, как правильно определить occluded point (зелёная точка) на схеме сканирования с одной линией.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.6, Fig.7\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни, как правильно определить occluded point (зелёная точка) на схеме сканирования с одной линией.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.6, Fig.7\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни, как правильно определить occluded point (зелёная точка) на схеме сканирования с одной линией.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/fred-westling__4e51465083/case-007/rendered_page_0006.png", "assets/images/fred-westling__4e51465083/case-007/rendered_page_0004.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", "original_creator_prompt": "Сравни, как правильно определить occluded point (зелёная точка) на схеме сканирования с одной линией.", "notes_available": false}} -{"sample_id": "task3:fred-westling__4e51465083:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "case_id": "CASE-008", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": "p.7, Fig 10", "model_task_prompt": "Сравни, как изменяется визуальное качество и структура облака точек при увеличении уровня шума с 0 м до 0.1 м на одной и той же траектории Zeb1.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.7, Fig 10\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравни, как изменяется визуальное качество и структура облака точек при увеличении уровня шума с 0 м до 0.1 м на одной и той же траектории Zeb1.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.7, Fig 10\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравни, как изменяется визуальное качество и структура облака точек при увеличении уровня шума с 0 м до 0.1 м на одной и той же траектории Zeb1.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/fred-westling__4e51465083/case-008/rendered_page_0007.png", "assets/images/fred-westling__4e51465083/case-008/rendered_page_0006.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", "original_creator_prompt": "Сравни, как изменяется визуальное качество и структура облака точек при увеличении уровня шума с 0 м до 0.1 м на одной и той же траектории Zeb1.", "notes_available": false}} -{"sample_id": "task3:fred-westling__4e51465083:case-009", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "case_id": "CASE-009", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "page", "page_hint": "p.11", "model_task_prompt": "Опиши последовательность: сначала тренировка модели на симулированных данных SimTreeLS, затем transfer learning на реальных LiDAR-сканах. Что меняется между этапами?", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.11\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпиши последовательность: сначала тренировка модели на симулированных данных SimTreeLS, затем transfer learning на реальных LiDAR-сканах. Что меняется между этапами?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.11\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпиши последовательность: сначала тренировка модели на симулированных данных SimTreeLS, затем transfer learning на реальных LiDAR-сканах. Что меняется между этапами?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/fred-westling__4e51465083/case-009/rendered_page_0011.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", "original_creator_prompt": "Опиши последовательность: сначала тренировка модели на симулированных данных SimTreeLS, затем transfer learning на реальных LiDAR-сканах. Что меняется между этапами?", "notes_available": false}} -{"sample_id": "task3:fred-westling__4e51465083:case-010", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "case_id": "CASE-010", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": "p.9, Fig 13", "model_task_prompt": "Сравни occlusion profile при смене сенсора с single-beam на 9-beam на одной и той же mobile trajectory (рис. 13). Что произошло с количеством видимых (зелёных) точек?", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.9, Fig 13\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравни occlusion profile при смене сенсора с single-beam на 9-beam на одной и той же mobile trajectory (рис. 13). Что произошло с количеством видимых (зелёных) точек?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, ��звлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.9, Fig 13\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравни occlusion profile при смене сенсора с single-beam на 9-beam на одной и той же mobile trajectory (рис. 13). Что произошло с количеством видимых (зелёных) точек?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/fred-westling__4e51465083/case-010/rendered_page_0009.png", "assets/images/fred-westling__4e51465083/case-010/rendered_page_0008.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", "original_creator_prompt": "Сравни occlusion profile при смене сенсора с single-beam на 9-beam на одной и той же mobile trajectory (рис. 13). Что произошло с количеством видимых (зелёных) точек?", "notes_available": false}} -{"sample_id": "task3:fred-westling__4e51465083:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "case_id": "CASE-011", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "table", "page_hint": " p.8, table.2", "model_task_prompt": "Извлеки значение p-value из t-теста для V-measure (сегментация) в таблице 2.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.8, table.2\nСлой сложности: easy_control\n\nАдаптированная задача:\nИзвлеки значение p-value из t-теста для V-measure (сегментация) в таблице 2.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.8, table.2\nСлой сложности: easy_control\n\nАдаптированная задача:\nИзвлеки значение p-value из t-теста для V-measure (сегментация) в таблице 2.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/fred-westling__4e51465083/case-011/rendered_page_0008.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", "original_creator_prompt": "Извлеки значение p-value из t-теста для V-measure (сегментация) в таблице 2.", "notes_available": false}} -{"sample_id": "task3:fred-westling__4e51465083:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "case_id": "CASE-012", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.3, Fig.3", "model_task_prompt": "Какое минимальное расстояние между деревьями задаётся в forest layout (рис. 3)?", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.3\nСлой сложности: easy_control\n\nАдаптированная задача:\nКакое минимальное расстояние между деревьями задаётся в forest layout (рис. 3)?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.3\nСлой сложности: easy_control\n\nАдаптированная задача:\nКакое минимальное расстояние между деревьями задаётся в forest layout (рис. 3)?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/fred-westling__4e51465083/case-012/rendered_page_0003.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", "original_creator_prompt": "Какое минимальное расстояние между деревьями задаётся в forest layout (рис. 3)?", "notes_available": false}} -{"sample_id": "task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Adaptive gradient optimization methods for training LLM", "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "MARS: Unleashing the Power of Variance Reduction for Training Large Models", "paper_id": "arxiv:2411.10438", "year": "2024", "evidence_kind": "figure_or_table", "page_hint": "fig. 2, Tab. 1,", "model_task_prompt": "Выявить, в какой из задач GPT-2 (Рис. 2) MARS дает наибольший относительный выигрыш в perplexity по сравнению с AdamW, и не перепутать его с табличными результатами ImageNet (Таб. 1).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: MARS: Unleashing the Power of Variance Reduction for Training Large Models\nИдентификатор статьи: arxiv:2411.10438\nГод: 2024\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: fig. 2, Tab. 1,\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nВыявить, в какой из задач GPT-2 (Рис. 2) MARS дает наибольший относительный выигрыш в perplexity по сравнению с AdamW, и не перепутать его с табличными результатами ImageNet (Таб. 1).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: MARS: Unleashing the Power of Variance Reduction for Training Large Models\nИдентификатор статьи: arxiv:2411.10438\nГод: 2024\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: fig. 2, Tab. 1,\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nВыявить, в какой из задач GPT-2 (Рис. 2) MARS дает наибольший относительный выигрыш в perplexity по сравнению с AdamW, и не перепутать его с табличными результатами ImageNet (Таб. 1).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-001/rendered_page_0008.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-001/rendered_page_0009.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-001/rendered_page_0027.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-001/rendered_page_0034.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact", "overall"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", "original_creator_prompt": "Выявить, в какой из задач GPT-2 (Рис. 2) MARS дает наибольший относительный выигрыш в perplexity по сравнению с AdamW, и не перепутать его с табличными результатами ImageNet (Таб. 1).", "notes_available": false}} -{"sample_id": "task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Adaptive gradient optimization methods for training LLM", "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "The AdEMAMix Optimizer: Better, Faster, Older", "paper_id": "arxiv:2409.03137", "year": "2024", "evidence_kind": "figure_or_table", "page_hint": "fig. 2, 3, 6, Tab. 2", "model_task_prompt": "Найти на Рис. 6 сравнение AdEMAMix и AdamW по скорости забывания (forgetting) и определить, на каком количестве токенов преимущество становится явным.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: The AdEMAMix Optimizer: Better, Faster, Older\nИдентификатор статьи: arxiv:2409.03137\nГод: 2024\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: fig. 2, 3, 6, Tab. 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНайти на Рис. 6 сравнение AdEMAMix и AdamW по скорости забывания (forgetting) и определить, на каком количестве токенов преимущество становится явным.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: The AdEMAMix Optimizer: Better, Faster, Older\nИдентификатор статьи: arxiv:2409.03137\nГод: 2024\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: fig. 2, 3, 6, Tab. 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНайти на Рис. 6 сравнение AdEMAMix и AdamW по скорости забывания (forgetting) и определить, на каком количестве токенов преимущество становится явным.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-002/rendered_page_0003.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-002/rendered_page_0021.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-002/rendered_page_0022.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-002/rendered_page_0031.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", "original_creator_prompt": "Найти на Рис. 6 сравнение AdEMAMix и AdamW по скорости забывания (forgetting) и определить, на каком количестве токенов преимущество становится явным.", "notes_available": false}} -{"sample_id": "task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Adaptive gradient optimization methods for training LLM", "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "AdaRankGrad: Adaptive Gradient-Rank and Moments for Memory-Efficient LLMs Training and Fine-Tuning", "paper_id": "arxiv:2410.17881", "year": "2024", "evidence_kind": "figure_or_table", "page_hint": "fig. 3, Tab. 2", "model_task_prompt": "Сравнить значения точности и потребления памяти GPU для GPT-2 из Таблицы 2 при full fine-tuning, LoRA и AdaRankGrad.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: AdaRankGrad: Adaptive Gradient-Rank and Moments for Memory-Efficient LLMs Training and Fine-Tuning\nИдентификатор статьи: arxiv:2410.17881\nГод: 2024\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: fig. 3, Tab. 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравнить значения точности и потреблен��я памяти GPU для GPT-2 из Таблицы 2 при full fine-tuning, LoRA и AdaRankGrad.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: AdaRankGrad: Adaptive Gradient-Rank and Moments for Memory-Efficient LLMs Training and Fine-Tuning\nИдентификатор статьи: arxiv:2410.17881\nГод: 2024\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: fig. 3, Tab. 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравнить значения точности и потребления памяти GPU для GPT-2 из Таблицы 2 при full fine-tuning, LoRA и AdaRankGrad.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-003/rendered_page_0008.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-003/rendered_page_0012.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-003/rendered_page_0013.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-003/rendered_page_0014.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", "original_creator_prompt": "Сравнить значения точности и потребления памяти GPU для GPT-2 из Таблицы 2 при full fine-tuning, LoRA и AdaRankGrad.", "notes_available": false}} -{"sample_id": "task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Adaptive gradient optimization methods for training LLM", "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "A Self-Attentive Meta-Optimizer with Group-Adaptive Learning Rates and Weight Decay", "paper_id": "arxiv:2605.04055", "year": "2026", "evidence_kind": "figure_or_table", "page_hint": "fig. 2, 3, Tab. 3, 4", "model_task_prompt": "Определить по Рис. 3, на какой задаче (языковое моделирование, машинный перевод, классификация) MetaAdamW показывает максимальное и минимальное ускорение сходимости относительно AdamW.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: A Self-Attentive Meta-Optimizer with Group-Adaptive Learning Rates and Weight Decay\nИдентификатор статьи: arxiv:2605.04055\nГод: 2026\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: fig. 2, 3, Tab. 3, 4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределить по Рис. 3, на какой задаче (языковое моделирование, машинный перевод, классификация) MetaAdamW показывает максимальное и минимальное ускорение сходимости относительно AdamW.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: A Self-Attentive Meta-Optimizer with Group-Adaptive Learning Rates and Weight Decay\nИдентификатор статьи: arxiv:2605.04055\nГод: 2026\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: fig. 2, 3, Tab. 3, 4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределить по Рис. 3, на какой задаче (языковое моделирование, машинный перевод, классификация) MetaAdamW показывает максимальное и минимальное ускорение сходимости относительно AdamW.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-004/rendered_page_0004.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-004/rendered_page_0006.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact", "overall"], "expected_error_modes": ["hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", "original_creator_prompt": "Определить по Рис. 3, на какой задаче (языковое моделирование, машинный перевод, классификация) MetaAdamW показывает максимальное и минимальное ускорение сходимости относительно AdamW.", "notes_available": false}} -{"sample_id": "task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Adaptive gradient optimization methods for training LLM", "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Adaptive Gradient Methods at the Edge of Stability", "paper_id": "arxiv:2404.01864", "year": "2024", "evidence_kind": "figure", "page_hint": "fig. 1, 3, 6, 7", "model_task_prompt": "Проанализировать Рис. 7 (SGD vs. Adam на CIFAR-10) и описать, как меняется ландшафт потерь (loss landscape) в процессе обучения у Adam.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Adaptive Gradient Methods at the Edge of Stability\nИдентификатор статьи: arxiv:2404.01864\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: fig. 1, 3, 6, 7\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nПроанализировать Рис. 7 (SGD vs. Adam на CIFAR-10) и описать, как меняется ландшафт потерь (loss landscape) в процессе обучения у Adam.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Adaptive Gradient Methods at the Edge of Stability\nИдентификатор статьи: arxiv:2404.01864\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: fig. 1, 3, 6, 7\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nПроанализировать Рис. 7 (SGD vs. Adam на CIFAR-10) и описать, как меняется ландшафт потерь (loss landscape) в процессе обучения у Adam.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-005/rendered_page_0009.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact", "temporal"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", "original_creator_prompt": "Проанализировать Рис. 7 (SGD vs. Adam на CIFAR-10) и описать, как меняется ландшафт потерь (loss landscape) в процессе обучения у Adam.", "notes_available": false}} -{"sample_id": "task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Adaptive gradient optimization methods for training LLM", "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "case_id": "CASE-006", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Revisiting the Initial Steps in Adaptive Gradient Descent Optimization", "paper_id": "arxiv:2412.00374", "year": "2024", "evidence_kind": "figure", "page_hint": "fig. 1, 2, 3", "model_task_prompt": "По Рис. 2 и 3 определить, как разная инициализация второго момента (data-driven vs random) в Adam влияет на стабильность потерь на ранних итерациях обучения Transformer.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Revisiting the Initial Steps in Adaptive Gradient Descent Optimization\nИдентификатор статьи: arxiv:2412.00374\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: fig. 1, 2, 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nПо Рис. 2 и 3 определить, как разная инициализация второго момента (data-driven vs random) в Adam влияет на стабильность потерь на ранних итерациях обучения Transformer.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Revisiting the Initial Steps in Adaptive Gradient Descent Optimization\nИдентификатор статьи: arxiv:2412.00374\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: fig. 1, 2, 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nПо Рис. 2 и 3 определить, как разная инициализация второго момента (data-driven vs random) в Adam влияет на стабильность потерь на ранних итерациях обучения Transformer.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-006/rendered_page_0001.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact", "temporal"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", "original_creator_prompt": "По Рис. 2 и 3 определить, как разная инициализация второго момента (data-driven vs random) в Adam влияет на стабильность потерь на ранних итерациях обучения Transformer.", "notes_available": false}} -{"sample_id": "task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Adaptive gradient optimization methods for training LLM", "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "case_id": "CASE-007", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Adaptive Gradient Methods at the Edge of Stability", "paper_id": "arxiv:2404.01714", "year": "2025", "evidence_kind": "figure", "page_hint": "Fig. 1, 2, 3, 4, 5, 6, 7, 8", "model_task_prompt": "Определить по совокупности рисунков 1–8, какие архитектуры и датасеты дают CG-like-Adam наибольшее преимущество перед Adam в точности и скорости сходимости", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Adaptive Gradient Methods at the Edge of Stability\nИдентификатор статьи: arxiv:2404.01714\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig. 1, 2, 3, 4, 5, 6, 7, 8\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределить по совокупности рисунков 1–8, какие архитектуры и датасеты дают CG-like-Adam наибольшее преимущество перед Adam в точности и скорости сходимости\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Adaptive Gradient Methods at the Edge of Stability\nИдентификатор статьи: arxiv:2404.01714\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig. 1, 2, 3, 4, 5, 6, 7, 8\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределить по совокупности рисунков 1–8, какие архитектуры и датасеты дают CG-like-Adam наибольшее преимущество перед Adam в точности и скорости сходимости\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-007/rendered_page_0008.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-007/rendered_page_0011.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-007/rendered_page_0012.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact", "temporal"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", "original_creator_prompt": "Определить по совокупности рисунков 1–8, какие архитектуры и датасеты дают CG-like-Adam наибольшее преимущество перед Adam в точности и скорости сходимости", "notes_available": false}} -{"sample_id": "task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Adaptive gradient optimization methods for training LLM", "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "case_id": "CASE-008", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Interpreting Adaptive Gradient Methods by Parameter Scaling for Learning-Rate-Free Optimization", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "Table 1, 2, Fig. 1", "model_task_prompt": "По рис. 1 объяснить, как меняется масштаб параметров (parameter scaling) в процессе обучения нейронной сети и как это связано с адаптивностью градиентного метода.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Interpreting Adaptive Gradient Methods by Parameter Scaling for Learning-Rate-Free Optimization\nИдентификатор статьи: \nГод: \nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Table 1, 2, Fig. 1\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПо рис. 1 объяснить, как меняется масштаб параметров (parameter scaling) в процессе обучения нейронной сети и как это связано с адаптивностью градиентного метода.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Interpreting Adaptive Gradient Methods by Parameter Scaling for Learning-Rate-Free Optimization\nИдентификатор статьи: \nГод: \nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Table 1, 2, Fig. 1\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПо рис. 1 объяснить, как меняется масштаб параметров (parameter scaling) в процессе обучения нейронной сети и как это связано с адаптивностью градиентного метода.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal"], "expected_error_modes": ["hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", "original_creator_prompt": "По рис. 1 объяснить, как меняется масштаб параметров (parameter scaling) в процессе обучения нейронной сети и как это связано с адаптивностью градиентного метода.", "notes_available": false}} -{"sample_id": "task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-009", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Adaptive gradient optimization methods for training LLM", "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "case_id": "CASE-009", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Towards Simple and Provable Parameter-Free Adaptive Gradient Methods", "paper_id": "arxiv:2412.19444", "year": "2024", "evidence_kind": "figure", "page_hint": "Fig. 1, 2", "model_task_prompt": "По рис. 1, 2 сравнить траектории нормы градиента у предложенных AdaGrad++ и Adam++ с их оригинальными версиями на задаче логистической регрессии и ResNet-18.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Towards Simple and Provable Parameter-Free Adaptive Gradient Methods\nИдентификатор статьи: arxiv:2412.19444\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig. 1, 2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПо рис. 1, 2 сравнить траектории нормы градиента у предложенных AdaGrad++ и Adam++ с их оригинальными версиями на задаче логистической регрессии и ResNet-18.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence нед��статочно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Towards Simple and Provable Parameter-Free Adaptive Gradient Methods\nИдентификатор статьи: arxiv:2412.19444\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig. 1, 2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПо рис. 1, 2 сравнить траектории нормы градиента у предложенных AdaGrad++ и Adam++ с их оригинальными версиями на задаче логистической регрессии и ResNet-18.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-009/rendered_page_0009.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-009/rendered_page_0010.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-009/rendered_page_0023.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-009/rendered_page_0026.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", "original_creator_prompt": "По рис. 1, 2 сравнить траектории нормы градиента у предложенных AdaGrad++ и Adam++ с их оригинальными версиями на задаче логистической регрессии и ResNet-18.", "notes_available": false}} -{"sample_id": "task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-010", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Adaptive gradient optimization methods for training LLM", "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "case_id": "CASE-010", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Can We Remove the Square-Root in Adaptive Gradient Methods? A Second-Order Perspective", "paper_id": "arxiv:2402.03496", "year": "2024", "evidence_kind": "figure_or_table", "page_hint": "Tab. 1, Fig.1, 2", "model_task_prompt": "В таблице 1 сравнить результаты AdamW и метода без квадратного корня (NoSqrt) на задаче LRA и объяснить, какая задача является исключением из общего правила.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Can We Remove the Square-Root in Adaptive Gradient Methods? A Second-Order Perspective\nИдентификатор статьи: arxiv:2402.03496\nГод: 2024\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Tab. 1, Fig.1, 2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nВ таблице 1 сравнить результаты AdamW и метода без квадратного корня (NoSqrt) на задаче LRA и объяснить, какая ��адача является исключением из общего правила.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Can We Remove the Square-Root in Adaptive Gradient Methods? A Second-Order Perspective\nИдентификатор статьи: arxiv:2402.03496\nГод: 2024\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Tab. 1, Fig.1, 2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nВ таблице 1 сравнить результаты AdamW и метода без квадратного корня (NoSqrt) на задаче LRA и объяснить, какая задача является исключением из общего правила.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-010/rendered_page_0002.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-010/rendered_page_0003.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-010/rendered_page_0027.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-010/rendered_page_0028.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence"], "expected_error_modes": ["wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", "original_creator_prompt": "В таблице 1 сравнить результаты AdamW и метода без квадратного корня (NoSqrt) на задаче LRA и объяснить, какая задача является исключением из общего правила.", "notes_available": false}} -{"sample_id": "task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Adaptive gradient optimization methods for training LLM", "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "case_id": "CASE-011", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "Optimization Methods in Deep Learning: A Comprehensive Overview", "paper_id": "arxiv:2305.16432", "year": "2023", "evidence_kind": "figure_or_table", "page_hint": "Tab. 1,2, Fig. 2, 5", "model_task_prompt": "Найти в таблицах 1 и 2 все упомянутые методы оптимизации и сгруппировать их по категориям (адаптивные и неадаптивные).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Optimization Methods in Deep Learning: A Comprehensive Overview\nИдентификатор статьи: arxiv:2305.16432\nГод: 2023\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Tab. 1,2, Fig. 2, 5\nСлой сложности: easy_control\n\nАдаптированная задача:\nНайти в таблицах 1 и 2 все упомянутые методы оптимизации и сгруппировать их по категориям (адаптивные и неадаптивные).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Optimization Methods in Deep Learning: A Comprehensive Overview\nИдентификатор статьи: arxiv:2305.16432\nГод: 2023\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Tab. 1,2, Fig. 2, 5\nСлой сложности: easy_control\n\nАдаптированная задача:\nНайти в таблицах 1 и 2 все упомянутые методы оптимизации и сгруппировать их по категориям (адаптивные и неадаптивные).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, ла��и или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-011/rendered_page_0006.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-011/rendered_page_0011.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-011/rendered_page_0012.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-011/rendered_page_0013.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", "original_creator_prompt": "Найти в таблицах 1 и 2 все упомянутые методы оптимизации и сгруппировать их по категориям (адаптивные и неадаптивные).", "notes_available": false}} -{"sample_id": "task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Adaptive gradient optimization methods for training LLM", "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "case_id": "CASE-012", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "A Survey of Advanced Gradient Methods in Machine Learning", "paper_id": "arxiv:2412.04032", "year": "2024", "evidence_kind": "figure", "page_hint": "Fig. 1", "model_task_prompt": "По схематичному рис. 1 перечислить ключевые этапы эволюции градиентных методов, затронутые в обзоре.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: A Survey of Advanced Gradient Methods in Machine Learning\nИдентификатор статьи: arxiv:2412.04032\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig. 1\nСлой сложности: easy_control\n\nАдаптированная задача:\nПо схематичному рис. 1 перечислить ключевые этапы эволюции градиентных методов, затронутые в обзоре.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: A Survey of Advanced Gradient Methods in Machine Learning\nИдентификатор статьи: arxiv:2412.04032\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig. 1\nСлой сложности: easy_control\n\nАдаптированная задача:\nПо схематичному рис. 1 перечислить ключевые этапы эволюции градиентных методов, затронутые в обзоре.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-012/rendered_page_0009.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-012/rendered_page_0010.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", "original_creator_prompt": "По схематичному рис. 1 перечислить ключевые этапы эволюции градиентных методов, затронутые в обзоре.", "notes_available": false}} -{"sample_id": "task3:598d6ea6b4:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optical Superscattering", "submission_id": "рябков-евгении-юрьевич__598d6ea6b4", "creator_id": "Рябков Евгений Юрьевич", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Superscattering emerging from the physics of bound states in the continuum", "paper_id": "10.1038/s41467-023-40382-y", "year": "2023", "evidence_kind": "figure_or_table", "page_hint": "p.6, Fig. 4", "model_task_prompt": "Извлеките информацию о super-dipole из картинки и понимает важность этого явления..", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optical Superscattering\nСтатья: Superscattering emerging from the physics of bound states in the continuum\nИдентификатор статьи: 10.1038/s41467-023-40382-y\nГод: 2023\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.6, Fig. 4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките информацию о super-dipole из картинки и понимает важность этого явления..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optical Superscattering\nСтатья: Superscattering emerging from the physics of bound states in the continuum\nИдентификатор статьи: 10.1038/s41467-023-40382-y\nГод: 2023\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.6, Fig. 4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките информацию о super-dipole из картинки и понимает важность этого явления..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0012_riabkov_evgenii_iur_evich__task3_ab_case_manifest.filled_Ryabkov - Evgeny Ryabkov.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает информацию о super-dipole из картинки и понимает важность этого явления.", "notes_available": false}} -{"sample_id": "task3:598d6ea6b4:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optical Superscattering", "submission_id": "рябков-евгении-юрьевич__598d6ea6b4", "creator_id": "Рябков Евгений Юрьевич", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Superscattering emerging from the physics of bound states in the continuum", "paper_id": "10.1038/s41467-023-40382-y", "year": "2023", "evidence_kind": "figure_or_table", "page_hint": "p.8, Fig.6", "model_task_prompt": "Извлеките информацию о дизайне системы из картинки и понимает техническую составляющую эффекта.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optical Superscattering\nСтатья: Superscattering emerging from the physics of bound states in the continuum\nИдентификатор статьи: 10.1038/s41467-023-40382-y\nГод: 2023\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.8, Fig.6\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките информацию о дизайне системы из картинки и понимает техническую составляющую эффекта.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключ��ми:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optical Superscattering\nСтатья: Superscattering emerging from the physics of bound states in the continuum\nИдентификатор статьи: 10.1038/s41467-023-40382-y\nГод: 2023\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.8, Fig.6\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките информацию о дизайне системы из картинки и понимает техническую составляющую эффекта.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0012_riabkov_evgenii_iur_evich__task3_ab_case_manifest.filled_Ryabkov - Evgeny Ryabkov.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает информацию о дизайне системы из картинки и понимает техническую составляющую эффекта", "notes_available": false}} -{"sample_id": "task3:598d6ea6b4:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optical Superscattering", "submission_id": "рябков-евгении-юрьевич__598d6ea6b4", "creator_id": "Рябков Евгений Юрьевич", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Superscattering emerging from the physics of bound states in the continuum", "paper_id": "10.1038/s41467-023-40382-y", "year": "2023", "evidence_kind": "figure_or_table", "page_hint": "p.9, Fig.7", "model_task_prompt": "Извлеките информацию об экспериментальном достижении superscattering и соответствующих параметрах.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optical Superscattering\nСтатья: Superscattering emerging from the physics of bound states in the continuum\nИдентификатор статьи: 10.1038/s41467-023-40382-y\nГод: 2023\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.9, Fig.7\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките информацию об экспериментальном достижении superscattering и соответствующих параметрах.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optical Superscattering\nСтатья: Superscattering emerging from the physics of bound states in the continuum\nИдентификатор статьи: 10.1038/s41467-023-40382-y\nГод: 2023\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.9, Fig.7\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките информацию об экспериментальном достижении superscattering и соответствующих параметрах.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0012_riabkov_evgenii_iur_evich__task3_ab_case_manifest.filled_Ryabkov - Evgeny Ryabkov.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает информацию об экспериментальном достижении superscattering и соответствующих параметрах", "notes_available": false}} -{"sample_id": "task3:598d6ea6b4:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optical Superscattering", "submission_id": "рябков-евгении-юрьевич__598d6ea6b4", "creator_id": "Рябков Евгений Юрьевич", "case_id": "CASE-008", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Experimental Observation of Superscattering", "paper_id": "arXiv:1812.05599", "year": "2019", "evidence_kind": "page", "page_hint": "p.1, p.2", "model_task_prompt": "Сравните, какой вариант лучше понимает проблематику достижения данного эффекта и важность его нынешней реализации", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optical Superscattering\nСтатья: Experimental Observation of Superscattering\nИдентификатор статьи: arXiv:1812.05599\nГод: 2019\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.1, p.2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше понимает проблематику достижения данного эффекта и важность его нынешней реализации\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optical Superscattering\nСтатья: Experimental Observation of Superscattering\nИдентификатор статьи: arXiv:1812.05599\nГод: 2019\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.1, p.2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше понимает проблематику достижения данного эффекта и важность его нынешней реализации\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/598d6ea6b4/case-008/rendered_page_0001.png", "assets/images/598d6ea6b4/case-008/rendered_page_0002.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0012_riabkov_evgenii_iur_evich__task3_ab_case_manifest.filled_Ryabkov - Evgeny Ryabkov.json", "original_creator_prompt": "Сравните, какой вариант лучше понимает проблематику достижения данного эффекта и важность его нынешней реализации", "notes_available": false}} -{"sample_id": "task3:598d6ea6b4:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optical Superscattering", "submission_id": "рябков-евгении-юрьевич__598d6ea6b4", "creator_id": "Рябков Евгений Юрьевич", "case_id": "CASE-011", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "Experimental Observation of Superscattering", "paper_id": "arXiv:1812.05599", "year": "2019", "evidence_kind": "page", "page_hint": "p.1", "model_task_prompt": "Оценить, распознала ли модель, что ранее данный эффект не наблюдался экспериментально", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optical Superscattering\nСтатья: Experimental Observation of Superscattering\nИдентификатор статьи: arXiv:1812.05599\nГод: 2019\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.1\nСлой сложности: easy_control\n\nАдаптированная задача:\nОценить, распознала ли модель, что ранее данный эффект не наблюдался экспериментально\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optical Superscattering\nСтатья: Experimental Observation of Superscattering\nИдентификатор статьи: arXiv:1812.05599\nГод: 2019\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.1\nСлой сложности: easy_control\n\nАдаптированная задача:\nОценить, распознала ли модель, что ранее данный эффект не наблюдался экспериментально\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/598d6ea6b4/case-011/rendered_page_0001.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0012_riabkov_evgenii_iur_evich__task3_ab_case_manifest.filled_Ryabkov - Evgeny Ryabkov.json", "original_creator_prompt": "Оценить, распознала ли модель, что ранее данный эффект не наблюдался экспериментально", "notes_available": false}} -{"sample_id": "task3:598d6ea6b4:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optical Superscattering", "submission_id": "рябков-евгении-юрьевич__598d6ea6b4", "creator_id": "Рябков Евгений Юрьевич", "case_id": "CASE-012", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Superscattering pattern shaping for radially anisotropic nanowires", "paper_id": "arXiv:1704.07994", "year": "2017", "evidence_kind": "figure_or_table", "page_hint": "p.2, Fig.1, p.5, Fig.5", "model_task_prompt": "Сравните, распознают ли варианты то, что работа исключительно теоретическая и эффект экспериментально не наблюдался", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optical Superscattering\nСтатья: Superscattering pattern shaping for radially anisotropic nanowires\nИдентификатор статьи: arXiv:1704.07994\nГод: 2017\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.2, Fig.1, p.5, Fig.5\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, распознают ли варианты то, что работа исключительно теоретическая и эффект экспериментально не наблюдался\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optical Superscattering\nСтатья: Superscattering pattern shaping for radially anisotropic nanowires\nИдентификатор статьи: arXiv:1704.07994\nГод: 2017\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.2, Fig.1, p.5, Fig.5\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, распознают ли варианты то, что работа исключительно теоретическая и эффект экспериментально не наблюдался\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/598d6ea6b4/case-012/rendered_page_0002.png", "assets/images/598d6ea6b4/case-012/rendered_page_0005.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence", "visual_fact", "overall"], "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0012_riabkov_evgenii_iur_evich__task3_ab_case_manifest.filled_Ryabkov - Evgeny Ryabkov.json", "original_creator_prompt": "Сравните, распознают ли варианты то, что работа исключительно теоретическая и эффект экспериментально не наблюдался", "notes_available": false}} -{"sample_id": "task3:168bdb55d7:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "composite impact modeling", "submission_id": "Мстислав-Кудряшов-Александрович__168bdb55d7", "creator_id": "Мстислав Кудряшов Александрович", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Fatigue Failure Criteria for Unidirectional Fiber Composites", "paper_id": "https://doi.org/10.1115/1.3157744", "year": "1981", "evidence_kind": "formula", "page_hint": "p.4 formula 18; p5 formula 20,22", "model_task_prompt": "сравните, какой вариант корректно определяет формулы в работе. Особенно интерес представляет корректность формул с критериями разрушения", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: composite impact modeling\nСтатья: Fatigue Failure Criteria for Unidirectional Fiber Composites\nИдентификатор статьи: https://doi.org/10.1115/1.3157744\nГод: 1981\nТип evidence: formula\nПодсказка по странице/рисунку/таблице: p.4 formula 18; p5 formula 20,22\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nсравните, какой вариант корректно определяет формулы в работе. Особенно интерес представляет корректность формул с критериями разрушения\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: composite impact modeling\nСтатья: Fatigue Failure Criteria for Unidirectional Fiber Composites\nИдентификатор статьи: https://doi.org/10.1115/1.3157744\nГод: 1981\nТип evidence: formula\nПодсказка по странице/рисунку/таблице: p.4 formula 18; p5 formula 20,22\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nсравните, какой вариант корректно определяет формулы в работе. Особенно интерес представляет корректность формул с критериями разрушения\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact", "overall"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0013_kudriashov_mstislav_aleksandrovich__task3_ab_case_manifest.filled - Мстислав.json", "original_creator_prompt": "сравните, какой вариант корректно определяет формулы в работе. Особенно интерес представляет корректность формул с критериями разрушения", "notes_available": false}} -{"sample_id": "task3:ca35bd9ad6:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications", "paper_id": "10.3390/electronics11152468", "year": "2022", "evidence_kind": "figure", "page_hint": "p.3, Fig. 1", "model_task_prompt": "Сравните, какая модель лучше распознает пространственное расположение волоконного усилителя на 3D-модели EDFA и точно извлекает габариты из подписи.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications\nИдентификатор статьи: 10.3390/electronics11152468\nГод: 2022\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig. 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какая модель лучше распознает пространственное расположение волоконного усилителя на 3D-модели EDFA и точно извлекает габариты из подписи.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications\nИдентификатор статьи: 10.3390/electronics11152468\nГод: 2022\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig. 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какая модель лучше распознает пространственное расположение волоконного усилителя на 3D-модели EDFA и точно извлекает габариты из подписи.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact", "evidence"], "expected_error_modes": ["wrong_evidence_linkage", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", "original_creator_prompt": "Сравните, какая модель лучше распознает пространственное расположение волоконного усилителя на 3D-модели EDFA и точно извлекает габариты из подписи.", "notes_available": false}} -{"sample_id": "task3:ca35bd9ad6:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications", "paper_id": "10.3390/electronics11152468", "year": "2022", "evidence_kind": "figure_or_table", "page_hint": "p.12, Fig. 10", "model_task_prompt": "Оцените, какая модель точнее извлекает значения коэффициента усиления в зависимости от входной мощности по графику, не путая между собой кривые для разных температур.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications\nИдентификатор статьи: 10.3390/electronics11152468\nГод: 2022\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.12, Fig. 10\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОцените, какая модель точнее извлекает значения коэффициента усиления в зависимости от входной мощности по графику, не путая между собой кривые для разных температур.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications\nИдентификатор статьи: 10.3390/electronics11152468\nГод: 2022\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.12, Fig. 10\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОцените, какая модель точнее извлекает значения коэффициента усиления в зависимости от входной мощности по графику, не путая между собой кривые для разных температур.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", "original_creator_prompt": "Оцените, какая модель точнее извлекает значения коэффициента усиления в зависимости от входной мощности по графику, не путая между собой кривые для разных температур.", "notes_available": false}} -{"sample_id": "task3:ca35bd9ad6:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "case_id": "CASE-003", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications", "paper_id": "10.3390/electronics11152468", "year": "2022", "evidence_kind": "mixed", "page_hint": "p.15, Fig. 14", "model_task_prompt": "Проверьте, какая модель корректно связывает просадки оптической мощности с конкретными временными фазами температурного цикла (нагрев/охлаждение) на графике испытаний TVAC.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications\nИдентификатор статьи: 10.3390/electronics11152468\nГод: 2022\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.15, Fig. 14\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПроверьте, какая модель корректно связывает просадки оптической мощности с конкретными временными фазами температурного цикла (нагрев/охлаждение) на графике испытаний TVAC.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications\nИдентификатор статьи: 10.3390/electronics11152468\nГод: 2022\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.15, Fig. 14\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПроверьте, какая модель корректно связывает просадки оптической мощности с конкретными временными фазами температурного цикла (нагрев/охлаждение) на графике испытаний TVAC.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "visual_fact"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", "original_creator_prompt": "Проверьте, какая модель корректно связывает просадки оптической мощности с конкретными временными фазами температурного цикла (нагрев/охлаждение) на графике испытаний TVAC.", "notes_available": false}} -{"sample_id": "task3:ca35bd9ad6:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Payload Configuration Integration and Testing of the DeMi CubeSat", "paper_id": "SSC18-XI-02", "year": "2018", "evidence_kind": "figure", "page_hint": "p.4, Fig. 3", "model_task_prompt": "Сравните, какая модель корректно прослеживает оптический путь луча от калибровочного лазерного диода до Shack-Hartmann датчика (SHWFS), не смешивая его с путем света от внешней апертуры.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Payload Configuration Integration and Testing of the DeMi CubeSat\nИдентификатор статьи: SSC18-XI-02\nГод: 2018\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.4, Fig. 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какая модель корректно прослеживает оптический путь луча от калибровочного лазерного диода до Shack-Hartmann датчика (SHWFS), не смешивая его с путем света от внешней апертуры.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Payload Configuration Integration and Testing of the DeMi CubeSat\nИдентификатор статьи: SSC18-XI-02\nГод: 2018\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.4, Fig. 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какая модель корректно прослеживает оптический путь луча от калибровочного лазерного диода до Shack-Hartmann датчика (SHWFS), не смешивая его с путем света от внешней апертуры.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", "original_creator_prompt": "Сравните, какая модель корректно прослеживает оптический путь луча от калибровочного лазерного диода до Shack-Hartmann датчика (SHWFS), не смешивая его с путем света от внешней апертуры.", "notes_available": false}} -{"sample_id": "task3:ca35bd9ad6:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Payload Configuration Integration and Testing of the DeMi CubeSat", "paper_id": "SSC18-XI-02", "year": "2018", "evidence_kind": "figure", "page_hint": "p.5, Fig. 5", "model_task_prompt": "Определите, какая модель может визуально идентифицировать геометрию сетки актуаторов MEMS-зеркала, верно связав её с физическим шагом (pitch) между актуаторами из подписи.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Payload Configuration Integration and Testing of the DeMi CubeSat\nИдентификатор статьи: SSC18-XI-02\nГод: 2018\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.5, Fig. 5\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределите, какая модель может визуально идентифицировать геометрию сетки актуаторов MEMS-зеркала, верно связав её с физическим шагом (pitch) между актуаторами из подписи.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Payload Configuration Integration and Testing of the DeMi CubeSat\nИдентификатор статьи: SSC18-XI-02\nГод: 2018\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.5, Fig. 5\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределите, какая модель может визуально идентифицировать геометрию сетки актуаторов MEMS-зеркала, верно связав её с физическим шагом (pitch) между акт��аторами из подписи.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact"], "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", "original_creator_prompt": "Определите, какая модель может визуально идентифицировать геометрию сетки актуаторов MEMS-зеркала, верно связав её с физическим шагом (pitch) между актуаторами из подписи.", "notes_available": false}} -{"sample_id": "task3:ca35bd9ad6:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "case_id": "CASE-006", "stratum": "easy_control", "primary_endpoint": true, "paper_title": "Payload Configuration Integration and Testing of the DeMi CubeSat", "paper_id": "SSC18-XI-02", "year": "2018", "evidence_kind": "page", "page_hint": "p.2, Text section", "model_task_prompt": "Проверьте, корректно ли модель извлекает требования к точности измерения волнового фронта (12 нм) из обычного абзаца текста (Payload Requirements).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Payload Configuration Integration and Testing of the DeMi CubeSat\nИдентификатор статьи: SSC18-XI-02\nГод: 2018\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.2, Text section\nСлой сложности: easy_control\n\nАдаптированная задача:\nПроверьте, корректно ли модель извлекает требования к точности измерения волнового фронта (12 нм) из обычного абзаца текста (Payload Requirements).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Payload Configuration Integration and Testing of the DeMi CubeSat\nИдентификатор статьи: SSC18-XI-02\nГод: 2018\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.2, Text section\nСлой сложности: easy_control\n\nАдаптированная задача:\nПроверьте, корректно ли модель извлекает требования к точности измерения волнового фронта (12 нм) из обычного абзаца текста (Payload Requirements).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", "original_creator_prompt": "Проверьте, корректно ли модель извлекает требования к точности измерения волнового фронта (12 нм) из обычного абзаца текста (Payload Requirements).", "notes_available": false}} -{"sample_id": "task3:ca35bd9ad6:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "case_id": "CASE-007", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission", "paper_id": "SSC19-VI-02", "year": "2019", "evidence_kind": "table", "page_hint": "p.8, Table 4", "model_task_prompt": "Какая модель точнее извлекает значения бюджета канала для кросс-линка на дистанции 580 км, корректно обрабатывая структуру таблицы и не путая колонки с потерями (pointing loss) и запасом (link margin)?", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission\nИдентификатор статьи: SSC19-VI-02\nГод: 2019\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.8, Table 4\nСлой с��ожности: multimodal_hard\n\nАдаптированная задача:\nКакая модель точнее извлекает значения бюджета канала для кросс-линка на дистанции 580 км, корректно обрабатывая структуру таблицы и не путая колонки с потерями (pointing loss) и запасом (link margin)?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission\nИдентификатор статьи: SSC19-VI-02\nГод: 2019\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.8, Table 4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nКакая модель точнее извлекает значения бюджета канала для кросс-линка на дистанции 580 км, корректно обрабатывая структуру таблицы и не путая колонки с потерями (pointing loss) и запасом (link margin)?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", "original_creator_prompt": "Какая модель точнее извлекает значения бюджета канала для кросс-линка на дистанции 580 км, корректно обрабатывая структуру таблицы и не путая колонки с потерями (pointing loss) и запасом (link margin)?", "notes_available": false}} -{"sample_id": "task3:ca35bd9ad6:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "case_id": "CASE-008", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission", "paper_id": "SSC19-VI-02", "year": "2019", "evidence_kind": "figure", "page_hint": "p.6, Fig. 6", "model_task_prompt": "Оцените, какая модель верно распознает способ разделения передающего и принимающего путей на оптической схеме трансивера (напр. использование дихроичных зеркал для длин волн 1537 нм и 1563 нм)", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission\nИдентификатор статьи: SSC19-VI-02\nГод: 2019\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.6, Fig. 6\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОцените, какая модель верно распознает способ разделения передающего и принимающего путей на оптической схеме трансивера (напр. использование дихроичных зеркал для длин волн 1537 нм и 1563 нм)\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission\nИдентификатор статьи: SSC19-VI-02\nГод: 2019\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.6, Fig. 6\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОцените, какая модель верно распознает способ разделения передающего и принимающего путей на оптической схеме трансивера (напр. использование дихроичных зеркал для длин волн 1537 нм и 1563 нм)\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact"], "expected_error_modes": ["hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", "original_creator_prompt": "Оцените, какая модель верно распознает способ разделения передающего и принимающего путей на оптической схеме трансивера (напр. использование дихроичных зеркал для длин волн 1537 нм и 1563 нм)", "notes_available": false}} -{"sample_id": "task3:ca35bd9ad6:case-009", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "case_id": "CASE-009", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission", "paper_id": "SSC19-VI-02", "year": "2019", "evidence_kind": "figure", "page_hint": "p.10, Fig. 11", "model_task_prompt": "Проверьте, какая модель точнее описывает процесс схождения (convergence) ошибки наведения во времени, корректно определяя временной интервал до стабилизации (settling time) в замкнутом цикле.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission\nИдентификатор статьи: SSC19-VI-02\nГод: 2019\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.10, Fig. 11\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПроверьте, какая модель точнее описывает процесс схождения (convergence) ошибки наведения во времени, корректно определяя временной интервал до стабилизации (settling time) в замкнутом цикле.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission\nИдентификатор статьи: SSC19-VI-02\nГод: 2019\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.10, Fig. 11\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПроверьте, какая модель точнее описывает процесс схождения (convergence) ошибки наведения во времени, корректно определяя временной интервал до стабилизации (settling time) в замкнутом цикле.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "visual_fact"], "expected_error_modes": ["needs_time_fix", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", "original_creator_prompt": "Проверьте, какая модель точнее описывает процесс схождения (convergence) ошибки наведения во времени, корректно определяя временной интервал до стабилизации (settling time) в замкнутом цикле.", "notes_available": false}} -{"sample_id": "task3:ca35bd9ad6:case-010", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "case_id": "CASE-010", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal", "paper_id": "10.3390/aerospace12080655", "year": "2025", "evidence_kind": "figure_or_table", "page_hint": "p.5, Fig. 2", "model_task_prompt": "Сравните, какая модель правильно соотносит цветные лучи (Tx и Rx пути) с их описанием в подписи и безошибочно локализует позицию FSM (Fast Steering Mirror) в плоскости оптического зрачка.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal \nИдентификатор статьи: 10.3390/aerospace12080655\nГод: 2025\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.5, Fig. 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какая модель правильно соотносит цветные лучи (Tx и Rx пути) с их описанием в подписи и безошибочно локализует позицию FSM (Fast Steering Mirror) в плоскости оптического зрачка.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal \nИдентификатор статьи: 10.3390/aerospace12080655\nГод: 2025\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.5, Fig. 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какая модель правильно соотносит цветные лучи (Tx и Rx пути) с их описанием в подписи и безошибочно локализует позицию FSM (Fast Steering Mirror) в плоскости оптического зрачка.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", "original_creator_prompt": "Сравните, какая модель правильно соотносит цветные лучи (Tx и Rx пути) с их описанием в подписи и безошибочно локализует позицию FSM (Fast Steering Mirror) в плоскости оптического зрачка.", "notes_available": false}} -{"sample_id": "task3:ca35bd9ad6:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "case_id": "CASE-011", "stratum": "temporal_hard", "primary_endpoint": false, "paper_title": "OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal", "paper_id": "10.3390/aerospace12080655", "year": "2025", "evidence_kind": "mixed", "page_hint": "p.8, Fig. 6", "model_task_prompt": "Какая модель лучше выводит логическую связь между паразитной индуктивностью (LTRACE) схемы и её влиянием на временные характеристики (скорость нарастания импульса/задержку) при высокой скорости модуляции диода?", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal \nИдентификатор статьи: 10.3390/aerospace12080655\nГод: 2025\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.8, Fig. 6\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nКакая модель лучше выводит логическую связь между паразитной индуктивностью (LTRACE) схемы и её влиянием на временные характеристики (скорость нарастания импульса/задержку) при высокой скорости модуляции диода?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal \nИдентификатор статьи: 10.3390/aerospace12080655\nГод: 2025\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.8, Fig. 6\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nКакая модель лучше выводит логическую связь между паразитной индуктивностью (LTRACE) схемы и её влиянием на временные характеристики (скорость нарастания импульса/задержку) при высокой скорости модуляции диода?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", "original_creator_prompt": "Какая модель лучше выводит логическую связь между паразитной индуктивностью (LTRACE) схемы и её влиянием на временные характеристики (скорость нарастания импульса/задержку) при высокой скорости модуляции диода?", "notes_available": false}} -{"sample_id": "task3:ca35bd9ad6:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "case_id": "CASE-012", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal", "paper_id": "10.3390/aerospace12080655", "year": "2025", "evidence_kind": "page", "page_hint": "p.7, Text section", "model_task_prompt": "Оцените, способна ли модель извлечь базовое описание процедуры лабораторной характеризации чувствительности приемника из текста до его интеграции.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal \nИдентификатор статьи: 10.3390/aerospace12080655\nГод: 2025\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.7, Text section\nСлой сложности: easy_control\n\nАдаптированная задача:\nОцените, способна ли модель извлечь базовое описание процедуры лабораторной характеризации чувствительности приемника из текста до его интеграции.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal \nИдентификатор статьи: 10.3390/aerospace12080655\nГод: 2025\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.7, Text section\nСлой сложности: easy_control\n\nАдаптированная задача:\nОцените, способна ли модель извлечь базовое описание процедуры лабораторной характеризации чувствительности приемника из текста до его интеграции.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", "original_creator_prompt": "Оцените, способна ли модель извлечь базовое описание процедуры лабораторной характеризации чувствительности приемника из текста до его интеграции.", "notes_available": false}} -{"sample_id": "task3:998d6715e8:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Vision-Language Models for GUI agents and automated UI testing", "submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "UI-TARS: Pioneering Automated GUI Interaction with Native Agents", "paper_id": "arXiv:2501.12326", "year": "2025", "evidence_kind": "figure", "page_hint": "p. 27, Figure 8", "model_task_prompt": "Сравните, какой вариант точнее извлекает численные значения с bar chart AndroidWorld в Figure 8: scores для моделей UI-TARS-7B и UI-TARS-72B в режимах System-1 и System-2 при Bo1. Оцените, не галлюцинирует ли вариант числа и корректно ли привязывает каждое значение к соответствующей модели и режиму", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: UI-TARS: Pioneering Automated GUI Interaction with Native Agents\nИдентификатор статьи: arXiv:2501.12326\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p. 27, Figure 8\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает численные значения с bar chart AndroidWorld в Figure 8: scores для моделей UI-TARS-7B и UI-TARS-72B в режимах System-1 и System-2 при Bo1. Оцените, не галлюцинирует ли вариант числа и корректно ли привязывает каждое значение к соответствующей модели и режиму\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: UI-TARS: Pioneering Automated GUI Interaction with Native Agents\nИдентификатор статьи: arXiv:2501.12326\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p. 27, Figure 8\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает численные значения с bar chart AndroidWorld в Figure 8: scores для моделей UI-TARS-7B и UI-TARS-72B в режимах System-1 и System-2 при Bo1. Оцените, не галлюцинирует ли вариант числа и корректно ли привязывает каждое значение к соответствующей модели и режиму\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/998d6715e8/case-001/rendered_page_0027.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact", "evidence"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", "original_creator_prompt": "Сравните, какой вариант точнее извлекает численные значения с bar chart AndroidWorld в Figure 8: scores для моделей UI-TARS-7B и UI-TARS-72B в режимах System-1 и System-2 при Bo1. Оцените, не галлюцинирует ли вариант числа и корректно ли привязывает каждое значение к соответствующей модели и режиму", "notes_available": false}} -{"sample_id": "task3:998d6715e8:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Vision-Language Models for GUI agents and automated UI testing", "submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "CogAgent: A Visual Language Model for GUI Agents", "paper_id": "arXiv:2312.08914", "year": "2023", "evidence_kind": "figure", "page_hint": "p.8, Figure 3", "model_task_prompt": "Сравните, какой вариант точнее извлекает из Figure 3 численные значения TFLOPs для архитектуры с cross-module при всех четырёх разрешениях (224, 490, 756, 1120), и насколько корректно оценивает реальную степень линейности этой зависимости.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: CogAgent: A Visual Language Model for GUI Agents\nИдентификатор статьи: arXiv:2312.08914\nГод: 2023\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.8, Figure 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает из Figure 3 численные значения TFLOPs для архитектуры с cross-module при всех четырёх разрешениях (224, 490, 756, 1120), и насколько корректно оценивает реальную степень линейности этой зависимости.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: CogAgent: A Visual Language Model for GUI Agents\nИдентификатор статьи: arXiv:2312.08914\nГод: 2023\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.8, Figure 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает из Figure 3 численные значения TFLOPs для архитектуры с cross-module при всех четырёх разрешениях (224, 490, 756, 1120), и насколько корректно оценивает реальную степень линейности этой зависимости.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/998d6715e8/case-002/rendered_page_0008.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", "original_creator_prompt": "Сравните, какой вариант точнее извлекает из Figure 3 численные значения TFLOPs для архитектуры с cross-module при всех четырёх разрешениях (224, 490, 756, 1120), и насколько корректно оценивает реальную степень линейности этой зависимости.", "notes_available": false}} -{"sample_id": "task3:998d6715e8:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Vision-Language Models for GUI agents and automated UI testing", "submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "SeeClick: Harnessing GUI Grounding for Advanced Visual GUI Agents", "paper_id": "arXiv:2401.10935", "year": "2024", "evidence_kind": "table", "page_hint": "p. 9317, Table 1", "model_task_prompt": "Сравните, какой вариант точнее извлекает, Опираясь на Table 1, точные численные значения точности (в процентах) для моделей SeeClick и CogAgent строго в категории «Mobile Icon/Widget», а также их размеры (Model Size) в миллиардах параметров.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: SeeClick: Harnessing GUI Grounding for Advanced Visual GUI Agents\nИдентификатор статьи: arXiv:2401.10935\nГод: 2024\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p. 9317, Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает, Опираясь на Table 1, точные численные значения точности (в процентах) для моделей SeeClick и CogAgent строго в категории «Mobile Icon/Widget», а также их размеры (Model Size) в миллиардах параметров.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: SeeClick: Harnessing GUI Grounding for Advanced Visual GUI Agents\nИдентификатор статьи: arXiv:2401.10935\nГод: 2024\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p. 9317, Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает, Опираясь на Table 1, точные численные значения точности (в процентах) для моделей SeeClick и CogAgent строго в категории «Mobile Icon/Widget», а также их размеры (Model Size) в миллиардах параметров.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/998d6715e8/case-003/rendered_page_0005.png", "assets/images/998d6715e8/case-003/rendered_page_0006.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact", "evidence"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", "original_creator_prompt": "Сравните, какой вариант точнее извлекает, Опираясь на Table 1, точные численные значения \nточности (в процентах) для моделей SeeClick и CogAgent \nстрого в категории «Mobile Icon/Widget», а также их \nразмеры (Model Size) в миллиардах параметров.", "notes_available": false}} -{"sample_id": "task3:998d6715e8:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Vision-Language Models for GUI agents and automated UI testing", "submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Vision-driven Automated Mobile GUI Testing via Multimodal Large Language Model", "paper_id": "arXiv:2407.03037", "year": "2024", "evidence_kind": "table", "page_hint": "p. 9, Table I", "model_task_prompt": "Сравните, какой вариант точнее извлекает, используя Table I, значения Precision (P) и Recall (R) для метода Odin строго на датасете «Bug injection data» . Также приведите соответствующие значения P и R для VisionDroid на этом же датасете и укажите абсолютную разницу между ними", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: Vision-driven Automated Mobile GUI Testing via Multimodal Large Language Model\nИдентификатор статьи: arXiv:2407.03037\nГод: 2024\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p. 9, Table I\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает, используя Table I, значения Precision (P) и Recall (R) для метода Odin строго на датасете «Bug injection data» . Также приведите соответствующие значения P и R для VisionDroid на этом же датасете и укажите абсолютную разницу между ними\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: Vision-driven Automated Mobile GUI Testing via Multimodal Large Language Model\nИдентификатор статьи: arXiv:2407.03037\nГод: 2024\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p. 9, Table I\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает, используя Table I, значения Precision (P) и Recall (R) для метода Odin строго на датасете «Bug injection data» . Также приведите соответствующие значения P и R для VisionDroid на этом же датасете и укажите абсолютную разницу между ними\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/998d6715e8/case-004/rendered_page_0009.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", "original_creator_prompt": "Сравните, какой вариант точнее извлекает, используя Table I, значения Precision (P) и Recall (R) для метода Odin строго на датасете «Bug injection data» . Также приведите соответствующие значения P и R для VisionDroid на этом же датасете и укажите абсолютную разницу между ними", "notes_available": false}} -{"sample_id": "task3:998d6715e8:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Vision-Language Models for GUI agents and automated UI testing", "submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "VLM-Fuzz: Vision Language Model Assisted Recursive Depth-first Search Exploration for Effective UI Testing of Android Apps", "paper_id": "arXiv:2504.11675", "year": "2025", "evidence_kind": "mixed", "page_hint": "p.18, Fig. 9", "model_task_prompt": "Сравните, какой вариант точнее извлекает из встроенной таблицы на Fig. 9 точное значение p-value для сравнения Line coverage между методами VLM-Fuzz и DeepGUI.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: VLM-Fuzz: Vision Language Model Assisted Recursive Depth-first Search Exploration for Effective UI Testing of Android Apps\nИдентификатор статьи: arXiv:2504.11675\nГод: 2025\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.18, Fig. 9\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает из встроенной таблицы на Fig. 9 точное значение p-value для сравнения Line coverage между методами VLM-Fuzz и DeepGUI.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: VLM-Fuzz: Vision Language Model Assisted Recursive Depth-first Search Exploration for Effective UI Testing of Android Apps\nИдентификатор статьи: arXiv:2504.11675\nГод: 2025\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.18, Fig. 9\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает из встроенной таблицы на Fig. 9 точное значение p-value для сравнения Line coverage между методами VLM-Fuzz и DeepGUI.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/998d6715e8/case-005/rendered_page_0018.png", "assets/images/998d6715e8/case-005/rendered_page_0019.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", "original_creator_prompt": "Сравните, какой вариант точнее извлекает из встроенной таблицы на Fig. 9 точное значение p-value для сравнения Line coverage между методами VLM-Fuzz и DeepGUI.", "notes_available": false}} -{"sample_id": "task3:998d6715e8:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Vision-Language Models for GUI agents and automated UI testing", "submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "case_id": "CASE-006", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "AppAgent: Multimodal Agents as Smartphone Users", "paper_id": "arXiv:2312.13771", "year": "2023", "evidence_kind": "table", "page_hint": "p.7, Table 1", "model_task_prompt": "Сравните, какой вариант точнее извлекает значения метрик Success Rate (SR) и Reward для метода \"GPT4 (Baseline)\" с конфигурациями Action Space \"Raw\" и \"Ours\", а также для \"AppAgent\" с \"Manually Crafted\" документами, опираясь строго на Table 1.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: AppAgent: Multimodal Agents as Smartphone Users\nИдентификатор статьи: arXiv:2312.13771\nГод: 2023\nТип evidence: table\nПодсказка по странице/рисунку/т��блице: p.7, Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает значения метрик Success Rate (SR) и Reward для метода \"GPT4 (Baseline)\" с конфигурациями Action Space \"Raw\" и \"Ours\", а также для \"AppAgent\" с \"Manually Crafted\" документами, опираясь строго на Table 1.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: AppAgent: Multimodal Agents as Smartphone Users\nИдентификатор статьи: arXiv:2312.13771\nГод: 2023\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.7, Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает значения метрик Success Rate (SR) и Reward для метода \"GPT4 (Baseline)\" с конфигурациями Action Space \"Raw\" и \"Ours\", а также для \"AppAgent\" с \"Manually Crafted\" документами, опираясь строго на Table 1.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/998d6715e8/case-006/rendered_page_0007.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", "original_creator_prompt": "Сравните, какой вариант точнее извлекает значения метрик Success Rate (SR) и Reward дл�� метода \"GPT4 (Baseline)\" с конфигурациями Action Space \"Raw\" и \"Ours\", а также для \"AppAgent\" с \"Manually Crafted\" документами, опираясь строго на Table 1.", "notes_available": false}} -{"sample_id": "task3:998d6715e8:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Vision-Language Models for GUI agents and automated UI testing", "submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "case_id": "CASE-007", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "VideoGameQA-Bench: Evaluating Vision-Language Models for Video Game Quality Assurance", "paper_id": "arXiv:2505.15952", "year": "2025", "evidence_kind": "table", "page_hint": "p.5, Table 2", "model_task_prompt": "Сравните, какой вариант точнее извлекает на основе Table 2 значения Accuracy для моделей o4-mini и Llama-4-Scout строго в задаче Video-based glitch detection (VGD).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: VideoGameQA-Bench: Evaluating Vision-Language Models for Video Game Quality Assurance\nИдентификатор статьи: arXiv:2505.15952\nГод: 2025\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.5, Table 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает на основе Table 2 значения Accuracy для моделей o4-mini и Llama-4-Scout строго в задаче Video-based glitch detection (VGD).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: VideoGameQA-Bench: Evaluating Vision-Language Models for Video Game Quality Assurance\nИдентификатор статьи: arXiv:2505.15952\nГод: 2025\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.5, Table 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает на основе Table 2 значения Accuracy для моделей o4-mini и Llama-4-Scout строго в задаче Video-based glitch detection (VGD).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/998d6715e8/case-007/rendered_page_0005.png", "assets/images/998d6715e8/case-007/rendered_page_0007.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", "original_creator_prompt": "Сравните, какой вариант точнее извлекает на основе Table 2 значения Accuracy для моделей o4-mini и Llama-4-Scout строго в задаче Video-based glitch detection (VGD).", "notes_available": false}} -{"sample_id": "task3:998d6715e8:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Vision-Language Models for GUI agents and automated UI testing", "submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "case_id": "CASE-008", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "A Survey on (M)LLM-Based GUI Agents", "paper_id": "arXiv:2504.13865", "year": "2025", "evidence_kind": "table", "page_hint": "p. 17, Table 1", "model_task_prompt": "Сравните, какой вариант точнее извлекает, опираясь на Table 1, все датасеты для платформы \"web\", которые поддерживают диалоговые задачи (в столбце Dialogue стоит галочка).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: A Survey on (M)LLM-Based GUI Agents\nИдентификатор статьи: arXiv:2504.13865\nГод: 2025\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p. 17, Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает, опираясь на Table 1, все датасеты для платформы \"web\", которые поддерживают диалоговые задачи (в столбце Dialogue стоит галочка).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: A Survey on (M)LLM-Based GUI Agents\nИдентификатор статьи: arXiv:2504.13865\nГод: 2025\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p. 17, Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает, опираясь на Table 1, все датасеты для платформы \"web\", которые поддерживают диалоговые задачи (в столбце Dialogue стоит галочка).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/998d6715e8/case-008/rendered_page_0017.png", "assets/images/998d6715e8/case-008/rendered_page_0016.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", "original_creator_prompt": "Сравните, какой вариант точнее извлекает, опираясь на Table 1, все датасеты для платформы \"web\", которые поддерживают диалоговые задачи (в столбце Dialogue стоит галочка).", "notes_available": false}} -{"sample_id": "task3:998d6715e8:case-009", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Vision-Language Models for GUI agents and automated UI testing", "submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "case_id": "CASE-009", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Test-Time Policy Adaptation for Enhanced Multi-Turn Interactions with LLMs", "paper_id": "arXiv:2509.23166", "year": "2025", "evidence_kind": "figure", "page_hint": "p. 28, Figure 6", "model_task_prompt": "Сравните, какой вариант точнее определяет из Figure 6 для датасета MATH500 момент пересечения кривых ROSA и Baseline во времени и правильно описывает, какой метод лидирует ДО и ПОСЛЕ этого момента.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: Test-Time Policy Adaptation for Enhanced Multi-Turn Interactions with LLMs\nИдентификатор статьи: arXiv:2509.23166\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p. 28, Figure 6\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее определяет из Figure 6 для датасета MATH500 момент пересечения кривых ROSA и Baseline во времени и правильно описывает, какой метод лидирует ДО и ПОСЛЕ этого момента.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: Test-Time Policy Adaptation for Enhanced Multi-Turn Interactions with LLMs\nИдентификатор статьи: arXiv:2509.23166\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p. 28, Figure 6\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее определяет из Figure 6 для датасета MATH500 момент пересечения кривых ROSA и Baseline во времени и правильно описывает, какой метод лидирует ДО и ПОСЛЕ этого момента.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/998d6715e8/case-009/rendered_page_0008.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "visual_fact"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", "original_creator_prompt": "Сравните, какой вариант точнее определяет из Figure 6 для датасета \nMATH500 момент пересечения кривых ROSA и Baseline во времени и \nправильно описывает, какой метод лидирует ДО и ПОСЛЕ этого момента.", "notes_available": false}} -{"sample_id": "task3:998d6715e8:case-010", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Vision-Language Models for GUI agents and automated UI testing", "submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "case_id": "CASE-010", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "A Survey on Web Testing: On the Rise of AI and Applications in Industry", "paper_id": "arXiv:2503.05378", "year": "2025", "evidence_kind": "figure_or_table", "page_hint": "p.38, Fig.3", "model_task_prompt": "Сравните, какой вариант точнее определяет из Figure 3 временную динамику публикаций по SBST/AI-методам: год перелома тренда, соотношение публикаций до и после этого года, а также аномальные годы с локальным спадом или искажением. Оцените, какой вариант избегает галлюцинации тренда и опирается именно на визуальные данные", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: A Survey on Web Testing: On the Rise of AI and Applications in Industry\nИдентификатор статьи: arXiv:2503.05378\nГод: 2025\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.38, Fig.3\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее определяет из Figure 3 временную динамику публикаций по SBST/AI-методам: год перелома тренда, соотношение публикаций до и после этого года, а также аномальные годы с локальным спадом или искажением. Оцените, какой вариант избегает галлюцинации тренда и опирается именно на визуальные данные\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: A Survey on Web Testing: On the Rise of AI and Applications in Industry\nИдентификатор статьи: arXiv:2503.05378\nГод: 2025\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.38, Fig.3\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее определяет из Figure 3 временную динамику публикаций по SBST/AI-методам: год перелома тренда, соотношение публикаций до и после этого года, а также аномальные годы с локальным спадом или искажением. Оцените, какой вариант избегает галлюцинации тренда и опирается именно на визуальные данные\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если ��ни есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/998d6715e8/case-010/rendered_page_0038.png", "assets/images/998d6715e8/case-010/rendered_page_0037.png", "assets/images/998d6715e8/case-010/rendered_page_0039.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "visual_fact"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", "original_creator_prompt": "Сравните, какой вариант точнее определяет из Figure 3 временную динамику публикаций по SBST/AI-методам: год перелома тренда, соотношение публикаций до и после этого года, а также аномальные годы с локальным спадом или искажением. Оцените, какой вариант избегает галлюцинации тренда и опирается именно на визуальные данные", "notes_available": false}} -{"sample_id": "task3:998d6715e8:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Vision-Language Models for GUI agents and automated UI testing", "submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "case_id": "CASE-011", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "LLM-Guided Scenario-based GUI Testing", "paper_id": "arXiv:2506.05079", "year": "2025", "evidence_kind": "page", "page_hint": "p. 24, Section 5 \"Threats to Validity\"", "model_task_prompt": "На основании раздела \"Threats to Validity\" перечислите 3 основные угрозы валидности (ограничения), которые сами авторы выделяют в своей работе.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: LLM-Guided Scenario-based GUI Testing\nИдентификатор статьи: arXiv:2506.05079\nГод: 2025\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p. 24, Section 5 \"Threats to Validity\"\nСлой сложности: easy_control\n\nАдаптированная задача:\nНа основании раздела \"Threats to Validity\" перечислите 3 основные угрозы валидности (ограничения), которые сами авторы выделяют в своей работе.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: LLM-Guided Scenario-based GUI Testing\nИдентификатор статьи: arXiv:2506.05079\nГод: 2025\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p. 24, Section 5 \"Threats to Validity\"\nСлой сложности: easy_control\n\nАдаптированная задача:\nНа основании раздела \"Threats to Validity\" перечислите 3 основные угрозы валидности (ограничения), которые сами авторы выделяют в своей работе.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/998d6715e8/case-011/rendered_page_0024.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", "original_creator_prompt": "На основании раздела \"Threats to Validity\" перечислите 3 основные угрозы валидности (ограничения), которые сами авторы выделяют в своей работе.", "notes_available": false}} -{"sample_id": "task3:998d6715e8:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Vision-Language Models for GUI agents and automated UI testing", "submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "case_id": "CASE-012", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "Usable AI: Critical Review of Its Current Issues and Trends", "paper_id": "doi:10.3844/jcssp.2023.326.333", "year": "2023", "evidence_kind": "page", "page_hint": "p. 330, Section \"Usability Challenges of AI Applications\"", "model_task_prompt": "На основании раздела «Usability Challenges of AI Applications» перечислите основные проблемы (challenges) разработки ориентированного на человека ИИ (HAI), о которых пишут авторы.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: Usable AI: Critical Review of Its Current Issues and Trends\nИдентификатор статьи: doi:10.3844/jcssp.2023.326.333\nГод: 2023\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p. 330, Section \"Usability Challenges of AI Applications\"\nСлой сложности: easy_control\n\nАдаптированная задача:\nНа основании раздела «Usability Challenges of AI Applications» перечислите основные проблемы (challenges) разработки ориентированного на человека ИИ (HAI), о которых пишут авторы.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: Usable AI: Critical Review of Its Current Issues and Trends\nИдентификатор статьи: doi:10.3844/jcssp.2023.326.333\nГод: 2023\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p. 330, Section \"Usability Challenges of AI Applications\"\nСлой сложности: easy_control\n\nАдаптированная задача:\nНа основании раздела «Usability Challenges of AI Applications» перечислите основные проблемы (challenges) разработки ориентированного на человека ИИ (HAI), о которых пишут авторы.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", "original_creator_prompt": "На основании раздела «Usability Challenges of AI Applications» перечислите основные проблемы (challenges) разработки ориентированного на человека ИИ (HAI), о которых пишут авторы.", "notes_available": false}} -{"sample_id": "task3:5c4536453d:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ferroelectric transistor parameters interpretation", "submission_id": "парочкин-андреи-витальевич__5c4536453d", "creator_id": "Парочкин Андрей Витальевич", "case_id": "CASE-001", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Decoupling polarization and coercive field in AlScN/AlN/AlScN stack for enhanced performance in ferroelectric thin-film transistors", "paper_id": "10.1038/s41467-025-62904-6", "year": "2025", "evidence_kind": "figure", "page_hint": "Fig.4e", "model_task_prompt": "Сравнить, какой вариант лучше понимает, какая кривая соответствует подходящему к работе в ключевом режиме напряжению.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ferroelectric transistor parameters interpretation\nСтатья: Decoupling polarization and coercive field in AlScN/AlN/AlScN stack for enhanced performance in ferroelectric thin-film transistors\nИдентификатор статьи: 10.1038/s41467-025-62904-6\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.4e\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравнить, какой вариант лучше понимает, какая кривая соответствует подходящему к работе в ключевом режиме напряжению.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ferroelectric transistor parameters interpretation\nСтатья: Decoupling polarization and coercive field in AlScN/AlN/AlScN stack for enhanced performance in ferroelectric thin-film transistors\nИдентификатор статьи: 10.1038/s41467-025-62904-6\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.4e\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравнить, какой вариант лучше понимает, какая кривая соответствует подходящему к работе в ключевом режиме напряжению.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage", "missed_visual_fact", "needs_time_fix"], "creator_rationale_available": true, "source_manifest": "0016_parochkin_andrei_vital_evich__task3_ab_case_manifest.filled - Andre Parochkin.json", "original_creator_prompt": "Сравнить, какой вариант лучше понимает, какая кривая соответствует подходящему к работе в ключевом режиме напряжению.", "notes_available": false}} -{"sample_id": "task3:5c4536453d:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ferroelectric transistor parameters interpretation", "submission_id": "парочкин-андреи-витальевич__5c4536453d", "creator_id": "Парочкин Андрей Витальевич", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Scalable CMOS back-end-of-line-compatible AlScN/two-dimensional channel ferroelectric field-effect transistors", "paper_id": "10.1038/s41565-023-01399-y", "year": "2023", "evidence_kind": "figure", "page_hint": "Fig.1c", "model_task_prompt": "Определить, результаты какого ещё метода исследования есть на the figure.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ferroelectric transistor parameters interpretation\nСтатья: Scalable CMOS back-end-of-line-compatible AlScN/two-dimensional channel ferroelectric field-effect transistors\nИдентификатор статьи: 10.1038/s41565-023-01399-y\nГод: 2023\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.1c\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределить, результаты какого ещё метода исследования есть на the figure.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ferroelectric transistor parameters interpretation\nСтатья: Scalable CMOS back-end-of-line-compatible AlScN/two-dimensional channel ferroelectric field-effect transistors\nИдентификатор статьи: 10.1038/s41565-023-01399-y\nГод: 2023\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.1c\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределить, результаты какого ещё метода исследования есть на the figure.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0016_parochkin_andrei_vital_evich__task3_ab_case_manifest.filled - Andre Parochkin.json", "original_creator_prompt": "Определить, результаты какого ещё метода исследования есть на the figure.", "notes_available": false}} -{"sample_id": "task3:5c4536453d:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ferroelectric transistor parameters interpretation", "submission_id": "парочкин-андреи-витальевич__5c4536453d", "creator_id": "Парочкин Андрей Витальевич", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Scalable CMOS back-end-of-line-compatible AlScN/two-dimensional channel ferroelectric field-effect transistors", "paper_id": "10.1038/s41565-023-01399-y", "year": "2023", "evidence_kind": "figure", "page_hint": "Fig.1c", "model_task_prompt": "Определить по картинке, имеются ли в составе структуры кристаллиты.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ferroelectric transistor parameters interpretation\nСтатья: Scalable CMOS back-end-of-line-compatible AlScN/two-dimensional channel ferroelectric field-effect transistors\nИдентификатор статьи: 10.1038/s41565-023-01399-y\nГод: 2023\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.1c\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределить по картинке, имеются ли в составе структуры кристаллиты.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недо��таточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ferroelectric transistor parameters interpretation\nСтатья: Scalable CMOS back-end-of-line-compatible AlScN/two-dimensional channel ferroelectric field-effect transistors\nИдентификатор статьи: 10.1038/s41565-023-01399-y\nГод: 2023\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.1c\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределить по картинке, имеются ли в составе структуры кристаллиты.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0016_parochkin_andrei_vital_evich__task3_ab_case_manifest.filled - Andre Parochkin.json", "original_creator_prompt": "Определить по картинке, имеются ли в составе структуры кристаллиты.", "notes_available": false}} -{"sample_id": "task3:5c4536453d:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ferroelectric transistor parameters interpretation", "submission_id": "парочкин-андреи-витальевич__5c4536453d", "creator_id": "Парочкин Андрей Витальевич", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Origins of High Mobility and Low Operation Voltage of Amorphous Oxide TFTs: Electronic Structure, Electron Transport, Defects and Doping", "paper_id": "10.1109/JDT.2009.2034559", "year": "2009", "evidence_kind": "figure", "page_hint": "Fig.23b", "model_task_prompt": "Какой вариант верно напишет, проводимость транзистора после отжига в азотной среде.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ferroelectric transistor parameters interpretation\nСтатья: Origins of High Mobility and Low Operation Voltage of Amorphous Oxide TFTs: Electronic Structure, Electron Transport, Defects and Doping\nИдентификатор статьи: 10.1109/JDT.2009.2034559\nГод: 2009\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.23b\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nКакой вариант верно напишет, проводимость транзистора после отжига в азотной среде.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ferroelectric transistor parameters interpretation\nСтатья: Origins of High Mobility and Low Operation Voltage of Amorphous Oxide TFTs: Electronic Structure, Electron Transport, Defects and Doping\nИдентификатор статьи: 10.1109/JDT.2009.2034559\nГод: 2009\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.23b\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nКакой вариант верно напишет, проводимость транзистора после отжига в азотной среде.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0016_parochkin_andrei_vital_evich__task3_ab_case_manifest.filled - Andre Parochkin.json", "original_creator_prompt": "Какой вариант верно напишет, проводимость транзистора после отжига в азотной среде.", "notes_available": false}} -{"sample_id": "task3:5c4536453d:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ferroelectric transistor parameters interpretation", "submission_id": "парочкин-андреи-витальевич__5c4536453d", "creator_id": "Парочкин Андрей Витальевич", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Origins of High Mobility and Low Operation Voltage of Amorphous Oxide TFTs: Electronic Structure, Electron Transport, Defects and Doping", "paper_id": "10.1109/JDT.2009.2034559", "year": "2009", "evidence_kind": "figure", "page_hint": "Fig.26b", "model_task_prompt": "Оценить ширину гистерезиса для отожжённого и неотожжённого образцов.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ferroelectric transistor parameters interpretation\nСтатья: Origins of High Mobility and Low Operation Voltage of Amorphous Oxide TFTs: Electronic Structure, Electron Transport, Defects and Doping\nИдентификатор статьи: 10.1109/JDT.2009.2034559\nГод: 2009\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.26b\nСлой сложнос��и: multimodal_hard\n\nАдаптированная задача:\nОценить ширину гистерезиса для отожжённого и неотожжённого образцов.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ferroelectric transistor parameters interpretation\nСтатья: Origins of High Mobility and Low Operation Voltage of Amorphous Oxide TFTs: Electronic Structure, Electron Transport, Defects and Doping\nИдентификатор статьи: 10.1109/JDT.2009.2034559\nГод: 2009\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.26b\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОценить ширину гистерезиса для отожжённого и неотожжённого образцов.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0016_parochkin_andrei_vital_evich__task3_ab_case_manifest.filled - Andre Parochkin.json", "original_creator_prompt": "Оценить ширину гистерезиса для отожжённого и неотожжённого образцов.", "notes_available": false}} -{"sample_id": "task3:5c4536453d:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ferroelectric transistor parameters interpretation", "submission_id": "парочкин-андреи-витальевич__5c4536453d", "creator_id": "Парочкин Андрей Витальевич", "case_id": "CASE-006", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Impact of Ferroelectric Layer Thickness on Reliability of Back-End-of-Line-Compatible Hafnium Zirconium Oxide Films", "paper_id": "10.1002/adem.202201124", "year": "2022", "evidence_kind": "figure", "page_hint": "Fig.2", "model_task_prompt": "Определить, в какой из плёнок содержится моноклинная фаза.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ferroelectric transistor parameters interpretation\nСтатья: Impact of Ferroelectric Layer Thickness on Reliability of Back-End-of-Line-Compatible Hafnium Zirconium Oxide Films\nИдентификатор статьи: 10.1002/adem.202201124\nГод: 2022\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределить, в какой из плёнок содержится моноклинная фаза.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ferroelectric transistor parameters interpretation\nСтатья: Impact of Ferroelectric Layer Thickness on Reliability of Back-End-of-Line-Compatible Hafnium Zirconium Oxide Films\nИдентификатор статьи: 10.1002/adem.202201124\nГод: 2022\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределить, в какой из плёнок содержится моноклинная фаза.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0016_parochkin_andrei_vital_evich__task3_ab_case_manifest.filled - Andre Parochkin.json", "original_creator_prompt": "Определить, в какой из плёнок содержится моноклинная фаза.", "notes_available": false}} -{"sample_id": "task3:91f2284dbc:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Посмертные изменения в биомолекулах", "submission_id": "парочкина-екатерина-владимировна__91f2284dbc", "creator_id": "Парочкина Екатерина Владимировна", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Dynamics of Postmortem Gene Expression in Normal and Neoplastic Murine Liver", "paper_id": "doi: 10.3390/life16040683", "year": "2026", "evidence_kind": "figure_or_table", "page_hint": "Fig.4", "model_task_prompt": "Извлеките численные данные из рисунка 4 и сопоставляет их динамику во времени..", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Посмертные изменения в биомолекулах\nСтатья: Dynamics of Postmortem Gene Expression in Normal and Neoplastic Murine Liver\nИдентификатор статьи: doi: 10.3390/life16040683\nГод: 2026\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките численные данные из рисунка 4 и сопоставляет их динамику во времени..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Посмертные изменения в биомолекулах\nСтатья: Dynamics of Postmortem Gene Expression in Normal and Neoplastic Murine Liver\nИдентификатор статьи: doi: 10.3390/life16040683\nГод: 2026\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките численные данные из рисунка 4 и сопоставляет их динамику во времени..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact", "temporal"], "expected_error_modes": ["missed_visual_fact", "needs_time_fix"], "creator_rationale_available": true, "source_manifest": "0017_parochkina_ekaterina_vladimirovna__task3_ab_case_manifest.filled - Ekaterina Parochkina.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает численные данные из рисунка 4 и сопоставляет их динамику во времени.", "notes_available": true}} -{"sample_id": "task3:91f2284dbc:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Посмертные изменения в биомолекулах", "submission_id": "парочкина-екатерина-владимировна__91f2284dbc", "creator_id": "Парочкина Екатерина Владимировна", "case_id": "CASE-002", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains", "paper_id": "doi: 10.3390/biom15091288", "year": "2025", "evidence_kind": "figure_or_table", "page_hint": "Fig.2A,B", "model_task_prompt": "Извлеките из рисунка 2 A,B данные principal component analysis (PCA) и сопоставляет их с временной динамикой.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Посмертные изменения в биомолекулах\nСтатья: Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains\nИдентификатор статьи: doi: 10.3390/biom15091288\nГод: 2025\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.2A,B\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 2 A,B данные principal component analysis (PCA) и сопоставляет их с временной динамикой.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Посмертные изменения в биомолекулах\nСтатья: Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains\nИдентификатор статьи: doi: 10.3390/biom15091288\nГод: 2025\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.2A,B\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 2 A,B данные principal component analysis (PCA) и сопоставляет их с временной динамикой.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact", "temporal"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0017_parochkina_ekaterina_vladimirovna__task3_ab_case_manifest.filled - Ekaterina Parochkina.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 2 A,B данные principal component analysis (PCA) и сопоставляет их с временной динамикой", "notes_available": false}} -{"sample_id": "task3:91f2284dbc:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Посмертные изменения в биомолекулах", "submission_id": "парочкина-екатерина-владимировна__91f2284dbc", "creator_id": "Парочкина Екатерина Владимировна", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains", "paper_id": "doi: 10.3390/biom15091288", "year": "2025", "evidence_kind": "figure_or_table", "page_hint": "Fig.3", "model_task_prompt": "Извлеките из рисунка 3 данные о стабильности соединений.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Посмертные изменения в биомолекулах\nСтатья: Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains\nИдентификатор статьи: doi: 10.3390/biom15091288\nГод: 2025\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 3 данные о стабильности соединений.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Посмертные изменения в биомолекулах\nСтатья: Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains\nИдентификатор статьи: doi: 10.3390/biom15091288\nГод: 2025\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 3 данные о стабильности соединений.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0017_parochkina_ekaterina_vladimirovna__task3_ab_case_manifest.filled - Ekaterina Parochkina.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 3 данные о стабильности соединений", "notes_available": false}} -{"sample_id": "task3:91f2284dbc:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Посмертные изменения в биомолекулах", "submission_id": "парочкина-екатерина-владимировна__91f2284dbc", "creator_id": "Парочкина Екатерина Владимировна", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains", "paper_id": "doi: 10.3390/biom15091288", "year": "2025", "evidence_kind": "figure_or_table", "page_hint": "Fig.4A", "model_task_prompt": "Извлеките из рисунка 4A качественные (не числовые) данные.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Посмертные изменения в биомолекулах\nСтатья: Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains\nИдентификатор статьи: doi: 10.3390/biom15091288\nГод: 2025\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.4A\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 4A качественные (не числовые) данные.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Посмертные изменения в биомолекулах\nСтатья: Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains\nИдентификатор статьи: doi: 10.3390/biom15091288\nГод: 2025\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.4A\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 4A качественные (не числовые) данные.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0017_parochkina_ekaterina_vladimirovna__task3_ab_case_manifest.filled - Ekaterina Parochkina.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 4A качественные (не числовые) данные", "notes_available": false}} -{"sample_id": "task3:91f2284dbc:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Посмертные изменения в биомолекулах", "submission_id": "парочкина-екатерина-владимировна__91f2284dbc", "creator_id": "Парочкина Екатерина Владимировна", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Systematic analysis of gene expression patterns associated with postmortem interval in human tissues", "paper_id": "doi: s41598-017-05882-0", "year": "2017", "evidence_kind": "figure_or_table", "page_hint": "Table 2", "model_task_prompt": "Извлеките из таблицы 2 категориальные данные.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Посмертные изменения в биомолекулах\nСтатья: Systematic analysis of gene expression patterns associated with postmortem interval in human tissues\nИдентификатор статьи: doi: s41598-017-05882-0\nГод: 2017\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Table 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из таблицы 2 категориальные данные.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Посмертные изменения в биомолекулах\nСтатья: Systematic analysis of gene expression patterns associated with postmortem interval in human tissues\nИдентификатор статьи: doi: s41598-017-05882-0\nГод: 2017\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Table 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из таблицы 2 категориальные данные.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0017_parochkina_ekaterina_vladimirovna__task3_ab_case_manifest.filled - Ekaterina Parochkina.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает из таблицы 2 категориальные данные", "notes_available": false}} -{"sample_id": "task3:0987c43afc:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Deep learning methods for 2D material electronic properties", "paper_id": "10.1039/D5DD00155B", "year": "2026", "evidence_kind": "table", "page_hint": "p.5-6, Table 1", "model_task_prompt": "Сравните, какая из двух моделей точнее извлекает из таблицы 1 для каждой базы данных (C2DB, MC2D, 2DmatPedia, Materials Project, JARVIS-DFT) информацию о типе данных (структура / электронные свойства / фононы), доступности API и основных ссылках. Выделите только те базы, которые содержат электронные зонные структуры.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Deep learning methods for 2D material electronic properties\nИдентификатор статьи: 10.1039/D5DD00155B\nГод: 2026\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.5-6, Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какая из двух моделей точнее извлекает из таблицы 1 для каждой базы данных (C2DB, MC2D, 2DmatPedia, Materials Project, JARVIS-DFT) информацию о типе данных (структура / электронные свойства / фононы), доступности API и основных ссылках. Выделите только те базы, которые содержат электронные зонные структуры.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Deep learning methods for 2D material electronic properties\nИдентификатор статьи: 10.1039/D5DD00155B\nГод: 2026\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.5-6, Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какая из двух моделей точнее извлекает из таблицы 1 для каждой базы данных (C2DB, MC2D, 2DmatPedia, Materials Project, JARVIS-DFT) информацию о типе данных (структура / электронные свойства / фононы), доступности API и основных ссылках. Выделите только те базы, которые содержат электронные зонные структуры.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использова��а\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "Сравните, какая из двух моделей точнее извлекает из таблицы 1 для каждой базы данных (C2DB, MC2D, 2DmatPedia, Materials Project, JARVIS-DFT) информацию о типе данных (структура / электронные свойства / фононы), доступности API и основных ссылках. Выделите только те базы, которые содержат электронные зонные структуры.", "notes_available": false}} -{"sample_id": "task3:0987c43afc:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Deep learning methods for 2D material electronic properties", "paper_id": "10.1039/D5DD00155B", "year": "2026", "evidence_kind": "figure", "page_hint": "p.7, Fig. 1", "model_task_prompt": "На рисунке 1 показаны пять архитектур (PLMF, CGCNN, ALIGNN, MEGNet, SLICES). Для каждой из них определите: - используется ли графовое представление; - есть ли в явном виде обработка углов связей (bond angles); - является ли представление строковым (string‑based). Результат оформите в виде таблицы из трёх колонок.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Deep learning methods for 2D material electronic properties\nИдентификатор статьи: 10.1039/D5DD00155B\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.7, Fig. 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНа рисунке 1 показаны пять архитектур (PLMF, CGCNN, ALIGNN, MEGNet, SLICES). Для каждой из них определите: - используется ли графовое представление; - есть ли в явном виде обработка углов связей (bond angles); - является ли представление строковым (string‑based). Результат оформите в виде таблицы из трёх колонок.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных в��одных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Deep learning methods for 2D material electronic properties\nИдентификатор статьи: 10.1039/D5DD00155B\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.7, Fig. 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНа рисунке 1 показаны пять архитектур (PLMF, CGCNN, ALIGNN, MEGNet, SLICES). Для каждой из них определите: - используется ли графовое представление; - есть ли в явном виде обработка углов связей (bond angles); - является ли представление строковым (string‑based). Результат оформите в виде таблицы из трёх колонок.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "На рисунке 1 показаны пять архитектур (PLMF, CGCNN, ALIGNN, MEGNet, SLICES). Для каждой из них определите:\n- используется ли графовое представление;\n- есть ли в явном виде обработка углов связей (bond angles);\n- является ли представление строковым (string‑based).\nРезультат оформите в виде таблицы из трёх колонок.", "notes_available": false}} -{"sample_id": "task3:0987c43afc:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Deep learning methods for 2D material electronic properties", "paper_id": "10.1039/D5DD00155B", "year": "2026", "evidence_kind": "table", "page_hint": "p. 13-14, Table 3", "model_task_prompt": "Найдите в таблице 3 все методы, которые используют трансформеры (transformer) или авторегрессию (autoregressive). Для каждого такого метода выпишите название модели или работы, тип представления структуры, точность (MAE для band centers или band gaps). Игнорируйте методы на основе CNN или RBM, если они явно не упоминают внимание/трансформер.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Deep learning methods for 2D material electronic properties\nИдентификатор статьи: 10.1039/D5DD00155B\nГод: 2026\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p. 13-14, Table 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНайдите в таблице 3 все методы, которые используют трансформеры (transformer) или авторегрессию (autoregressive). Для каждого такого метода выпишите название модели или работы, тип представления структуры, точность (MAE для band centers или band gaps). Игнорируйте методы на основе CNN или RBM, если они явно не упоминают внимание/трансформер.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Deep learning methods for 2D material electronic properties\nИдентификатор статьи: 10.1039/D5DD00155B\nГод: 2026\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p. 13-14, Table 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНайдите в таблице 3 все методы, которые используют трансформеры (transformer) или авторегрессию (autoregressive). Для каждого такого метода выпишите название модели или работы, тип представления структуры, точность (MAE для band centers или band gaps). Игнорируйте методы на основе CNN или RBM, если они явно не упоминают внимание/трансформер.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "Найдите в таблице 3 все методы, которые используют трансформеры (transformer) или авторегрессию (autoregressive). Для каждого такого метода выпишите название модели или работы, тип представления структуры, точность (MAE для band centers или band gaps). Игнорируйте методы на основе CNN или RBM, если они явно не упоминают внимание/трансформер.", "notes_available": false}} -{"sample_id": "task3:0987c43afc:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Deep learning methods for 2D material electronic properties", "paper_id": "10.1039/D5DD00155B", "year": "2026", "evidence_kind": "table", "page_hint": "p.16, Table 4", "model_task_prompt": "В таблице 4 перечислены модели для межатомных потенциалов. Отберите те модели, которые явно используют E(3)-equivariant convolutions или equivariant message passing. Для каждой из них укажите название модели, тип архитектуры (Graph NN, Equivariant representations), целевые материалы (2D, 3D, molecular). Если модель не помечена как equivariant, но в описании говорится о «rotational invariance», – не включайте.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Deep learning methods for 2D material electronic properties\nИдентификатор статьи: 10.1039/D5DD00155B\nГод: 2026\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.16, Table 4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nВ таблице 4 перечислены модели для межатомных потенциалов. Отберите те модели, которые явно используют E(3)-equivariant convolutions или equivariant message passing. Для каждой из них укажите название модели, тип архитектуры (Graph NN, Equivariant representations), целевые материалы (2D, 3D, molecular). Если модель не помечена как equivariant, но в описании говорится о «rotational invariance», – не включайте.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Deep learning methods for 2D material electronic properties\nИдентификатор статьи: 10.1039/D5DD00155B\nГод: 2026\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.16, Table 4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nВ таблице 4 перечислены модели для межатомных потенциалов. Отберите те модели, которые явно используют E(3)-equivariant convolutions или equivariant message passing. Для каждой из них укажите название модели, тип архитектуры (Graph NN, Equivariant representations), целевые материалы (2D, 3D, molecular). Если модель не помечена как equivariant, но в описании говорится о «rotational invariance», – не включайте.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "В таблице 4 перечислены модели для межатомных потенциалов. Отберите те модели, которые явно используют E(3)-equivariant convolutions или equivariant message passing. Для каждой из них укажите название модели, тип архитектуры (Graph NN, Equivariant representations), целевые материалы (2D, 3D, molecular). Если модель не помечена как equivariant, но в описании говорится о «rotational invariance», – не включайте.", "notes_available": false}} -{"sample_id": "task3:0987c43afc:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-005", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Deep learning methods for 2D material electronic properties", "paper_id": "10.1039/D5DD00155B", "year": "2026", "evidence_kind": "page", "page_hint": "p.28-29", "model_task_prompt": "В разделе 5 авторы перечисляют ключевые вызовы и будущие направления. Найдите в тексте упоминания следующих концепций: - uncertainty quantification; - interpretability / explainable AI (XAI); - foundation models; - autonomous labs (self‑driving laboratories). Для каждого из них выпишите одну цитату (одно предложение), в которой описывается проблема или предложение. Затем оцените, насколько полно каждая модель (baseline vs tuned) воспроизводит эти цитаты без изменения смысла.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Deep learning methods for 2D material electronic properties\nИдентификатор статьи: 10.1039/D5DD00155B\nГод: 2026\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.28-29\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nВ разделе 5 авторы перечисляют ключевые вызовы и будущие направления. Найдите в тексте упоминания следующих концепций: - uncertainty quantification; - interpretability / explainable AI (XAI); - foundation models; - autonomous labs (self‑driving laboratories). Для каждого из них выпишите одну цитату (одно предложение), в которой описывается проблема или предложение. Затем оцените, насколько полно каждая модель (baseline vs tuned) воспроизводит эти цитаты без изменения смысла.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Deep learning methods for 2D material electronic properties\nИдентификатор статьи: 10.1039/D5DD00155B\nГод: 2026\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.28-29\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nВ разделе 5 авторы перечисляют ключевые вызовы и будущие направления. Найдите в тексте упоминания следующих концепций: - uncertainty quantification; - interpretability / explainable AI (XAI); - foundation models; - autonomous labs (self‑driving laboratories). Для каждого из них выпишите одну цитату (одно предложение), в которой описывается проблема или предложение. Затем оцените, насколько полно каждая модель (baseline vs tuned) воспроизводит эти цитаты без изменения смысла.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по пред��ставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "В разделе 5 авторы перечисляют ключевые вызовы и будущие направления. Найдите в тексте упоминания следующих концепций:\n- uncertainty quantification;\n- interpretability / explainable AI (XAI);\n- foundation models;\n- autonomous labs (self‑driving laboratories).\nДля каждого из них выпишите одну цитату (одно предложение), в которой описывается проблема или предложение. Затем оцените, насколько полно каждая модель (baseline vs tuned) воспроизводит эти цитаты без изменения смысла.", "notes_available": false}} -{"sample_id": "task3:0987c43afc:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-006", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State", "paper_id": "arXiv:2603.14515", "year": "2026", "evidence_kind": "figure", "page_hint": "p.1, Fig.1", "model_task_prompt": "По логарифмическому графику определите показатель степени для Excited Pfaffians. Сравните с наклонами кривых NES и Szabó et al.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State\nИдентификатор статьи: arXiv:2603.14515\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.1, Fig.1\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПо логарифмическому графику определите показатель степени для Excited Pfaffians. Сравните с наклонами кривых NES и Szabó et al.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State\nИдентификатор статьи: arXiv:2603.14515\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.1, Fig.1\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПо логарифмическому графику определите показатель степени для Excited Pfaffians. Сравните с наклонами кривых NES и Szabó et al.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/0987c43afc/case-006/rendered_page_0001.png", "assets/images/0987c43afc/case-006/rendered_page_0008.png", "assets/images/0987c43afc/case-006/rendered_page_0019.png", "assets/images/0987c43afc/case-006/rendered_page_0020.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "По логарифмическому графику определите показатель степени для Excited Pfaffians. Сравните с наклонами кривых NES и Szabó et al.", "notes_available": false}} -{"sample_id": "task3:0987c43afc:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-007", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State", "paper_id": "arXiv:2603.14515", "year": "2026", "evidence_kind": "figure", "page_hint": "p.5, Fig.3", "model_task_prompt": "Для Excited Pfaffian (панель a) назовите, какие компоненты общие для всех состояний, а какие — state‑specific.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State\nИдентификатор статьи: arXiv:2603.14515\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.5, Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nДля Excited Pfaffian (панель a) назовите, какие компоненты общие для всех состояний, а какие — state‑specific.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State\nИдентификатор статьи: arXiv:2603.14515\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.5, Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nДля Excited Pfaffian (панель a) назовите, какие компоненты общие для всех состояний, а какие — state‑specific.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/0987c43afc/case-007/rendered_page_0005.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "Для Excited Pfaffian (панель a) назовите, какие компоненты общие для всех состояний, а какие — state‑specific.", "notes_available": false}} -{"sample_id": "task3:0987c43afc:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-008", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State", "paper_id": "arXiv:2603.14515", "year": "2026", "evidence_kind": "figure", "page_hint": "p.6, Fig.4", "model_task_prompt": "Найдите атом, для которого все 10 состояний находятся в пределах химической точности (1.6 mHa) от эксперимента. Для него выпишите погрешность самого высокого уровня.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State\nИдентификатор статьи: arXiv:2603.14515\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.6, Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНайдите атом, для которого все 10 состояний находятся в пределах химической точности (1.6 mHa) от экспе��имента. Для него выпишите погрешность самого высокого уровня.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State\nИдентификатор статьи: arXiv:2603.14515\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.6, Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНайдите атом, для которого все 10 состояний находятся в пределах химической точности (1.6 mHa) от эксперимента. Для него выпишите погрешность самого высокого уровня.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/0987c43afc/case-008/rendered_page_0006.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "Найдите атом, для которого все 10 состояний находятся в пределах химической точности (1.6 mHa) от эксперимента. Для него выпишите погрешность самого высокого уровня.", "notes_available": false}} -{"sample_id": "task3:0987c43afc:case-009", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-009", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State", "paper_id": "arXiv:2603.14515", "year": "2026", "evidence_kind": "figure", "page_hint": "p.7, Fig.5", "model_task_prompt": "В районе 1.6Å происходит обмен двух синглетных состояний. Назовите оба состояния и укажите, какой метод (Excited Pfaffian или Schätzle) сохраняет больше состояний на больших расстояниях.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State\nИдентификатор статьи: arXiv:2603.14515\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.7, Fig.5\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nВ районе 1.6Å происходит обмен двух синглетных состояний. Назовите оба состояния и укажите, какой метод (Excited Pfaffian или Schätzle) сохраняет больше состояний на больших расстояниях.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State\nИдентификатор статьи: arXiv:2603.14515\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.7, Fig.5\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nВ районе 1.6Å происходит обмен двух синглетных состояний. Назовите оба состояния и укажите, какой метод (Excited Pfaffian или Schätzle) сохраняет больше состояний на больших расстояниях.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/0987c43afc/case-009/rendered_page_0007.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "В районе 1.6Å происходит обмен двух синглетных состояний. Назовите оба состояния и укажите, какой метод (Excited Pfaffian или Schätzle) сохраняет больше состояний на больших расстояниях.", "notes_available": false}} -{"sample_id": "task3:0987c43afc:case-010", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-010", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Transferable neural wavefunctions for solids", "paper_id": "10.1038/s43588-025-00872-z", "year": "2025", "evidence_kind": "figure", "page_hint": "p.2, Fig. 1d", "model_task_prompt": "На панели d рисунка 1 показано, как переносимая волновая функция использует среднее поле (mean‑field) для начальных орбиталей. Определите, какие компоненты остаются «замороженными», а какие обучаются нейросетью. Объясните, почему такой подход ускоряет обучение для новых систем.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Transferable neural wavefunctions for solids\nИдентификатор статьи: 10.1038/s43588-025-00872-z\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig. 1d\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНа панели d рисунка 1 показано, как переносимая волновая функция использует среднее поле (mean‑field) для начальных орбиталей. Определите, какие компоненты остаются «замороженными», а какие обучаются нейросетью. Объясните, почему такой подход ускоряет обучение для новых систем.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Transferable neural wavefunctions for solids\nИдентификатор статьи: 10.1038/s43588-025-00872-z\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig. 1d\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНа панели d рисунка 1 показано, как переносимая волновая функция использует среднее поле (mean‑field) для начальных орбиталей. Определите, какие компоненты остаются «замороженными», а какие обучаются нейросетью. Объясните, почему такой подход ускоряет обучение для новых систем.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "На панели d рисунка 1 показано, как переносимая волновая функция использует среднее поле (mean‑field) для начальных орбиталей. Определите, какие компоненты остаются «замороженными», а какие обучаются нейросетью. Объясните, почему такой подход ускоряет обучение для новых систем.", "notes_available": false}} -{"sample_id": "task3:0987c43afc:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-011", "stratum": "temporal_hard", "primary_endpoint": false, "paper_title": "Transferable neural wavefunctions for solids", "paper_id": "10.1038/s43588-025-00872-z", "year": "2025", "evidence_kind": "page", "page_hint": "стр. 2, последний абзац введения", "model_task_prompt": "В тексте упоминается, что DeepSolid потребовал 80 000 GPU‑часов для одного расчёта. Найдите, во сколько раз меньше времени потребовал предложенный метод при переносе с 32‑электронной на 108‑электронную систему LiH. Какой коэффициент ускорения назван в статье?", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Transferable neural wavefunctions for solids\nИдентификатор статьи: 10.1038/s43588-025-00872-z\nГод: 2025\nТип evidence: page\nПодсказка по странице/рисунку/таблице: стр. 2, последний абзац введения\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nВ тексте упоминается, что DeepSolid потребовал 80 000 GPU‑часов для одного расчёта. Найдите, во сколько раз меньше времени потребовал предложенный метод при переносе с 32‑электронной на 108‑электронную систему LiH. Какой коэффициент ускорения назван в статье?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Transferable neural wavefunctions for solids\nИдентификатор статьи: 10.1038/s43588-025-00872-z\nГод: 2025\nТип evidence: page\nПодсказка по странице/рисунку/таблице: стр. 2, последний абзац введения\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nВ тексте упоминается, что DeepSolid потребовал 80 000 GPU‑часов для одного расчёта. Найдите, во сколько раз меньше времени потребовал предложенный метод при переносе с 32‑электронной на 108‑электронную систему LiH. Какой коэффициент ускорения назван в статье?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "В тексте упоминается, что DeepSolid потребовал 80 000 GPU‑часов для одного расчёта. Найдите, во сколько раз меньше времени потребовал предложенный метод при переносе с 32‑электронной на 108‑электронную систему LiH. Какой коэффициент ускорения назван в статье?", "notes_available": false}} -{"sample_id": "task3:0987c43afc:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-012", "stratum": "multimodal_hard", "primary_endpoint": false, "paper_title": "Transferable neural wavefunctions for solids", "paper_id": "10.1038/s43588-025-00872-z", "year": "2025", "evidence_kind": "figure", "page_hint": "p.3, Fig. 2a", "model_task_prompt": "На рисунке 2a показано сравнение энергий на атом для водородной цепи. Найдите метод, который даёт самую низкую энергию (наиболее точную). Укажите, какое значение (в mHa) получено предложенным методом при экстраполяции к термодинамическому пределу с использованием TABC.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Transferable neural wavefunctions for solids\nИдентификатор статьи: 10.1038/s43588-025-00872-z\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig. 2a\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНа рисунке 2a показано сравнение энергий на атом для водородной цепи. Найдите метод, который даёт самую низкую энергию (наиболее точную). Укажите, какое значение (в mHa) получено предложенным методом при экстраполяции к термодинамическому пределу с использованием TABC.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Transferable neural wavefunctions for solids\nИдентификатор статьи: 10.1038/s43588-025-00872-z\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig. 2a\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНа рисунке 2a показано сравнение энергий на атом для водородной цепи. Найдите метод, который даёт самую низкую энергию (наиболее точную). Укажите, какое значение (в mHa) получено предложенным методом при экстраполяции к термодинамическому пределу с использованием TABC.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "На рисунке 2a показано сравнение энергий на атом для водородной цепи. Найдите метод, который даёт самую низкую энергию (наиболее точную). Укажите, какое значение (в mHa) получено предложенным методом при экстраполяции к термодинамическому пределу с использованием TABC.", "notes_available": false}} -{"sample_id": "task3:0987c43afc:case-013", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-013", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Transferable neural wavefunctions for solids", "paper_id": "10.1038/s43588-025-00872-z", "year": "2025", "evidence_kind": "figure", "page_hint": "p.3, Fig. 2b", "model_task_prompt": "На рисунке 2b показана комплексная поляризация как функция межатомного расстояния. Авторы утверждают, что наблюдают металл‑изоляторный переход. В каком диапазоне R (в единицах a₀) происходит переход согласно их данным? Чем их оценка критического расстояния отличается от оценки Motta et al.?", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Transferable neural wavefunctions for solids\nИдентификатор статьи: 10.1038/s43588-025-00872-z\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig. 2b\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nНа рисунке 2b показана комплексная поляризация как функция межатомного расстояния. Авторы утверждают, что наблюдают металл‑изоляторный переход. В каком диапазоне R (в единицах a₀) происходит переход согласно их данным? Чем их оценка критического расстояния отличается от оценки Motta et al.?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, есл�� применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Transferable neural wavefunctions for solids\nИдентификатор статьи: 10.1038/s43588-025-00872-z\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig. 2b\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nНа рисунке 2b показана комплексная поляризация как функция межатомного расстояния. Авторы утверждают, что наблюдают металл‑изоляторный переход. В каком диапазоне R (в единицах a₀) происходит переход согласно их данным? Чем их оценка критического расстояния отличается от оценки Motta et al.?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "На рисунке 2b показана комплексная поляризация как функция межатомного расстояния. Авторы утверждают, что наблюдают металл‑изоляторный переход. В каком диапазоне R (в единицах a₀) происходит переход согласно их данным? Чем их оценка критического расстояния отличается от оценки Motta et al.?", "notes_available": false}} -{"sample_id": "task3:0987c43afc:case-014", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-014", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Transferable neural wavefunctions for solids", "paper_id": "10.1038/s43588-025-00872-z", "year": "2025", "evidence_kind": "table", "page_hint": "p.4, Table 1", "model_task_prompt": "В таблице 1 сравниваются полные энергии графена для трёх твистов. Для твиста k2 (вес 2/3) найдите энергию, полученную DeepSolid, и энергию, полученную авторами. Вычислите разницу в mH.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Transferable neural wavefunctions for solids\nИдентификатор статьи: 10.1038/s43588-025-00872-z\nГод: 2025\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.4, Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nВ таблице 1 сравниваются полные энергии графена для трёх твистов. Для твиста k2 (вес 2/3) найдите энергию, полученную DeepSolid, и энергию, полученную авторами. Вычислите разницу в mH.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Transferable neural wavefunctions for solids\nИдентификатор статьи: 10.1038/s43588-025-00872-z\nГод: 2025\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.4, Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nВ таблице 1 сравниваются полные энергии графена для трёх твистов. Для твиста k2 (вес 2/3) найдите энергию, полученную DeepSolid, и энергию, полученную авторами. Вычислите разницу в mH.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "В таблице 1 сравниваются полные энергии графена для трёх твистов. Для твиста k2 (вес 2/3) найдите энергию, полученную DeepSolid, и энергию, полученную авторами. Вычислите разницу в mH.", "notes_available": false}} -{"sample_id": "task3:0987c43afc:case-015", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-015", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction", "paper_id": "arXiv:2603.15669", "year": "2026", "evidence_kind": "page", "page_hint": "p. 7–9, 2.1 (a, b, c)", "model_task_prompt": "Авторы описывают три сценария с возрастающей сложностью: интерполяция внутри MD‑траектории, случайное разделение QM9, экстраполяция на фторсодержащие молекулы. Для третьего сценария укажите, какие элементы отсутствовали в тренировочном наборе. Как меняется ошибка предсказания при переходе от первого сценария к третьему?", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction\nИдентификатор статьи: arXiv:2603.15669\nГод: 2026\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p. 7–9, 2.1 (a, b, c)\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nАвторы описывают три сценария с возрастающей сложностью: интерполяция внутри MD‑траектории, случайное разделение QM9, экстраполяция на фторсодержащие молекулы. Для третьего сценария укажите, какие элементы отсутствовали в тренировочном наборе. Как меняется ошибка предсказания при переходе от первого сценария к третьему?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction\nИдентификатор статьи: arXiv:2603.15669\nГод: 2026\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p. 7–9, 2.1 (a, b, c)\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nАвторы описывают три сценария с возрастающей сложностью: интерполяция внутри MD‑траектории, случайное разделение QM9, экстраполяция на фторсодержащие молекулы. Для третьего сценария укажите, какие элементы отсутствовали в тренировочном наборе. Как меняется ошибка предсказания при переходе от первого сценария к третьему?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/0987c43afc/case-015/rendered_page_0007.png", "assets/images/0987c43afc/case-015/rendered_page_0008.png", "assets/images/0987c43afc/case-015/rendered_page_0009.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "Авторы описывают три сценария с возрастающей сложностью: интерполяция внутри MD‑траектории, случайное разделение QM9, экстраполяция на фторсодержащие молекулы. Для третьего сценария укажите, какие элементы отсутствовали в тренировочном наборе. Как меняется ошибка предсказания при переходе от первого сценария к третьему?", "notes_available": false}} -{"sample_id": "task3:0987c43afc:case-016", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-016", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction", "paper_id": "arXiv:2603.15669", "year": "2026", "evidence_kind": "figure", "page_hint": "p. 10, Fig. 3", "model_task_prompt": "На рисунке 3 показано сравнение предсказанной электронной плотности и DFT‑плотности. Визуально оцените, хорошо ли воспроизводится форма и положение максимумов. В каких областях (вблизи ядер или в межмолекулярном пространстве) заметны расхождения? Почему авторы исключают околоядерные области из расчёта ошибок?", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction\nИдентификатор статьи: arXiv:2603.15669\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p. 10, Fig. 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНа рисунке 3 показано сравнение предсказанной электронной плотности и DFT‑плотности. Визуально оцените, хорошо ли воспроизводится форма и положение максимумов. В каких областях (вблизи ядер или в межмолекулярном пространстве) заметны расхождения? Почему авторы исключают околоядерные области из расчёта ошибок?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction\nИдентификатор статьи: arXiv:2603.15669\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p. 10, Fig. 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНа рисунке 3 показано сравнение предсказанной электронной плотности и DFT‑плотности. Визуально оцените, хорошо ли воспроизводится форма и положение максимумов. В каких областях (вблизи ядер или в межмолекулярном пространстве) заметны расхождения? Почему авторы исключают околоядерные области из расчёта ошибок?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/0987c43afc/case-016/rendered_page_0010.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "На рисунке 3 показано сравнение предсказанной электронной плотности и DFT‑плотности. Визуально оцените, хорошо ли воспроиз��одится форма и положение максимумов. В каких областях (вблизи ядер или в межмолекулярном пространстве) заметны расхождения? Почему авторы исключают околоядерные области из расчёта ошибок?", "notes_available": false}} -{"sample_id": "task3:0987c43afc:case-017", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-017", "stratum": "easy_control", "primary_endpoint": true, "paper_title": "V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction", "paper_id": "arXiv:2603.15669", "year": "2026", "evidence_kind": "page", "page_hint": "p. 12, 3.1, Eq 1", "model_task_prompt": "В разделе 3.1 авторы связывают FNO с линейной теорией отклика. Найдите интегральное выражение, связывающее изменение плотности с изменением внешнего потенциала через функцию отклика χ. Напишите это уравнение (можно в текстовом виде). Чем FNO отличается от линейного отклика?", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction\nИдентификатор статьи: arXiv:2603.15669\nГод: 2026\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p. 12, 3.1, Eq 1\nСлой сложности: easy_control\n\nАдаптированная задача:\nВ разделе 3.1 авторы связывают FNO с линейной теорией отклика. Найдите интегральное выражение, связывающее изменение плотности с изменением внешнего потенциала через функцию отклика χ. Напишите это уравнение (можно в текстовом виде). Чем FNO отличается от линейного отклика?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction\nИдентификатор статьи: arXiv:2603.15669\nГод: 2026\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p. 12, 3.1, Eq 1\nСлой сложности: easy_control\n\nАдаптированная задача:\nВ разделе 3.1 авторы связывают FNO с линейной теорией отклика. Найдите интегральное выражение, связывающее изменение плотности с изменением внешнего потенциала че��ез функцию отклика χ. Напишите это уравнение (можно в текстовом виде). Чем FNO отличается от линейного отклика?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/0987c43afc/case-017/rendered_page_0012.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "В разделе 3.1 авторы связывают FNO с линейной теорией отклика. Найдите интегральное выражение, связывающее изменение плотности с изменением внешнего потенциала через функцию отклика χ. Напишите это уравнение (можно в текстовом виде). Чем FNO отличается от линейного отклика?", "notes_available": false}} +version https://git-lfs.github.com/spec/v1 +oid sha256:aa6e117867f999c86cab426f236e3fbaa1c4121dd3b71bd81009675003d3821a +size 1205452