diff --git a/.gitattributes b/.gitattributes index bed0738c7eeb449bca98b5d2f33c89a1ee56349a..63490c54b2bd7f2953ac21843f9c4de818d26cd8 100644 --- a/.gitattributes +++ b/.gitattributes @@ -1,60 +1,6 @@ -*.7z filter=lfs diff=lfs merge=lfs -text -*.arrow filter=lfs diff=lfs merge=lfs -text -*.avro filter=lfs diff=lfs merge=lfs -text -*.bin filter=lfs diff=lfs merge=lfs -text -*.bz2 filter=lfs diff=lfs merge=lfs -text -*.ckpt filter=lfs diff=lfs merge=lfs -text -*.ftz filter=lfs diff=lfs merge=lfs -text -*.gz filter=lfs diff=lfs merge=lfs -text -*.h5 filter=lfs diff=lfs merge=lfs -text -*.joblib filter=lfs diff=lfs merge=lfs -text -*.lfs.* filter=lfs diff=lfs merge=lfs -text -*.lz4 filter=lfs diff=lfs merge=lfs -text -*.mds filter=lfs diff=lfs merge=lfs -text -*.mlmodel filter=lfs diff=lfs merge=lfs -text -*.model filter=lfs diff=lfs merge=lfs -text -*.msgpack filter=lfs diff=lfs merge=lfs -text -*.npy filter=lfs diff=lfs merge=lfs -text -*.npz filter=lfs diff=lfs merge=lfs -text -*.onnx filter=lfs diff=lfs merge=lfs -text -*.ot filter=lfs diff=lfs merge=lfs -text -*.parquet filter=lfs diff=lfs merge=lfs -text -*.pb filter=lfs diff=lfs merge=lfs -text -*.pickle filter=lfs diff=lfs merge=lfs -text -*.pkl filter=lfs diff=lfs merge=lfs -text -*.pt filter=lfs diff=lfs merge=lfs -text -*.pth filter=lfs diff=lfs merge=lfs -text -*.rar filter=lfs diff=lfs merge=lfs -text -*.safetensors filter=lfs diff=lfs merge=lfs -text -saved_model/**/* filter=lfs diff=lfs merge=lfs -text -*.tar.* filter=lfs diff=lfs merge=lfs -text -*.tar filter=lfs diff=lfs merge=lfs -text -*.tflite filter=lfs diff=lfs merge=lfs -text -*.tgz filter=lfs diff=lfs merge=lfs -text -*.wasm filter=lfs diff=lfs merge=lfs -text -*.xz filter=lfs diff=lfs merge=lfs -text -*.zip filter=lfs diff=lfs merge=lfs -text -*.zst filter=lfs diff=lfs merge=lfs -text -*tfevents* filter=lfs diff=lfs merge=lfs -text -# Audio files - uncompressed -*.pcm filter=lfs diff=lfs merge=lfs -text -*.sam filter=lfs diff=lfs merge=lfs -text -*.raw filter=lfs diff=lfs merge=lfs -text -# Audio files - compressed -*.aac filter=lfs diff=lfs merge=lfs -text -*.flac filter=lfs diff=lfs merge=lfs -text -*.mp3 filter=lfs diff=lfs merge=lfs -text -*.ogg filter=lfs diff=lfs merge=lfs -text -*.wav filter=lfs diff=lfs merge=lfs -text -# Image files - uncompressed -*.bmp filter=lfs diff=lfs merge=lfs -text -*.gif filter=lfs diff=lfs merge=lfs -text +*.jsonl filter=lfs diff=lfs merge=lfs -text *.png filter=lfs diff=lfs merge=lfs -text -*.tiff filter=lfs diff=lfs merge=lfs -text -# Image files - compressed *.jpg filter=lfs diff=lfs merge=lfs -text *.jpeg filter=lfs diff=lfs merge=lfs -text *.webp filter=lfs diff=lfs merge=lfs -text -# Video files - compressed -*.mp4 filter=lfs diff=lfs merge=lfs -text -*.webm filter=lfs diff=lfs merge=lfs -text +*.pdf filter=lfs diff=lfs merge=lfs -text diff --git a/README.md b/README.md index f7801179f8736203a3305278da782f4550531f44..b52e0cf8968a860cf0172580c8318d0827f02549 100644 --- a/README.md +++ b/README.md @@ -1,3 +1,61 @@ --- -license: gpl-3.0 +pretty_name: top-papers-graph Task 3 VLM A/B benchmark +language: +- ru +tags: +- scientific-papers +- vision-language +- multimodal +- benchmark +- ab-testing +- top-papers-graph +size_categories: +- n<1K +configs: +- config_name: task3_vlm_generation + data_files: + - split: test + path: data/task3_vlm_generation.jsonl +- config_name: task3_cases_flat + data_files: + - split: test + path: data/task3_cases_flat.jsonl --- + +# top-papers-graph Task 3 VLM A/B benchmark + +Dataset repository target: `top-papers/top-papers-graph-benchmark`. + +This dataset contains Task 3 case-based prompts adapted for **single VLM generation**. Expert-created A/B review prompts are transformed into model-facing evidence extraction or reasoning tasks. Expert rationales and expected error modes are kept in metadata, not in the model messages, to reduce prompt leakage during A/B generation. + +## Main files + +- `data/task3_vlm_generation.jsonl` — primary model-facing records. +- `data/task3_cases_flat.jsonl` — compact case metadata for auditing. +- `metadata/build_summary.json` — build statistics and warnings. +- `review_metadata/task3_case_rationales.jsonl` — expert-only rationale/diagnostic metadata; do not feed this file to the evaluated VLM. +- `assets/images/` — optional rendered pages or explicitly supplied image files referenced by `images`. + +## Loading + +```python +from datasets import load_dataset +from huggingface_hub import snapshot_download +from pathlib import Path + +repo_id = "top-papers/top-papers-graph-benchmark" +ds = load_dataset(repo_id, "task3_vlm_generation", split="test") +repo_root = Path(snapshot_download(repo_id, repo_type="dataset")) +row = ds[0] +image_paths = [repo_root / rel for rel in row["images"]] +messages = row["messages"] +``` + +Each row follows the TRL-style multimodal convention used elsewhere in this repository: `messages` contains text and `{"type": "image"}` placeholders, while top-level `images` contains relative paths in the same order. + +## Build summary + +- Cases written: 182 +- Cases with images: 59 +- Manifests discovered: 20 +- Rendered PDF pages: 111 diff --git a/assets/images/0987c43afc/case-006/rendered_page_0001.png b/assets/images/0987c43afc/case-006/rendered_page_0001.png new file mode 100644 index 0000000000000000000000000000000000000000..4db4be86b6b2ad22905240d76d51bf2a9001ff02 --- /dev/null +++ b/assets/images/0987c43afc/case-006/rendered_page_0001.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:b5592b947c0d7915d30ba3faf8024f9b545940fd9a71f15ff3af304364855df8 +size 410461 diff --git a/assets/images/0987c43afc/case-006/rendered_page_0008.png b/assets/images/0987c43afc/case-006/rendered_page_0008.png new file mode 100644 index 0000000000000000000000000000000000000000..f2012accde5f6b86d4b08b3721a16ecc1d9f646c --- /dev/null +++ b/assets/images/0987c43afc/case-006/rendered_page_0008.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:d4840acd354ec662eeafed366fce7721cdf5f71f09414cbdae14badb42441e1b +size 494582 diff --git a/assets/images/0987c43afc/case-006/rendered_page_0019.png b/assets/images/0987c43afc/case-006/rendered_page_0019.png new file mode 100644 index 0000000000000000000000000000000000000000..5a9cb75ab757a8b0b9da096fc3cf8786378b0e64 --- /dev/null +++ b/assets/images/0987c43afc/case-006/rendered_page_0019.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:9005dba293cd9033a99283b1ed18531ce1a42688ce74190c5284a92acf504399 +size 357983 diff --git a/assets/images/0987c43afc/case-006/rendered_page_0020.png b/assets/images/0987c43afc/case-006/rendered_page_0020.png new file mode 100644 index 0000000000000000000000000000000000000000..d6e402785ce76325e161445e873a791203ca9851 --- /dev/null +++ b/assets/images/0987c43afc/case-006/rendered_page_0020.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:bf587dde3c2d340aa2d360dba65e9630eeff10e71b9e6284bb1f26f9fdcb8b95 +size 101526 diff --git a/assets/images/0987c43afc/case-007/rendered_page_0005.png b/assets/images/0987c43afc/case-007/rendered_page_0005.png new file mode 100644 index 0000000000000000000000000000000000000000..606b2e587206050f0bc5a64ab9ea81416dc864f2 --- /dev/null +++ b/assets/images/0987c43afc/case-007/rendered_page_0005.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:06420eda318f4c771c5df6aa87b55317819ab606325523cb1469f5a37d98b1f1 +size 430807 diff --git a/assets/images/0987c43afc/case-008/rendered_page_0006.png b/assets/images/0987c43afc/case-008/rendered_page_0006.png new file mode 100644 index 0000000000000000000000000000000000000000..b9abc74df80488d227d5e3762597975026accf40 --- /dev/null +++ b/assets/images/0987c43afc/case-008/rendered_page_0006.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:684bddd1a91cd5b7f788229f99c38d882f2428ee63888505c8845d5c61c0215e +size 462282 diff --git a/assets/images/0987c43afc/case-009/rendered_page_0007.png b/assets/images/0987c43afc/case-009/rendered_page_0007.png new file mode 100644 index 0000000000000000000000000000000000000000..2add23792d24bbe487d63b2f442d749349d145eb --- /dev/null +++ b/assets/images/0987c43afc/case-009/rendered_page_0007.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:fc40acf2ecc5fcb485d31db8018b204609428386adb70243bd13ed93fd1ae7ed +size 506578 diff --git a/assets/images/0987c43afc/case-015/rendered_page_0007.png b/assets/images/0987c43afc/case-015/rendered_page_0007.png new file mode 100644 index 0000000000000000000000000000000000000000..16ede319c212509945048572a213af6e025341c5 --- /dev/null +++ b/assets/images/0987c43afc/case-015/rendered_page_0007.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:c47e13e98f281bca7555ed6a6807da88eba5cffd2469b99bf9ce90c6f24aa052 +size 215525 diff --git a/assets/images/0987c43afc/case-015/rendered_page_0008.png b/assets/images/0987c43afc/case-015/rendered_page_0008.png new file mode 100644 index 0000000000000000000000000000000000000000..d9973ef0134824981746936c3c50289ee4790824 --- /dev/null +++ b/assets/images/0987c43afc/case-015/rendered_page_0008.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:910ecfff4f9923beaba6fc0963bcf04bc428912f4ff89177e600abf836d2b2b8 +size 296347 diff --git a/assets/images/0987c43afc/case-015/rendered_page_0009.png b/assets/images/0987c43afc/case-015/rendered_page_0009.png new file mode 100644 index 0000000000000000000000000000000000000000..54e90c60b6e1dcc9406fdc99c4e9980e564a15e4 --- /dev/null +++ b/assets/images/0987c43afc/case-015/rendered_page_0009.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:12acb2206855b1c54f34c682bbdcdbc1c709984da27b2e00b88122d4fd54a80f +size 341917 diff --git a/assets/images/0987c43afc/case-016/rendered_page_0010.png b/assets/images/0987c43afc/case-016/rendered_page_0010.png new file mode 100644 index 0000000000000000000000000000000000000000..5a0764f546b91ad1f4d6d7bed686ea7b8623b8e2 --- /dev/null +++ b/assets/images/0987c43afc/case-016/rendered_page_0010.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:18ae30a7ebf38aa6337fbfd841bc9c5335cc33981804a9ea90e46cc46fab8a34 +size 325391 diff --git a/assets/images/0987c43afc/case-017/rendered_page_0012.png b/assets/images/0987c43afc/case-017/rendered_page_0012.png new file mode 100644 index 0000000000000000000000000000000000000000..a1ac9871bfa69c1528d3474b319db0ebc9307806 --- /dev/null +++ b/assets/images/0987c43afc/case-017/rendered_page_0012.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:a592a8c352e7afb732a46631de1efe5e7ece6e6a88ae74942ccb19db612287e2 +size 339186 diff --git a/assets/images/598d6ea6b4/case-008/rendered_page_0001.png b/assets/images/598d6ea6b4/case-008/rendered_page_0001.png new file mode 100644 index 0000000000000000000000000000000000000000..503f131b91a844566f05327856d7211e106f119b --- /dev/null +++ b/assets/images/598d6ea6b4/case-008/rendered_page_0001.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:779060e3d86fe79b2155ab4fcd8ff7ca6974ca1d5d30dde903aa940482b49e36 +size 253563 diff --git a/assets/images/598d6ea6b4/case-008/rendered_page_0002.png b/assets/images/598d6ea6b4/case-008/rendered_page_0002.png new file mode 100644 index 0000000000000000000000000000000000000000..37c4e5950fa7a4221aeb418ee027582f9795b52d --- /dev/null +++ b/assets/images/598d6ea6b4/case-008/rendered_page_0002.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:adf6beb57da29d67bff8fd0e1a6c34e1ca1b6351fa7ff3b445a9074f0505ffb7 +size 252780 diff --git a/assets/images/598d6ea6b4/case-011/rendered_page_0001.png b/assets/images/598d6ea6b4/case-011/rendered_page_0001.png new file mode 100644 index 0000000000000000000000000000000000000000..503f131b91a844566f05327856d7211e106f119b --- /dev/null +++ b/assets/images/598d6ea6b4/case-011/rendered_page_0001.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:779060e3d86fe79b2155ab4fcd8ff7ca6974ca1d5d30dde903aa940482b49e36 +size 253563 diff --git a/assets/images/598d6ea6b4/case-012/rendered_page_0002.png b/assets/images/598d6ea6b4/case-012/rendered_page_0002.png new file mode 100644 index 0000000000000000000000000000000000000000..5af74cafd2a7cecda1cb076d4e37b261b0583503 --- /dev/null +++ b/assets/images/598d6ea6b4/case-012/rendered_page_0002.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:c215c99c0fd050b64ba0ff8ec8516ee628a20ce58017d5e522e38922eeeb40c4 +size 585881 diff --git a/assets/images/598d6ea6b4/case-012/rendered_page_0005.png b/assets/images/598d6ea6b4/case-012/rendered_page_0005.png new file mode 100644 index 0000000000000000000000000000000000000000..9c85225c7c2b43fd70863fee042ffe651da60bd8 --- /dev/null +++ b/assets/images/598d6ea6b4/case-012/rendered_page_0005.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:5b2a5baa19da566d3a17b4775b00821f794578fb0d9f6649af8168b32a94b64a +size 390772 diff --git a/assets/images/998d6715e8/case-001/rendered_page_0027.png b/assets/images/998d6715e8/case-001/rendered_page_0027.png new file mode 100644 index 0000000000000000000000000000000000000000..f22d325f3bd9a3dcc7cb90755402d22ff5a98cc7 --- /dev/null +++ b/assets/images/998d6715e8/case-001/rendered_page_0027.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:22454f91721bb8250defdce5ea5f44eb8e1cceecbeebb065b4c0f030c8f1bed7 +size 402087 diff --git a/assets/images/998d6715e8/case-002/rendered_page_0008.png b/assets/images/998d6715e8/case-002/rendered_page_0008.png new file mode 100644 index 0000000000000000000000000000000000000000..dd836cfa41d72a72a943271015864f9b1593af94 --- /dev/null +++ b/assets/images/998d6715e8/case-002/rendered_page_0008.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:ea680bd496ea9195b2cd843d9addd0c289f4f64a9f9fea63eb4163e79ab96aba +size 407676 diff --git a/assets/images/998d6715e8/case-003/rendered_page_0005.png b/assets/images/998d6715e8/case-003/rendered_page_0005.png new file mode 100644 index 0000000000000000000000000000000000000000..897d307e7cbacc9709ad25fa18d0593bc19fbe27 --- /dev/null +++ b/assets/images/998d6715e8/case-003/rendered_page_0005.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:655cf0ecb6f5c04b0bc7f51a53a9d6795b0e07e4cae421a631ff087395a52171 +size 440710 diff --git a/assets/images/998d6715e8/case-003/rendered_page_0006.png b/assets/images/998d6715e8/case-003/rendered_page_0006.png new file mode 100644 index 0000000000000000000000000000000000000000..0a5b5caddbf3aed762f062430711200e83eb8f56 --- /dev/null +++ b/assets/images/998d6715e8/case-003/rendered_page_0006.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:3b38d3de10589f3d6ab17a61df07ba532c16d0bf272eddaa98ca90689df9ab7f +size 499087 diff --git a/assets/images/998d6715e8/case-004/rendered_page_0009.png b/assets/images/998d6715e8/case-004/rendered_page_0009.png new file mode 100644 index 0000000000000000000000000000000000000000..2513ba7551b1bb8bd8d46dff3e4040c66a50679a --- /dev/null +++ b/assets/images/998d6715e8/case-004/rendered_page_0009.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:18e092f54e6c6bf5ded419d3befed12d9de86f7b5fa4d401f55c936b2bb25fe7 +size 507771 diff --git a/assets/images/998d6715e8/case-005/rendered_page_0018.png b/assets/images/998d6715e8/case-005/rendered_page_0018.png new file mode 100644 index 0000000000000000000000000000000000000000..ec46f3bee9a3790c505575b19135c4a2ea83922c --- /dev/null +++ b/assets/images/998d6715e8/case-005/rendered_page_0018.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:deba98682357b9d9d336e9a84fdc954ac569d601a72d2f9d7606c48525298f4c +size 236201 diff --git a/assets/images/998d6715e8/case-005/rendered_page_0019.png b/assets/images/998d6715e8/case-005/rendered_page_0019.png new file mode 100644 index 0000000000000000000000000000000000000000..c0f6fbd47c7c635ab040eede405b1f31212e9376 --- /dev/null +++ b/assets/images/998d6715e8/case-005/rendered_page_0019.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:543fe1601cff9f9b7ba19493682c3d7e13726d464a94cd99b3117b92cc05ce3c +size 197577 diff --git a/assets/images/998d6715e8/case-006/rendered_page_0007.png b/assets/images/998d6715e8/case-006/rendered_page_0007.png new file mode 100644 index 0000000000000000000000000000000000000000..6faddf3f4e2d06c0213ba3b300d6ab488c1cab7c --- /dev/null +++ b/assets/images/998d6715e8/case-006/rendered_page_0007.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:39c173bcea0d70f63507a74307599a16cbd71a58f2df1e252e00320a5da55d4c +size 385985 diff --git a/assets/images/998d6715e8/case-007/rendered_page_0005.png b/assets/images/998d6715e8/case-007/rendered_page_0005.png new file mode 100644 index 0000000000000000000000000000000000000000..a32cea0c4034778cca4d5f76c97acd6798d0d22b --- /dev/null +++ b/assets/images/998d6715e8/case-007/rendered_page_0005.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:7e1c479f1769ca0fca53c5b3f1abc203590690eca4e5ddabd93270fddf04efef +size 344908 diff --git a/assets/images/998d6715e8/case-007/rendered_page_0007.png b/assets/images/998d6715e8/case-007/rendered_page_0007.png new file mode 100644 index 0000000000000000000000000000000000000000..40d4e78f4eb1aac9e7f7dac95cd44f20eb4f2fbb --- /dev/null +++ b/assets/images/998d6715e8/case-007/rendered_page_0007.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:a5154ea3c639942dbc9183d0ebaf0312b18b654e562ce0d1b2ba2d92317c408b +size 383389 diff --git a/assets/images/998d6715e8/case-008/rendered_page_0016.png b/assets/images/998d6715e8/case-008/rendered_page_0016.png new file mode 100644 index 0000000000000000000000000000000000000000..ba018237cfcac77a327225ab3384695cd406ef83 --- /dev/null +++ b/assets/images/998d6715e8/case-008/rendered_page_0016.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:5a56c532c5482ca304ecc332d67fb5d96ef00d150bf52d5feaca33125abb5fd1 +size 496388 diff --git a/assets/images/998d6715e8/case-008/rendered_page_0017.png b/assets/images/998d6715e8/case-008/rendered_page_0017.png new file mode 100644 index 0000000000000000000000000000000000000000..39c65c84a11d0f10a6c8150db358ec7dbcaf3e0b --- /dev/null +++ b/assets/images/998d6715e8/case-008/rendered_page_0017.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:fe297d16148764e0dfaed2a014878cd71316dc699037d4cae88ee080e480588d +size 404581 diff --git a/assets/images/998d6715e8/case-009/rendered_page_0008.png b/assets/images/998d6715e8/case-009/rendered_page_0008.png new file mode 100644 index 0000000000000000000000000000000000000000..5a80e096676d739742fe9ebfe896ae3c27cdfd5e --- /dev/null +++ b/assets/images/998d6715e8/case-009/rendered_page_0008.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:8467747a6020d28f39c406b9e7e36859821431a7f1b23381fba66a7343769eb5 +size 460686 diff --git a/assets/images/998d6715e8/case-010/rendered_page_0037.png b/assets/images/998d6715e8/case-010/rendered_page_0037.png new file mode 100644 index 0000000000000000000000000000000000000000..6d34e5d5d2d42dd19fddb30fd5885d4a178022ba --- /dev/null +++ b/assets/images/998d6715e8/case-010/rendered_page_0037.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:57be785639a61f544fc99c38aaa77f632fc0ae789ab23bdb7e1ab2723b22fc11 +size 198680 diff --git a/assets/images/998d6715e8/case-010/rendered_page_0038.png b/assets/images/998d6715e8/case-010/rendered_page_0038.png new file mode 100644 index 0000000000000000000000000000000000000000..cc5a348a8c2848f357c818298fd44c0d96c11d52 --- /dev/null +++ b/assets/images/998d6715e8/case-010/rendered_page_0038.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:cf2e9f47278a01d88e38b3d5f0f8dfbfd09d9695425e43c1cffb536792b958c6 +size 202737 diff --git a/assets/images/998d6715e8/case-010/rendered_page_0039.png b/assets/images/998d6715e8/case-010/rendered_page_0039.png new file mode 100644 index 0000000000000000000000000000000000000000..d91313725fb042fd4a4044a302e86ed7b400930a --- /dev/null +++ b/assets/images/998d6715e8/case-010/rendered_page_0039.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:2121c584730c01d53dbe1a330c48b4ace8b9faac9d9556997c279647626af5e0 +size 142406 diff --git a/assets/images/998d6715e8/case-011/rendered_page_0024.png b/assets/images/998d6715e8/case-011/rendered_page_0024.png new file mode 100644 index 0000000000000000000000000000000000000000..5e07c0bb346dc158932a41183818238c7aa505f2 --- /dev/null +++ b/assets/images/998d6715e8/case-011/rendered_page_0024.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:b243f1809659a1a6eadc6670900688589c2a22366510966d03dcc6f756996f20 +size 354381 diff --git a/assets/images/df07798d94/case-001/rendered_page_0003.png b/assets/images/df07798d94/case-001/rendered_page_0003.png new file mode 100644 index 0000000000000000000000000000000000000000..139547a14fc33b59341c04df76515b45e8b72a62 --- /dev/null +++ b/assets/images/df07798d94/case-001/rendered_page_0003.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:9b3432179cff9df21b9b75aff612bbf87dd43daae9ba35c998fbd3451ad121f9 +size 386276 diff --git a/assets/images/df07798d94/case-001/rendered_page_0009.png b/assets/images/df07798d94/case-001/rendered_page_0009.png new file mode 100644 index 0000000000000000000000000000000000000000..dfab377aff289e9e496ea7a95fac9be0d07e1af0 --- /dev/null +++ b/assets/images/df07798d94/case-001/rendered_page_0009.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:749961c26092d0d319fef6117de5d8241446cfcf7b2b7bf65c864f5f76b1b5de +size 470832 diff --git a/assets/images/df07798d94/case-001/rendered_page_0010.png b/assets/images/df07798d94/case-001/rendered_page_0010.png new file mode 100644 index 0000000000000000000000000000000000000000..cc01b3ce318427958ef01ef376d895b79a81799f --- /dev/null +++ b/assets/images/df07798d94/case-001/rendered_page_0010.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:8e76d2e7600f067c8bf91370fc2b7a301cea81479ecfd0dfe8ad074362e5f151 +size 885306 diff --git a/assets/images/df07798d94/case-001/rendered_page_0012.png b/assets/images/df07798d94/case-001/rendered_page_0012.png new file mode 100644 index 0000000000000000000000000000000000000000..c3cc98bcc7557ef88547fa9935181b59f6bdca62 --- /dev/null +++ b/assets/images/df07798d94/case-001/rendered_page_0012.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:8bbae90e37567555560f465e60a465a744ab386b68e2b4968dab3d571f119577 +size 468565 diff --git a/assets/images/df07798d94/case-002/rendered_page_0004.png b/assets/images/df07798d94/case-002/rendered_page_0004.png new file mode 100644 index 0000000000000000000000000000000000000000..dc667eae62e80017a3923c0d2219f5c629d697ce --- /dev/null +++ b/assets/images/df07798d94/case-002/rendered_page_0004.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:f079c67b81d4ae21b05e7e3182f876c37388af0048fbdc2a4c627c3ee3607301 +size 454501 diff --git a/assets/images/df07798d94/case-002/rendered_page_0025.png b/assets/images/df07798d94/case-002/rendered_page_0025.png new file mode 100644 index 0000000000000000000000000000000000000000..8adb1b32c2322200decfa87a6899e372faf1c3a7 --- /dev/null +++ b/assets/images/df07798d94/case-002/rendered_page_0025.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:e9d97faf21d6008981b53b9b836d6d2b91c9bde7c1b7104f754f326513413bc6 +size 166558 diff --git a/assets/images/df07798d94/case-002/rendered_page_0028.png b/assets/images/df07798d94/case-002/rendered_page_0028.png new file mode 100644 index 0000000000000000000000000000000000000000..c778a31ed3b2708e4135e94bdce90425c8db9f3b --- /dev/null +++ b/assets/images/df07798d94/case-002/rendered_page_0028.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:160cf1eea5d0cc37aea18d4d9e9f64e0fbc5e444bb494353175298acfe94fbb6 +size 87720 diff --git a/assets/images/df07798d94/case-003/rendered_page_0003.png b/assets/images/df07798d94/case-003/rendered_page_0003.png new file mode 100644 index 0000000000000000000000000000000000000000..015af14fbff85e9727e319ffa2d0fd7a6800fa54 --- /dev/null +++ b/assets/images/df07798d94/case-003/rendered_page_0003.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:5fcb547942ae102912b978d31b173b2d4dfc5d39c9e9d7acc70d2fce7a6e3dc4 +size 662929 diff --git a/assets/images/df07798d94/case-003/rendered_page_0014.png b/assets/images/df07798d94/case-003/rendered_page_0014.png new file mode 100644 index 0000000000000000000000000000000000000000..92e78fbda8b92a728c96dbeaff122be4ee391d83 --- /dev/null +++ b/assets/images/df07798d94/case-003/rendered_page_0014.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:da5bef6452f2388dcedb57885d9e84ece356209e14b3edb2c494d7908e1ad0aa +size 387696 diff --git a/assets/images/df07798d94/case-004/rendered_page_0007.png b/assets/images/df07798d94/case-004/rendered_page_0007.png new file mode 100644 index 0000000000000000000000000000000000000000..554d517ece40f4ad0ae9f73cc608568f268f988a --- /dev/null +++ b/assets/images/df07798d94/case-004/rendered_page_0007.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:f2dfe242d863b26719288523610e96b3355f81c54b0f3eaa6411d32370a2296c +size 1207195 diff --git a/assets/images/df07798d94/case-005/rendered_page_0002.png b/assets/images/df07798d94/case-005/rendered_page_0002.png new file mode 100644 index 0000000000000000000000000000000000000000..64268c7d7cae82e62a597e0974d4177635a951cb --- /dev/null +++ b/assets/images/df07798d94/case-005/rendered_page_0002.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:9392e2670dc80be328585428bd4c55b6b1d3c2854d6fc8f0f6dd3922e2ae9e49 +size 390825 diff --git a/assets/images/df07798d94/case-006/rendered_page_0018.png b/assets/images/df07798d94/case-006/rendered_page_0018.png new file mode 100644 index 0000000000000000000000000000000000000000..c5295ef4cc712f3396089f444d8e7dddee5c38d8 --- /dev/null +++ b/assets/images/df07798d94/case-006/rendered_page_0018.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:695acdecad0f35d092e909282a7d79cb5a4d1443b1d320180ac8585bee795319 +size 902183 diff --git a/assets/images/fred-westling__4e51465083/case-001/rendered_page_0002.png b/assets/images/fred-westling__4e51465083/case-001/rendered_page_0002.png new file mode 100644 index 0000000000000000000000000000000000000000..85d7ac2b457d8144c8285ae6fc806444fb0f9cce --- /dev/null +++ b/assets/images/fred-westling__4e51465083/case-001/rendered_page_0002.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:5f27872844bb33410c4dbac40b37fcbadefd9060beada9e57f48e1034fc719ee +size 533142 diff --git a/assets/images/fred-westling__4e51465083/case-001/rendered_page_0006.png b/assets/images/fred-westling__4e51465083/case-001/rendered_page_0006.png new file mode 100644 index 0000000000000000000000000000000000000000..a1c88d283fe90cc2bce16b01c3669cc31817730a --- /dev/null +++ b/assets/images/fred-westling__4e51465083/case-001/rendered_page_0006.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:05d557731fcb641df24b52b33f5595ad1331d2bb180cb2e2347c5027028ab60b +size 471383 diff --git a/assets/images/fred-westling__4e51465083/case-001/rendered_page_0007.png b/assets/images/fred-westling__4e51465083/case-001/rendered_page_0007.png new file mode 100644 index 0000000000000000000000000000000000000000..1fbc39cd2f01080074c540aded704b6a46b8b779 --- /dev/null +++ b/assets/images/fred-westling__4e51465083/case-001/rendered_page_0007.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:09b534dc278e9594356b6474005de2e1a2e099b176ae11d9deeb8b8197d322e7 +size 792811 diff --git a/assets/images/fred-westling__4e51465083/case-001/rendered_page_0008.png b/assets/images/fred-westling__4e51465083/case-001/rendered_page_0008.png new file mode 100644 index 0000000000000000000000000000000000000000..a9f3d2912f308c90aa33eb215c77228192024495 --- /dev/null +++ b/assets/images/fred-westling__4e51465083/case-001/rendered_page_0008.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:0e974a3ca5179ba0efe757eb45a37c61c6c49e9d1ff70307b270bb117f75786f +size 418107 diff --git a/assets/images/fred-westling__4e51465083/case-002/rendered_page_0002.png b/assets/images/fred-westling__4e51465083/case-002/rendered_page_0002.png new file mode 100644 index 0000000000000000000000000000000000000000..85d7ac2b457d8144c8285ae6fc806444fb0f9cce --- /dev/null +++ b/assets/images/fred-westling__4e51465083/case-002/rendered_page_0002.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:5f27872844bb33410c4dbac40b37fcbadefd9060beada9e57f48e1034fc719ee +size 533142 diff --git a/assets/images/fred-westling__4e51465083/case-002/rendered_page_0003.png b/assets/images/fred-westling__4e51465083/case-002/rendered_page_0003.png new file mode 100644 index 0000000000000000000000000000000000000000..343cb8ea758fa52e10c8049e5dbc33c8f2251618 --- /dev/null +++ b/assets/images/fred-westling__4e51465083/case-002/rendered_page_0003.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:b5884cc93de654e5b025cd91c78356de4275bb7cb7f63755172338c0bfa2eefc +size 418148 diff --git a/assets/images/fred-westling__4e51465083/case-003/rendered_page_0002.png b/assets/images/fred-westling__4e51465083/case-003/rendered_page_0002.png new file mode 100644 index 0000000000000000000000000000000000000000..85d7ac2b457d8144c8285ae6fc806444fb0f9cce --- /dev/null +++ b/assets/images/fred-westling__4e51465083/case-003/rendered_page_0002.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:5f27872844bb33410c4dbac40b37fcbadefd9060beada9e57f48e1034fc719ee +size 533142 diff --git a/assets/images/fred-westling__4e51465083/case-003/rendered_page_0003.png b/assets/images/fred-westling__4e51465083/case-003/rendered_page_0003.png new file mode 100644 index 0000000000000000000000000000000000000000..343cb8ea758fa52e10c8049e5dbc33c8f2251618 --- /dev/null +++ b/assets/images/fred-westling__4e51465083/case-003/rendered_page_0003.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:b5884cc93de654e5b025cd91c78356de4275bb7cb7f63755172338c0bfa2eefc +size 418148 diff --git a/assets/images/fred-westling__4e51465083/case-004/rendered_page_0004.png b/assets/images/fred-westling__4e51465083/case-004/rendered_page_0004.png new file mode 100644 index 0000000000000000000000000000000000000000..ff66fc8d17d14d1805cbcaa1eecbb7d1e3f94ab0 --- /dev/null +++ b/assets/images/fred-westling__4e51465083/case-004/rendered_page_0004.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:1f5e881b81dee191e86de563f23a2a3eb19ecbf64da2cd8f539bf28d70f90e76 +size 629918 diff --git a/assets/images/fred-westling__4e51465083/case-005/rendered_page_0004.png b/assets/images/fred-westling__4e51465083/case-005/rendered_page_0004.png new file mode 100644 index 0000000000000000000000000000000000000000..ff66fc8d17d14d1805cbcaa1eecbb7d1e3f94ab0 --- /dev/null +++ b/assets/images/fred-westling__4e51465083/case-005/rendered_page_0004.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:1f5e881b81dee191e86de563f23a2a3eb19ecbf64da2cd8f539bf28d70f90e76 +size 629918 diff --git a/assets/images/fred-westling__4e51465083/case-005/rendered_page_0005.png b/assets/images/fred-westling__4e51465083/case-005/rendered_page_0005.png new file mode 100644 index 0000000000000000000000000000000000000000..c4f88e2b5e63c483e4845594d31793225ad8cfaf --- /dev/null +++ b/assets/images/fred-westling__4e51465083/case-005/rendered_page_0005.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:3dd5604e712bad189591aacddf5edce5d281b53cb91796dc7b7727686a271970 +size 1269730 diff --git a/assets/images/fred-westling__4e51465083/case-006/rendered_page_0004.png b/assets/images/fred-westling__4e51465083/case-006/rendered_page_0004.png new file mode 100644 index 0000000000000000000000000000000000000000..ff66fc8d17d14d1805cbcaa1eecbb7d1e3f94ab0 --- /dev/null +++ b/assets/images/fred-westling__4e51465083/case-006/rendered_page_0004.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:1f5e881b81dee191e86de563f23a2a3eb19ecbf64da2cd8f539bf28d70f90e76 +size 629918 diff --git a/assets/images/fred-westling__4e51465083/case-006/rendered_page_0005.png b/assets/images/fred-westling__4e51465083/case-006/rendered_page_0005.png new file mode 100644 index 0000000000000000000000000000000000000000..c4f88e2b5e63c483e4845594d31793225ad8cfaf --- /dev/null +++ b/assets/images/fred-westling__4e51465083/case-006/rendered_page_0005.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:3dd5604e712bad189591aacddf5edce5d281b53cb91796dc7b7727686a271970 +size 1269730 diff --git a/assets/images/fred-westling__4e51465083/case-006/rendered_page_0009.png b/assets/images/fred-westling__4e51465083/case-006/rendered_page_0009.png new file mode 100644 index 0000000000000000000000000000000000000000..422d5ad540b616f534a72e42db33ed950e897660 --- /dev/null +++ b/assets/images/fred-westling__4e51465083/case-006/rendered_page_0009.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:9c0ed56a5e2d44c5d2b90fa060c20fa25b28c636b4bd4a17c411f85c8e9a25db +size 596142 diff --git a/assets/images/fred-westling__4e51465083/case-007/rendered_page_0004.png b/assets/images/fred-westling__4e51465083/case-007/rendered_page_0004.png new file mode 100644 index 0000000000000000000000000000000000000000..ff66fc8d17d14d1805cbcaa1eecbb7d1e3f94ab0 --- /dev/null +++ b/assets/images/fred-westling__4e51465083/case-007/rendered_page_0004.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:1f5e881b81dee191e86de563f23a2a3eb19ecbf64da2cd8f539bf28d70f90e76 +size 629918 diff --git a/assets/images/fred-westling__4e51465083/case-007/rendered_page_0006.png b/assets/images/fred-westling__4e51465083/case-007/rendered_page_0006.png new file mode 100644 index 0000000000000000000000000000000000000000..a1c88d283fe90cc2bce16b01c3669cc31817730a --- /dev/null +++ b/assets/images/fred-westling__4e51465083/case-007/rendered_page_0006.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:05d557731fcb641df24b52b33f5595ad1331d2bb180cb2e2347c5027028ab60b +size 471383 diff --git a/assets/images/fred-westling__4e51465083/case-008/rendered_page_0006.png b/assets/images/fred-westling__4e51465083/case-008/rendered_page_0006.png new file mode 100644 index 0000000000000000000000000000000000000000..a1c88d283fe90cc2bce16b01c3669cc31817730a --- /dev/null +++ b/assets/images/fred-westling__4e51465083/case-008/rendered_page_0006.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:05d557731fcb641df24b52b33f5595ad1331d2bb180cb2e2347c5027028ab60b +size 471383 diff --git a/assets/images/fred-westling__4e51465083/case-008/rendered_page_0007.png b/assets/images/fred-westling__4e51465083/case-008/rendered_page_0007.png new file mode 100644 index 0000000000000000000000000000000000000000..1fbc39cd2f01080074c540aded704b6a46b8b779 --- /dev/null +++ b/assets/images/fred-westling__4e51465083/case-008/rendered_page_0007.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:09b534dc278e9594356b6474005de2e1a2e099b176ae11d9deeb8b8197d322e7 +size 792811 diff --git a/assets/images/fred-westling__4e51465083/case-009/rendered_page_0011.png b/assets/images/fred-westling__4e51465083/case-009/rendered_page_0011.png new file mode 100644 index 0000000000000000000000000000000000000000..8edce82a59652a021d29f9d0cccdeaf8eef374d5 --- /dev/null +++ b/assets/images/fred-westling__4e51465083/case-009/rendered_page_0011.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:8204a280ab51fd171687d741171ceb7db3bd52dc9d27447a18b4fbdca2ca349a +size 569951 diff --git a/assets/images/fred-westling__4e51465083/case-010/rendered_page_0008.png b/assets/images/fred-westling__4e51465083/case-010/rendered_page_0008.png new file mode 100644 index 0000000000000000000000000000000000000000..a9f3d2912f308c90aa33eb215c77228192024495 --- /dev/null +++ b/assets/images/fred-westling__4e51465083/case-010/rendered_page_0008.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:0e974a3ca5179ba0efe757eb45a37c61c6c49e9d1ff70307b270bb117f75786f +size 418107 diff --git a/assets/images/fred-westling__4e51465083/case-010/rendered_page_0009.png b/assets/images/fred-westling__4e51465083/case-010/rendered_page_0009.png new file mode 100644 index 0000000000000000000000000000000000000000..422d5ad540b616f534a72e42db33ed950e897660 --- /dev/null +++ b/assets/images/fred-westling__4e51465083/case-010/rendered_page_0009.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:9c0ed56a5e2d44c5d2b90fa060c20fa25b28c636b4bd4a17c411f85c8e9a25db +size 596142 diff --git a/assets/images/fred-westling__4e51465083/case-011/rendered_page_0008.png b/assets/images/fred-westling__4e51465083/case-011/rendered_page_0008.png new file mode 100644 index 0000000000000000000000000000000000000000..a9f3d2912f308c90aa33eb215c77228192024495 --- /dev/null +++ b/assets/images/fred-westling__4e51465083/case-011/rendered_page_0008.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:0e974a3ca5179ba0efe757eb45a37c61c6c49e9d1ff70307b270bb117f75786f +size 418107 diff --git a/assets/images/fred-westling__4e51465083/case-012/rendered_page_0003.png b/assets/images/fred-westling__4e51465083/case-012/rendered_page_0003.png new file mode 100644 index 0000000000000000000000000000000000000000..343cb8ea758fa52e10c8049e5dbc33c8f2251618 --- /dev/null +++ b/assets/images/fred-westling__4e51465083/case-012/rendered_page_0003.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:b5884cc93de654e5b025cd91c78356de4275bb7cb7f63755172338c0bfa2eefc +size 418148 diff --git a/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-001/rendered_page_0002.png b/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-001/rendered_page_0002.png new file mode 100644 index 0000000000000000000000000000000000000000..a41a5473e98f2549c2d569db2479f5ef70456004 --- /dev/null +++ b/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-001/rendered_page_0002.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:25f7f0119ffcc88bdcd48e2b2f239bcea3a5e729575e37fd52a5186d8b983e80 +size 569307 diff --git a/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-002/rendered_page_0003.png b/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-002/rendered_page_0003.png new file mode 100644 index 0000000000000000000000000000000000000000..839625650d288e11cbaf6d993f6a339e04f7bbab --- /dev/null +++ b/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-002/rendered_page_0003.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:2b79f22f3f818b839467e560e2c962c855dcdd76f635d3997a4d21653c5e97d4 +size 641484 diff --git a/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-003/rendered_page_0003.png b/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-003/rendered_page_0003.png new file mode 100644 index 0000000000000000000000000000000000000000..839625650d288e11cbaf6d993f6a339e04f7bbab --- /dev/null +++ b/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-003/rendered_page_0003.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:2b79f22f3f818b839467e560e2c962c855dcdd76f635d3997a4d21653c5e97d4 +size 641484 diff --git a/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-004/rendered_page_0004.png b/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-004/rendered_page_0004.png new file mode 100644 index 0000000000000000000000000000000000000000..2d9f48ba95bb2eef1a5ffcaa91d63d3f89e8ff8e --- /dev/null +++ b/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-004/rendered_page_0004.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:8a4a8efb83dbd127dce8e134ec3fe9b54382f9b7b8e85299a60a568b8a255a2e +size 519757 diff --git a/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-005/rendered_page_0005.png b/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-005/rendered_page_0005.png new file mode 100644 index 0000000000000000000000000000000000000000..fe18093e787a0183a49f7f670d525120a230df38 --- /dev/null +++ b/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-005/rendered_page_0005.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:101f9447798eaa39b0c152cbc9a123e66317ab91fa068fe3b3dbd958db59daa2 +size 465678 diff --git a/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-006/rendered_page_0006.png b/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-006/rendered_page_0006.png new file mode 100644 index 0000000000000000000000000000000000000000..599e6d1e297207324ba6727f90ba3bc242ffcfee --- /dev/null +++ b/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-006/rendered_page_0006.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:e859c8bca4962864b6ce6e552b10e39d4b749cdacb75f84ce903a42ae644352b +size 447868 diff --git a/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-007/rendered_page_0006.png b/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-007/rendered_page_0006.png new file mode 100644 index 0000000000000000000000000000000000000000..599e6d1e297207324ba6727f90ba3bc242ffcfee --- /dev/null +++ b/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-007/rendered_page_0006.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:e859c8bca4962864b6ce6e552b10e39d4b749cdacb75f84ce903a42ae644352b +size 447868 diff --git a/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-010/rendered_page_0002.png b/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-010/rendered_page_0002.png new file mode 100644 index 0000000000000000000000000000000000000000..a41a5473e98f2549c2d569db2479f5ef70456004 --- /dev/null +++ b/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-010/rendered_page_0002.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:25f7f0119ffcc88bdcd48e2b2f239bcea3a5e729575e37fd52a5186d8b983e80 +size 569307 diff --git a/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-011/rendered_page_0003.png b/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-011/rendered_page_0003.png new file mode 100644 index 0000000000000000000000000000000000000000..839625650d288e11cbaf6d993f6a339e04f7bbab --- /dev/null +++ b/assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-011/rendered_page_0003.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:2b79f22f3f818b839467e560e2c962c855dcdd76f635d3997a4d21653c5e97d4 +size 641484 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-001/rendered_page_0008.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-001/rendered_page_0008.png new file mode 100644 index 0000000000000000000000000000000000000000..b91d37fb8c731f428e34ea2565b8d901f24674bb --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-001/rendered_page_0008.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:b974cb2a457f8f95885d07cb1c6c0b8dc28c40475af51cf649e3053e6809b07b +size 480950 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-001/rendered_page_0009.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-001/rendered_page_0009.png new file mode 100644 index 0000000000000000000000000000000000000000..c23ea93b9f4cdc40d72c8dd8a0453c8a91768d58 --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-001/rendered_page_0009.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:e961965103314ad4762b45a1ac0c7c3eefada3d7a9cd663e15287f2d0151303a +size 411855 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-001/rendered_page_0027.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-001/rendered_page_0027.png new file mode 100644 index 0000000000000000000000000000000000000000..4d93cea20d1f51766793bf517887a2d98e4abf17 --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-001/rendered_page_0027.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:b8dbdd93728f261caafebc3e796d1a82730d9e611f48590f4e671f8a06b5283d +size 375235 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-001/rendered_page_0034.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-001/rendered_page_0034.png new file mode 100644 index 0000000000000000000000000000000000000000..416d4ac0d6d2f1127e07f32b45b3168d31a5f3cb --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-001/rendered_page_0034.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:62677e5738abdd44fd1f719aab7198afec571a9daab7d65ecfe3aae940eb6f40 +size 276120 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-002/rendered_page_0003.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-002/rendered_page_0003.png new file mode 100644 index 0000000000000000000000000000000000000000..efb238647ddc08bf9b770cca932ae8204bd9c584 --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-002/rendered_page_0003.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:fa3e91d65bbb6674f58723424e805c5ff8a990a560d9f36629e33d66e84b4a27 +size 523379 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-002/rendered_page_0021.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-002/rendered_page_0021.png new file mode 100644 index 0000000000000000000000000000000000000000..e336ea9195f6869c534a1ce4c6775cacff5361eb --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-002/rendered_page_0021.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:9918c562ff1a72f170ab9249d11fc169201d001c54035a347c71e20a67464fe5 +size 293531 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-002/rendered_page_0022.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-002/rendered_page_0022.png new file mode 100644 index 0000000000000000000000000000000000000000..0abc986dd4b306186563ffa5dafc0c0080808405 --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-002/rendered_page_0022.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:27a1d0436d9c5dc7c6a10cf47b13e4c41631222ff5ed37e5002da261e5c9fa4a +size 202757 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-002/rendered_page_0031.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-002/rendered_page_0031.png new file mode 100644 index 0000000000000000000000000000000000000000..817d44f236085e1f41a2b14efe13191d7c0cd697 --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-002/rendered_page_0031.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:ae133f395e2c1547573d58a5c6a55c670731a843c45b3c78bcea7c7e1c695166 +size 337611 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-003/rendered_page_0008.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-003/rendered_page_0008.png new file mode 100644 index 0000000000000000000000000000000000000000..dc0f69adb53301e6dd671594996d7fbd85a4d997 --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-003/rendered_page_0008.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:181addc819f9ed860d81042341c6504588cc4c471107c4f319a6874f7893757d +size 277577 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-003/rendered_page_0012.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-003/rendered_page_0012.png new file mode 100644 index 0000000000000000000000000000000000000000..471ceeb79b2e20f52a88a21843d93b2a205823fd --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-003/rendered_page_0012.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:d220f55d3a0440635b32c304952d0700217911d6a26c4f9a70d0e5ebccfc0156 +size 319023 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-003/rendered_page_0013.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-003/rendered_page_0013.png new file mode 100644 index 0000000000000000000000000000000000000000..70d72bc017664950c3f25b371493735ecab89fb7 --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-003/rendered_page_0013.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:1f781cd22736e430c7336c97ea98f19a7061107ac6f8a3ae716e88c3bb516263 +size 361213 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-003/rendered_page_0014.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-003/rendered_page_0014.png new file mode 100644 index 0000000000000000000000000000000000000000..4ab3fdc365fd9a3c84209606bfebd7d0bcb78151 --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-003/rendered_page_0014.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:11dd6380f3495f80bbb23823acff0ac8fd8781910e2377d81b00a7275f91a00e +size 281208 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-004/rendered_page_0004.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-004/rendered_page_0004.png new file mode 100644 index 0000000000000000000000000000000000000000..64b6e8183cd13774c10eb8e40c361d7862fa98a2 --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-004/rendered_page_0004.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:ffd525e777bccdb33facdab05fb27602e85cd87057514c73dddf7678d4cd2b06 +size 372317 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-004/rendered_page_0006.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-004/rendered_page_0006.png new file mode 100644 index 0000000000000000000000000000000000000000..772512243ee9799d6636d367c60475d049fa0277 --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-004/rendered_page_0006.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:848de98eb43f9b75003b9325d2199e88ef5813a443bd17ebecbeb50036501257 +size 323285 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-005/rendered_page_0009.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-005/rendered_page_0009.png new file mode 100644 index 0000000000000000000000000000000000000000..11e1f9630da1167c3afe8e8c23bda69303bf9565 --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-005/rendered_page_0009.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:a97c5f4f9865e2fc3fac3be3b90a26f17db8666f4083b369f158aa65705791e9 +size 296372 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-006/rendered_page_0001.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-006/rendered_page_0001.png new file mode 100644 index 0000000000000000000000000000000000000000..e3749219146f141637a353c607a9eb8da000142a --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-006/rendered_page_0001.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:cbaf67949bf0bbe5afa9a5f2423032954281edb49378885a1f250a47187dcb05 +size 404192 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-007/rendered_page_0008.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-007/rendered_page_0008.png new file mode 100644 index 0000000000000000000000000000000000000000..589a37809db2c84443d5b473bfebbe821fe8ff27 --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-007/rendered_page_0008.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:acef9015606f408154fa2ed533ef71a375fac18968eba063826b7689d9cc06c7 +size 388566 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-007/rendered_page_0011.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-007/rendered_page_0011.png new file mode 100644 index 0000000000000000000000000000000000000000..8e1d57f6f4b046f7e7d75470a12aa7fcab916083 --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-007/rendered_page_0011.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:d541215cd6d09ca9cc53b5c2a4146bda4478b157a452055dfbbec8f9563d7f17 +size 425131 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-007/rendered_page_0012.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-007/rendered_page_0012.png new file mode 100644 index 0000000000000000000000000000000000000000..8d9c80809ca6d0048387c7204659912eaf3d13ae --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-007/rendered_page_0012.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:9d002c45fb5ea1e6407c684ab006dde332a1aa1de1ad6d21e1701ccb1b2b48ab +size 317968 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-009/rendered_page_0009.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-009/rendered_page_0009.png new file mode 100644 index 0000000000000000000000000000000000000000..ea179eed1a6035c742ffa15d244829e5b5af5ecf --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-009/rendered_page_0009.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:7467dc855f3085bfdd5b0b86745187d9e6d004fb7789b1d8dd13f228468bb45c +size 321454 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-009/rendered_page_0010.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-009/rendered_page_0010.png new file mode 100644 index 0000000000000000000000000000000000000000..961c0224c78baeee8e69972e2f88f7379c0dcc5e --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-009/rendered_page_0010.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:cc3f26e2724fd23242045885684bc6a49f3e18a9d5becf7e9d997255f454f382 +size 407209 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-009/rendered_page_0023.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-009/rendered_page_0023.png new file mode 100644 index 0000000000000000000000000000000000000000..b58c81b83e0c20db6a44927ad75a422928d764c6 --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-009/rendered_page_0023.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:2c48a2a292c1b216857bcbbb80c58052059d2c2800eaa734cda9b49990d31739 +size 294647 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-009/rendered_page_0026.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-009/rendered_page_0026.png new file mode 100644 index 0000000000000000000000000000000000000000..4a091fc56b843a16a536474fa8877f9902b99e5e --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-009/rendered_page_0026.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:549aad44795c8782e085604b1b90505da7c4a4008b215b161cecf23a3b2bd075 +size 427808 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-010/rendered_page_0002.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-010/rendered_page_0002.png new file mode 100644 index 0000000000000000000000000000000000000000..f506ef525c634c5a2276a5c8b6b38e824ceb8ba6 --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-010/rendered_page_0002.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:80d3464141b4259338fec7f258925a39a952ddaf5f513e5e22e9c7db4b9ac703 +size 451201 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-010/rendered_page_0003.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-010/rendered_page_0003.png new file mode 100644 index 0000000000000000000000000000000000000000..1d8882ae0b7cd2fe35450db881b2658d81e05378 --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-010/rendered_page_0003.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:44c389931c11f849756a7b3e39da92c0c7e2407bafa210ec602a28635c48f69c +size 485373 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-010/rendered_page_0027.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-010/rendered_page_0027.png new file mode 100644 index 0000000000000000000000000000000000000000..842a8d3e5f1422bc5e2690baedcab3c54839ddb6 --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-010/rendered_page_0027.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:0d6fadc33c7a035456de793d84b916f661114d9d1def1aa10548ad5c568acea7 +size 330723 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-010/rendered_page_0028.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-010/rendered_page_0028.png new file mode 100644 index 0000000000000000000000000000000000000000..9d7162ad88b45f7f8984528dc5678026f6231764 --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-010/rendered_page_0028.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:0d14cf81bfce1ad44a96e04ff14aff1fdf147b59b1a962c42998433ec559ea23 +size 96446 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-011/rendered_page_0006.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-011/rendered_page_0006.png new file mode 100644 index 0000000000000000000000000000000000000000..bc46ef9ea25c8807d6685c14f170c569558f113d --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-011/rendered_page_0006.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:e21b3b44b53abcdbdbf2dd0210dccddded1d3f8372a230a882331a84cee5a1e8 +size 519168 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-011/rendered_page_0011.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-011/rendered_page_0011.png new file mode 100644 index 0000000000000000000000000000000000000000..a61f352b0f6037a90a53dcd8b036d68cb643c07f --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-011/rendered_page_0011.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:505451ba02599d24e54a5a8ce51a6544b26e7194d59426324dfe005f7aee6b91 +size 369600 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-011/rendered_page_0012.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-011/rendered_page_0012.png new file mode 100644 index 0000000000000000000000000000000000000000..bd6366be431c9b8e4adc56e9b6a6bbd5ad940c6a --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-011/rendered_page_0012.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:daf56581d8936e20ca6313ce4cf4617b420118cbafa6da4bf9d3589ed9e8f063 +size 547501 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-011/rendered_page_0013.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-011/rendered_page_0013.png new file mode 100644 index 0000000000000000000000000000000000000000..51db8d6b5a0711dd972cbc4eaf131ed2671fd29a --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-011/rendered_page_0013.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:5bec4ba64d75dd99cb3d6e14e35419565f2de7e1c72ade2c3d6044e72f53d9a6 +size 431629 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-012/rendered_page_0009.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-012/rendered_page_0009.png new file mode 100644 index 0000000000000000000000000000000000000000..a23039775b8503d59f2c2827d61748cc5ff47244 --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-012/rendered_page_0009.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:cfcb154367773bab7cfc47c62ef3eb1bac57100d358c0e2caf67935bfa3f086d +size 259044 diff --git a/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-012/rendered_page_0010.png b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-012/rendered_page_0010.png new file mode 100644 index 0000000000000000000000000000000000000000..c4362f286ea654294a7093efc752ff61f4c3015d --- /dev/null +++ b/assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-012/rendered_page_0010.png @@ -0,0 +1,3 @@ +version https://git-lfs.github.com/spec/v1 +oid sha256:d8f987eeb2d073ce09b169145147f6e092bd5ab84a703ffae7cd12b5aed88511 +size 234023 diff --git a/data/task3_cases_flat.jsonl b/data/task3_cases_flat.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..ea0ab0523ae0f41e00549b94c7b82e03b63cefa9 --- /dev/null +++ b/data/task3_cases_flat.jsonl @@ -0,0 +1,210 @@ +{"submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Ordering, Metastability and Phase Transitions in Two-Dimensional Systems", "paper_id": "DOI:10.1088/0022-3719/6/7/010", "year": "1973", "evidence_kind": "figure_or_table", "page_hint": "p.1191–1192, Fig.1 & Fig.2", "creator_prompt": "Сравните, какой вариант точнее интерпретирует рисунки 1 и 2 (стр. 1191–1192): извлеките связь между направлением обхода замкнутого контура и величиной топологического заряда q, и проверьте, не теряется ли эта визуальная закономерность в hypothesis support.", "model_task_prompt": "Сравните, какой вариант точнее интерпретирует рисунки 1 и 2 (стр. 1191–1192): извлеките связь между направлением обхода замкнутого контура и величиной топологического заряда q, и проверьте, не теряется ли эта визуальная закономерность в hypothesis support.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Quasicrystalline structures in strongly coupled dusty plasma", "paper_id": "DOI:10.1070/PU1997v040n11ABEH000308", "year": "1977", "evidence_kind": "figure", "page_hint": "p.1166, Fig.4", "creator_prompt": "Сравните, какой вариант точнее извлекает данные из графика на рис. 4 (стр. 1165): определите, какая кривая соответствует переходу от “газообразного” к “жидкоподобному” состоянию, и проверьте, правильно ли модель связывает появление пика g(r) с указанным в тексте значением параметра связи Γ = 40.", "model_task_prompt": "Сравните, какой вариант точнее извлекает данные из графика на рис. 4 (стр. 1165): определите, какая кривая соответствует переходу от “газообразного” к “жидкоподобному” состоянию, и проверьте, правильно ли модель связывает появление пика g(r) с указанным в тексте значением параметра связи Γ = 40.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Quasicrystalline structures in strongly coupled dusty plasma", "paper_id": "DOI:10.1070/PU1997v040n11ABEH000308", "year": "1977", "evidence_kind": "figure_or_table", "page_hint": "p.1166, Fig.5", "creator_prompt": "Сравните, какой вариант вернее интерпретирует фазовую диаграмму на рис. 5 (стр. 1166): извлеките координаты экспериментальных точек в логарифмическом масштабе осей, определите, относительно каких теоретических кривых они лежат, и проверьте, не нарушается ли при этом условие образования упорядоченных структур, описанное в тексте.", "model_task_prompt": "Сравните, какой вариант вернее интерпретирует фазовую диаграмму на рис. 5 (стр. 1166): извлеките координаты экспериментальных точек в логарифмическом масштабе осей, определите, относительно каких теоретических кривых они лежат, и проверьте, не нарушается ли при этом условие образования упорядоченных структур, описанное в тексте.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Melting dynamics of a plasma crystal", "paper_id": "DOI:10.1038/379806a0", "year": "1996", "evidence_kind": "figure", "page_hint": "p. 809, Fig. 3", "creator_prompt": "Сравните, какой вариант точнее считывает график на рис. 3: определите давление газа (0.32 мбар), при котором ориентационный порядок демонстрирует локальный максимум, в то время как трансляционный порядок продолжает монотонно падать.", "model_task_prompt": "Сравните, какой вариант точнее считывает график на рис. 3: определите давление газа (0.32 мбар), при котором ориентационный порядок демонстрирует локальный максимум, в то время как трансляционный порядок продолжает монотонно падать.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Plasma Crystal: Coulomb Crystallization in a Dusty Plasma", "paper_id": "DOI: https://doi.org/10.1103/PhysRevLett.73.652", "year": "1994", "evidence_kind": "figure", "page_hint": "p. 653, Fig. 4", "creator_prompt": "Сравните три гистограммы на рис. 4 (стр. 653): определите, какое из распределений (площадь ячеек, число сторон или расстояние до соседа) наиболее чётко отличает экспериментальные данные (чёрные столбцы) от случайного распределения (белые), и проверьте, сохраняет ли модель связь между сужением пиков и выводом о кристаллическом порядке.", "model_task_prompt": "Сравните три гистограммы на рис. 4 (стр. 653): определите, какое из распределений (площадь ячеек, число сторон или расстояние до соседа) наиболее чётко отличает экспериментальные данные (чёрные столбцы) от случайного распределения (белые), и проверьте, сохраняет ли модель связь между сужением пиков и выводом о кристаллическом порядке.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Plasma Crystal: Coulomb Crystallization in a Dusty Plasma", "paper_id": "DOI: https://doi.org/10.1103/PhysRevLett.73.652", "year": "1994", "evidence_kind": "figure", "page_hint": "p. 654, Fig. 3", "creator_prompt": "Проанализируйте тесселяцию на рис. 3: определите, какая геометрическая фигура преобладает среди ячеек Вороного, проверьте, связывает ли модель визуальное доминирование шестиугольников с выводом о формировании кристаллической решётки.", "model_task_prompt": "Проанализируйте тесселяцию на рис. 3: определите, какая геометрическая фигура преобладает среди ячеек Вороного, проверьте, связывает ли модель визуальное доминирование шестиугольников с выводом о формировании кристаллической решётки.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Hexatic phase in two-dimensional Yukawa systems: Existence and properties", "paper_id": "DOI 10.1088/1742-6596/653/1/012103", "year": "2015", "evidence_kind": "figure", "page_hint": "p.3-4, Fig.1 & Fig.3", "creator_prompt": "Сравните, какой вариант точнее считывает рисунки 1 и 3: извлеките асимптотическое поведение g6(r) для гексатической фазы (степенной закон r^(-1/5)), сопоставьте его с положением пика теплоёмкости Cv и определите границы переходов при Γ = 98 и Γ=154.", "model_task_prompt": "Сравните, какой вариант точнее считывает рисунки 1 и 3: извлеките асимптотическое поведение g6(r) для гексатической фазы (степенной закон r^(-1/5)), сопоставьте его с положением пика теплоёмкости Cv и определите границы переходов при Γ = 98 и Γ=154.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Hexatic phase in two-dimensional Yukawa systems: Existence and properties", "paper_id": "DOI 10.1088/1742-6596/653/1/012103", "year": "2015", "evidence_kind": "figure", "page_hint": "p.4–5, Fig.5 & Fig.6", "creator_prompt": "Проанализируйте динамику фазового сценария при уменьшении Γ: определите последовательность потери порядка (трансляционный до ориентационного), выявите на рис. 5 расхождение в оценках критических точек из работ до и после 2010 года, и проверьте, как на рис. 6 сдвигается диапазон существования гексатической фазы при изменении параметра каппа.", "model_task_prompt": "Проанализируйте динамику фазового сценария при уменьшении Γ: определите последовательность потери порядка (трансляционный до ориентационного), выявите на рис. 5 расхождение в оценках критических точек из работ до и после 2010 года, и проверьте, как на рис. 6 сдвигается диапазон существования гексатической фазы при изменении параметра каппа.", "review_focus": ["temporal", "evidence"]} +{"submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Laser-induced melting of two-dimensional dusty plasma system in RF discharge", "paper_id": "DOI:10.1038/s41598-020-80082-x", "year": "2021", "evidence_kind": "figure", "page_hint": "p.6-7, Fig.4 & Fig.5", "creator_prompt": "Отследите последовательность разрушения порядка при уменьшении Γ: определите, какой тип порядка (трансляционный или ориентационный) теряется первым в районе Γ = 160Γ, а какой - в районе Г = 100, и проверьте, соответствует ли эта динамика визуальной эволюции дефектов на диаграммах Вороного (рис. 5).", "model_task_prompt": "Отследите последовательность разрушения порядка при уменьшении Γ: определите, какой тип порядка (трансляционный или ориентационный) теряется первым в районе Γ = 160Γ, а какой - в районе Г = 100, и проверьте, соответствует ли эта динамика визуальной эволюции дефектов на диаграммах Вороного (рис. 5).", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Laser-induced melting of two-dimensional dusty plasma system in RF discharge", "paper_id": "DOI:10.1038/s41598-020-80082-x", "year": "2021", "evidence_kind": "figure", "page_hint": "p.5, Fig.3", "creator_prompt": "Проанализируйте эволюцию структурного фактора S(kxy) на рис. 3 при переходе от Γ=600 к Γ=50: опишите последовательную трансформацию максимумов (чёткие пики --- размытые гексагоны --- концентрические кольца) и проверьте, связывает ли модель промежуточную стадию с гексатической фазой, а не с прямым переходом твёрдое кристалл - жидкость.", "model_task_prompt": "Проанализируйте эволюцию структурного фактора S(kxy) на рис. 3 при переходе от Γ=600 к Γ=50: опишите последовательную трансформацию максимумов (чёткие пики --- размытые гексагоны --- концентрические кольца) и проверьте, связывает ли модель промежуточную стадию с гексатической фазой, а не с прямым переходом твёрдое кристалл - жидкость.", "review_focus": ["temporal", "visual_fact"]} +{"submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "Laser-induced melting of two-dimensional dusty plasma system in RF discharge", "paper_id": "DOI:10.1038/s41598-020-80082-x", "year": "2021", "evidence_kind": "page", "page_hint": "p.3, раздел Experiments", "creator_prompt": "Извлеките базовые параметры эксперимента: диаметр частиц, рабочее давление газа и диапазон мощности лазера, использованного для нагрева, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.", "model_task_prompt": "Извлеките базовые параметры эксперимента: диаметр частиц, рабочее давление газа и диапазон мощности лазера, использованного для нагрева, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.", "review_focus": ["overall"]} +{"submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "Laser-induced melting of two-dimensional dusty plasma system in RF discharge", "paper_id": "DOI:10.1038/s41598-020-80082-x", "year": "2021", "evidence_kind": "page", "page_hint": "p.2–3, раздел Experiments", "creator_prompt": "Извлеките базовые параметры ВЧ-разряда: частоту генератора, расстояние между электродами, рабочее давление аргона и мощность разряда, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.", "model_task_prompt": "Извлеките базовые параметры ВЧ-разряда: частоту генератора, расстояние между электродами, рабочее давление аргона и мощность разряда, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.", "review_focus": ["overall"]} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "\"AI Agents Simulate Behavioral Biases in Financial Markets\"", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "figure_or_table", "page_hint": "Fig.4", "creator_prompt": "Сравните, насколько правильно каждый VLM извлекает из Figure 4 ключевые параметры LLM-агентов (уровни bias, типы personality) и связывает их с описанными в тексте рыночными исходами (пузыри, крахи).", "model_task_prompt": "Извлеките из Figure 4 ключевые параметры LLM-агентов (уровни bias, типы personality) и связывает их с описанными в тексте рыночными исходами (пузыри, крахи)..", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "\"AI Agents Simulate Behavioral Biases in Financial Markets\"", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "figure_or_table", "page_hint": "Fig.5", "creator_prompt": "Сравните, как каждый VLM определяет временные рамки критических изменений на рынке (points of inflection), правильно ли привязывает фазы роста/падения к конкретным таймстэмпам.", "model_task_prompt": "Определите временные рамки критических изменений на рынке (points of inflection), правильно ли привязывает фазы роста/падения к конкретным таймстэмпам..", "review_focus": ["temporal", "evidence"]} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "easy_control", "paper_title": "\"AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "page", "page_hint": "p.8", "creator_prompt": "Сравните, правильно ли каждый VLM определяет определение 'herd mentality' и его проявление в росте VWAP.", "model_task_prompt": "Определите определение 'herd mentality' и его проявление в росте VWAP..", "review_focus": ["overall"]} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets\"", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "table", "page_hint": "Table 1", "creator_prompt": "Сравните, сколько типов personality настроено в агентах и какие именно bias (overconfidence, loss_aversion, dissonance) им назначены.", "model_task_prompt": "Определите, сколько типов personality настроено в агентах и какие именно bias (overconfidence, loss_aversion, dissonance) им назначены..", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "figure", "page_hint": "Fig.6", "creator_prompt": "Сравните, как каждый VLM связывает усиление 'herding' и 'overconfidence' с началом пузыря.", "model_task_prompt": "Свяжите усиление 'herding' и 'overconfidence' с началом пузыря..", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "AI Agents Simulate Behavioral Biases in Financial Market", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "figure_or_table", "page_hint": "Fig.3", "creator_prompt": "Сравните, насколько точно каждый VLM извлекает из Figure 3 значения VWAP и trade volume на разных фазах пузыря и связывает их с bias-параметрами агентов", "model_task_prompt": "Сравните, насколько точно каждый VLM извлекает из Figure 3 значения VWAP и trade volume на разных фазах пузыря и связывает их с bias-параметрами агентов", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "table", "page_hint": "Table 2", "creator_prompt": "Сравните, как каждый VLM интерпретирует данные Table 2: какой bias (overconfidence, loss aversion, dissonance) сильнее всего коррелирует с аномальным ростом VWAP.", "model_task_prompt": "Интерпретируйте данные Table 2: какой bias (overconfidence, loss aversion, dissonance) сильнее всего коррелирует с аномальным ростом VWAP..", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "figure", "page_hint": "Fig.2", "creator_prompt": "Сравните, сколько типов personality настроено в агентах (из Figure 2) и какие bias к ним привязаны", "model_task_prompt": "Определите, сколько типов personality настроено в агентах (из Figure 2) и какие bias к ним привязаны.", "review_focus": ["evidence"]} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "AI Agents Simulate Behavioral Biases in Financial Market", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "figure", "page_hint": "Fig.6", "creator_prompt": "Сравните, как каждый VLM определяет момент перехода 'herding' → 'overconfidence' по временной шкале и связывает его с рыночным пузырём", "model_task_prompt": "Определите момент перехода 'herding' → 'overconfidence' по временной шкале и связывает его с рыночным пузырём.", "review_focus": ["temporal", "evidence"]} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "table", "page_hint": "Table 3", "creator_prompt": "Сравните, как каждый VLM определяет временную задержку между ростом bias и проявлением рыночного эффекта (пузырь/крах) из Table 3.", "model_task_prompt": "Определите временную задержку между ростом bias и проявлением рыночного эффекта (пузырь/крах) из Table 3..", "review_focus": ["temporal"]} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "page", "page_hint": "p.5", "creator_prompt": "Сравните, правильно ли каждый VLM определяет три основных bias, перечисленных в явном виде на странице 5.", "model_task_prompt": "Определите три основных bias, перечисленных в явном виде на странице 5..", "review_focus": ["overall"]} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "page", "page_hint": "p.10", "creator_prompt": "Сравните, правильно ли каждый VLM определяет, какой тип личности агента (conservative / aggressive) привёл к loss aversion", "model_task_prompt": "Сравните, правильно ли каждый VLM определяет, какой тип личности агента (conservative / aggressive) привёл к loss aversion", "review_focus": ["overall"]} +{"submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "figure", "page_hint": "Fig 6b", "creator_prompt": "Сравните какой вариант лучше извлекает данные о пороговом значении процента фибробластов из графика при разных Ebond", "model_task_prompt": "Сравните какой вариант лучше извлекает данные о пороговом значении процента фибробластов из графика при разных Ebond", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "table", "page_hint": "Table 1", "creator_prompt": "Сравните какой вариант лучше извлекает данные о значении параметров из таблицы", "model_task_prompt": "Сравните какой вариант лучше извлекает данные о значении параметров из таблицы", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "formula", "page_hint": "Eq 2", "creator_prompt": "Сравните какой вариант лучше извлекает формулу Hjunctions из картинки с формулой после уравнения 1", "model_task_prompt": "Сравните какой вариант лучше извлекает формулу Hjunctions из картинки с формулой после уравнения 1", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Discrete Anisotropy Model of Heterogeneous Cardiac Tissue Predicting the Occurrence of Symmetry Breaking of Reentrant Activity", "paper_id": "10.1134/S0021364024600782", "year": "2024", "evidence_kind": "figure", "page_hint": "Fig 1", "creator_prompt": "Сравните, какой вариант лучше извлекает данные о размере образца", "model_task_prompt": "Извлеките данные о размере образца.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Virtual cardiac monolayers for electrical wave propagation", "paper_id": "10.1038/s41598-017-07653-3", "year": "2017", "evidence_kind": "figure", "page_hint": "Fig 2", "creator_prompt": "Сравните, какой вариант лучше определяет морфологические метрики кардиомиоцитов и фибробластов из экспериментов", "model_task_prompt": "Определите морфологические метрики кардиомиоцитов и фибробластов из экспериментов.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Simulation of the differential adhesion driven rearrangement of biological cells", "paper_id": "10.1103/PhysRevE.47.2128", "year": "1993", "evidence_kind": "figure", "page_hint": "Fig 5a", "creator_prompt": "Сравните, какой вариант лучше лучше определяет время выхода на плато длины границ в эксперименте на рисунке 5а", "model_task_prompt": "Сравните, какой вариант лучше лучше определяет время выхода на плато длины границ в эксперименте на рисунке 5а", "review_focus": ["temporal", "evidence", "visual_fact"]} +{"submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Simulation of the differential adhesion driven rearrangement of biological cells", "paper_id": "10.1103/PhysRevE.47.2128", "year": "1993", "evidence_kind": "figure", "page_hint": "Fig 13c", "creator_prompt": "Сравните, какой вариант лучше определяет время в шагах Монте-Карло (MCS), когда длина гетеротипических границ примерно равна длине гомотипических границ на рисунке 13с", "model_task_prompt": "Определите время в шагах Монте-Карло (MCS), когда длина гетеротипических границ примерно равна длине гомотипических границ на рисунке 13с.", "review_focus": ["temporal", "evidence"]} +{"submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Simulation of the differential adhesion driven rearrangement of biological cells", "paper_id": "10.1103/PhysRevE.47.2128", "year": "1993", "evidence_kind": "figure", "page_hint": "Fig 19b", "creator_prompt": "Сравните, какой вариант лучше определяет время в шагах Монте-Карло (MCS), когда длина гетеротипических границ для разных сочетаний (темные со светлыми, темные с окружением, светлые с окружением) начинают заметно расходиться на рисунке 19b", "model_task_prompt": "Определите время в шагах Монте-Карло (MCS), когда длина гетеротипических границ для разных сочетаний (темные со светлыми, темные с окружением, светлые с окружением) начинают заметно расходиться на рисунке 19b.", "review_focus": ["temporal", "visual_fact"]} +{"submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Generation and maturation of human iPSC-derived 3D organotypic cardiac microtissues in long-term culture", "paper_id": "10.1038/s41598-022-22225-w", "year": "2022", "evidence_kind": "figure", "page_hint": "Fig 2", "creator_prompt": "Сравните, какой вариант лучше различает какой график к какому периоду относится", "model_task_prompt": "Сравните, какой вариант лучше различает какой график к какому периоду относится", "review_focus": ["temporal", "evidence"]} +{"submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models", "paper_id": "10.1007/s12012-025-09987-1", "year": "2025", "evidence_kind": "figure", "page_hint": "Graphical Abstract", "creator_prompt": "Сравните, какой вариант лучше понимает какой цвет означает более позднюю стадию распространения волны", "model_task_prompt": "Сравните, какой вариант лучше понимает какой цвет означает более позднюю стадию распространения волны", "review_focus": ["temporal", "evidence"]} +{"submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "doi:10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "page", "page_hint": "Abstract", "creator_prompt": "Сравните, какой вариант лучше формулирует общий тезис статьи о причинах значения порога перколяции", "model_task_prompt": "Сравните, какой вариант лучше формулирует общий тезис статьи о причинах значения порога перколяции", "review_focus": ["overall"]} +{"submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "Modeling the functional heterogeneity and conditions for the occurrence of microreentry in procedurally created atrial fibrous tissue", "paper_id": "doi:10.1063/5.0151624", "year": "2023", "evidence_kind": "page", "page_hint": "Methods", "creator_prompt": "Сравните, какой вариант лучше описывает Гамильтониан и его слагаемые в клеточной модели", "model_task_prompt": "Опишите Гамильтониан и его слагаемые в клеточной модели.", "review_focus": ["overall"]} +{"submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "doi:10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "figure", "page_hint": "Fig. 1: activation map, blocked regions, main propagation pathways, velocity decay and percolation threshold", "creator_prompt": "Сравните, какой вариант лучше считывает Fig. 1: где находятся блоки проведения, по каким узким путям распространяется волна, как меняется velocity при росте доли non-conducting cells и какой percolation threshold указан на графике.", "model_task_prompt": "Сравните, какой вариант лучше считывает Fig. 1: где находятся блоки проведения, по каким узким путям распространяется волна, как меняется velocity при росте доли non-conducting cells и какой percolation threshold указан на графике.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "doi:10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "figure_or_table", "page_hint": "Fig. 6 and Table 1: virtual monolayers, E bond conditions, velocity vs density, percolation threshold", "creator_prompt": "Сравните, какой вариант лучше связывает Fig. 6 с параметрами модели: различает orange/blue условия cytoskeleton alignment, не путает simulated fibroblast density с experimental fraction и корректно переносит threshold/velocity evidence.", "model_task_prompt": "Сравните, какой вариант лучше связывает Fig. 6 с параметрами модели: различает orange/blue условия cytoskeleton alignment, не путает simulated fibroblast density с experimental fraction и корректно переносит threshold/velocity evidence.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Simulation of the differential adhesion driven rearrangement of biological cells", "paper_id": "doi:10.1103/PhysRevE.47.2128", "year": "1993", "evidence_kind": "figure_or_table", "page_hint": "Simulation snapshots and parameter tables for differential adhesion / extended Potts model", "creator_prompt": "Сравните, какой вариант лучше извлекает из визуализаций cell sorting, какие клеточные типы перераспределяются, как differential adhesion задаёт rearrangement, и не превращает Potts-model evidence в общий текст про миграцию клеток.", "model_task_prompt": "Извлеките из визуализаций cell sorting, какие клеточные типы перераспределяются, как differential adhesion задаёт rearrangement, и не превращает Potts-model evidence в общий текст про миграцию клеток..", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "A model for human ventricular tissue", "paper_id": "doi:10.1152/ajpheart.00794.2003", "year": "2004", "evidence_kind": "formula", "page_hint": "Model equations / current definitions / AP trace and restitution-style figures", "creator_prompt": "Сравните, какой вариант лучше восстанавливает структуру human ventricular tissue model: какие ионные токи и переменные входят в формулы, какие параметры относятся к single-cell AP, а какие — к tissue propagation, без добавления несуществующих channels.", "model_task_prompt": "Сравните, какой вариант лучше восстанавливает структуру human ventricular tissue model: какие ионные токи и переменные входят в формулы, какие параметры относятся к single-cell AP, а какие — к tissue propagation, без добавления несуществующих channels.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Optical Imaging of the Heart", "paper_id": "doi:10.1161/01.RES.0000130529.18016.35", "year": "2004", "evidence_kind": "mixed", "page_hint": "Review figures/tables on optical mapping, voltage-sensitive dyes, activation and repolarization maps", "creator_prompt": "Сравните, какой вариант лучше переносит из схем и таблиц optical imaging pipeline: что именно измеряется оптическим сигналом, где activation map отличается от repolarization map, и какие ограничения относятся к dye/motion artifact, а не к electrophysiology как таковой.", "model_task_prompt": "Сравните, какой вариант лучше переносит из схем и таблиц optical imaging pipeline: что именно измеряется оптическим сигналом, где activation map отличается от repolarization map, и какие ограничения относятся к dye/motion artifact, а не к electrophysiology как таковой.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Modeling the functional heterogeneity and conditions for the occurrence of microreentry in procedurally created atrial fibrous tissue", "paper_id": "doi:10.1063/5.0151624", "year": "2023", "evidence_kind": "figure_or_table", "page_hint": "Figures/tables with procedurally created atrial fibrous tissue, heterogeneity settings and microreentry conditions", "creator_prompt": "Сравните, какой вариант лучше извлекает из схем и карт модели, при каких параметрах fibrous tissue возникает microreentry: геометрия, conduction heterogeneity, obstacle/fibrosis pattern и условия устойчивого reentry не должны смешиваться в один общий фактор.", "model_task_prompt": "Извлеките из схем и карт модели, при каких параметрах fibrous tissue возникает microreentry: геометрия, conduction heterogeneity, obstacle/fibrosis pattern и условия устойчивого reentry не должны смешиваться в один общий фактор..", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models", "paper_id": "doi:10.1007/s12012-025-09987-1", "year": "2025", "evidence_kind": "mixed", "page_hint": "Workflow figures/tables linking hiPSC-CM readouts, 2D in silico model outputs and toxicity endpoints", "creator_prompt": "Сравните, какой вариант лучше связывает workflow evidence: какие данные приходят из hiPSC-derived cardiomyocytes, какие — из 2D in silico model, и где именно формируется вывод о cardiovascular toxicity / proarrhythmic risk.", "model_task_prompt": "Сравните, какой вариант лучше связывает workflow evidence: какие данные приходят из hiPSC-derived cardiomyocytes, какие — из 2D in silico model, и где именно формируется вывод о cardiovascular toxicity / proarrhythmic risk.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "doi:10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "figure", "page_hint": "Fig. 1a and S1 Video: activation times, repeated blocks, delayed propagation into left/right regions", "creator_prompt": "Сравните, какой вариант лучше удерживает temporal ordering в activation map/video: от точки стимуляции волна сначала расходится, затем блокируется, после задержки идёт в left/right regions и снова фракционируется, а не описывается как статическая сеть проводимости.", "model_task_prompt": "Сравните, какой вариант лучше удерживает temporal ordering в activation map/video: от точки стимуляции волна сначала расходится, затем блокируется, после задержки идёт в left/right regions и снова фракционируется, а не описывается как статическая сеть проводимости.", "review_focus": ["temporal", "evidence", "visual_fact"]} +{"submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "A model for human ventricular tissue", "paper_id": "doi:10.1152/ajpheart.00794.2003", "year": "2004", "evidence_kind": "figure_or_table", "page_hint": "AP traces / restitution curves / time-dependent gating variables in model outputs", "creator_prompt": "Сравните, какой вариант лучше различает быстрые изменения мембранного потенциала, динамику gating variables и более медленные изменения APD/restitution в human ventricular tissue model, не смешивая временные масштабы single-cell and tissue outputs.", "model_task_prompt": "Сравните, какой вариант лучше различает быстрые изменения мембранного потенциала, динамику gating variables и более медленные изменения APD/restitution в human ventricular tissue model, не смешивая временные масштабы single-cell and tissue outputs.", "review_focus": ["temporal", "evidence"]} +{"submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models", "paper_id": "doi:10.1007/s12012-025-09987-1", "year": "2025", "evidence_kind": "mixed", "page_hint": "Drug exposure / screening workflow / model-output sequence across experimental and in silico layers", "creator_prompt": "Сравните, какой вариант лучше удерживает порядок: сначала experimental hiPSC-CM readouts, затем parameter/model integration, затем 2D tissue-level prediction and toxicity interpretation; ответ не должен превращать pipeline в один одномоментный вывод.", "model_task_prompt": "Сравните, какой вариант лучше удерживает порядок: сначала experimental hiPSC-CM readouts, затем parameter/model integration, затем 2D tissue-level prediction and toxicity interpretation; ответ не должен превращать pipeline в один одномоментный вывод.", "review_focus": ["temporal", "evidence"]} +{"submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "Basic Mechanisms of Cardiac Impulse Propagation and Associated Arrhythmias", "paper_id": "doi:10.1152/physrev.00025.2003", "year": "2004", "evidence_kind": "page", "page_hint": "Abstract / introduction-level review summary", "creator_prompt": "Сравните, какой вариант точнее передаёт общий тезис обзора: как generation and propagation of cardiac action potentials связаны с arrhythmia mechanisms, без необходимости извлекать сложные значения из figure/table.", "model_task_prompt": "Сравните, какой вариант точнее передаёт общий тезис обзора: как generation and propagation of cardiac action potentials связаны с arrhythmia mechanisms, без необходимости извлекать сложные значения из figure/table.", "review_focus": ["overall"]} +{"submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "Optical Imaging of the Heart", "paper_id": "doi:10.1161/01.RES.0000130529.18016.35", "year": "2004", "evidence_kind": "page", "page_hint": "Abstract / review overview of optical techniques in cardiac electrophysiology", "creator_prompt": "Сравните, какой вариант лучше формулирует основную роль optical imaging in cardiac electrophysiology: какие вопросы оно помогает изучать и почему это не просто обычная видеозапись сердца.", "model_task_prompt": "Сравните, какой вариант лучше формулирует основную роль optical imaging in cardiac electrophysiology: какие вопросы оно помогает изучать и почему это не просто обычная видеозапись сердца.", "review_focus": ["overall"]} +{"submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "topic": "Spectral effects in different electrodynamic systems", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Nonlinear exceptional-point lasing with ab initio Maxwell– Bloch theory", "paper_id": "doi: 10.1063/5.0105963", "year": "2022", "evidence_kind": "figure", "page_hint": "p.2, Fig.1", "creator_prompt": "Сравните, какой вариант лучше извлекает отношение накачек D1 к D2, для которого наблюдаются особые точки", "model_task_prompt": "Извлеките отношение накачек D1 к D2, для которого наблюдаются особые точки.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "topic": "Spectral effects in different electrodynamic systems", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Observation of trapped light within the radiation continu-um", "paper_id": "doi: 10.1038/nature12289", "year": "2013", "evidence_kind": "figure", "page_hint": "p.3, Fig.3", "creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 3 и подписи к нему значения угла и длины волны, соответствующие связанному состоянию в континууме (ССК)", "model_task_prompt": "Извлеките из рисунка 3 и подписи к нему значения угла и длины волны, соответствующие связанному состоянию в континууме (ССК).", "review_focus": ["visual_fact", "evidence"]} +{"submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "topic": "Spectral effects in different electrodynamic systems", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Reversing the pump depend-ence of a laser at an excep-tional point", "paper_id": "doi: 10.1038/ncomms5034", "year": "2014", "evidence_kind": "figure", "page_hint": "p.4, Fig.2c", "creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 2c и подписи к нему диапазон значений поля, в котором зависимость интенсивности генерации от поля накачки инвертирована ", "model_task_prompt": "Извлеките из рисунка 2c и подписи к нему диапазон значений поля, в котором зависимость интенсивности генерации от поля накачки инвертирована.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "topic": "Spectral effects in different electrodynamic systems", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Ultrasensitive optical absorp-tion in graphene based on bound states in the continu-um", "paper_id": "doi: 10.1038/srep08266", "year": "2015", "evidence_kind": "figure", "page_hint": "p.2, Fig.1", "creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 1 значения длины волны и волнового вектора (kx), при которых наблюдаются связанные состояния в континууме", "model_task_prompt": "Извлеките из рисунка 1 значения длины волны и волнового вектора (kx), при которых наблюдаются связанные состояния в континууме.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "topic": "Spectral effects in different electrodynamic systems", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Optical hydrogen sensing with high‑Q guided‑mode resonance of ­Al2O3/WO3/Pd nanostructure", "paper_id": "doi: 10.1038/s41598-023-28204-z", "year": "2023", "evidence_kind": "figure", "page_hint": "p.3, Fig.1", "creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 1 геометрические параметры структуры и материалы, из которых она состоит", "model_task_prompt": "Извлеките из рисунка 1 геометрические параметры структуры и материалы, из которых она состоит.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "topic": "Spectral effects in different electrodynamic systems", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Optical hydrogen sensing with high‑Q guided‑mode resonance of Al2O3/WO3/Pd nanostructure", "paper_id": "doi: 10.1038/s41598-023-28204-z", "year": "2023", "evidence_kind": "figure", "page_hint": "p.5, Fig.4", "creator_prompt": "Сравните, какой вариант лучше извлекает моменты времени (в минутах), в которые подаётся водород в различной концентрации (0, 100, 1000 ppm, ...)", "model_task_prompt": "Извлеките моменты времени (в минутах), в которые подаётся водород в различной концентрации (0, 100, 1000 ppm, ...).", "review_focus": ["temporal", "evidence", "visual_fact"]} +{"submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "topic": "Spectral effects in different electrodynamic systems", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Nonlinear exceptional-point lasing with ab initio Maxwell– Bloch theory", "paper_id": "doi: 10.1063/5.0105963", "year": "2022", "evidence_kind": "figure", "page_hint": "p.2, Fig.1", "creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 1 отношение накачек D1/D2, при котором наблюдается фазовый переход между PT-симметричным и PT-несимметричным состояниями", "model_task_prompt": "Извлеките из рисунка 1 отношение накачек D1/D2, при котором наблюдается фазовый переход между PT-симметричным и PT-несимметричным состояниями.", "review_focus": ["temporal", "evidence", "visual_fact"]} +{"submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "topic": "Spectral effects in different electrodynamic systems", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "easy_control", "paper_title": "Bloch surface eigenstates within the radiation continuum", "paper_id": "doi: 10.1038/lsa.2013.40", "year": "2013", "evidence_kind": "mixed", "page_hint": "p.2, Fig.1", "creator_prompt": "Сравнить, какой вариант точнее описывает структуру, в которой авторы предлагают наблюдать связанное состояние в континууме", "model_task_prompt": "Опишите структуру, в которой авторы предлагают наблюдать связанное состояние в континууме.", "review_focus": ["evidence"]} +{"submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "topic": "Spectral effects in different electrodynamic systems", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["temporal", "evidence"]} +{"submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "topic": "Spectral effects in different electrodynamic systems", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["temporal", "evidence"]} +{"submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "topic": "Spectral effects in different electrodynamic systems", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["overall"]} +{"submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "topic": "Spectral effects in different electrodynamic systems", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["overall"]} +{"submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "figure", "page_hint": "p.2, Fig.1", "creator_prompt": "Сравните, какой вариант точнее отражает различие в уровне Fusobacterium между adenoma cases и control на Figure 1, включая направление и относительную величину различия.", "model_task_prompt": "Сравните, какой вариант точнее отражает различие в уровне Fusobacterium между adenoma cases и control на Figure 1, включая направление и относительную величину различия.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "table", "page_hint": "p.2, Table 2", "creator_prompt": "Сравните, какой вариант точнее извлекает зависимость риска аденом от уровня Fusobacterium (tertiles) в Table 2, включая корректное указание odds ratio для высокой группы.", "model_task_prompt": "Сравните, какой вариант точнее извлекает зависимость риска аденом от уровня Fusobacterium (tertiles) в Table 2, включая корректное указание odds ratio для высокой группы.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "figure", "page_hint": "p.4, Fig.3", "creator_prompt": "Сравните, какой вариант точнее отражает связь между уровнем Fusobacterium и экспрессией цитокинов (например, IL-10 и TNF-α) на Figure 3, включая направление корреляции.", "model_task_prompt": "Сравните, какой вариант точнее отражает связь между уровнем Fusobacterium и экспрессией цитокинов (например, IL-10 и TNF-α) на Figure 3, включая направление корреляции.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "figure", "page_hint": "p.4, Fig.4", "creator_prompt": "Сравните, какой вариант точнее отражает различие уровня Fusobacterium между нормальной и опухолевой тканью по всем пациентам на Figure 4.", "model_task_prompt": "Сравните, какой вариант точнее отражает различие уровня Fusobacterium между нормальной и опухолевой тканью по всем пациентам на Figure 4.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "figure", "page_hint": "p.3, Fig.2", "creator_prompt": "Сравните, какой вариант точнее описывает локализацию Fusobacterium в тканях (например, в mucus layer и colonic crypts) на Figure 2.", "model_task_prompt": "Сравните, какой вариант точнее описывает локализацию Fusobacterium в тканях (например, в mucus layer и colonic crypts) на Figure 2.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "figure_or_table", "page_hint": "p.2, Fig.1; Table 2", "creator_prompt": "Сравните, какой вариант лучше объединяет данные из Figure 1 и Table 2, связывая уровень Fusobacterium с риском аденом.", "model_task_prompt": "Сравните, какой вариант лучше объединяет данные из Figure 1 и Table 2, связывая уровень Fusobacterium с риском аденом.", "review_focus": ["evidence", "visual_fact", "overall"]} +{"submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Fusobacterium nucleatum Promotes Colorectal Carcinogenesis by Modulating E-Cadherin/β-Catenin Signaling via its FadA Adhesin", "paper_id": "doi:10.1016/j.chom.2013.07.012", "year": "2013", "evidence_kind": "figure", "page_hint": "p.15, Fig.2", "creator_prompt": "Сравните, какой вариант точнее отражает экспериментальное доказательство связывания FadA с E-cadherin на Figure 2.", "model_task_prompt": "Сравните, какой вариант точнее отражает экспериментальное доказательство связывания FadA с E-cadherin на Figure 2.", "review_focus": ["evidence", "visual_fact", "overall"]} +{"submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "figure_or_table", "page_hint": "p.2–4, Fig.1; Table 2; Fig.4", "creator_prompt": "Сравните, какой вариант лучше отражает роль Fusobacterium на разных стадиях заболевания (от аденомы к более поздним стадиям), сохраняя временную логику.", "model_task_prompt": "Сравните, какой вариант лучше отражает роль Fusobacterium на разных стадиях заболевания (от аденомы к более поздним стадиям), сохраняя временную логику.", "review_focus": ["temporal", "evidence"]} +{"submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Fusobacterium nucleatum Potentiates Intestinal Tumorigenesis and Modulates the Tumor-Immune Microenvironment", "paper_id": "doi:10.1016/j.chom.2013.07.007", "year": "2013", "evidence_kind": "figure", "page_hint": "p.3, Fig.2", "creator_prompt": "Сравните, какой вариант точнее отражает изменение числа опухолей и других показателей после воздействия Fusobacterium nucleatum в эксперименте на мышах (Figure 2).", "model_task_prompt": "Сравните, какой вариант точнее отражает изменение числа опухолей и других показателей после воздействия Fusobacterium nucleatum в эксперименте на мышах (Figure 2).", "review_focus": ["temporal", "evidence"]} +{"submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Fusobacterium nucleatum Potentiates Intestinal Tumorigenesis and Modulates the Tumor-Immune Microenvironment", "paper_id": "doi:10.1016/j.chom.2013.07.007", "year": "2013", "evidence_kind": "figure", "page_hint": "p.3, Fig.2", "creator_prompt": "Сравните, какой вариант точнее отражает изменения в иммунной среде после воздействия Fusobacterium nucleatum, включая гистологические и воспалительные показатели (Figure 2).", "model_task_prompt": "Сравните, какой вариант точнее отражает изменения в иммунной среде после воздействия Fusobacterium nucleatum, включая гистологические и воспалительные показатели (Figure 2).", "review_focus": ["temporal", "evidence", "overall"]} +{"submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "page", "page_hint": "p.1", "creator_prompt": "Сравните, какой вариант точнее формулирует основную идею статьи о связи Fusobacterium с колоректальными аденомами.", "model_task_prompt": "Сравните, какой вариант точнее формулирует основную идею статьи о связи Fusobacterium с колоректальными аденомами.", "review_focus": ["overall"]} +{"submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "Fusobacterium nucleatum Promotes Colorectal Carcinogenesis by Modulating E-Cadherin/β-Catenin Signaling via its FadA Adhesin", "paper_id": "doi:10.1016/j.chom.2013.07.012", "year": "2013", "evidence_kind": "page", "page_hint": "p.2–5", "creator_prompt": "Сравните, какой вариант точнее описывает роль FadA в механизме действия Fusobacterium nucleatum.", "model_task_prompt": "Сравните, какой вариант точнее описывает роль FadA в механизме действия Fusobacterium nucleatum.", "review_focus": ["overall"]} +{"submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "topic": "Ионосфера Земли и проект «Ионозонд»", "case_id": "CASE-001", "enabled": true, "primary_endpoint": false, "stratum": "multimodal_hard", "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.9, Fig.5", "creator_prompt": "Сравните, какой вариант точнее считывает порядок значений электронной концентрации (ось X) для слоя F2 в дневное время, учитывая логарифмический масштаб оси.", "model_task_prompt": "Сравните, какой вариант точнее считывает порядок значений электронной концентрации (ось X) для слоя F2 в дневное время, учитывая логарифмический масштаб оси.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "topic": "Ионосфера Земли и проект «Ионозонд»", "case_id": "CASE-002", "enabled": true, "primary_endpoint": false, "stratum": "multimodal_hard", "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.21, Fig.14", "creator_prompt": "Проверьте, какой вариант точно извлекает численное значение критической частоты foF2 (5.35 МГц) из мелкого текста, наложенного на плотную цветную ионограмму.", "model_task_prompt": "Проверьте, какой вариант точно извлекает численное значение критической частоты foF2 (5.35 МГц) из мелкого текста, наложенного на плотную цветную ионограмму.", "review_focus": ["visual_fact", "evidence"]} +{"submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "topic": "Ионосфера Земли и проект «Ионозонд»", "case_id": "CASE-003", "enabled": true, "primary_endpoint": false, "stratum": "multimodal_hard", "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.21, Fig.14", "creator_prompt": "Оцените, какой вариант корректно различает моды радиосигнала (Z-мода, O-мода, X-мода) и связывает их с соответствующими кривыми на графике.", "model_task_prompt": "Оцените, какой вариант корректно различает моды радиосигнала (Z-мода, O-мода, X-мода) и связывает их с соответствующими кривыми на графике.", "review_focus": ["visual_fact", "evidence"]} +{"submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "topic": "Ионосфера Земли и проект «Ионозонд»", "case_id": "CASE-004", "enabled": true, "primary_endpoint": false, "stratum": "multimodal_hard", "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.12, Fig.8", "creator_prompt": "Сравните, какой вариант лучше понимает разницу между синими лучами (сигналы ГНСС) и красными лучами (зондирование с низкоорбитального спутника).", "model_task_prompt": "Сравните, какой вариант лучше понимает разницу между синими лучами (сигналы ГНСС) и красными лучами (зондирование с низкоорбитального спутника).", "review_focus": ["visual_fact"]} +{"submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "topic": "Ионосфера Земли и проект «Ионозонд»", "case_id": "CASE-005", "enabled": true, "primary_endpoint": false, "stratum": "multimodal_hard", "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.19, Fig.12", "creator_prompt": "Проверьте, какой вариант правильно идентифицирует расположение длинных антенн ионозонда ЛАЭРТ и антенны прибора МАЯК на конструкции спутника.", "model_task_prompt": "Проверьте, какой вариант правильно идентифицирует расположение длинных антенн ионозонда ЛАЭРТ и антенны прибора МАЯК на конструкции спутника.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "topic": "Ионосфера Земли и проект «Ионозонд»", "case_id": "CASE-006", "enabled": true, "primary_endpoint": false, "stratum": "multimodal_hard", "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.14, Fig.9", "creator_prompt": "Сравните, какой вариант корректно извлекает пространственную информацию о том, что высокочастотная волна (High-frequency wave) направлена вверх, а низкочастотная (Low-frequency) возникает в турбулентном объеме и идет вниз.", "model_task_prompt": "Сравните, какой вариант корректно извлекает пространственную информацию о том, что высокочастотная волна (High-frequency wave) направлена вверх, а низкочастотная (Low-frequency) возникает в турбулентном объеме и идет вниз.", "review_focus": ["visual_fact"]} +{"submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "topic": "Ионосфера Земли и проект «Ионозонд»", "case_id": "CASE-007", "enabled": true, "primary_endpoint": false, "stratum": "multimodal_hard", "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.22, Fig.15", "creator_prompt": "Оцените, какой вариант правильно понимает структуру составного рисунка: верхняя панель (А) — электрическая компонента, нижняя (Б) — магнитная.", "model_task_prompt": "Оцените, какой вариант правильно понимает структуру составного рисунка: верхняя панель (А) — электрическая компонента, нижняя (Б) — магнитная.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "topic": "Ионосфера Земли и проект «Ионозонд»", "case_id": "CASE-008", "enabled": true, "primary_endpoint": false, "stratum": "temporal_hard", "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.9, Fig.5", "creator_prompt": "Сравните, какой вариант лучше улавливает временную динамику (день vs ночь), в частности полное исчезновение слоя D в ночное время на графике профиля.", "model_task_prompt": "Сравните, какой вариант лучше улавливает временную динамику (день vs ночь), в частности полное исчезновение слоя D в ночное время на графике профиля.", "review_focus": ["temporal", "visual_fact"]} +{"submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "topic": "Ионосфера Земли и проект «Ионозонд»", "case_id": "CASE-009", "enabled": true, "primary_endpoint": false, "stratum": "temporal_hard", "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.15, Fig.11", "creator_prompt": "Проверьте, какой вариант точнее формулирует разницу в дальности распространения радиосигнала днем и ночью из-за изменения слоев ионосферы.", "model_task_prompt": "Проверьте, какой вариант точнее формулирует разницу в дальности распространения радиосигнала днем и ночью из-за изменения слоев ионосферы.", "review_focus": ["temporal", "evidence"]} +{"submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "topic": "Ионосфера Земли и проект «Ионозонд»", "case_id": "CASE-010", "enabled": true, "primary_endpoint": false, "stratum": "temporal_hard", "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.22, Fig.15", "creator_prompt": "Оцените, какой вариант правильно извлекает конкретный временной интервал (с начала измерений до 22:47:00), в котором наблюдаются естественные электростатические колебания.", "model_task_prompt": "Оцените, какой вариант правильно извлекает конкретный временной интервал (с начала измерений до 22:47:00), в котором наблюдаются естественные электростатические колебания.", "review_focus": ["temporal", "visual_fact"]} +{"submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "topic": "Ионосфера Земли и проект «Ионозонд»", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.12, Fig.7", "creator_prompt": "Проверьте, какой вариант правильно описывает базовые компоненты схемы отражения радиосигнала (Земля, ионосфера, антенны).", "model_task_prompt": "Проверьте, какой вариант правильно описывает базовые компоненты схемы отражения радиосигнала (Земля, ионосфера, антенны).", "review_focus": ["overall"]} +{"submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "topic": "Ионосфера Земли и проект «Ионозонд»", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.20, Fig.13", "creator_prompt": "Сравните, какой вариант корректно определяет количество спутников (4 КА) и количество орбитальных плоскостей на схеме проекта Ионозонд.", "model_task_prompt": "Сравните, какой вариант корректно определяет количество спутников (4 КА) и количество орбитальных плоскостей на схеме проекта Ионозонд.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "topic": "3D reconstuction", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "3DGS.zip: A survey on 3D Gaussian Splatting Compression Methods", "paper_id": "arxiv:2407.09510", "year": "2024", "evidence_kind": "figure", "page_hint": "Figure 1", "creator_prompt": "Сравните какой вариант лучше извлекает данные из гистограммы и использует его в hypothesis support", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из гистограммы и использует его в hypothesis support", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "topic": "3D reconstuction", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "3DGS.zip: A survey on 3D Gaussian Splatting Compression Methods", "paper_id": "arxiv:2407.09510", "year": "2024", "evidence_kind": "figure", "page_hint": "Figure 2", "creator_prompt": "Сравните какой вариант лучше извлекает данные из heatmap и использует его в hypothesis support", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из heatmap и использует его в hypothesis support", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "topic": "3D reconstuction", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Efficient Geometry-aware 3D Generative Adversarial Networks", "paper_id": "arxiv:2112.07945", "year": "2024", "evidence_kind": "table", "page_hint": "Table 1", "creator_prompt": "Сравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "topic": "3D reconstuction", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Speedy-Splat: Fast 3D Gaussian Splatting with Sparse Pixels and Sparse Primitives", "paper_id": "arxiv:2412.00578", "year": "2024", "evidence_kind": "table", "page_hint": "Table 2", "creator_prompt": "Сравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "topic": "3D reconstuction", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES", "paper_id": "arxiv:2603.11531", "year": "2026", "evidence_kind": "figure", "page_hint": "Figure 2", "creator_prompt": "Сравните какой вариант лучше извлекает данные из диаграммы и использует его в hypothesis support", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из диаграммы и использует его в hypothesis support", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "topic": "3D reconstuction", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES", "paper_id": "arxiv:2603.11531", "year": "2026", "evidence_kind": "formula", "page_hint": "Figure 9", "creator_prompt": "Сравните какой вариант лучше извлекает данные из pie chart и использует его в hypothesis support", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из pie chart и использует его в hypothesis support", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "topic": "3D reconstuction", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES", "paper_id": "arxiv:2603.11531", "year": "2026", "evidence_kind": "formula", "page_hint": "formula 3", "creator_prompt": "Сравните какой вариант лучше извлекает данные из формулы и использует их в hypothesis support", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из формулы и использует их в hypothesis support", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "topic": "Superconducting quantum simulators", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.2, Fig.1", "creator_prompt": "Сравнить, сколько кубитов в процессоре выводят модели, исходя из иллюстрации.", "model_task_prompt": "Сравнить, сколько кубитов в процессоре выводят модели, исходя из иллюстрации.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "topic": "Superconducting quantum simulators", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.3, Fig.2", "creator_prompt": "Сравните, какой вариант правильно сопоставляет характер изменения заселенности измеряемого кубита со значением магнитного потока через кольцо из кубитов в подграфике a.", "model_task_prompt": "Сравните, какой вариант правильно сопоставляет характер изменения заселенности измеряемого кубита со значением магнитного потока через кольцо из кубитов в подграфике a.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "topic": "Superconducting quantum simulators", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.3, Fig.2", "creator_prompt": "Сравните, какой вариант правильно описывает изменение максимальной заселенности измеряемого кубита при увеличении числа кубитов в кольце в эксперименте по наблюдению интерференции.", "model_task_prompt": "Сравните, какой вариант правильно описывает изменение максимальной заселенности измеряемого кубита при увеличении числа кубитов в кольце в эксперименте по наблюдению интерференции.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "topic": "Superconducting quantum simulators", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.4, Fig.3", "creator_prompt": "Сравните, какой вариант правильнее объясняет физическую причину идентичности интерференционных картин на Fig. 3 и корректно связывает это объяснение с одинаковой суммой фаз Пайерлса вдоль одного и того же контура.", "model_task_prompt": "Сравните, какой вариант правильнее объясняет физическую причину идентичности интерференционных картин на Fig. 3 и корректно связывает это объяснение с одинаковой суммой фаз Пайерлса вдоль одного и того же контура.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "topic": "Superconducting quantum simulators", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.5, Fig.4", "creator_prompt": "Сравните, какой вариант правильно называет номера и положение кубитов в самой решетке 4х4, значение заселенности которых является наименьшим в эксперименте по осцилляциям Блоха.", "model_task_prompt": "Сравните, какой вариант правильно называет номера и положение кубитов в самой решетке 4х4, значение заселенности которых является наименьшим в эксперименте по осцилляциям Блоха.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "topic": "Superconducting quantum simulators", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.6, Fig.5", "creator_prompt": "Сравните, какой вариант правильно объясняет причину искривления графиков в эксперименте/симуляциях реального процессора (Actual device) по сравнению с симуляциями идеальной модели (HH model).", "model_task_prompt": "Сравните, какой вариант правильно объясняет причину искривления графиков в эксперименте/симуляциях реального процессора (Actual device) по сравнению с симуляциями идеальной модели (HH model).", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "topic": "Superconducting quantum simulators", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.6, Fig.5", "creator_prompt": "Сравните, какой вариант правильно определяет направление начальной скорости частицы относительно направления электрического поля в эксперименте по наблюдению эффекта Холла.", "model_task_prompt": "Сравните, какой вариант правильно определяет направление начальной скорости частицы относительно направления электрического поля в эксперименте по наблюдению эффекта Холла.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "topic": "Superconducting quantum simulators", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "easy_control", "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "formula", "page_hint": "p.S4, p.S5, Fig.S1", "creator_prompt": "Сравните, какой вариант правильно определяет закон сдвига основной частоты кубита при наличии параметрической модуляции его энергии.", "model_task_prompt": "Сравните, какой вариант правильно определяет закон сдвига основной частоты кубита при наличии параметрической модуляции его энергии.", "review_focus": ["overall", "evidence"]} +{"submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "topic": "Superconducting quantum simulators", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "figure", "page_hint": "Fig. 1", "creator_prompt": "Сравните, какой вариант правильно дает оценку размера кубита по масштабной шкале на подграфике a.", "model_task_prompt": "Сравните, какой вариант правильно дает оценку размера кубита по масштабной шкале на подграфике a.", "review_focus": ["visual_fact"]} +{"submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "topic": "Superconducting quantum simulators", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "easy_control", "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "Fig.1, p.2", "creator_prompt": "Сравните, какой вариант правильно определяет примерное значение максимума подграфика g", "model_task_prompt": "Сравните, какой вариант правильно определяет примерное значение максимума подграфика g", "review_focus": ["overall", "evidence"]} +{"submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "topic": "Superconducting quantum simulators", "case_id": "CASE-011", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.3, Fig.2", "creator_prompt": "Сравнить, какой вариант правильно оценивает моменты времени наибольшей заселенности при нулевом потоке через решетку для подграфика a.", "model_task_prompt": "Сравнить, какой вариант правильно оценивает моменты времени наибольшей заселенности при нулевом потоке через решетку для подграфика a.", "review_focus": ["temporal", "evidence"]} +{"submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "topic": "Superconducting quantum simulators", "case_id": "CASE-012", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "figure", "page_hint": "Fig.4", "creator_prompt": "Сравнить, какой вариант правильно оценивает моменты времени нахождения частицы в центре одномерной цепочки для графика численных симуляций блоховский осцилляций для реального девайса (Actual device)", "model_task_prompt": "Сравнить, какой вариант правильно оценивает моменты времени нахождения частицы в центре одномерной цепочки для графика численных симуляций блоховский осцилляций для реального девайса (Actual device)", "review_focus": ["temporal", "evidence"]} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.2, Fig.1", "creator_prompt": "Сравни, как точно описаны этапы пайплайна симуляции сканирования деревьев: от генерации дерева до итогового облака точек.", "model_task_prompt": "Сравни, как точно описаны этапы пайплайна симуляции сканирования деревьев: от генерации дерева до итогового облака точек.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.3, Fig.2", "creator_prompt": "Сравни, какой вариант верно определяет параметры дерева в интерфейсе Arbaro (уровни ветвления, углы, длина).", "model_task_prompt": "Сравни, какой вариант верно определяет параметры дерева в интерфейсе Arbaro (уровни ветвления, углы, длина).", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.2, Fig.3", "creator_prompt": "Сравни, как различаются orchard и forest layout по визуальному представлению и числовым параметрам (spacing, rows).", "model_task_prompt": "Сравни, как различаются orchard и forest layout по визуальному представлению и числовым параметрам (spacing, rows).", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.4, Fig.4", "creator_prompt": "Сравни, в чём отличие single-plane LiDAR от 9-beam LiDAR по внешнему виду лучей и угловым характеристикам", "model_task_prompt": "Сравни, в чём отличие single-plane LiDAR от 9-beam LiDAR по внешнему виду лучей и угловым характеристикам", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.5, Fig.5", "creator_prompt": "Сравни описания траектории Zeb1: двойной замкнутый контур, обход вокруг центрального дерева.", "model_task_prompt": "Сравни описания траектории Zeb1: двойной замкнутый контур, обход вокруг центрального дерева.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.5, Fig.6", "creator_prompt": "Сравни три типа траекторий (handheld, mobile, aerial) на одном и том же orchard stand.", "model_task_prompt": "Сравни три типа траекторий (handheld, mobile, aerial) на одном и том же orchard stand.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.6, Fig.7", "creator_prompt": "Сравни, как правильно определить occluded point (зелёная точка) на схеме сканирования с одной линией.", "model_task_prompt": "Сравни, как правильно определить occluded point (зелёная точка) на схеме сканирования с одной линией.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": "p.7, Fig 10", "creator_prompt": "Сравни, как изменяется визуальное качество и структура облака точек при увеличении уровня шума с 0 м до 0.1 м на одной и той же траектории Zeb1.", "model_task_prompt": "Сравни, как изменяется визуальное качество и структура облака точек при увеличении уровня шума с 0 м до 0.1 м на одной и той же траектории Zeb1.", "review_focus": ["temporal", "evidence"]} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "page", "page_hint": "p.11", "creator_prompt": "Опиши последовательность: сначала тренировка модели на симулированных данных SimTreeLS, затем transfer learning на реальных LiDAR-сканах. Что меняется между этапами?", "model_task_prompt": "Опиши последовательность: сначала тренировка модели на симулированных данных SimTreeLS, затем transfer learning на реальных LiDAR-сканах. Что меняется между этапами?", "review_focus": ["temporal", "evidence"]} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": "p.9, Fig 13", "creator_prompt": "Сравни occlusion profile при смене сенсора с single-beam на 9-beam на одной и той же mobile trajectory (рис. 13). Что произошло с количеством видимых (зелёных) точек?", "model_task_prompt": "Сравни occlusion profile при смене сенсора с single-beam на 9-beam на одной и той же mobile trajectory (рис. 13). Что произошло с количеством видимых (зелёных) точек?", "review_focus": ["temporal", "evidence"]} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "table", "page_hint": " p.8, table.2", "creator_prompt": "Извлеки значение p-value из t-теста для V-measure (сегментация) в таблице 2.", "model_task_prompt": "Извлеки значение p-value из t-теста для V-measure (сегментация) в таблице 2.", "review_focus": ["overall"]} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.3, Fig.3", "creator_prompt": "Какое минимальное расстояние между деревьями задаётся в forest layout (рис. 3)?", "model_task_prompt": "Какое минимальное расстояние между деревьями задаётся в forest layout (рис. 3)?", "review_focus": ["overall"]} +{"submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "topic": "Adaptive gradient optimization methods for training LLM", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "MARS: Unleashing the Power of Variance Reduction for Training Large Models", "paper_id": "arxiv:2411.10438", "year": "2024", "evidence_kind": "figure_or_table", "page_hint": "fig. 2, Tab. 1,", "creator_prompt": "Выявить, в какой из задач GPT-2 (Рис. 2) MARS дает наибольший относительный выигрыш в perplexity по сравнению с AdamW, и не перепутать его с табличными результатами ImageNet (Таб. 1).", "model_task_prompt": "Выявить, в какой из задач GPT-2 (Рис. 2) MARS дает наибольший относительный выигрыш в perplexity по сравнению с AdamW, и не перепутать его с табличными результатами ImageNet (Таб. 1).", "review_focus": ["evidence", "visual_fact", "overall"]} +{"submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "topic": "Adaptive gradient optimization methods for training LLM", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "The AdEMAMix Optimizer: Better, Faster, Older", "paper_id": "arxiv:2409.03137", "year": "2024", "evidence_kind": "figure_or_table", "page_hint": "fig. 2, 3, 6, Tab. 2", "creator_prompt": "Найти на Рис. 6 сравнение AdEMAMix и AdamW по скорости забывания (forgetting) и определить, на каком количестве токенов преимущество становится явным.", "model_task_prompt": "Найти на Рис. 6 сравнение AdEMAMix и AdamW по скорости забывания (forgetting) и определить, на каком количестве токенов преимущество становится явным.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "topic": "Adaptive gradient optimization methods for training LLM", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "AdaRankGrad: Adaptive Gradient-Rank and Moments for Memory-Efficient LLMs Training and Fine-Tuning", "paper_id": "arxiv:2410.17881", "year": "2024", "evidence_kind": "figure_or_table", "page_hint": "fig. 3, Tab. 2", "creator_prompt": "Сравнить значения точности и потребления памяти GPU для GPT-2 из Таблицы 2 при full fine-tuning, LoRA и AdaRankGrad.", "model_task_prompt": "Сравнить значения точности и потребления памяти GPU для GPT-2 из Таблицы 2 при full fine-tuning, LoRA и AdaRankGrad.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "topic": "Adaptive gradient optimization methods for training LLM", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "A Self-Attentive Meta-Optimizer with Group-Adaptive Learning Rates and Weight Decay", "paper_id": "arxiv:2605.04055", "year": "2026", "evidence_kind": "figure_or_table", "page_hint": "fig. 2, 3, Tab. 3, 4", "creator_prompt": "Определить по Рис. 3, на какой задаче (языковое моделирование, машинный перевод, классификация) MetaAdamW показывает максимальное и минимальное ускорение сходимости относительно AdamW.", "model_task_prompt": "Определить по Рис. 3, на какой задаче (языковое моделирование, машинный перевод, классификация) MetaAdamW показывает максимальное и минимальное ускорение сходимости относительно AdamW.", "review_focus": ["evidence", "visual_fact", "overall"]} +{"submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "topic": "Adaptive gradient optimization methods for training LLM", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Adaptive Gradient Methods at the Edge of Stability", "paper_id": "arxiv:2404.01864", "year": "2024", "evidence_kind": "figure", "page_hint": "fig. 1, 3, 6, 7", "creator_prompt": "Проанализировать Рис. 7 (SGD vs. Adam на CIFAR-10) и описать, как меняется ландшафт потерь (loss landscape) в процессе обучения у Adam.", "model_task_prompt": "Проанализировать Рис. 7 (SGD vs. Adam на CIFAR-10) и описать, как меняется ландшафт потерь (loss landscape) в процессе обучения у Adam.", "review_focus": ["visual_fact", "temporal"]} +{"submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "topic": "Adaptive gradient optimization methods for training LLM", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Revisiting the Initial Steps in Adaptive Gradient Descent Optimization", "paper_id": "arxiv:2412.00374", "year": "2024", "evidence_kind": "figure", "page_hint": "fig. 1, 2, 3", "creator_prompt": "По Рис. 2 и 3 определить, как разная инициализация второго момента (data-driven vs random) в Adam влияет на стабильность потерь на ранних итерациях обучения Transformer.", "model_task_prompt": "По Рис. 2 и 3 определить, как разная инициализация второго момента (data-driven vs random) в Adam влияет на стабильность потерь на ранних итерациях обучения Transformer.", "review_focus": ["evidence", "visual_fact", "temporal"]} +{"submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "topic": "Adaptive gradient optimization methods for training LLM", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Adaptive Gradient Methods at the Edge of Stability", "paper_id": "arxiv:2404.01714", "year": "2025", "evidence_kind": "figure", "page_hint": "Fig. 1, 2, 3, 4, 5, 6, 7, 8", "creator_prompt": "Определить по совокупности рисунков 1–8, какие архитектуры и датасеты дают CG-like-Adam наибольшее преимущество перед Adam в точности и скорости сходимости", "model_task_prompt": "Определить по совокупности рисунков 1–8, какие архитектуры и датасеты дают CG-like-Adam наибольшее преимущество перед Adam в точности и скорости сходимости", "review_focus": ["evidence", "visual_fact", "temporal"]} +{"submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "topic": "Adaptive gradient optimization methods for training LLM", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Interpreting Adaptive Gradient Methods by Parameter Scaling for Learning-Rate-Free Optimization", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "Table 1, 2, Fig. 1", "creator_prompt": "По рис. 1 объяснить, как меняется масштаб параметров (parameter scaling) в процессе обучения нейронной сети и как это связано с адаптивностью градиентного метода.", "model_task_prompt": "По рис. 1 объяснить, как меняется масштаб параметров (parameter scaling) в процессе обучения нейронной сети и как это связано с адаптивностью градиентного метода.", "review_focus": ["temporal"]} +{"submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "topic": "Adaptive gradient optimization methods for training LLM", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Towards Simple and Provable Parameter-Free Adaptive Gradient Methods", "paper_id": "arxiv:2412.19444", "year": "2024", "evidence_kind": "figure", "page_hint": "Fig. 1, 2", "creator_prompt": "По рис. 1, 2 сравнить траектории нормы градиента у предложенных AdaGrad++ и Adam++ с их оригинальными версиями на задаче логистической регрессии и ResNet-18.", "model_task_prompt": "По рис. 1, 2 сравнить траектории нормы градиента у предложенных AdaGrad++ и Adam++ с их оригинальными версиями на задаче логистической регрессии и ResNet-18.", "review_focus": ["temporal", "evidence", "visual_fact"]} +{"submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "topic": "Adaptive gradient optimization methods for training LLM", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Can We Remove the Square-Root in Adaptive Gradient Methods? A Second-Order Perspective", "paper_id": "arxiv:2402.03496", "year": "2024", "evidence_kind": "figure_or_table", "page_hint": "Tab. 1, Fig.1, 2", "creator_prompt": "В таблице 1 сравнить результаты AdamW и метода без квадратного корня (NoSqrt) на задаче LRA и объяснить, какая задача является исключением из общего правила.", "model_task_prompt": "В таблице 1 сравнить результаты AdamW и метода без квадратного корня (NoSqrt) на задаче LRA и объяснить, какая задача является исключением из общего правила.", "review_focus": ["evidence"]} +{"submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "topic": "Adaptive gradient optimization methods for training LLM", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "Optimization Methods in Deep Learning: A Comprehensive Overview", "paper_id": "arxiv:2305.16432", "year": "2023", "evidence_kind": "figure_or_table", "page_hint": "Tab. 1,2, Fig. 2, 5", "creator_prompt": "Найти в таблицах 1 и 2 все упомянутые методы оптимизации и сгруппировать их по категориям (адаптивные и неадаптивные).", "model_task_prompt": "Найти в таблицах 1 и 2 все упомянутые методы оптимизации и сгруппировать их по категориям (адаптивные и неадаптивные).", "review_focus": ["evidence"]} +{"submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "topic": "Adaptive gradient optimization methods for training LLM", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "A Survey of Advanced Gradient Methods in Machine Learning", "paper_id": "arxiv:2412.04032", "year": "2024", "evidence_kind": "figure", "page_hint": "Fig. 1", "creator_prompt": "По схематичному рис. 1 перечислить ключевые этапы эволюции градиентных методов, затронутые в обзоре.", "model_task_prompt": "По схематичному рис. 1 перечислить ключевые этапы эволюции градиентных методов, затронутые в обзоре.", "review_focus": ["visual_fact"]} +{"submission_id": "рябков-евгении-юрьевич__598d6ea6b4", "creator_id": "Рябков Евгений Юрьевич", "topic": "Optical Superscattering", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Superscattering emerging from the physics of bound states in the continuum", "paper_id": "10.1038/s41467-023-40382-y", "year": "2023", "evidence_kind": "figure_or_table", "page_hint": "p.6, Fig. 4", "creator_prompt": "Сравните, какой вариант лучше извлекает информацию о super-dipole из картинки и понимает важность этого явления.", "model_task_prompt": "Извлеките информацию о super-dipole из картинки и понимает важность этого явления..", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "рябков-евгении-юрьевич__598d6ea6b4", "creator_id": "Рябков Евгений Юрьевич", "topic": "Optical Superscattering", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Superscattering emerging from the physics of bound states in the continuum", "paper_id": "10.1038/s41467-023-40382-y", "year": "2023", "evidence_kind": "figure_or_table", "page_hint": "p.8, Fig.6", "creator_prompt": "Сравните, какой вариант лучше извлекает информацию о дизайне системы из картинки и понимает техническую составляющую эффекта", "model_task_prompt": "Извлеките информацию о дизайне системы из картинки и понимает техническую составляющую эффекта.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "рябков-евгении-юрьевич__598d6ea6b4", "creator_id": "Рябков Евгений Юрьевич", "topic": "Optical Superscattering", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Superscattering emerging from the physics of bound states in the continuum", "paper_id": "10.1038/s41467-023-40382-y", "year": "2023", "evidence_kind": "figure_or_table", "page_hint": "p.9, Fig.7", "creator_prompt": "Сравните, какой вариант лучше извлекает информацию об экспериментальном достижении superscattering и соответствующих параметрах", "model_task_prompt": "Извлеките информацию об экспериментальном достижении superscattering и соответствующих параметрах.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "рябков-евгении-юрьевич__598d6ea6b4", "creator_id": "Рябков Евгений Юрьевич", "topic": "Optical Superscattering", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Experimental Observation of Superscattering", "paper_id": "arXiv:1812.05599", "year": "2019", "evidence_kind": "page", "page_hint": "p.1, p.2", "creator_prompt": "Сравните, какой вариант лучше понимает проблематику достижения данного эффекта и важность его нынешней реализации", "model_task_prompt": "Сравните, какой вариант лучше понимает проблематику достижения данного эффекта и важность его нынешней реализации", "review_focus": ["temporal", "evidence"]} +{"submission_id": "рябков-евгении-юрьевич__598d6ea6b4", "creator_id": "Рябков Евгений Юрьевич", "topic": "Optical Superscattering", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "Experimental Observation of Superscattering", "paper_id": "arXiv:1812.05599", "year": "2019", "evidence_kind": "page", "page_hint": "p.1", "creator_prompt": "Оценить, распознала ли модель, что ранее данный эффект не наблюдался экспериментально", "model_task_prompt": "Оценить, распознала ли модель, что ранее данный эффект не наблюдался экспериментально", "review_focus": ["overall"]} +{"submission_id": "рябков-евгении-юрьевич__598d6ea6b4", "creator_id": "Рябков Евгений Юрьевич", "topic": "Optical Superscattering", "case_id": "CASE-012", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Superscattering pattern shaping for radially anisotropic nanowires", "paper_id": "arXiv:1704.07994", "year": "2017", "evidence_kind": "figure_or_table", "page_hint": "p.2, Fig.1, p.5, Fig.5", "creator_prompt": "Сравните, распознают ли варианты то, что работа исключительно теоретическая и эффект экспериментально не наблюдался", "model_task_prompt": "Сравните, распознают ли варианты то, что работа исключительно теоретическая и эффект экспериментально не наблюдался", "review_focus": ["temporal", "evidence", "visual_fact", "overall"]} +{"submission_id": "Мстислав-Кудряшов-Александрович__168bdb55d7", "creator_id": "Мстислав Кудряшов Александрович", "topic": "composite impact modeling", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Fatigue Failure Criteria for Unidirectional Fiber Composites", "paper_id": "https://doi.org/10.1115/1.3157744", "year": "1981", "evidence_kind": "formula", "page_hint": "p.4 formula 18; p5 formula 20,22", "creator_prompt": "сравните, какой вариант корректно определяет формулы в работе. Особенно интерес представляет корректность формул с критериями разрушения", "model_task_prompt": "сравните, какой вариант корректно определяет формулы в работе. Особенно интерес представляет корректность формул с критериями разрушения", "review_focus": ["visual_fact", "overall"]} +{"submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications", "paper_id": "10.3390/electronics11152468", "year": "2022", "evidence_kind": "figure", "page_hint": "p.3, Fig. 1", "creator_prompt": "Сравните, какая модель лучше распознает пространственное расположение волоконного усилителя на 3D-модели EDFA и точно извлекает габариты из подписи.", "model_task_prompt": "Сравните, какая модель лучше распознает пространственное расположение волоконного усилителя на 3D-модели EDFA и точно извлекает габариты из подписи.", "review_focus": ["visual_fact", "evidence"]} +{"submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications", "paper_id": "10.3390/electronics11152468", "year": "2022", "evidence_kind": "figure_or_table", "page_hint": "p.12, Fig. 10", "creator_prompt": "Оцените, какая модель точнее извлекает значения коэффициента усиления в зависимости от входной мощности по графику, не путая между собой кривые для разных температур.", "model_task_prompt": "Оцените, какая модель точнее извлекает значения коэффициента усиления в зависимости от входной мощности по графику, не путая между собой кривые для разных температур.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications", "paper_id": "10.3390/electronics11152468", "year": "2022", "evidence_kind": "mixed", "page_hint": "p.15, Fig. 14", "creator_prompt": "Проверьте, какая модель корректно связывает просадки оптической мощности с конкретными временными фазами температурного цикла (нагрев/охлаждение) на графике испытаний TVAC.", "model_task_prompt": "Проверьте, какая модель корректно связывает просадки оптической мощности с конкретными временными фазами температурного цикла (нагрев/охлаждение) на графике испытаний TVAC.", "review_focus": ["temporal", "visual_fact"]} +{"submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Payload Configuration Integration and Testing of the DeMi CubeSat", "paper_id": "SSC18-XI-02", "year": "2018", "evidence_kind": "figure", "page_hint": "p.4, Fig. 3", "creator_prompt": "Сравните, какая модель корректно прослеживает оптический путь луча от калибровочного лазерного диода до Shack-Hartmann датчика (SHWFS), не смешивая его с путем света от внешней апертуры.", "model_task_prompt": "Сравните, какая модель корректно прослеживает оптический путь луча от калибровочного лазерного диода до Shack-Hartmann датчика (SHWFS), не смешивая его с путем света от внешней апертуры.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Payload Configuration Integration and Testing of the DeMi CubeSat", "paper_id": "SSC18-XI-02", "year": "2018", "evidence_kind": "figure", "page_hint": "p.5, Fig. 5", "creator_prompt": "Определите, какая модель может визуально идентифицировать геометрию сетки актуаторов MEMS-зеркала, верно связав её с физическим шагом (pitch) между актуаторами из подписи.", "model_task_prompt": "Определите, какая модель может визуально идентифицировать геометрию сетки актуаторов MEMS-зеркала, верно связав её с физическим шагом (pitch) между актуаторами из подписи.", "review_focus": ["visual_fact"]} +{"submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "easy_control", "paper_title": "Payload Configuration Integration and Testing of the DeMi CubeSat", "paper_id": "SSC18-XI-02", "year": "2018", "evidence_kind": "page", "page_hint": "p.2, Text section", "creator_prompt": "Проверьте, корректно ли модель извлекает требования к точности измерения волнового фронта (12 нм) из обычного абзаца текста (Payload Requirements).", "model_task_prompt": "Проверьте, корректно ли модель извлекает требования к точности измерения волнового фронта (12 нм) из обычного абзаца текста (Payload Requirements).", "review_focus": ["overall"]} +{"submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission", "paper_id": "SSC19-VI-02", "year": "2019", "evidence_kind": "table", "page_hint": "p.8, Table 4", "creator_prompt": "Какая модель точнее извлекает значения бюджета канала для кросс-линка на дистанции 580 км, корректно обрабатывая структуру таблицы и не путая колонки с потерями (pointing loss) и запасом (link margin)?", "model_task_prompt": "Какая модель точнее извлекает значения бюджета канала для кросс-линка на дистанции 580 км, корректно обрабатывая структуру таблицы и не путая колонки с потерями (pointing loss) и запасом (link margin)?", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission", "paper_id": "SSC19-VI-02", "year": "2019", "evidence_kind": "figure", "page_hint": "p.6, Fig. 6", "creator_prompt": "Оцените, какая модель верно распознает способ разделения передающего и принимающего путей на оптической схеме трансивера (напр. использование дихроичных зеркал для длин волн 1537 нм и 1563 нм)", "model_task_prompt": "Оцените, какая модель верно распознает способ разделения передающего и принимающего путей на оптической схеме трансивера (напр. использование дихроичных зеркал для длин волн 1537 нм и 1563 нм)", "review_focus": ["visual_fact"]} +{"submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission", "paper_id": "SSC19-VI-02", "year": "2019", "evidence_kind": "figure", "page_hint": "p.10, Fig. 11", "creator_prompt": "Проверьте, какая модель точнее описывает процесс схождения (convergence) ошибки наведения во времени, корректно определяя временной интервал до стабилизации (settling time) в замкнутом цикле.", "model_task_prompt": "Проверьте, какая модель точнее описывает процесс схождения (convergence) ошибки наведения во времени, корректно определяя временной интервал до стабилизации (settling time) в замкнутом цикле.", "review_focus": ["temporal", "visual_fact"]} +{"submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal ", "paper_id": "10.3390/aerospace12080655", "year": "2025", "evidence_kind": "figure_or_table", "page_hint": "p.5, Fig. 2", "creator_prompt": "Сравните, какая модель правильно соотносит цветные лучи (Tx и Rx пути) с их описанием в подписи и безошибочно локализует позицию FSM (Fast Steering Mirror) в плоскости оптического зрачка.", "model_task_prompt": "Сравните, какая модель правильно соотносит цветные лучи (Tx и Rx пути) с их описанием в подписи и безошибочно локализует позицию FSM (Fast Steering Mirror) в плоскости оптического зрачка.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "temporal_hard", "paper_title": "OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal ", "paper_id": "10.3390/aerospace12080655", "year": "2025", "evidence_kind": "mixed", "page_hint": "p.8, Fig. 6", "creator_prompt": "Какая модель лучше выводит логическую связь между паразитной индуктивностью (LTRACE) схемы и её влиянием на временные характеристики (скорость нарастания импульса/задержку) при высокой скорости модуляции диода?", "model_task_prompt": "Какая модель лучше выводит логическую связь между паразитной индуктивностью (LTRACE) схемы и её влиянием на временные характеристики (скорость нарастания импульса/задержку) при высокой скорости модуляции диода?", "review_focus": ["temporal", "evidence"]} +{"submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal ", "paper_id": "10.3390/aerospace12080655", "year": "2025", "evidence_kind": "page", "page_hint": "p.7, Text section", "creator_prompt": "Оцените, способна ли модель извлечь базовое описание процедуры лабораторной характеризации чувствительности приемника из текста до его интеграции.", "model_task_prompt": "Оцените, способна ли модель извлечь базовое описание процедуры лабораторной характеризации чувствительности приемника из текста до его интеграции.", "review_focus": ["overall"]} +{"submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "topic": "Vision-Language Models for GUI agents and automated UI testing", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "UI-TARS: Pioneering Automated GUI Interaction with Native Agents", "paper_id": "arXiv:2501.12326", "year": "2025", "evidence_kind": "figure", "page_hint": "p. 27, Figure 8", "creator_prompt": "Сравните, какой вариант точнее извлекает численные значения с bar chart AndroidWorld в Figure 8: scores для моделей UI-TARS-7B и UI-TARS-72B в режимах System-1 и System-2 при Bo1. Оцените, не галлюцинирует ли вариант числа и корректно ли привязывает каждое значение к соответствующей модели и режиму", "model_task_prompt": "Сравните, какой вариант точнее извлекает численные значения с bar chart AndroidWorld в Figure 8: scores для моделей UI-TARS-7B и UI-TARS-72B в режимах System-1 и System-2 при Bo1. Оцените, не галлюцинирует ли вариант числа и корректно ли привязывает каждое значение к соответствующей модели и режиму", "review_focus": ["visual_fact", "evidence"]} +{"submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "topic": "Vision-Language Models for GUI agents and automated UI testing", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "CogAgent: A Visual Language Model for GUI Agents", "paper_id": "arXiv:2312.08914", "year": "2023", "evidence_kind": "figure", "page_hint": "p.8, Figure 3", "creator_prompt": "Сравните, какой вариант точнее извлекает из Figure 3 численные значения TFLOPs для архитектуры с cross-module при всех четырёх разрешениях (224, 490, 756, 1120), и насколько корректно оценивает реальную степень линейности этой зависимости.", "model_task_prompt": "Сравните, какой вариант точнее извлекает из Figure 3 численные значения TFLOPs для архитектуры с cross-module при всех четырёх разрешениях (224, 490, 756, 1120), и насколько корректно оценивает реальную степень линейности этой зависимости.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "topic": "Vision-Language Models for GUI agents and automated UI testing", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "SeeClick: Harnessing GUI Grounding for Advanced Visual GUI Agents", "paper_id": "arXiv:2401.10935", "year": "2024", "evidence_kind": "table", "page_hint": "p. 9317, Table 1", "creator_prompt": "Сравните, какой вариант точнее извлекает, Опираясь на Table 1, точные численные значения \nточности (в процентах) для моделей SeeClick и CogAgent \nстрого в категории «Mobile Icon/Widget», а также их \nразмеры (Model Size) в миллиардах параметров.", "model_task_prompt": "Сравните, какой вариант точнее извлекает, Опираясь на Table 1, точные численные значения точности (в процентах) для моделей SeeClick и CogAgent строго в категории «Mobile Icon/Widget», а также их размеры (Model Size) в миллиардах параметров.", "review_focus": ["visual_fact", "evidence"]} +{"submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "topic": "Vision-Language Models for GUI agents and automated UI testing", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Vision-driven Automated Mobile GUI Testing via Multimodal Large Language Model", "paper_id": "arXiv:2407.03037", "year": "2024", "evidence_kind": "table", "page_hint": "p. 9, Table I", "creator_prompt": "Сравните, какой вариант точнее извлекает, используя Table I, значения Precision (P) и Recall (R) для метода Odin строго на датасете «Bug injection data» . Также приведите соответствующие значения P и R для VisionDroid на этом же датасете и укажите абсолютную разницу между ними", "model_task_prompt": "Сравните, какой вариант точнее извлекает, используя Table I, значения Precision (P) и Recall (R) для метода Odin строго на датасете «Bug injection data» . Также приведите соответствующие значения P и R для VisionDroid на этом же датасете и укажите абсолютную разницу между ними", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "topic": "Vision-Language Models for GUI agents and automated UI testing", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "VLM-Fuzz: Vision Language Model Assisted Recursive Depth-first Search Exploration for Effective UI Testing of Android Apps", "paper_id": "arXiv:2504.11675", "year": "2025", "evidence_kind": "mixed", "page_hint": "p.18, Fig. 9", "creator_prompt": "Сравните, какой вариант точнее извлекает из встроенной таблицы на Fig. 9 точное значение p-value для сравнения Line coverage между методами VLM-Fuzz и DeepGUI.", "model_task_prompt": "Сравните, какой вариант точнее извлекает из встроенной таблицы на Fig. 9 точное значение p-value для сравнения Line coverage между методами VLM-Fuzz и DeepGUI.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "topic": "Vision-Language Models for GUI agents and automated UI testing", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "AppAgent: Multimodal Agents as Smartphone Users", "paper_id": "arXiv:2312.13771", "year": "2023", "evidence_kind": "table", "page_hint": "p.7, Table 1", "creator_prompt": "Сравните, какой вариант точнее извлекает значения метрик Success Rate (SR) и Reward для метода \"GPT4 (Baseline)\" с конфигурациями Action Space \"Raw\" и \"Ours\", а также для \"AppAgent\" с \"Manually Crafted\" документами, опираясь строго на Table 1.", "model_task_prompt": "Сравните, какой вариант точнее извлекает значения метрик Success Rate (SR) и Reward для метода \"GPT4 (Baseline)\" с конфигурациями Action Space \"Raw\" и \"Ours\", а также для \"AppAgent\" с \"Manually Crafted\" документами, опираясь строго на Table 1.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "topic": "Vision-Language Models for GUI agents and automated UI testing", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "VideoGameQA-Bench: Evaluating Vision-Language Models for Video Game Quality Assurance", "paper_id": "arXiv:2505.15952", "year": "2025", "evidence_kind": "table", "page_hint": "p.5, Table 2", "creator_prompt": "Сравните, какой вариант точнее извлекает на основе Table 2 значения Accuracy для моделей o4-mini и Llama-4-Scout строго в задаче Video-based glitch detection (VGD).", "model_task_prompt": "Сравните, какой вариант точнее извлекает на основе Table 2 значения Accuracy для моделей o4-mini и Llama-4-Scout строго в задаче Video-based glitch detection (VGD).", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "topic": "Vision-Language Models for GUI agents and automated UI testing", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "A Survey on (M)LLM-Based GUI Agents", "paper_id": "arXiv:2504.13865", "year": "2025", "evidence_kind": "table", "page_hint": "p. 17, Table 1", "creator_prompt": "Сравните, какой вариант точнее извлекает, опираясь на Table 1, все датасеты для платформы \"web\", которые поддерживают диалоговые задачи (в столбце Dialogue стоит галочка).", "model_task_prompt": "Сравните, какой вариант точнее извлекает, опираясь на Table 1, все датасеты для платформы \"web\", которые поддерживают диалоговые задачи (в столбце Dialogue стоит галочка).", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "topic": "Vision-Language Models for GUI agents and automated UI testing", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Test-Time Policy Adaptation for Enhanced Multi-Turn Interactions with LLMs", "paper_id": "arXiv:2509.23166", "year": "2025", "evidence_kind": "figure", "page_hint": "p. 28, Figure 6", "creator_prompt": "Сравните, какой вариант точнее определяет из Figure 6 для датасета \nMATH500 момент пересечения кривых ROSA и Baseline во времени и \nправильно описывает, какой метод лидирует ДО и ПОСЛЕ этого момента.", "model_task_prompt": "Сравните, какой вариант точнее определяет из Figure 6 для датасета MATH500 момент пересечения кривых ROSA и Baseline во времени и правильно описывает, какой метод лидирует ДО и ПОСЛЕ этого момента.", "review_focus": ["temporal", "visual_fact"]} +{"submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "topic": "Vision-Language Models for GUI agents and automated UI testing", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "A Survey on Web Testing: On the Rise of AI and Applications in Industry", "paper_id": "arXiv:2503.05378", "year": "2025", "evidence_kind": "figure_or_table", "page_hint": "p.38, Fig.3", "creator_prompt": "Сравните, какой вариант точнее определяет из Figure 3 временную динамику публикаций по SBST/AI-методам: год перелома тренда, соотношение публикаций до и после этого года, а также аномальные годы с локальным спадом или искажением. Оцените, какой вариант избегает галлюцинации тренда и опирается именно на визуальные данные", "model_task_prompt": "Сравните, какой вариант точнее определяет из Figure 3 временную динамику публикаций по SBST/AI-методам: год перелома тренда, соотношение публикаций до и после этого года, а также аномальные годы с локальным спадом или искажением. Оцените, какой вариант избегает галлюцинации тренда и опирается именно на визуальные данные", "review_focus": ["temporal", "visual_fact"]} +{"submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "topic": "Vision-Language Models for GUI agents and automated UI testing", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "LLM-Guided Scenario-based GUI Testing", "paper_id": "arXiv:2506.05079", "year": "2025", "evidence_kind": "page", "page_hint": "p. 24, Section 5 \"Threats to Validity\"", "creator_prompt": "На основании раздела \"Threats to Validity\" перечислите 3 основные угрозы валидности (ограничения), которые сами авторы выделяют в своей работе.", "model_task_prompt": "На основании раздела \"Threats to Validity\" перечислите 3 основные угрозы валидности (ограничения), которые сами авторы выделяют в своей работе.", "review_focus": ["overall"]} +{"submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "topic": "Vision-Language Models for GUI agents and automated UI testing", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "Usable AI: Critical Review of Its Current Issues and Trends", "paper_id": "doi:10.3844/jcssp.2023.326.333", "year": "2023", "evidence_kind": "page", "page_hint": "p. 330, Section \"Usability Challenges of AI Applications\"", "creator_prompt": "На основании раздела «Usability Challenges of AI Applications» перечислите основные проблемы (challenges) разработки ориентированного на человека ИИ (HAI), о которых пишут авторы.", "model_task_prompt": "На основании раздела «Usability Challenges of AI Applications» перечислите основные проблемы (challenges) разработки ориентированного на человека ИИ (HAI), о которых пишут авторы.", "review_focus": ["overall"]} +{"submission_id": "парочкин-андреи-витальевич__5c4536453d", "creator_id": "Парочкин Андрей Витальевич", "topic": "Ferroelectric transistor parameters interpretation", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Decoupling polarization and coercive field in AlScN/AlN/AlScN stack for enhanced performance in ferroelectric thin-film transistors", "paper_id": "10.1038/s41467-025-62904-6", "year": "2025", "evidence_kind": "figure", "page_hint": "Fig.4e", "creator_prompt": "Сравнить, какой вариант лучше понимает, какая кривая соответствует подходящему к работе в ключевом режиме напряжению.", "model_task_prompt": "Сравнить, какой вариант лучше понимает, какая кривая соответствует подходящему к работе в ключевом режиме напряжению.", "review_focus": ["temporal", "evidence", "visual_fact"]} +{"submission_id": "парочкин-андреи-витальевич__5c4536453d", "creator_id": "Парочкин Андрей Витальевич", "topic": "Ferroelectric transistor parameters interpretation", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Scalable CMOS back-end-of-line-compatible AlScN/two-dimensional channel ferroelectric field-effect transistors", "paper_id": "10.1038/s41565-023-01399-y", "year": "2023", "evidence_kind": "figure", "page_hint": "Fig.1c", "creator_prompt": "Определить, результаты какого ещё метода исследования есть на the figure.", "model_task_prompt": "Определить, результаты какого ещё метода исследования есть на the figure.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "парочкин-андреи-витальевич__5c4536453d", "creator_id": "Парочкин Андрей Витальевич", "topic": "Ferroelectric transistor parameters interpretation", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Scalable CMOS back-end-of-line-compatible AlScN/two-dimensional channel ferroelectric field-effect transistors", "paper_id": "10.1038/s41565-023-01399-y", "year": "2023", "evidence_kind": "figure", "page_hint": "Fig.1c", "creator_prompt": "Определить по картинке, имеются ли в составе структуры кристаллиты.", "model_task_prompt": "Определить по картинке, имеются ли в составе структуры кристаллиты.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "парочкин-андреи-витальевич__5c4536453d", "creator_id": "Парочкин Андрей Витальевич", "topic": "Ferroelectric transistor parameters interpretation", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Origins of High Mobility and Low Operation Voltage of Amorphous Oxide TFTs: Electronic Structure, Electron Transport, Defects and Doping", "paper_id": "10.1109/JDT.2009.2034559", "year": "2009", "evidence_kind": "figure", "page_hint": "Fig.23b", "creator_prompt": "Какой вариант верно напишет, проводимость транзистора после отжига в азотной среде.", "model_task_prompt": "Какой вариант верно напишет, проводимость транзистора после отжига в азотной среде.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "парочкин-андреи-витальевич__5c4536453d", "creator_id": "Парочкин Андрей Витальевич", "topic": "Ferroelectric transistor parameters interpretation", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Origins of High Mobility and Low Operation Voltage of Amorphous Oxide TFTs: Electronic Structure, Electron Transport, Defects and Doping", "paper_id": "10.1109/JDT.2009.2034559", "year": "2009", "evidence_kind": "figure", "page_hint": "Fig.26b", "creator_prompt": "Оценить ширину гистерезиса для отожжённого и неотожжённого образцов.", "model_task_prompt": "Оценить ширину гистерезиса для отожжённого и неотожжённого образцов.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "парочкин-андреи-витальевич__5c4536453d", "creator_id": "Парочкин Андрей Витальевич", "topic": "Ferroelectric transistor parameters interpretation", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Impact of Ferroelectric Layer Thickness on Reliability of Back-End-of-Line-Compatible Hafnium Zirconium Oxide Films", "paper_id": "10.1002/adem.202201124", "year": "2022", "evidence_kind": "figure", "page_hint": "Fig.2", "creator_prompt": "Определить, в какой из плёнок содержится моноклинная фаза.", "model_task_prompt": "Определить, в какой из плёнок содержится моноклинная фаза.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "парочкина-екатерина-владимировна__91f2284dbc", "creator_id": "Парочкина Екатерина Владимировна", "topic": "Посмертные изменения в биомолекулах", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Dynamics of Postmortem Gene Expression in Normal and Neoplastic Murine Liver", "paper_id": "doi: 10.3390/life16040683", "year": "2026", "evidence_kind": "figure_or_table", "page_hint": "Fig.4", "creator_prompt": "Сравните, какой вариант лучше извлекает численные данные из рисунка 4 и сопоставляет их динамику во времени.", "model_task_prompt": "Извлеките численные данные из рисунка 4 и сопоставляет их динамику во времени..", "review_focus": ["visual_fact", "temporal"]} +{"submission_id": "парочкина-екатерина-владимировна__91f2284dbc", "creator_id": "Парочкина Екатерина Владимировна", "topic": "Посмертные изменения в биомолекулах", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains", "paper_id": "doi: 10.3390/biom15091288", "year": "2025", "evidence_kind": "figure_or_table", "page_hint": "Fig.2A,B", "creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 2 A,B данные principal component analysis (PCA) и сопоставляет их с временной динамикой", "model_task_prompt": "Извлеките из рисунка 2 A,B данные principal component analysis (PCA) и сопоставляет их с временной динамикой.", "review_focus": ["visual_fact", "temporal"]} +{"submission_id": "парочкина-екатерина-владимировна__91f2284dbc", "creator_id": "Парочкина Екатерина Владимировна", "topic": "Посмертные изменения в биомолекулах", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains", "paper_id": "doi: 10.3390/biom15091288", "year": "2025", "evidence_kind": "figure_or_table", "page_hint": "Fig.3", "creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 3 данные о стабильности соединений", "model_task_prompt": "Извлеките из рисунка 3 данные о стабильности соединений.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "парочкина-екатерина-владимировна__91f2284dbc", "creator_id": "Парочкина Екатерина Владимировна", "topic": "Посмертные изменения в биомолекулах", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains", "paper_id": "doi: 10.3390/biom15091288", "year": "2025", "evidence_kind": "figure_or_table", "page_hint": "Fig.4A", "creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 4A качественные (не числовые) данные", "model_task_prompt": "Извлеките из рисунка 4A качественные (не числовые) данные.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "парочкина-екатерина-владимировна__91f2284dbc", "creator_id": "Парочкина Екатерина Владимировна", "topic": "Посмертные изменения в биомолекулах", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Systematic analysis of gene expression patterns associated with postmortem interval in human tissues", "paper_id": "doi: s41598-017-05882-0", "year": "2017", "evidence_kind": "figure_or_table", "page_hint": "Table 2", "creator_prompt": "Сравните, какой вариант лучше извлекает из таблицы 2 категориальные данные", "model_task_prompt": "Извлеките из таблицы 2 категориальные данные.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Deep learning methods for 2D material electronic properties", "paper_id": "10.1039/D5DD00155B", "year": "2026", "evidence_kind": "table", "page_hint": "p.5-6, Table 1", "creator_prompt": "Сравните, какая из двух моделей точнее извлекает из таблицы 1 для каждой базы данных (C2DB, MC2D, 2DmatPedia, Materials Project, JARVIS-DFT) информацию о типе данных (структура / электронные свойства / фононы), доступности API и основных ссылках. Выделите только те базы, которые содержат электронные зонные структуры.", "model_task_prompt": "Сравните, какая из двух моделей точнее извлекает из таблицы 1 для каждой базы данных (C2DB, MC2D, 2DmatPedia, Materials Project, JARVIS-DFT) информацию о типе данных (структура / электронные свойства / фононы), доступности API и основных ссылках. Выделите только те базы, которые содержат электронные зонные структуры.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Deep learning methods for 2D material electronic properties", "paper_id": "10.1039/D5DD00155B", "year": "2026", "evidence_kind": "figure", "page_hint": "p.7, Fig. 1", "creator_prompt": "На рисунке 1 показаны пять архитектур (PLMF, CGCNN, ALIGNN, MEGNet, SLICES). Для каждой из них определите:\n- используется ли графовое представление;\n- есть ли в явном виде обработка углов связей (bond angles);\n- является ли представление строковым (string‑based).\nРезультат оформите в виде таблицы из трёх колонок.", "model_task_prompt": "На рисунке 1 показаны пять архитектур (PLMF, CGCNN, ALIGNN, MEGNet, SLICES). Для каждой из них определите: - используется ли графовое представление; - есть ли в явном виде обработка углов связей (bond angles); - является ли представление строковым (string‑based). Результат оформите в виде таблицы из трёх колонок.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Deep learning methods for 2D material electronic properties", "paper_id": "10.1039/D5DD00155B", "year": "2026", "evidence_kind": "table", "page_hint": "p. 13-14, Table 3", "creator_prompt": "Найдите в таблице 3 все методы, которые используют трансформеры (transformer) или авторегрессию (autoregressive). Для каждого такого метода выпишите название модели или работы, тип представления структуры, точность (MAE для band centers или band gaps). Игнорируйте методы на основе CNN или RBM, если они явно не упоминают внимание/трансформер.", "model_task_prompt": "Найдите в таблице 3 все методы, которые используют трансформеры (transformer) или авторегрессию (autoregressive). Для каждого такого метода выпишите название модели или работы, тип представления структуры, точность (MAE для band centers или band gaps). Игнорируйте методы на основе CNN или RBM, если они явно не упоминают внимание/трансформер.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Deep learning methods for 2D material electronic properties", "paper_id": "10.1039/D5DD00155B", "year": "2026", "evidence_kind": "table", "page_hint": "p.16, Table 4", "creator_prompt": "В таблице 4 перечислены модели для межатомных потенциалов. Отберите те модели, которые явно используют E(3)-equivariant convolutions или equivariant message passing. Для каждой из них укажите название модели, тип архитектуры (Graph NN, Equivariant representations), целевые материалы (2D, 3D, molecular). Если модель не помечена как equivariant, но в описании говорится о «rotational invariance», – не включайте.", "model_task_prompt": "В таблице 4 перечислены модели для межатомных потенциалов. Отберите те модели, которые явно используют E(3)-equivariant convolutions или equivariant message passing. Для каждой из них укажите название модели, тип архитектуры (Graph NN, Equivariant representations), целевые материалы (2D, 3D, molecular). Если модель не помечена как equivariant, но в описании говорится о «rotational invariance», – не включайте.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Deep learning methods for 2D material electronic properties", "paper_id": "10.1039/D5DD00155B", "year": "2026", "evidence_kind": "page", "page_hint": "p.28-29", "creator_prompt": "В разделе 5 авторы перечисляют ключевые вызовы и будущие направления. Найдите в тексте упоминания следующих концепций:\n- uncertainty quantification;\n- interpretability / explainable AI (XAI);\n- foundation models;\n- autonomous labs (self‑driving laboratories).\nДля каждого из них выпишите одну цитату (одно предложение), в которой описывается проблема или предложение. Затем оцените, насколько полно каждая модель (baseline vs tuned) воспроизводит эти цитаты без изменения смысла.", "model_task_prompt": "В разделе 5 авторы перечисляют ключевые вызовы и будущие направления. Найдите в тексте упоминания следующих концепций: - uncertainty quantification; - interpretability / explainable AI (XAI); - foundation models; - autonomous labs (self‑driving laboratories). Для каждого из них выпишите одну цитату (одно предложение), в которой описывается проблема или предложение. Затем оцените, насколько полно каждая модель (baseline vs tuned) воспроизводит эти цитаты без изменения смысла.", "review_focus": ["temporal", "evidence"]} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State", "paper_id": "arXiv:2603.14515", "year": "2026", "evidence_kind": "figure", "page_hint": "p.1, Fig.1", "creator_prompt": "По логарифмическому графику определите показатель степени для Excited Pfaffians. Сравните с наклонами кривых NES и Szabó et al.", "model_task_prompt": "По логарифмическому графику определите показатель степени для Excited Pfaffians. Сравните с наклонами кривых NES и Szabó et al.", "review_focus": ["temporal", "evidence"]} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State", "paper_id": "arXiv:2603.14515", "year": "2026", "evidence_kind": "figure", "page_hint": "p.5, Fig.3", "creator_prompt": "Для Excited Pfaffian (панель a) назовите, какие компоненты общие для всех состояний, а какие — state‑specific.", "model_task_prompt": "Для Excited Pfaffian (панель a) назовите, какие компоненты общие для всех состояний, а какие — state‑specific.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State", "paper_id": "arXiv:2603.14515", "year": "2026", "evidence_kind": "figure", "page_hint": "p.6, Fig.4", "creator_prompt": "Найдите атом, для которого все 10 состояний находятся в пределах химической точности (1.6 mHa) от эксперимента. Для него выпишите погрешность самого высокого уровня.", "model_task_prompt": "Найдите атом, для которого все 10 состояний находятся в пределах химической точности (1.6 mHa) от эксперимента. Для него выпишите погрешность самого высокого уровня.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State", "paper_id": "arXiv:2603.14515", "year": "2026", "evidence_kind": "figure", "page_hint": "p.7, Fig.5", "creator_prompt": "В районе 1.6Å происходит обмен двух синглетных состояний. Назовите оба состояния и укажите, какой метод (Excited Pfaffian или Schätzle) сохраняет больше состояний на больших расстояниях.", "model_task_prompt": "В районе 1.6Å происходит обмен двух синглетных состояний. Назовите оба состояния и укажите, какой метод (Excited Pfaffian или Schätzle) сохраняет больше состояний на больших расстояниях.", "review_focus": ["temporal", "evidence"]} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Transferable neural wavefunctions for solids", "paper_id": "10.1038/s43588-025-00872-z", "year": "2025", "evidence_kind": "figure", "page_hint": "p.2, Fig. 1d", "creator_prompt": "На панели d рисунка 1 показано, как переносимая волновая функция использует среднее поле (mean‑field) для начальных орбиталей. Определите, какие компоненты остаются «замороженными», а какие обучаются нейросетью. Объясните, почему такой подход ускоряет обучение для новых систем.", "model_task_prompt": "На панели d рисунка 1 показано, как переносимая волновая функция использует среднее поле (mean‑field) для начальных орбиталей. Определите, какие компоненты остаются «замороженными», а какие обучаются нейросетью. Объясните, почему такой подход ускоряет обучение для новых систем.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "temporal_hard", "paper_title": "Transferable neural wavefunctions for solids", "paper_id": "10.1038/s43588-025-00872-z", "year": "2025", "evidence_kind": "page", "page_hint": "стр. 2, последний абзац введения", "creator_prompt": "В тексте упоминается, что DeepSolid потребовал 80 000 GPU‑часов для одного расчёта. Найдите, во сколько раз меньше времени потребовал предложенный метод при переносе с 32‑электронной на 108‑электронную систему LiH. Какой коэффициент ускорения назван в статье?", "model_task_prompt": "В тексте упоминается, что DeepSolid потребовал 80 000 GPU‑часов для одного расчёта. Найдите, во сколько раз меньше времени потребовал предложенный метод при переносе с 32‑электронной на 108‑электронную систему LiH. Какой коэффициент ускорения назван в статье?", "review_focus": ["temporal", "evidence"]} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "multimodal_hard", "paper_title": "Transferable neural wavefunctions for solids", "paper_id": "10.1038/s43588-025-00872-z", "year": "2025", "evidence_kind": "figure", "page_hint": "p.3, Fig. 2a", "creator_prompt": "На рисунке 2a показано сравнение энергий на атом для водородной цепи. Найдите метод, который даёт самую низкую энергию (наиболее точную). Укажите, какое значение (в mHa) получено предложенным методом при экстраполяции к термодинамическому пределу с использованием TABC.", "model_task_prompt": "На рисунке 2a показано сравнение энергий на атом для водородной цепи. Найдите метод, который даёт самую низкую энергию (наиболее точную). Укажите, какое значение (в mHa) получено предложенным методом при экстраполяции к термодинамическому пределу с использованием TABC.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-013", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Transferable neural wavefunctions for solids", "paper_id": "10.1038/s43588-025-00872-z", "year": "2025", "evidence_kind": "figure", "page_hint": "p.3, Fig. 2b", "creator_prompt": "На рисунке 2b показана комплексная поляризация как функция межатомного расстояния. Авторы утверждают, что наблюдают металл‑изоляторный переход. В каком диапазоне R (в единицах a₀) происходит переход согласно их данным? Чем их оценка критического расстояния отличается от оценки Motta et al.?", "model_task_prompt": "На рисунке 2b показана комплексная поляризация как функция межатомного расстояния. Авторы утверждают, что наблюдают металл‑изоляторный переход. В каком диапазоне R (в единицах a₀) происходит переход согласно их данным? Чем их оценка критического расстояния отличается от оценки Motta et al.?", "review_focus": ["temporal", "evidence"]} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-014", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Transferable neural wavefunctions for solids", "paper_id": "10.1038/s43588-025-00872-z", "year": "2025", "evidence_kind": "table", "page_hint": "p.4, Table 1", "creator_prompt": "В таблице 1 сравниваются полные энергии графена для трёх твистов. Для твиста k2 (вес 2/3) найдите энергию, полученную DeepSolid, и энергию, полученную авторами. Вычислите разницу в mH.", "model_task_prompt": "В таблице 1 сравниваются полные энергии графена для трёх твистов. Для твиста k2 (вес 2/3) найдите энергию, полученную DeepSolid, и энергию, полученную авторами. Вычислите разницу в mH.", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-015", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction", "paper_id": "arXiv:2603.15669", "year": "2026", "evidence_kind": "page", "page_hint": "p. 7–9, 2.1 (a, b, c)", "creator_prompt": "Авторы описывают три сценария с возрастающей сложностью: интерполяция внутри MD‑траектории, случайное разделение QM9, экстраполяция на фторсодержащие молекулы. Для третьего сценария укажите, какие элементы отсутствовали в тренировочном наборе. Как меняется ошибка предсказания при переходе от первого сценария к третьему?", "model_task_prompt": "Авторы описывают три сценария с возрастающей сложностью: интерполяция внутри MD‑траектории, случайное разделение QM9, экстраполяция на фторсодержащие молекулы. Для третьего сценария укажите, какие элементы отсутствовали в тренировочном наборе. Как меняется ошибка предсказания при переходе от первого сценария к третьему?", "review_focus": ["temporal", "evidence"]} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-016", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction", "paper_id": "arXiv:2603.15669", "year": "2026", "evidence_kind": "figure", "page_hint": "p. 10, Fig. 3", "creator_prompt": "На рисунке 3 показано сравнение предсказанной электронной плотности и DFT‑плотности. Визуально оцените, хорошо ли воспроизводится форма и положение максимумов. В каких областях (вблизи ядер или в межмолекулярном пространстве) заметны расхождения? Почему авторы исключают околоядерные области из расчёта ошибок?", "model_task_prompt": "На рисунке 3 показано сравнение предсказанной электронной плотности и DFT‑плотности. Визуально оцените, хорошо ли воспроизводится форма и положение максимумов. В каких областях (вблизи ядер или в межмолекулярном пространстве) заметны расхождения? Почему авторы исключают околоядерные области из расчёта ошибок?", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-017", "enabled": true, "primary_endpoint": true, "stratum": "easy_control", "paper_title": "V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction", "paper_id": "arXiv:2603.15669", "year": "2026", "evidence_kind": "page", "page_hint": "p. 12, 3.1, Eq 1", "creator_prompt": "В разделе 3.1 авторы связывают FNO с линейной теорией отклика. Найдите интегральное выражение, связывающее изменение плотности с изменением внешнего потенциала через функцию отклика χ. Напишите это уравнение (можно в текстовом виде). Чем FNO отличается от линейного отклика?", "model_task_prompt": "В разделе 3.1 авторы связывают FNO с линейной теорией отклика. Найдите интегральное выражение, связывающее изменение плотности с изменением внешнего потенциала через функцию отклика χ. Напишите это уравнение (можно в текстовом виде). Чем FNO отличается от линейного отклика?", "review_focus": ["overall"]} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["temporal", "evidence"]} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["temporal", "evidence"]} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["temporal", "evidence"]} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["overall"]} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["overall"]} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"]} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["temporal", "evidence"]} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["temporal", "evidence"]} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["temporal", "evidence"]} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["overall"]} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["overall"]} diff --git a/data/task3_cases_summary.csv b/data/task3_cases_summary.csv new file mode 100644 index 0000000000000000000000000000000000000000..6817285535a521f34f98a9e5e2306ec7ffb52ef7 --- /dev/null +++ b/data/task3_cases_summary.csv @@ -0,0 +1,183 @@ +sample_id,topic,submission_id,case_id,stratum,primary_endpoint,paper_title,paper_id,year,evidence_kind,page_hint,image_count,model_task_prompt +task3:f0377dec26:case-001,Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме,денис-заморин__f0377dec26,CASE-001,multimodal_hard,True,"Ordering, Metastability and Phase Transitions in Two-Dimensional Systems",DOI:10.1088/0022-3719/6/7/010,1973,figure_or_table,"p.1191–1192, Fig.1 & Fig.2",0,"Сравните, какой вариант точнее интерпретирует рисунки 1 и 2 (стр. 1191–1192): извлеките связь между направлением обхода замкнутого контура и величиной топологического заряда q, и проверьте, не теряется ли эта визуальная закономерность в hypothesis support." +task3:f0377dec26:case-002,Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме,денис-заморин__f0377dec26,CASE-002,multimodal_hard,True,Quasicrystalline structures in strongly coupled dusty plasma,DOI:10.1070/PU1997v040n11ABEH000308,1977,figure,"p.1166, Fig.4",0,"Сравните, какой вариант точнее извлекает данные из графика на рис. 4 (стр. 1165): определите, какая кривая соответствует переходу от “газообразного” к “жидкоподобному” состоянию, и проверьте, правильно ли модель связывает появление пика g(r) с указанным в тексте значением параметра связи Γ = 40." +task3:f0377dec26:case-003,Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме,денис-заморин__f0377dec26,CASE-003,multimodal_hard,True,Quasicrystalline structures in strongly coupled dusty plasma,DOI:10.1070/PU1997v040n11ABEH000308,1977,figure_or_table,"p.1166, Fig.5",0,"Сравните, какой вариант вернее интерпретирует фазовую диаграмму на рис. 5 (стр. 1166): извлеките координаты экспериментальных точек в логарифмическом масштабе осей, определите, относительно каких теоретических кривых они лежат, и проверьте, не нарушается ли при этом условие образования упорядоченных структур, описанное в тексте." +task3:f0377dec26:case-004,Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме,денис-заморин__f0377dec26,CASE-004,multimodal_hard,True,Melting dynamics of a plasma crystal,DOI:10.1038/379806a0,1996,figure,"p. 809, Fig. 3",0,"Сравните, какой вариант точнее считывает график на рис. 3: определите давление газа (0.32 мбар), при котором ориентационный порядок демонстрирует локальный максимум, в то время как трансляционный порядок продолжает монотонно падать." +task3:f0377dec26:case-005,Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме,денис-заморин__f0377dec26,CASE-005,multimodal_hard,True,Plasma Crystal: Coulomb Crystallization in a Dusty Plasma,DOI: https://doi.org/10.1103/PhysRevLett.73.652,1994,figure,"p. 653, Fig. 4",0,"Сравните три гистограммы на рис. 4 (стр. 653): определите, какое из распределений (площадь ячеек, число сторон или расстояние до соседа) наиболее чётко отличает экспериментальные данные (чёрные столбцы) от случайного распределения (белые), и проверьте, сохраняет ли модель связь между сужением пиков и выводом о кристаллическом порядке." +task3:f0377dec26:case-006,Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме,денис-заморин__f0377dec26,CASE-006,multimodal_hard,True,Plasma Crystal: Coulomb Crystallization in a Dusty Plasma,DOI: https://doi.org/10.1103/PhysRevLett.73.652,1994,figure,"p. 654, Fig. 3",0,"Проанализируйте тесселяцию на рис. 3: определите, какая геометрическая фигура преобладает среди ячеек Вороного, проверьте, связывает ли модель визуальное доминирование шестиугольников с выводом о формировании кристаллической решётки." +task3:f0377dec26:case-007,Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме,денис-заморин__f0377dec26,CASE-007,multimodal_hard,True,Hexatic phase in two-dimensional Yukawa systems: Existence and properties,DOI 10.1088/1742-6596/653/1/012103,2015,figure,"p.3-4, Fig.1 & Fig.3",0,"Сравните, какой вариант точнее считывает рисунки 1 и 3: извлеките асимптотическое поведение g6(r) для гексатической фазы (степенной закон r^(-1/5)), сопоставьте его с положением пика теплоёмкости Cv и определите границы переходов при Γ = 98 и Γ=154." +task3:f0377dec26:case-008,Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме,денис-заморин__f0377dec26,CASE-008,temporal_hard,True,Hexatic phase in two-dimensional Yukawa systems: Existence and properties,DOI 10.1088/1742-6596/653/1/012103,2015,figure,"p.4–5, Fig.5 & Fig.6",0,"Проанализируйте динамику фазового сценария при уменьшении Γ: определите последовательность потери порядка (трансляционный до ориентационного), выявите на рис. 5 расхождение в оценках критических точек из работ до и после 2010 года, и проверьте, как на рис. 6 сдвигается диапазон существования гексатической фазы при изменении параметра каппа." +task3:f0377dec26:case-009,Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме,денис-заморин__f0377dec26,CASE-009,temporal_hard,True,Laser-induced melting of two-dimensional dusty plasma system in RF discharge,DOI:10.1038/s41598-020-80082-x,2021,figure,"p.6-7, Fig.4 & Fig.5",0,"Отследите последовательность разрушения порядка при уменьшении Γ: определите, какой тип порядка (трансляционный или ориентационный) теряется первым в районе Γ = 160Γ, а какой - в районе Г = 100, и проверьте, соответствует ли эта динамика визуальной эволюции дефектов на диаграммах Вороного (рис. 5)." +task3:f0377dec26:case-010,Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме,денис-заморин__f0377dec26,CASE-010,temporal_hard,True,Laser-induced melting of two-dimensional dusty plasma system in RF discharge,DOI:10.1038/s41598-020-80082-x,2021,figure,"p.5, Fig.3",0,"Проанализируйте эволюцию структурного фактора S(kxy) на рис. 3 при переходе от Γ=600 к Γ=50: опишите последовательную трансформацию максимумов (чёткие пики --- размытые гексагоны --- концентрические кольца) и проверьте, связывает ли модель промежуточную стадию с гексатической фазой, а не с прямым переходом твёрдое кристалл - жидкость." +task3:f0377dec26:case-011,Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме,денис-заморин__f0377dec26,CASE-011,easy_control,False,Laser-induced melting of two-dimensional dusty plasma system in RF discharge,DOI:10.1038/s41598-020-80082-x,2021,page,"p.3, раздел Experiments",0,"Извлеките базовые параметры эксперимента: диаметр частиц, рабочее давление газа и диапазон мощности лазера, использованного для нагрева, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений." +task3:f0377dec26:case-012,Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме,денис-заморин__f0377dec26,CASE-012,easy_control,False,Laser-induced melting of two-dimensional dusty plasma system in RF discharge,DOI:10.1038/s41598-020-80082-x,2021,page,"p.2–3, раздел Experiments",0,"Извлеките базовые параметры ВЧ-разряда: частоту генератора, расстояние между электродами, рабочее давление аргона и мощность разряда, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений." +task3:8ec4fdad1a:case-001,Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.,екатерина-александровна-кубракова__8ec4fdad1a,CASE-001,multimodal_hard,True,"""AI Agents Simulate Behavioral Biases in Financial Markets""",10.1007/s42001-026-00465-4,2026,figure_or_table,Fig.4,0,"Извлеките из Figure 4 ключевые параметры LLM-агентов (уровни bias, типы personality) и связывает их с описанными в тексте рыночными исходами (пузыри, крахи).." +task3:8ec4fdad1a:case-002,Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.,екатерина-александровна-кубракова__8ec4fdad1a,CASE-002,temporal_hard,True,"""AI Agents Simulate Behavioral Biases in Financial Markets""",10.1007/s42001-026-00465-4,2026,figure_or_table,Fig.5,0,"Определите временные рамки критических изменений на рынке (points of inflection), правильно ли привязывает фазы роста/падения к конкретным таймстэмпам.." +task3:8ec4fdad1a:case-003,Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.,екатерина-александровна-кубракова__8ec4fdad1a,CASE-003,easy_control,True,"""AI Agents Simulate Behavioral Biases in Financial Markets",10.1007/s42001-026-00465-4,2026,page,p.8,0,Определите определение 'herd mentality' и его проявление в росте VWAP.. +task3:8ec4fdad1a:case-004,Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.,екатерина-александровна-кубракова__8ec4fdad1a,CASE-004,multimodal_hard,True,"AI Agents Simulate Behavioral Biases in Financial Markets""",10.1007/s42001-026-00465-4,2026,table,Table 1,0,"Определите, сколько типов personality настроено в агентах и какие именно bias (overconfidence, loss_aversion, dissonance) им назначены.." +task3:8ec4fdad1a:case-005,Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.,екатерина-александровна-кубракова__8ec4fdad1a,CASE-005,multimodal_hard,True,AI Agents Simulate Behavioral Biases in Financial Markets,10.1007/s42001-026-00465-4,2026,figure,Fig.6,0,Свяжите усиление 'herding' и 'overconfidence' с началом пузыря.. +task3:8ec4fdad1a:case-006,Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.,екатерина-александровна-кубракова__8ec4fdad1a,CASE-006,multimodal_hard,True,AI Agents Simulate Behavioral Biases in Financial Market,10.1007/s42001-026-00465-4,2026,figure_or_table,Fig.3,0,"Сравните, насколько точно каждый VLM извлекает из Figure 3 значения VWAP и trade volume на разных фазах пузыря и связывает их с bias-параметрами агентов" +task3:8ec4fdad1a:case-007,Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.,екатерина-александровна-кубракова__8ec4fdad1a,CASE-007,multimodal_hard,True,AI Agents Simulate Behavioral Biases in Financial Markets,10.1007/s42001-026-00465-4,2026,table,Table 2,0,"Интерпретируйте данные Table 2: какой bias (overconfidence, loss aversion, dissonance) сильнее всего коррелирует с аномальным ростом VWAP.." +task3:8ec4fdad1a:case-008,Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.,екатерина-александровна-кубракова__8ec4fdad1a,CASE-008,temporal_hard,True,AI Agents Simulate Behavioral Biases in Financial Markets,10.1007/s42001-026-00465-4,2026,figure,Fig.2,0,"Определите, сколько типов personality настроено в агентах (из Figure 2) и какие bias к ним привязаны." +task3:8ec4fdad1a:case-009,Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.,екатерина-александровна-кубракова__8ec4fdad1a,CASE-009,temporal_hard,True,AI Agents Simulate Behavioral Biases in Financial Market,10.1007/s42001-026-00465-4,2026,figure,Fig.6,0,Определите момент перехода 'herding' → 'overconfidence' по временной шкале и связывает его с рыночным пузырём. +task3:8ec4fdad1a:case-010,Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.,екатерина-александровна-кубракова__8ec4fdad1a,CASE-010,temporal_hard,True,AI Agents Simulate Behavioral Biases in Financial Markets,10.1007/s42001-026-00465-4,2026,table,Table 3,0,Определите временную задержку между ростом bias и проявлением рыночного эффекта (пузырь/крах) из Table 3.. +task3:8ec4fdad1a:case-011,Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.,екатерина-александровна-кубракова__8ec4fdad1a,CASE-011,easy_control,False,AI Agents Simulate Behavioral Biases in Financial Markets,10.1007/s42001-026-00465-4,2026,page,p.5,0,"Определите три основных bias, перечисленных в явном виде на странице 5.." +task3:8ec4fdad1a:case-012,Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.,екатерина-александровна-кубракова__8ec4fdad1a,CASE-012,easy_control,False,AI Agents Simulate Behavioral Biases in Financial Markets,10.1007/s42001-026-00465-4,2026,page,p.10,0,"Сравните, правильно ли каждый VLM определяет, какой тип личности агента (conservative / aggressive) привёл к loss aversion" +task3:c5c57bba7e:case-001,Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy,вадим-наумов__c5c57bba7e,CASE-001,multimodal_hard,True,Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells,10.1371/journal.pcbi.1006597,2019,figure,Fig 6b,0,Сравните какой вариант лучше извлекает данные о пороговом значении процента фибробластов из графика при разных Ebond +task3:c5c57bba7e:case-002,Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy,вадим-наумов__c5c57bba7e,CASE-002,multimodal_hard,True,Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells,10.1371/journal.pcbi.1006597,2019,table,Table 1,0,Сравните какой вариант лучше извлекает данные о значении параметров из таблицы +task3:c5c57bba7e:case-003,Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy,вадим-наумов__c5c57bba7e,CASE-003,multimodal_hard,True,Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells,10.1371/journal.pcbi.1006597,2019,formula,Eq 2,0,Сравните какой вариант лучше извлекает формулу Hjunctions из картинки с формулой после уравнения 1 +task3:c5c57bba7e:case-004,Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy,вадим-наумов__c5c57bba7e,CASE-004,multimodal_hard,True,Discrete Anisotropy Model of Heterogeneous Cardiac Tissue Predicting the Occurrence of Symmetry Breaking of Reentrant Activity,10.1134/S0021364024600782,2024,figure,Fig 1,0,Извлеките данные о размере образца. +task3:c5c57bba7e:case-005,Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy,вадим-наумов__c5c57bba7e,CASE-005,multimodal_hard,True,Virtual cardiac monolayers for electrical wave propagation,10.1038/s41598-017-07653-3,2017,figure,Fig 2,0,Определите морфологические метрики кардиомиоцитов и фибробластов из экспериментов. +task3:c5c57bba7e:case-006,Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy,вадим-наумов__c5c57bba7e,CASE-006,temporal_hard,True,Simulation of the differential adhesion driven rearrangement of biological cells,10.1103/PhysRevE.47.2128,1993,figure,Fig 5a,0,"Сравните, какой вариант лучше лучше определяет время выхода на плато длины границ в эксперименте на рисунке 5а" +task3:c5c57bba7e:case-007,Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy,вадим-наумов__c5c57bba7e,CASE-007,temporal_hard,True,Simulation of the differential adhesion driven rearrangement of biological cells,10.1103/PhysRevE.47.2128,1993,figure,Fig 13c,0,"Определите время в шагах Монте-Карло (MCS), когда длина гетеротипических границ примерно равна длине гомотипических границ на рисунке 13с." +task3:c5c57bba7e:case-008,Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy,вадим-наумов__c5c57bba7e,CASE-008,temporal_hard,True,Simulation of the differential adhesion driven rearrangement of biological cells,10.1103/PhysRevE.47.2128,1993,figure,Fig 19b,0,"Определите время в шагах Монте-Карло (MCS), когда длина гетеротипических границ для разных сочетаний (темные со светлыми, темные с окружением, светлые с окружением) начинают заметно расходиться на рисунке 19b." +task3:c5c57bba7e:case-009,Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy,вадим-наумов__c5c57bba7e,CASE-009,temporal_hard,True,Generation and maturation of human iPSC-derived 3D organotypic cardiac microtissues in long-term culture,10.1038/s41598-022-22225-w,2022,figure,Fig 2,0,"Сравните, какой вариант лучше различает какой график к какому периоду относится" +task3:c5c57bba7e:case-010,Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy,вадим-наумов__c5c57bba7e,CASE-010,temporal_hard,True,Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models,10.1007/s12012-025-09987-1,2025,figure,Graphical Abstract,0,"Сравните, какой вариант лучше понимает какой цвет означает более позднюю стадию распространения волны" +task3:c5c57bba7e:case-011,Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy,вадим-наумов__c5c57bba7e,CASE-011,easy_control,False,Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells,doi:10.1371/journal.pcbi.1006597,2019,page,Abstract,0,"Сравните, какой вариант лучше формулирует общий тезис статьи о причинах значения порога перколяции" +task3:c5c57bba7e:case-012,Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy,вадим-наумов__c5c57bba7e,CASE-012,easy_control,False,Modeling the functional heterogeneity and conditions for the occurrence of microreentry in procedurally created atrial fibrous tissue,doi:10.1063/5.0151624,2023,page,Methods,0,Опишите Гамильтониан и его слагаемые в клеточной модели. +task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-001,"Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models",semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427,CASE-001,multimodal_hard,True,Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells,doi:10.1371/journal.pcbi.1006597,2019,figure,"Fig. 1: activation map, blocked regions, main propagation pathways, velocity decay and percolation threshold",0,"Сравните, какой вариант лучше считывает Fig. 1: где находятся блоки проведения, по каким узким путям распространяется волна, как меняется velocity при росте доли non-conducting cells и какой percolation threshold указан на графике." +task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-002,"Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models",semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427,CASE-002,multimodal_hard,True,Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells,doi:10.1371/journal.pcbi.1006597,2019,figure_or_table,"Fig. 6 and Table 1: virtual monolayers, E bond conditions, velocity vs density, percolation threshold",0,"Сравните, какой вариант лучше связывает Fig. 6 с параметрами модели: различает orange/blue условия cytoskeleton alignment, не путает simulated fibroblast density с experimental fraction и корректно переносит threshold/velocity evidence." +task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-003,"Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models",semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427,CASE-003,multimodal_hard,True,Simulation of the differential adhesion driven rearrangement of biological cells,doi:10.1103/PhysRevE.47.2128,1993,figure_or_table,Simulation snapshots and parameter tables for differential adhesion / extended Potts model,0,"Извлеките из визуализаций cell sorting, какие клеточные типы перераспределяются, как differential adhesion задаёт rearrangement, и не превращает Potts-model evidence в общий текст про миграцию клеток.." +task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-004,"Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models",semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427,CASE-004,multimodal_hard,True,A model for human ventricular tissue,doi:10.1152/ajpheart.00794.2003,2004,formula,Model equations / current definitions / AP trace and restitution-style figures,0,"Сравните, какой вариант лучше восстанавливает структуру human ventricular tissue model: какие ионные токи и переменные входят в формулы, какие параметры относятся к single-cell AP, а какие — к tissue propagation, без добавления несуществующих channels." +task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-005,"Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models",semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427,CASE-005,multimodal_hard,True,Optical Imaging of the Heart,doi:10.1161/01.RES.0000130529.18016.35,2004,mixed,"Review figures/tables on optical mapping, voltage-sensitive dyes, activation and repolarization maps",0,"Сравните, какой вариант лучше переносит из схем и таблиц optical imaging pipeline: что именно измеряется оптическим сигналом, где activation map отличается от repolarization map, и какие ограничения относятся к dye/motion artifact, а не к electrophysiology как таковой." +task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-006,"Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models",semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427,CASE-006,multimodal_hard,True,Modeling the functional heterogeneity and conditions for the occurrence of microreentry in procedurally created atrial fibrous tissue,doi:10.1063/5.0151624,2023,figure_or_table,"Figures/tables with procedurally created atrial fibrous tissue, heterogeneity settings and microreentry conditions",0,"Извлеките из схем и карт модели, при каких параметрах fibrous tissue возникает microreentry: геометрия, conduction heterogeneity, obstacle/fibrosis pattern и условия устойчивого reentry не должны смешиваться в один общий фактор.." +task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-007,"Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models",semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427,CASE-007,multimodal_hard,True,Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models,doi:10.1007/s12012-025-09987-1,2025,mixed,"Workflow figures/tables linking hiPSC-CM readouts, 2D in silico model outputs and toxicity endpoints",0,"Сравните, какой вариант лучше связывает workflow evidence: какие данные приходят из hiPSC-derived cardiomyocytes, какие — из 2D in silico model, и где именно формируется вывод о cardiovascular toxicity / proarrhythmic risk." +task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-008,"Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models",semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427,CASE-008,temporal_hard,True,Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells,doi:10.1371/journal.pcbi.1006597,2019,figure,"Fig. 1a and S1 Video: activation times, repeated blocks, delayed propagation into left/right regions",0,"Сравните, какой вариант лучше удерживает temporal ordering в activation map/video: от точки стимуляции волна сначала расходится, затем блокируется, после задержки идёт в left/right regions и снова фракционируется, а не описывается как статическая сеть проводимости." +task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-009,"Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models",semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427,CASE-009,temporal_hard,True,A model for human ventricular tissue,doi:10.1152/ajpheart.00794.2003,2004,figure_or_table,AP traces / restitution curves / time-dependent gating variables in model outputs,0,"Сравните, какой вариант лучше различает быстрые изменения мембранного потенциала, динамику gating variables и более медленные изменения APD/restitution в human ventricular tissue model, не смешивая временные масштабы single-cell and tissue outputs." +task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-010,"Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models",semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427,CASE-010,temporal_hard,True,Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models,doi:10.1007/s12012-025-09987-1,2025,mixed,Drug exposure / screening workflow / model-output sequence across experimental and in silico layers,0,"Сравните, какой вариант лучше удерживает порядок: сначала experimental hiPSC-CM readouts, затем parameter/model integration, затем 2D tissue-level prediction and toxicity interpretation; ответ не должен превращать pipeline в один одномоментный вывод." +task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-011,"Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models",semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427,CASE-011,easy_control,False,Basic Mechanisms of Cardiac Impulse Propagation and Associated Arrhythmias,doi:10.1152/physrev.00025.2003,2004,page,Abstract / introduction-level review summary,0,"Сравните, какой вариант точнее передаёт общий тезис обзора: как generation and propagation of cardiac action potentials связаны с arrhythmia mechanisms, без необходимости извлекать сложные значения из figure/table." +task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-012,"Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models",semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427,CASE-012,easy_control,False,Optical Imaging of the Heart,doi:10.1161/01.RES.0000130529.18016.35,2004,page,Abstract / review overview of optical techniques in cardiac electrophysiology,0,"Сравните, какой вариант лучше формулирует основную роль optical imaging in cardiac electrophysiology: какие вопросы оно помогает изучать и почему это не просто обычная видеозапись сердца." +task3:64495d27da:case-001,Spectral effects in different electrodynamic systems,дмитрии-константинович-высоких__64495d27da,CASE-001,multimodal_hard,True,Nonlinear exceptional-point lasing with ab initio Maxwell– Bloch theory,doi: 10.1063/5.0105963,2022,figure,"p.2, Fig.1",0,"Извлеките отношение накачек D1 к D2, для которого наблюдаются особые точки." +task3:64495d27da:case-002,Spectral effects in different electrodynamic systems,дмитрии-константинович-высоких__64495d27da,CASE-002,multimodal_hard,True,Observation of trapped light within the radiation continu-um,doi: 10.1038/nature12289,2013,figure,"p.3, Fig.3",0,"Извлеките из рисунка 3 и подписи к нему значения угла и длины волны, соответствующие связанному состоянию в континууме (ССК)." +task3:64495d27da:case-003,Spectral effects in different electrodynamic systems,дмитрии-константинович-высоких__64495d27da,CASE-003,multimodal_hard,True,Reversing the pump depend-ence of a laser at an excep-tional point,doi: 10.1038/ncomms5034,2014,figure,"p.4, Fig.2c",0,"Извлеките из рисунка 2c и подписи к нему диапазон значений поля, в котором зависимость интенсивности генерации от поля накачки инвертирована." +task3:64495d27da:case-004,Spectral effects in different electrodynamic systems,дмитрии-константинович-высоких__64495d27da,CASE-004,multimodal_hard,True,Ultrasensitive optical absorp-tion in graphene based on bound states in the continu-um,doi: 10.1038/srep08266,2015,figure,"p.2, Fig.1",0,"Извлеките из рисунка 1 значения длины волны и волнового вектора (kx), при которых наблюдаются связанные состояния в континууме." +task3:64495d27da:case-005,Spectral effects in different electrodynamic systems,дмитрии-константинович-высоких__64495d27da,CASE-005,multimodal_hard,True,Optical hydrogen sensing with high‑Q guided‑mode resonance of ­Al2O3/WO3/Pd nanostructure,doi: 10.1038/s41598-023-28204-z,2023,figure,"p.3, Fig.1",0,"Извлеките из рисунка 1 геометрические параметры структуры и материалы, из которых она состоит." +task3:64495d27da:case-006,Spectral effects in different electrodynamic systems,дмитрии-константинович-высоких__64495d27da,CASE-006,temporal_hard,True,Optical hydrogen sensing with high‑Q guided‑mode resonance of Al2O3/WO3/Pd nanostructure,doi: 10.1038/s41598-023-28204-z,2023,figure,"p.5, Fig.4",0,"Извлеките моменты времени (в минутах), в которые подаётся водород в различной концентрации (0, 100, 1000 ppm, ...)." +task3:64495d27da:case-007,Spectral effects in different electrodynamic systems,дмитрии-константинович-высоких__64495d27da,CASE-007,temporal_hard,True,Nonlinear exceptional-point lasing with ab initio Maxwell– Bloch theory,doi: 10.1063/5.0105963,2022,figure,"p.2, Fig.1",0,"Извлеките из рисунка 1 отношение накачек D1/D2, при котором наблюдается фазовый переход между PT-симметричным и PT-несимметричным состояниями." +task3:64495d27da:case-008,Spectral effects in different electrodynamic systems,дмитрии-константинович-высоких__64495d27da,CASE-008,easy_control,True,Bloch surface eigenstates within the radiation continuum,doi: 10.1038/lsa.2013.40,2013,mixed,"p.2, Fig.1",0,"Опишите структуру, в которой авторы предлагают наблюдать связанное состояние в континууме." +task3:dosi_onur_task3:case-001,Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression,dosi_onur_task3,CASE-001,multimodal_hard,True,Fusobacterium Is Associated with Colorectal Adenomas,doi:10.1371/journal.pone.0053653,2013,figure,"p.2, Fig.1",0,"Сравните, какой вариант точнее отражает различие в уровне Fusobacterium между adenoma cases и control на Figure 1, включая направление и относительную величину различия." +task3:dosi_onur_task3:case-002,Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression,dosi_onur_task3,CASE-002,multimodal_hard,True,Fusobacterium Is Associated with Colorectal Adenomas,doi:10.1371/journal.pone.0053653,2013,table,"p.2, Table 2",0,"Сравните, какой вариант точнее извлекает зависимость риска аденом от уровня Fusobacterium (tertiles) в Table 2, включая корректное указание odds ratio для высокой группы." +task3:dosi_onur_task3:case-003,Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression,dosi_onur_task3,CASE-003,multimodal_hard,True,Fusobacterium Is Associated with Colorectal Adenomas,doi:10.1371/journal.pone.0053653,2013,figure,"p.4, Fig.3",0,"Сравните, какой вариант точнее отражает связь между уровнем Fusobacterium и экспрессией цитокинов (например, IL-10 и TNF-α) на Figure 3, включая направление корреляции." +task3:dosi_onur_task3:case-004,Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression,dosi_onur_task3,CASE-004,multimodal_hard,True,Fusobacterium Is Associated with Colorectal Adenomas,doi:10.1371/journal.pone.0053653,2013,figure,"p.4, Fig.4",0,"Сравните, какой вариант точнее отражает различие уровня Fusobacterium между нормальной и опухолевой тканью по всем пациентам на Figure 4." +task3:dosi_onur_task3:case-005,Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression,dosi_onur_task3,CASE-005,multimodal_hard,True,Fusobacterium Is Associated with Colorectal Adenomas,doi:10.1371/journal.pone.0053653,2013,figure,"p.3, Fig.2",0,"Сравните, какой вариант точнее описывает локализацию Fusobacterium в тканях (например, в mucus layer и colonic crypts) на Figure 2." +task3:dosi_onur_task3:case-006,Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression,dosi_onur_task3,CASE-006,multimodal_hard,True,Fusobacterium Is Associated with Colorectal Adenomas,doi:10.1371/journal.pone.0053653,2013,figure_or_table,"p.2, Fig.1; Table 2",0,"Сравните, какой вариант лучше объединяет данные из Figure 1 и Table 2, связывая уровень Fusobacterium с риском аденом." +task3:dosi_onur_task3:case-007,Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression,dosi_onur_task3,CASE-007,multimodal_hard,True,Fusobacterium nucleatum Promotes Colorectal Carcinogenesis by Modulating E-Cadherin/β-Catenin Signaling via its FadA Adhesin,doi:10.1016/j.chom.2013.07.012,2013,figure,"p.15, Fig.2",0,"Сравните, какой вариант точнее отражает экспериментальное доказательство связывания FadA с E-cadherin на Figure 2." +task3:dosi_onur_task3:case-008,Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression,dosi_onur_task3,CASE-008,temporal_hard,True,Fusobacterium Is Associated with Colorectal Adenomas,doi:10.1371/journal.pone.0053653,2013,figure_or_table,"p.2–4, Fig.1; Table 2; Fig.4",0,"Сравните, какой вариант лучше отражает роль Fusobacterium на разных стадиях заболевания (от аденомы к более поздним стадиям), сохраняя временную логику." +task3:dosi_onur_task3:case-009,Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression,dosi_onur_task3,CASE-009,temporal_hard,True,Fusobacterium nucleatum Potentiates Intestinal Tumorigenesis and Modulates the Tumor-Immune Microenvironment,doi:10.1016/j.chom.2013.07.007,2013,figure,"p.3, Fig.2",0,"Сравните, какой вариант точнее отражает изменение числа опухолей и других показателей после воздействия Fusobacterium nucleatum в эксперименте на мышах (Figure 2)." +task3:dosi_onur_task3:case-010,Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression,dosi_onur_task3,CASE-010,temporal_hard,True,Fusobacterium nucleatum Potentiates Intestinal Tumorigenesis and Modulates the Tumor-Immune Microenvironment,doi:10.1016/j.chom.2013.07.007,2013,figure,"p.3, Fig.2",0,"Сравните, какой вариант точнее отражает изменения в иммунной среде после воздействия Fusobacterium nucleatum, включая гистологические и воспалительные показатели (Figure 2)." +task3:dosi_onur_task3:case-011,Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression,dosi_onur_task3,CASE-011,easy_control,False,Fusobacterium Is Associated with Colorectal Adenomas,doi:10.1371/journal.pone.0053653,2013,page,p.1,0,"Сравните, какой вариант точнее формулирует основную идею статьи о связи Fusobacterium с колоректальными аденомами." +task3:dosi_onur_task3:case-012,Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression,dosi_onur_task3,CASE-012,easy_control,False,Fusobacterium nucleatum Promotes Colorectal Carcinogenesis by Modulating E-Cadherin/β-Catenin Signaling via its FadA Adhesin,doi:10.1016/j.chom.2013.07.012,2013,page,p.2–5,0,"Сравните, какой вариант точнее описывает роль FadA в механизме действия Fusobacterium nucleatum." +task3:ebb8391305:case-001,Ионосфера Земли и проект «Ионозонд»,матвеи-замятин-сергеевич__ebb8391305,CASE-001,multimodal_hard,False,ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ,10.7868/S0044394825030016,2025,figure,"p.9, Fig.5",0,"Сравните, какой вариант точнее считывает порядок значений электронной концентрации (ось X) для слоя F2 в дневное время, учитывая логарифмический масштаб оси." +task3:ebb8391305:case-002,Ионосфера Земли и проект «Ионозонд»,матвеи-замятин-сергеевич__ebb8391305,CASE-002,multimodal_hard,False,ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ,10.7868/S0044394825030016,2025,figure,"p.21, Fig.14",0,"Проверьте, какой вариант точно извлекает численное значение критической частоты foF2 (5.35 МГц) из мелкого текста, наложенного на плотную цветную ионограмму." +task3:ebb8391305:case-003,Ионосфера Земли и проект «Ионозонд»,матвеи-замятин-сергеевич__ebb8391305,CASE-003,multimodal_hard,False,ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ,10.7868/S0044394825030016,2025,figure,"p.21, Fig.14",0,"Оцените, какой вариант корректно различает моды радиосигнала (Z-мода, O-мода, X-мода) и связывает их с соответствующими кривыми на графике." +task3:ebb8391305:case-004,Ионосфера Земли и проект «Ионозонд»,матвеи-замятин-сергеевич__ebb8391305,CASE-004,multimodal_hard,False,ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ,10.7868/S0044394825030016,2025,figure,"p.12, Fig.8",0,"Сравните, какой вариант лучше понимает разницу между синими лучами (сигналы ГНСС) и красными лучами (зондирование с низкоорбитального спутника)." +task3:ebb8391305:case-005,Ионосфера Земли и проект «Ионозонд»,матвеи-замятин-сергеевич__ebb8391305,CASE-005,multimodal_hard,False,ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ,10.7868/S0044394825030016,2025,figure,"p.19, Fig.12",0,"Проверьте, какой вариант правильно идентифицирует расположение длинных антенн ионозонда ЛАЭРТ и антенны прибора МАЯК на конструкции спутника." +task3:ebb8391305:case-006,Ионосфера Земли и проект «Ионозонд»,матвеи-замятин-сергеевич__ebb8391305,CASE-006,multimodal_hard,False,ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ,10.7868/S0044394825030016,2025,figure,"p.14, Fig.9",0,"Сравните, какой вариант корректно извлекает пространственную информацию о том, что высокочастотная волна (High-frequency wave) направлена вверх, а низкочастотная (Low-frequency) возникает в турбулентном объеме и идет вниз." +task3:ebb8391305:case-007,Ионосфера Земли и проект «Ионозонд»,матвеи-замятин-сергеевич__ebb8391305,CASE-007,multimodal_hard,False,ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ,10.7868/S0044394825030016,2025,figure,"p.22, Fig.15",0,"Оцените, какой вариант правильно понимает структуру составного рисунка: верхняя панель (А) — электрическая компонента, нижняя (Б) — магнитная." +task3:ebb8391305:case-008,Ионосфера Земли и проект «Ионозонд»,матвеи-замятин-сергеевич__ebb8391305,CASE-008,temporal_hard,False,ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ,10.7868/S0044394825030016,2025,figure,"p.9, Fig.5",0,"Сравните, какой вариант лучше улавливает временную динамику (день vs ночь), в частности полное исчезновение слоя D в ночное время на графике профиля." +task3:ebb8391305:case-009,Ионосфера Земли и проект «Ионозонд»,матвеи-замятин-сергеевич__ebb8391305,CASE-009,temporal_hard,False,ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ,10.7868/S0044394825030016,2025,figure,"p.15, Fig.11",0,"Проверьте, какой вариант точнее формулирует разницу в дальности распространения радиосигнала днем и ночью из-за изменения слоев ионосферы." +task3:ebb8391305:case-010,Ионосфера Земли и проект «Ионозонд»,матвеи-замятин-сергеевич__ebb8391305,CASE-010,temporal_hard,False,ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ,10.7868/S0044394825030016,2025,figure,"p.22, Fig.15",0,"Оцените, какой вариант правильно извлекает конкретный временной интервал (с начала измерений до 22:47:00), в котором наблюдаются естественные электростатические колебания." +task3:ebb8391305:case-011,Ионосфера Земли и проект «Ионозонд»,матвеи-замятин-сергеевич__ebb8391305,CASE-011,easy_control,False,ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ,10.7868/S0044394825030016,2025,figure,"p.12, Fig.7",0,"Проверьте, какой вариант правильно описывает базовые компоненты схемы отражения радиосигнала (Земля, ионосфера, антенны)." +task3:ebb8391305:case-012,Ионосфера Земли и проект «Ионозонд»,матвеи-замятин-сергеевич__ebb8391305,CASE-012,easy_control,False,ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ,10.7868/S0044394825030016,2025,figure,"p.20, Fig.13",0,"Сравните, какой вариант корректно определяет количество спутников (4 КА) и количество орбитальных плоскостей на схеме проекта Ионозонд." +task3:df07798d94:case-001,3D reconstuction,мухорин-матвеи-дмитриевич__df07798d94,CASE-001,multimodal_hard,True,3DGS.zip: A survey on 3D Gaussian Splatting Compression Methods,arxiv:2407.09510,2024,figure,Figure 1,4,Сравните какой вариант лучше извлекает данные из гистограммы и использует его в hypothesis support +task3:df07798d94:case-002,3D reconstuction,мухорин-матвеи-дмитриевич__df07798d94,CASE-002,multimodal_hard,True,3DGS.zip: A survey on 3D Gaussian Splatting Compression Methods,arxiv:2407.09510,2024,figure,Figure 2,3,Сравните какой вариант лучше извлекает данные из heatmap и использует его в hypothesis support +task3:df07798d94:case-003,3D reconstuction,мухорин-матвеи-дмитриевич__df07798d94,CASE-003,multimodal_hard,True,Efficient Geometry-aware 3D Generative Adversarial Networks,arxiv:2112.07945,2024,table,Table 1,2,Сравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support +task3:df07798d94:case-004,3D reconstuction,мухорин-матвеи-дмитриевич__df07798d94,CASE-004,multimodal_hard,True,Speedy-Splat: Fast 3D Gaussian Splatting with Sparse Pixels and Sparse Primitives,arxiv:2412.00578,2024,table,Table 2,1,Сравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support +task3:df07798d94:case-005,3D reconstuction,мухорин-матвеи-дмитриевич__df07798d94,CASE-005,multimodal_hard,True,MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES,arxiv:2603.11531,2026,figure,Figure 2,1,Сравните какой вариант лучше извлекает данные из диаграммы и использует его в hypothesis support +task3:df07798d94:case-006,3D reconstuction,мухорин-матвеи-дмитриевич__df07798d94,CASE-006,multimodal_hard,True,MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES,arxiv:2603.11531,2026,formula,Figure 9,1,Сравните какой вариант лучше извлекает данные из pie chart и использует его в hypothesis support +task3:df07798d94:case-007,3D reconstuction,мухорин-матвеи-дмитриевич__df07798d94,CASE-007,multimodal_hard,True,MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES,arxiv:2603.11531,2026,formula,formula 3,0,Сравните какой вариант лучше извлекает данные из формулы и использует их в hypothesis support +task3:gorbunov-ivan-yurievich__0d769c50eb:case-001,Superconducting quantum simulators,gorbunov-ivan-yurievich__0d769c50eb,CASE-001,multimodal_hard,True,Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array,arXiv:2405.00873,2024,mixed,"p.2, Fig.1",1,"Сравнить, сколько кубитов в процессоре выводят модели, исходя из иллюстрации." +task3:gorbunov-ivan-yurievich__0d769c50eb:case-002,Superconducting quantum simulators,gorbunov-ivan-yurievich__0d769c50eb,CASE-002,multimodal_hard,True,Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array,arXiv:2405.00873,2024,mixed,"p.3, Fig.2",1,"Сравните, какой вариант правильно сопоставляет характер изменения заселенности измеряемого кубита со значением магнитного потока через кольцо из кубитов в подграфике a." +task3:gorbunov-ivan-yurievich__0d769c50eb:case-003,Superconducting quantum simulators,gorbunov-ivan-yurievich__0d769c50eb,CASE-003,multimodal_hard,True,Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array,arXiv:2405.00873,2024,mixed,"p.3, Fig.2",1,"Сравните, какой вариант правильно описывает изменение максимальной заселенности измеряемого кубита при увеличении числа кубитов в кольце в эксперименте по наблюдению интерференции." +task3:gorbunov-ivan-yurievich__0d769c50eb:case-004,Superconducting quantum simulators,gorbunov-ivan-yurievich__0d769c50eb,CASE-004,multimodal_hard,True,Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array,arXiv:2405.00873,2024,mixed,"p.4, Fig.3",1,"Сравните, какой вариант правильнее объясняет физическую причину идентичности интерференционных картин на Fig. 3 и корректно связывает это объяснение с одинаковой суммой фаз Пайерлса вдоль одного и того же контура." +task3:gorbunov-ivan-yurievich__0d769c50eb:case-005,Superconducting quantum simulators,gorbunov-ivan-yurievich__0d769c50eb,CASE-005,multimodal_hard,True,Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array,arXiv:2405.00873,2024,mixed,"p.5, Fig.4",1,"Сравните, какой вариант правильно называет номера и положение кубитов в самой решетке 4х4, значение заселенности которых является наименьшим в эксперименте по осцилляциям Блоха." +task3:gorbunov-ivan-yurievich__0d769c50eb:case-006,Superconducting quantum simulators,gorbunov-ivan-yurievich__0d769c50eb,CASE-006,multimodal_hard,True,Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array,arXiv:2405.00873,2024,mixed,"p.6, Fig.5",1,"Сравните, какой вариант правильно объясняет причину искривления графиков в эксперименте/симуляциях реального процессора (Actual device) по сравнению с симуляциями идеальной модели (HH model)." +task3:gorbunov-ivan-yurievich__0d769c50eb:case-007,Superconducting quantum simulators,gorbunov-ivan-yurievich__0d769c50eb,CASE-007,multimodal_hard,True,Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array,arXiv:2405.00873,2024,mixed,"p.6, Fig.5",1,"Сравните, какой вариант правильно определяет направление начальной скорости частицы относительно направления электрического поля в эксперименте по наблюдению эффекта Холла." +task3:gorbunov-ivan-yurievich__0d769c50eb:case-008,Superconducting quantum simulators,gorbunov-ivan-yurievich__0d769c50eb,CASE-008,easy_control,True,Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array,arXiv:2405.00873,2024,formula,"p.S4, p.S5, Fig.S1",0,"Сравните, какой вариант правильно определяет закон сдвига основной частоты кубита при наличии параметрической модуляции его энергии." +task3:gorbunov-ivan-yurievich__0d769c50eb:case-009,Superconducting quantum simulators,gorbunov-ivan-yurievich__0d769c50eb,CASE-009,multimodal_hard,True,Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array,arXiv:2405.00873,2024,figure,Fig. 1,0,"Сравните, какой вариант правильно дает оценку размера кубита по масштабной шкале на подграфике a." +task3:gorbunov-ivan-yurievich__0d769c50eb:case-010,Superconducting quantum simulators,gorbunov-ivan-yurievich__0d769c50eb,CASE-010,easy_control,True,Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array,arXiv:2405.00873,2024,mixed,"Fig.1, p.2",1,"Сравните, какой вариант правильно определяет примерное значение максимума подграфика g" +task3:gorbunov-ivan-yurievich__0d769c50eb:case-011,Superconducting quantum simulators,gorbunov-ivan-yurievich__0d769c50eb,CASE-011,temporal_hard,True,Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array,arXiv:2405.00873,2024,mixed,"p.3, Fig.2",1,"Сравнить, какой вариант правильно оценивает моменты времени наибольшей заселенности при нулевом потоке через решетку для подграфика a." +task3:gorbunov-ivan-yurievich__0d769c50eb:case-012,Superconducting quantum simulators,gorbunov-ivan-yurievich__0d769c50eb,CASE-012,temporal_hard,True,Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array,arXiv:2405.00873,2024,figure,Fig.4,0,"Сравнить, какой вариант правильно оценивает моменты времени нахождения частицы в центре одномерной цепочки для графика численных симуляций блоховский осцилляций для реального девайса (Actual device)" +task3:fred-westling__4e51465083:case-001,SimTreeLS: Simulating aerial and terrestrial laser scans of trees,fred-westling__4e51465083,CASE-001,multimodal_hard,True,SimTreeLS: Simulating aerial and terrestrial laser scans of trees,2011.11954,2021,figure," p.2, Fig.1",4,"Сравни, как точно описаны этапы пайплайна симуляции сканирования деревьев: от генерации дерева до итогового облака точек." +task3:fred-westling__4e51465083:case-002,SimTreeLS: Simulating aerial and terrestrial laser scans of trees,fred-westling__4e51465083,CASE-002,multimodal_hard,True,SimTreeLS: Simulating aerial and terrestrial laser scans of trees,2011.11954,2021,figure," p.3, Fig.2",2,"Сравни, какой вариант верно определяет параметры дерева в интерфейсе Arbaro (уровни ветвления, углы, длина)." +task3:fred-westling__4e51465083:case-003,SimTreeLS: Simulating aerial and terrestrial laser scans of trees,fred-westling__4e51465083,CASE-003,multimodal_hard,True,SimTreeLS: Simulating aerial and terrestrial laser scans of trees,2011.11954,2021,figure," p.2, Fig.3",2,"Сравни, как различаются orchard и forest layout по визуальному представлению и числовым параметрам (spacing, rows)." +task3:fred-westling__4e51465083:case-004,SimTreeLS: Simulating aerial and terrestrial laser scans of trees,fred-westling__4e51465083,CASE-004,multimodal_hard,True,SimTreeLS: Simulating aerial and terrestrial laser scans of trees,2011.11954,2021,figure," p.4, Fig.4",1,"Сравни, в чём отличие single-plane LiDAR от 9-beam LiDAR по внешнему виду лучей и угловым характеристикам" +task3:fred-westling__4e51465083:case-005,SimTreeLS: Simulating aerial and terrestrial laser scans of trees,fred-westling__4e51465083,CASE-005,multimodal_hard,True,SimTreeLS: Simulating aerial and terrestrial laser scans of trees,2011.11954,2021,figure," p.5, Fig.5",2,"Сравни описания траектории Zeb1: двойной замкнутый контур, обход вокруг центрального дерева." +task3:fred-westling__4e51465083:case-006,SimTreeLS: Simulating aerial and terrestrial laser scans of trees,fred-westling__4e51465083,CASE-006,multimodal_hard,True,SimTreeLS: Simulating aerial and terrestrial laser scans of trees,2011.11954,2021,figure," p.5, Fig.6",3,"Сравни три типа траекторий (handheld, mobile, aerial) на одном и том же orchard stand." +task3:fred-westling__4e51465083:case-007,SimTreeLS: Simulating aerial and terrestrial laser scans of trees,fred-westling__4e51465083,CASE-007,multimodal_hard,True,SimTreeLS: Simulating aerial and terrestrial laser scans of trees,2011.11954,2021,figure," p.6, Fig.7",2,"Сравни, как правильно определить occluded point (зелёная точка) на схеме сканирования с одной линией." +task3:fred-westling__4e51465083:case-008,SimTreeLS: Simulating aerial and terrestrial laser scans of trees,fred-westling__4e51465083,CASE-008,temporal_hard,True,SimTreeLS: Simulating aerial and terrestrial laser scans of trees,2011.11954,2021,figure,"p.7, Fig 10",2,"Сравни, как изменяется визуальное качество и структура облака точек при увеличении уровня шума с 0 м до 0.1 м на одной и той же траектории Zeb1." +task3:fred-westling__4e51465083:case-009,SimTreeLS: Simulating aerial and terrestrial laser scans of trees,fred-westling__4e51465083,CASE-009,temporal_hard,True,SimTreeLS: Simulating aerial and terrestrial laser scans of trees,2011.11954,2021,page,p.11,1,"Опиши последовательность: сначала тренировка модели на симулированных данных SimTreeLS, затем transfer learning на реальных LiDAR-сканах. Что меняется между этапами?" +task3:fred-westling__4e51465083:case-010,SimTreeLS: Simulating aerial and terrestrial laser scans of trees,fred-westling__4e51465083,CASE-010,temporal_hard,True,SimTreeLS: Simulating aerial and terrestrial laser scans of trees,2011.11954,2021,figure,"p.9, Fig 13",2,Сравни occlusion profile при смене сенсора с single-beam на 9-beam на одной и той же mobile trajectory (рис. 13). Что произошло с количеством видимых (зелёных) точек? +task3:fred-westling__4e51465083:case-011,SimTreeLS: Simulating aerial and terrestrial laser scans of trees,fred-westling__4e51465083,CASE-011,easy_control,False,SimTreeLS: Simulating aerial and terrestrial laser scans of trees,2011.11954,2021,table," p.8, table.2",1,Извлеки значение p-value из t-теста для V-measure (сегментация) в таблице 2. +task3:fred-westling__4e51465083:case-012,SimTreeLS: Simulating aerial and terrestrial laser scans of trees,fred-westling__4e51465083,CASE-012,easy_control,False,SimTreeLS: Simulating aerial and terrestrial laser scans of trees,2011.11954,2021,figure," p.3, Fig.3",1,Какое минимальное расстояние между деревьями задаётся в forest layout (рис. 3)? +task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-001,Adaptive gradient optimization methods for training LLM,vasin_artem_aleksandrovich__0cf7f9ceca,CASE-001,multimodal_hard,True,MARS: Unleashing the Power of Variance Reduction for Training Large Models,arxiv:2411.10438,2024,figure_or_table,"fig. 2, Tab. 1,",4,"Выявить, в какой из задач GPT-2 (Рис. 2) MARS дает наибольший относительный выигрыш в perplexity по сравнению с AdamW, и не перепутать его с табличными результатами ImageNet (Таб. 1)." +task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-002,Adaptive gradient optimization methods for training LLM,vasin_artem_aleksandrovich__0cf7f9ceca,CASE-002,multimodal_hard,True,"The AdEMAMix Optimizer: Better, Faster, Older",arxiv:2409.03137,2024,figure_or_table,"fig. 2, 3, 6, Tab. 2",4,"Найти на Рис. 6 сравнение AdEMAMix и AdamW по скорости забывания (forgetting) и определить, на каком количестве токенов преимущество становится явным." +task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-003,Adaptive gradient optimization methods for training LLM,vasin_artem_aleksandrovich__0cf7f9ceca,CASE-003,multimodal_hard,True,AdaRankGrad: Adaptive Gradient-Rank and Moments for Memory-Efficient LLMs Training and Fine-Tuning,arxiv:2410.17881,2024,figure_or_table,"fig. 3, Tab. 2",4,"Сравнить значения точности и потребления памяти GPU для GPT-2 из Таблицы 2 при full fine-tuning, LoRA и AdaRankGrad." +task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-004,Adaptive gradient optimization methods for training LLM,vasin_artem_aleksandrovich__0cf7f9ceca,CASE-004,multimodal_hard,True,A Self-Attentive Meta-Optimizer with Group-Adaptive Learning Rates and Weight Decay,arxiv:2605.04055,2026,figure_or_table,"fig. 2, 3, Tab. 3, 4",2,"Определить по Рис. 3, на какой задаче (языковое моделирование, машинный перевод, классификация) MetaAdamW показывает максимальное и минимальное ускорение сходимости относительно AdamW." +task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-005,Adaptive gradient optimization methods for training LLM,vasin_artem_aleksandrovich__0cf7f9ceca,CASE-005,multimodal_hard,True,Adaptive Gradient Methods at the Edge of Stability,arxiv:2404.01864,2024,figure,"fig. 1, 3, 6, 7",1,"Проанализировать Рис. 7 (SGD vs. Adam на CIFAR-10) и описать, как меняется ландшафт потерь (loss landscape) в процессе обучения у Adam." +task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-006,Adaptive gradient optimization methods for training LLM,vasin_artem_aleksandrovich__0cf7f9ceca,CASE-006,multimodal_hard,True,Revisiting the Initial Steps in Adaptive Gradient Descent Optimization,arxiv:2412.00374,2024,figure,"fig. 1, 2, 3",1,"По Рис. 2 и 3 определить, как разная инициализация второго момента (data-driven vs random) в Adam влияет на стабильность потерь на ранних итерациях обучения Transformer." +task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-007,Adaptive gradient optimization methods for training LLM,vasin_artem_aleksandrovich__0cf7f9ceca,CASE-007,multimodal_hard,True,Adaptive Gradient Methods at the Edge of Stability,arxiv:2404.01714,2025,figure,"Fig. 1, 2, 3, 4, 5, 6, 7, 8",3,"Определить по совокупности рисунков 1–8, какие архитектуры и датасеты дают CG-like-Adam наибольшее преимущество перед Adam в точности и скорости сходимости" +task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-008,Adaptive gradient optimization methods for training LLM,vasin_artem_aleksandrovich__0cf7f9ceca,CASE-008,temporal_hard,True,Interpreting Adaptive Gradient Methods by Parameter Scaling for Learning-Rate-Free Optimization,,,figure_or_table,"Table 1, 2, Fig. 1",0,"По рис. 1 объяснить, как меняется масштаб параметров (parameter scaling) в процессе обучения нейронной сети и как это связано с адаптивностью градиентного метода." +task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-009,Adaptive gradient optimization methods for training LLM,vasin_artem_aleksandrovich__0cf7f9ceca,CASE-009,temporal_hard,True,Towards Simple and Provable Parameter-Free Adaptive Gradient Methods,arxiv:2412.19444,2024,figure,"Fig. 1, 2",4,"По рис. 1, 2 сравнить траектории нормы градиента у предложенных AdaGrad++ и Adam++ с их оригинальными версиями на задаче логистической регрессии и ResNet-18." +task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-010,Adaptive gradient optimization methods for training LLM,vasin_artem_aleksandrovich__0cf7f9ceca,CASE-010,temporal_hard,True,Can We Remove the Square-Root in Adaptive Gradient Methods? A Second-Order Perspective,arxiv:2402.03496,2024,figure_or_table,"Tab. 1, Fig.1, 2",4,"В таблице 1 сравнить результаты AdamW и метода без квадратного корня (NoSqrt) на задаче LRA и объяснить, какая задача является исключением из общего правила." +task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-011,Adaptive gradient optimization methods for training LLM,vasin_artem_aleksandrovich__0cf7f9ceca,CASE-011,easy_control,False,Optimization Methods in Deep Learning: A Comprehensive Overview,arxiv:2305.16432,2023,figure_or_table,"Tab. 1,2, Fig. 2, 5",4,Найти в таблицах 1 и 2 все упомянутые методы оптимизации и сгруппировать их по категориям (адаптивные и неадаптивные). +task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-012,Adaptive gradient optimization methods for training LLM,vasin_artem_aleksandrovich__0cf7f9ceca,CASE-012,easy_control,False,A Survey of Advanced Gradient Methods in Machine Learning,arxiv:2412.04032,2024,figure,Fig. 1,2,"По схематичному рис. 1 перечислить ключевые этапы эволюции градиентных методов, затронутые в обзоре." +task3:598d6ea6b4:case-001,Optical Superscattering,рябков-евгении-юрьевич__598d6ea6b4,CASE-001,multimodal_hard,True,Superscattering emerging from the physics of bound states in the continuum,10.1038/s41467-023-40382-y,2023,figure_or_table,"p.6, Fig. 4",0,Извлеките информацию о super-dipole из картинки и понимает важность этого явления.. +task3:598d6ea6b4:case-002,Optical Superscattering,рябков-евгении-юрьевич__598d6ea6b4,CASE-002,multimodal_hard,True,Superscattering emerging from the physics of bound states in the continuum,10.1038/s41467-023-40382-y,2023,figure_or_table,"p.8, Fig.6",0,Извлеките информацию о дизайне системы из картинки и понимает техническую составляющую эффекта. +task3:598d6ea6b4:case-003,Optical Superscattering,рябков-евгении-юрьевич__598d6ea6b4,CASE-003,multimodal_hard,True,Superscattering emerging from the physics of bound states in the continuum,10.1038/s41467-023-40382-y,2023,figure_or_table,"p.9, Fig.7",0,Извлеките информацию об экспериментальном достижении superscattering и соответствующих параметрах. +task3:598d6ea6b4:case-008,Optical Superscattering,рябков-евгении-юрьевич__598d6ea6b4,CASE-008,temporal_hard,True,Experimental Observation of Superscattering,arXiv:1812.05599,2019,page,"p.1, p.2",2,"Сравните, какой вариант лучше понимает проблематику достижения данного эффекта и важность его нынешней реализации" +task3:598d6ea6b4:case-011,Optical Superscattering,рябков-евгении-юрьевич__598d6ea6b4,CASE-011,easy_control,False,Experimental Observation of Superscattering,arXiv:1812.05599,2019,page,p.1,1,"Оценить, распознала ли модель, что ранее данный эффект не наблюдался экспериментально" +task3:598d6ea6b4:case-012,Optical Superscattering,рябков-евгении-юрьевич__598d6ea6b4,CASE-012,temporal_hard,True,Superscattering pattern shaping for radially anisotropic nanowires,arXiv:1704.07994,2017,figure_or_table,"p.2, Fig.1, p.5, Fig.5",2,"Сравните, распознают ли варианты то, что работа исключительно теоретическая и эффект экспериментально не наблюдался" +task3:168bdb55d7:case-001,composite impact modeling,Мстислав-Кудряшов-Александрович__168bdb55d7,CASE-001,multimodal_hard,True,Fatigue Failure Criteria for Unidirectional Fiber Composites,https://doi.org/10.1115/1.3157744,1981,formula,"p.4 formula 18; p5 formula 20,22",0,"сравните, какой вариант корректно определяет формулы в работе. Особенно интерес представляет корректность формул с критериями разрушения" +task3:ca35bd9ad6:case-001,Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals,иван-колесников-витальевич__ca35bd9ad6,CASE-001,multimodal_hard,True,Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications,10.3390/electronics11152468,2022,figure,"p.3, Fig. 1",0,"Сравните, какая модель лучше распознает пространственное расположение волоконного усилителя на 3D-модели EDFA и точно извлекает габариты из подписи." +task3:ca35bd9ad6:case-002,Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals,иван-колесников-витальевич__ca35bd9ad6,CASE-002,multimodal_hard,True,Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications,10.3390/electronics11152468,2022,figure_or_table,"p.12, Fig. 10",0,"Оцените, какая модель точнее извлекает значения коэффициента усиления в зависимости от входной мощности по графику, не путая между собой кривые для разных температур." +task3:ca35bd9ad6:case-003,Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals,иван-колесников-витальевич__ca35bd9ad6,CASE-003,temporal_hard,True,Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications,10.3390/electronics11152468,2022,mixed,"p.15, Fig. 14",0,"Проверьте, какая модель корректно связывает просадки оптической мощности с конкретными временными фазами температурного цикла (нагрев/охлаждение) на графике испытаний TVAC." +task3:ca35bd9ad6:case-004,Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals,иван-колесников-витальевич__ca35bd9ad6,CASE-004,multimodal_hard,True,Payload Configuration Integration and Testing of the DeMi CubeSat,SSC18-XI-02,2018,figure,"p.4, Fig. 3",0,"Сравните, какая модель корректно прослеживает оптический путь луча от калибровочного лазерного диода до Shack-Hartmann датчика (SHWFS), не смешивая его с путем света от внешней апертуры." +task3:ca35bd9ad6:case-005,Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals,иван-колесников-витальевич__ca35bd9ad6,CASE-005,multimodal_hard,True,Payload Configuration Integration and Testing of the DeMi CubeSat,SSC18-XI-02,2018,figure,"p.5, Fig. 5",0,"Определите, какая модель может визуально идентифицировать геометрию сетки актуаторов MEMS-зеркала, верно связав её с физическим шагом (pitch) между актуаторами из подписи." +task3:ca35bd9ad6:case-006,Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals,иван-колесников-витальевич__ca35bd9ad6,CASE-006,easy_control,True,Payload Configuration Integration and Testing of the DeMi CubeSat,SSC18-XI-02,2018,page,"p.2, Text section",0,"Проверьте, корректно ли модель извлекает требования к точности измерения волнового фронта (12 нм) из обычного абзаца текста (Payload Requirements)." +task3:ca35bd9ad6:case-007,Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals,иван-колесников-витальевич__ca35bd9ad6,CASE-007,multimodal_hard,True,Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission,SSC19-VI-02,2019,table,"p.8, Table 4",0,"Какая модель точнее извлекает значения бюджета канала для кросс-линка на дистанции 580 км, корректно обрабатывая структуру таблицы и не путая колонки с потерями (pointing loss) и запасом (link margin)?" +task3:ca35bd9ad6:case-008,Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals,иван-колесников-витальевич__ca35bd9ad6,CASE-008,multimodal_hard,True,Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission,SSC19-VI-02,2019,figure,"p.6, Fig. 6",0,"Оцените, какая модель верно распознает способ разделения передающего и принимающего путей на оптической схеме трансивера (напр. использование дихроичных зеркал для длин волн 1537 нм и 1563 нм)" +task3:ca35bd9ad6:case-009,Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals,иван-колесников-витальевич__ca35bd9ad6,CASE-009,temporal_hard,True,Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission,SSC19-VI-02,2019,figure,"p.10, Fig. 11",0,"Проверьте, какая модель точнее описывает процесс схождения (convergence) ошибки наведения во времени, корректно определяя временной интервал до стабилизации (settling time) в замкнутом цикле." +task3:ca35bd9ad6:case-010,Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals,иван-колесников-витальевич__ca35bd9ad6,CASE-010,multimodal_hard,True,OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal,10.3390/aerospace12080655,2025,figure_or_table,"p.5, Fig. 2",0,"Сравните, какая модель правильно соотносит цветные лучи (Tx и Rx пути) с их описанием в подписи и безошибочно локализует позицию FSM (Fast Steering Mirror) в плоскости оптического зрачка." +task3:ca35bd9ad6:case-011,Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals,иван-колесников-витальевич__ca35bd9ad6,CASE-011,temporal_hard,False,OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal,10.3390/aerospace12080655,2025,mixed,"p.8, Fig. 6",0,Какая модель лучше выводит логическую связь между паразитной индуктивностью (LTRACE) схемы и её влиянием на временные характеристики (скорость нарастания импульса/задержку) при высокой скорости модуляции диода? +task3:ca35bd9ad6:case-012,Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals,иван-колесников-витальевич__ca35bd9ad6,CASE-012,easy_control,False,OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal,10.3390/aerospace12080655,2025,page,"p.7, Text section",0,"Оцените, способна ли модель извлечь базовое описание процедуры лабораторной характеризации чувствительности приемника из текста до его интеграции." +task3:998d6715e8:case-001,Vision-Language Models for GUI agents and automated UI testing,михаил-кузнецов-александрович__998d6715e8,CASE-001,multimodal_hard,True,UI-TARS: Pioneering Automated GUI Interaction with Native Agents,arXiv:2501.12326,2025,figure,"p. 27, Figure 8",1,"Сравните, какой вариант точнее извлекает численные значения с bar chart AndroidWorld в Figure 8: scores для моделей UI-TARS-7B и UI-TARS-72B в режимах System-1 и System-2 при Bo1. Оцените, не галлюцинирует ли вариант числа и корректно ли привязывает каждое значение к соответствующей модели и режиму" +task3:998d6715e8:case-002,Vision-Language Models for GUI agents and automated UI testing,михаил-кузнецов-александрович__998d6715e8,CASE-002,multimodal_hard,True,CogAgent: A Visual Language Model for GUI Agents,arXiv:2312.08914,2023,figure,"p.8, Figure 3",1,"Сравните, какой вариант точнее извлекает из Figure 3 численные значения TFLOPs для архитектуры с cross-module при всех четырёх разрешениях (224, 490, 756, 1120), и насколько корректно оценивает реальную степень линейности этой зависимости." +task3:998d6715e8:case-003,Vision-Language Models for GUI agents and automated UI testing,михаил-кузнецов-александрович__998d6715e8,CASE-003,multimodal_hard,True,SeeClick: Harnessing GUI Grounding for Advanced Visual GUI Agents,arXiv:2401.10935,2024,table,"p. 9317, Table 1",2,"Сравните, какой вариант точнее извлекает, Опираясь на Table 1, точные численные значения точности (в процентах) для моделей SeeClick и CogAgent строго в категории «Mobile Icon/Widget», а также их размеры (Model Size) в миллиардах параметров." +task3:998d6715e8:case-004,Vision-Language Models for GUI agents and automated UI testing,михаил-кузнецов-александрович__998d6715e8,CASE-004,multimodal_hard,True,Vision-driven Automated Mobile GUI Testing via Multimodal Large Language Model,arXiv:2407.03037,2024,table,"p. 9, Table I",1,"Сравните, какой вариант точнее извлекает, используя Table I, значения Precision (P) и Recall (R) для метода Odin строго на датасете «Bug injection data» . Также приведите соответствующие значения P и R для VisionDroid на этом же датасете и укажите абсолютную разницу между ними" +task3:998d6715e8:case-005,Vision-Language Models for GUI agents and automated UI testing,михаил-кузнецов-александрович__998d6715e8,CASE-005,multimodal_hard,True,VLM-Fuzz: Vision Language Model Assisted Recursive Depth-first Search Exploration for Effective UI Testing of Android Apps,arXiv:2504.11675,2025,mixed,"p.18, Fig. 9",2,"Сравните, какой вариант точнее извлекает из встроенной таблицы на Fig. 9 точное значение p-value для сравнения Line coverage между методами VLM-Fuzz и DeepGUI." +task3:998d6715e8:case-006,Vision-Language Models for GUI agents and automated UI testing,михаил-кузнецов-александрович__998d6715e8,CASE-006,multimodal_hard,True,AppAgent: Multimodal Agents as Smartphone Users,arXiv:2312.13771,2023,table,"p.7, Table 1",1,"Сравните, какой вариант точнее извлекает значения метрик Success Rate (SR) и Reward для метода ""GPT4 (Baseline)"" с конфигурациями Action Space ""Raw"" и ""Ours"", а также для ""AppAgent"" с ""Manually Crafted"" документами, опираясь строго на Table 1." +task3:998d6715e8:case-007,Vision-Language Models for GUI agents and automated UI testing,михаил-кузнецов-александрович__998d6715e8,CASE-007,multimodal_hard,True,VideoGameQA-Bench: Evaluating Vision-Language Models for Video Game Quality Assurance,arXiv:2505.15952,2025,table,"p.5, Table 2",2,"Сравните, какой вариант точнее извлекает на основе Table 2 значения Accuracy для моделей o4-mini и Llama-4-Scout строго в задаче Video-based glitch detection (VGD)." +task3:998d6715e8:case-008,Vision-Language Models for GUI agents and automated UI testing,михаил-кузнецов-александрович__998d6715e8,CASE-008,multimodal_hard,True,A Survey on (M)LLM-Based GUI Agents,arXiv:2504.13865,2025,table,"p. 17, Table 1",2,"Сравните, какой вариант точнее извлекает, опираясь на Table 1, все датасеты для платформы ""web"", которые поддерживают диалоговые задачи (в столбце Dialogue стоит галочка)." +task3:998d6715e8:case-009,Vision-Language Models for GUI agents and automated UI testing,михаил-кузнецов-александрович__998d6715e8,CASE-009,temporal_hard,True,Test-Time Policy Adaptation for Enhanced Multi-Turn Interactions with LLMs,arXiv:2509.23166,2025,figure,"p. 28, Figure 6",1,"Сравните, какой вариант точнее определяет из Figure 6 для датасета MATH500 момент пересечения кривых ROSA и Baseline во времени и правильно описывает, какой метод лидирует ДО и ПОСЛЕ этого момента." +task3:998d6715e8:case-010,Vision-Language Models for GUI agents and automated UI testing,михаил-кузнецов-александрович__998d6715e8,CASE-010,temporal_hard,True,A Survey on Web Testing: On the Rise of AI and Applications in Industry,arXiv:2503.05378,2025,figure_or_table,"p.38, Fig.3",3,"Сравните, какой вариант точнее определяет из Figure 3 временную динамику публикаций по SBST/AI-методам: год перелома тренда, соотношение публикаций до и после этого года, а также аномальные годы с локальным спадом или искажением. Оцените, какой вариант избегает галлюцинации тренда и опирается именно на визуальные данные" +task3:998d6715e8:case-011,Vision-Language Models for GUI agents and automated UI testing,михаил-кузнецов-александрович__998d6715e8,CASE-011,easy_control,False,LLM-Guided Scenario-based GUI Testing,arXiv:2506.05079,2025,page,"p. 24, Section 5 ""Threats to Validity""",1,"На основании раздела ""Threats to Validity"" перечислите 3 основные угрозы валидности (ограничения), которые сами авторы выделяют в своей работе." +task3:998d6715e8:case-012,Vision-Language Models for GUI agents and automated UI testing,михаил-кузнецов-александрович__998d6715e8,CASE-012,easy_control,False,Usable AI: Critical Review of Its Current Issues and Trends,doi:10.3844/jcssp.2023.326.333,2023,page,"p. 330, Section ""Usability Challenges of AI Applications""",0,"На основании раздела «Usability Challenges of AI Applications» перечислите основные проблемы (challenges) разработки ориентированного на человека ИИ (HAI), о которых пишут авторы." +task3:5c4536453d:case-001,Ferroelectric transistor parameters interpretation,парочкин-андреи-витальевич__5c4536453d,CASE-001,temporal_hard,True,Decoupling polarization and coercive field in AlScN/AlN/AlScN stack for enhanced performance in ferroelectric thin-film transistors,10.1038/s41467-025-62904-6,2025,figure,Fig.4e,0,"Сравнить, какой вариант лучше понимает, какая кривая соответствует подходящему к работе в ключевом режиме напряжению." +task3:5c4536453d:case-002,Ferroelectric transistor parameters interpretation,парочкин-андреи-витальевич__5c4536453d,CASE-002,multimodal_hard,True,Scalable CMOS back-end-of-line-compatible AlScN/two-dimensional channel ferroelectric field-effect transistors,10.1038/s41565-023-01399-y,2023,figure,Fig.1c,0,"Определить, результаты какого ещё метода исследования есть на the figure." +task3:5c4536453d:case-003,Ferroelectric transistor parameters interpretation,парочкин-андреи-витальевич__5c4536453d,CASE-003,multimodal_hard,True,Scalable CMOS back-end-of-line-compatible AlScN/two-dimensional channel ferroelectric field-effect transistors,10.1038/s41565-023-01399-y,2023,figure,Fig.1c,0,"Определить по картинке, имеются ли в составе структуры кристаллиты." +task3:5c4536453d:case-004,Ferroelectric transistor parameters interpretation,парочкин-андреи-витальевич__5c4536453d,CASE-004,multimodal_hard,True,"Origins of High Mobility and Low Operation Voltage of Amorphous Oxide TFTs: Electronic Structure, Electron Transport, Defects and Doping",10.1109/JDT.2009.2034559,2009,figure,Fig.23b,0,"Какой вариант верно напишет, проводимость транзистора после отжига в азотной среде." +task3:5c4536453d:case-005,Ferroelectric transistor parameters interpretation,парочкин-андреи-витальевич__5c4536453d,CASE-005,multimodal_hard,True,"Origins of High Mobility and Low Operation Voltage of Amorphous Oxide TFTs: Electronic Structure, Electron Transport, Defects and Doping",10.1109/JDT.2009.2034559,2009,figure,Fig.26b,0,Оценить ширину гистерезиса для отожжённого и неотожжённого образцов. +task3:5c4536453d:case-006,Ferroelectric transistor parameters interpretation,парочкин-андреи-витальевич__5c4536453d,CASE-006,multimodal_hard,True,Impact of Ferroelectric Layer Thickness on Reliability of Back-End-of-Line-Compatible Hafnium Zirconium Oxide Films,10.1002/adem.202201124,2022,figure,Fig.2,0,"Определить, в какой из плёнок содержится моноклинная фаза." +task3:91f2284dbc:case-001,Посмертные изменения в биомолекулах,парочкина-екатерина-владимировна__91f2284dbc,CASE-001,multimodal_hard,True,Dynamics of Postmortem Gene Expression in Normal and Neoplastic Murine Liver,doi: 10.3390/life16040683,2026,figure_or_table,Fig.4,0,Извлеките численные данные из рисунка 4 и сопоставляет их динамику во времени.. +task3:91f2284dbc:case-002,Посмертные изменения в биомолекулах,парочкина-екатерина-владимировна__91f2284dbc,CASE-002,temporal_hard,True,"Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains",doi: 10.3390/biom15091288,2025,figure_or_table,"Fig.2A,B",0,"Извлеките из рисунка 2 A,B данные principal component analysis (PCA) и сопоставляет их с временной динамикой." +task3:91f2284dbc:case-003,Посмертные изменения в биомолекулах,парочкина-екатерина-владимировна__91f2284dbc,CASE-003,multimodal_hard,True,"Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains",doi: 10.3390/biom15091288,2025,figure_or_table,Fig.3,0,Извлеките из рисунка 3 данные о стабильности соединений. +task3:91f2284dbc:case-004,Посмертные изменения в биомолекулах,парочкина-екатерина-владимировна__91f2284dbc,CASE-004,multimodal_hard,True,"Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains",doi: 10.3390/biom15091288,2025,figure_or_table,Fig.4A,0,Извлеките из рисунка 4A качественные (не числовые) данные. +task3:91f2284dbc:case-005,Посмертные изменения в биомолекулах,парочкина-екатерина-владимировна__91f2284dbc,CASE-005,multimodal_hard,True,Systematic analysis of gene expression patterns associated with postmortem interval in human tissues,doi: s41598-017-05882-0,2017,figure_or_table,Table 2,0,Извлеките из таблицы 2 категориальные данные. +task3:0987c43afc:case-001,AI in Quantum Chemistry,свинкин-никита-алексеевич__0987c43afc,CASE-001,multimodal_hard,True,Deep learning methods for 2D material electronic properties,10.1039/D5DD00155B,2026,table,"p.5-6, Table 1",0,"Сравните, какая из двух моделей точнее извлекает из таблицы 1 для каждой базы данных (C2DB, MC2D, 2DmatPedia, Materials Project, JARVIS-DFT) информацию о типе данных (структура / электронные свойства / фононы), доступности API и основных ссылках. Выделите только те базы, которые содержат электронные зонные структуры." +task3:0987c43afc:case-002,AI in Quantum Chemistry,свинкин-никита-алексеевич__0987c43afc,CASE-002,multimodal_hard,True,Deep learning methods for 2D material electronic properties,10.1039/D5DD00155B,2026,figure,"p.7, Fig. 1",0,"На рисунке 1 показаны пять архитектур (PLMF, CGCNN, ALIGNN, MEGNet, SLICES). Для каждой из них определите: - используется ли графовое представление; - есть ли в явном виде обработка углов связей (bond angles); - является ли представление строковым (string‑based). Результат оформите в виде таблицы из трёх колонок." +task3:0987c43afc:case-003,AI in Quantum Chemistry,свинкин-никита-алексеевич__0987c43afc,CASE-003,multimodal_hard,True,Deep learning methods for 2D material electronic properties,10.1039/D5DD00155B,2026,table,"p. 13-14, Table 3",0,"Найдите в таблице 3 все методы, которые используют трансформеры (transformer) или авторегрессию (autoregressive). Для каждого такого метода выпишите название модели или работы, тип представления структуры, точность (MAE для band centers или band gaps). Игнорируйте методы на основе CNN или RBM, если они явно не упоминают внимание/трансформер." +task3:0987c43afc:case-004,AI in Quantum Chemistry,свинкин-никита-алексеевич__0987c43afc,CASE-004,multimodal_hard,True,Deep learning methods for 2D material electronic properties,10.1039/D5DD00155B,2026,table,"p.16, Table 4",0,"В таблице 4 перечислены модели для межатомных потенциалов. Отберите те модели, которые явно используют E(3)-equivariant convolutions или equivariant message passing. Для каждой из них укажите название модели, тип архитектуры (Graph NN, Equivariant representations), целевые материалы (2D, 3D, molecular). Если модель не помечена как equivariant, но в описании говорится о «rotational invariance», – не включайте." +task3:0987c43afc:case-005,AI in Quantum Chemistry,свинкин-никита-алексеевич__0987c43afc,CASE-005,temporal_hard,True,Deep learning methods for 2D material electronic properties,10.1039/D5DD00155B,2026,page,p.28-29,0,"В разделе 5 авторы перечисляют ключевые вызовы и будущие направления. Найдите в тексте упоминания следующих концепций: - uncertainty quantification; - interpretability / explainable AI (XAI); - foundation models; - autonomous labs (self‑driving laboratories). Для каждого из них выпишите одну цитату (одно предложение), в которой описывается проблема или предложение. Затем оцените, насколько полно каждая модель (baseline vs tuned) воспроизводит эти цитаты без изменения смысла." +task3:0987c43afc:case-006,AI in Quantum Chemistry,свинкин-никита-алексеевич__0987c43afc,CASE-006,temporal_hard,True,Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State,arXiv:2603.14515,2026,figure,"p.1, Fig.1",4,По логарифмическому графику определите показатель степени для Excited Pfaffians. Сравните с наклонами кривых NES и Szabó et al. +task3:0987c43afc:case-007,AI in Quantum Chemistry,свинкин-никита-алексеевич__0987c43afc,CASE-007,multimodal_hard,True,Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State,arXiv:2603.14515,2026,figure,"p.5, Fig.3",1,"Для Excited Pfaffian (панель a) назовите, какие компоненты общие для всех состояний, а какие — state‑specific." +task3:0987c43afc:case-008,AI in Quantum Chemistry,свинкин-никита-алексеевич__0987c43afc,CASE-008,multimodal_hard,True,Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State,arXiv:2603.14515,2026,figure,"p.6, Fig.4",1,"Найдите атом, для которого все 10 состояний находятся в пределах химической точности (1.6 mHa) от эксперимента. Для него выпишите погрешность самого высокого уровня." +task3:0987c43afc:case-009,AI in Quantum Chemistry,свинкин-никита-алексеевич__0987c43afc,CASE-009,temporal_hard,True,Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State,arXiv:2603.14515,2026,figure,"p.7, Fig.5",1,"В районе 1.6Å происходит обмен двух синглетных состояний. Назовите оба состояния и укажите, какой метод (Excited Pfaffian или Schätzle) сохраняет больше состояний на больших расстояниях." +task3:0987c43afc:case-010,AI in Quantum Chemistry,свинкин-никита-алексеевич__0987c43afc,CASE-010,multimodal_hard,True,Transferable neural wavefunctions for solids,10.1038/s43588-025-00872-z,2025,figure,"p.2, Fig. 1d",0,"На панели d рисунка 1 показано, как переносимая волновая функция использует среднее поле (mean‑field) для начальных орбиталей. Определите, какие компоненты остаются «замороженными», а какие обучаются нейросетью. Объясните, почему такой подход ускоряет обучение для новых систем." +task3:0987c43afc:case-011,AI in Quantum Chemistry,свинкин-никита-алексеевич__0987c43afc,CASE-011,temporal_hard,False,Transferable neural wavefunctions for solids,10.1038/s43588-025-00872-z,2025,page,"стр. 2, последний абзац введения",0,"В тексте упоминается, что DeepSolid потребовал 80 000 GPU‑часов для одного расчёта. Найдите, во сколько раз меньше времени потребовал предложенный метод при переносе с 32‑электронной на 108‑электронную систему LiH. Какой коэффициент ускорения назван в статье?" +task3:0987c43afc:case-012,AI in Quantum Chemistry,свинкин-никита-алексеевич__0987c43afc,CASE-012,multimodal_hard,False,Transferable neural wavefunctions for solids,10.1038/s43588-025-00872-z,2025,figure,"p.3, Fig. 2a",0,"На рисунке 2a показано сравнение энергий на атом для водородной цепи. Найдите метод, который даёт самую низкую энергию (наиболее точную). Укажите, какое значение (в mHa) получено предложенным методом при экстраполяции к термодинамическому пределу с использованием TABC." +task3:0987c43afc:case-013,AI in Quantum Chemistry,свинкин-никита-алексеевич__0987c43afc,CASE-013,temporal_hard,True,Transferable neural wavefunctions for solids,10.1038/s43588-025-00872-z,2025,figure,"p.3, Fig. 2b",0,"На рисунке 2b показана комплексная поляризация как функция межатомного расстояния. Авторы утверждают, что наблюдают металл‑изоляторный переход. В каком диапазоне R (в единицах a₀) происходит переход согласно их данным? Чем их оценка критического расстояния отличается от оценки Motta et al.?" +task3:0987c43afc:case-014,AI in Quantum Chemistry,свинкин-никита-алексеевич__0987c43afc,CASE-014,multimodal_hard,True,Transferable neural wavefunctions for solids,10.1038/s43588-025-00872-z,2025,table,"p.4, Table 1",0,"В таблице 1 сравниваются полные энергии графена для трёх твистов. Для твиста k2 (вес 2/3) найдите энергию, полученную DeepSolid, и энергию, полученную авторами. Вычислите разницу в mH." +task3:0987c43afc:case-015,AI in Quantum Chemistry,свинкин-никита-алексеевич__0987c43afc,CASE-015,temporal_hard,True,V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction,arXiv:2603.15669,2026,page,"p. 7–9, 2.1 (a, b, c)",3,"Авторы описывают три сценария с возрастающей сложностью: интерполяция внутри MD‑траектории, случайное разделение QM9, экстраполяция на фторсодержащие молекулы. Для третьего сценария укажите, какие элементы отсутствовали в тренировочном наборе. Как меняется ошибка предсказания при переходе от первого сценария к третьему?" +task3:0987c43afc:case-016,AI in Quantum Chemistry,свинкин-никита-алексеевич__0987c43afc,CASE-016,multimodal_hard,True,V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction,arXiv:2603.15669,2026,figure,"p. 10, Fig. 3",1,"На рисунке 3 показано сравнение предсказанной электронной плотности и DFT‑плотности. Визуально оцените, хорошо ли воспроизводится форма и положение максимумов. В каких областях (вблизи ядер или в межмолекулярном пространстве) заметны расхождения? Почему авторы исключают околоядерные области из расчёта ошибок?" +task3:0987c43afc:case-017,AI in Quantum Chemistry,свинкин-никита-алексеевич__0987c43afc,CASE-017,easy_control,True,V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction,arXiv:2603.15669,2026,page,"p. 12, 3.1, Eq 1",1,"В разделе 3.1 авторы связывают FNO с линейной теорией отклика. Найдите интегральное выражение, связывающее изменение плотности с изменением внешнего потенциала через функцию отклика χ. Напишите это уравнение (можно в текстовом виде). Чем FNO отличается от линейного отклика?" diff --git a/data/task3_vlm_generation.jsonl b/data/task3_vlm_generation.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..dadaaa503be3ffd5021c6274086ac0d87211a077 --- /dev/null +++ b/data/task3_vlm_generation.jsonl @@ -0,0 +1,182 @@ +{"sample_id": "task3:f0377dec26:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Ordering, Metastability and Phase Transitions in Two-Dimensional Systems", "paper_id": "DOI:10.1088/0022-3719/6/7/010", "year": "1973", "evidence_kind": "figure_or_table", "page_hint": "p.1191–1192, Fig.1 & Fig.2", "model_task_prompt": "Сравните, какой вариант точнее интерпретирует рисунки 1 и 2 (стр. 1191–1192): извлеките связь между направлением обхода замкнутого контура и величиной топологического заряда q, и проверьте, не теряется ли эта визуальная закономерность в hypothesis support.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Ordering, Metastability and Phase Transitions in Two-Dimensional Systems\nИдентификатор статьи: DOI:10.1088/0022-3719/6/7/010\nГод: 1973\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.1191–1192, Fig.1 & Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее интерпретирует рисунки 1 и 2 (стр. 1191–1192): извлеките связь между направлением обхода замкнутого контура и величиной топологического заряда q, и проверьте, не теряется ли эта визуальная закономерность в hypothesis support.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Ordering, Metastability and Phase Transitions in Two-Dimensional Systems\nИдентификатор статьи: DOI:10.1088/0022-3719/6/7/010\nГод: 1973\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.1191–1192, Fig.1 & Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее интерпретирует рисунки 1 и 2 (стр. 1191–1192): извлеките связь между направлением обхода замкнутого контура и величиной топологического заряда q, и проверьте, не теряется ли эта визуальная закономерность в hypothesis support.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", "original_creator_prompt": "Сравните, какой вариант точнее интерпретирует рисунки 1 и 2 (стр. 1191–1192): извлеките связь между направлением обхода замкнутого контура и величиной топологического заряда q, и проверьте, не теряется ли эта визуальная закономерность в hypothesis support.", "notes_available": false}} +{"sample_id": "task3:f0377dec26:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Quasicrystalline structures in strongly coupled dusty plasma", "paper_id": "DOI:10.1070/PU1997v040n11ABEH000308", "year": "1977", "evidence_kind": "figure", "page_hint": "p.1166, Fig.4", "model_task_prompt": "Сравните, какой вариант точнее извлекает данные из графика на рис. 4 (стр. 1165): определите, какая кривая соответствует переходу от “газообразного” к “жидкоподобному” состоянию, и проверьте, правильно ли модель связывает появление пика g(r) с указанным в тексте значением параметра связи Γ = 40.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Quasicrystalline structures in strongly coupled dusty plasma\nИдентификатор статьи: DOI:10.1070/PU1997v040n11ABEH000308\nГод: 1977\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.1166, Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает данные из графика на рис. 4 (стр. 1165): определите, какая кривая соответствует переходу от “газообразного” к “жидкоподобному” состоянию, и проверьте, правильно ли модель связывает появление пика g(r) с указанным в тексте значением параметра связи Γ = 40.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Quasicrystalline structures in strongly coupled dusty plasma\nИдентификатор статьи: DOI:10.1070/PU1997v040n11ABEH000308\nГод: 1977\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.1166, Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает данные из графика на рис. 4 (стр. 1165): определите, какая кривая соответствует переходу от “газообразного” к “жидкоподобному” состоянию, и проверьте, правильно ли модель связывает появление пика g(r) с указанным в тексте значением параметра связи Γ = 40.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", "original_creator_prompt": "Сравните, какой вариант точнее извлекает данные из графика на рис. 4 (стр. 1165): определите, какая кривая соответствует переходу от “газообразного” к “жидкоподобному” состоянию, и проверьте, правильно ли модель связывает появление пика g(r) с указанным в тексте значением параметра связи Γ = 40.", "notes_available": false}} +{"sample_id": "task3:f0377dec26:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Quasicrystalline structures in strongly coupled dusty plasma", "paper_id": "DOI:10.1070/PU1997v040n11ABEH000308", "year": "1977", "evidence_kind": "figure_or_table", "page_hint": "p.1166, Fig.5", "model_task_prompt": "Сравните, какой вариант вернее интерпретирует фазовую диаграмму на рис. 5 (стр. 1166): извлеките координаты экспериментальных точек в логарифмическом масштабе осей, определите, относительно каких теоретических кривых они лежат, и проверьте, не нарушается ли при этом условие образования упорядоченных структур, описанное в тексте.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Quasicrystalline structures in strongly coupled dusty plasma\nИдентификатор статьи: DOI:10.1070/PU1997v040n11ABEH000308\nГод: 1977\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.1166, Fig.5\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант вернее интерпретирует фазовую диаграмму на рис. 5 (стр. 1166): извлеките координаты экспериментальных точек в логарифмическом масштабе осей, определите, относительно каких теоретических кривых они лежат, и проверьте, не нарушается ли при этом условие образования упорядоченных структур, описанное в тексте.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Quasicrystalline structures in strongly coupled dusty plasma\nИдентификатор статьи: DOI:10.1070/PU1997v040n11ABEH000308\nГод: 1977\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.1166, Fig.5\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант вернее интерпретирует фазовую диаграмму на рис. 5 (стр. 1166): извлеките координаты экспериментальных точек в логарифмическом масштабе осей, определите, относительно каких теоретических кривых они лежат, и проверьте, не нарушается ли при этом условие образования упорядоченных структур, описанное в тексте.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", "original_creator_prompt": "Сравните, какой вариант вернее интерпретирует фазовую диаграмму на рис. 5 (стр. 1166): извлеките координаты экспериментальных точек в логарифмическом масштабе осей, определите, относительно каких теоретических кривых они лежат, и проверьте, не нарушается ли при этом условие образования упорядоченных структур, описанное в тексте.", "notes_available": false}} +{"sample_id": "task3:f0377dec26:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Melting dynamics of a plasma crystal", "paper_id": "DOI:10.1038/379806a0", "year": "1996", "evidence_kind": "figure", "page_hint": "p. 809, Fig. 3", "model_task_prompt": "Сравните, какой вариант точнее считывает график на рис. 3: определите давление газа (0.32 мбар), при котором ориентационный порядок демонстрирует локальный максимум, в то время как трансляционный порядок продолжает монотонно падать.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Melting dynamics of a plasma crystal\nИдентификатор статьи: DOI:10.1038/379806a0\nГод: 1996\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p. 809, Fig. 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее считывает график на рис. 3: определите давление газа (0.32 мбар), при котором ориентационный порядок демонстрирует локальный максимум, в то время как трансляционный порядок продолжает монотонно падать.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Melting dynamics of a plasma crystal\nИдентификатор статьи: DOI:10.1038/379806a0\nГод: 1996\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p. 809, Fig. 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее считывает график на рис. 3: определите давление газа (0.32 мбар), при котором ориентационный порядок демонстрирует локальный максимум, в то время как трансляционный порядок продолжает монотонно падать.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", "original_creator_prompt": "Сравните, какой вариант точнее считывает график на рис. 3: определите давление газа (0.32 мбар), при котором ориентационный порядок демонстрирует локальный максимум, в то время как трансляционный порядок продолжает монотонно падать.", "notes_available": false}} +{"sample_id": "task3:f0377dec26:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Plasma Crystal: Coulomb Crystallization in a Dusty Plasma", "paper_id": "DOI: https://doi.org/10.1103/PhysRevLett.73.652", "year": "1994", "evidence_kind": "figure", "page_hint": "p. 653, Fig. 4", "model_task_prompt": "Сравните три гистограммы на рис. 4 (стр. 653): определите, какое из распределений (площадь ячеек, число сторон или расстояние до соседа) наиболее чётко отличает экспериментальные данные (чёрные столбцы) от случайного распределения (белые), и проверьте, сохраняет ли модель связь между сужением пиков и выводом о кристаллическом порядке.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Plasma Crystal: Coulomb Crystallization in a Dusty Plasma\nИдентификатор статьи: DOI: https://doi.org/10.1103/PhysRevLett.73.652\nГод: 1994\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p. 653, Fig. 4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните три гистограммы на рис. 4 (стр. 653): определите, какое из распределений (площадь ячеек, число сторон или расстояние до соседа) наиболее чётко отличает экспериментальные данные (чёрные столбцы) от случайного распределения (белые), и проверьте, сохраняет ли модель связь между сужением пиков и выводом о кристаллическом порядке.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Plasma Crystal: Coulomb Crystallization in a Dusty Plasma\nИдентификатор статьи: DOI: https://doi.org/10.1103/PhysRevLett.73.652\nГод: 1994\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p. 653, Fig. 4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните три гистограммы на рис. 4 (стр. 653): определите, какое из распределений (площадь ячеек, число сторон или расстояние до соседа) наиболее чётко отличает экспериментальные данные (чёрные столбцы) от случайного распределения (белые), и проверьте, сохраняет ли модель связь между сужением пиков и выводом о кристаллическом порядке.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", "original_creator_prompt": "Сравните три гистограммы на рис. 4 (стр. 653): определите, какое из распределений (площадь ячеек, число сторон или расстояние до соседа) наиболее чётко отличает экспериментальные данные (чёрные столбцы) от случайного распределения (белые), и проверьте, сохраняет ли модель связь между сужением пиков и выводом о кристаллическом порядке.", "notes_available": false}} +{"sample_id": "task3:f0377dec26:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "case_id": "CASE-006", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Plasma Crystal: Coulomb Crystallization in a Dusty Plasma", "paper_id": "DOI: https://doi.org/10.1103/PhysRevLett.73.652", "year": "1994", "evidence_kind": "figure", "page_hint": "p. 654, Fig. 3", "model_task_prompt": "Проанализируйте тесселяцию на рис. 3: определите, какая геометрическая фигура преобладает среди ячеек Вороного, проверьте, связывает ли модель визуальное доминирование шестиугольников с выводом о формировании кристаллической решётки.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Plasma Crystal: Coulomb Crystallization in a Dusty Plasma\nИдентификатор статьи: DOI: https://doi.org/10.1103/PhysRevLett.73.652\nГод: 1994\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p. 654, Fig. 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nПроанализируйте тесселяцию на рис. 3: определите, какая геометрическая фигура преобладает среди ячеек Вороного, проверьте, связывает ли модель визуальное доминирование шестиугольников с выводом о формировании кристаллической решётки.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Plasma Crystal: Coulomb Crystallization in a Dusty Plasma\nИдентификатор статьи: DOI: https://doi.org/10.1103/PhysRevLett.73.652\nГод: 1994\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p. 654, Fig. 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nПроанализируйте тесселяцию на рис. 3: определите, какая геометрическая фигура преобладает среди ячеек Вороного, проверьте, связывает ли модель визуальное доминирование шестиугольников с выводом о формировании кристаллической решётки.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", "original_creator_prompt": "Проанализируйте тесселяцию на рис. 3: определите, какая геометрическая фигура преобладает среди ячеек Вороного, проверьте, связывает ли модель визуальное доминирование шестиугольников с выводом о формировании кристаллической решётки.", "notes_available": false}} +{"sample_id": "task3:f0377dec26:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "case_id": "CASE-007", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Hexatic phase in two-dimensional Yukawa systems: Existence and properties", "paper_id": "DOI 10.1088/1742-6596/653/1/012103", "year": "2015", "evidence_kind": "figure", "page_hint": "p.3-4, Fig.1 & Fig.3", "model_task_prompt": "Сравните, какой вариант точнее считывает рисунки 1 и 3: извлеките асимптотическое поведение g6(r) для гексатической фазы (степенной закон r^(-1/5)), сопоставьте его с положением пика теплоёмкости Cv и определите границы переходов при Γ = 98 и Γ=154.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Hexatic phase in two-dimensional Yukawa systems: Existence and properties\nИдентификатор статьи: DOI 10.1088/1742-6596/653/1/012103\nГод: 2015\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3-4, Fig.1 & Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее считывает рисунки 1 и 3: извлеките асимптотическое поведение g6(r) для гексатической фазы (степенной закон r^(-1/5)), сопоставьте его с положением пика теплоёмкости Cv и определите границы переходов при Γ = 98 и Γ=154.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Hexatic phase in two-dimensional Yukawa systems: Existence and properties\nИдентификатор статьи: DOI 10.1088/1742-6596/653/1/012103\nГод: 2015\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3-4, Fig.1 & Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее считывает рисунки 1 и 3: извлеките асимптотическое поведение g6(r) для гексатической фазы (степенной закон r^(-1/5)), сопоставьте его с положением пика теплоёмкости Cv и определите границы переходов при Γ = 98 и Γ=154.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", "original_creator_prompt": "Сравните, какой вариант точнее считывает рисунки 1 и 3: извлеките асимптотическое поведение g6(r) для гексатической фазы (степенной закон r^(-1/5)), сопоставьте его с положением пика теплоёмкости Cv и определите границы переходов при Γ = 98 и Γ=154.", "notes_available": false}} +{"sample_id": "task3:f0377dec26:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "case_id": "CASE-008", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Hexatic phase in two-dimensional Yukawa systems: Existence and properties", "paper_id": "DOI 10.1088/1742-6596/653/1/012103", "year": "2015", "evidence_kind": "figure", "page_hint": "p.4–5, Fig.5 & Fig.6", "model_task_prompt": "Проанализируйте динамику фазового сценария при уменьшении Γ: определите последовательность потери порядка (трансляционный до ориентационного), выявите на рис. 5 расхождение в оценках критических точек из работ до и после 2010 года, и проверьте, как на рис. 6 сдвигается диапазон существования гексатической фазы при изменении параметра каппа.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Hexatic phase in two-dimensional Yukawa systems: Existence and properties\nИдентификатор статьи: DOI 10.1088/1742-6596/653/1/012103\nГод: 2015\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.4–5, Fig.5 & Fig.6\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПроанализируйте динамику фазового сценария при уменьшении Γ: определите последовательность потери порядка (трансляционный до ориентационного), выявите на рис. 5 расхождение в оценках критических точек из работ до и после 2010 года, и проверьте, как на рис. 6 сдвигается диапазон существования гексатической фазы при изменении параметра каппа.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Hexatic phase in two-dimensional Yukawa systems: Existence and properties\nИдентификатор статьи: DOI 10.1088/1742-6596/653/1/012103\nГод: 2015\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.4–5, Fig.5 & Fig.6\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПроанализируйте динамику фазового сценария при уменьшении Γ: определите последовательность потери порядка (трансляционный до ориентационного), выявите на рис. 5 расхождение в оценках критических точек из работ до и после 2010 года, и проверьте, как на рис. 6 сдвигается диапазон существования гексатической фазы при изменении параметра каппа.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", "original_creator_prompt": "Проанализируйте динамику фазового сценария при уменьшении Γ: определите последовательность потери порядка (трансляционный до ориентационного), выявите на рис. 5 расхождение в оценках критических точек из работ до и после 2010 года, и проверьте, как на рис. 6 сдвигается диапазон существования гексатической фазы при изменении параметра каппа.", "notes_available": false}} +{"sample_id": "task3:f0377dec26:case-009", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "case_id": "CASE-009", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Laser-induced melting of two-dimensional dusty plasma system in RF discharge", "paper_id": "DOI:10.1038/s41598-020-80082-x", "year": "2021", "evidence_kind": "figure", "page_hint": "p.6-7, Fig.4 & Fig.5", "model_task_prompt": "Отследите последовательность разрушения порядка при уменьшении Γ: определите, какой тип порядка (трансляционный или ориентационный) теряется первым в районе Γ = 160Γ, а какой - в районе Г = 100, и проверьте, соответствует ли эта динамика визуальной эволюции дефектов на диаграммах Вороного (рис. 5).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Laser-induced melting of two-dimensional dusty plasma system in RF discharge\nИдентификатор статьи: DOI:10.1038/s41598-020-80082-x\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.6-7, Fig.4 & Fig.5\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОтследите последовательность разрушения порядка при уменьшении Γ: определите, какой тип порядка (трансляционный или ориентационный) теряется первым в районе Γ = 160Γ, а какой - в районе Г = 100, и проверьте, соответствует ли эта динамика визуальной эволюции дефектов на диаграммах Вороного (рис. 5).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Laser-induced melting of two-dimensional dusty plasma system in RF discharge\nИдентификатор статьи: DOI:10.1038/s41598-020-80082-x\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.6-7, Fig.4 & Fig.5\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОтследите последовательность разрушения порядка при уменьшении Γ: определите, какой тип порядка (трансляционный или ориентационный) теряется первым в районе Γ = 160Γ, а какой - в районе Г = 100, и проверьте, соответствует ли эта динамика визуальной эволюции дефектов на диаграммах Вороного (рис. 5).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", "original_creator_prompt": "Отследите последовательность разрушения порядка при уменьшении Γ: определите, какой тип порядка (трансляционный или ориентационный) теряется первым в районе Γ = 160Γ, а какой - в районе Г = 100, и проверьте, соответствует ли эта динамика визуальной эволюции дефектов на диаграммах Вороного (рис. 5).", "notes_available": false}} +{"sample_id": "task3:f0377dec26:case-010", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "case_id": "CASE-010", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Laser-induced melting of two-dimensional dusty plasma system in RF discharge", "paper_id": "DOI:10.1038/s41598-020-80082-x", "year": "2021", "evidence_kind": "figure", "page_hint": "p.5, Fig.3", "model_task_prompt": "Проанализируйте эволюцию структурного фактора S(kxy) на рис. 3 при переходе от Γ=600 к Γ=50: опишите последовательную трансформацию максимумов (чёткие пики --- размытые гексагоны --- концентрические кольца) и проверьте, связывает ли модель промежуточную стадию с гексатической фазой, а не с прямым переходом твёрдое кристалл - жидкость.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Laser-induced melting of two-dimensional dusty plasma system in RF discharge\nИдентификатор статьи: DOI:10.1038/s41598-020-80082-x\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.5, Fig.3\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПроанализируйте эволюцию структурного фактора S(kxy) на рис. 3 при переходе от Γ=600 к Γ=50: опишите последовательную трансформацию максимумов (чёткие пики --- размытые гексагоны --- концентрические кольца) и проверьте, связывает ли модель промежуточную стадию с гексатической фазой, а не с прямым переходом твёрдое кристалл - жидкость.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Laser-induced melting of two-dimensional dusty plasma system in RF discharge\nИдентификатор статьи: DOI:10.1038/s41598-020-80082-x\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.5, Fig.3\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПроанализируйте эволюцию структурного фактора S(kxy) на рис. 3 при переходе от Γ=600 к Γ=50: опишите последовательную трансформацию максимумов (чёткие пики --- размытые гексагоны --- концентрические кольца) и проверьте, связывает ли модель промежуточную стадию с гексатической фазой, а не с прямым переходом твёрдое кристалл - жидкость.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", "original_creator_prompt": "Проанализируйте эволюцию структурного фактора S(kxy) на рис. 3 при переходе от Γ=600 к Γ=50: опишите последовательную трансформацию максимумов (чёткие пики --- размытые гексагоны --- концентрические кольца) и проверьте, связывает ли модель промежуточную стадию с гексатической фазой, а не с прямым переходом твёрдое кристалл - жидкость.", "notes_available": false}} +{"sample_id": "task3:f0377dec26:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "case_id": "CASE-011", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "Laser-induced melting of two-dimensional dusty plasma system in RF discharge", "paper_id": "DOI:10.1038/s41598-020-80082-x", "year": "2021", "evidence_kind": "page", "page_hint": "p.3, раздел Experiments", "model_task_prompt": "Извлеките базовые параметры эксперимента: диаметр частиц, рабочее давление газа и диапазон мощности лазера, использованного для нагрева, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Laser-induced melting of two-dimensional dusty plasma system in RF discharge\nИдентификатор статьи: DOI:10.1038/s41598-020-80082-x\nГод: 2021\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.3, раздел Experiments\nСлой сложности: easy_control\n\nАдаптированная задача:\nИзвлеките базовые параметры эксперимента: диаметр частиц, рабочее давление газа и диапазон мощности лазера, использованного для нагрева, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Laser-induced melting of two-dimensional dusty plasma system in RF discharge\nИдентификатор статьи: DOI:10.1038/s41598-020-80082-x\nГод: 2021\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.3, раздел Experiments\nСлой сложности: easy_control\n\nАдаптированная задача:\nИзвлеките базовые параметры эксперимента: диаметр частиц, рабочее давление газа и диапазон мощности лазера, использованного для нагрева, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", "original_creator_prompt": "Извлеките базовые параметры эксперимента: диаметр частиц, рабочее давление газа и диапазон мощности лазера, использованного для нагрева, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.", "notes_available": false}} +{"sample_id": "task3:f0377dec26:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "case_id": "CASE-012", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "Laser-induced melting of two-dimensional dusty plasma system in RF discharge", "paper_id": "DOI:10.1038/s41598-020-80082-x", "year": "2021", "evidence_kind": "page", "page_hint": "p.2–3, раздел Experiments", "model_task_prompt": "Извлеките базовые параметры ВЧ-разряда: частоту генератора, расстояние между электродами, рабочее давление аргона и мощность разряда, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Laser-induced melting of two-dimensional dusty plasma system in RF discharge\nИдентификатор статьи: DOI:10.1038/s41598-020-80082-x\nГод: 2021\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.2–3, раздел Experiments\nСлой сложности: easy_control\n\nАдаптированная задача:\nИзвлеките базовые параметры ВЧ-разряда: частоту генератора, расстояние между электродами, рабочее давление аргона и мощность разряда, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме\nСтатья: Laser-induced melting of two-dimensional dusty plasma system in RF discharge\nИдентификатор статьи: DOI:10.1038/s41598-020-80082-x\nГод: 2021\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.2–3, раздел Experiments\nСлой сложности: easy_control\n\nАдаптированная задача:\nИзвлеките базовые параметры ВЧ-разряда: частоту генератора, расстояние между электродами, рабочее давление аргона и мощность разряда, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", "original_creator_prompt": "Извлеките базовые параметры ВЧ-разряда: частоту генератора, расстояние между электродами, рабочее давление аргона и мощность разряда, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.", "notes_available": false}} +{"sample_id": "task3:8ec4fdad1a:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "\"AI Agents Simulate Behavioral Biases in Financial Markets\"", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "figure_or_table", "page_hint": "Fig.4", "model_task_prompt": "Извлеките из Figure 4 ключевые параметры LLM-агентов (уровни bias, типы personality) и связывает их с описанными в тексте рыночными исходами (пузыри, крахи)..", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: \"AI Agents Simulate Behavioral Biases in Financial Markets\"\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из Figure 4 ключевые параметры LLM-агентов (уровни bias, типы personality) и связывает их с описанными в тексте рыночными исходами (пузыри, крахи)..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: \"AI Agents Simulate Behavioral Biases in Financial Markets\"\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из Figure 4 ключевые параметры LLM-агентов (уровни bias, типы personality) и связывает их с описанными в тексте рыночными исходами (пузыри, крахи)..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", "original_creator_prompt": "Сравните, насколько правильно каждый VLM извлекает из Figure 4 ключевые параметры LLM-агентов (уровни bias, типы personality) и связывает их с описанными в тексте рыночными исходами (пузыри, крахи).", "notes_available": false}} +{"sample_id": "task3:8ec4fdad1a:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "case_id": "CASE-002", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "\"AI Agents Simulate Behavioral Biases in Financial Markets\"", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "figure_or_table", "page_hint": "Fig.5", "model_task_prompt": "Определите временные рамки критических изменений на рынке (points of inflection), правильно ли привязывает фазы роста/падения к конкретным таймстэмпам..", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: \"AI Agents Simulate Behavioral Biases in Financial Markets\"\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.5\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпределите временные рамки критических изменений на рынке (points of inflection), правильно ли привязывает фазы роста/падения к конкретным таймстэмпам..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: \"AI Agents Simulate Behavioral Biases in Financial Markets\"\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.5\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпределите временные рамки критических изменений на рынке (points of inflection), правильно ли привязывает фазы роста/падения к конкретным таймстэмпам..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", "original_creator_prompt": "Сравните, как каждый VLM определяет временные рамки критических изменений на рынке (points of inflection), правильно ли привязывает фазы роста/падения к конкретным таймстэмпам.", "notes_available": false}} +{"sample_id": "task3:8ec4fdad1a:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "case_id": "CASE-003", "stratum": "easy_control", "primary_endpoint": true, "paper_title": "\"AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "page", "page_hint": "p.8", "model_task_prompt": "Определите определение 'herd mentality' и его проявление в росте VWAP..", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: \"AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.8\nСлой сложности: easy_control\n\nАдаптированная задача:\nОпределите определение 'herd mentality' и его проявление в росте VWAP..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: \"AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.8\nСлой сложности: easy_control\n\nАдаптированная задача:\nОпределите определение 'herd mentality' и его проявление в росте VWAP..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", "original_creator_prompt": "Сравните, правильно ли каждый VLM определяет определение 'herd mentality' и его проявление в росте VWAP.", "notes_available": false}} +{"sample_id": "task3:8ec4fdad1a:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets\"", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "table", "page_hint": "Table 1", "model_task_prompt": "Определите, сколько типов personality настроено в агентах и какие именно bias (overconfidence, loss_aversion, dissonance) им назначены..", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\"\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: table\nПодсказка по странице/рисунку/таблице: Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределите, сколько типов personality настроено в агентах и какие именно bias (overconfidence, loss_aversion, dissonance) им назначены..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\"\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: table\nПодсказка по странице/рисунку/таблице: Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределите, сколько типов personality настроено в агентах и какие именно bias (overconfidence, loss_aversion, dissonance) им назначены..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", "original_creator_prompt": "Сравните, сколько типов personality настроено в агентах и какие именно bias (overconfidence, loss_aversion, dissonance) им назначены.", "notes_available": false}} +{"sample_id": "task3:8ec4fdad1a:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "figure", "page_hint": "Fig.6", "model_task_prompt": "Свяжите усиление 'herding' и 'overconfidence' с началом пузыря..", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.6\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСвяжите усиление 'herding' и 'overconfidence' с началом пузыря..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.6\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСвяжите усиление 'herding' и 'overconfidence' с началом пузыря..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", "original_creator_prompt": "Сравните, как каждый VLM связывает усиление 'herding' и 'overconfidence' с началом пузыря.", "notes_available": false}} +{"sample_id": "task3:8ec4fdad1a:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "case_id": "CASE-006", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "AI Agents Simulate Behavioral Biases in Financial Market", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "figure_or_table", "page_hint": "Fig.3", "model_task_prompt": "Сравните, насколько точно каждый VLM извлекает из Figure 3 значения VWAP и trade volume на разных фазах пузыря и связывает их с bias-параметрами агентов", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Market\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, насколько точно каждый VLM извлекает из Figure 3 значения VWAP и trade volume на разных фазах пузыря и связывает их с bias-параметрами агентов\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Market\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, насколько точно каждый VLM извлекает из Figure 3 значения VWAP и trade volume на разных фазах пузыря и связывает их с bias-параметрами агентов\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", "original_creator_prompt": "Сравните, насколько точно каждый VLM извлекает из Figure 3 значения VWAP и trade volume на разных фазах пузыря и связывает их с bias-параметрами агентов", "notes_available": false}} +{"sample_id": "task3:8ec4fdad1a:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "case_id": "CASE-007", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "table", "page_hint": "Table 2", "model_task_prompt": "Интерпретируйте данные Table 2: какой bias (overconfidence, loss aversion, dissonance) сильнее всего коррелирует с аномальным ростом VWAP..", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: table\nПодсказка по странице/рисунку/таблице: Table 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИнтерпретируйте данные Table 2: какой bias (overconfidence, loss aversion, dissonance) сильнее всего коррелирует с аномальным ростом VWAP..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: table\nПодсказка по странице/рисунку/таблице: Table 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИнтерпретируйте данные Table 2: какой bias (overconfidence, loss aversion, dissonance) сильнее всего коррелирует с аномальным ростом VWAP..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", "original_creator_prompt": "Сравните, как каждый VLM интерпретирует данные Table 2: какой bias (overconfidence, loss aversion, dissonance) сильнее всего коррелирует с аномальным ростом VWAP.", "notes_available": false}} +{"sample_id": "task3:8ec4fdad1a:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "case_id": "CASE-008", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "figure", "page_hint": "Fig.2", "model_task_prompt": "Определите, сколько типов personality настроено в агентах (из Figure 2) и какие bias к ним привязаны.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпределите, сколько типов personality настроено в агентах (из Figure 2) и какие bias к ним привязаны.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпределите, сколько типов personality настроено в агентах (из Figure 2) и какие bias к ним привязаны.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", "original_creator_prompt": "Сравните, сколько типов personality настроено в агентах (из Figure 2) и какие bias к ним привязаны", "notes_available": false}} +{"sample_id": "task3:8ec4fdad1a:case-009", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "case_id": "CASE-009", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "AI Agents Simulate Behavioral Biases in Financial Market", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "figure", "page_hint": "Fig.6", "model_task_prompt": "Определите момент перехода 'herding' → 'overconfidence' по временной шкале и связывает его с рыночным пузырём.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Market\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.6\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпределите момент перехода 'herding' → 'overconfidence' по временной шкале и связывает его с рыночным пузырём.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Market\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.6\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпределите момент перехода 'herding' → 'overconfidence' по временной шкале и связывает его с рыночным пузырём.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", "original_creator_prompt": "Сравните, как каждый VLM определяет момент перехода 'herding' → 'overconfidence' по временной шкале и связывает его с рыночным пузырём", "notes_available": false}} +{"sample_id": "task3:8ec4fdad1a:case-010", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "case_id": "CASE-010", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "table", "page_hint": "Table 3", "model_task_prompt": "Определите временную задержку между ростом bias и проявлением рыночного эффекта (пузырь/крах) из Table 3..", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: table\nПодсказка по странице/рисунку/таблице: Table 3\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпределите временную задержку между ростом bias и проявлением рыночного эффекта (пузырь/крах) из Table 3..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: table\nПодсказка по странице/рисунку/таблице: Table 3\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпределите временную задержку между ростом bias и проявлением рыночного эффекта (пузырь/крах) из Table 3..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", "original_creator_prompt": "Сравните, как каждый VLM определяет временную задержку между ростом bias и проявлением рыночного эффекта (пузырь/крах) из Table 3.", "notes_available": false}} +{"sample_id": "task3:8ec4fdad1a:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "case_id": "CASE-011", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "page", "page_hint": "p.5", "model_task_prompt": "Определите три основных bias, перечисленных в явном виде на странице 5..", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.5\nСлой сложности: easy_control\n\nАдаптированная задача:\nОпределите три основных bias, перечисленных в явном виде на странице 5..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.5\nСлой сложности: easy_control\n\nАдаптированная задача:\nОпределите три основных bias, перечисленных в явном виде на странице 5..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", "original_creator_prompt": "Сравните, правильно ли каждый VLM определяет три основных bias, перечисленных в явном виде на странице 5.", "notes_available": false}} +{"sample_id": "task3:8ec4fdad1a:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "case_id": "CASE-012", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "page", "page_hint": "p.10", "model_task_prompt": "Сравните, правильно ли каждый VLM определяет, какой тип личности агента (conservative / aggressive) привёл к loss aversion", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.10\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, правильно ли каждый VLM определяет, какой тип личности агента (conservative / aggressive) привёл к loss aversion\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.\nСтатья: AI Agents Simulate Behavioral Biases in Financial Markets\nИдентификатор статьи: 10.1007/s42001-026-00465-4\nГод: 2026\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.10\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, правильно ли каждый VLM определяет, какой тип личности агента (conservative / aggressive) привёл к loss aversion\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", "original_creator_prompt": "Сравните, правильно ли каждый VLM определяет, какой тип личности агента (conservative / aggressive) привёл к loss aversion", "notes_available": false}} +{"sample_id": "task3:c5c57bba7e:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "figure", "page_hint": "Fig 6b", "model_task_prompt": "Сравните какой вариант лучше извлекает данные о пороговом значении процента фибробластов из графика при разных Ebond", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: 10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 6b\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные о пороговом значении процента фибробластов из графика при разных Ebond\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: 10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 6b\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные о пороговом значении процента фибробластов из графика при разных Ebond\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", "original_creator_prompt": "Сравните какой вариант лучше извлекает данные о пороговом значении процента фибробластов из графика при разных Ebond", "notes_available": false}} +{"sample_id": "task3:c5c57bba7e:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "table", "page_hint": "Table 1", "model_task_prompt": "Сравните какой вариант лучше извлекает данные о значении параметров из таблицы", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: 10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: table\nПодсказка по странице/рисунку/таблице: Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные о значении параметров из таблицы\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: 10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: table\nПодсказка по странице/рисунку/таблице: Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные о значении параметров из таблицы\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", "original_creator_prompt": "Сравните какой вариант лучше извлекает данные о значении параметров из таблицы", "notes_available": true}} +{"sample_id": "task3:c5c57bba7e:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "formula", "page_hint": "Eq 2", "model_task_prompt": "Сравните какой вариант лучше извлекает формулу Hjunctions из картинки с формулой после уравнения 1", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: 10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: formula\nПодсказка по странице/рисунку/таблице: Eq 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает формулу Hjunctions из картинки с формулой после уравнения 1\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: 10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: formula\nПодсказка по странице/рисунку/таблице: Eq 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает формулу Hjunctions из картинки с формулой после уравнения 1\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", "original_creator_prompt": "Сравните какой вариант лучше извлекает формулу Hjunctions из картинки с формулой после уравнения 1", "notes_available": false}} +{"sample_id": "task3:c5c57bba7e:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Discrete Anisotropy Model of Heterogeneous Cardiac Tissue Predicting the Occurrence of Symmetry Breaking of Reentrant Activity", "paper_id": "10.1134/S0021364024600782", "year": "2024", "evidence_kind": "figure", "page_hint": "Fig 1", "model_task_prompt": "Извлеките данные о размере образца.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Discrete Anisotropy Model of Heterogeneous Cardiac Tissue Predicting the Occurrence of Symmetry Breaking of Reentrant Activity\nИдентификатор статьи: 10.1134/S0021364024600782\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките данные о размере образца.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Discrete Anisotropy Model of Heterogeneous Cardiac Tissue Predicting the Occurrence of Symmetry Breaking of Reentrant Activity\nИдентификатор статьи: 10.1134/S0021364024600782\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките данные о размере образца.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает данные о размере образца", "notes_available": false}} +{"sample_id": "task3:c5c57bba7e:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Virtual cardiac monolayers for electrical wave propagation", "paper_id": "10.1038/s41598-017-07653-3", "year": "2017", "evidence_kind": "figure", "page_hint": "Fig 2", "model_task_prompt": "Определите морфологические метрики кардиомиоцитов и фибробластов из экспериментов.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Virtual cardiac monolayers for electrical wave propagation\nИдентификатор статьи: 10.1038/s41598-017-07653-3\nГод: 2017\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределите морфологические метрики кардиомиоцитов и фибробластов из экспериментов.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Virtual cardiac monolayers for electrical wave propagation\nИдентификатор статьи: 10.1038/s41598-017-07653-3\nГод: 2017\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределите морфологические метрики кардиомиоцитов и фибробластов из экспериментов.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", "original_creator_prompt": "Сравните, какой вариант лучше определяет морфологические метрики кардиомиоцитов и фибробластов из экспериментов", "notes_available": false}} +{"sample_id": "task3:c5c57bba7e:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "case_id": "CASE-006", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Simulation of the differential adhesion driven rearrangement of biological cells", "paper_id": "10.1103/PhysRevE.47.2128", "year": "1993", "evidence_kind": "figure", "page_hint": "Fig 5a", "model_task_prompt": "Сравните, какой вариант лучше лучше определяет время выхода на плато длины границ в эксперименте на рисунке 5а", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Simulation of the differential adhesion driven rearrangement of biological cells\nИдентификатор статьи: 10.1103/PhysRevE.47.2128\nГод: 1993\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 5a\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше лучше определяет время выхода на плато длины границ в эксперименте на рисунке 5а\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Simulation of the differential adhesion driven rearrangement of biological cells\nИдентификатор статьи: 10.1103/PhysRevE.47.2128\nГод: 1993\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 5a\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше лучше определяет время выхода на плато длины границ в эксперименте на рисунке 5а\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence", "visual_fact"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", "original_creator_prompt": "Сравните, какой вариант лучше лучше определяет время выхода на плато длины границ в эксперименте на рисунке 5а", "notes_available": false}} +{"sample_id": "task3:c5c57bba7e:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "case_id": "CASE-007", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Simulation of the differential adhesion driven rearrangement of biological cells", "paper_id": "10.1103/PhysRevE.47.2128", "year": "1993", "evidence_kind": "figure", "page_hint": "Fig 13c", "model_task_prompt": "Определите время в шагах Монте-Карло (MCS), когда длина гетеротипических границ примерно равна длине гомотипических границ на рисунке 13с.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Simulation of the differential adhesion driven rearrangement of biological cells\nИдентификатор статьи: 10.1103/PhysRevE.47.2128\nГод: 1993\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 13c\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпределите время в шагах Монте-Карло (MCS), когда длина гетеротипических границ примерно равна длине гомотипических границ на рисунке 13с.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Simulation of the differential adhesion driven rearrangement of biological cells\nИдентификатор статьи: 10.1103/PhysRevE.47.2128\nГод: 1993\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 13c\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпределите время в шагах Монте-Карло (MCS), когда длина гетеротипических границ примерно равна длине гомотипических границ на рисунке 13с.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", "original_creator_prompt": "Сравните, какой вариант лучше определяет время в шагах Монте-Карло (MCS), когда длина гетеротипических границ примерно равна длине гомотипических границ на рисунке 13с", "notes_available": false}} +{"sample_id": "task3:c5c57bba7e:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "case_id": "CASE-008", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Simulation of the differential adhesion driven rearrangement of biological cells", "paper_id": "10.1103/PhysRevE.47.2128", "year": "1993", "evidence_kind": "figure", "page_hint": "Fig 19b", "model_task_prompt": "Определите время в шагах Монте-Карло (MCS), когда длина гетеротипических границ для разных сочетаний (темные со светлыми, темные с окружением, светлые с окружением) начинают заметно расходиться на рисунке 19b.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Simulation of the differential adhesion driven rearrangement of biological cells\nИдентификатор статьи: 10.1103/PhysRevE.47.2128\nГод: 1993\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 19b\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпределите время в шагах Монте-Карло (MCS), когда длина гетеротипических границ для разных сочетаний (темные со светлыми, темные с окружением, светлые с окружением) начинают заметно расходиться на рисунке 19b.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Simulation of the differential adhesion driven rearrangement of biological cells\nИдентификатор статьи: 10.1103/PhysRevE.47.2128\nГод: 1993\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 19b\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпределите время в шагах Монте-Карло (MCS), когда длина гетеротипических границ для разных сочетаний (темные со светлыми, темные с окружением, светлые с окружением) начинают заметно расходиться на рисунке 19b.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "visual_fact"], "expected_error_modes": ["needs_time_fix", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", "original_creator_prompt": "Сравните, какой вариант лучше определяет время в шагах Монте-Карло (MCS), когда длина гетеротипических границ для разных сочетаний (темные со светлыми, темные с окружением, светлые с окружением) начинают заметно расходиться на рисунке 19b", "notes_available": false}} +{"sample_id": "task3:c5c57bba7e:case-009", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "case_id": "CASE-009", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Generation and maturation of human iPSC-derived 3D organotypic cardiac microtissues in long-term culture", "paper_id": "10.1038/s41598-022-22225-w", "year": "2022", "evidence_kind": "figure", "page_hint": "Fig 2", "model_task_prompt": "Сравните, какой вариант лучше различает какой график к какому периоду относится", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Generation and maturation of human iPSC-derived 3D organotypic cardiac microtissues in long-term culture\nИдентификатор статьи: 10.1038/s41598-022-22225-w\nГод: 2022\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше различает какой график к какому периоду относится\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Generation and maturation of human iPSC-derived 3D organotypic cardiac microtissues in long-term culture\nИдентификатор статьи: 10.1038/s41598-022-22225-w\nГод: 2022\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig 2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше различает какой график к какому периоду относится\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", "original_creator_prompt": "Сравните, какой вариант лучше различает какой график к какому периоду относится", "notes_available": false}} +{"sample_id": "task3:c5c57bba7e:case-010", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "case_id": "CASE-010", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models", "paper_id": "10.1007/s12012-025-09987-1", "year": "2025", "evidence_kind": "figure", "page_hint": "Graphical Abstract", "model_task_prompt": "Сравните, какой вариант лучше понимает какой цвет означает более позднюю стадию распространения волны", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models\nИдентификатор статьи: 10.1007/s12012-025-09987-1\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Graphical Abstract\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше понимает какой цвет означает более позднюю стадию распространения волны\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models\nИдентификатор статьи: 10.1007/s12012-025-09987-1\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Graphical Abstract\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше понимает какой цвет означает более позднюю стадию распространения волны\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", "original_creator_prompt": "Сравните, какой вариант лучше понимает какой цвет означает более позднюю стадию распространения волны", "notes_available": false}} +{"sample_id": "task3:c5c57bba7e:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "case_id": "CASE-011", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "doi:10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "page", "page_hint": "Abstract", "model_task_prompt": "Сравните, какой вариант лучше формулирует общий тезис статьи о причинах значения порога перколяции", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: doi:10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: page\nПодсказка по странице/рисунку/таблице: Abstract\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант лучше формулирует общий тезис статьи о причинах значения порога перколяции\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: doi:10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: page\nПодсказка по странице/рисунку/таблице: Abstract\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант лучше формулирует общий тезис статьи о причинах значения порога перколяции\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", "original_creator_prompt": "Сравните, какой вариант лучше формулирует общий тезис статьи о причинах значения порога перколяции", "notes_available": false}} +{"sample_id": "task3:c5c57bba7e:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "case_id": "CASE-012", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "Modeling the functional heterogeneity and conditions for the occurrence of microreentry in procedurally created atrial fibrous tissue", "paper_id": "doi:10.1063/5.0151624", "year": "2023", "evidence_kind": "page", "page_hint": "Methods", "model_task_prompt": "Опишите Гамильтониан и его слагаемые в клеточной модели.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Modeling the functional heterogeneity and conditions for the occurrence of microreentry in procedurally created atrial fibrous tissue\nИдентификатор статьи: doi:10.1063/5.0151624\nГод: 2023\nТип evidence: page\nПодсказка по странице/рисунку/таблице: Methods\nСлой сложности: easy_control\n\nАдаптированная задача:\nОпишите Гамильтониан и его слагаемые в клеточной модели.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy\nСтатья: Modeling the functional heterogeneity and conditions for the occurrence of microreentry in procedurally created atrial fibrous tissue\nИдентификатор статьи: doi:10.1063/5.0151624\nГод: 2023\nТип evidence: page\nПодсказка по странице/рисунку/таблице: Methods\nСлой сложности: easy_control\n\nАдаптированная задача:\nОпишите Гамильтониан и его слагаемые в клеточной модели.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", "original_creator_prompt": "Сравните, какой вариант лучше описывает Гамильтониан и его слагаемые в клеточной модели", "notes_available": false}} +{"sample_id": "task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "doi:10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "figure", "page_hint": "Fig. 1: activation map, blocked regions, main propagation pathways, velocity decay and percolation threshold", "model_task_prompt": "Сравните, какой вариант лучше считывает Fig. 1: где находятся блоки проведения, по каким узким путям распространяется волна, как меняется velocity при росте доли non-conducting cells и какой percolation threshold указан на графике.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: doi:10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig. 1: activation map, blocked regions, main propagation pathways, velocity decay and percolation threshold\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше считывает Fig. 1: где находятся блоки проведения, по каким узким путям распространяется волна, как меняется velocity при росте доли non-conducting cells и какой percolation threshold указан на графике.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: doi:10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig. 1: activation map, blocked regions, main propagation pathways, velocity decay and percolation threshold\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше считывает Fig. 1: где находятся блоки проведения, по каким узким путям распространяется волна, как меняется velocity при росте доли non-conducting cells и какой percolation threshold указан на графике.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", "original_creator_prompt": "Сравните, какой вариант лучше считывает Fig. 1: где находятся блоки проведения, по каким узким путям распространяется волна, как меняется velocity при росте доли non-conducting cells и какой percolation threshold указан на графике.", "notes_available": true}} +{"sample_id": "task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "doi:10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "figure_or_table", "page_hint": "Fig. 6 and Table 1: virtual monolayers, E bond conditions, velocity vs density, percolation threshold", "model_task_prompt": "Сравните, какой вариант лучше связывает Fig. 6 с параметрами модели: различает orange/blue условия cytoskeleton alignment, не путает simulated fibroblast density с experimental fraction и корректно переносит threshold/velocity evidence.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: doi:10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig. 6 and Table 1: virtual monolayers, E bond conditions, velocity vs density, percolation threshold\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше связывает Fig. 6 с параметрами модели: различает orange/blue условия cytoskeleton alignment, не путает simulated fibroblast density с experimental fraction и корректно переносит threshold/velocity evidence.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: doi:10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig. 6 and Table 1: virtual monolayers, E bond conditions, velocity vs density, percolation threshold\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше связывает Fig. 6 с параметрами модели: различает orange/blue условия cytoskeleton alignment, не путает simulated fibroblast density с experimental fraction и корректно переносит threshold/velocity evidence.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", "original_creator_prompt": "Сравните, какой вариант лучше связывает Fig. 6 с параметрами модели: различает orange/blue условия cytoskeleton alignment, не путает simulated fibroblast density с experimental fraction и корректно переносит threshold/velocity evidence.", "notes_available": true}} +{"sample_id": "task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Simulation of the differential adhesion driven rearrangement of biological cells", "paper_id": "doi:10.1103/PhysRevE.47.2128", "year": "1993", "evidence_kind": "figure_or_table", "page_hint": "Simulation snapshots and parameter tables for differential adhesion / extended Potts model", "model_task_prompt": "Извлеките из визуализаций cell sorting, какие клеточные типы перераспределяются, как differential adhesion задаёт rearrangement, и не превращает Potts-model evidence в общий текст про миграцию клеток..", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Simulation of the differential adhesion driven rearrangement of biological cells\nИдентификатор статьи: doi:10.1103/PhysRevE.47.2128\nГод: 1993\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Simulation snapshots and parameter tables for differential adhesion / extended Potts model\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из визуализаций cell sorting, какие клеточные типы перераспределяются, как differential adhesion задаёт rearrangement, и не превращает Potts-model evidence в общий текст про миграцию клеток..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Simulation of the differential adhesion driven rearrangement of biological cells\nИдентификатор статьи: doi:10.1103/PhysRevE.47.2128\nГод: 1993\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Simulation snapshots and parameter tables for differential adhesion / extended Potts model\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из визуализаций cell sorting, какие клеточные типы перераспределяются, как differential adhesion задаёт rearrangement, и не превращает Potts-model evidence в общий текст про миграцию клеток..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает из визуализаций cell sorting, какие клеточные типы перераспределяются, как differential adhesion задаёт rearrangement, и не превращает Potts-model evidence в общий текст про миграцию клеток.", "notes_available": true}} +{"sample_id": "task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "A model for human ventricular tissue", "paper_id": "doi:10.1152/ajpheart.00794.2003", "year": "2004", "evidence_kind": "formula", "page_hint": "Model equations / current definitions / AP trace and restitution-style figures", "model_task_prompt": "Сравните, какой вариант лучше восстанавливает структуру human ventricular tissue model: какие ионные токи и переменные входят в формулы, какие параметры относятся к single-cell AP, а какие — к tissue propagation, без добавления несуществующих channels.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: A model for human ventricular tissue\nИдентификатор статьи: doi:10.1152/ajpheart.00794.2003\nГод: 2004\nТип evidence: formula\nПодсказка по странице/рисунку/таблице: Model equations / current definitions / AP trace and restitution-style figures\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше восстанавливает структуру human ventricular tissue model: какие ионные токи и переменные входят в формулы, какие параметры относятся к single-cell AP, а какие — к tissue propagation, без добавления несуществующих channels.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: A model for human ventricular tissue\nИдентификатор статьи: doi:10.1152/ajpheart.00794.2003\nГод: 2004\nТип evidence: formula\nПодсказка по странице/рисунку/таблице: Model equations / current definitions / AP trace and restitution-style figures\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше восстанавливает структуру human ventricular tissue model: какие ионные токи и переменные входят в формулы, какие параметры относятся к single-cell AP, а какие — к tissue propagation, без добавления несуществующих channels.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", "original_creator_prompt": "Сравните, какой вариант лучше восстанавливает структуру human ventricular tissue model: какие ионные токи и переменные входят в формулы, какие параметры относятся к single-cell AP, а какие — к tissue propagation, без добавления несуществующих channels.", "notes_available": true}} +{"sample_id": "task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Optical Imaging of the Heart", "paper_id": "doi:10.1161/01.RES.0000130529.18016.35", "year": "2004", "evidence_kind": "mixed", "page_hint": "Review figures/tables on optical mapping, voltage-sensitive dyes, activation and repolarization maps", "model_task_prompt": "Сравните, какой вариант лучше переносит из схем и таблиц optical imaging pipeline: что именно измеряется оптическим сигналом, где activation map отличается от repolarization map, и какие ограничения относятся к dye/motion artifact, а не к electrophysiology как таковой.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Optical Imaging of the Heart\nИдентификатор статьи: doi:10.1161/01.RES.0000130529.18016.35\nГод: 2004\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: Review figures/tables on optical mapping, voltage-sensitive dyes, activation and repolarization maps\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше переносит из схем и таблиц optical imaging pipeline: что именно измеряется оптическим сигналом, где activation map отличается от repolarization map, и какие ограничения относятся к dye/motion artifact, а не к electrophysiology как таковой.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Optical Imaging of the Heart\nИдентификатор статьи: doi:10.1161/01.RES.0000130529.18016.35\nГод: 2004\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: Review figures/tables on optical mapping, voltage-sensitive dyes, activation and repolarization maps\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше переносит из схем и таблиц optical imaging pipeline: что именно измеряется оптическим сигналом, где activation map отличается от repolarization map, и какие ограничения относятся к dye/motion artifact, а не к electrophysiology как таковой.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", "original_creator_prompt": "Сравните, какой вариант лучше переносит из схем и таблиц optical imaging pipeline: что именно измеряется оптическим сигналом, где activation map отличается от repolarization map, и какие ограничения относятся к dye/motion artifact, а не к electrophysiology как таковой.", "notes_available": true}} +{"sample_id": "task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "case_id": "CASE-006", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Modeling the functional heterogeneity and conditions for the occurrence of microreentry in procedurally created atrial fibrous tissue", "paper_id": "doi:10.1063/5.0151624", "year": "2023", "evidence_kind": "figure_or_table", "page_hint": "Figures/tables with procedurally created atrial fibrous tissue, heterogeneity settings and microreentry conditions", "model_task_prompt": "Извлеките из схем и карт модели, при каких параметрах fibrous tissue возникает microreentry: геометрия, conduction heterogeneity, obstacle/fibrosis pattern и условия устойчивого reentry не должны смешиваться в один общий фактор..", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Modeling the functional heterogeneity and conditions for the occurrence of microreentry in procedurally created atrial fibrous tissue\nИдентификатор статьи: doi:10.1063/5.0151624\nГод: 2023\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Figures/tables with procedurally created atrial fibrous tissue, heterogeneity settings and microreentry conditions\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из схем и карт модели, при каких параметрах fibrous tissue возникает microreentry: геометрия, conduction heterogeneity, obstacle/fibrosis pattern и условия устойчивого reentry не должны смешиваться в один общий фактор..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Modeling the functional heterogeneity and conditions for the occurrence of microreentry in procedurally created atrial fibrous tissue\nИдентификатор статьи: doi:10.1063/5.0151624\nГод: 2023\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Figures/tables with procedurally created atrial fibrous tissue, heterogeneity settings and microreentry conditions\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из схем и карт модели, при каких параметрах fibrous tissue возникает microreentry: геометрия, conduction heterogeneity, obstacle/fibrosis pattern и условия устойчивого reentry не должны смешиваться в один общий фактор..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает из схем и карт модели, при каких параметрах fibrous tissue возникает microreentry: геометрия, conduction heterogeneity, obstacle/fibrosis pattern и условия устойчивого reentry не должны смешиваться в один общий фактор.", "notes_available": true}} +{"sample_id": "task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "case_id": "CASE-007", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models", "paper_id": "doi:10.1007/s12012-025-09987-1", "year": "2025", "evidence_kind": "mixed", "page_hint": "Workflow figures/tables linking hiPSC-CM readouts, 2D in silico model outputs and toxicity endpoints", "model_task_prompt": "Сравните, какой вариант лучше связывает workflow evidence: какие данные приходят из hiPSC-derived cardiomyocytes, какие — из 2D in silico model, и где именно формируется вывод о cardiovascular toxicity / proarrhythmic risk.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models\nИдентификатор статьи: doi:10.1007/s12012-025-09987-1\nГод: 2025\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: Workflow figures/tables linking hiPSC-CM readouts, 2D in silico model outputs and toxicity endpoints\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше связывает workflow evidence: какие данные приходят из hiPSC-derived cardiomyocytes, какие — из 2D in silico model, и где именно формируется вывод о cardiovascular toxicity / proarrhythmic risk.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models\nИдентификатор статьи: doi:10.1007/s12012-025-09987-1\nГод: 2025\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: Workflow figures/tables linking hiPSC-CM readouts, 2D in silico model outputs and toxicity endpoints\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше связывает workflow evidence: какие данные приходят из hiPSC-derived cardiomyocytes, какие — из 2D in silico model, и где именно формируется вывод о cardiovascular toxicity / proarrhythmic risk.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", "original_creator_prompt": "Сравните, какой вариант лучше связывает workflow evidence: какие данные приходят из hiPSC-derived cardiomyocytes, какие — из 2D in silico model, и где именно формируется вывод о cardiovascular toxicity / proarrhythmic risk.", "notes_available": true}} +{"sample_id": "task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "case_id": "CASE-008", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "doi:10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "figure", "page_hint": "Fig. 1a and S1 Video: activation times, repeated blocks, delayed propagation into left/right regions", "model_task_prompt": "Сравните, какой вариант лучше удерживает temporal ordering в activation map/video: от точки стимуляции волна сначала расходится, затем блокируется, после задержки идёт в left/right regions и снова фракционируется, а не описывается как статическая сеть проводимости.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: doi:10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig. 1a and S1 Video: activation times, repeated blocks, delayed propagation into left/right regions\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше удерживает temporal ordering в activation map/video: от точки стимуляции волна сначала расходится, затем блокируется, после задержки идёт в left/right regions и снова фракционируется, а не описывается как статическая сеть проводимости.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells\nИдентификатор статьи: doi:10.1371/journal.pcbi.1006597\nГод: 2019\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig. 1a and S1 Video: activation times, repeated blocks, delayed propagation into left/right regions\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше удерживает temporal ordering в activation map/video: от точки стимуляции волна сначала расходится, затем блокируется, после задержки идёт в left/right regions и снова фракционируется, а не описывается как статическая сеть проводимости.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence", "visual_fact"], "expected_error_modes": ["needs_time_fix", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", "original_creator_prompt": "Сравните, какой вариант лучше удерживает temporal ordering в activation map/video: от точки стимуляции волна сначала расходится, затем блокируется, после задержки идёт в left/right regions и снова фракционируется, а не описывается как статическая сеть проводимости.", "notes_available": true}} +{"sample_id": "task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-009", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "case_id": "CASE-009", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "A model for human ventricular tissue", "paper_id": "doi:10.1152/ajpheart.00794.2003", "year": "2004", "evidence_kind": "figure_or_table", "page_hint": "AP traces / restitution curves / time-dependent gating variables in model outputs", "model_task_prompt": "Сравните, какой вариант лучше различает быстрые изменения мембранного потенциала, динамику gating variables и более медленные изменения APD/restitution в human ventricular tissue model, не смешивая временные масштабы single-cell and tissue outputs.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: A model for human ventricular tissue\nИдентификатор статьи: doi:10.1152/ajpheart.00794.2003\nГод: 2004\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: AP traces / restitution curves / time-dependent gating variables in model outputs\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше различает быстрые изменения мембранного потенциала, динамику gating variables и более медленные изменения APD/restitution в human ventricular tissue model, не смешивая временные масштабы single-cell and tissue outputs.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: A model for human ventricular tissue\nИдентификатор статьи: doi:10.1152/ajpheart.00794.2003\nГод: 2004\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: AP traces / restitution curves / time-dependent gating variables in model outputs\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше различает быстрые изменения мембранного потенциала, динамику gating variables и более медленные изменения APD/restitution в human ventricular tissue model, не смешивая временные масштабы single-cell and tissue outputs.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", "original_creator_prompt": "Сравните, какой вариант лучше различает быстрые изменения мембранного потенциала, динамику gating variables и более медленные изменения APD/restitution в human ventricular tissue model, не смешивая временные масштабы single-cell and tissue outputs.", "notes_available": true}} +{"sample_id": "task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-010", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "case_id": "CASE-010", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models", "paper_id": "doi:10.1007/s12012-025-09987-1", "year": "2025", "evidence_kind": "mixed", "page_hint": "Drug exposure / screening workflow / model-output sequence across experimental and in silico layers", "model_task_prompt": "Сравните, какой вариант лучше удерживает порядок: сначала experimental hiPSC-CM readouts, затем parameter/model integration, затем 2D tissue-level prediction and toxicity interpretation; ответ не должен превращать pipeline в один одномоментный вывод.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models\nИдентификатор статьи: doi:10.1007/s12012-025-09987-1\nГод: 2025\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: Drug exposure / screening workflow / model-output sequence across experimental and in silico layers\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше удерживает порядок: сначала experimental hiPSC-CM readouts, затем parameter/model integration, затем 2D tissue-level prediction and toxicity interpretation; ответ не должен превращать pipeline в один одномоментный вывод.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models\nИдентификатор статьи: doi:10.1007/s12012-025-09987-1\nГод: 2025\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: Drug exposure / screening workflow / model-output sequence across experimental and in silico layers\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше удерживает порядок: сначала experimental hiPSC-CM readouts, затем parameter/model integration, затем 2D tissue-level prediction and toxicity interpretation; ответ не должен превращать pipeline в один одномоментный вывод.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", "original_creator_prompt": "Сравните, какой вариант лучше удерживает порядок: сначала experimental hiPSC-CM readouts, затем parameter/model integration, затем 2D tissue-level prediction and toxicity interpretation; ответ не должен превращать pipeline в один одномоментный вывод.", "notes_available": true}} +{"sample_id": "task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "case_id": "CASE-011", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "Basic Mechanisms of Cardiac Impulse Propagation and Associated Arrhythmias", "paper_id": "doi:10.1152/physrev.00025.2003", "year": "2004", "evidence_kind": "page", "page_hint": "Abstract / introduction-level review summary", "model_task_prompt": "Сравните, какой вариант точнее передаёт общий тезис обзора: как generation and propagation of cardiac action potentials связаны с arrhythmia mechanisms, без необходимости извлекать сложные значения из figure/table.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Basic Mechanisms of Cardiac Impulse Propagation and Associated Arrhythmias\nИдентификатор статьи: doi:10.1152/physrev.00025.2003\nГод: 2004\nТип evidence: page\nПодсказка по странице/рисунку/таблице: Abstract / introduction-level review summary\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант точнее передаёт общий тезис обзора: как generation and propagation of cardiac action potentials связаны с arrhythmia mechanisms, без необходимости извлекать сложные значения из figure/table.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Basic Mechanisms of Cardiac Impulse Propagation and Associated Arrhythmias\nИдентификатор статьи: doi:10.1152/physrev.00025.2003\nГод: 2004\nТип evidence: page\nПодсказка по странице/рисунку/таблице: Abstract / introduction-level review summary\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант точнее передаёт общий тезис обзора: как generation and propagation of cardiac action potentials связаны с arrhythmia mechanisms, без необходимости извлекать сложные значения из figure/table.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", "original_creator_prompt": "Сравните, какой вариант точнее передаёт общий тезис обзора: как generation and propagation of cardiac action potentials связаны с arrhythmia mechanisms, без необходимости извлекать сложные значения из figure/table.", "notes_available": true}} +{"sample_id": "task3:semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "case_id": "CASE-012", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "Optical Imaging of the Heart", "paper_id": "doi:10.1161/01.RES.0000130529.18016.35", "year": "2004", "evidence_kind": "page", "page_hint": "Abstract / review overview of optical techniques in cardiac electrophysiology", "model_task_prompt": "Сравните, какой вариант лучше формулирует основную роль optical imaging in cardiac electrophysiology: какие вопросы оно помогает изучать и почему это не просто обычная видеозапись сердца.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Optical Imaging of the Heart\nИдентификатор статьи: doi:10.1161/01.RES.0000130529.18016.35\nГод: 2004\nТип evidence: page\nПодсказка по странице/рисунку/таблице: Abstract / review overview of optical techniques in cardiac electrophysiology\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант лучше формулирует основную роль optical imaging in cardiac electrophysiology: какие вопросы оно помогает изучать и почему это не просто обычная видеозапись сердца.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models\nСтатья: Optical Imaging of the Heart\nИдентификатор статьи: doi:10.1161/01.RES.0000130529.18016.35\nГод: 2004\nТип evidence: page\nПодсказка по странице/рисунку/таблице: Abstract / review overview of optical techniques in cardiac electrophysiology\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант лучше формулирует основную роль optical imaging in cardiac electrophysiology: какие вопросы оно помогает изучать и почему это не просто обычная видеозапись сердца.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", "original_creator_prompt": "Сравните, какой вариант лучше формулирует основную роль optical imaging in cardiac electrophysiology: какие вопросы оно помогает изучать и почему это не просто обычная видеозапись сердца.", "notes_available": true}} +{"sample_id": "task3:64495d27da:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Spectral effects in different electrodynamic systems", "submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Nonlinear exceptional-point lasing with ab initio Maxwell– Bloch theory", "paper_id": "doi: 10.1063/5.0105963", "year": "2022", "evidence_kind": "figure", "page_hint": "p.2, Fig.1", "model_task_prompt": "Извлеките отношение накачек D1 к D2, для которого наблюдаются особые точки.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Nonlinear exceptional-point lasing with ab initio Maxwell– Bloch theory\nИдентификатор статьи: doi: 10.1063/5.0105963\nГод: 2022\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките отношение накачек D1 к D2, для которого наблюдаются особые точки.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Nonlinear exceptional-point lasing with ab initio Maxwell– Bloch theory\nИдентификатор статьи: doi: 10.1063/5.0105963\nГод: 2022\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките отношение накачек D1 к D2, для которого наблюдаются особые точки.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0005_vysokikh_dmitrii_konstantinovich__task3_ab_case_manifest.filled - Дмитрий Высоких.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает отношение накачек D1 к D2, для которого наблюдаются особые точки", "notes_available": false}} +{"sample_id": "task3:64495d27da:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Spectral effects in different electrodynamic systems", "submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Observation of trapped light within the radiation continu-um", "paper_id": "doi: 10.1038/nature12289", "year": "2013", "evidence_kind": "figure", "page_hint": "p.3, Fig.3", "model_task_prompt": "Извлеките из рисунка 3 и подписи к нему значения угла и длины волны, соответствующие связанному состоянию в континууме (ССК).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Observation of trapped light within the radiation continu-um\nИдентификатор статьи: doi: 10.1038/nature12289\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 3 и подписи к нему значения угла и длины волны, соответствующие связанному состоянию в континууме (ССК).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Observation of trapped light within the radiation continu-um\nИдентификатор статьи: doi: 10.1038/nature12289\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 3 и подписи к нему значения угла и длины волны, соответствующие связанному состоянию в континууме (ССК).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact", "evidence"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0005_vysokikh_dmitrii_konstantinovich__task3_ab_case_manifest.filled - Дмитрий Высоких.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 3 и подписи к нему значения угла и длины волны, соответствующие связанному состоянию в континууме (ССК)", "notes_available": false}} +{"sample_id": "task3:64495d27da:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Spectral effects in different electrodynamic systems", "submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Reversing the pump depend-ence of a laser at an excep-tional point", "paper_id": "doi: 10.1038/ncomms5034", "year": "2014", "evidence_kind": "figure", "page_hint": "p.4, Fig.2c", "model_task_prompt": "Извлеките из рисунка 2c и подписи к нему диапазон значений поля, в котором зависимость интенсивности генерации от поля накачки инвертирована.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Reversing the pump depend-ence of a laser at an excep-tional point\nИдентификатор статьи: doi: 10.1038/ncomms5034\nГод: 2014\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.4, Fig.2c\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 2c и подписи к нему диапазон значений поля, в котором зависимость интенсивности генерации от поля накачки инвертирована.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Reversing the pump depend-ence of a laser at an excep-tional point\nИдентификатор статьи: doi: 10.1038/ncomms5034\nГод: 2014\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.4, Fig.2c\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 2c и подписи к нему диапазон значений поля, в котором зависимость интенсивности генерации от поля накачки инвертирована.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0005_vysokikh_dmitrii_konstantinovich__task3_ab_case_manifest.filled - Дмитрий Высоких.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 2c и подписи к нему диапазон значений поля, в котором зависимость интенсивности генерации от поля накачки инвертирована", "notes_available": false}} +{"sample_id": "task3:64495d27da:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Spectral effects in different electrodynamic systems", "submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Ultrasensitive optical absorp-tion in graphene based on bound states in the continu-um", "paper_id": "doi: 10.1038/srep08266", "year": "2015", "evidence_kind": "figure", "page_hint": "p.2, Fig.1", "model_task_prompt": "Извлеките из рисунка 1 значения длины волны и волнового вектора (kx), при которых наблюдаются связанные состояния в континууме.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Ultrasensitive optical absorp-tion in graphene based on bound states in the continu-um\nИдентификатор статьи: doi: 10.1038/srep08266\nГод: 2015\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 1 значения длины волны и волнового вектора (kx), при которых наблюдаются связанные состояния в континууме.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Ultrasensitive optical absorp-tion in graphene based on bound states in the continu-um\nИдентификатор статьи: doi: 10.1038/srep08266\nГод: 2015\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 1 значения длины волны и волнового вектора (kx), при которых наблюдаются связанные состояния в континууме.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0005_vysokikh_dmitrii_konstantinovich__task3_ab_case_manifest.filled - Дмитрий Высоких.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 1 значения длины волны и волнового вектора (kx), при которых наблюдаются связанные состояния в континууме", "notes_available": false}} +{"sample_id": "task3:64495d27da:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Spectral effects in different electrodynamic systems", "submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Optical hydrogen sensing with high‑Q guided‑mode resonance of ­Al2O3/WO3/Pd nanostructure", "paper_id": "doi: 10.1038/s41598-023-28204-z", "year": "2023", "evidence_kind": "figure", "page_hint": "p.3, Fig.1", "model_task_prompt": "Извлеките из рисунка 1 геометрические параметры структуры и материалы, из которых она состоит.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Optical hydrogen sensing with high‑Q guided‑mode resonance of ­Al2O3/WO3/Pd nanostructure\nИдентификатор статьи: doi: 10.1038/s41598-023-28204-z\nГод: 2023\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 1 геометрические параметры структуры и материалы, из которых она состоит.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Optical hydrogen sensing with high‑Q guided‑mode resonance of ­Al2O3/WO3/Pd nanostructure\nИдентификатор статьи: doi: 10.1038/s41598-023-28204-z\nГод: 2023\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 1 геометрические параметры структуры и материалы, из которых она состоит.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0005_vysokikh_dmitrii_konstantinovich__task3_ab_case_manifest.filled - Дмитрий Высоких.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 1 геометрические параметры структуры и материалы, из которых она состоит", "notes_available": false}} +{"sample_id": "task3:64495d27da:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Spectral effects in different electrodynamic systems", "submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "case_id": "CASE-006", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Optical hydrogen sensing with high‑Q guided‑mode resonance of Al2O3/WO3/Pd nanostructure", "paper_id": "doi: 10.1038/s41598-023-28204-z", "year": "2023", "evidence_kind": "figure", "page_hint": "p.5, Fig.4", "model_task_prompt": "Извлеките моменты времени (в минутах), в которые подаётся водород в различной концентрации (0, 100, 1000 ppm, ...).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Optical hydrogen sensing with high‑Q guided‑mode resonance of Al2O3/WO3/Pd nanostructure\nИдентификатор статьи: doi: 10.1038/s41598-023-28204-z\nГод: 2023\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.5, Fig.4\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nИзвлеките моменты времени (в минутах), в которые подаётся водород в различной концентрации (0, 100, 1000 ppm, ...).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Optical hydrogen sensing with high‑Q guided‑mode resonance of Al2O3/WO3/Pd nanostructure\nИдентификатор статьи: doi: 10.1038/s41598-023-28204-z\nГод: 2023\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.5, Fig.4\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nИзвлеките моменты времени (в минутах), в которые подаётся водород в различной концентрации (0, 100, 1000 ppm, ...).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence", "visual_fact"], "expected_error_modes": ["needs_time_fix", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0005_vysokikh_dmitrii_konstantinovich__task3_ab_case_manifest.filled - Дмитрий Высоких.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает моменты времени (в минутах), в которые подаётся водород в различной концентрации (0, 100, 1000 ppm, ...)", "notes_available": false}} +{"sample_id": "task3:64495d27da:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Spectral effects in different electrodynamic systems", "submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "case_id": "CASE-007", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Nonlinear exceptional-point lasing with ab initio Maxwell– Bloch theory", "paper_id": "doi: 10.1063/5.0105963", "year": "2022", "evidence_kind": "figure", "page_hint": "p.2, Fig.1", "model_task_prompt": "Извлеките из рисунка 1 отношение накачек D1/D2, при котором наблюдается фазовый переход между PT-симметричным и PT-несимметричным состояниями.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Nonlinear exceptional-point lasing with ab initio Maxwell– Bloch theory\nИдентификатор статьи: doi: 10.1063/5.0105963\nГод: 2022\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 1 отношение накачек D1/D2, при котором наблюдается фазовый переход между PT-симметричным и PT-несимметричным состояниями.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Nonlinear exceptional-point lasing with ab initio Maxwell– Bloch theory\nИдентификатор статьи: doi: 10.1063/5.0105963\nГод: 2022\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 1 отношение накачек D1/D2, при котором наблюдается фазовый переход между PT-симметричным и PT-несимметричным состояниями.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence", "visual_fact"], "expected_error_modes": ["needs_time_fix", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0005_vysokikh_dmitrii_konstantinovich__task3_ab_case_manifest.filled - Дмитрий Высоких.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 1 отношение накачек D1/D2, при котором наблюдается фазовый переход между PT-симметричным и PT-несимметричным состояниями", "notes_available": false}} +{"sample_id": "task3:64495d27da:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Spectral effects in different electrodynamic systems", "submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "case_id": "CASE-008", "stratum": "easy_control", "primary_endpoint": true, "paper_title": "Bloch surface eigenstates within the radiation continuum", "paper_id": "doi: 10.1038/lsa.2013.40", "year": "2013", "evidence_kind": "mixed", "page_hint": "p.2, Fig.1", "model_task_prompt": "Опишите структуру, в которой авторы предлагают наблюдать связанное состояние в континууме.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Bloch surface eigenstates within the radiation continuum\nИдентификатор статьи: doi: 10.1038/lsa.2013.40\nГод: 2013\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: easy_control\n\nАдаптированная задача:\nОпишите структуру, в которой авторы предлагают наблюдать связанное состояние в континууме.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Spectral effects in different electrodynamic systems\nСтатья: Bloch surface eigenstates within the radiation continuum\nИдентификатор статьи: doi: 10.1038/lsa.2013.40\nГод: 2013\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: easy_control\n\nАдаптированная задача:\nОпишите структуру, в которой авторы предлагают наблюдать связанное состояние в континууме.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence"], "expected_error_modes": ["wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0005_vysokikh_dmitrii_konstantinovich__task3_ab_case_manifest.filled - Дмитрий Высоких.json", "original_creator_prompt": "Сравнить, какой вариант точнее описывает структуру, в которой авторы предлагают наблюдать связанное состояние в континууме", "notes_available": false}} +{"sample_id": "task3:dosi_onur_task3:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "figure", "page_hint": "p.2, Fig.1", "model_task_prompt": "Сравните, какой вариант точнее отражает различие в уровне Fusobacterium между adenoma cases и control на Figure 1, включая направление и относительную величину различия.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее отражает различие в уровне Fusobacterium между adenoma cases и control на Figure 1, включая направление и относительную величину различия.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее отражает различие в уровне Fusobacterium между adenoma cases и control на Figure 1, включая направление и относительную величину различия.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", "original_creator_prompt": "Сравните, какой вариант точнее отражает различие в уровне Fusobacterium между adenoma cases и control на Figure 1, включая направление и относительную величину различия.", "notes_available": false}} +{"sample_id": "task3:dosi_onur_task3:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "table", "page_hint": "p.2, Table 2", "model_task_prompt": "Сравните, какой вариант точнее извлекает зависимость риска аденом от уровня Fusobacterium (tertiles) в Table 2, включая корректное указание odds ratio для высокой группы.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.2, Table 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает зависимость риска аденом от уровня Fusobacterium (tertiles) в Table 2, включая корректное указание odds ratio для высокой группы.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.2, Table 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает зависимость риска аденом от уровня Fusobacterium (tertiles) в Table 2, включая корректное указание odds ratio для высокой группы.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", "original_creator_prompt": "Сравните, какой вариант точнее извлекает зависимость риска аденом от уровня Fusobacterium (tertiles) в Table 2, включая корректное указание odds ratio для высокой группы.", "notes_available": false}} +{"sample_id": "task3:dosi_onur_task3:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "figure", "page_hint": "p.4, Fig.3", "model_task_prompt": "Сравните, какой вариант точнее отражает связь между уровнем Fusobacterium и экспрессией цитокинов (например, IL-10 и TNF-α) на Figure 3, включая направление корреляции.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.4, Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее отражает связь между уровнем Fusobacterium и экспрессией цитокинов (например, IL-10 и TNF-α) на Figure 3, включая направление корреляции.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.4, Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее отражает связь между уровнем Fusobacterium и экспрессией цитокинов (например, IL-10 и TNF-α) на Figure 3, включая направление корреляции.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", "original_creator_prompt": "Сравните, какой вариант точнее отражает связь между уровнем Fusobacterium и экспрессией цитокинов (например, IL-10 и TNF-α) на Figure 3, включая направление корреляции.", "notes_available": false}} +{"sample_id": "task3:dosi_onur_task3:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "figure", "page_hint": "p.4, Fig.4", "model_task_prompt": "Сравните, какой вариант точнее отражает различие уровня Fusobacterium между нормальной и опухолевой тканью по всем пациентам на Figure 4.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.4, Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее отражает различие уровня Fusobacterium между нормальной и опухолевой тканью по всем пациентам на Figure 4.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.4, Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее отражает различие уровня Fusobacterium между нормальной и опухолевой тканью по всем пациентам на Figure 4.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", "original_creator_prompt": "Сравните, какой вариант точнее отражает различие уровня Fusobacterium между нормальной и опухолевой тканью по всем пациентам на Figure 4.", "notes_available": false}} +{"sample_id": "task3:dosi_onur_task3:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "figure", "page_hint": "p.3, Fig.2", "model_task_prompt": "Сравните, какой вариант точнее описывает локализацию Fusobacterium в тканях (например, в mucus layer и colonic crypts) на Figure 2.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее описывает локализацию Fusobacterium в тканях (например, в mucus layer и colonic crypts) на Figure 2.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее описывает локализацию Fusobacterium в тканях (например, в mucus layer и colonic crypts) на Figure 2.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", "original_creator_prompt": "Сравните, какой вариант точнее описывает локализацию Fusobacterium в тканях (например, в mucus layer и colonic crypts) на Figure 2.", "notes_available": false}} +{"sample_id": "task3:dosi_onur_task3:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "case_id": "CASE-006", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "figure_or_table", "page_hint": "p.2, Fig.1; Table 2", "model_task_prompt": "Сравните, какой вариант лучше объединяет данные из Figure 1 и Table 2, связывая уровень Fusobacterium с риском аденом.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.2, Fig.1; Table 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше объединяет данные из Figure 1 и Table 2, связывая уровень Fusobacterium с риском аденом.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.2, Fig.1; Table 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше объединяет данные из Figure 1 и Table 2, связывая уровень Fusobacterium с риском аденом.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact", "overall"], "expected_error_modes": ["wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", "original_creator_prompt": "Сравните, какой вариант лучше объединяет данные из Figure 1 и Table 2, связывая уровень Fusobacterium с риском аденом.", "notes_available": false}} +{"sample_id": "task3:dosi_onur_task3:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "case_id": "CASE-007", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Fusobacterium nucleatum Promotes Colorectal Carcinogenesis by Modulating E-Cadherin/β-Catenin Signaling via its FadA Adhesin", "paper_id": "doi:10.1016/j.chom.2013.07.012", "year": "2013", "evidence_kind": "figure", "page_hint": "p.15, Fig.2", "model_task_prompt": "Сравните, какой вариант точнее отражает экспериментальное доказательство связывания FadA с E-cadherin на Figure 2.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium nucleatum Promotes Colorectal Carcinogenesis by Modulating E-Cadherin/β-Catenin Signaling via its FadA Adhesin\nИдентификатор статьи: doi:10.1016/j.chom.2013.07.012\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.15, Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее отражает экспериментальное доказательство связывания FadA с E-cadherin на Figure 2.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium nucleatum Promotes Colorectal Carcinogenesis by Modulating E-Cadherin/β-Catenin Signaling via its FadA Adhesin\nИдентификатор статьи: doi:10.1016/j.chom.2013.07.012\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.15, Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее отражает экспериментальное доказательство связывания FadA с E-cadherin на Figure 2.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact", "overall"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", "original_creator_prompt": "Сравните, какой вариант точнее отражает экспериментальное доказательство связывания FadA с E-cadherin на Figure 2.", "notes_available": false}} +{"sample_id": "task3:dosi_onur_task3:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "case_id": "CASE-008", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "figure_or_table", "page_hint": "p.2–4, Fig.1; Table 2; Fig.4", "model_task_prompt": "Сравните, какой вариант лучше отражает роль Fusobacterium на разных стадиях заболевания (от аденомы к более поздним стадиям), сохраняя временную логику.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.2–4, Fig.1; Table 2; Fig.4\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше отражает роль Fusobacterium на разных стадиях заболевания (от аденомы к более поздним стадиям), сохраняя временную логику.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.2–4, Fig.1; Table 2; Fig.4\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше отражает роль Fusobacterium на разных стадиях заболевания (от аденомы к более поздним стадиям), сохраняя временную логику.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", "original_creator_prompt": "Сравните, какой вариант лучше отражает роль Fusobacterium на разных стадиях заболевания (от аденомы к более поздним стадиям), сохраняя временную логику.", "notes_available": false}} +{"sample_id": "task3:dosi_onur_task3:case-009", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "case_id": "CASE-009", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Fusobacterium nucleatum Potentiates Intestinal Tumorigenesis and Modulates the Tumor-Immune Microenvironment", "paper_id": "doi:10.1016/j.chom.2013.07.007", "year": "2013", "evidence_kind": "figure", "page_hint": "p.3, Fig.2", "model_task_prompt": "Сравните, какой вариант точнее отражает изменение числа опухолей и других показателей после воздействия Fusobacterium nucleatum в эксперименте на мышах (Figure 2).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium nucleatum Potentiates Intestinal Tumorigenesis and Modulates the Tumor-Immune Microenvironment\nИдентификатор статьи: doi:10.1016/j.chom.2013.07.007\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее отражает изменение числа опухолей и других показателей после воздействия Fusobacterium nucleatum в эксперименте на мышах (Figure 2).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium nucleatum Potentiates Intestinal Tumorigenesis and Modulates the Tumor-Immune Microenvironment\nИдентификатор статьи: doi:10.1016/j.chom.2013.07.007\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее отражает изменение числа опухолей и других показателей после воздействия Fusobacterium nucleatum в эксперименте на мышах (Figure 2).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", "original_creator_prompt": "Сравните, какой вариант точнее отражает изменение числа опухолей и других показателей после воздействия Fusobacterium nucleatum в эксперименте на мышах (Figure 2).", "notes_available": false}} +{"sample_id": "task3:dosi_onur_task3:case-010", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "case_id": "CASE-010", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Fusobacterium nucleatum Potentiates Intestinal Tumorigenesis and Modulates the Tumor-Immune Microenvironment", "paper_id": "doi:10.1016/j.chom.2013.07.007", "year": "2013", "evidence_kind": "figure", "page_hint": "p.3, Fig.2", "model_task_prompt": "Сравните, какой вариант точнее отражает изменения в иммунной среде после воздействия Fusobacterium nucleatum, включая гистологические и воспалительные показатели (Figure 2).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium nucleatum Potentiates Intestinal Tumorigenesis and Modulates the Tumor-Immune Microenvironment\nИдентификатор статьи: doi:10.1016/j.chom.2013.07.007\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее отражает изменения в иммунной среде после воздействия Fusobacterium nucleatum, включая гистологические и воспалительные показатели (Figure 2).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium nucleatum Potentiates Intestinal Tumorigenesis and Modulates the Tumor-Immune Microenvironment\nИдентификатор статьи: doi:10.1016/j.chom.2013.07.007\nГод: 2013\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее отражает изменения в иммунной среде после воздействия Fusobacterium nucleatum, включая гистологические и воспалительные показатели (Figure 2).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence", "overall"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", "original_creator_prompt": "Сравните, какой вариант точнее отражает изменения в иммунной среде после воздействия Fusobacterium nucleatum, включая гистологические и воспалительные показатели (Figure 2).", "notes_available": false}} +{"sample_id": "task3:dosi_onur_task3:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "case_id": "CASE-011", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "page", "page_hint": "p.1", "model_task_prompt": "Сравните, какой вариант точнее формулирует основную идею статьи о связи Fusobacterium с колоректальными аденомами.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.1\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант точнее формулирует основную идею статьи о связи Fusobacterium с колоректальными аденомами.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium Is Associated with Colorectal Adenomas\nИдентификатор статьи: doi:10.1371/journal.pone.0053653\nГод: 2013\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.1\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант точнее формулирует основную идею статьи о связи Fusobacterium с колоректальными аденомами.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", "original_creator_prompt": "Сравните, какой вариант точнее формулирует основную идею статьи о связи Fusobacterium с колоректальными аденомами.", "notes_available": false}} +{"sample_id": "task3:dosi_onur_task3:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "case_id": "CASE-012", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "Fusobacterium nucleatum Promotes Colorectal Carcinogenesis by Modulating E-Cadherin/β-Catenin Signaling via its FadA Adhesin", "paper_id": "doi:10.1016/j.chom.2013.07.012", "year": "2013", "evidence_kind": "page", "page_hint": "p.2–5", "model_task_prompt": "Сравните, какой вариант точнее описывает роль FadA в механизме действия Fusobacterium nucleatum.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium nucleatum Promotes Colorectal Carcinogenesis by Modulating E-Cadherin/β-Catenin Signaling via its FadA Adhesin\nИдентификатор статьи: doi:10.1016/j.chom.2013.07.012\nГод: 2013\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.2–5\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант точнее описывает роль FadA в механизме действия Fusobacterium nucleatum.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression\nСтатья: Fusobacterium nucleatum Promotes Colorectal Carcinogenesis by Modulating E-Cadherin/β-Catenin Signaling via its FadA Adhesin\nИдентификатор статьи: doi:10.1016/j.chom.2013.07.012\nГод: 2013\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.2–5\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант точнее описывает роль FadA в механизме действия Fusobacterium nucleatum.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": ["wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", "original_creator_prompt": "Сравните, какой вариант точнее описывает роль FadA в механизме действия Fusobacterium nucleatum.", "notes_available": false}} +{"sample_id": "task3:ebb8391305:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ионосфера Земли и проект «Ионозонд»", "submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": false, "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.9, Fig.5", "model_task_prompt": "Сравните, какой вариант точнее считывает порядок значений электронной концентрации (ось X) для слоя F2 в дневное время, учитывая логарифмический масштаб оси.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.9, Fig.5\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее считывает порядок значений электронной концентрации (ось X) для слоя F2 в дневное время, учитывая логарифмический масштаб оси.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.9, Fig.5\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее считывает порядок значений электронной концентрации (ось X) для слоя F2 в дневное время, учитывая логарифмический масштаб оси.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", "original_creator_prompt": "Сравните, какой вариант точнее считывает порядок значений электронной концентрации (ось X) для слоя F2 в дневное время, учитывая логарифмический масштаб оси.", "notes_available": true}} +{"sample_id": "task3:ebb8391305:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ионосфера Земли и проект «Ионозонд»", "submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": false, "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.21, Fig.14", "model_task_prompt": "Проверьте, какой вариант точно извлекает численное значение критической частоты foF2 (5.35 МГц) из мелкого текста, наложенного на плотную цветную ионограмму.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.21, Fig.14\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nПроверьте, какой вариант точно извлекает численное значение критической частоты foF2 (5.35 МГц) из мелкого текста, наложенного на плотную цветную ионограмму.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.21, Fig.14\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nПроверьте, какой вариант точно извлекает численное значение критической частоты foF2 (5.35 МГц) из мелкого текста, наложенного на плотную цветную ионограмму.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact", "evidence"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", "original_creator_prompt": "Проверьте, какой вариант точно извлекает численное значение критической частоты foF2 (5.35 МГц) из мелкого текста, наложенного на плотную цветную ионограмму.", "notes_available": true}} +{"sample_id": "task3:ebb8391305:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ионосфера Земли и проект «Ионозонд»", "submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": false, "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.21, Fig.14", "model_task_prompt": "Оцените, какой вариант корректно различает моды радиосигнала (Z-мода, O-мода, X-мода) и связывает их с соответствующими кривыми на графике.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.21, Fig.14\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОцените, какой вариант корректно различает моды радиосигнала (Z-мода, O-мода, X-мода) и связывает их с соответствующими кривыми на графике.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.21, Fig.14\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОцените, какой вариант корректно различает моды радиосигнала (Z-мода, O-мода, X-мода) и связывает их с соответствующими кривыми на графике.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact", "evidence"], "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", "original_creator_prompt": "Оцените, какой вариант корректно различает моды радиосигнала (Z-мода, O-мода, X-мода) и связывает их с соответствующими кривыми на графике.", "notes_available": true}} +{"sample_id": "task3:ebb8391305:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ионосфера Земли и проект «Ионозонд»", "submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": false, "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.12, Fig.8", "model_task_prompt": "Сравните, какой вариант лучше понимает разницу между синими лучами (сигналы ГНСС) и красными лучами (зондирование с низкоорбитального спутника).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.12, Fig.8\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше понимает разницу между синими лучами (сигналы ГНСС) и красными лучами (зондирование с низкоорбитального спутника).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.12, Fig.8\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше понимает разницу между синими лучами (сигналы ГНСС) и красными лучами (зондирование с низкоорбитального спутника).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", "original_creator_prompt": "Сравните, какой вариант лучше понимает разницу между синими лучами (сигналы ГНСС) и красными лучами (зондирование с низкоорбитального спутника).", "notes_available": true}} +{"sample_id": "task3:ebb8391305:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ионосфера Земли и проект «Ионозонд»", "submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": false, "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.19, Fig.12", "model_task_prompt": "Проверьте, какой вариант правильно идентифицирует расположение длинных антенн ионозонда ЛАЭРТ и антенны прибора МАЯК на конструкции спутника.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.19, Fig.12\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nПроверьте, какой вариант правильно идентифицирует расположение длинных антенн ионозонда ЛАЭРТ и антенны прибора МАЯК на конструкции спутника.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.19, Fig.12\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nПроверьте, какой вариант правильно идентифицирует расположение длинных антенн ионозонда ЛАЭРТ и антенны прибора МАЯК на конструкции спутника.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", "original_creator_prompt": "Проверьте, какой вариант правильно идентифицирует расположение длинных антенн ионозонда ЛАЭРТ и антенны прибора МАЯК на конструкции спутника.", "notes_available": true}} +{"sample_id": "task3:ebb8391305:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ионосфера Земли и проект «Ионозонд»", "submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "case_id": "CASE-006", "stratum": "multimodal_hard", "primary_endpoint": false, "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.14, Fig.9", "model_task_prompt": "Сравните, какой вариант корректно извлекает пространственную информацию о том, что высокочастотная волна (High-frequency wave) направлена вверх, а низкочастотная (Low-frequency) возникает в турбулентном объеме и идет вниз.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.14, Fig.9\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант корректно извлекает пространственную информацию о том, что высокочастотная волна (High-frequency wave) направлена вверх, а низкочастотная (Low-frequency) возникает в турбулентном объеме и идет вниз.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.14, Fig.9\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант корректно извлекает пространственную информацию о том, что высокочастотная волна (High-frequency wave) направлена вверх, а низкочастотная (Low-frequency) возникает в турбулентном объеме и идет вниз.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", "original_creator_prompt": "Сравните, какой вариант корректно извлекает пространственную информацию о том, что высокочастотная волна (High-frequency wave) направлена вверх, а низкочастотная (Low-frequency) возникает в турбулентном объеме и идет вниз.", "notes_available": true}} +{"sample_id": "task3:ebb8391305:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ионосфера Земли и проект «Ионозонд»", "submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "case_id": "CASE-007", "stratum": "multimodal_hard", "primary_endpoint": false, "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.22, Fig.15", "model_task_prompt": "Оцените, какой вариант правильно понимает структуру составного рисунка: верхняя панель (А) — электрическая компонента, нижняя (Б) — магнитная.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.22, Fig.15\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОцените, какой вариант правильно понимает структуру составного рисунка: верхняя панель (А) — электрическая компонента, нижняя (Б) — магнитная.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.22, Fig.15\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОцените, какой вариант правильно понимает структуру составного рисунка: верхняя панель (А) — электрическая компонента, нижняя (Б) — магнитная.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", "original_creator_prompt": "Оцените, какой вариант правильно понимает структуру составного рисунка: верхняя панель (А) — электрическая компонента, нижняя (Б) — магнитная.", "notes_available": true}} +{"sample_id": "task3:ebb8391305:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ионосфера Земли и проект «Ионозонд»", "submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "case_id": "CASE-008", "stratum": "temporal_hard", "primary_endpoint": false, "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.9, Fig.5", "model_task_prompt": "Сравните, какой вариант лучше улавливает временную динамику (день vs ночь), в частности полное исчезновение слоя D в ночное время на графике профиля.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.9, Fig.5\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше улавливает временную динамику (день vs ночь), в частности полное исчезновение слоя D в ночное время на графике профиля.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.9, Fig.5\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше улавливает временную динамику (день vs ночь), в частности полное исчезновение слоя D в ночное время на графике профиля.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "visual_fact"], "expected_error_modes": ["needs_time_fix", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", "original_creator_prompt": "Сравните, какой вариант лучше улавливает временную динамику (день vs ночь), в частности полное исчезновение слоя D в ночное время на графике профиля.", "notes_available": true}} +{"sample_id": "task3:ebb8391305:case-009", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ионосфера Земли и проект «Ионозонд»", "submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "case_id": "CASE-009", "stratum": "temporal_hard", "primary_endpoint": false, "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.15, Fig.11", "model_task_prompt": "Проверьте, какой вариант точнее формулирует разницу в дальности распространения радиосигнала днем и ночью из-за изменения слоев ионосферы.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.15, Fig.11\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПроверьте, какой вариант точнее формулирует разницу в дальности распространения радиосигнала днем и ночью из-за изменения слоев ионосферы.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.15, Fig.11\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПроверьте, какой вариант точнее формулирует разницу в дальности распространения радиосигнала днем и ночью из-за изменения слоев ионосферы.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", "original_creator_prompt": "Проверьте, какой вариант точнее формулирует разницу в дальности распространения радиосигнала днем и ночью из-за изменения слоев ионосферы.", "notes_available": true}} +{"sample_id": "task3:ebb8391305:case-010", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ионосфера Земли и проект «Ионозонд»", "submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "case_id": "CASE-010", "stratum": "temporal_hard", "primary_endpoint": false, "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.22, Fig.15", "model_task_prompt": "Оцените, какой вариант правильно извлекает конкретный временной интервал (с начала измерений до 22:47:00), в котором наблюдаются естественные электростатические колебания.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.22, Fig.15\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОцените, какой вариант правильно извлекает конкретный временной интервал (с начала измерений до 22:47:00), в котором наблюдаются естественные электростатические колебания.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.22, Fig.15\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОцените, какой вариант правильно извлекает конкретный временной интервал (с начала измерений до 22:47:00), в котором наблюдаются естественные электростатические колебания.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "visual_fact"], "expected_error_modes": ["needs_time_fix", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", "original_creator_prompt": "Оцените, какой вариант правильно извлекает конкретный временной интервал (с начала измерений до 22:47:00), в котором наблюдаются естественные электростатические колебания.", "notes_available": true}} +{"sample_id": "task3:ebb8391305:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ионосфера Земли и проект «Ионозонд»", "submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "case_id": "CASE-011", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.12, Fig.7", "model_task_prompt": "Проверьте, какой вариант правильно описывает базовые компоненты схемы отражения радиосигнала (Земля, ионосфера, антенны).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.12, Fig.7\nСлой сложности: easy_control\n\nАдаптированная задача:\nПроверьте, какой вариант правильно описывает базовые компоненты схемы отражения радиосигнала (Земля, ионосфера, антенны).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.12, Fig.7\nСлой сложности: easy_control\n\nАдаптированная задача:\nПроверьте, какой вариант правильно описывает базовые компоненты схемы отражения радиосигнала (Земля, ионосфера, антенны).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": ["hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", "original_creator_prompt": "Проверьте, какой вариант правильно описывает базовые компоненты схемы отражения радиосигнала (Земля, ионосфера, антенны).", "notes_available": true}} +{"sample_id": "task3:ebb8391305:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ионосфера Земли и проект «Ионозонд»", "submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "case_id": "CASE-012", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.20, Fig.13", "model_task_prompt": "Сравните, какой вариант корректно определяет количество спутников (4 КА) и количество орбитальных плоскостей на схеме проекта Ионозонд.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.20, Fig.13\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант корректно определяет количество спутников (4 КА) и количество орбитальных плоскостей на схеме проекта Ионозонд.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ионосфера Земли и проект «Ионозонд»\nСтатья: ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ\nИдентификатор статьи: 10.7868/S0044394825030016\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.20, Fig.13\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант корректно определяет количество спутников (4 КА) и количество орбитальных плоскостей на схеме проекта Ионозонд.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", "original_creator_prompt": "Сравните, какой вариант корректно определяет количество спутников (4 КА) и количество орбитальных плоскостей на схеме проекта Ионозонд.", "notes_available": true}} +{"sample_id": "task3:df07798d94:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "3D reconstuction", "submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "3DGS.zip: A survey on 3D Gaussian Splatting Compression Methods", "paper_id": "arxiv:2407.09510", "year": "2024", "evidence_kind": "figure", "page_hint": "Figure 1", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из гистограммы и использует его в hypothesis support", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: 3DGS.zip: A survey on 3D Gaussian Splatting Compression Methods\nИдентификатор статьи: arxiv:2407.09510\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Figure 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из гистограммы и использует его в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: 3DGS.zip: A survey on 3D Gaussian Splatting Compression Methods\nИдентификатор статьи: arxiv:2407.09510\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Figure 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из гистограммы и использует его в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/df07798d94/case-001/rendered_page_0003.png", "assets/images/df07798d94/case-001/rendered_page_0009.png", "assets/images/df07798d94/case-001/rendered_page_0010.png", "assets/images/df07798d94/case-001/rendered_page_0012.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0008_mukhorin_matvei_dmtrievich__task3_ab_case_manifest.filled - Matvey Mukhorin.json", "original_creator_prompt": "Сравните какой вариант лучше извлекает данные из гистограммы и использует его в hypothesis support", "notes_available": false}} +{"sample_id": "task3:df07798d94:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "3D reconstuction", "submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "3DGS.zip: A survey on 3D Gaussian Splatting Compression Methods", "paper_id": "arxiv:2407.09510", "year": "2024", "evidence_kind": "figure", "page_hint": "Figure 2", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из heatmap и использует его в hypothesis support", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: 3DGS.zip: A survey on 3D Gaussian Splatting Compression Methods\nИдентификатор статьи: arxiv:2407.09510\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Figure 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из heatmap и использует его в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: 3DGS.zip: A survey on 3D Gaussian Splatting Compression Methods\nИдентификатор статьи: arxiv:2407.09510\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Figure 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из heatmap и использует его в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/df07798d94/case-002/rendered_page_0004.png", "assets/images/df07798d94/case-002/rendered_page_0025.png", "assets/images/df07798d94/case-002/rendered_page_0028.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0008_mukhorin_matvei_dmtrievich__task3_ab_case_manifest.filled - Matvey Mukhorin.json", "original_creator_prompt": "Сравните какой вариант лучше извлекает данные из heatmap и использует его в hypothesis support", "notes_available": false}} +{"sample_id": "task3:df07798d94:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "3D reconstuction", "submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Efficient Geometry-aware 3D Generative Adversarial Networks", "paper_id": "arxiv:2112.07945", "year": "2024", "evidence_kind": "table", "page_hint": "Table 1", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: Efficient Geometry-aware 3D Generative Adversarial Networks\nИдентификатор статьи: arxiv:2112.07945\nГод: 2024\nТип evidence: table\nПодсказка по странице/рисунку/таблице: Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: Efficient Geometry-aware 3D Generative Adversarial Networks\nИдентификатор статьи: arxiv:2112.07945\nГод: 2024\nТип evidence: table\nПодсказка по странице/рисунку/таблице: Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/df07798d94/case-003/rendered_page_0003.png", "assets/images/df07798d94/case-003/rendered_page_0014.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0008_mukhorin_matvei_dmtrievich__task3_ab_case_manifest.filled - Matvey Mukhorin.json", "original_creator_prompt": "Сравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support", "notes_available": false}} +{"sample_id": "task3:df07798d94:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "3D reconstuction", "submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Speedy-Splat: Fast 3D Gaussian Splatting with Sparse Pixels and Sparse Primitives", "paper_id": "arxiv:2412.00578", "year": "2024", "evidence_kind": "table", "page_hint": "Table 2", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: Speedy-Splat: Fast 3D Gaussian Splatting with Sparse Pixels and Sparse Primitives\nИдентификатор статьи: arxiv:2412.00578\nГод: 2024\nТип evidence: table\nПодсказка по странице/рисунку/таблице: Table 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: Speedy-Splat: Fast 3D Gaussian Splatting with Sparse Pixels and Sparse Primitives\nИдентификатор статьи: arxiv:2412.00578\nГод: 2024\nТип evidence: table\nПодсказка по странице/рисунку/таблице: Table 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/df07798d94/case-004/rendered_page_0007.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0008_mukhorin_matvei_dmtrievich__task3_ab_case_manifest.filled - Matvey Mukhorin.json", "original_creator_prompt": "Сравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support", "notes_available": false}} +{"sample_id": "task3:df07798d94:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "3D reconstuction", "submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES", "paper_id": "arxiv:2603.11531", "year": "2026", "evidence_kind": "figure", "page_hint": "Figure 2", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из диаграммы и использует его в hypothesis support", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES\nИдентификатор статьи: arxiv:2603.11531\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Figure 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из диаграммы и использует его в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES\nИдентификатор статьи: arxiv:2603.11531\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Figure 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из диаграммы и использует его в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/df07798d94/case-005/rendered_page_0002.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0008_mukhorin_matvei_dmtrievich__task3_ab_case_manifest.filled - Matvey Mukhorin.json", "original_creator_prompt": "Сравните какой вариант лучше извлекает данные из диаграммы и использует его в hypothesis support", "notes_available": false}} +{"sample_id": "task3:df07798d94:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "3D reconstuction", "submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "case_id": "CASE-006", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES", "paper_id": "arxiv:2603.11531", "year": "2026", "evidence_kind": "formula", "page_hint": "Figure 9", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из pie chart и использует его в hypothesis support", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES\nИдентификатор статьи: arxiv:2603.11531\nГод: 2026\nТип evidence: formula\nПодсказка по странице/рисунку/таблице: Figure 9\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из pie chart и использует его в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES\nИдентификатор статьи: arxiv:2603.11531\nГод: 2026\nТип evidence: formula\nПодсказка по странице/рисунку/таблице: Figure 9\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из pie chart и использует его в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/df07798d94/case-006/rendered_page_0018.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0008_mukhorin_matvei_dmtrievich__task3_ab_case_manifest.filled - Matvey Mukhorin.json", "original_creator_prompt": "Сравните какой вариант лучше извлекает данные из pie chart и использует его в hypothesis support", "notes_available": false}} +{"sample_id": "task3:df07798d94:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "3D reconstuction", "submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "case_id": "CASE-007", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES", "paper_id": "arxiv:2603.11531", "year": "2026", "evidence_kind": "formula", "page_hint": "formula 3", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из формулы и использует их в hypothesis support", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES\nИдентификатор статьи: arxiv:2603.11531\nГод: 2026\nТип evidence: formula\nПодсказка по странице/рисунку/таблице: formula 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из формулы и использует их в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: 3D reconstuction\nСтатья: MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES\nИдентификатор статьи: arxiv:2603.11531\nГод: 2026\nТип evidence: formula\nПодсказка по странице/рисунку/таблице: formula 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните какой вариант лучше извлекает данные из формулы и использует их в hypothesis support\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0008_mukhorin_matvei_dmtrievich__task3_ab_case_manifest.filled - Matvey Mukhorin.json", "original_creator_prompt": "Сравните какой вариант лучше извлекает данные из формулы и использует их в hypothesis support", "notes_available": false}} +{"sample_id": "task3:gorbunov-ivan-yurievich__0d769c50eb:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Superconducting quantum simulators", "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.2, Fig.1", "model_task_prompt": "Сравнить, сколько кубитов в процессоре выводят модели, исходя из иллюстрации.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравнить, сколько кубитов в процессоре выводят модели, исходя из иллюстрации.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравнить, сколько кубитов в процессоре выводят модели, исходя из иллюстрации.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-001/rendered_page_0002.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", "original_creator_prompt": "Сравнить, сколько кубитов в процессоре выводят модели, исходя из иллюстрации.", "notes_available": false}} +{"sample_id": "task3:gorbunov-ivan-yurievich__0d769c50eb:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Superconducting quantum simulators", "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.3, Fig.2", "model_task_prompt": "Сравните, какой вариант правильно сопоставляет характер изменения заселенности измеряемого кубита со значением магнитного потока через кольцо из кубитов в подграфике a.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильно сопоставляет характер изменения заселенности измеряемого кубита со значением магнитного потока через кольцо из кубитов в подграфике a.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильно сопоставляет характер изменения заселенности измеряемого кубита со значением магнитного потока через кольцо из кубитов в подграфике a.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-002/rendered_page_0003.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", "original_creator_prompt": "Сравните, какой вариант правильно сопоставляет характер изменения заселенности измеряемого кубита со значением магнитного потока через кольцо из кубитов в подграфике a.", "notes_available": false}} +{"sample_id": "task3:gorbunov-ivan-yurievich__0d769c50eb:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Superconducting quantum simulators", "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.3, Fig.2", "model_task_prompt": "Сравните, какой вариант правильно описывает изменение максимальной заселенности измеряемого кубита при увеличении числа кубитов в кольце в эксперименте по наблюдению интерференции.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильно описывает изменение максимальной заселенности измеряемого кубита при увеличении числа кубитов в кольце в эксперименте по наблюдению интерференции.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильно описывает изменение максимальной заселенности измеряемого кубита при увеличении числа кубитов в кольце в эксперименте по наблюдению интерференции.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-003/rendered_page_0003.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", "original_creator_prompt": "Сравните, какой вариант правильно описывает изменение максимальной заселенности измеряемого кубита при увеличении числа кубитов в кольце в эксперименте по наблюдению интерференции.", "notes_available": false}} +{"sample_id": "task3:gorbunov-ivan-yurievich__0d769c50eb:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Superconducting quantum simulators", "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.4, Fig.3", "model_task_prompt": "Сравните, какой вариант правильнее объясняет физическую причину идентичности интерференционных картин на Fig. 3 и корректно связывает это объяснение с одинаковой суммой фаз Пайерлса вдоль одного и того же контура.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.4, Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильнее объясняет физическую причину идентичности интерференционных картин на Fig. 3 и корректно связывает это объяснение с одинаковой суммой фаз Пайерлса вдоль одного и того же контура.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.4, Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильнее объясняет физическую причину идентичности интерференционных картин на Fig. 3 и корректно связывает это объяснение с одинаковой суммой фаз Пайерлса вдоль одного и того же контура.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-004/rendered_page_0004.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", "original_creator_prompt": "Сравните, какой вариант правильнее объясняет физическую причину идентичности интерференционных картин на Fig. 3 и корректно связывает это объяснение с одинаковой суммой фаз Пайерлса вдоль одного и того же контура.", "notes_available": false}} +{"sample_id": "task3:gorbunov-ivan-yurievich__0d769c50eb:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Superconducting quantum simulators", "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.5, Fig.4", "model_task_prompt": "Сравните, какой вариант правильно называет номера и положение кубитов в самой решетке 4х4, значение заселенности которых является наименьшим в эксперименте по осцилляциям Блоха.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.5, Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильно называет номера и положение кубитов в самой решетке 4х4, значение заселенности которых является наименьшим в эксперименте по осцилляциям Блоха.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.5, Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильно называет номера и положение кубитов в самой решетке 4х4, значение заселенности которых является наименьшим в эксперименте по осцилляциям Блоха.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-005/rendered_page_0005.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", "original_creator_prompt": "Сравните, какой вариант правильно называет номера и положение кубитов в самой решетке 4х4, значение заселенности которых является наименьшим в эксперименте по осцилляциям Блоха.", "notes_available": false}} +{"sample_id": "task3:gorbunov-ivan-yurievich__0d769c50eb:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Superconducting quantum simulators", "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "case_id": "CASE-006", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.6, Fig.5", "model_task_prompt": "Сравните, какой вариант правильно объясняет причину искривления графиков в эксперименте/симуляциях реального процессора (Actual device) по сравнению с симуляциями идеальной модели (HH model).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.6, Fig.5\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильно объясняет причину искривления графиков в эксперименте/симуляциях реального процессора (Actual device) по сравнению с симуляциями идеальной модели (HH model).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.6, Fig.5\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильно объясняет причину искривления графиков в эксперименте/симуляциях реального процессора (Actual device) по сравнению с симуляциями идеальной модели (HH model).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-006/rendered_page_0006.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", "original_creator_prompt": "Сравните, какой вариант правильно объясняет причину искривления графиков в эксперименте/симуляциях реального процессора (Actual device) по сравнению с симуляциями идеальной модели (HH model).", "notes_available": false}} +{"sample_id": "task3:gorbunov-ivan-yurievich__0d769c50eb:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Superconducting quantum simulators", "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "case_id": "CASE-007", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.6, Fig.5", "model_task_prompt": "Сравните, какой вариант правильно определяет направление начальной скорости частицы относительно направления электрического поля в эксперименте по наблюдению эффекта Холла.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.6, Fig.5\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильно определяет направление начальной скорости частицы относительно направления электрического поля в эксперименте по наблюдению эффекта Холла.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.6, Fig.5\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильно определяет направление начальной скорости частицы относительно направления электрического поля в эксперименте по наблюдению эффекта Холла.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-007/rendered_page_0006.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", "original_creator_prompt": "Сравните, какой вариант правильно определяет направление начальной скорости частицы относительно направления электрического поля в эксперименте по наблюдению эффекта Холла.", "notes_available": false}} +{"sample_id": "task3:gorbunov-ivan-yurievich__0d769c50eb:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Superconducting quantum simulators", "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "case_id": "CASE-008", "stratum": "easy_control", "primary_endpoint": true, "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "formula", "page_hint": "p.S4, p.S5, Fig.S1", "model_task_prompt": "Сравните, какой вариант правильно определяет закон сдвига основной частоты кубита при наличии параметрической модуляции его энергии.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: formula\nПодсказка по странице/рисунку/таблице: p.S4, p.S5, Fig.S1\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант правильно определяет закон сдвига основной частоты кубита при наличии параметрической модуляции его энергии.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: formula\nПодсказка по странице/рисунку/таблице: p.S4, p.S5, Fig.S1\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант правильно определяет закон сдвига основной частоты кубита при наличии параметрической модуляции его энергии.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall", "evidence"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", "original_creator_prompt": "Сравните, какой вариант правильно определяет закон сдвига основной частоты кубита при наличии параметрической модуляции его энергии.", "notes_available": false}} +{"sample_id": "task3:gorbunov-ivan-yurievich__0d769c50eb:case-009", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Superconducting quantum simulators", "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "case_id": "CASE-009", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "figure", "page_hint": "Fig. 1", "model_task_prompt": "Сравните, какой вариант правильно дает оценку размера кубита по масштабной шкале на подграфике a.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig. 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильно дает оценку размера кубита по масштабной шкале на подграфике a.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig. 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант правильно дает оценку размера кубита по масштабной шкале на подграфике a.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", "original_creator_prompt": "Сравните, какой вариант правильно дает оценку размера кубита по масштабной шкале на подграфике a.", "notes_available": false}} +{"sample_id": "task3:gorbunov-ivan-yurievich__0d769c50eb:case-010", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Superconducting quantum simulators", "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "case_id": "CASE-010", "stratum": "easy_control", "primary_endpoint": true, "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "Fig.1, p.2", "model_task_prompt": "Сравните, какой вариант правильно определяет примерное значение максимума подграфика g", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: Fig.1, p.2\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант правильно определяет примерное значение максимума подграфика g\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: Fig.1, p.2\nСлой сложности: easy_control\n\nАдаптированная задача:\nСравните, какой вариант правильно определяет примерное значение максимума подграфика g\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-010/rendered_page_0002.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall", "evidence"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", "original_creator_prompt": "Сравните, какой вариант правильно определяет примерное значение максимума подграфика g", "notes_available": false}} +{"sample_id": "task3:gorbunov-ivan-yurievich__0d769c50eb:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Superconducting quantum simulators", "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "case_id": "CASE-011", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.3, Fig.2", "model_task_prompt": "Сравнить, какой вариант правильно оценивает моменты времени наибольшей заселенности при нулевом потоке через решетку для подграфика a.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравнить, какой вариант правильно оценивает моменты времени наибольшей заселенности при нулевом потоке через решетку для подграфика a.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравнить, какой вариант правильно оценивает моменты времени наибольшей заселенности при нулевом потоке через решетку для подграфика a.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/gorbunov-ivan-yurievich__0d769c50eb/case-011/rendered_page_0003.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", "original_creator_prompt": "Сравнить, какой вариант правильно оценивает моменты времени наибольшей заселенности при нулевом потоке через решетку для подграфика a.", "notes_available": false}} +{"sample_id": "task3:gorbunov-ivan-yurievich__0d769c50eb:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Superconducting quantum simulators", "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "case_id": "CASE-012", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "figure", "page_hint": "Fig.4", "model_task_prompt": "Сравнить, какой вариант правильно оценивает моменты времени нахождения частицы в центре одномерной цепочки для графика численных симуляций блоховский осцилляций для реального девайса (Actual device)", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.4\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравнить, какой вариант правильно оценивает моменты времени нахождения частицы в центре одномерной цепочки для графика численных симуляций блоховский осцилляций для реального девайса (Actual device)\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Superconducting quantum simulators\nСтатья: Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array\nИдентификатор статьи: arXiv:2405.00873\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.4\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравнить, какой вариант правильно оценивает моменты времени нахождения частицы в центре одномерной цепочки для графика численных симуляций блоховский осцилляций для реального девайса (Actual device)\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", "original_creator_prompt": "Сравнить, какой вариант правильно оценивает моменты времени нахождения частицы в центре одномерной цепочки для графика численных симуляций блоховский осцилляций для реального девайса (Actual device)", "notes_available": false}} +{"sample_id": "task3:fred-westling__4e51465083:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.2, Fig.1", "model_task_prompt": "Сравни, как точно описаны этапы пайплайна симуляции сканирования деревьев: от генерации дерева до итогового облака точек.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни, как точно описаны этапы пайплайна симуляции сканирования деревьев: от генерации дерева до итогового облака точек.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig.1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни, как точно описаны этапы пайплайна симуляции сканирования деревьев: от генерации дерева до итогового облака точек.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/fred-westling__4e51465083/case-001/rendered_page_0002.png", "assets/images/fred-westling__4e51465083/case-001/rendered_page_0006.png", "assets/images/fred-westling__4e51465083/case-001/rendered_page_0007.png", "assets/images/fred-westling__4e51465083/case-001/rendered_page_0008.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", "original_creator_prompt": "Сравни, как точно описаны этапы пайплайна симуляции сканирования деревьев: от генерации дерева до итогового облака точек.", "notes_available": false}} +{"sample_id": "task3:fred-westling__4e51465083:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.3, Fig.2", "model_task_prompt": "Сравни, какой вариант верно определяет параметры дерева в интерфейсе Arbaro (уровни ветвления, углы, длина).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни, какой вариант верно определяет параметры дерева в интерфейсе Arbaro (уровни ветвления, углы, длина).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни, какой вариант верно определяет параметры дерева в интерфейсе Arbaro (уровни ветвления, углы, длина).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/fred-westling__4e51465083/case-002/rendered_page_0003.png", "assets/images/fred-westling__4e51465083/case-002/rendered_page_0002.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", "original_creator_prompt": "Сравни, какой вариант верно определяет параметры дерева в интерфейсе Arbaro (уровни ветвления, углы, длина).", "notes_available": false}} +{"sample_id": "task3:fred-westling__4e51465083:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.2, Fig.3", "model_task_prompt": "Сравни, как различаются orchard и forest layout по визуальному представлению и числовым параметрам (spacing, rows).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни, как различаются orchard и forest layout по визуальному представлению и числовым параметрам (spacing, rows).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни, как различаются orchard и forest layout по визуальному представлению и числовым параметрам (spacing, rows).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/fred-westling__4e51465083/case-003/rendered_page_0002.png", "assets/images/fred-westling__4e51465083/case-003/rendered_page_0003.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", "original_creator_prompt": "Сравни, как различаются orchard и forest layout по визуальному представлению и числовым параметрам (spacing, rows).", "notes_available": false}} +{"sample_id": "task3:fred-westling__4e51465083:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.4, Fig.4", "model_task_prompt": "Сравни, в чём отличие single-plane LiDAR от 9-beam LiDAR по внешнему виду лучей и угловым характеристикам", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.4, Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни, в чём отличие single-plane LiDAR от 9-beam LiDAR по внешнему виду лучей и угловым характеристикам\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.4, Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни, в чём отличие single-plane LiDAR от 9-beam LiDAR по внешнему виду лучей и угловым характеристикам\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/fred-westling__4e51465083/case-004/rendered_page_0004.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", "original_creator_prompt": "Сравни, в чём отличие single-plane LiDAR от 9-beam LiDAR по внешнему виду лучей и угловым характеристикам", "notes_available": false}} +{"sample_id": "task3:fred-westling__4e51465083:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.5, Fig.5", "model_task_prompt": "Сравни описания траектории Zeb1: двойной замкнутый контур, обход вокруг центрального дерева.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.5, Fig.5\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни описания траектории Zeb1: двойной замкнутый контур, обход вокруг центрального дерева.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.5, Fig.5\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни описания траектории Zeb1: двойной замкнутый контур, обход вокруг центрального дерева.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/fred-westling__4e51465083/case-005/rendered_page_0005.png", "assets/images/fred-westling__4e51465083/case-005/rendered_page_0004.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", "original_creator_prompt": "Сравни описания траектории Zeb1: двойной замкнутый контур, обход вокруг центрального дерева.", "notes_available": false}} +{"sample_id": "task3:fred-westling__4e51465083:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "case_id": "CASE-006", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.5, Fig.6", "model_task_prompt": "Сравни три типа траекторий (handheld, mobile, aerial) на одном и том же orchard stand.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.5, Fig.6\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни три типа траекторий (handheld, mobile, aerial) на одном и том же orchard stand.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.5, Fig.6\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни три типа траекторий (handheld, mobile, aerial) на одном и том же orchard stand.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/fred-westling__4e51465083/case-006/rendered_page_0005.png", "assets/images/fred-westling__4e51465083/case-006/rendered_page_0004.png", "assets/images/fred-westling__4e51465083/case-006/rendered_page_0009.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", "original_creator_prompt": "Сравни три типа траекторий (handheld, mobile, aerial) на одном и том же orchard stand.", "notes_available": false}} +{"sample_id": "task3:fred-westling__4e51465083:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "case_id": "CASE-007", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.6, Fig.7", "model_task_prompt": "Сравни, как правильно определить occluded point (зелёная точка) на схеме сканирования с одной линией.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.6, Fig.7\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни, как правильно определить occluded point (зелёная точка) на схеме сканирования с одной линией.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.6, Fig.7\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравни, как правильно определить occluded point (зелёная точка) на схеме сканирования с одной линией.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/fred-westling__4e51465083/case-007/rendered_page_0006.png", "assets/images/fred-westling__4e51465083/case-007/rendered_page_0004.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", "original_creator_prompt": "Сравни, как правильно определить occluded point (зелёная точка) на схеме сканирования с одной линией.", "notes_available": false}} +{"sample_id": "task3:fred-westling__4e51465083:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "case_id": "CASE-008", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": "p.7, Fig 10", "model_task_prompt": "Сравни, как изменяется визуальное качество и структура облака точек при увеличении уровня шума с 0 м до 0.1 м на одной и той же траектории Zeb1.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.7, Fig 10\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравни, как изменяется визуальное качество и структура облака точек при увеличении уровня шума с 0 м до 0.1 м на одной и той же траектории Zeb1.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.7, Fig 10\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравни, как изменяется визуальное качество и структура облака точек при увеличении уровня шума с 0 м до 0.1 м на одной и той же траектории Zeb1.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/fred-westling__4e51465083/case-008/rendered_page_0007.png", "assets/images/fred-westling__4e51465083/case-008/rendered_page_0006.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", "original_creator_prompt": "Сравни, как изменяется визуальное качество и структура облака точек при увеличении уровня шума с 0 м до 0.1 м на одной и той же траектории Zeb1.", "notes_available": false}} +{"sample_id": "task3:fred-westling__4e51465083:case-009", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "case_id": "CASE-009", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "page", "page_hint": "p.11", "model_task_prompt": "Опиши последовательность: сначала тренировка модели на симулированных данных SimTreeLS, затем transfer learning на реальных LiDAR-сканах. Что меняется между этапами?", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.11\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпиши последовательность: сначала тренировка модели на симулированных данных SimTreeLS, затем transfer learning на реальных LiDAR-сканах. Что меняется между этапами?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.11\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nОпиши последовательность: сначала тренировка модели на симулированных данных SimTreeLS, затем transfer learning на реальных LiDAR-сканах. Что меняется между этапами?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/fred-westling__4e51465083/case-009/rendered_page_0011.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", "original_creator_prompt": "Опиши последовательность: сначала тренировка модели на симулированных данных SimTreeLS, затем transfer learning на реальных LiDAR-сканах. Что меняется между этапами?", "notes_available": false}} +{"sample_id": "task3:fred-westling__4e51465083:case-010", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "case_id": "CASE-010", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": "p.9, Fig 13", "model_task_prompt": "Сравни occlusion profile при смене сенсора с single-beam на 9-beam на одной и той же mobile trajectory (рис. 13). Что произошло с количеством видимых (зелёных) точек?", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.9, Fig 13\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравни occlusion profile при смене сенсора с single-beam на 9-beam на одной и той же mobile trajectory (рис. 13). Что произошло с количеством видимых (зелёных) точек?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.9, Fig 13\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравни occlusion profile при смене сенсора с single-beam на 9-beam на одной и той же mobile trajectory (рис. 13). Что произошло с количеством видимых (зелёных) точек?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/fred-westling__4e51465083/case-010/rendered_page_0009.png", "assets/images/fred-westling__4e51465083/case-010/rendered_page_0008.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", "original_creator_prompt": "Сравни occlusion profile при смене сенсора с single-beam на 9-beam на одной и той же mobile trajectory (рис. 13). Что произошло с количеством видимых (зелёных) точек?", "notes_available": false}} +{"sample_id": "task3:fred-westling__4e51465083:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "case_id": "CASE-011", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "table", "page_hint": " p.8, table.2", "model_task_prompt": "Извлеки значение p-value из t-теста для V-measure (сегментация) в таблице 2.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.8, table.2\nСлой сложности: easy_control\n\nАдаптированная задача:\nИзвлеки значение p-value из t-теста для V-measure (сегментация) в таблице 2.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.8, table.2\nСлой сложности: easy_control\n\nАдаптированная задача:\nИзвлеки значение p-value из t-теста для V-measure (сегментация) в таблице 2.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/fred-westling__4e51465083/case-011/rendered_page_0008.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", "original_creator_prompt": "Извлеки значение p-value из t-теста для V-measure (сегментация) в таблице 2.", "notes_available": false}} +{"sample_id": "task3:fred-westling__4e51465083:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "case_id": "CASE-012", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.3, Fig.3", "model_task_prompt": "Какое минимальное расстояние между деревьями задаётся в forest layout (рис. 3)?", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.3\nСлой сложности: easy_control\n\nАдаптированная задача:\nКакое минимальное расстояние между деревьями задаётся в forest layout (рис. 3)?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nСтатья: SimTreeLS: Simulating aerial and terrestrial laser scans of trees\nИдентификатор статьи: 2011.11954\nГод: 2021\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig.3\nСлой сложности: easy_control\n\nАдаптированная задача:\nКакое минимальное расстояние между деревьями задаётся в forest layout (рис. 3)?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/fred-westling__4e51465083/case-012/rendered_page_0003.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", "original_creator_prompt": "Какое минимальное расстояние между деревьями задаётся в forest layout (рис. 3)?", "notes_available": false}} +{"sample_id": "task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Adaptive gradient optimization methods for training LLM", "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "MARS: Unleashing the Power of Variance Reduction for Training Large Models", "paper_id": "arxiv:2411.10438", "year": "2024", "evidence_kind": "figure_or_table", "page_hint": "fig. 2, Tab. 1,", "model_task_prompt": "Выявить, в какой из задач GPT-2 (Рис. 2) MARS дает наибольший относительный выигрыш в perplexity по сравнению с AdamW, и не перепутать его с табличными результатами ImageNet (Таб. 1).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: MARS: Unleashing the Power of Variance Reduction for Training Large Models\nИдентификатор статьи: arxiv:2411.10438\nГод: 2024\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: fig. 2, Tab. 1,\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nВыявить, в какой из задач GPT-2 (Рис. 2) MARS дает наибольший относительный выигрыш в perplexity по сравнению с AdamW, и не перепутать его с табличными результатами ImageNet (Таб. 1).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: MARS: Unleashing the Power of Variance Reduction for Training Large Models\nИдентификатор статьи: arxiv:2411.10438\nГод: 2024\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: fig. 2, Tab. 1,\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nВыявить, в какой из задач GPT-2 (Рис. 2) MARS дает наибольший относительный выигрыш в perplexity по сравнению с AdamW, и не перепутать его с табличными результатами ImageNet (Таб. 1).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-001/rendered_page_0008.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-001/rendered_page_0009.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-001/rendered_page_0027.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-001/rendered_page_0034.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact", "overall"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", "original_creator_prompt": "Выявить, в какой из задач GPT-2 (Рис. 2) MARS дает наибольший относительный выигрыш в perplexity по сравнению с AdamW, и не перепутать его с табличными результатами ImageNet (Таб. 1).", "notes_available": false}} +{"sample_id": "task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Adaptive gradient optimization methods for training LLM", "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "The AdEMAMix Optimizer: Better, Faster, Older", "paper_id": "arxiv:2409.03137", "year": "2024", "evidence_kind": "figure_or_table", "page_hint": "fig. 2, 3, 6, Tab. 2", "model_task_prompt": "Найти на Рис. 6 сравнение AdEMAMix и AdamW по скорости забывания (forgetting) и определить, на каком количестве токенов преимущество становится явным.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: The AdEMAMix Optimizer: Better, Faster, Older\nИдентификатор статьи: arxiv:2409.03137\nГод: 2024\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: fig. 2, 3, 6, Tab. 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНайти на Рис. 6 сравнение AdEMAMix и AdamW по скорости забывания (forgetting) и определить, на каком количестве токенов преимущество становится явным.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: The AdEMAMix Optimizer: Better, Faster, Older\nИдентификатор статьи: arxiv:2409.03137\nГод: 2024\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: fig. 2, 3, 6, Tab. 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНайти на Рис. 6 сравнение AdEMAMix и AdamW по скорости забывания (forgetting) и определить, на каком количестве токенов преимущество становится явным.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-002/rendered_page_0003.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-002/rendered_page_0021.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-002/rendered_page_0022.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-002/rendered_page_0031.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", "original_creator_prompt": "Найти на Рис. 6 сравнение AdEMAMix и AdamW по скорости забывания (forgetting) и определить, на каком количестве токенов преимущество становится явным.", "notes_available": false}} +{"sample_id": "task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Adaptive gradient optimization methods for training LLM", "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "AdaRankGrad: Adaptive Gradient-Rank and Moments for Memory-Efficient LLMs Training and Fine-Tuning", "paper_id": "arxiv:2410.17881", "year": "2024", "evidence_kind": "figure_or_table", "page_hint": "fig. 3, Tab. 2", "model_task_prompt": "Сравнить значения точности и потребления памяти GPU для GPT-2 из Таблицы 2 при full fine-tuning, LoRA и AdaRankGrad.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: AdaRankGrad: Adaptive Gradient-Rank and Moments for Memory-Efficient LLMs Training and Fine-Tuning\nИдентификатор статьи: arxiv:2410.17881\nГод: 2024\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: fig. 3, Tab. 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравнить значения точности и потребления памяти GPU для GPT-2 из Таблицы 2 при full fine-tuning, LoRA и AdaRankGrad.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: AdaRankGrad: Adaptive Gradient-Rank and Moments for Memory-Efficient LLMs Training and Fine-Tuning\nИдентификатор статьи: arxiv:2410.17881\nГод: 2024\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: fig. 3, Tab. 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравнить значения точности и потребления памяти GPU для GPT-2 из Таблицы 2 при full fine-tuning, LoRA и AdaRankGrad.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-003/rendered_page_0008.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-003/rendered_page_0012.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-003/rendered_page_0013.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-003/rendered_page_0014.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", "original_creator_prompt": "Сравнить значения точности и потребления памяти GPU для GPT-2 из Таблицы 2 при full fine-tuning, LoRA и AdaRankGrad.", "notes_available": false}} +{"sample_id": "task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Adaptive gradient optimization methods for training LLM", "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "A Self-Attentive Meta-Optimizer with Group-Adaptive Learning Rates and Weight Decay", "paper_id": "arxiv:2605.04055", "year": "2026", "evidence_kind": "figure_or_table", "page_hint": "fig. 2, 3, Tab. 3, 4", "model_task_prompt": "Определить по Рис. 3, на какой задаче (языковое моделирование, машинный перевод, классификация) MetaAdamW показывает максимальное и минимальное ускорение сходимости относительно AdamW.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: A Self-Attentive Meta-Optimizer with Group-Adaptive Learning Rates and Weight Decay\nИдентификатор статьи: arxiv:2605.04055\nГод: 2026\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: fig. 2, 3, Tab. 3, 4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределить по Рис. 3, на какой задаче (языковое моделирование, машинный перевод, классификация) MetaAdamW показывает максимальное и минимальное ускорение сходимости относительно AdamW.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: A Self-Attentive Meta-Optimizer with Group-Adaptive Learning Rates and Weight Decay\nИдентификатор статьи: arxiv:2605.04055\nГод: 2026\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: fig. 2, 3, Tab. 3, 4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределить по Рис. 3, на какой задаче (языковое моделирование, машинный перевод, классификация) MetaAdamW показывает максимальное и минимальное ускорение сходимости относительно AdamW.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-004/rendered_page_0004.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-004/rendered_page_0006.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact", "overall"], "expected_error_modes": ["hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", "original_creator_prompt": "Определить по Рис. 3, на какой задаче (языковое моделирование, машинный перевод, классификация) MetaAdamW показывает максимальное и минимальное ускорение сходимости относительно AdamW.", "notes_available": false}} +{"sample_id": "task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Adaptive gradient optimization methods for training LLM", "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Adaptive Gradient Methods at the Edge of Stability", "paper_id": "arxiv:2404.01864", "year": "2024", "evidence_kind": "figure", "page_hint": "fig. 1, 3, 6, 7", "model_task_prompt": "Проанализировать Рис. 7 (SGD vs. Adam на CIFAR-10) и описать, как меняется ландшафт потерь (loss landscape) в процессе обучения у Adam.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Adaptive Gradient Methods at the Edge of Stability\nИдентификатор статьи: arxiv:2404.01864\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: fig. 1, 3, 6, 7\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nПроанализировать Рис. 7 (SGD vs. Adam на CIFAR-10) и описать, как меняется ландшафт потерь (loss landscape) в процессе обучения у Adam.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Adaptive Gradient Methods at the Edge of Stability\nИдентификатор статьи: arxiv:2404.01864\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: fig. 1, 3, 6, 7\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nПроанализировать Рис. 7 (SGD vs. Adam на CIFAR-10) и описать, как меняется ландшафт потерь (loss landscape) в процессе обучения у Adam.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-005/rendered_page_0009.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact", "temporal"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", "original_creator_prompt": "Проанализировать Рис. 7 (SGD vs. Adam на CIFAR-10) и описать, как меняется ландшафт потерь (loss landscape) в процессе обучения у Adam.", "notes_available": false}} +{"sample_id": "task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Adaptive gradient optimization methods for training LLM", "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "case_id": "CASE-006", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Revisiting the Initial Steps in Adaptive Gradient Descent Optimization", "paper_id": "arxiv:2412.00374", "year": "2024", "evidence_kind": "figure", "page_hint": "fig. 1, 2, 3", "model_task_prompt": "По Рис. 2 и 3 определить, как разная инициализация второго момента (data-driven vs random) в Adam влияет на стабильность потерь на ранних итерациях обучения Transformer.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Revisiting the Initial Steps in Adaptive Gradient Descent Optimization\nИдентификатор статьи: arxiv:2412.00374\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: fig. 1, 2, 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nПо Рис. 2 и 3 определить, как разная инициализация второго момента (data-driven vs random) в Adam влияет на стабильность потерь на ранних итерациях обучения Transformer.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Revisiting the Initial Steps in Adaptive Gradient Descent Optimization\nИдентификатор статьи: arxiv:2412.00374\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: fig. 1, 2, 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nПо Рис. 2 и 3 определить, как разная инициализация второго момента (data-driven vs random) в Adam влияет на стабильность потерь на ранних итерациях обучения Transformer.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-006/rendered_page_0001.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact", "temporal"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", "original_creator_prompt": "По Рис. 2 и 3 определить, как разная инициализация второго момента (data-driven vs random) в Adam влияет на стабильность потерь на ранних итерациях обучения Transformer.", "notes_available": false}} +{"sample_id": "task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Adaptive gradient optimization methods for training LLM", "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "case_id": "CASE-007", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Adaptive Gradient Methods at the Edge of Stability", "paper_id": "arxiv:2404.01714", "year": "2025", "evidence_kind": "figure", "page_hint": "Fig. 1, 2, 3, 4, 5, 6, 7, 8", "model_task_prompt": "Определить по совокупности рисунков 1–8, какие архитектуры и датасеты дают CG-like-Adam наибольшее преимущество перед Adam в точности и скорости сходимости", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Adaptive Gradient Methods at the Edge of Stability\nИдентификатор статьи: arxiv:2404.01714\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig. 1, 2, 3, 4, 5, 6, 7, 8\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределить по совокупности рисунков 1–8, какие архитектуры и датасеты дают CG-like-Adam наибольшее преимущество перед Adam в точности и скорости сходимости\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Adaptive Gradient Methods at the Edge of Stability\nИдентификатор статьи: arxiv:2404.01714\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig. 1, 2, 3, 4, 5, 6, 7, 8\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределить по совокупности рисунков 1–8, какие архитектуры и датасеты дают CG-like-Adam наибольшее преимущество перед Adam в точности и скорости сходимости\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-007/rendered_page_0008.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-007/rendered_page_0011.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-007/rendered_page_0012.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact", "temporal"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", "original_creator_prompt": "Определить по совокупности рисунков 1–8, какие архитектуры и датасеты дают CG-like-Adam наибольшее преимущество перед Adam в точности и скорости сходимости", "notes_available": false}} +{"sample_id": "task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Adaptive gradient optimization methods for training LLM", "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "case_id": "CASE-008", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Interpreting Adaptive Gradient Methods by Parameter Scaling for Learning-Rate-Free Optimization", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "Table 1, 2, Fig. 1", "model_task_prompt": "По рис. 1 объяснить, как меняется масштаб параметров (parameter scaling) в процессе обучения нейронной сети и как это связано с адаптивностью градиентного метода.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Interpreting Adaptive Gradient Methods by Parameter Scaling for Learning-Rate-Free Optimization\nИдентификатор статьи: \nГод: \nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Table 1, 2, Fig. 1\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПо рис. 1 объяснить, как меняется масштаб параметров (parameter scaling) в процессе обучения нейронной сети и как это связано с адаптивностью градиентного метода.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Interpreting Adaptive Gradient Methods by Parameter Scaling for Learning-Rate-Free Optimization\nИдентификатор статьи: \nГод: \nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Table 1, 2, Fig. 1\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПо рис. 1 объяснить, как меняется масштаб параметров (parameter scaling) в процессе обучения нейронной сети и как это связано с адаптивностью градиентного метода.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal"], "expected_error_modes": ["hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", "original_creator_prompt": "По рис. 1 объяснить, как меняется масштаб параметров (parameter scaling) в процессе обучения нейронной сети и как это связано с адаптивностью градиентного метода.", "notes_available": false}} +{"sample_id": "task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-009", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Adaptive gradient optimization methods for training LLM", "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "case_id": "CASE-009", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Towards Simple and Provable Parameter-Free Adaptive Gradient Methods", "paper_id": "arxiv:2412.19444", "year": "2024", "evidence_kind": "figure", "page_hint": "Fig. 1, 2", "model_task_prompt": "По рис. 1, 2 сравнить траектории нормы градиента у предложенных AdaGrad++ и Adam++ с их оригинальными версиями на задаче логистической регрессии и ResNet-18.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Towards Simple and Provable Parameter-Free Adaptive Gradient Methods\nИдентификатор статьи: arxiv:2412.19444\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig. 1, 2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПо рис. 1, 2 сравнить траектории нормы градиента у предложенных AdaGrad++ и Adam++ с их оригинальными версиями на задаче логистической регрессии и ResNet-18.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Towards Simple and Provable Parameter-Free Adaptive Gradient Methods\nИдентификатор статьи: arxiv:2412.19444\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig. 1, 2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПо рис. 1, 2 сравнить траектории нормы градиента у предложенных AdaGrad++ и Adam++ с их оригинальными версиями на задаче логистической регрессии и ResNet-18.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-009/rendered_page_0009.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-009/rendered_page_0010.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-009/rendered_page_0023.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-009/rendered_page_0026.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", "original_creator_prompt": "По рис. 1, 2 сравнить траектории нормы градиента у предложенных AdaGrad++ и Adam++ с их оригинальными версиями на задаче логистической регрессии и ResNet-18.", "notes_available": false}} +{"sample_id": "task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-010", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Adaptive gradient optimization methods for training LLM", "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "case_id": "CASE-010", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Can We Remove the Square-Root in Adaptive Gradient Methods? A Second-Order Perspective", "paper_id": "arxiv:2402.03496", "year": "2024", "evidence_kind": "figure_or_table", "page_hint": "Tab. 1, Fig.1, 2", "model_task_prompt": "В таблице 1 сравнить результаты AdamW и метода без квадратного корня (NoSqrt) на задаче LRA и объяснить, какая задача является исключением из общего правила.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Can We Remove the Square-Root in Adaptive Gradient Methods? A Second-Order Perspective\nИдентификатор статьи: arxiv:2402.03496\nГод: 2024\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Tab. 1, Fig.1, 2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nВ таблице 1 сравнить результаты AdamW и метода без квадратного корня (NoSqrt) на задаче LRA и объяснить, какая задача является исключением из общего правила.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Can We Remove the Square-Root in Adaptive Gradient Methods? A Second-Order Perspective\nИдентификатор статьи: arxiv:2402.03496\nГод: 2024\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Tab. 1, Fig.1, 2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nВ таблице 1 сравнить результаты AdamW и метода без квадратного корня (NoSqrt) на задаче LRA и объяснить, какая задача является исключением из общего правила.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-010/rendered_page_0002.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-010/rendered_page_0003.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-010/rendered_page_0027.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-010/rendered_page_0028.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence"], "expected_error_modes": ["wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", "original_creator_prompt": "В таблице 1 сравнить результаты AdamW и метода без квадратного корня (NoSqrt) на задаче LRA и объяснить, какая задача является исключением из общего правила.", "notes_available": false}} +{"sample_id": "task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Adaptive gradient optimization methods for training LLM", "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "case_id": "CASE-011", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "Optimization Methods in Deep Learning: A Comprehensive Overview", "paper_id": "arxiv:2305.16432", "year": "2023", "evidence_kind": "figure_or_table", "page_hint": "Tab. 1,2, Fig. 2, 5", "model_task_prompt": "Найти в таблицах 1 и 2 все упомянутые методы оптимизации и сгруппировать их по категориям (адаптивные и неадаптивные).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Optimization Methods in Deep Learning: A Comprehensive Overview\nИдентификатор статьи: arxiv:2305.16432\nГод: 2023\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Tab. 1,2, Fig. 2, 5\nСлой сложности: easy_control\n\nАдаптированная задача:\nНайти в таблицах 1 и 2 все упомянутые методы оптимизации и сгруппировать их по категориям (адаптивные и неадаптивные).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: Optimization Methods in Deep Learning: A Comprehensive Overview\nИдентификатор статьи: arxiv:2305.16432\nГод: 2023\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Tab. 1,2, Fig. 2, 5\nСлой сложности: easy_control\n\nАдаптированная задача:\nНайти в таблицах 1 и 2 все упомянутые методы оптимизации и сгруппировать их по категориям (адаптивные и неадаптивные).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-011/rendered_page_0006.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-011/rendered_page_0011.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-011/rendered_page_0012.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-011/rendered_page_0013.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", "original_creator_prompt": "Найти в таблицах 1 и 2 все упомянутые методы оптимизации и сгруппировать их по категориям (адаптивные и неадаптивные).", "notes_available": false}} +{"sample_id": "task3:vasin_artem_aleksandrovich__0cf7f9ceca:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Adaptive gradient optimization methods for training LLM", "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "case_id": "CASE-012", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "A Survey of Advanced Gradient Methods in Machine Learning", "paper_id": "arxiv:2412.04032", "year": "2024", "evidence_kind": "figure", "page_hint": "Fig. 1", "model_task_prompt": "По схематичному рис. 1 перечислить ключевые этапы эволюции градиентных методов, затронутые в обзоре.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: A Survey of Advanced Gradient Methods in Machine Learning\nИдентификатор статьи: arxiv:2412.04032\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig. 1\nСлой сложности: easy_control\n\nАдаптированная задача:\nПо схематичному рис. 1 перечислить ключевые этапы эволюции градиентных методов, затронутые в обзоре.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Adaptive gradient optimization methods for training LLM\nСтатья: A Survey of Advanced Gradient Methods in Machine Learning\nИдентификатор статьи: arxiv:2412.04032\nГод: 2024\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig. 1\nСлой сложности: easy_control\n\nАдаптированная задача:\nПо схематичному рис. 1 перечислить ключевые этапы эволюции градиентных методов, затронутые в обзоре.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-012/rendered_page_0009.png", "assets/images/vasin_artem_aleksandrovich__0cf7f9ceca/case-012/rendered_page_0010.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", "original_creator_prompt": "По схематичному рис. 1 перечислить ключевые этапы эволюции градиентных методов, затронутые в обзоре.", "notes_available": false}} +{"sample_id": "task3:598d6ea6b4:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optical Superscattering", "submission_id": "рябков-евгении-юрьевич__598d6ea6b4", "creator_id": "Рябков Евгений Юрьевич", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Superscattering emerging from the physics of bound states in the continuum", "paper_id": "10.1038/s41467-023-40382-y", "year": "2023", "evidence_kind": "figure_or_table", "page_hint": "p.6, Fig. 4", "model_task_prompt": "Извлеките информацию о super-dipole из картинки и понимает важность этого явления..", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optical Superscattering\nСтатья: Superscattering emerging from the physics of bound states in the continuum\nИдентификатор статьи: 10.1038/s41467-023-40382-y\nГод: 2023\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.6, Fig. 4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките информацию о super-dipole из картинки и понимает важность этого явления..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optical Superscattering\nСтатья: Superscattering emerging from the physics of bound states in the continuum\nИдентификатор статьи: 10.1038/s41467-023-40382-y\nГод: 2023\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.6, Fig. 4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките информацию о super-dipole из картинки и понимает важность этого явления..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0012_riabkov_evgenii_iur_evich__task3_ab_case_manifest.filled_Ryabkov - Evgeny Ryabkov.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает информацию о super-dipole из картинки и понимает важность этого явления.", "notes_available": false}} +{"sample_id": "task3:598d6ea6b4:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optical Superscattering", "submission_id": "рябков-евгении-юрьевич__598d6ea6b4", "creator_id": "Рябков Евгений Юрьевич", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Superscattering emerging from the physics of bound states in the continuum", "paper_id": "10.1038/s41467-023-40382-y", "year": "2023", "evidence_kind": "figure_or_table", "page_hint": "p.8, Fig.6", "model_task_prompt": "Извлеките информацию о дизайне системы из картинки и понимает техническую составляющую эффекта.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optical Superscattering\nСтатья: Superscattering emerging from the physics of bound states in the continuum\nИдентификатор статьи: 10.1038/s41467-023-40382-y\nГод: 2023\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.8, Fig.6\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките информацию о дизайне системы из картинки и понимает техническую составляющую эффекта.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optical Superscattering\nСтатья: Superscattering emerging from the physics of bound states in the continuum\nИдентификатор статьи: 10.1038/s41467-023-40382-y\nГод: 2023\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.8, Fig.6\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките информацию о дизайне системы из картинки и понимает техническую составляющую эффекта.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0012_riabkov_evgenii_iur_evich__task3_ab_case_manifest.filled_Ryabkov - Evgeny Ryabkov.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает информацию о дизайне системы из картинки и понимает техническую составляющую эффекта", "notes_available": false}} +{"sample_id": "task3:598d6ea6b4:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optical Superscattering", "submission_id": "рябков-евгении-юрьевич__598d6ea6b4", "creator_id": "Рябков Евгений Юрьевич", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Superscattering emerging from the physics of bound states in the continuum", "paper_id": "10.1038/s41467-023-40382-y", "year": "2023", "evidence_kind": "figure_or_table", "page_hint": "p.9, Fig.7", "model_task_prompt": "Извлеките информацию об экспериментальном достижении superscattering и соответствующих параметрах.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optical Superscattering\nСтатья: Superscattering emerging from the physics of bound states in the continuum\nИдентификатор статьи: 10.1038/s41467-023-40382-y\nГод: 2023\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.9, Fig.7\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките информацию об экспериментальном достижении superscattering и соответствующих параметрах.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optical Superscattering\nСтатья: Superscattering emerging from the physics of bound states in the continuum\nИдентификатор статьи: 10.1038/s41467-023-40382-y\nГод: 2023\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.9, Fig.7\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките информацию об экспериментальном достижении superscattering и соответствующих параметрах.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0012_riabkov_evgenii_iur_evich__task3_ab_case_manifest.filled_Ryabkov - Evgeny Ryabkov.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает информацию об экспериментальном достижении superscattering и соответствующих параметрах", "notes_available": false}} +{"sample_id": "task3:598d6ea6b4:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optical Superscattering", "submission_id": "рябков-евгении-юрьевич__598d6ea6b4", "creator_id": "Рябков Евгений Юрьевич", "case_id": "CASE-008", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Experimental Observation of Superscattering", "paper_id": "arXiv:1812.05599", "year": "2019", "evidence_kind": "page", "page_hint": "p.1, p.2", "model_task_prompt": "Сравните, какой вариант лучше понимает проблематику достижения данного эффекта и важность его нынешней реализации", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optical Superscattering\nСтатья: Experimental Observation of Superscattering\nИдентификатор статьи: arXiv:1812.05599\nГод: 2019\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.1, p.2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше понимает проблематику достижения данного эффекта и важность его нынешней реализации\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optical Superscattering\nСтатья: Experimental Observation of Superscattering\nИдентификатор статьи: arXiv:1812.05599\nГод: 2019\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.1, p.2\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант лучше понимает проблематику достижения данного эффекта и важность его нынешней реализации\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/598d6ea6b4/case-008/rendered_page_0001.png", "assets/images/598d6ea6b4/case-008/rendered_page_0002.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0012_riabkov_evgenii_iur_evich__task3_ab_case_manifest.filled_Ryabkov - Evgeny Ryabkov.json", "original_creator_prompt": "Сравните, какой вариант лучше понимает проблематику достижения данного эффекта и важность его нынешней реализации", "notes_available": false}} +{"sample_id": "task3:598d6ea6b4:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optical Superscattering", "submission_id": "рябков-евгении-юрьевич__598d6ea6b4", "creator_id": "Рябков Евгений Юрьевич", "case_id": "CASE-011", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "Experimental Observation of Superscattering", "paper_id": "arXiv:1812.05599", "year": "2019", "evidence_kind": "page", "page_hint": "p.1", "model_task_prompt": "Оценить, распознала ли модель, что ранее данный эффект не наблюдался экспериментально", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optical Superscattering\nСтатья: Experimental Observation of Superscattering\nИдентификатор статьи: arXiv:1812.05599\nГод: 2019\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.1\nСлой сложности: easy_control\n\nАдаптированная задача:\nОценить, распознала ли модель, что ранее данный эффект не наблюдался экспериментально\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optical Superscattering\nСтатья: Experimental Observation of Superscattering\nИдентификатор статьи: arXiv:1812.05599\nГод: 2019\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.1\nСлой сложности: easy_control\n\nАдаптированная задача:\nОценить, распознала ли модель, что ранее данный эффект не наблюдался экспериментально\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/598d6ea6b4/case-011/rendered_page_0001.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0012_riabkov_evgenii_iur_evich__task3_ab_case_manifest.filled_Ryabkov - Evgeny Ryabkov.json", "original_creator_prompt": "Оценить, распознала ли модель, что ранее данный эффект не наблюдался экспериментально", "notes_available": false}} +{"sample_id": "task3:598d6ea6b4:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optical Superscattering", "submission_id": "рябков-евгении-юрьевич__598d6ea6b4", "creator_id": "Рябков Евгений Юрьевич", "case_id": "CASE-012", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Superscattering pattern shaping for radially anisotropic nanowires", "paper_id": "arXiv:1704.07994", "year": "2017", "evidence_kind": "figure_or_table", "page_hint": "p.2, Fig.1, p.5, Fig.5", "model_task_prompt": "Сравните, распознают ли варианты то, что работа исключительно теоретическая и эффект экспериментально не наблюдался", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optical Superscattering\nСтатья: Superscattering pattern shaping for radially anisotropic nanowires\nИдентификатор статьи: arXiv:1704.07994\nГод: 2017\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.2, Fig.1, p.5, Fig.5\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, распознают ли варианты то, что работа исключительно теоретическая и эффект экспериментально не наблюдался\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optical Superscattering\nСтатья: Superscattering pattern shaping for radially anisotropic nanowires\nИдентификатор статьи: arXiv:1704.07994\nГод: 2017\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.2, Fig.1, p.5, Fig.5\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, распознают ли варианты то, что работа исключительно теоретическая и эффект экспериментально не наблюдался\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/598d6ea6b4/case-012/rendered_page_0002.png", "assets/images/598d6ea6b4/case-012/rendered_page_0005.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence", "visual_fact", "overall"], "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0012_riabkov_evgenii_iur_evich__task3_ab_case_manifest.filled_Ryabkov - Evgeny Ryabkov.json", "original_creator_prompt": "Сравните, распознают ли варианты то, что работа исключительно теоретическая и эффект экспериментально не наблюдался", "notes_available": false}} +{"sample_id": "task3:168bdb55d7:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "composite impact modeling", "submission_id": "Мстислав-Кудряшов-Александрович__168bdb55d7", "creator_id": "Мстислав Кудряшов Александрович", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Fatigue Failure Criteria for Unidirectional Fiber Composites", "paper_id": "https://doi.org/10.1115/1.3157744", "year": "1981", "evidence_kind": "formula", "page_hint": "p.4 formula 18; p5 formula 20,22", "model_task_prompt": "сравните, какой вариант корректно определяет формулы в работе. Особенно интерес представляет корректность формул с критериями разрушения", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: composite impact modeling\nСтатья: Fatigue Failure Criteria for Unidirectional Fiber Composites\nИдентификатор статьи: https://doi.org/10.1115/1.3157744\nГод: 1981\nТип evidence: formula\nПодсказка по странице/рисунку/таблице: p.4 formula 18; p5 formula 20,22\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nсравните, какой вариант корректно определяет формулы в работе. Особенно интерес представляет корректность формул с критериями разрушения\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: composite impact modeling\nСтатья: Fatigue Failure Criteria for Unidirectional Fiber Composites\nИдентификатор статьи: https://doi.org/10.1115/1.3157744\nГод: 1981\nТип evidence: formula\nПодсказка по странице/рисунку/таблице: p.4 formula 18; p5 formula 20,22\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nсравните, какой вариант корректно определяет формулы в работе. Особенно интерес представляет корректность формул с критериями разрушения\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact", "overall"], "expected_error_modes": ["missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0013_kudriashov_mstislav_aleksandrovich__task3_ab_case_manifest.filled - Мстислав.json", "original_creator_prompt": "сравните, какой вариант корректно определяет формулы в работе. Особенно интерес представляет корректность формул с критериями разрушения", "notes_available": false}} +{"sample_id": "task3:ca35bd9ad6:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications", "paper_id": "10.3390/electronics11152468", "year": "2022", "evidence_kind": "figure", "page_hint": "p.3, Fig. 1", "model_task_prompt": "Сравните, какая модель лучше распознает пространственное расположение волоконного усилителя на 3D-модели EDFA и точно извлекает габариты из подписи.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications\nИдентификатор статьи: 10.3390/electronics11152468\nГод: 2022\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig. 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какая модель лучше распознает пространственное расположение волоконного усилителя на 3D-модели EDFA и точно извлекает габариты из подписи.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications\nИдентификатор статьи: 10.3390/electronics11152468\nГод: 2022\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig. 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какая модель лучше распознает пространственное расположение волоконного усилителя на 3D-модели EDFA и точно извлекает габариты из подписи.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact", "evidence"], "expected_error_modes": ["wrong_evidence_linkage", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", "original_creator_prompt": "Сравните, какая модель лучше распознает пространственное расположение волоконного усилителя на 3D-модели EDFA и точно извлекает габариты из подписи.", "notes_available": false}} +{"sample_id": "task3:ca35bd9ad6:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications", "paper_id": "10.3390/electronics11152468", "year": "2022", "evidence_kind": "figure_or_table", "page_hint": "p.12, Fig. 10", "model_task_prompt": "Оцените, какая модель точнее извлекает значения коэффициента усиления в зависимости от входной мощности по графику, не путая между собой кривые для разных температур.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications\nИдентификатор статьи: 10.3390/electronics11152468\nГод: 2022\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.12, Fig. 10\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОцените, какая модель точнее извлекает значения коэффициента усиления в зависимости от входной мощности по графику, не путая между собой кривые для разных температур.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications\nИдентификатор статьи: 10.3390/electronics11152468\nГод: 2022\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.12, Fig. 10\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОцените, какая модель точнее извлекает значения коэффициента усиления в зависимости от входной мощности по графику, не путая между собой кривые для разных температур.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", "original_creator_prompt": "Оцените, какая модель точнее извлекает значения коэффициента усиления в зависимости от входной мощности по графику, не путая между собой кривые для разных температур.", "notes_available": false}} +{"sample_id": "task3:ca35bd9ad6:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "case_id": "CASE-003", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications", "paper_id": "10.3390/electronics11152468", "year": "2022", "evidence_kind": "mixed", "page_hint": "p.15, Fig. 14", "model_task_prompt": "Проверьте, какая модель корректно связывает просадки оптической мощности с конкретными временными фазами температурного цикла (нагрев/охлаждение) на графике испытаний TVAC.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications\nИдентификатор статьи: 10.3390/electronics11152468\nГод: 2022\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.15, Fig. 14\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПроверьте, какая модель корректно связывает просадки оптической мощности с конкретными временными фазами температурного цикла (нагрев/охлаждение) на графике испытаний TVAC.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications\nИдентификатор статьи: 10.3390/electronics11152468\nГод: 2022\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.15, Fig. 14\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПроверьте, какая модель корректно связывает просадки оптической мощности с конкретными временными фазами температурного цикла (нагрев/охлаждение) на графике испытаний TVAC.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "visual_fact"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", "original_creator_prompt": "Проверьте, какая модель корректно связывает просадки оптической мощности с конкретными временными фазами температурного цикла (нагрев/охлаждение) на графике испытаний TVAC.", "notes_available": false}} +{"sample_id": "task3:ca35bd9ad6:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Payload Configuration Integration and Testing of the DeMi CubeSat", "paper_id": "SSC18-XI-02", "year": "2018", "evidence_kind": "figure", "page_hint": "p.4, Fig. 3", "model_task_prompt": "Сравните, какая модель корректно прослеживает оптический путь луча от калибровочного лазерного диода до Shack-Hartmann датчика (SHWFS), не смешивая его с путем света от внешней апертуры.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Payload Configuration Integration and Testing of the DeMi CubeSat\nИдентификатор статьи: SSC18-XI-02\nГод: 2018\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.4, Fig. 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какая модель корректно прослеживает оптический путь луча от калибровочного лазерного диода до Shack-Hartmann датчика (SHWFS), не смешивая его с путем света от внешней апертуры.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Payload Configuration Integration and Testing of the DeMi CubeSat\nИдентификатор статьи: SSC18-XI-02\nГод: 2018\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.4, Fig. 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какая модель корректно прослеживает оптический путь луча от калибровочного лазерного диода до Shack-Hartmann датчика (SHWFS), не смешивая его с путем света от внешней апертуры.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", "original_creator_prompt": "Сравните, какая модель корректно прослеживает оптический путь луча от калибровочного лазерного диода до Shack-Hartmann датчика (SHWFS), не смешивая его с путем света от внешней апертуры.", "notes_available": false}} +{"sample_id": "task3:ca35bd9ad6:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Payload Configuration Integration and Testing of the DeMi CubeSat", "paper_id": "SSC18-XI-02", "year": "2018", "evidence_kind": "figure", "page_hint": "p.5, Fig. 5", "model_task_prompt": "Определите, какая модель может визуально идентифицировать геометрию сетки актуаторов MEMS-зеркала, верно связав её с физическим шагом (pitch) между актуаторами из подписи.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Payload Configuration Integration and Testing of the DeMi CubeSat\nИдентификатор статьи: SSC18-XI-02\nГод: 2018\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.5, Fig. 5\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределите, какая модель может визуально идентифицировать геометрию сетки актуаторов MEMS-зеркала, верно связав её с физическим шагом (pitch) между актуаторами из подписи.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Payload Configuration Integration and Testing of the DeMi CubeSat\nИдентификатор статьи: SSC18-XI-02\nГод: 2018\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.5, Fig. 5\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределите, какая модель может визуально идентифицировать геометрию сетки актуаторов MEMS-зеркала, верно связав её с физическим шагом (pitch) между актуаторами из подписи.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact"], "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", "original_creator_prompt": "Определите, какая модель может визуально идентифицировать геометрию сетки актуаторов MEMS-зеркала, верно связав её с физическим шагом (pitch) между актуаторами из подписи.", "notes_available": false}} +{"sample_id": "task3:ca35bd9ad6:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "case_id": "CASE-006", "stratum": "easy_control", "primary_endpoint": true, "paper_title": "Payload Configuration Integration and Testing of the DeMi CubeSat", "paper_id": "SSC18-XI-02", "year": "2018", "evidence_kind": "page", "page_hint": "p.2, Text section", "model_task_prompt": "Проверьте, корректно ли модель извлекает требования к точности измерения волнового фронта (12 нм) из обычного абзаца текста (Payload Requirements).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Payload Configuration Integration and Testing of the DeMi CubeSat\nИдентификатор статьи: SSC18-XI-02\nГод: 2018\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.2, Text section\nСлой сложности: easy_control\n\nАдаптированная задача:\nПроверьте, корректно ли модель извлекает требования к точности измерения волнового фронта (12 нм) из обычного абзаца текста (Payload Requirements).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Payload Configuration Integration and Testing of the DeMi CubeSat\nИдентификатор статьи: SSC18-XI-02\nГод: 2018\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.2, Text section\nСлой сложности: easy_control\n\nАдаптированная задача:\nПроверьте, корректно ли модель извлекает требования к точности измерения волнового фронта (12 нм) из обычного абзаца текста (Payload Requirements).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", "original_creator_prompt": "Проверьте, корректно ли модель извлекает требования к точности измерения волнового фронта (12 нм) из обычного абзаца текста (Payload Requirements).", "notes_available": false}} +{"sample_id": "task3:ca35bd9ad6:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "case_id": "CASE-007", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission", "paper_id": "SSC19-VI-02", "year": "2019", "evidence_kind": "table", "page_hint": "p.8, Table 4", "model_task_prompt": "Какая модель точнее извлекает значения бюджета канала для кросс-линка на дистанции 580 км, корректно обрабатывая структуру таблицы и не путая колонки с потерями (pointing loss) и запасом (link margin)?", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission\nИдентификатор статьи: SSC19-VI-02\nГод: 2019\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.8, Table 4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nКакая модель точнее извлекает значения бюджета канала для кросс-линка на дистанции 580 км, корректно обрабатывая структуру таблицы и не путая колонки с потерями (pointing loss) и запасом (link margin)?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission\nИдентификатор статьи: SSC19-VI-02\nГод: 2019\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.8, Table 4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nКакая модель точнее извлекает значения бюджета канала для кросс-линка на дистанции 580 км, корректно обрабатывая структуру таблицы и не путая колонки с потерями (pointing loss) и запасом (link margin)?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", "original_creator_prompt": "Какая модель точнее извлекает значения бюджета канала для кросс-линка на дистанции 580 км, корректно обрабатывая структуру таблицы и не путая колонки с потерями (pointing loss) и запасом (link margin)?", "notes_available": false}} +{"sample_id": "task3:ca35bd9ad6:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "case_id": "CASE-008", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission", "paper_id": "SSC19-VI-02", "year": "2019", "evidence_kind": "figure", "page_hint": "p.6, Fig. 6", "model_task_prompt": "Оцените, какая модель верно распознает способ разделения передающего и принимающего путей на оптической схеме трансивера (напр. использование дихроичных зеркал для длин волн 1537 нм и 1563 нм)", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission\nИдентификатор статьи: SSC19-VI-02\nГод: 2019\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.6, Fig. 6\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОцените, какая модель верно распознает способ разделения передающего и принимающего путей на оптической схеме трансивера (напр. использование дихроичных зеркал для длин волн 1537 нм и 1563 нм)\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission\nИдентификатор статьи: SSC19-VI-02\nГод: 2019\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.6, Fig. 6\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОцените, какая модель верно распознает способ разделения передающего и принимающего путей на оптической схеме трансивера (напр. использование дихроичных зеркал для длин волн 1537 нм и 1563 нм)\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact"], "expected_error_modes": ["hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", "original_creator_prompt": "Оцените, какая модель верно распознает способ разделения передающего и принимающего путей на оптической схеме трансивера (напр. использование дихроичных зеркал для длин волн 1537 нм и 1563 нм)", "notes_available": false}} +{"sample_id": "task3:ca35bd9ad6:case-009", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "case_id": "CASE-009", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission", "paper_id": "SSC19-VI-02", "year": "2019", "evidence_kind": "figure", "page_hint": "p.10, Fig. 11", "model_task_prompt": "Проверьте, какая модель точнее описывает процесс схождения (convergence) ошибки наведения во времени, корректно определяя временной интервал до стабилизации (settling time) в замкнутом цикле.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission\nИдентификатор статьи: SSC19-VI-02\nГод: 2019\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.10, Fig. 11\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПроверьте, какая модель точнее описывает процесс схождения (convergence) ошибки наведения во времени, корректно определяя временной интервал до стабилизации (settling time) в замкнутом цикле.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission\nИдентификатор статьи: SSC19-VI-02\nГод: 2019\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.10, Fig. 11\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПроверьте, какая модель точнее описывает процесс схождения (convergence) ошибки наведения во времени, корректно определяя временной интервал до стабилизации (settling time) в замкнутом цикле.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "visual_fact"], "expected_error_modes": ["needs_time_fix", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", "original_creator_prompt": "Проверьте, какая модель точнее описывает процесс схождения (convergence) ошибки наведения во времени, корректно определяя временной интервал до стабилизации (settling time) в замкнутом цикле.", "notes_available": false}} +{"sample_id": "task3:ca35bd9ad6:case-010", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "case_id": "CASE-010", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal", "paper_id": "10.3390/aerospace12080655", "year": "2025", "evidence_kind": "figure_or_table", "page_hint": "p.5, Fig. 2", "model_task_prompt": "Сравните, какая модель правильно соотносит цветные лучи (Tx и Rx пути) с их описанием в подписи и безошибочно локализует позицию FSM (Fast Steering Mirror) в плоскости оптического зрачка.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal \nИдентификатор статьи: 10.3390/aerospace12080655\nГод: 2025\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.5, Fig. 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какая модель правильно соотносит цветные лучи (Tx и Rx пути) с их описанием в подписи и безошибочно локализует позицию FSM (Fast Steering Mirror) в плоскости оптического зрачка.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal \nИдентификатор статьи: 10.3390/aerospace12080655\nГод: 2025\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.5, Fig. 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какая модель правильно соотносит цветные лучи (Tx и Rx пути) с их описанием в подписи и безошибочно локализует позицию FSM (Fast Steering Mirror) в плоскости оптического зрачка.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", "original_creator_prompt": "Сравните, какая модель правильно соотносит цветные лучи (Tx и Rx пути) с их описанием в подписи и безошибочно локализует позицию FSM (Fast Steering Mirror) в плоскости оптического зрачка.", "notes_available": false}} +{"sample_id": "task3:ca35bd9ad6:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "case_id": "CASE-011", "stratum": "temporal_hard", "primary_endpoint": false, "paper_title": "OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal", "paper_id": "10.3390/aerospace12080655", "year": "2025", "evidence_kind": "mixed", "page_hint": "p.8, Fig. 6", "model_task_prompt": "Какая модель лучше выводит логическую связь между паразитной индуктивностью (LTRACE) схемы и её влиянием на временные характеристики (скорость нарастания импульса/задержку) при высокой скорости модуляции диода?", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal \nИдентификатор статьи: 10.3390/aerospace12080655\nГод: 2025\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.8, Fig. 6\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nКакая модель лучше выводит логическую связь между паразитной индуктивностью (LTRACE) схемы и её влиянием на временные характеристики (скорость нарастания импульса/задержку) при высокой скорости модуляции диода?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal \nИдентификатор статьи: 10.3390/aerospace12080655\nГод: 2025\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.8, Fig. 6\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nКакая модель лучше выводит логическую связь между паразитной индуктивностью (LTRACE) схемы и её влиянием на временные характеристики (скорость нарастания импульса/задержку) при высокой скорости модуляции диода?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", "original_creator_prompt": "Какая модель лучше выводит логическую связь между паразитной индуктивностью (LTRACE) схемы и её влиянием на временные характеристики (скорость нарастания импульса/задержку) при высокой скорости модуляции диода?", "notes_available": false}} +{"sample_id": "task3:ca35bd9ad6:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "case_id": "CASE-012", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal", "paper_id": "10.3390/aerospace12080655", "year": "2025", "evidence_kind": "page", "page_hint": "p.7, Text section", "model_task_prompt": "Оцените, способна ли модель извлечь базовое описание процедуры лабораторной характеризации чувствительности приемника из текста до его интеграции.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal \nИдентификатор статьи: 10.3390/aerospace12080655\nГод: 2025\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.7, Text section\nСлой сложности: easy_control\n\nАдаптированная задача:\nОцените, способна ли модель извлечь базовое описание процедуры лабораторной характеризации чувствительности приемника из текста до его интеграции.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals\nСтатья: OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal \nИдентификатор статьи: 10.3390/aerospace12080655\nГод: 2025\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.7, Text section\nСлой сложности: easy_control\n\nАдаптированная задача:\nОцените, способна ли модель извлечь базовое описание процедуры лабораторной характеризации чувствительности приемника из текста до его интеграции.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", "original_creator_prompt": "Оцените, способна ли модель извлечь базовое описание процедуры лабораторной характеризации чувствительности приемника из текста до его интеграции.", "notes_available": false}} +{"sample_id": "task3:998d6715e8:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Vision-Language Models for GUI agents and automated UI testing", "submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "UI-TARS: Pioneering Automated GUI Interaction with Native Agents", "paper_id": "arXiv:2501.12326", "year": "2025", "evidence_kind": "figure", "page_hint": "p. 27, Figure 8", "model_task_prompt": "Сравните, какой вариант точнее извлекает численные значения с bar chart AndroidWorld в Figure 8: scores для моделей UI-TARS-7B и UI-TARS-72B в режимах System-1 и System-2 при Bo1. Оцените, не галлюцинирует ли вариант числа и корректно ли привязывает каждое значение к соответствующей модели и режиму", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: UI-TARS: Pioneering Automated GUI Interaction with Native Agents\nИдентификатор статьи: arXiv:2501.12326\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p. 27, Figure 8\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает численные значения с bar chart AndroidWorld в Figure 8: scores для моделей UI-TARS-7B и UI-TARS-72B в режимах System-1 и System-2 при Bo1. Оцените, не галлюцинирует ли вариант числа и корректно ли привязывает каждое значение к соответствующей модели и режиму\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: UI-TARS: Pioneering Automated GUI Interaction with Native Agents\nИдентификатор статьи: arXiv:2501.12326\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p. 27, Figure 8\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает численные значения с bar chart AndroidWorld в Figure 8: scores для моделей UI-TARS-7B и UI-TARS-72B в режимах System-1 и System-2 при Bo1. Оцените, не галлюцинирует ли вариант числа и корректно ли привязывает каждое значение к соответствующей модели и режиму\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/998d6715e8/case-001/rendered_page_0027.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact", "evidence"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", "original_creator_prompt": "Сравните, какой вариант точнее извлекает численные значения с bar chart AndroidWorld в Figure 8: scores для моделей UI-TARS-7B и UI-TARS-72B в режимах System-1 и System-2 при Bo1. Оцените, не галлюцинирует ли вариант числа и корректно ли привязывает каждое значение к соответствующей модели и режиму", "notes_available": false}} +{"sample_id": "task3:998d6715e8:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Vision-Language Models for GUI agents and automated UI testing", "submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "CogAgent: A Visual Language Model for GUI Agents", "paper_id": "arXiv:2312.08914", "year": "2023", "evidence_kind": "figure", "page_hint": "p.8, Figure 3", "model_task_prompt": "Сравните, какой вариант точнее извлекает из Figure 3 численные значения TFLOPs для архитектуры с cross-module при всех четырёх разрешениях (224, 490, 756, 1120), и насколько корректно оценивает реальную степень линейности этой зависимости.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: CogAgent: A Visual Language Model for GUI Agents\nИдентификатор статьи: arXiv:2312.08914\nГод: 2023\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.8, Figure 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает из Figure 3 численные значения TFLOPs для архитектуры с cross-module при всех четырёх разрешениях (224, 490, 756, 1120), и насколько корректно оценивает реальную степень линейности этой зависимости.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: CogAgent: A Visual Language Model for GUI Agents\nИдентификатор статьи: arXiv:2312.08914\nГод: 2023\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.8, Figure 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает из Figure 3 численные значения TFLOPs для архитектуры с cross-module при всех четырёх разрешениях (224, 490, 756, 1120), и насколько корректно оценивает реальную степень линейности этой зависимости.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/998d6715e8/case-002/rendered_page_0008.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", "original_creator_prompt": "Сравните, какой вариант точнее извлекает из Figure 3 численные значения TFLOPs для архитектуры с cross-module при всех четырёх разрешениях (224, 490, 756, 1120), и насколько корректно оценивает реальную степень линейности этой зависимости.", "notes_available": false}} +{"sample_id": "task3:998d6715e8:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Vision-Language Models for GUI agents and automated UI testing", "submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "SeeClick: Harnessing GUI Grounding for Advanced Visual GUI Agents", "paper_id": "arXiv:2401.10935", "year": "2024", "evidence_kind": "table", "page_hint": "p. 9317, Table 1", "model_task_prompt": "Сравните, какой вариант точнее извлекает, Опираясь на Table 1, точные численные значения точности (в процентах) для моделей SeeClick и CogAgent строго в категории «Mobile Icon/Widget», а также их размеры (Model Size) в миллиардах параметров.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: SeeClick: Harnessing GUI Grounding for Advanced Visual GUI Agents\nИдентификатор статьи: arXiv:2401.10935\nГод: 2024\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p. 9317, Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает, Опираясь на Table 1, точные численные значения точности (в процентах) для моделей SeeClick и CogAgent строго в категории «Mobile Icon/Widget», а также их размеры (Model Size) в миллиардах параметров.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: SeeClick: Harnessing GUI Grounding for Advanced Visual GUI Agents\nИдентификатор статьи: arXiv:2401.10935\nГод: 2024\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p. 9317, Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает, Опираясь на Table 1, точные численные значения точности (в процентах) для моделей SeeClick и CogAgent строго в категории «Mobile Icon/Widget», а также их размеры (Model Size) в миллиардах параметров.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/998d6715e8/case-003/rendered_page_0005.png", "assets/images/998d6715e8/case-003/rendered_page_0006.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact", "evidence"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", "original_creator_prompt": "Сравните, какой вариант точнее извлекает, Опираясь на Table 1, точные численные значения \nточности (в процентах) для моделей SeeClick и CogAgent \nстрого в категории «Mobile Icon/Widget», а также их \nразмеры (Model Size) в миллиардах параметров.", "notes_available": false}} +{"sample_id": "task3:998d6715e8:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Vision-Language Models for GUI agents and automated UI testing", "submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Vision-driven Automated Mobile GUI Testing via Multimodal Large Language Model", "paper_id": "arXiv:2407.03037", "year": "2024", "evidence_kind": "table", "page_hint": "p. 9, Table I", "model_task_prompt": "Сравните, какой вариант точнее извлекает, используя Table I, значения Precision (P) и Recall (R) для метода Odin строго на датасете «Bug injection data» . Также приведите соответствующие значения P и R для VisionDroid на этом же датасете и укажите абсолютную разницу между ними", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: Vision-driven Automated Mobile GUI Testing via Multimodal Large Language Model\nИдентификатор статьи: arXiv:2407.03037\nГод: 2024\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p. 9, Table I\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает, используя Table I, значения Precision (P) и Recall (R) для метода Odin строго на датасете «Bug injection data» . Также приведите соответствующие значения P и R для VisionDroid на этом же датасете и укажите абсолютную разницу между ними\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: Vision-driven Automated Mobile GUI Testing via Multimodal Large Language Model\nИдентификатор статьи: arXiv:2407.03037\nГод: 2024\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p. 9, Table I\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает, используя Table I, значения Precision (P) и Recall (R) для метода Odin строго на датасете «Bug injection data» . Также приведите соответствующие значения P и R для VisionDroid на этом же датасете и укажите абсолютную разницу между ними\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/998d6715e8/case-004/rendered_page_0009.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", "original_creator_prompt": "Сравните, какой вариант точнее извлекает, используя Table I, значения Precision (P) и Recall (R) для метода Odin строго на датасете «Bug injection data» . Также приведите соответствующие значения P и R для VisionDroid на этом же датасете и укажите абсолютную разницу между ними", "notes_available": false}} +{"sample_id": "task3:998d6715e8:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Vision-Language Models for GUI agents and automated UI testing", "submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "VLM-Fuzz: Vision Language Model Assisted Recursive Depth-first Search Exploration for Effective UI Testing of Android Apps", "paper_id": "arXiv:2504.11675", "year": "2025", "evidence_kind": "mixed", "page_hint": "p.18, Fig. 9", "model_task_prompt": "Сравните, какой вариант точнее извлекает из встроенной таблицы на Fig. 9 точное значение p-value для сравнения Line coverage между методами VLM-Fuzz и DeepGUI.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: VLM-Fuzz: Vision Language Model Assisted Recursive Depth-first Search Exploration for Effective UI Testing of Android Apps\nИдентификатор статьи: arXiv:2504.11675\nГод: 2025\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.18, Fig. 9\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает из встроенной таблицы на Fig. 9 точное значение p-value для сравнения Line coverage между методами VLM-Fuzz и DeepGUI.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: VLM-Fuzz: Vision Language Model Assisted Recursive Depth-first Search Exploration for Effective UI Testing of Android Apps\nИдентификатор статьи: arXiv:2504.11675\nГод: 2025\nТип evidence: mixed\nПодсказка по странице/рисунку/таблице: p.18, Fig. 9\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает из встроенной таблицы на Fig. 9 точное значение p-value для сравнения Line coverage между методами VLM-Fuzz и DeepGUI.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/998d6715e8/case-005/rendered_page_0018.png", "assets/images/998d6715e8/case-005/rendered_page_0019.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", "original_creator_prompt": "Сравните, какой вариант точнее извлекает из встроенной таблицы на Fig. 9 точное значение p-value для сравнения Line coverage между методами VLM-Fuzz и DeepGUI.", "notes_available": false}} +{"sample_id": "task3:998d6715e8:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Vision-Language Models for GUI agents and automated UI testing", "submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "case_id": "CASE-006", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "AppAgent: Multimodal Agents as Smartphone Users", "paper_id": "arXiv:2312.13771", "year": "2023", "evidence_kind": "table", "page_hint": "p.7, Table 1", "model_task_prompt": "Сравните, какой вариант точнее извлекает значения метрик Success Rate (SR) и Reward для метода \"GPT4 (Baseline)\" с конфигурациями Action Space \"Raw\" и \"Ours\", а также для \"AppAgent\" с \"Manually Crafted\" документами, опираясь строго на Table 1.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: AppAgent: Multimodal Agents as Smartphone Users\nИдентификатор статьи: arXiv:2312.13771\nГод: 2023\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.7, Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает значения метрик Success Rate (SR) и Reward для метода \"GPT4 (Baseline)\" с конфигурациями Action Space \"Raw\" и \"Ours\", а также для \"AppAgent\" с \"Manually Crafted\" документами, опираясь строго на Table 1.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: AppAgent: Multimodal Agents as Smartphone Users\nИдентификатор статьи: arXiv:2312.13771\nГод: 2023\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.7, Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает значения метрик Success Rate (SR) и Reward для метода \"GPT4 (Baseline)\" с конфигурациями Action Space \"Raw\" и \"Ours\", а также для \"AppAgent\" с \"Manually Crafted\" документами, опираясь строго на Table 1.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/998d6715e8/case-006/rendered_page_0007.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", "original_creator_prompt": "Сравните, какой вариант точнее извлекает значения метрик Success Rate (SR) и Reward для метода \"GPT4 (Baseline)\" с конфигурациями Action Space \"Raw\" и \"Ours\", а также для \"AppAgent\" с \"Manually Crafted\" документами, опираясь строго на Table 1.", "notes_available": false}} +{"sample_id": "task3:998d6715e8:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Vision-Language Models for GUI agents and automated UI testing", "submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "case_id": "CASE-007", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "VideoGameQA-Bench: Evaluating Vision-Language Models for Video Game Quality Assurance", "paper_id": "arXiv:2505.15952", "year": "2025", "evidence_kind": "table", "page_hint": "p.5, Table 2", "model_task_prompt": "Сравните, какой вариант точнее извлекает на основе Table 2 значения Accuracy для моделей o4-mini и Llama-4-Scout строго в задаче Video-based glitch detection (VGD).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: VideoGameQA-Bench: Evaluating Vision-Language Models for Video Game Quality Assurance\nИдентификатор статьи: arXiv:2505.15952\nГод: 2025\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.5, Table 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает на основе Table 2 значения Accuracy для моделей o4-mini и Llama-4-Scout строго в задаче Video-based glitch detection (VGD).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: VideoGameQA-Bench: Evaluating Vision-Language Models for Video Game Quality Assurance\nИдентификатор статьи: arXiv:2505.15952\nГод: 2025\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.5, Table 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает на основе Table 2 значения Accuracy для моделей o4-mini и Llama-4-Scout строго в задаче Video-based glitch detection (VGD).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/998d6715e8/case-007/rendered_page_0005.png", "assets/images/998d6715e8/case-007/rendered_page_0007.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", "original_creator_prompt": "Сравните, какой вариант точнее извлекает на основе Table 2 значения Accuracy для моделей o4-mini и Llama-4-Scout строго в задаче Video-based glitch detection (VGD).", "notes_available": false}} +{"sample_id": "task3:998d6715e8:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Vision-Language Models for GUI agents and automated UI testing", "submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "case_id": "CASE-008", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "A Survey on (M)LLM-Based GUI Agents", "paper_id": "arXiv:2504.13865", "year": "2025", "evidence_kind": "table", "page_hint": "p. 17, Table 1", "model_task_prompt": "Сравните, какой вариант точнее извлекает, опираясь на Table 1, все датасеты для платформы \"web\", которые поддерживают диалоговые задачи (в столбце Dialogue стоит галочка).", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: A Survey on (M)LLM-Based GUI Agents\nИдентификатор статьи: arXiv:2504.13865\nГод: 2025\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p. 17, Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает, опираясь на Table 1, все датасеты для платформы \"web\", которые поддерживают диалоговые задачи (в столбце Dialogue стоит галочка).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: A Survey on (M)LLM-Based GUI Agents\nИдентификатор статьи: arXiv:2504.13865\nГод: 2025\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p. 17, Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее извлекает, опираясь на Table 1, все датасеты для платформы \"web\", которые поддерживают диалоговые задачи (в столбце Dialogue стоит галочка).\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/998d6715e8/case-008/rendered_page_0017.png", "assets/images/998d6715e8/case-008/rendered_page_0016.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", "original_creator_prompt": "Сравните, какой вариант точнее извлекает, опираясь на Table 1, все датасеты для платформы \"web\", которые поддерживают диалоговые задачи (в столбце Dialogue стоит галочка).", "notes_available": false}} +{"sample_id": "task3:998d6715e8:case-009", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Vision-Language Models for GUI agents and automated UI testing", "submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "case_id": "CASE-009", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Test-Time Policy Adaptation for Enhanced Multi-Turn Interactions with LLMs", "paper_id": "arXiv:2509.23166", "year": "2025", "evidence_kind": "figure", "page_hint": "p. 28, Figure 6", "model_task_prompt": "Сравните, какой вариант точнее определяет из Figure 6 для датасета MATH500 момент пересечения кривых ROSA и Baseline во времени и правильно описывает, какой метод лидирует ДО и ПОСЛЕ этого момента.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: Test-Time Policy Adaptation for Enhanced Multi-Turn Interactions with LLMs\nИдентификатор статьи: arXiv:2509.23166\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p. 28, Figure 6\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее определяет из Figure 6 для датасета MATH500 момент пересечения кривых ROSA и Baseline во времени и правильно описывает, какой метод лидирует ДО и ПОСЛЕ этого момента.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: Test-Time Policy Adaptation for Enhanced Multi-Turn Interactions with LLMs\nИдентификатор статьи: arXiv:2509.23166\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p. 28, Figure 6\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее определяет из Figure 6 для датасета MATH500 момент пересечения кривых ROSA и Baseline во времени и правильно описывает, какой метод лидирует ДО и ПОСЛЕ этого момента.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/998d6715e8/case-009/rendered_page_0008.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "visual_fact"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", "original_creator_prompt": "Сравните, какой вариант точнее определяет из Figure 6 для датасета \nMATH500 момент пересечения кривых ROSA и Baseline во времени и \nправильно описывает, какой метод лидирует ДО и ПОСЛЕ этого момента.", "notes_available": false}} +{"sample_id": "task3:998d6715e8:case-010", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Vision-Language Models for GUI agents and automated UI testing", "submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "case_id": "CASE-010", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "A Survey on Web Testing: On the Rise of AI and Applications in Industry", "paper_id": "arXiv:2503.05378", "year": "2025", "evidence_kind": "figure_or_table", "page_hint": "p.38, Fig.3", "model_task_prompt": "Сравните, какой вариант точнее определяет из Figure 3 временную динамику публикаций по SBST/AI-методам: год перелома тренда, соотношение публикаций до и после этого года, а также аномальные годы с локальным спадом или искажением. Оцените, какой вариант избегает галлюцинации тренда и опирается именно на визуальные данные", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: A Survey on Web Testing: On the Rise of AI and Applications in Industry\nИдентификатор статьи: arXiv:2503.05378\nГод: 2025\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.38, Fig.3\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее определяет из Figure 3 временную динамику публикаций по SBST/AI-методам: год перелома тренда, соотношение публикаций до и после этого года, а также аномальные годы с локальным спадом или искажением. Оцените, какой вариант избегает галлюцинации тренда и опирается именно на визуальные данные\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: A Survey on Web Testing: On the Rise of AI and Applications in Industry\nИдентификатор статьи: arXiv:2503.05378\nГод: 2025\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: p.38, Fig.3\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравните, какой вариант точнее определяет из Figure 3 временную динамику публикаций по SBST/AI-методам: год перелома тренда, соотношение публикаций до и после этого года, а также аномальные годы с локальным спадом или искажением. Оцените, какой вариант избегает галлюцинации тренда и опирается именно на визуальные данные\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/998d6715e8/case-010/rendered_page_0038.png", "assets/images/998d6715e8/case-010/rendered_page_0037.png", "assets/images/998d6715e8/case-010/rendered_page_0039.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "visual_fact"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage", "missed_visual_fact"], "creator_rationale_available": true, "source_manifest": "0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", "original_creator_prompt": "Сравните, какой вариант точнее определяет из Figure 3 временную динамику публикаций по SBST/AI-методам: год перелома тренда, соотношение публикаций до и после этого года, а также аномальные годы с локальным спадом или искажением. Оцените, какой вариант избегает галлюцинации тренда и опирается именно на визуальные данные", "notes_available": false}} +{"sample_id": "task3:998d6715e8:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Vision-Language Models for GUI agents and automated UI testing", "submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "case_id": "CASE-011", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "LLM-Guided Scenario-based GUI Testing", "paper_id": "arXiv:2506.05079", "year": "2025", "evidence_kind": "page", "page_hint": "p. 24, Section 5 \"Threats to Validity\"", "model_task_prompt": "На основании раздела \"Threats to Validity\" перечислите 3 основные угрозы валидности (ограничения), которые сами авторы выделяют в своей работе.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: LLM-Guided Scenario-based GUI Testing\nИдентификатор статьи: arXiv:2506.05079\nГод: 2025\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p. 24, Section 5 \"Threats to Validity\"\nСлой сложности: easy_control\n\nАдаптированная задача:\nНа основании раздела \"Threats to Validity\" перечислите 3 основные угрозы валидности (ограничения), которые сами авторы выделяют в своей работе.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: LLM-Guided Scenario-based GUI Testing\nИдентификатор статьи: arXiv:2506.05079\nГод: 2025\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p. 24, Section 5 \"Threats to Validity\"\nСлой сложности: easy_control\n\nАдаптированная задача:\nНа основании раздела \"Threats to Validity\" перечислите 3 основные угрозы валидности (ограничения), которые сами авторы выделяют в своей работе.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/998d6715e8/case-011/rendered_page_0024.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", "original_creator_prompt": "На основании раздела \"Threats to Validity\" перечислите 3 основные угрозы валидности (ограничения), которые сами авторы выделяют в своей работе.", "notes_available": false}} +{"sample_id": "task3:998d6715e8:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Vision-Language Models for GUI agents and automated UI testing", "submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "case_id": "CASE-012", "stratum": "easy_control", "primary_endpoint": false, "paper_title": "Usable AI: Critical Review of Its Current Issues and Trends", "paper_id": "doi:10.3844/jcssp.2023.326.333", "year": "2023", "evidence_kind": "page", "page_hint": "p. 330, Section \"Usability Challenges of AI Applications\"", "model_task_prompt": "На основании раздела «Usability Challenges of AI Applications» перечислите основные проблемы (challenges) разработки ориентированного на человека ИИ (HAI), о которых пишут авторы.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: Usable AI: Critical Review of Its Current Issues and Trends\nИдентификатор статьи: doi:10.3844/jcssp.2023.326.333\nГод: 2023\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p. 330, Section \"Usability Challenges of AI Applications\"\nСлой сложности: easy_control\n\nАдаптированная задача:\nНа основании раздела «Usability Challenges of AI Applications» перечислите основные проблемы (challenges) разработки ориентированного на человека ИИ (HAI), о которых пишут авторы.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Vision-Language Models for GUI agents and automated UI testing\nСтатья: Usable AI: Critical Review of Its Current Issues and Trends\nИдентификатор статьи: doi:10.3844/jcssp.2023.326.333\nГод: 2023\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p. 330, Section \"Usability Challenges of AI Applications\"\nСлой сложности: easy_control\n\nАдаптированная задача:\nНа основании раздела «Usability Challenges of AI Applications» перечислите основные проблемы (challenges) разработки ориентированного на человека ИИ (HAI), о которых пишут авторы.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", "original_creator_prompt": "На основании раздела «Usability Challenges of AI Applications» перечислите основные проблемы (challenges) разработки ориентированного на человека ИИ (HAI), о которых пишут авторы.", "notes_available": false}} +{"sample_id": "task3:5c4536453d:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ferroelectric transistor parameters interpretation", "submission_id": "парочкин-андреи-витальевич__5c4536453d", "creator_id": "Парочкин Андрей Витальевич", "case_id": "CASE-001", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Decoupling polarization and coercive field in AlScN/AlN/AlScN stack for enhanced performance in ferroelectric thin-film transistors", "paper_id": "10.1038/s41467-025-62904-6", "year": "2025", "evidence_kind": "figure", "page_hint": "Fig.4e", "model_task_prompt": "Сравнить, какой вариант лучше понимает, какая кривая соответствует подходящему к работе в ключевом режиме напряжению.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ferroelectric transistor parameters interpretation\nСтатья: Decoupling polarization and coercive field in AlScN/AlN/AlScN stack for enhanced performance in ferroelectric thin-film transistors\nИдентификатор статьи: 10.1038/s41467-025-62904-6\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.4e\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравнить, какой вариант лучше понимает, какая кривая соответствует подходящему к работе в ключевом режиме напряжению.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ferroelectric transistor parameters interpretation\nСтатья: Decoupling polarization and coercive field in AlScN/AlN/AlScN stack for enhanced performance in ferroelectric thin-film transistors\nИдентификатор статьи: 10.1038/s41467-025-62904-6\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.4e\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nСравнить, какой вариант лучше понимает, какая кривая соответствует подходящему к работе в ключевом режиме напряжению.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence", "visual_fact"], "expected_error_modes": ["wrong_evidence_linkage", "missed_visual_fact", "needs_time_fix"], "creator_rationale_available": true, "source_manifest": "0016_parochkin_andrei_vital_evich__task3_ab_case_manifest.filled - Andre Parochkin.json", "original_creator_prompt": "Сравнить, какой вариант лучше понимает, какая кривая соответствует подходящему к работе в ключевом режиме напряжению.", "notes_available": false}} +{"sample_id": "task3:5c4536453d:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ferroelectric transistor parameters interpretation", "submission_id": "парочкин-андреи-витальевич__5c4536453d", "creator_id": "Парочкин Андрей Витальевич", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Scalable CMOS back-end-of-line-compatible AlScN/two-dimensional channel ferroelectric field-effect transistors", "paper_id": "10.1038/s41565-023-01399-y", "year": "2023", "evidence_kind": "figure", "page_hint": "Fig.1c", "model_task_prompt": "Определить, результаты какого ещё метода исследования есть на the figure.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ferroelectric transistor parameters interpretation\nСтатья: Scalable CMOS back-end-of-line-compatible AlScN/two-dimensional channel ferroelectric field-effect transistors\nИдентификатор статьи: 10.1038/s41565-023-01399-y\nГод: 2023\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.1c\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределить, результаты какого ещё метода исследования есть на the figure.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ferroelectric transistor parameters interpretation\nСтатья: Scalable CMOS back-end-of-line-compatible AlScN/two-dimensional channel ferroelectric field-effect transistors\nИдентификатор статьи: 10.1038/s41565-023-01399-y\nГод: 2023\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.1c\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределить, результаты какого ещё метода исследования есть на the figure.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "creator_rationale_available": true, "source_manifest": "0016_parochkin_andrei_vital_evich__task3_ab_case_manifest.filled - Andre Parochkin.json", "original_creator_prompt": "Определить, результаты какого ещё метода исследования есть на the figure.", "notes_available": false}} +{"sample_id": "task3:5c4536453d:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ferroelectric transistor parameters interpretation", "submission_id": "парочкин-андреи-витальевич__5c4536453d", "creator_id": "Парочкин Андрей Витальевич", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Scalable CMOS back-end-of-line-compatible AlScN/two-dimensional channel ferroelectric field-effect transistors", "paper_id": "10.1038/s41565-023-01399-y", "year": "2023", "evidence_kind": "figure", "page_hint": "Fig.1c", "model_task_prompt": "Определить по картинке, имеются ли в составе структуры кристаллиты.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ferroelectric transistor parameters interpretation\nСтатья: Scalable CMOS back-end-of-line-compatible AlScN/two-dimensional channel ferroelectric field-effect transistors\nИдентификатор статьи: 10.1038/s41565-023-01399-y\nГод: 2023\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.1c\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределить по картинке, имеются ли в составе структуры кристаллиты.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ferroelectric transistor parameters interpretation\nСтатья: Scalable CMOS back-end-of-line-compatible AlScN/two-dimensional channel ferroelectric field-effect transistors\nИдентификатор статьи: 10.1038/s41565-023-01399-y\nГод: 2023\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.1c\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределить по картинке, имеются ли в составе структуры кристаллиты.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0016_parochkin_andrei_vital_evich__task3_ab_case_manifest.filled - Andre Parochkin.json", "original_creator_prompt": "Определить по картинке, имеются ли в составе структуры кристаллиты.", "notes_available": false}} +{"sample_id": "task3:5c4536453d:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ferroelectric transistor parameters interpretation", "submission_id": "парочкин-андреи-витальевич__5c4536453d", "creator_id": "Парочкин Андрей Витальевич", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Origins of High Mobility and Low Operation Voltage of Amorphous Oxide TFTs: Electronic Structure, Electron Transport, Defects and Doping", "paper_id": "10.1109/JDT.2009.2034559", "year": "2009", "evidence_kind": "figure", "page_hint": "Fig.23b", "model_task_prompt": "Какой вариант верно напишет, проводимость транзистора после отжига в азотной среде.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ferroelectric transistor parameters interpretation\nСтатья: Origins of High Mobility and Low Operation Voltage of Amorphous Oxide TFTs: Electronic Structure, Electron Transport, Defects and Doping\nИдентификатор статьи: 10.1109/JDT.2009.2034559\nГод: 2009\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.23b\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nКакой вариант верно напишет, проводимость транзистора после отжига в азотной среде.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ferroelectric transistor parameters interpretation\nСтатья: Origins of High Mobility and Low Operation Voltage of Amorphous Oxide TFTs: Electronic Structure, Electron Transport, Defects and Doping\nИдентификатор статьи: 10.1109/JDT.2009.2034559\nГод: 2009\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.23b\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nКакой вариант верно напишет, проводимость транзистора после отжига в азотной среде.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0016_parochkin_andrei_vital_evich__task3_ab_case_manifest.filled - Andre Parochkin.json", "original_creator_prompt": "Какой вариант верно напишет, проводимость транзистора после отжига в азотной среде.", "notes_available": false}} +{"sample_id": "task3:5c4536453d:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ferroelectric transistor parameters interpretation", "submission_id": "парочкин-андреи-витальевич__5c4536453d", "creator_id": "Парочкин Андрей Витальевич", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Origins of High Mobility and Low Operation Voltage of Amorphous Oxide TFTs: Electronic Structure, Electron Transport, Defects and Doping", "paper_id": "10.1109/JDT.2009.2034559", "year": "2009", "evidence_kind": "figure", "page_hint": "Fig.26b", "model_task_prompt": "Оценить ширину гистерезиса для отожжённого и неотожжённого образцов.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ferroelectric transistor parameters interpretation\nСтатья: Origins of High Mobility and Low Operation Voltage of Amorphous Oxide TFTs: Electronic Structure, Electron Transport, Defects and Doping\nИдентификатор статьи: 10.1109/JDT.2009.2034559\nГод: 2009\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.26b\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОценить ширину гистерезиса для отожжённого и неотожжённого образцов.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ferroelectric transistor parameters interpretation\nСтатья: Origins of High Mobility and Low Operation Voltage of Amorphous Oxide TFTs: Electronic Structure, Electron Transport, Defects and Doping\nИдентификатор статьи: 10.1109/JDT.2009.2034559\nГод: 2009\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.26b\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОценить ширину гистерезиса для отожжённого и неотожжённого образцов.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0016_parochkin_andrei_vital_evich__task3_ab_case_manifest.filled - Andre Parochkin.json", "original_creator_prompt": "Оценить ширину гистерезиса для отожжённого и неотожжённого образцов.", "notes_available": false}} +{"sample_id": "task3:5c4536453d:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Ferroelectric transistor parameters interpretation", "submission_id": "парочкин-андреи-витальевич__5c4536453d", "creator_id": "Парочкин Андрей Витальевич", "case_id": "CASE-006", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Impact of Ferroelectric Layer Thickness on Reliability of Back-End-of-Line-Compatible Hafnium Zirconium Oxide Films", "paper_id": "10.1002/adem.202201124", "year": "2022", "evidence_kind": "figure", "page_hint": "Fig.2", "model_task_prompt": "Определить, в какой из плёнок содержится моноклинная фаза.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ferroelectric transistor parameters interpretation\nСтатья: Impact of Ferroelectric Layer Thickness on Reliability of Back-End-of-Line-Compatible Hafnium Zirconium Oxide Films\nИдентификатор статьи: 10.1002/adem.202201124\nГод: 2022\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределить, в какой из плёнок содержится моноклинная фаза.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Ferroelectric transistor parameters interpretation\nСтатья: Impact of Ferroelectric Layer Thickness on Reliability of Back-End-of-Line-Compatible Hafnium Zirconium Oxide Films\nИдентификатор статьи: 10.1002/adem.202201124\nГод: 2022\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: Fig.2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nОпределить, в какой из плёнок содержится моноклинная фаза.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0016_parochkin_andrei_vital_evich__task3_ab_case_manifest.filled - Andre Parochkin.json", "original_creator_prompt": "Определить, в какой из плёнок содержится моноклинная фаза.", "notes_available": false}} +{"sample_id": "task3:91f2284dbc:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Посмертные изменения в биомолекулах", "submission_id": "парочкина-екатерина-владимировна__91f2284dbc", "creator_id": "Парочкина Екатерина Владимировна", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Dynamics of Postmortem Gene Expression in Normal and Neoplastic Murine Liver", "paper_id": "doi: 10.3390/life16040683", "year": "2026", "evidence_kind": "figure_or_table", "page_hint": "Fig.4", "model_task_prompt": "Извлеките численные данные из рисунка 4 и сопоставляет их динамику во времени..", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Посмертные изменения в биомолекулах\nСтатья: Dynamics of Postmortem Gene Expression in Normal and Neoplastic Murine Liver\nИдентификатор статьи: doi: 10.3390/life16040683\nГод: 2026\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките численные данные из рисунка 4 и сопоставляет их динамику во времени..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Посмертные изменения в биомолекулах\nСтатья: Dynamics of Postmortem Gene Expression in Normal and Neoplastic Murine Liver\nИдентификатор статьи: doi: 10.3390/life16040683\nГод: 2026\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките численные данные из рисунка 4 и сопоставляет их динамику во времени..\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact", "temporal"], "expected_error_modes": ["missed_visual_fact", "needs_time_fix"], "creator_rationale_available": true, "source_manifest": "0017_parochkina_ekaterina_vladimirovna__task3_ab_case_manifest.filled - Ekaterina Parochkina.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает численные данные из рисунка 4 и сопоставляет их динамику во времени.", "notes_available": true}} +{"sample_id": "task3:91f2284dbc:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Посмертные изменения в биомолекулах", "submission_id": "парочкина-екатерина-владимировна__91f2284dbc", "creator_id": "Парочкина Екатерина Владимировна", "case_id": "CASE-002", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains", "paper_id": "doi: 10.3390/biom15091288", "year": "2025", "evidence_kind": "figure_or_table", "page_hint": "Fig.2A,B", "model_task_prompt": "Извлеките из рисунка 2 A,B данные principal component analysis (PCA) и сопоставляет их с временной динамикой.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Посмертные изменения в биомолекулах\nСтатья: Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains\nИдентификатор статьи: doi: 10.3390/biom15091288\nГод: 2025\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.2A,B\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 2 A,B данные principal component analysis (PCA) и сопоставляет их с временной динамикой.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Посмертные изменения в биомолекулах\nСтатья: Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains\nИдентификатор статьи: doi: 10.3390/biom15091288\nГод: 2025\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.2A,B\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 2 A,B данные principal component analysis (PCA) и сопоставляет их с временной динамикой.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["visual_fact", "temporal"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0017_parochkina_ekaterina_vladimirovna__task3_ab_case_manifest.filled - Ekaterina Parochkina.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 2 A,B данные principal component analysis (PCA) и сопоставляет их с временной динамикой", "notes_available": false}} +{"sample_id": "task3:91f2284dbc:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Посмертные изменения в биомолекулах", "submission_id": "парочкина-екатерина-владимировна__91f2284dbc", "creator_id": "Парочкина Екатерина Владимировна", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains", "paper_id": "doi: 10.3390/biom15091288", "year": "2025", "evidence_kind": "figure_or_table", "page_hint": "Fig.3", "model_task_prompt": "Извлеките из рисунка 3 данные о стабильности соединений.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Посмертные изменения в биомолекулах\nСтатья: Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains\nИдентификатор статьи: doi: 10.3390/biom15091288\nГод: 2025\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 3 данные о стабильности соединений.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Посмертные изменения в биомолекулах\nСтатья: Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains\nИдентификатор статьи: doi: 10.3390/biom15091288\nГод: 2025\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 3 данные о стабильности соединений.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0017_parochkina_ekaterina_vladimirovna__task3_ab_case_manifest.filled - Ekaterina Parochkina.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 3 данные о стабильности соединений", "notes_available": false}} +{"sample_id": "task3:91f2284dbc:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Посмертные изменения в биомолекулах", "submission_id": "парочкина-екатерина-владимировна__91f2284dbc", "creator_id": "Парочкина Екатерина Владимировна", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains", "paper_id": "doi: 10.3390/biom15091288", "year": "2025", "evidence_kind": "figure_or_table", "page_hint": "Fig.4A", "model_task_prompt": "Извлеките из рисунка 4A качественные (не числовые) данные.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Посмертные изменения в биомолекулах\nСтатья: Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains\nИдентификатор статьи: doi: 10.3390/biom15091288\nГод: 2025\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.4A\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 4A качественные (не числовые) данные.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Посмертные изменения в биомолекулах\nСтатья: Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains\nИдентификатор статьи: doi: 10.3390/biom15091288\nГод: 2025\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Fig.4A\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из рисунка 4A качественные (не числовые) данные.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0017_parochkina_ekaterina_vladimirovna__task3_ab_case_manifest.filled - Ekaterina Parochkina.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 4A качественные (не числовые) данные", "notes_available": false}} +{"sample_id": "task3:91f2284dbc:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "Посмертные изменения в биомолекулах", "submission_id": "парочкина-екатерина-владимировна__91f2284dbc", "creator_id": "Парочкина Екатерина Владимировна", "case_id": "CASE-005", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Systematic analysis of gene expression patterns associated with postmortem interval in human tissues", "paper_id": "doi: s41598-017-05882-0", "year": "2017", "evidence_kind": "figure_or_table", "page_hint": "Table 2", "model_task_prompt": "Извлеките из таблицы 2 категориальные данные.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Посмертные изменения в биомолекулах\nСтатья: Systematic analysis of gene expression patterns associated with postmortem interval in human tissues\nИдентификатор статьи: doi: s41598-017-05882-0\nГод: 2017\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Table 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из таблицы 2 категориальные данные.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: Посмертные изменения в биомолекулах\nСтатья: Systematic analysis of gene expression patterns associated with postmortem interval in human tissues\nИдентификатор статьи: doi: s41598-017-05882-0\nГод: 2017\nТип evidence: figure_or_table\nПодсказка по странице/рисунку/таблице: Table 2\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nИзвлеките из таблицы 2 категориальные данные.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0017_parochkina_ekaterina_vladimirovna__task3_ab_case_manifest.filled - Ekaterina Parochkina.json", "original_creator_prompt": "Сравните, какой вариант лучше извлекает из таблицы 2 категориальные данные", "notes_available": false}} +{"sample_id": "task3:0987c43afc:case-001", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-001", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Deep learning methods for 2D material electronic properties", "paper_id": "10.1039/D5DD00155B", "year": "2026", "evidence_kind": "table", "page_hint": "p.5-6, Table 1", "model_task_prompt": "Сравните, какая из двух моделей точнее извлекает из таблицы 1 для каждой базы данных (C2DB, MC2D, 2DmatPedia, Materials Project, JARVIS-DFT) информацию о типе данных (структура / электронные свойства / фононы), доступности API и основных ссылках. Выделите только те базы, которые содержат электронные зонные структуры.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Deep learning methods for 2D material electronic properties\nИдентификатор статьи: 10.1039/D5DD00155B\nГод: 2026\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.5-6, Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какая из двух моделей точнее извлекает из таблицы 1 для каждой базы данных (C2DB, MC2D, 2DmatPedia, Materials Project, JARVIS-DFT) информацию о типе данных (структура / электронные свойства / фононы), доступности API и основных ссылках. Выделите только те базы, которые содержат электронные зонные структуры.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Deep learning methods for 2D material electronic properties\nИдентификатор статьи: 10.1039/D5DD00155B\nГод: 2026\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.5-6, Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nСравните, какая из двух моделей точнее извлекает из таблицы 1 для каждой базы данных (C2DB, MC2D, 2DmatPedia, Materials Project, JARVIS-DFT) информацию о типе данных (структура / электронные свойства / фононы), доступности API и основных ссылках. Выделите только те базы, которые содержат электронные зонные структуры.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "Сравните, какая из двух моделей точнее извлекает из таблицы 1 для каждой базы данных (C2DB, MC2D, 2DmatPedia, Materials Project, JARVIS-DFT) информацию о типе данных (структура / электронные свойства / фононы), доступности API и основных ссылках. Выделите только те базы, которые содержат электронные зонные структуры.", "notes_available": false}} +{"sample_id": "task3:0987c43afc:case-002", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-002", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Deep learning methods for 2D material electronic properties", "paper_id": "10.1039/D5DD00155B", "year": "2026", "evidence_kind": "figure", "page_hint": "p.7, Fig. 1", "model_task_prompt": "На рисунке 1 показаны пять архитектур (PLMF, CGCNN, ALIGNN, MEGNet, SLICES). Для каждой из них определите: - используется ли графовое представление; - есть ли в явном виде обработка углов связей (bond angles); - является ли представление строковым (string‑based). Результат оформите в виде таблицы из трёх колонок.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Deep learning methods for 2D material electronic properties\nИдентификатор статьи: 10.1039/D5DD00155B\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.7, Fig. 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНа рисунке 1 показаны пять архитектур (PLMF, CGCNN, ALIGNN, MEGNet, SLICES). Для каждой из них определите: - используется ли графовое представление; - есть ли в явном виде обработка углов связей (bond angles); - является ли представление строковым (string‑based). Результат оформите в виде таблицы из трёх колонок.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Deep learning methods for 2D material electronic properties\nИдентификатор статьи: 10.1039/D5DD00155B\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.7, Fig. 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНа рисунке 1 показаны пять архитектур (PLMF, CGCNN, ALIGNN, MEGNet, SLICES). Для каждой из них определите: - используется ли графовое представление; - есть ли в явном виде обработка углов связей (bond angles); - является ли представление строковым (string‑based). Результат оформите в виде таблицы из трёх колонок.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "На рисунке 1 показаны пять архитектур (PLMF, CGCNN, ALIGNN, MEGNet, SLICES). Для каждой из них определите:\n- используется ли графовое представление;\n- есть ли в явном виде обработка углов связей (bond angles);\n- является ли представление строковым (string‑based).\nРезультат оформите в виде таблицы из трёх колонок.", "notes_available": false}} +{"sample_id": "task3:0987c43afc:case-003", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-003", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Deep learning methods for 2D material electronic properties", "paper_id": "10.1039/D5DD00155B", "year": "2026", "evidence_kind": "table", "page_hint": "p. 13-14, Table 3", "model_task_prompt": "Найдите в таблице 3 все методы, которые используют трансформеры (transformer) или авторегрессию (autoregressive). Для каждого такого метода выпишите название модели или работы, тип представления структуры, точность (MAE для band centers или band gaps). Игнорируйте методы на основе CNN или RBM, если они явно не упоминают внимание/трансформер.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Deep learning methods for 2D material electronic properties\nИдентификатор статьи: 10.1039/D5DD00155B\nГод: 2026\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p. 13-14, Table 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНайдите в таблице 3 все методы, которые используют трансформеры (transformer) или авторегрессию (autoregressive). Для каждого такого метода выпишите название модели или работы, тип представления структуры, точность (MAE для band centers или band gaps). Игнорируйте методы на основе CNN или RBM, если они явно не упоминают внимание/трансформер.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Deep learning methods for 2D material electronic properties\nИдентификатор статьи: 10.1039/D5DD00155B\nГод: 2026\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p. 13-14, Table 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНайдите в таблице 3 все методы, которые используют трансформеры (transformer) или авторегрессию (autoregressive). Для каждого такого метода выпишите название модели или работы, тип представления структуры, точность (MAE для band centers или band gaps). Игнорируйте методы на основе CNN или RBM, если они явно не упоминают внимание/трансформер.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "Найдите в таблице 3 все методы, которые используют трансформеры (transformer) или авторегрессию (autoregressive). Для каждого такого метода выпишите название модели или работы, тип представления структуры, точность (MAE для band centers или band gaps). Игнорируйте методы на основе CNN или RBM, если они явно не упоминают внимание/трансформер.", "notes_available": false}} +{"sample_id": "task3:0987c43afc:case-004", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-004", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Deep learning methods for 2D material electronic properties", "paper_id": "10.1039/D5DD00155B", "year": "2026", "evidence_kind": "table", "page_hint": "p.16, Table 4", "model_task_prompt": "В таблице 4 перечислены модели для межатомных потенциалов. Отберите те модели, которые явно используют E(3)-equivariant convolutions или equivariant message passing. Для каждой из них укажите название модели, тип архитектуры (Graph NN, Equivariant representations), целевые материалы (2D, 3D, molecular). Если модель не помечена как equivariant, но в описании говорится о «rotational invariance», – не включайте.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Deep learning methods for 2D material electronic properties\nИдентификатор статьи: 10.1039/D5DD00155B\nГод: 2026\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.16, Table 4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nВ таблице 4 перечислены модели для межатомных потенциалов. Отберите те модели, которые явно используют E(3)-equivariant convolutions или equivariant message passing. Для каждой из них укажите название модели, тип архитектуры (Graph NN, Equivariant representations), целевые материалы (2D, 3D, molecular). Если модель не помечена как equivariant, но в описании говорится о «rotational invariance», – не включайте.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Deep learning methods for 2D material electronic properties\nИдентификатор статьи: 10.1039/D5DD00155B\nГод: 2026\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.16, Table 4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nВ таблице 4 перечислены модели для межатомных потенциалов. Отберите те модели, которые явно используют E(3)-equivariant convolutions или equivariant message passing. Для каждой из них укажите название модели, тип архитектуры (Graph NN, Equivariant representations), целевые материалы (2D, 3D, molecular). Если модель не помечена как equivariant, но в описании говорится о «rotational invariance», – не включайте.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "В таблице 4 перечислены модели для межатомных потенциалов. Отберите те модели, которые явно используют E(3)-equivariant convolutions или equivariant message passing. Для каждой из них укажите название модели, тип архитектуры (Graph NN, Equivariant representations), целевые материалы (2D, 3D, molecular). Если модель не помечена как equivariant, но в описании говорится о «rotational invariance», – не включайте.", "notes_available": false}} +{"sample_id": "task3:0987c43afc:case-005", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-005", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Deep learning methods for 2D material electronic properties", "paper_id": "10.1039/D5DD00155B", "year": "2026", "evidence_kind": "page", "page_hint": "p.28-29", "model_task_prompt": "В разделе 5 авторы перечисляют ключевые вызовы и будущие направления. Найдите в тексте упоминания следующих концепций: - uncertainty quantification; - interpretability / explainable AI (XAI); - foundation models; - autonomous labs (self‑driving laboratories). Для каждого из них выпишите одну цитату (одно предложение), в которой описывается проблема или предложение. Затем оцените, насколько полно каждая модель (baseline vs tuned) воспроизводит эти цитаты без изменения смысла.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Deep learning methods for 2D material electronic properties\nИдентификатор статьи: 10.1039/D5DD00155B\nГод: 2026\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.28-29\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nВ разделе 5 авторы перечисляют ключевые вызовы и будущие направления. Найдите в тексте упоминания следующих концепций: - uncertainty quantification; - interpretability / explainable AI (XAI); - foundation models; - autonomous labs (self‑driving laboratories). Для каждого из них выпишите одну цитату (одно предложение), в которой описывается проблема или предложение. Затем оцените, насколько полно каждая модель (baseline vs tuned) воспроизводит эти цитаты без изменения смысла.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Deep learning methods for 2D material electronic properties\nИдентификатор статьи: 10.1039/D5DD00155B\nГод: 2026\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p.28-29\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nВ разделе 5 авторы перечисляют ключевые вызовы и будущие направления. Найдите в тексте упоминания следующих концепций: - uncertainty quantification; - interpretability / explainable AI (XAI); - foundation models; - autonomous labs (self‑driving laboratories). Для каждого из них выпишите одну цитату (одно предложение), в которой описывается проблема или предложение. Затем оцените, насколько полно каждая модель (baseline vs tuned) воспроизводит эти цитаты без изменения смысла.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "В разделе 5 авторы перечисляют ключевые вызовы и будущие направления. Найдите в тексте упоминания следующих концепций:\n- uncertainty quantification;\n- interpretability / explainable AI (XAI);\n- foundation models;\n- autonomous labs (self‑driving laboratories).\nДля каждого из них выпишите одну цитату (одно предложение), в которой описывается проблема или предложение. Затем оцените, насколько полно каждая модель (baseline vs tuned) воспроизводит эти цитаты без изменения смысла.", "notes_available": false}} +{"sample_id": "task3:0987c43afc:case-006", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-006", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State", "paper_id": "arXiv:2603.14515", "year": "2026", "evidence_kind": "figure", "page_hint": "p.1, Fig.1", "model_task_prompt": "По логарифмическому графику определите показатель степени для Excited Pfaffians. Сравните с наклонами кривых NES и Szabó et al.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State\nИдентификатор статьи: arXiv:2603.14515\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.1, Fig.1\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПо логарифмическому графику определите показатель степени для Excited Pfaffians. Сравните с наклонами кривых NES и Szabó et al.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State\nИдентификатор статьи: arXiv:2603.14515\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.1, Fig.1\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nПо логарифмическому графику определите показатель степени для Excited Pfaffians. Сравните с наклонами кривых NES и Szabó et al.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/0987c43afc/case-006/rendered_page_0001.png", "assets/images/0987c43afc/case-006/rendered_page_0008.png", "assets/images/0987c43afc/case-006/rendered_page_0019.png", "assets/images/0987c43afc/case-006/rendered_page_0020.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "По логарифмическому графику определите показатель степени для Excited Pfaffians. Сравните с наклонами кривых NES и Szabó et al.", "notes_available": false}} +{"sample_id": "task3:0987c43afc:case-007", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-007", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State", "paper_id": "arXiv:2603.14515", "year": "2026", "evidence_kind": "figure", "page_hint": "p.5, Fig.3", "model_task_prompt": "Для Excited Pfaffian (панель a) назовите, какие компоненты общие для всех состояний, а какие — state‑specific.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State\nИдентификатор статьи: arXiv:2603.14515\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.5, Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nДля Excited Pfaffian (панель a) назовите, какие компоненты общие для всех состояний, а какие — state‑specific.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State\nИдентификатор статьи: arXiv:2603.14515\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.5, Fig.3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nДля Excited Pfaffian (панель a) назовите, какие компоненты общие для всех состояний, а какие — state‑specific.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/0987c43afc/case-007/rendered_page_0005.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "Для Excited Pfaffian (панель a) назовите, какие компоненты общие для всех состояний, а какие — state‑specific.", "notes_available": false}} +{"sample_id": "task3:0987c43afc:case-008", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-008", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State", "paper_id": "arXiv:2603.14515", "year": "2026", "evidence_kind": "figure", "page_hint": "p.6, Fig.4", "model_task_prompt": "Найдите атом, для которого все 10 состояний находятся в пределах химической точности (1.6 mHa) от эксперимента. Для него выпишите погрешность самого высокого уровня.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State\nИдентификатор статьи: arXiv:2603.14515\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.6, Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНайдите атом, для которого все 10 состояний находятся в пределах химической точности (1.6 mHa) от эксперимента. Для него выпишите погрешность самого высокого уровня.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State\nИдентификатор статьи: arXiv:2603.14515\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.6, Fig.4\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНайдите атом, для которого все 10 состояний находятся в пределах химической точности (1.6 mHa) от эксперимента. Для него выпишите погрешность самого высокого уровня.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/0987c43afc/case-008/rendered_page_0006.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "Найдите атом, для которого все 10 состояний находятся в пределах химической точности (1.6 mHa) от эксперимента. Для него выпишите погрешность самого высокого уровня.", "notes_available": false}} +{"sample_id": "task3:0987c43afc:case-009", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-009", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State", "paper_id": "arXiv:2603.14515", "year": "2026", "evidence_kind": "figure", "page_hint": "p.7, Fig.5", "model_task_prompt": "В районе 1.6Å происходит обмен двух синглетных состояний. Назовите оба состояния и укажите, какой метод (Excited Pfaffian или Schätzle) сохраняет больше состояний на больших расстояниях.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State\nИдентификатор статьи: arXiv:2603.14515\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.7, Fig.5\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nВ районе 1.6Å происходит обмен двух синглетных состояний. Назовите оба состояния и укажите, какой метод (Excited Pfaffian или Schätzle) сохраняет больше состояний на больших расстояниях.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State\nИдентификатор статьи: arXiv:2603.14515\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.7, Fig.5\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nВ районе 1.6Å происходит обмен двух синглетных состояний. Назовите оба состояния и укажите, какой метод (Excited Pfaffian или Schätzle) сохраняет больше состояний на больших расстояниях.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/0987c43afc/case-009/rendered_page_0007.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "В районе 1.6Å происходит обмен двух синглетных состояний. Назовите оба состояния и укажите, какой метод (Excited Pfaffian или Schätzle) сохраняет больше состояний на больших расстояниях.", "notes_available": false}} +{"sample_id": "task3:0987c43afc:case-010", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-010", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Transferable neural wavefunctions for solids", "paper_id": "10.1038/s43588-025-00872-z", "year": "2025", "evidence_kind": "figure", "page_hint": "p.2, Fig. 1d", "model_task_prompt": "На панели d рисунка 1 показано, как переносимая волновая функция использует среднее поле (mean‑field) для начальных орбиталей. Определите, какие компоненты остаются «замороженными», а какие обучаются нейросетью. Объясните, почему такой подход ускоряет обучение для новых систем.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Transferable neural wavefunctions for solids\nИдентификатор статьи: 10.1038/s43588-025-00872-z\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig. 1d\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНа панели d рисунка 1 показано, как переносимая волновая функция использует среднее поле (mean‑field) для начальных орбиталей. Определите, какие компоненты остаются «замороженными», а какие обучаются нейросетью. Объясните, почему такой подход ускоряет обучение для новых систем.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Transferable neural wavefunctions for solids\nИдентификатор статьи: 10.1038/s43588-025-00872-z\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.2, Fig. 1d\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНа панели d рисунка 1 показано, как переносимая волновая функция использует среднее поле (mean‑field) для начальных орбиталей. Определите, какие компоненты остаются «замороженными», а какие обучаются нейросетью. Объясните, почему такой подход ускоряет обучение для новых систем.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "На панели d рисунка 1 показано, как переносимая волновая функция использует среднее поле (mean‑field) для начальных орбиталей. Определите, какие компоненты остаются «замороженными», а какие обучаются нейросетью. Объясните, почему такой подход ускоряет обучение для новых систем.", "notes_available": false}} +{"sample_id": "task3:0987c43afc:case-011", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-011", "stratum": "temporal_hard", "primary_endpoint": false, "paper_title": "Transferable neural wavefunctions for solids", "paper_id": "10.1038/s43588-025-00872-z", "year": "2025", "evidence_kind": "page", "page_hint": "стр. 2, последний абзац введения", "model_task_prompt": "В тексте упоминается, что DeepSolid потребовал 80 000 GPU‑часов для одного расчёта. Найдите, во сколько раз меньше времени потребовал предложенный метод при переносе с 32‑электронной на 108‑электронную систему LiH. Какой коэффициент ускорения назван в статье?", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Transferable neural wavefunctions for solids\nИдентификатор статьи: 10.1038/s43588-025-00872-z\nГод: 2025\nТип evidence: page\nПодсказка по странице/рисунку/таблице: стр. 2, последний абзац введения\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nВ тексте упоминается, что DeepSolid потребовал 80 000 GPU‑часов для одного расчёта. Найдите, во сколько раз меньше времени потребовал предложенный метод при переносе с 32‑электронной на 108‑электронную систему LiH. Какой коэффициент ускорения назван в статье?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Transferable neural wavefunctions for solids\nИдентификатор статьи: 10.1038/s43588-025-00872-z\nГод: 2025\nТип evidence: page\nПодсказка по странице/рисунку/таблице: стр. 2, последний абзац введения\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nВ тексте упоминается, что DeepSolid потребовал 80 000 GPU‑часов для одного расчёта. Найдите, во сколько раз меньше времени потребовал предложенный метод при переносе с 32‑электронной на 108‑электронную систему LiH. Какой коэффициент ускорения назван в статье?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "В тексте упоминается, что DeepSolid потребовал 80 000 GPU‑часов для одного расчёта. Найдите, во сколько раз меньше времени потребовал предложенный метод при переносе с 32‑электронной на 108‑электронную систему LiH. Какой коэффициент ускорения назван в статье?", "notes_available": false}} +{"sample_id": "task3:0987c43afc:case-012", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-012", "stratum": "multimodal_hard", "primary_endpoint": false, "paper_title": "Transferable neural wavefunctions for solids", "paper_id": "10.1038/s43588-025-00872-z", "year": "2025", "evidence_kind": "figure", "page_hint": "p.3, Fig. 2a", "model_task_prompt": "На рисунке 2a показано сравнение энергий на атом для водородной цепи. Найдите метод, который даёт самую низкую энергию (наиболее точную). Укажите, какое значение (в mHa) получено предложенным методом при экстраполяции к термодинамическому пределу с использованием TABC.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Transferable neural wavefunctions for solids\nИдентификатор статьи: 10.1038/s43588-025-00872-z\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig. 2a\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНа рисунке 2a показано сравнение энергий на атом для водородной цепи. Найдите метод, который даёт самую низкую энергию (наиболее точную). Укажите, какое значение (в mHa) получено предложенным методом при экстраполяции к термодинамическому пределу с использованием TABC.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Transferable neural wavefunctions for solids\nИдентификатор статьи: 10.1038/s43588-025-00872-z\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig. 2a\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНа рисунке 2a показано сравнение энергий на атом для водородной цепи. Найдите метод, который даёт самую низкую энергию (наиболее точную). Укажите, какое значение (в mHa) получено предложенным методом при экстраполяции к термодинамическому пределу с использованием TABC.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "На рисунке 2a показано сравнение энергий на атом для водородной цепи. Найдите метод, который даёт самую низкую энергию (наиболее точную). Укажите, какое значение (в mHa) получено предложенным методом при экстраполяции к термодинамическому пределу с использованием TABC.", "notes_available": false}} +{"sample_id": "task3:0987c43afc:case-013", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-013", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "Transferable neural wavefunctions for solids", "paper_id": "10.1038/s43588-025-00872-z", "year": "2025", "evidence_kind": "figure", "page_hint": "p.3, Fig. 2b", "model_task_prompt": "На рисунке 2b показана комплексная поляризация как функция межатомного расстояния. Авторы утверждают, что наблюдают металл‑изоляторный переход. В каком диапазоне R (в единицах a₀) происходит переход согласно их данным? Чем их оценка критического расстояния отличается от оценки Motta et al.?", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Transferable neural wavefunctions for solids\nИдентификатор статьи: 10.1038/s43588-025-00872-z\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig. 2b\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nНа рисунке 2b показана комплексная поляризация как функция межатомного расстояния. Авторы утверждают, что наблюдают металл‑изоляторный переход. В каком диапазоне R (в единицах a₀) происходит переход согласно их данным? Чем их оценка критического расстояния отличается от оценки Motta et al.?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Transferable neural wavefunctions for solids\nИдентификатор статьи: 10.1038/s43588-025-00872-z\nГод: 2025\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p.3, Fig. 2b\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nНа рисунке 2b показана комплексная поляризация как функция межатомного расстояния. Авторы утверждают, что наблюдают металл‑изоляторный переход. В каком диапазоне R (в единицах a₀) происходит переход согласно их данным? Чем их оценка критического расстояния отличается от оценки Motta et al.?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "На рисунке 2b показана комплексная поляризация как функция межатомного расстояния. Авторы утверждают, что наблюдают металл‑изоляторный переход. В каком диапазоне R (в единицах a₀) происходит переход согласно их данным? Чем их оценка критического расстояния отличается от оценки Motta et al.?", "notes_available": false}} +{"sample_id": "task3:0987c43afc:case-014", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-014", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "Transferable neural wavefunctions for solids", "paper_id": "10.1038/s43588-025-00872-z", "year": "2025", "evidence_kind": "table", "page_hint": "p.4, Table 1", "model_task_prompt": "В таблице 1 сравниваются полные энергии графена для трёх твистов. Для твиста k2 (вес 2/3) найдите энергию, полученную DeepSolid, и энергию, полученную авторами. Вычислите разницу в mH.", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Transferable neural wavefunctions for solids\nИдентификатор статьи: 10.1038/s43588-025-00872-z\nГод: 2025\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.4, Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nВ таблице 1 сравниваются полные энергии графена для трёх твистов. Для твиста k2 (вес 2/3) найдите энергию, полученную DeepSolid, и энергию, полученную авторами. Вычислите разницу в mH.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: Transferable neural wavefunctions for solids\nИдентификатор статьи: 10.1038/s43588-025-00872-z\nГод: 2025\nТип evidence: table\nПодсказка по странице/рисунку/таблице: p.4, Table 1\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nВ таблице 1 сравниваются полные энергии графена для трёх твистов. Для твиста k2 (вес 2/3) найдите энергию, полученную DeepSolid, и энергию, полученную авторами. Вычислите разницу в mH.\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}]}], "images": [], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "В таблице 1 сравниваются полные энергии графена для трёх твистов. Для твиста k2 (вес 2/3) найдите энергию, полученную DeepSolid, и энергию, полученную авторами. Вычислите разницу в mH.", "notes_available": false}} +{"sample_id": "task3:0987c43afc:case-015", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-015", "stratum": "temporal_hard", "primary_endpoint": true, "paper_title": "V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction", "paper_id": "arXiv:2603.15669", "year": "2026", "evidence_kind": "page", "page_hint": "p. 7–9, 2.1 (a, b, c)", "model_task_prompt": "Авторы описывают три сценария с возрастающей сложностью: интерполяция внутри MD‑траектории, случайное разделение QM9, экстраполяция на фторсодержащие молекулы. Для третьего сценария укажите, какие элементы отсутствовали в тренировочном наборе. Как меняется ошибка предсказания при переходе от первого сценария к третьему?", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction\nИдентификатор статьи: arXiv:2603.15669\nГод: 2026\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p. 7–9, 2.1 (a, b, c)\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nАвторы описывают три сценария с возрастающей сложностью: интерполяция внутри MD‑траектории, случайное разделение QM9, экстраполяция на фторсодержащие молекулы. Для третьего сценария укажите, какие элементы отсутствовали в тренировочном наборе. Как меняется ошибка предсказания при переходе от первого сценария к третьему?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction\nИдентификатор статьи: arXiv:2603.15669\nГод: 2026\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p. 7–9, 2.1 (a, b, c)\nСлой сложности: temporal_hard\n\nАдаптированная задача:\nАвторы описывают три сценария с возрастающей сложностью: интерполяция внутри MD‑траектории, случайное разделение QM9, экстраполяция на фторсодержащие молекулы. Для третьего сценария укажите, какие элементы отсутствовали в тренировочном наборе. Как меняется ошибка предсказания при переходе от первого сценария к третьему?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}, {"type": "image"}, {"type": "image"}]}], "images": ["assets/images/0987c43afc/case-015/rendered_page_0007.png", "assets/images/0987c43afc/case-015/rendered_page_0008.png", "assets/images/0987c43afc/case-015/rendered_page_0009.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["temporal", "evidence"], "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "Авторы описывают три сценария с возрастающей сложностью: интерполяция внутри MD‑траектории, случайное разделение QM9, экстраполяция на фторсодержащие молекулы. Для третьего сценария укажите, какие элементы отсутствовали в тренировочном наборе. Как меняется ошибка предсказания при переходе от первого сценария к третьему?", "notes_available": false}} +{"sample_id": "task3:0987c43afc:case-016", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-016", "stratum": "multimodal_hard", "primary_endpoint": true, "paper_title": "V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction", "paper_id": "arXiv:2603.15669", "year": "2026", "evidence_kind": "figure", "page_hint": "p. 10, Fig. 3", "model_task_prompt": "На рисунке 3 показано сравнение предсказанной электронной плотности и DFT‑плотности. Визуально оцените, хорошо ли воспроизводится форма и положение максимумов. В каких областях (вблизи ядер или в межмолекулярном пространстве) заметны расхождения? Почему авторы исключают околоядерные области из расчёта ошибок?", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction\nИдентификатор статьи: arXiv:2603.15669\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p. 10, Fig. 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНа рисунке 3 показано сравнение предсказанной электронной плотности и DFT‑плотности. Визуально оцените, хорошо ли воспроизводится форма и положение максимумов. В каких областях (вблизи ядер или в межмолекулярном пространстве) заметны расхождения? Почему авторы исключают околоядерные области из расчёта ошибок?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction\nИдентификатор статьи: arXiv:2603.15669\nГод: 2026\nТип evidence: figure\nПодсказка по странице/рисунку/таблице: p. 10, Fig. 3\nСлой сложности: multimodal_hard\n\nАдаптированная задача:\nНа рисунке 3 показано сравнение предсказанной электронной плотности и DFT‑плотности. Визуально оцените, хорошо ли воспроизводится форма и положение максимумов. В каких областях (вблизи ядер или в межмолекулярном пространстве) заметны расхождения? Почему авторы исключают околоядерные области из расчёта ошибок?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/0987c43afc/case-016/rendered_page_0010.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["evidence", "visual_fact"], "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "На рисунке 3 показано сравнение предсказанной электронной плотности и DFT‑плотности. Визуально оцените, хорошо ли воспроизводится форма и положение максимумов. В каких областях (вблизи ядер или в межмолекулярном пространстве) заметны расхождения? Почему авторы исключают околоядерные области из расчёта ошибок?", "notes_available": false}} +{"sample_id": "task3:0987c43afc:case-017", "benchmark_version": "task3_hf_benchmark_v1", "task_family": "task3_vlm_ab_generation", "language": "ru", "split": "test", "topic": "AI in Quantum Chemistry", "submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "case_id": "CASE-017", "stratum": "easy_control", "primary_endpoint": true, "paper_title": "V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction", "paper_id": "arXiv:2603.15669", "year": "2026", "evidence_kind": "page", "page_hint": "p. 12, 3.1, Eq 1", "model_task_prompt": "В разделе 3.1 авторы связывают FNO с линейной теорией отклика. Найдите интегральное выражение, связывающее изменение плотности с изменением внешнего потенциала через функцию отклика χ. Напишите это уравнение (можно в текстовом виде). Чем FNO отличается от линейного отклика?", "input_text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction\nИдентификатор статьи: arXiv:2603.15669\nГод: 2026\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p. 12, 3.1, Eq 1\nСлой сложности: easy_control\n\nАдаптированная задача:\nВ разделе 3.1 авторы связывают FNO с линейной теорией отклика. Найдите интегральное выражение, связывающее изменение плотности с изменением внешнего потенциала через функцию отклика χ. Напишите это уравнение (можно в текстовом виде). Чем FNO отличается от линейного отклика?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}", "messages": [{"role": "system", "content": [{"type": "text", "text": "Вы — vision-language модель для анализа научных публикаций. Отвечайте только на основе предоставленных вводных данных, изображений страниц, таблиц, рисунков и текста. Не выдумывайте численные значения и не делайте выводы, если evidence недостаточно. Ответ должен быть полезен эксперту, который затем будет сравнивать два ответа в blind A/B тесте."}]}, {"role": "user", "content": [{"type": "text", "text": "Задача для VLM по Task 3 benchmark.\n\nТема эксперта: AI in Quantum Chemistry\nСтатья: V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction\nИдентификатор статьи: arXiv:2603.15669\nГод: 2026\nТип evidence: page\nПодсказка по странице/рисунку/таблице: p. 12, 3.1, Eq 1\nСлой сложности: easy_control\n\nАдаптированная задача:\nВ разделе 3.1 авторы связывают FNO с линейной теорией отклика. Найдите интегральное выражение, связывающее изменение плотности с изменением внешнего потенциала через функцию отклика χ. Напишите это уравнение (можно в текстовом виде). Чем FNO отличается от линейного отклика?\n\nИспользуйте приложенные изображения страниц/рисунков/таблиц, если они есть. Если изображений нет или evidence недостаточно, явно укажите это в missing_evidence и uncertainty.\n\nВерните ответ в JSON-объекте со следующими ключами:\n{\n \"answer\": \"краткий предметный ответ на задачу\",\n \"evidence_used\": [\n {\"kind\": \"figure|table|page|text|unknown\", \"locator\": \"например Fig. 2 / Table 1 / p. 3\", \"description\": \"какая evidence использована\"}\n ],\n \"visual_facts\": [\"факты, извлечённые из изображений/таблиц/графиков\"],\n \"temporal_facts\": [\"временные метки, фазы, лаги или последовательности, если применимо\"],\n \"uncertainty\": \"low|medium|high\",\n \"missing_evidence\": [\"что не удалось проверить по предоставленным данным\"]\n}"}, {"type": "image"}]}], "images": ["assets/images/0987c43afc/case-017/rendered_page_0012.png"], "generation_target_schema": {"answer": "string", "evidence_used": "list[{kind, locator, description}]", "visual_facts": "list[string]", "temporal_facts": "list[string]", "uncertainty": "low|medium|high", "missing_evidence": "list[string]"}, "review_metadata": {"review_focus": ["overall"], "expected_error_modes": [], "creator_rationale_available": true, "source_manifest": "0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", "original_creator_prompt": "В разделе 3.1 авторы связывают FNO с линейной теорией отклика. Найдите интегральное выражение, связывающее изменение плотности с изменением внешнего потенциала через функцию отклика χ. Напишите это уравнение (можно в текстовом виде). Чем FNO отличается от линейного отклика?", "notes_available": false}} diff --git a/metadata/build_summary.json b/metadata/build_summary.json new file mode 100644 index 0000000000000000000000000000000000000000..fccf52d419ef03b1e611e69c091d937f4e849a8f --- /dev/null +++ b/metadata/build_summary.json @@ -0,0 +1,82 @@ +{ + "generated_at": "2026-05-12T18:22:14Z", + "dataset_repo_id": "top-papers/top-papers-graph-benchmark", + "dataset_config_name": "task3_vlm_generation", + "split_name": "test", + "input_paths": [ + "/content/task3_hf_work/selected_task3_inputs" + ], + "manifests": [ + "/content/task3_hf_work/selected_task3_inputs/0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - Денис Александрович.json", + "/content/task3_hf_work/selected_task3_inputs/0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - Екатерина Кубракова.json", + "/content/task3_hf_work/selected_task3_inputs/0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - Вадим Наумов.json", + "/content/task3_hf_work/selected_task3_inputs/0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - Иван Семидетнов.json", + "/content/task3_hf_work/selected_task3_inputs/0005_vysokikh_dmitrii_konstantinovich__task3_ab_case_manifest.filled - Дмитрий Высоких.json", + "/content/task3_hf_work/selected_task3_inputs/0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json", + "/content/task3_hf_work/selected_task3_inputs/0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Maтвей Замятин.json", + "/content/task3_hf_work/selected_task3_inputs/0008_mukhorin_matvei_dmtrievich__task3_ab_case_manifest.filled - Matvey Mukhorin.json", + "/content/task3_hf_work/selected_task3_inputs/0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - Иван Горбунов.json", + "/content/task3_hf_work/selected_task3_inputs/0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - Дарья Беспятчук.json", + "/content/task3_hf_work/selected_task3_inputs/0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - Артем Васин.json", + "/content/task3_hf_work/selected_task3_inputs/0012_riabkov_evgenii_iur_evich__task3_ab_case_manifest.filled_Ryabkov - Evgeny Ryabkov.json", + "/content/task3_hf_work/selected_task3_inputs/0013_kudriashov_mstislav_aleksandrovich__task3_ab_case_manifest.filled - Мстислав.json", + "/content/task3_hf_work/selected_task3_inputs/0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json", + "/content/task3_hf_work/selected_task3_inputs/0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json", + "/content/task3_hf_work/selected_task3_inputs/0016_parochkin_andrei_vital_evich__task3_ab_case_manifest.filled - Andre Parochkin.json", + "/content/task3_hf_work/selected_task3_inputs/0017_parochkina_ekaterina_vladimirovna__task3_ab_case_manifest.filled - Ekaterina Parochkina.json", + "/content/task3_hf_work/selected_task3_inputs/0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - Никита Свинкин.json", + "/content/top_papers_graph_benchmark_task3/_work/extracted_archives/0002_kubrakova_ekaterina_aleksandrovna__task3_ab_creator_rest_files_ru__1cd56a407036/task3_ab_case_manifest.template.json", + "/content/top_papers_graph_benchmark_task3/_work/extracted_archives/0010_shevchenko_dar_ia_andreevna__task3_ab_creator_rest_files_ru__1e50e912a3a6/task3_ab_case_manifest.template.json" + ], + "explicit_images": [], + "explicit_pdfs": [], + "other_files_discovered": 12, + "manifests_discovered": 20, + "cases_total": 210, + "cases_written": 182, + "cases_skipped_disabled": 0, + "cases_skipped_incomplete": 28, + "cases_with_images": 59, + "explicit_images_copied": 0, + "rendered_pages": 111, + "pdfs_discovered": 0, + "pdfs_downloaded": 32, + "paper_download_errors": [ + { + "paper_id": "doi:10.1152/ajpheart.00794.2003", + "url": "https://arxiv.org/pdf/0794.2003.pdf", + "error": "HTTPError('404 Client Error: Not Found for url: https://arxiv.org/pdf/0794.2003')" + }, + { + "paper_id": "doi:10.1161/01.RES.0000130529.18016.35", + "url": "https://arxiv.org/pdf/0529.18016.pdf", + "error": "HTTPError('404 Client Error: Not Found for url: https://arxiv.org/pdf/0529.18016')" + }, + { + "paper_id": "doi:10.1152/ajpheart.00794.2003", + "url": "https://arxiv.org/pdf/0794.2003.pdf", + "error": "HTTPError('404 Client Error: Not Found for url: https://arxiv.org/pdf/0794.2003')" + }, + { + "paper_id": "doi:10.1152/physrev.00025.2003", + "url": "https://arxiv.org/pdf/0025.2003.pdf", + "error": "HTTPError('404 Client Error: Not Found for url: https://arxiv.org/pdf/0025.2003')" + }, + { + "paper_id": "doi:10.1161/01.RES.0000130529.18016.35", + "url": "https://arxiv.org/pdf/0529.18016.pdf", + "error": "HTTPError('404 Client Error: Not Found for url: https://arxiv.org/pdf/0529.18016')" + }, + { + "paper_id": "10.1109/JDT.2009.2034559", + "url": "https://arxiv.org/pdf/2009.20345.pdf", + "error": "HTTPError('404 Client Error: Not Found for url: https://arxiv.org/pdf/2009.20345')" + }, + { + "paper_id": "10.1109/JDT.2009.2034559", + "url": "https://arxiv.org/pdf/2009.20345.pdf", + "error": "HTTPError('404 Client Error: Not Found for url: https://arxiv.org/pdf/2009.20345')" + } + ], + "warnings": [] +} \ No newline at end of file diff --git a/review_metadata/task3_case_rationales.jsonl b/review_metadata/task3_case_rationales.jsonl new file mode 100644 index 0000000000000000000000000000000000000000..7fa35ac883c649ec0d7d7572069f638408adaa3a --- /dev/null +++ b/review_metadata/task3_case_rationales.jsonl @@ -0,0 +1,210 @@ +{"submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Ordering, Metastability and Phase Transitions in Two-Dimensional Systems", "paper_id": "DOI:10.1088/0022-3719/6/7/010", "year": "1973", "evidence_kind": "figure_or_table", "page_hint": "p.1191–1192, Fig.1 & Fig.2", "creator_prompt": "Сравните, какой вариант точнее интерпретирует рисунки 1 и 2 (стр. 1191–1192): извлеките связь между направлением обхода замкнутого контура и величиной топологического заряда q, и проверьте, не теряется ли эта визуальная закономерность в hypothesis support.", "model_task_prompt": "Сравните, какой вариант точнее интерпретирует рисунки 1 и 2 (стр. 1191–1192): извлеките связь между направлением обхода замкнутого контура и величиной топологического заряда q, и проверьте, не теряется ли эта визуальная закономерность в hypothesis support.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Ключевой концептуальный факт о топологическом порядке (дискретное изменение фазы dФ=2piq при обходе контура) задан исключительно через схемы на рис. 1 и 2. Базовые VLM часто упускают геометрическую логику физических диаграмм, ошибочно привязывают формулы к неверным элементам или теряют связь между визуальным контуром и математическим определением заряда. Кейс диагностирует именно точность visual grounding и способность модели сохранять топологический инвариант, извлечённый из рисунка.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Quasicrystalline structures in strongly coupled dusty plasma", "paper_id": "DOI:10.1070/PU1997v040n11ABEH000308", "year": "1977", "evidence_kind": "figure", "page_hint": "p.1166, Fig.4", "creator_prompt": "Сравните, какой вариант точнее извлекает данные из графика на рис. 4 (стр. 1165): определите, какая кривая соответствует переходу от “газообразного” к “жидкоподобному” состоянию, и проверьте, правильно ли модель связывает появление пика g(r) с указанным в тексте значением параметра связи Γ = 40.", "model_task_prompt": "Сравните, какой вариант точнее извлекает данные из графика на рис. 4 (стр. 1165): определите, какая кривая соответствует переходу от “газообразного” к “жидкоподобному” состоянию, и проверьте, правильно ли модель связывает появление пика g(r) с указанным в тексте значением параметра связи Γ = 40.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Ключевой диагностический факт (фазовый переход при Γ = 40) визуализирован через форму кривых g(r) на рис. 4. Базовые VLM часто теряют точные численные значения осей, путают подписи кривых (1, 2, 3) или не связывают визуальный пик корреляционной функции с физическим параметром Г, упомянутым в тексте. Кейс проверяет способность модели точно считывать научные графики, сопоставлять их с текстовыми параметрами и сохранять корректную evidence linkage.", "expected_error_modes": ["wrong_evidence_linkage", "missed_visual_fact"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Quasicrystalline structures in strongly coupled dusty plasma", "paper_id": "DOI:10.1070/PU1997v040n11ABEH000308", "year": "1977", "evidence_kind": "figure_or_table", "page_hint": "p.1166, Fig.5", "creator_prompt": "Сравните, какой вариант вернее интерпретирует фазовую диаграмму на рис. 5 (стр. 1166): извлеките координаты экспериментальных точек в логарифмическом масштабе осей, определите, относительно каких теоретических кривых они лежат, и проверьте, не нарушается ли при этом условие образования упорядоченных структур, описанное в тексте.", "model_task_prompt": "Сравните, какой вариант вернее интерпретирует фазовую диаграмму на рис. 5 (стр. 1166): извлеките координаты экспериментальных точек в логарифмическом масштабе осей, определите, относительно каких теоретических кривых они лежат, и проверьте, не нарушается ли при этом условие образования упорядоченных структур, описанное в тексте.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Рис. 5 представляет собой логарифмическую фазовую диаграмму, где положение экспериментальных точек относительно теоретических границ определяет наличие фазового перехода. VLM baseline часто ошибается при считывании лог-шкал, путает обозначения кривых (OCP vs Debye model) или теряет связь между визуальным положением точки и выводом о формировании квазикристалла. Кейс диагностирует точность работы с научными графиками и способность модели сохранять корректную привязку визуальных данных к текстовым выводам.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Melting dynamics of a plasma crystal", "paper_id": "DOI:10.1038/379806a0", "year": "1996", "evidence_kind": "figure", "page_hint": "p. 809, Fig. 3", "creator_prompt": "Сравните, какой вариант точнее считывает график на рис. 3: определите давление газа (0.32 мбар), при котором ориентационный порядок демонстрирует локальный максимум, в то время как трансляционный порядок продолжает монотонно падать.", "model_task_prompt": "Сравните, какой вариант точнее считывает график на рис. 3: определите давление газа (0.32 мбар), при котором ориентационный порядок демонстрирует локальный максимум, в то время как трансляционный порядок продолжает монотонно падать.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Ключевой диагностический вывод статьи (парадоксальное восстановление ориентационного порядка при продолжающемся разрушении трансляционной решётки) закодирован исключительно в форме двух кривых на рис. 3. Базовые VLM часто путают оси, теряют масштаб логарифмической/линейной сетки или не связывают заштрихованную область графика с конкретным давлением вторичного пика. Кейс диагностирует точность multi-curve reading, способность модели отслеживать неочевидные визуальные паттерны и сохранять корректную evidence linkage.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Plasma Crystal: Coulomb Crystallization in a Dusty Plasma", "paper_id": "DOI: https://doi.org/10.1103/PhysRevLett.73.652", "year": "1994", "evidence_kind": "figure", "page_hint": "p. 653, Fig. 4", "creator_prompt": "Сравните три гистограммы на рис. 4 (стр. 653): определите, какое из распределений (площадь ячеек, число сторон или расстояние до соседа) наиболее чётко отличает экспериментальные данные (чёрные столбцы) от случайного распределения (белые), и проверьте, сохраняет ли модель связь между сужением пиков и выводом о кристаллическом порядке.", "model_task_prompt": "Сравните три гистограммы на рис. 4 (стр. 653): определите, какое из распределений (площадь ячеек, число сторон или расстояние до соседа) наиболее чётко отличает экспериментальные данные (чёрные столбцы) от случайного распределения (белые), и проверьте, сохраняет ли модель связь между сужением пиков и выводом о кристаллическом порядке.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Рис. 4 содержит три взаимосвязанные гистограммы, где ключевой диагностический признак (кристаллизация) проявляется в сужении распределений и смещении мод относительно случайного газа. Базовые VLM часто путают легенду (чёрные/белые столбцы), теряют масштаб осей или не сопоставляют форму распределений с физическим выводом о переходе “газ – кристалл”. Кейс проверяет fine-grained visual comparison, способность модели извлекать статистические тренды из multi-panel plots и корректно привязывать их к текстовому claim о crystalline order.", "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference", "missed_visual_fact"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Plasma Crystal: Coulomb Crystallization in a Dusty Plasma", "paper_id": "DOI: https://doi.org/10.1103/PhysRevLett.73.652", "year": "1994", "evidence_kind": "figure", "page_hint": "p. 654, Fig. 3", "creator_prompt": "Проанализируйте тесселяцию на рис. 3: определите, какая геометрическая фигура преобладает среди ячеек Вороного, проверьте, связывает ли модель визуальное доминирование шестиугольников с выводом о формировании кристаллической решётки.", "model_task_prompt": "Проанализируйте тесселяцию на рис. 3: определите, какая геометрическая фигура преобладает среди ячеек Вороного, проверьте, связывает ли модель визуальное доминирование шестиугольников с выводом о формировании кристаллической решётки.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Рис. 3 содержит топологическое доказательство кристаллизации: ячейки Вороного преимущественно шестиугольные с почти равными площадями. Базовые VLM часто воспринимают такую сетку как декоративный шум, не распознают доминирующую валентность (количество сторон). Кейс диагностирует способность модели извлекать топологические особенности из научной визуализации и корректно привязывать их к фазовому состоянию (кристалл в данном случае) без опоры на текст.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Hexatic phase in two-dimensional Yukawa systems: Existence and properties", "paper_id": "DOI 10.1088/1742-6596/653/1/012103", "year": "2015", "evidence_kind": "figure", "page_hint": "p.3-4, Fig.1 & Fig.3", "creator_prompt": "Сравните, какой вариант точнее считывает рисунки 1 и 3: извлеките асимптотическое поведение g6(r) для гексатической фазы (степенной закон r^(-1/5)), сопоставьте его с положением пика теплоёмкости Cv и определите границы переходов при Γ = 98 и Γ=154.", "model_task_prompt": "Сравните, какой вариант точнее считывает рисунки 1 и 3: извлеките асимптотическое поведение g6(r) для гексатической фазы (степенной закон r^(-1/5)), сопоставьте его с положением пика теплоёмкости Cv и определите границы переходов при Γ = 98 и Γ=154.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Ключевой диагностический вывод о двухстадийном плавлении закодирован в форме кривых на рис. 1 и сингулярности теплоемкости на рис. 3. Базовые VLM часто путают асимптотики на лог-шкалах, теряют связь между визуальным пиком и переходом, или галлюцинируют численные значения , не сверяя их с осями. Кейс проверяет точность извлечения степенных зависимостей, сопоставления multi-panel графиков и сохранения evidence linkage между визуальными особенностями и фазовыми переходами", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Hexatic phase in two-dimensional Yukawa systems: Existence and properties", "paper_id": "DOI 10.1088/1742-6596/653/1/012103", "year": "2015", "evidence_kind": "figure", "page_hint": "p.4–5, Fig.5 & Fig.6", "creator_prompt": "Проанализируйте динамику фазового сценария при уменьшении Γ: определите последовательность потери порядка (трансляционный до ориентационного), выявите на рис. 5 расхождение в оценках критических точек из работ до и после 2010 года, и проверьте, как на рис. 6 сдвигается диапазон существования гексатической фазы при изменении параметра каппа.", "model_task_prompt": "Проанализируйте динамику фазового сценария при уменьшении Γ: определите последовательность потери порядка (трансляционный до ориентационного), выявите на рис. 5 расхождение в оценках критических точек из работ до и после 2010 года, и проверьте, как на рис. 6 сдвигается диапазон существования гексатической фазы при изменении параметра каппа.", "review_focus": ["temporal", "evidence"], "creator_rationale": "В работах по численному моделированию “временная” динамика заменяется эволюцией состояния при варьировании управляющего параметра и историческим уточнением границ. Рис. 5 и 6 визуализируют состояния системы перехода (кристалл - гексатика - жидкость) и тренд стабильности гексатической фазы при росте концентрации. VLM baseline часто теряет причинно-следственную связь в последовательности фазовых сдвигов, путает направления изменения границ на диаграммах или игнорирует контекст расхождения данных в литературе. Кейс диагностирует способность модели отслеживать динамику фазовых сценариев, сравнивать состояния до/после перехода. ", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Laser-induced melting of two-dimensional dusty plasma system in RF discharge", "paper_id": "DOI:10.1038/s41598-020-80082-x", "year": "2021", "evidence_kind": "figure", "page_hint": "p.6-7, Fig.4 & Fig.5", "creator_prompt": "Отследите последовательность разрушения порядка при уменьшении Γ: определите, какой тип порядка (трансляционный или ориентационный) теряется первым в районе Γ = 160Γ, а какой - в районе Г = 100, и проверьте, соответствует ли эта динамика визуальной эволюции дефектов на диаграммах Вороного (рис. 5).", "model_task_prompt": "Отследите последовательность разрушения порядка при уменьшении Γ: определите, какой тип порядка (трансляционный или ориентационный) теряется первым в районе Γ = 160Γ, а какой - в районе Г = 100, и проверьте, соответствует ли эта динамика визуальной эволюции дефектов на диаграммах Вороного (рис. 5).", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Ключевой диагностический вывод о двухстадийном плавлении (solid-hexatic-liquid) закодирован в последовательности расхождения пиков восприимчивостей χT и χ6 на рис. 4 и визуальной трансформации дефектов на рис. 5. Базовые VLM часто меняют местами порядок фазовых сдвигов, путают привязку критических точек к осям или игнорируют причинно-следственную связь между распадом пар дислокаций и последующим появлением свободных дисклинаций. Кейс проверяет способность модели отслеживать динамику фазового сценария и корректно интерпретировать последовательность событий «до/после» перехода.", "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Laser-induced melting of two-dimensional dusty plasma system in RF discharge", "paper_id": "DOI:10.1038/s41598-020-80082-x", "year": "2021", "evidence_kind": "figure", "page_hint": "p.5, Fig.3", "creator_prompt": "Проанализируйте эволюцию структурного фактора S(kxy) на рис. 3 при переходе от Γ=600 к Γ=50: опишите последовательную трансформацию максимумов (чёткие пики --- размытые гексагоны --- концентрические кольца) и проверьте, связывает ли модель промежуточную стадию с гексатической фазой, а не с прямым переходом твёрдое кристалл - жидкость.", "model_task_prompt": "Проанализируйте эволюцию структурного фактора S(kxy) на рис. 3 при переходе от Γ=600 к Γ=50: опишите последовательную трансформацию максимумов (чёткие пики --- размытые гексагоны --- концентрические кольца) и проверьте, связывает ли модель промежуточную стадию с гексатической фазой, а не с прямым переходом твёрдое кристалл - жидкость.", "review_focus": ["temporal", "visual_fact"], "creator_rationale": "Рис. 3 визуализирует параметрическую/временнýю эволюцию дифракционной картины в процессе плавления. Базовые модели часто воспринимают три панели как независимые снимки, упускают постепенное размытие пиков и не связывают промежуточную стадию (размытые гексагоны) с теоретическим предсказанием гексатической фазы. Кейс диагностирует способность модели отслеживать непрерывную динамику структурных изменений и корректно интерпретировать фазовую траекторию системы.", "expected_error_modes": ["missed_visual_fact", "hallucinated_visual_inference"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "Laser-induced melting of two-dimensional dusty plasma system in RF discharge", "paper_id": "DOI:10.1038/s41598-020-80082-x", "year": "2021", "evidence_kind": "page", "page_hint": "p.3, раздел Experiments", "creator_prompt": "Извлеките базовые параметры эксперимента: диаметр частиц, рабочее давление газа и диапазон мощности лазера, использованного для нагрева, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.", "model_task_prompt": "Извлеките базовые параметры эксперимента: диаметр частиц, рабочее давление газа и диапазон мощности лазера, использованного для нагрева, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.", "review_focus": ["overall"], "creator_rationale": "Кейс содержит чисто текстовые, явно указанные экспериментальные параметры (диаметр 10.16 мкм, давление 4.3 Па, мощность 20–300 мВт), которые не требуют визуального анализа или сложного фазового вывода. Базовые и донастроенные VLM должны одинаково точно извлекать эти факты. Кейс служит контрольным примером для проверки того, что модель не «переусложняет» простые запросы и сохраняет точность на straightforward extraction tasks.", "expected_error_modes": [], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "денис-заморин__f0377dec26", "creator_id": "Денис Заморин", "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "Laser-induced melting of two-dimensional dusty plasma system in RF discharge", "paper_id": "DOI:10.1038/s41598-020-80082-x", "year": "2021", "evidence_kind": "page", "page_hint": "p.2–3, раздел Experiments", "creator_prompt": "Извлеките базовые параметры ВЧ-разряда: частоту генератора, расстояние между электродами, рабочее давление аргона и мощность разряда, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.", "model_task_prompt": "Извлеките базовые параметры ВЧ-разряда: частоту генератора, расстояние между электродами, рабочее давление аргона и мощность разряда, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.", "review_focus": ["overall"], "creator_rationale": "Кейс содержит явно указанные в текстовом блоке Experiments параметры установки (13.56 МГц, 5 см, 4.3 Па, 7.9 Вт), которые не требуют визуального анализа, интерпретации графиков или фазовых выводов. Базовые и донастроенные VLM должны одинаково точно извлекать эти факты. Кейс служит контрольным примером для проверки того, что модель не «переусложняет» простые запросы и сохраняет точность на задачах прямого цитирования чисел из текста.", "expected_error_modes": [], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "\"AI Agents Simulate Behavioral Biases in Financial Markets\"", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "figure_or_table", "page_hint": "Fig.4", "creator_prompt": "Сравните, насколько правильно каждый VLM извлекает из Figure 4 ключевые параметры LLM-агентов (уровни bias, типы personality) и связывает их с описанными в тексте рыночными исходами (пузыри, крахи).", "model_task_prompt": "Извлеките из Figure 4 ключевые параметры LLM-агентов (уровни bias, типы personality) и связывает их с описанными в тексте рыночными исходами (пузыри, крахи)..", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Baseline VLM часто пропускает корреляцию между bias и динамикой цены, в то время как tuned VLM должен точно извлекать все числовые значения из графика и captions, правильно интерпретируя поведенческие эффекты.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "bubble_start", "premise_contains": "LLM agents with personality", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "\"AI Agents Simulate Behavioral Biases in Financial Markets\"", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "figure_or_table", "page_hint": "Fig.5", "creator_prompt": "Сравните, как каждый VLM определяет временные рамки критических изменений на рынке (points of inflection), правильно ли привязывает фазы роста/падения к конкретным таймстэмпам.", "model_task_prompt": "Определите временные рамки критических изменений на рынке (points of inflection), правильно ли привязывает фазы роста/падения к конкретным таймстэмпам..", "review_focus": ["temporal", "evidence"], "creator_rationale": "Baseline VLM часто игнорирует временные метки на графике или неправильно связывает событие market_crash с предшествующими показателями bias; tuned VLM должен точно распознавать временные последовательности и их влияние на динамику", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "LLM agents with personality", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "easy_control", "paper_title": "\"AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "page", "page_hint": "p.8", "creator_prompt": "Сравните, правильно ли каждый VLM определяет определение 'herd mentality' и его проявление в росте VWAP.", "model_task_prompt": "Определите определение 'herd mentality' и его проявление в росте VWAP..", "review_focus": ["overall"], "creator_rationale": "Этот кейс прост: информация о 'herd mentality' явно дана на странице 8, и корреляция с VWAP доступна в Table 2. Ошибки здесь маловероятны, но помогают проверить базовое понимание текста.", "expected_error_modes": [], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "herd mentality", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets\"", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "table", "page_hint": "Table 1", "creator_prompt": "Сравните, сколько типов personality настроено в агентах и какие именно bias (overconfidence, loss_aversion, dissonance) им назначены.", "model_task_prompt": "Определите, сколько типов personality настроено в агентах и какие именно bias (overconfidence, loss_aversion, dissonance) им назначены..", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Baseline VLM может пропустить часть bias из-за сложной структуры таблицы, а tuned VLM должен точно извлечь все соответствия.", "expected_error_modes": ["missed_visual_fact"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "loss_aversion", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "figure", "page_hint": "Fig.6", "creator_prompt": "Сравните, как каждый VLM связывает усиление 'herding' и 'overconfidence' с началом пузыря.", "model_task_prompt": "Свяжите усиление 'herding' и 'overconfidence' с началом пузыря..", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Этот кейс проверяет способность VLM к causal-temporal reasoning; ошибки наиболее вероятны именно в неверном понимании последовательности bias → рыночный пузырь", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "herding", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "AI Agents Simulate Behavioral Biases in Financial Market", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "figure_or_table", "page_hint": "Fig.3", "creator_prompt": "Сравните, насколько точно каждый VLM извлекает из Figure 3 значения VWAP и trade volume на разных фазах пузыря и связывает их с bias-параметрами агентов", "model_task_prompt": "Сравните, насколько точно каждый VLM извлекает из Figure 3 значения VWAP и trade volume на разных фазах пузыря и связывает их с bias-параметрами агентов", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Baseline VLM теряет часть числовых меток и неверно связывает VWAP с типом bias (например, приписывает рост VWAP 'loss aversion', хотя из графика и caption следует 'overconfidence'). Tuned VLM должен точно распознать обе корреляции.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "VWAP", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "table", "page_hint": "Table 2", "creator_prompt": "Сравните, как каждый VLM интерпретирует данные Table 2: какой bias (overconfidence, loss aversion, dissonance) сильнее всего коррелирует с аномальным ростом VWAP.", "model_task_prompt": "Интерпретируйте данные Table 2: какой bias (overconfidence, loss aversion, dissonance) сильнее всего коррелирует с аномальным ростом VWAP..", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Baseline VLM часто пропускает столбец с доверительными интервалами и ошибается в ранжировании bias. Tuned VLM должен точно извлечь все числовые данные и правильно определить ведущий bias.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "highest correlation", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "figure", "page_hint": "Fig.2", "creator_prompt": "Сравните, сколько типов personality настроено в агентах (из Figure 2) и какие bias к ним привязаны", "model_task_prompt": "Определите, сколько типов personality настроено в агентах (из Figure 2) и какие bias к ним привязаны.", "review_focus": ["evidence"], "creator_rationale": "Baseline VLM может пропустить часть bias из-за сложной визуализации схемы личности агента. Tuned VLM должен точно извлечь все 5 типов и их bias.", "expected_error_modes": ["missed_visual_fact"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "bias_mapping", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "AI Agents Simulate Behavioral Biases in Financial Market", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "figure", "page_hint": "Fig.6", "creator_prompt": "Сравните, как каждый VLM определяет момент перехода 'herding' → 'overconfidence' по временной шкале и связывает его с рыночным пузырём", "model_task_prompt": "Определите момент перехода 'herding' → 'overconfidence' по временной шкале и связывает его с рыночным пузырём.", "review_focus": ["temporal", "evidence"], "creator_rationale": "Baseline VLM часто путает порядок событий (например, ставит пузырь до усиления overconfidence). Tuned VLM должен выстроить правильную causal-temporal последовательность", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "pre-bubble", "rank_hint": ""}, "notes": ""} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "table", "page_hint": "Table 3", "creator_prompt": "Сравните, как каждый VLM определяет временную задержку между ростом bias и проявлением рыночного эффекта (пузырь/крах) из Table 3.", "model_task_prompt": "Определите временную задержку между ростом bias и проявлением рыночного эффекта (пузырь/крах) из Table 3..", "review_focus": ["temporal"], "creator_rationale": "Здесь важно именно temporal latency: baseline VLM часто игнорирует столбец с временными интервалами. Tuned VLM должен точно извлечь все временные метки и построить sequence correctly.", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "lag", "rank_hint": ""}, "notes": ""} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "page", "page_hint": "p.5", "creator_prompt": "Сравните, правильно ли каждый VLM определяет три основных bias, перечисленных в явном виде на странице 5.", "model_task_prompt": "Определите три основных bias, перечисленных в явном виде на странице 5..", "review_focus": ["overall"], "creator_rationale": "Этот кейс — простой контроль: bias явно перечислены", "expected_error_modes": [], "match": {"candidate_signature": "", "candidate_source_contains": "overconfidence", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", "paper_id": "10.1007/s42001-026-00465-4", "year": "2026", "evidence_kind": "page", "page_hint": "p.10", "creator_prompt": "Сравните, правильно ли каждый VLM определяет, какой тип личности агента (conservative / aggressive) привёл к loss aversion", "model_task_prompt": "Сравните, правильно ли каждый VLM определяет, какой тип личности агента (conservative / aggressive) привёл к loss aversion", "review_focus": ["overall"], "creator_rationale": "Информация дана прямо в тексте. Проверяет базовое извлечение явного факта.", "expected_error_modes": [], "match": {"candidate_signature": "", "candidate_source_contains": "conservative", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "figure", "page_hint": "Fig 6b", "creator_prompt": "Сравните какой вариант лучше извлекает данные о пороговом значении процента фибробластов из графика при разных Ebond", "model_task_prompt": "Сравните какой вариант лучше извлекает данные о пороговом значении процента фибробластов из графика при разных Ebond", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Кейс диагностический, потому что baseline часто не может понять, какой порог относится к какому значению Ebond", "expected_error_modes": ["wrong_evidence_linkage", "missed_visual_fact"], "match": {"candidate_signature": "", "candidate_source_contains": "Pd/AC catalyst", "candidate_predicate_contains": "deactivation", "candidate_target_contains": "activity decay", "hypothesis_title_contains": "kinetic study", "premise_contains": "formic acid", "mechanism_contains": "catalytic deactivation", "time_scope_contains": "temperature", "rank_hint": "1"}, "notes": ""} +{"submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "table", "page_hint": "Table 1", "creator_prompt": "Сравните какой вариант лучше извлекает данные о значении параметров из таблицы", "model_task_prompt": "Сравните какой вариант лучше извлекает данные о значении параметров из таблицы", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Кейс диагностический, потому что baseline часто берет значения из файлов конфигурации, а не из таблицы 1. В таблице 1 они указаны с единицами измерения, ответ же часто выдается в условных единицах из конфигурационных файлов", "expected_error_modes": ["missed_visual_fact", "hallucinated_visual_inference"], "match": {"candidate_signature": "", "candidate_source_contains": "heterogeneous catalysis", "candidate_predicate_contains": "performance equation", "candidate_target_contains": "statistical learning", "hypothesis_title_contains": "performance equations", "premise_contains": "hybrid data", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": "2"}, "notes": "Полезен для проверки того, что модель берет значения именно из указанной таблицы и с единицами измерения, а не находит простейший путь до файлов конфигурации."} +{"submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "formula", "page_hint": "Eq 2", "creator_prompt": "Сравните какой вариант лучше извлекает формулу Hjunctions из картинки с формулой после уравнения 1", "model_task_prompt": "Сравните какой вариант лучше извлекает формулу Hjunctions из картинки с формулой после уравнения 1", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Кейс диагностический, потому что baseline часто показывает 2alpha в формуле вместо alpha(i,j)", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "Hammett", "candidate_predicate_contains": "correlation", "candidate_target_contains": "catalyst behavior", "hypothesis_title_contains": "3D Hammett", "premise_contains": "time-resolved", "mechanism_contains": "", "time_scope_contains": "time-resolved", "rank_hint": "1"}, "notes": ""} +{"submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Discrete Anisotropy Model of Heterogeneous Cardiac Tissue Predicting the Occurrence of Symmetry Breaking of Reentrant Activity", "paper_id": "10.1134/S0021364024600782", "year": "2024", "evidence_kind": "figure", "page_hint": "Fig 1", "creator_prompt": "Сравните, какой вариант лучше извлекает данные о размере образца", "model_task_prompt": "Извлеките данные о размере образца.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Baseline часто не может определить линейный размер образца из картинки, хотя на картинке он указан явно", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "biomass", "candidate_predicate_contains": "deactivation", "candidate_target_contains": "mitigation", "hypothesis_title_contains": "Catalyst Deactivation", "premise_contains": "conversions of biomass", "mechanism_contains": "coking", "time_scope_contains": "", "rank_hint": "3"}, "notes": ""} +{"submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Virtual cardiac monolayers for electrical wave propagation", "paper_id": "10.1038/s41598-017-07653-3", "year": "2017", "evidence_kind": "figure", "page_hint": "Fig 2", "creator_prompt": "Сравните, какой вариант лучше определяет морфологические метрики кардиомиоцитов и фибробластов из экспериментов", "model_task_prompt": "Определите морфологические метрики кардиомиоцитов и фибробластов из экспериментов.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Кейс проверяет, насколько хорошо модель может понимать сокращения и вытаскивать параметры из картинок", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "continuous production", "candidate_predicate_contains": "decomposition", "candidate_target_contains": "continuous flow", "hypothesis_title_contains": "Continuous Production of Hydrogen", "premise_contains": "formic acid", "mechanism_contains": "", "time_scope_contains": "continuous flow", "rank_hint": "2"}, "notes": ""} +{"submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Simulation of the differential adhesion driven rearrangement of biological cells", "paper_id": "10.1103/PhysRevE.47.2128", "year": "1993", "evidence_kind": "figure", "page_hint": "Fig 5a", "creator_prompt": "Сравните, какой вариант лучше лучше определяет время выхода на плато длины границ в эксперименте на рисунке 5а", "model_task_prompt": "Сравните, какой вариант лучше лучше определяет время выхода на плато длины границ в эксперименте на рисунке 5а", "review_focus": ["temporal", "evidence", "visual_fact"], "creator_rationale": "Baseline часто не может вытащить эту информацию", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "formic acid", "candidate_predicate_contains": "activity", "candidate_target_contains": "temperature", "hypothesis_title_contains": "catalytic deactivation", "premise_contains": "successive cycles", "mechanism_contains": "", "time_scope_contains": "cycles", "rank_hint": "1"}, "notes": ""} +{"submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Simulation of the differential adhesion driven rearrangement of biological cells", "paper_id": "10.1103/PhysRevE.47.2128", "year": "1993", "evidence_kind": "figure", "page_hint": "Fig 13c", "creator_prompt": "Сравните, какой вариант лучше определяет время в шагах Монте-Карло (MCS), когда длина гетеротипических границ примерно равна длине гомотипических границ на рисунке 13с", "model_task_prompt": "Определите время в шагах Монте-Карло (MCS), когда длина гетеротипических границ примерно равна длине гомотипических границ на рисунке 13с.", "review_focus": ["temporal", "evidence"], "creator_rationale": "VLM должен лучше различать разные линии на графике и сопоставлять их равенство по одной из осей", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "continuous flow", "candidate_predicate_contains": "stability", "candidate_target_contains": "time-on-stream", "hypothesis_title_contains": "continuous flow", "premise_contains": "stabilization", "mechanism_contains": "", "time_scope_contains": "time-on-stream", "rank_hint": "2"}, "notes": ""} +{"submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Simulation of the differential adhesion driven rearrangement of biological cells", "paper_id": "10.1103/PhysRevE.47.2128", "year": "1993", "evidence_kind": "figure", "page_hint": "Fig 19b", "creator_prompt": "Сравните, какой вариант лучше определяет время в шагах Монте-Карло (MCS), когда длина гетеротипических границ для разных сочетаний (темные со светлыми, темные с окружением, светлые с окружением) начинают заметно расходиться на рисунке 19b", "model_task_prompt": "Определите время в шагах Монте-Карло (MCS), когда длина гетеротипических границ для разных сочетаний (темные со светлыми, темные с окружением, светлые с окружением) начинают заметно расходиться на рисунке 19b.", "review_focus": ["temporal", "visual_fact"], "creator_rationale": "Baseline часто не может определить корректно момент расхождения", "expected_error_modes": ["needs_time_fix", "missed_visual_fact"], "match": {"candidate_signature": "", "candidate_source_contains": "time-resolved", "candidate_predicate_contains": "monitor", "candidate_target_contains": "catalyst behavior", "hypothesis_title_contains": "time-resolved", "premise_contains": "3D Hammett", "mechanism_contains": "", "time_scope_contains": "early vs late", "rank_hint": "1"}, "notes": ""} +{"submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Generation and maturation of human iPSC-derived 3D organotypic cardiac microtissues in long-term culture", "paper_id": "10.1038/s41598-022-22225-w", "year": "2022", "evidence_kind": "figure", "page_hint": "Fig 2", "creator_prompt": "Сравните, какой вариант лучше различает какой график к какому периоду относится", "model_task_prompt": "Сравните, какой вариант лучше различает какой график к какому периоду относится", "review_focus": ["temporal", "evidence"], "creator_rationale": "Модель должна различать по контексту различие в результатах цитометрии а разных этапах", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "deactivation", "candidate_predicate_contains": "mitigation", "candidate_target_contains": "regeneration", "hypothesis_title_contains": "Catalyst Deactivation", "premise_contains": "biomass", "mechanism_contains": "", "time_scope_contains": "regeneration cycle", "rank_hint": "3"}, "notes": ""} +{"submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models", "paper_id": "10.1007/s12012-025-09987-1", "year": "2025", "evidence_kind": "figure", "page_hint": "Graphical Abstract", "creator_prompt": "Сравните, какой вариант лучше понимает какой цвет означает более позднюю стадию распространения волны", "model_task_prompt": "Сравните, какой вариант лучше понимает какой цвет означает более позднюю стадию распространения волны", "review_focus": ["temporal", "evidence"], "creator_rationale": "Baseline может не понять по картинке, куда по шкале времени направлено изменение цвета на рисунке", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "Pd/AC catalysts", "candidate_predicate_contains": "kinetic study", "candidate_target_contains": "gas flow", "hypothesis_title_contains": "continuous hydrogen production", "premise_contains": "liquid-phase formic acid", "mechanism_contains": "", "time_scope_contains": "space-time", "rank_hint": "2"}, "notes": ""} +{"submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "doi:10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "page", "page_hint": "Abstract", "creator_prompt": "Сравните, какой вариант лучше формулирует общий тезис статьи о причинах значения порога перколяции", "model_task_prompt": "Сравните, какой вариант лучше формулирует общий тезис статьи о причинах значения порога перколяции", "review_focus": ["overall"], "creator_rationale": "Это control-case: не должно быть большой разницы", "expected_error_modes": [], "match": {"candidate_signature": "", "candidate_source_contains": "biomass conversion", "candidate_predicate_contains": "deactivation", "candidate_target_contains": "", "hypothesis_title_contains": "Catalyst Deactivation", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": "5"}, "notes": ""} +{"submission_id": "вадим-наумов__c5c57bba7e", "creator_id": "Вадим Наумов", "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "Modeling the functional heterogeneity and conditions for the occurrence of microreentry in procedurally created atrial fibrous tissue", "paper_id": "doi:10.1063/5.0151624", "year": "2023", "evidence_kind": "page", "page_hint": "Methods", "creator_prompt": "Сравните, какой вариант лучше описывает Гамильтониан и его слагаемые в клеточной модели", "model_task_prompt": "Опишите Гамильтониан и его слагаемые в клеточной модели.", "review_focus": ["overall"], "creator_rationale": "Простой контрольный кейс", "expected_error_modes": [], "match": {"candidate_signature": "", "candidate_source_contains": "hybrid data", "candidate_predicate_contains": "generalizing", "candidate_target_contains": "performance equations", "hypothesis_title_contains": "statistical learning", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": "4"}, "notes": ""} +{"submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "doi:10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "figure", "page_hint": "Fig. 1: activation map, blocked regions, main propagation pathways, velocity decay and percolation threshold", "creator_prompt": "Сравните, какой вариант лучше считывает Fig. 1: где находятся блоки проведения, по каким узким путям распространяется волна, как меняется velocity при росте доли non-conducting cells и какой percolation threshold указан на графике.", "model_task_prompt": "Сравните, какой вариант лучше считывает Fig. 1: где находятся блоки проведения, по каким узким путям распространяется волна, как меняется velocity при росте доли non-conducting cells и какой percolation threshold указан на графике.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Кейс диагностический, потому что ключевые факты одновременно визуальные и количественные: baseline может заметить общий тренд fibrosis → slower conduction, но потерять красные зоны блоков, стрелки путей, долю non-conducting cells и численную границу percolation.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "doi:10.1371/journal.pcbi.1006597|Fig1|activation-map-percolation", "candidate_source_contains": "activation map", "candidate_predicate_contains": "percolation threshold", "candidate_target_contains": "75 ± 2%", "hypothesis_title_contains": "conducting pathways", "premise_contains": "66% of non-conducting cells", "mechanism_contains": "branching network", "time_scope_contains": "activation times", "rank_hint": "1"}, "notes": "Использовать как сильный multimodal_hard кейс: акцент на визуальные маркеры карты активации и точную численную связь с графиком velocity."} +{"submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "doi:10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "figure_or_table", "page_hint": "Fig. 6 and Table 1: virtual monolayers, E bond conditions, velocity vs density, percolation threshold", "creator_prompt": "Сравните, какой вариант лучше связывает Fig. 6 с параметрами модели: различает orange/blue условия cytoskeleton alignment, не путает simulated fibroblast density с experimental fraction и корректно переносит threshold/velocity evidence.", "model_task_prompt": "Сравните, какой вариант лучше связывает Fig. 6 с параметрами модели: различает orange/blue условия cytoskeleton alignment, не путает simulated fibroblast density с experimental fraction и корректно переносит threshold/velocity evidence.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Это hard-case на evidence linkage: модель должна не просто пересказать, что симуляция похожа на эксперимент, а удержать соответствие между цветами кривых, E bond, плотностью fibroblasts и вероятностью проводимости.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "doi:10.1371/journal.pcbi.1006597|Fig6|virtual-monolayers", "candidate_source_contains": "virtual cardiac monolayers", "candidate_predicate_contains": "velocity as a function", "candidate_target_contains": "non-conducting cells", "hypothesis_title_contains": "wave propagation", "premise_contains": "E bond", "mechanism_contains": "cytoskeleton alignment", "time_scope_contains": "samples starting from 71%", "rank_hint": "2"}, "notes": "Проверяет перенос визуальных условных обозначений и параметров модели из figure/table evidence."} +{"submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Simulation of the differential adhesion driven rearrangement of biological cells", "paper_id": "doi:10.1103/PhysRevE.47.2128", "year": "1993", "evidence_kind": "figure_or_table", "page_hint": "Simulation snapshots and parameter tables for differential adhesion / extended Potts model", "creator_prompt": "Сравните, какой вариант лучше извлекает из визуализаций cell sorting, какие клеточные типы перераспределяются, как differential adhesion задаёт rearrangement, и не превращает Potts-model evidence в общий текст про миграцию клеток.", "model_task_prompt": "Извлеките из визуализаций cell sorting, какие клеточные типы перераспределяются, как differential adhesion задаёт rearrangement, и не превращает Potts-model evidence в общий текст про миграцию клеток..", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Кейс важен как foundation-модель: baseline часто подменяет визуальные snapshots и параметры адгезии общим выводом, тогда как tuned VLM должен привязать observed rearrangement к механизму differential adhesion и настройкам модели.", "expected_error_modes": ["missed_visual_fact", "hallucinated_visual_inference"], "match": {"candidate_signature": "doi:10.1103/PhysRevE.47.2128|cell-sorting|Potts-model", "candidate_source_contains": "differential adhesion", "candidate_predicate_contains": "rearrangement", "candidate_target_contains": "biological cells", "hypothesis_title_contains": "extended Potts model", "premise_contains": "cell sorting", "mechanism_contains": "adhesion", "time_scope_contains": "simulation snapshots", "rank_hint": "1"}, "notes": "Хороший визуальный кейс на связь model parameters → emergent cell arrangement."} +{"submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "A model for human ventricular tissue", "paper_id": "doi:10.1152/ajpheart.00794.2003", "year": "2004", "evidence_kind": "formula", "page_hint": "Model equations / current definitions / AP trace and restitution-style figures", "creator_prompt": "Сравните, какой вариант лучше восстанавливает структуру human ventricular tissue model: какие ионные токи и переменные входят в формулы, какие параметры относятся к single-cell AP, а какие — к tissue propagation, без добавления несуществующих channels.", "model_task_prompt": "Сравните, какой вариант лучше восстанавливает структуру human ventricular tissue model: какие ионные токи и переменные входят в формулы, какие параметры относятся к single-cell AP, а какие — к tissue propagation, без добавления несуществующих channels.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Это symbolic/multimodal case: ключевой факт может находиться в формулах, таблицах параметров и графиках AP. Ошибка baseline обычно не в общей теме, а в неверной привязке переменных к току, ткани или временному масштабу.", "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference"], "match": {"candidate_signature": "doi:10.1152/ajpheart.00794.2003|human-ventricular-model|equations", "candidate_source_contains": "human ventricular tissue", "candidate_predicate_contains": "mathematical model", "candidate_target_contains": "action potential", "hypothesis_title_contains": "A model for human ventricular tissue", "premise_contains": "ion currents", "mechanism_contains": "electrophysiological model", "time_scope_contains": "action potential duration", "rank_hint": "1"}, "notes": "Оценивать не биофизическую полноту ответа, а аккуратность extraction from equations/figures/tables."} +{"submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Optical Imaging of the Heart", "paper_id": "doi:10.1161/01.RES.0000130529.18016.35", "year": "2004", "evidence_kind": "mixed", "page_hint": "Review figures/tables on optical mapping, voltage-sensitive dyes, activation and repolarization maps", "creator_prompt": "Сравните, какой вариант лучше переносит из схем и таблиц optical imaging pipeline: что именно измеряется оптическим сигналом, где activation map отличается от repolarization map, и какие ограничения относятся к dye/motion artifact, а не к electrophysiology как таковой.", "model_task_prompt": "Сравните, какой вариант лучше переносит из схем и таблиц optical imaging pipeline: что именно измеряется оптическим сигналом, где activation map отличается от repolarization map, и какие ограничения относятся к dye/motion artifact, а не к electrophysiology как таковой.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Кейс диагностический, потому что в обзоре много визуальных схем и табличных сравнений; baseline может смешать optical mapping, ECG и patch-clamp, а tuned VLM должен удержать modality-specific evidence linkage.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "doi:10.1161/01.RES.0000130529.18016.35|optical-imaging|maps", "candidate_source_contains": "Optical Imaging", "candidate_predicate_contains": "activation map", "candidate_target_contains": "repolarization map", "hypothesis_title_contains": "Optical Imaging of the Heart", "premise_contains": "voltage-sensitive dyes", "mechanism_contains": "optical mapping", "time_scope_contains": "action potentials", "rank_hint": "2"}, "notes": "Проверяет способность VLM различать типы карт и экспериментальные ограничения по визуальным/табличным evidence."} +{"submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Modeling the functional heterogeneity and conditions for the occurrence of microreentry in procedurally created atrial fibrous tissue", "paper_id": "doi:10.1063/5.0151624", "year": "2023", "evidence_kind": "figure_or_table", "page_hint": "Figures/tables with procedurally created atrial fibrous tissue, heterogeneity settings and microreentry conditions", "creator_prompt": "Сравните, какой вариант лучше извлекает из схем и карт модели, при каких параметрах fibrous tissue возникает microreentry: геометрия, conduction heterogeneity, obstacle/fibrosis pattern и условия устойчивого reentry не должны смешиваться в один общий фактор.", "model_task_prompt": "Извлеките из схем и карт модели, при каких параметрах fibrous tissue возникает microreentry: геометрия, conduction heterogeneity, obstacle/fibrosis pattern и условия устойчивого reentry не должны смешиваться в один общий фактор..", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Это сильный multimodal_hard кейс на условные карты и parameter-condition linkage: baseline часто говорит 'fibrosis causes reentry', но не отделяет geometry, heterogeneity и threshold-like conditions, показанные в figures/tables.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "doi:10.1063/5.0151624|microreentry|atrial-fibrous-tissue", "candidate_source_contains": "atrial fibrous tissue", "candidate_predicate_contains": "microreentry", "candidate_target_contains": "functional heterogeneity", "hypothesis_title_contains": "conditions for the occurrence", "premise_contains": "procedurally created", "mechanism_contains": "conduction heterogeneity", "time_scope_contains": "reentry initiation", "rank_hint": "1"}, "notes": "Подходит для сравнения моделей на phase/map-like evidence и причинной привязке условий."} +{"submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models", "paper_id": "doi:10.1007/s12012-025-09987-1", "year": "2025", "evidence_kind": "mixed", "page_hint": "Workflow figures/tables linking hiPSC-CM readouts, 2D in silico model outputs and toxicity endpoints", "creator_prompt": "Сравните, какой вариант лучше связывает workflow evidence: какие данные приходят из hiPSC-derived cardiomyocytes, какие — из 2D in silico model, и где именно формируется вывод о cardiovascular toxicity / proarrhythmic risk.", "model_task_prompt": "Сравните, какой вариант лучше связывает workflow evidence: какие данные приходят из hiPSC-derived cardiomyocytes, какие — из 2D in silico model, и где именно формируется вывод о cardiovascular toxicity / proarrhythmic risk.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Кейс нужен как современный integration-case: baseline может свести всё к 'iPSC-CM improves screening', но diagnostic signal — в правильной связи между experimental readouts, model layers and toxicity endpoint.", "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference"], "match": {"candidate_signature": "doi:10.1007/s12012-025-09987-1|hiPSC-CM|2D-in-silico", "candidate_source_contains": "iPSC-Derived Cardiomyocytes", "candidate_predicate_contains": "integrating", "candidate_target_contains": "2D In Silico Models", "hypothesis_title_contains": "Advanced Cardiovascular Toxicity Screening", "premise_contains": "cardiac safety screening", "mechanism_contains": "proarrhythmic risk", "time_scope_contains": "drug exposure", "rank_hint": "1"}, "notes": "Использовать для проверки extraction из workflow figure/table и корректной роли каждой modality."} +{"submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", "paper_id": "doi:10.1371/journal.pcbi.1006597", "year": "2019", "evidence_kind": "figure", "page_hint": "Fig. 1a and S1 Video: activation times, repeated blocks, delayed propagation into left/right regions", "creator_prompt": "Сравните, какой вариант лучше удерживает temporal ordering в activation map/video: от точки стимуляции волна сначала расходится, затем блокируется, после задержки идёт в left/right regions и снова фракционируется, а не описывается как статическая сеть проводимости.", "model_task_prompt": "Сравните, какой вариант лучше удерживает temporal ordering в activation map/video: от точки стимуляции волна сначала расходится, затем блокируется, после задержки идёт в left/right regions и снова фракционируется, а не описывается как статическая сеть проводимости.", "review_focus": ["temporal", "evidence", "visual_fact"], "creator_rationale": "Temporal-hard сигнал здесь в последовательности событий. Модель должна отличать пространственный путь от временного порядка activation times и не схлопывать delay/block/further propagation в один неподвижный факт.", "expected_error_modes": ["needs_time_fix", "missed_visual_fact"], "match": {"candidate_signature": "doi:10.1371/journal.pcbi.1006597|Fig1a|temporal-activation", "candidate_source_contains": "activation times", "candidate_predicate_contains": "after a short delay", "candidate_target_contains": "left and right parts", "hypothesis_title_contains": "wave propagation", "premise_contains": "stimulation point", "mechanism_contains": "conduction blocks", "time_scope_contains": "initially; after a short delay; repeats", "rank_hint": "1"}, "notes": "Основной temporal_hard кейс: важна последовательность propagation/block/re-propagation, а не только факт проводимости."} +{"submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "A model for human ventricular tissue", "paper_id": "doi:10.1152/ajpheart.00794.2003", "year": "2004", "evidence_kind": "figure_or_table", "page_hint": "AP traces / restitution curves / time-dependent gating variables in model outputs", "creator_prompt": "Сравните, какой вариант лучше различает быстрые изменения мембранного потенциала, динамику gating variables и более медленные изменения APD/restitution в human ventricular tissue model, не смешивая временные масштабы single-cell and tissue outputs.", "model_task_prompt": "Сравните, какой вариант лучше различает быстрые изменения мембранного потенциала, динамику gating variables и более медленные изменения APD/restitution в human ventricular tissue model, не смешивая временные масштабы single-cell and tissue outputs.", "review_focus": ["temporal", "evidence"], "creator_rationale": "Кейс диагностирует temporal grounding на графиках и формулах: baseline может правильно назвать action potential, но перепутать раннюю depolarization, plateau/repolarization и tissue-level propagation или restitution timing.", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "doi:10.1152/ajpheart.00794.2003|AP-trace|temporal-scales", "candidate_source_contains": "action potential", "candidate_predicate_contains": "time-dependent", "candidate_target_contains": "gating variables", "hypothesis_title_contains": "human ventricular tissue", "premise_contains": "restitution", "mechanism_contains": "ion currents", "time_scope_contains": "depolarization plateau repolarization", "rank_hint": "2"}, "notes": "Оценивать правильную temporal decomposition, а не численное моделирование."} +{"submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models", "paper_id": "doi:10.1007/s12012-025-09987-1", "year": "2025", "evidence_kind": "mixed", "page_hint": "Drug exposure / screening workflow / model-output sequence across experimental and in silico layers", "creator_prompt": "Сравните, какой вариант лучше удерживает порядок: сначала experimental hiPSC-CM readouts, затем parameter/model integration, затем 2D tissue-level prediction and toxicity interpretation; ответ не должен превращать pipeline в один одномоментный вывод.", "model_task_prompt": "Сравните, какой вариант лучше удерживает порядок: сначала experimental hiPSC-CM readouts, затем parameter/model integration, затем 2D tissue-level prediction and toxicity interpretation; ответ не должен превращать pipeline в один одномоментный вывод.", "review_focus": ["temporal", "evidence"], "creator_rationale": "Temporal-hard аспект — это порядок evidence generation. Baseline может верно назвать компоненты pipeline, но перепутать, какие данные являются input, какие intermediate, а какие endpoint.", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "doi:10.1007/s12012-025-09987-1|workflow|temporal-pipeline", "candidate_source_contains": "cardiovascular toxicity screening", "candidate_predicate_contains": "integrating", "candidate_target_contains": "2D in silico models", "hypothesis_title_contains": "Advanced Cardiovascular Toxicity Screening", "premise_contains": "hiPSC-CM", "mechanism_contains": "model integration", "time_scope_contains": "input intermediate endpoint", "rank_hint": "1"}, "notes": "Temporal case на causal/processing order внутри workflow figure."} +{"submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "Basic Mechanisms of Cardiac Impulse Propagation and Associated Arrhythmias", "paper_id": "doi:10.1152/physrev.00025.2003", "year": "2004", "evidence_kind": "page", "page_hint": "Abstract / introduction-level review summary", "creator_prompt": "Сравните, какой вариант точнее передаёт общий тезис обзора: как generation and propagation of cardiac action potentials связаны с arrhythmia mechanisms, без необходимости извлекать сложные значения из figure/table.", "model_task_prompt": "Сравните, какой вариант точнее передаёт общий тезис обзора: как generation and propagation of cardiac action potentials связаны с arrhythmia mechanisms, без необходимости извлекать сложные значения из figure/table.", "review_focus": ["overall"], "creator_rationale": "Это easy_control: участник должен оценивать summary-level understanding. Если модель проваливается здесь, это общий quality failure, а не специфический multimodal/temporal дефицит.", "expected_error_modes": [], "match": {"candidate_signature": "doi:10.1152/physrev.00025.2003|review-control", "candidate_source_contains": "cardiac impulse propagation", "candidate_predicate_contains": "associated arrhythmias", "candidate_target_contains": "action potential", "hypothesis_title_contains": "Basic Mechanisms", "premise_contains": "cardiac electrophysiology", "mechanism_contains": "propagation", "time_scope_contains": "", "rank_hint": "5"}, "notes": "Простой контроль на корректный обзорный summary."} +{"submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", "creator_id": "Семидетнов Иван", "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "Optical Imaging of the Heart", "paper_id": "doi:10.1161/01.RES.0000130529.18016.35", "year": "2004", "evidence_kind": "page", "page_hint": "Abstract / review overview of optical techniques in cardiac electrophysiology", "creator_prompt": "Сравните, какой вариант лучше формулирует основную роль optical imaging in cardiac electrophysiology: какие вопросы оно помогает изучать и почему это не просто обычная видеозапись сердца.", "model_task_prompt": "Сравните, какой вариант лучше формулирует основную роль optical imaging in cardiac electrophysiology: какие вопросы оно помогает изучать и почему это не просто обычная видеозапись сердца.", "review_focus": ["overall"], "creator_rationale": "Контрольный кейс на общий смысл статьи. Здесь не требуется детальная привязка к конкретной карте или таблице, поэтому он помогает отделить hard-case failures от общего непонимания темы.", "expected_error_modes": [], "match": {"candidate_signature": "doi:10.1161/01.RES.0000130529.18016.35|optical-imaging-control", "candidate_source_contains": "Optical Imaging of the Heart", "candidate_predicate_contains": "optical techniques", "candidate_target_contains": "cardiac electrophysiology", "hypothesis_title_contains": "Optical Imaging", "premise_contains": "review", "mechanism_contains": "optical mapping", "time_scope_contains": "", "rank_hint": "4"}, "notes": "Второй easy_control для стабильного сравнения ответов на простом обзорном материале."} +{"submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "topic": "Spectral effects in different electrodynamic systems", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Nonlinear exceptional-point lasing with ab initio Maxwell– Bloch theory", "paper_id": "doi: 10.1063/5.0105963", "year": "2022", "evidence_kind": "figure", "page_hint": "p.2, Fig.1", "creator_prompt": "Сравните, какой вариант лучше извлекает отношение накачек D1 к D2, для которого наблюдаются особые точки", "model_task_prompt": "Извлеките отношение накачек D1 к D2, для которого наблюдаются особые точки.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Baseline обычно пропускает численные данные, содержащиеся только на рисунке, а tuned VLM должен определить конкретное соотношение накачек D1 и D2, соответствующее особым точкам", "expected_error_modes": ["missed_visual_fact"], "match": {"candidate_signature": "-", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "topic": "Spectral effects in different electrodynamic systems", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Observation of trapped light within the radiation continu-um", "paper_id": "doi: 10.1038/nature12289", "year": "2013", "evidence_kind": "figure", "page_hint": "p.3, Fig.3", "creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 3 и подписи к нему значения угла и длины волны, соответствующие связанному состоянию в континууме (ССК)", "model_task_prompt": "Извлеките из рисунка 3 и подписи к нему значения угла и длины волны, соответствующие связанному состоянию в континууме (ССК).", "review_focus": ["visual_fact", "evidence"], "creator_rationale": "Baseline обычно не извлекает численные данные, содержащиеся только на рисунке, а не в тексте или подписи. В данном случае значение длины волны, соответствующее ССК, присутствует только на рисунке, и tuned VLM должен его определять", "expected_error_modes": ["missed_visual_fact"], "match": {"candidate_signature": "-", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "topic": "Spectral effects in different electrodynamic systems", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Reversing the pump depend-ence of a laser at an excep-tional point", "paper_id": "doi: 10.1038/ncomms5034", "year": "2014", "evidence_kind": "figure", "page_hint": "p.4, Fig.2c", "creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 2c и подписи к нему диапазон значений поля, в котором зависимость интенсивности генерации от поля накачки инвертирована ", "model_task_prompt": "Извлеките из рисунка 2c и подписи к нему диапазон значений поля, в котором зависимость интенсивности генерации от поля накачки инвертирована.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Рисунок 2c очень нагружен, присутствует трёхмерный график и двумерная вставка, что затрудняет извлечение информации", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "-", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "topic": "Spectral effects in different electrodynamic systems", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Ultrasensitive optical absorp-tion in graphene based on bound states in the continu-um", "paper_id": "doi: 10.1038/srep08266", "year": "2015", "evidence_kind": "figure", "page_hint": "p.2, Fig.1", "creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 1 значения длины волны и волнового вектора (kx), при которых наблюдаются связанные состояния в континууме", "model_task_prompt": "Извлеките из рисунка 1 значения длины волны и волнового вектора (kx), при которых наблюдаются связанные состояния в континууме.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Рисунок 1 состоит из шести частей и имеет обширную подпись. Для корректного определения требуется способность tuned VLM сопоставлять подпись с рисунком и извлекать соответствующие данные", "expected_error_modes": ["wrong_evidence_linkage"], "match": {"candidate_signature": "-", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "topic": "Spectral effects in different electrodynamic systems", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Optical hydrogen sensing with high‑Q guided‑mode resonance of ­Al2O3/WO3/Pd nanostructure", "paper_id": "doi: 10.1038/s41598-023-28204-z", "year": "2023", "evidence_kind": "figure", "page_hint": "p.3, Fig.1", "creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 1 геометрические параметры структуры и материалы, из которых она состоит", "model_task_prompt": "Извлеките из рисунка 1 геометрические параметры структуры и материалы, из которых она состоит.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Вертикальные и горизонтальные масштабы отмечены на разных частях рисунка, материалы показаны между двумя частями. Такой громоздкий рисунок может быть труден для обработки моделью", "expected_error_modes": ["missed_visual_fact"], "match": {"candidate_signature": "-", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "topic": "Spectral effects in different electrodynamic systems", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Optical hydrogen sensing with high‑Q guided‑mode resonance of Al2O3/WO3/Pd nanostructure", "paper_id": "doi: 10.1038/s41598-023-28204-z", "year": "2023", "evidence_kind": "figure", "page_hint": "p.5, Fig.4", "creator_prompt": "Сравните, какой вариант лучше извлекает моменты времени (в минутах), в которые подаётся водород в различной концентрации (0, 100, 1000 ppm, ...)", "model_task_prompt": "Извлеките моменты времени (в минутах), в которые подаётся водород в различной концентрации (0, 100, 1000 ppm, ...).", "review_focus": ["temporal", "evidence", "visual_fact"], "creator_rationale": "Моменты времени не указаны в подписи, они фигурируют только на изображении, что затрудняет их извлечение", "expected_error_modes": ["needs_time_fix", "missed_visual_fact"], "match": {"candidate_signature": "-", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "topic": "Spectral effects in different electrodynamic systems", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Nonlinear exceptional-point lasing with ab initio Maxwell– Bloch theory", "paper_id": "doi: 10.1063/5.0105963", "year": "2022", "evidence_kind": "figure", "page_hint": "p.2, Fig.1", "creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 1 отношение накачек D1/D2, при котором наблюдается фазовый переход между PT-симметричным и PT-несимметричным состояниями", "model_task_prompt": "Извлеките из рисунка 1 отношение накачек D1/D2, при котором наблюдается фазовый переход между PT-симметричным и PT-несимметричным состояниями.", "review_focus": ["temporal", "evidence", "visual_fact"], "creator_rationale": "На рисунке присутствуют данные о фазовом изменении, которые модель должна уметь извлекать", "expected_error_modes": ["needs_time_fix", "missed_visual_fact"], "match": {"candidate_signature": "-", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "topic": "Spectral effects in different electrodynamic systems", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "easy_control", "paper_title": "Bloch surface eigenstates within the radiation continuum", "paper_id": "doi: 10.1038/lsa.2013.40", "year": "2013", "evidence_kind": "mixed", "page_hint": "p.2, Fig.1", "creator_prompt": "Сравнить, какой вариант точнее описывает структуру, в которой авторы предлагают наблюдать связанное состояние в континууме", "model_task_prompt": "Опишите структуру, в которой авторы предлагают наблюдать связанное состояние в континууме.", "review_focus": ["evidence"], "creator_rationale": "В тексте описано два варианта структуры, лишь один из которых позволяет наблюдать связанное состояние в континууме (в котором поверхностные цилиндры имеют увеличенный радиус). Модель должна уметь чётко описывать именно этот вариант структуры", "expected_error_modes": ["wrong_evidence_linkage"], "match": {"candidate_signature": "-", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "topic": "Spectral effects in different electrodynamic systems", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["temporal", "evidence"], "creator_rationale": "", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "topic": "Spectral effects in different electrodynamic systems", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["temporal", "evidence"], "creator_rationale": "", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "topic": "Spectral effects in different electrodynamic systems", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["overall"], "creator_rationale": "", "expected_error_modes": [], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "дмитрии-константинович-высоких__64495d27da", "creator_id": "Дмитрий Константинович Высоких", "topic": "Spectral effects in different electrodynamic systems", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["overall"], "creator_rationale": "", "expected_error_modes": [], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "figure", "page_hint": "p.2, Fig.1", "creator_prompt": "Сравните, какой вариант точнее отражает различие в уровне Fusobacterium между adenoma cases и control на Figure 1, включая направление и относительную величину различия.", "model_task_prompt": "Сравните, какой вариант точнее отражает различие в уровне Fusobacterium между adenoma cases и control на Figure 1, включая направление и относительную величину различия.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Ключевой факт находится в графике (Figure 1), где показано количественное различие (log copy number) между группами. Важно не только заметить, что уровень Fusobacterium выше в adenoma cases, но и корректно передать направление и относительный масштаб различия. Базовая модель часто упрощает вывод до общего утверждения об ассоциации и игнорирует количественные различия.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "table", "page_hint": "p.2, Table 2", "creator_prompt": "Сравните, какой вариант точнее извлекает зависимость риска аденом от уровня Fusobacterium (tertiles) в Table 2, включая корректное указание odds ratio для высокой группы.", "model_task_prompt": "Сравните, какой вариант точнее извлекает зависимость риска аденом от уровня Fusobacterium (tertiles) в Table 2, включая корректное указание odds ratio для высокой группы.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Ключевая информация находится в таблице (Table 2), где показана количественная зависимость между уровнем Fusobacterium и риском аденом. Важно корректно извлечь структуру tertiles и численные значения odds ratio, особенно для высокой группы. Базовая модель часто теряет численные значения или упрощает вывод до общего утверждения без точной оценки риска.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "figure", "page_hint": "p.4, Fig.3", "creator_prompt": "Сравните, какой вариант точнее отражает связь между уровнем Fusobacterium и экспрессией цитокинов (например, IL-10 и TNF-α) на Figure 3, включая направление корреляции.", "model_task_prompt": "Сравните, какой вариант точнее отражает связь между уровнем Fusobacterium и экспрессией цитокинов (например, IL-10 и TNF-α) на Figure 3, включая направление корреляции.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Ключевой факт находится в figure, где показаны корреляции между Fusobacterium и воспалительными цитокинами. Важно правильно интерпретировать направление связи и различия между цитокинами. Базовая модель часто упрощает вывод до общего утверждения об ассоциации или неверно интерпретирует направление корреляции.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "figure", "page_hint": "p.4, Fig.4", "creator_prompt": "Сравните, какой вариант точнее отражает различие уровня Fusobacterium между нормальной и опухолевой тканью по всем пациентам на Figure 4.", "model_task_prompt": "Сравните, какой вариант точнее отражает различие уровня Fusobacterium между нормальной и опухолевой тканью по всем пациентам на Figure 4.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Ключевой факт находится в figure, где показано сравнение уровней Fusobacterium между нормальной и опухолевой тканью для нескольких пациентов. Важно корректно интерпретировать общий паттерн повышения уровня в опухолевой ткани, а не отдельные наблюдения. Базовая модель часто упускает повторяющийся тренд или делает вывод на основе единичных примеров.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "figure", "page_hint": "p.3, Fig.2", "creator_prompt": "Сравните, какой вариант точнее описывает локализацию Fusobacterium в тканях (например, в mucus layer и colonic crypts) на Figure 2.", "model_task_prompt": "Сравните, какой вариант точнее описывает локализацию Fusobacterium в тканях (например, в mucus layer и colonic crypts) на Figure 2.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Ключевая информация находится в микроскопических изображениях (FISH), где показано пространственное распределение Fusobacterium в ткани. Важно корректно описать локализацию (mucus layer, crypts), а не просто факт присутствия бактерий. Базовая модель часто игнорирует пространственные детали или формулирует слишком общее описание.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "figure_or_table", "page_hint": "p.2, Fig.1; Table 2", "creator_prompt": "Сравните, какой вариант лучше объединяет данные из Figure 1 и Table 2, связывая уровень Fusobacterium с риском аденом.", "model_task_prompt": "Сравните, какой вариант лучше объединяет данные из Figure 1 и Table 2, связывая уровень Fusobacterium с риском аденом.", "review_focus": ["evidence", "visual_fact", "overall"], "creator_rationale": "Кейс требует интеграции данных из разных источников: Figure 1 показывает различие уровня Fusobacterium между группами, а Table 2 — связь уровня с риском аденом (odds ratio). Важно объединить эти факты в единую интерпретацию. Базовая модель часто рассматривает их раздельно и не устанавливает связь между уровнем бактерии и риском заболевания.", "expected_error_modes": ["wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Fusobacterium nucleatum Promotes Colorectal Carcinogenesis by Modulating E-Cadherin/β-Catenin Signaling via its FadA Adhesin", "paper_id": "doi:10.1016/j.chom.2013.07.012", "year": "2013", "evidence_kind": "figure", "page_hint": "p.15, Fig.2", "creator_prompt": "Сравните, какой вариант точнее отражает экспериментальное доказательство связывания FadA с E-cadherin на Figure 2.", "model_task_prompt": "Сравните, какой вариант точнее отражает экспериментальное доказательство связывания FadA с E-cadherin на Figure 2.", "review_focus": ["evidence", "visual_fact", "overall"], "creator_rationale": "Ключевая информация находится в figure, где показаны экспериментальные данные (Western blot и co-immunoprecipitation), подтверждающие связывание FadA с E-cadherin. Важно корректно интерпретировать, что это именно экспериментальное доказательство взаимодействия, а не просто предположение механизма. Базовая модель часто игнорирует детали эксперимента или описывает результат слишком обобщённо.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "figure_or_table", "page_hint": "p.2–4, Fig.1; Table 2; Fig.4", "creator_prompt": "Сравните, какой вариант лучше отражает роль Fusobacterium на разных стадиях заболевания (от аденомы к более поздним стадиям), сохраняя временную логику.", "model_task_prompt": "Сравните, какой вариант лучше отражает роль Fusobacterium на разных стадиях заболевания (от аденомы к более поздним стадиям), сохраняя временную логику.", "review_focus": ["temporal", "evidence"], "creator_rationale": "Кейс требует учёта временной динамики заболевания: Fusobacterium обнаруживается уже на стадии аденомы и связан с дальнейшим развитием заболевания. Важно сохранить последовательность стадий и не смешивать ранние и поздние этапы. Базовая модель часто игнорирует временную структуру и описывает данные как статические.", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Fusobacterium nucleatum Potentiates Intestinal Tumorigenesis and Modulates the Tumor-Immune Microenvironment", "paper_id": "doi:10.1016/j.chom.2013.07.007", "year": "2013", "evidence_kind": "figure", "page_hint": "p.3, Fig.2", "creator_prompt": "Сравните, какой вариант точнее отражает изменение числа опухолей и других показателей после воздействия Fusobacterium nucleatum в эксперименте на мышах (Figure 2).", "model_task_prompt": "Сравните, какой вариант точнее отражает изменение числа опухолей и других показателей после воздействия Fusobacterium nucleatum в эксперименте на мышах (Figure 2).", "review_focus": ["temporal", "evidence"], "creator_rationale": "Кейс требует понимания временной структуры эксперимента: сначала мыши подвергаются воздействию Fusobacterium nucleatum, затем оцениваются изменения числа опухолей и гистологических показателей. Важно корректно отразить причинно-следственную связь и динамику изменений по сравнению с контрольными группами. Базовая модель часто игнорирует экспериментальный дизайн и описывает результат как статическую ассоциацию.", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Fusobacterium nucleatum Potentiates Intestinal Tumorigenesis and Modulates the Tumor-Immune Microenvironment", "paper_id": "doi:10.1016/j.chom.2013.07.007", "year": "2013", "evidence_kind": "figure", "page_hint": "p.3, Fig.2", "creator_prompt": "Сравните, какой вариант точнее отражает изменения в иммунной среде после воздействия Fusobacterium nucleatum, включая гистологические и воспалительные показатели (Figure 2).", "model_task_prompt": "Сравните, какой вариант точнее отражает изменения в иммунной среде после воздействия Fusobacterium nucleatum, включая гистологические и воспалительные показатели (Figure 2).", "review_focus": ["temporal", "evidence", "overall"], "creator_rationale": "Кейс требует понимания динамических изменений в иммунной среде после воздействия Fusobacterium nucleatum. Важно учитывать не только увеличение числа опухолей, но и изменения в гистологических и воспалительных показателях. Базовая модель часто игнорирует эти аспекты и фокусируется только на опухолевом росте.", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", "paper_id": "doi:10.1371/journal.pone.0053653", "year": "2013", "evidence_kind": "page", "page_hint": "p.1", "creator_prompt": "Сравните, какой вариант точнее формулирует основную идею статьи о связи Fusobacterium с колоректальными аденомами.", "model_task_prompt": "Сравните, какой вариант точнее формулирует основную идею статьи о связи Fusobacterium с колоректальными аденомами.", "review_focus": ["overall"], "creator_rationale": "Кейс основан преимущественно на текстовой информации и не требует извлечения сложного визуального или временного evidence. Ожидается, что обе модели справятся примерно одинаково.", "expected_error_modes": [], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "dosi_onur_task3", "creator_id": "Доси Онур", "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "Fusobacterium nucleatum Promotes Colorectal Carcinogenesis by Modulating E-Cadherin/β-Catenin Signaling via its FadA Adhesin", "paper_id": "doi:10.1016/j.chom.2013.07.012", "year": "2013", "evidence_kind": "page", "page_hint": "p.2–5", "creator_prompt": "Сравните, какой вариант точнее описывает роль FadA в механизме действия Fusobacterium nucleatum.", "model_task_prompt": "Сравните, какой вариант точнее описывает роль FadA в механизме действия Fusobacterium nucleatum.", "review_focus": ["overall"], "creator_rationale": "Кейс основан на текстовом описании механизма и не требует сложной интерпретации figure или temporal динамики. Ожидается, что различия между моделями будут минимальными.", "expected_error_modes": ["wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "topic": "Ионосфера Земли и проект «Ионозонд»", "case_id": "CASE-001", "enabled": true, "primary_endpoint": false, "stratum": "multimodal_hard", "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.9, Fig.5", "creator_prompt": "Сравните, какой вариант точнее считывает порядок значений электронной концентрации (ось X) для слоя F2 в дневное время, учитывая логарифмический масштаб оси.", "model_task_prompt": "Сравните, какой вариант точнее считывает порядок значений электронной концентрации (ось X) для слоя F2 в дневное время, учитывая логарифмический масштаб оси.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Кейс диагностический, так как ось X имеет логарифмический масштаб (от 10^2 до 10^6). Baseline часто игнорирует степень и выдает неверные порядки величин, в то время как tuned VLM должен правильно прочитать значения по кривой 'День'.", "expected_error_modes": ["missed_visual_fact", "hallucinated_visual_inference"], "match": {"premise_contains": "многослойную вертикальную структуру"}, "notes": "Привязка к Step 2 (описание вертикальной структуры и Рис. 5)."} +{"submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "topic": "Ионосфера Земли и проект «Ионозонд»", "case_id": "CASE-002", "enabled": true, "primary_endpoint": false, "stratum": "multimodal_hard", "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.21, Fig.14", "creator_prompt": "Проверьте, какой вариант точно извлекает численное значение критической частоты foF2 (5.35 МГц) из мелкого текста, наложенного на плотную цветную ионограмму.", "model_task_prompt": "Проверьте, какой вариант точно извлекает численное значение критической частоты foF2 (5.35 МГц) из мелкого текста, наложенного на плотную цветную ионограмму.", "review_focus": ["visual_fact", "evidence"], "creator_rationale": "Важный факт сидит прямо внутри сложного зашумленного изображения (ионограммы ЛАЭРТ). Baseline VLM часто пропускает текстовые лейблы, наложенные поверх heatmap-графиков.", "expected_error_modes": ["missed_visual_fact"], "match": {"premise_contains": "ионозонд ЛАЭРТ"}, "notes": "Привязка к Step 5 (проект Ионозонд и прибор ЛАЭРТ)."} +{"submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "topic": "Ионосфера Земли и проект «Ионозонд»", "case_id": "CASE-003", "enabled": true, "primary_endpoint": false, "stratum": "multimodal_hard", "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.21, Fig.14", "creator_prompt": "Оцените, какой вариант корректно различает моды радиосигнала (Z-мода, O-мода, X-мода) и связывает их с соответствующими кривыми на графике.", "model_task_prompt": "Оцените, какой вариант корректно различает моды радиосигнала (Z-мода, O-мода, X-мода) и связывает их с соответствующими кривыми на графике.", "review_focus": ["visual_fact", "evidence"], "creator_rationale": "Требуется пространственное понимание связей между подписями и линиями-указателями на сложном научном рисунке. Baseline может перепутать принадлежность подписей к конкретным следам сигнала.", "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference"], "match": {"premise_contains": "ионозонд ЛАЭРТ"}, "notes": "Также привязка к Step 5, фокус на извлечение множественных визуальных фактов с одного графика."} +{"submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "topic": "Ионосфера Земли и проект «Ионозонд»", "case_id": "CASE-004", "enabled": true, "primary_endpoint": false, "stratum": "multimodal_hard", "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.12, Fig.8", "creator_prompt": "Сравните, какой вариант лучше понимает разницу между синими лучами (сигналы ГНСС) и красными лучами (зондирование с низкоорбитального спутника).", "model_task_prompt": "Сравните, какой вариант лучше понимает разницу между синими лучами (сигналы ГНСС) и красными лучами (зондирование с низкоорбитального спутника).", "review_focus": ["visual_fact"], "creator_rationale": "Схема радиотомографии использует цветовую кодировку лучей, описанную в подписи. Baseline может слить все лучи в один механизм, потеряв специфику двух разных систем зондирования.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"premise_contains": "ограничены локальным охватом"}, "notes": "Привязка к Step 4, где объясняется разница между наземными методами и спутниковыми (исопользование ГНСС)."} +{"submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "topic": "Ионосфера Земли и проект «Ионозонд»", "case_id": "CASE-005", "enabled": true, "primary_endpoint": false, "stratum": "multimodal_hard", "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.19, Fig.12", "creator_prompt": "Проверьте, какой вариант правильно идентифицирует расположение длинных антенн ионозонда ЛАЭРТ и антенны прибора МАЯК на конструкции спутника.", "model_task_prompt": "Проверьте, какой вариант правильно идентифицирует расположение длинных антенн ионозонда ЛАЭРТ и антенны прибора МАЯК на конструкции спутника.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Требуется сопоставить текстовое описание из caption (вверх отходит штанга, вниз направлена антенна МАЯК, длинные - ЛАЭРТ) с 3D-моделью аппарата.", "expected_error_modes": ["wrong_evidence_linkage"], "match": {"premise_contains": "аппаратов «Ионосфера-М»"}, "notes": "Привязка к Step 5, визуальное устройство КА Ионосфера-М."} +{"submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "topic": "Ионосфера Земли и проект «Ионозонд»", "case_id": "CASE-006", "enabled": true, "primary_endpoint": false, "stratum": "multimodal_hard", "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.14, Fig.9", "creator_prompt": "Сравните, какой вариант корректно извлекает пространственную информацию о том, что высокочастотная волна (High-frequency wave) направлена вверх, а низкочастотная (Low-frequency) возникает в турбулентном объеме и идет вниз.", "model_task_prompt": "Сравните, какой вариант корректно извлекает пространственную информацию о том, что высокочастотная волна (High-frequency wave) направлена вверх, а низкочастотная (Low-frequency) возникает в турбулентном объеме и идет вниз.", "review_focus": ["visual_fact"], "creator_rationale": "На схеме активного эксперимента направления волн показаны стрелками. Baseline VLM часто игнорирует векторные элементы (стрелки) и просто перечисляет найденный текст.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"premise_contains": "взаимодействие мощного искусственного"}, "notes": "Привязка к Step 4, часть, описывающая активные эксперименты и нагревные стенды."} +{"submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "topic": "Ионосфера Земли и проект «Ионозонд»", "case_id": "CASE-007", "enabled": true, "primary_endpoint": false, "stratum": "multimodal_hard", "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.22, Fig.15", "creator_prompt": "Оцените, какой вариант правильно понимает структуру составного рисунка: верхняя панель (А) — электрическая компонента, нижняя (Б) — магнитная.", "model_task_prompt": "Оцените, какой вариант правильно понимает структуру составного рисунка: верхняя панель (А) — электрическая компонента, нижняя (Б) — магнитная.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Сложный мультипанельный график. Baseline может перепутать панели или смешать данные электрической и магнитной компонент при формулировке evidence.", "expected_error_modes": ["wrong_evidence_linkage"], "match": {"premise_contains": "ОНЧ-передатчиков"}, "notes": "Привязка к Step 5, где упоминаются ОНЧ-передатчики и их спектрограммы."} +{"submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "topic": "Ионосфера Земли и проект «Ионозонд»", "case_id": "CASE-008", "enabled": true, "primary_endpoint": false, "stratum": "temporal_hard", "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.9, Fig.5", "creator_prompt": "Сравните, какой вариант лучше улавливает временную динамику (день vs ночь), в частности полное исчезновение слоя D в ночное время на графике профиля.", "model_task_prompt": "Сравните, какой вариант лучше улавливает временную динамику (день vs ночь), в частности полное исчезновение слоя D в ночное время на графике профиля.", "review_focus": ["temporal", "visual_fact"], "creator_rationale": "Кейс на before/after (день/ночь). График четко показывает отсутствие нижней петли (слоя D) на кривой 'Ночь'. Tuned VLM должен явно связать временное условие с изменением структуры на рисунке.", "expected_error_modes": ["needs_time_fix", "missed_visual_fact"], "match": {"premise_contains": "зависит от высоты и времени суток", "time_scope_contains": "ночью"}, "notes": "Привязка к Step 2. Явный темпоральный маркер 'ночью'."} +{"submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "topic": "Ионосфера Земли и проект «Ионозонд»", "case_id": "CASE-009", "enabled": true, "primary_endpoint": false, "stratum": "temporal_hard", "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.15, Fig.11", "creator_prompt": "Проверьте, какой вариант точнее формулирует разницу в дальности распространения радиосигнала днем и ночью из-за изменения слоев ионосферы.", "model_task_prompt": "Проверьте, какой вариант точнее формулирует разницу в дальности распространения радиосигнала днем и ночью из-за изменения слоев ионосферы.", "review_focus": ["temporal", "evidence"], "creator_rationale": "Изображение демонстрирует разницу между дневной и ночной радиосвязью (temporal scope). Baseline может описать картинку в целом, потеряв причинно-следственную связь между временем суток и дальностью скачка.", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"hypothesis_title_contains": "суточной изменчивости"}, "notes": "Привязка к Step 3. Темпоральная разница влияния ионосферы на сигнал."} +{"submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "topic": "Ионосфера Земли и проект «Ионозонд»", "case_id": "CASE-010", "enabled": true, "primary_endpoint": false, "stratum": "temporal_hard", "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.22, Fig.15", "creator_prompt": "Оцените, какой вариант правильно извлекает конкретный временной интервал (с начала измерений до 22:47:00), в котором наблюдаются естественные электростатические колебания.", "model_task_prompt": "Оцените, какой вариант правильно извлекает конкретный временной интервал (с начала измерений до 22:47:00), в котором наблюдаются естественные электростатические колебания.", "review_focus": ["temporal", "visual_fact"], "creator_rationale": "Временная привязка напрямую завязана на ось X спектрограммы и текст подписи. Tuned VLM должен четко вытянуть временные границы явления (time_scope).", "expected_error_modes": ["needs_time_fix", "missed_visual_fact"], "match": {"premise_contains": "ОНЧ-передатчиков", "time_scope_contains": "22:47:00"}, "notes": "Привязка к Step 5. Временной интервал с оси X."} +{"submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "topic": "Ионосфера Земли и проект «Ионозонд»", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.12, Fig.7", "creator_prompt": "Проверьте, какой вариант правильно описывает базовые компоненты схемы отражения радиосигнала (Земля, ионосфера, антенны).", "model_task_prompt": "Проверьте, какой вариант правильно описывает базовые компоненты схемы отражения радиосигнала (Земля, ионосфера, антенны).", "review_focus": ["overall"], "creator_rationale": "Простой контрольный кейс. Схема очень ясная, текст-доминантная подпись. Обе модели должны справиться без проблем, кейс нужен для баланса.", "expected_error_modes": ["hallucinated_visual_inference"], "match": {"premise_contains": "отражения радиоволн"}, "notes": "Привязка к Step 1, базовая концепция радиосвязи."} +{"submission_id": "матвеи-замятин-сергеевич__ebb8391305", "creator_id": "Матвей Замятин Сергеевич", "topic": "Ионосфера Земли и проект «Ионозонд»", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", "paper_id": "10.7868/S0044394825030016", "year": "2025", "evidence_kind": "figure", "page_hint": "p.20, Fig.13", "creator_prompt": "Сравните, какой вариант корректно определяет количество спутников (4 КА) и количество орбитальных плоскостей на схеме проекта Ионозонд.", "model_task_prompt": "Сравните, какой вариант корректно определяет количество спутников (4 КА) и количество орбитальных плоскостей на схеме проекта Ионозонд.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Простой счетный кейс на основе графической схемы и подписи. Baseline не должен ошибаться в базовом подсчете ясно выделенных объектов.", "expected_error_modes": ["missed_visual_fact"], "match": {"premise_contains": "двух пар спутников"}, "notes": "Привязка к Step 5, визуальный подсчет спутников."} +{"submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "topic": "3D reconstuction", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "3DGS.zip: A survey on 3D Gaussian Splatting Compression Methods", "paper_id": "arxiv:2407.09510", "year": "2024", "evidence_kind": "figure", "page_hint": "Figure 1", "creator_prompt": "Сравните какой вариант лучше извлекает данные из гистограммы и использует его в hypothesis support", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из гистограммы и использует его в hypothesis support", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "tuned VLM должна отметить дизбаланс (пик у низких значений opacity) в распределении по opacity", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "topic": "3D reconstuction", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "3DGS.zip: A survey on 3D Gaussian Splatting Compression Methods", "paper_id": "arxiv:2407.09510", "year": "2024", "evidence_kind": "figure", "page_hint": "Figure 2", "creator_prompt": "Сравните какой вариант лучше извлекает данные из heatmap и использует его в hypothesis support", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из heatmap и использует его в hypothesis support", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "tuned VLM должна отметить сильную корреляцию компонент f_dc_0, f_dc_1, f_dc_2", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "topic": "3D reconstuction", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Efficient Geometry-aware 3D Generative Adversarial Networks", "paper_id": "arxiv:2112.07945", "year": "2024", "evidence_kind": "table", "page_hint": "Table 1", "creator_prompt": "Сравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "tuned VLM должна отметить улучшение скорости работы в 7.8 раз, уменьшение используемой памяти (0.06 от базового подхода)", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "topic": "3D reconstuction", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Speedy-Splat: Fast 3D Gaussian Splatting with Sparse Pixels and Sparse Primitives", "paper_id": "arxiv:2412.00578", "year": "2024", "evidence_kind": "table", "page_hint": "Table 2", "creator_prompt": "Сравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "tuned VLM должна отметить значительное увеличение FPS при добавлении pruning методов", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "topic": "3D reconstuction", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES", "paper_id": "arxiv:2603.11531", "year": "2026", "evidence_kind": "figure", "page_hint": "Figure 2", "creator_prompt": "Сравните какой вариант лучше извлекает данные из диаграммы и использует его в hypothesis support", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из диаграммы и использует его в hypothesis support", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "tuned VLM должна отметить, что большую часть времени занимают Rasterization и Sorting", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "topic": "3D reconstuction", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES", "paper_id": "arxiv:2603.11531", "year": "2026", "evidence_kind": "formula", "page_hint": "Figure 9", "creator_prompt": "Сравните какой вариант лучше извлекает данные из pie chart и использует его в hypothesis support", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из pie chart и использует его в hypothesis support", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "tuned VLM должна отметить, что Mobile-GS имеет highest rate во всех диаграммах", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "мухорин-матвеи-дмитриевич__df07798d94", "creator_id": "Мухорин Матвей Дмитриевич", "topic": "3D reconstuction", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES", "paper_id": "arxiv:2603.11531", "year": "2026", "evidence_kind": "formula", "page_hint": "formula 3", "creator_prompt": "Сравните какой вариант лучше извлекает данные из формулы и использует их в hypothesis support", "model_task_prompt": "Сравните какой вариант лучше извлекает данные из формулы и использует их в hypothesis support", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "formula 3 - самая важная формула в статье, tuned VLM должна использовать её в hypothesis support", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "topic": "Superconducting quantum simulators", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.2, Fig.1", "creator_prompt": "Сравнить, сколько кубитов в процессоре выводят модели, исходя из иллюстрации.", "model_task_prompt": "Сравнить, сколько кубитов в процессоре выводят модели, исходя из иллюстрации.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Baseline VLM может использовать нерелевантный подграфик или неправильно посчитать элементы массива, тогда как tuned VLM должен извлечь точное численное evidence, не спутав кубиты с другими элементами процессора или линиями измерения, и корректно привязать его к figure.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "кубитов трансмонов", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "topic": "Superconducting quantum simulators", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.3, Fig.2", "creator_prompt": "Сравните, какой вариант правильно сопоставляет характер изменения заселенности измеряемого кубита со значением магнитного потока через кольцо из кубитов в подграфике a.", "model_task_prompt": "Сравните, какой вариант правильно сопоставляет характер изменения заселенности измеряемого кубита со значением магнитного потока через кольцо из кубитов в подграфике a.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Baseline VLM может неверно интерпретировать цвет графика с нужным кубитом на решетке кубитов слева, тогда как tuned VLM должен сопоставить цвет кубита на решетке слева и цвет графика, а также опознать измеряемый кубит по специальному выделению.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "синтетический магнитный поток", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "topic": "Superconducting quantum simulators", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.3, Fig.2", "creator_prompt": "Сравните, какой вариант правильно описывает изменение максимальной заселенности измеряемого кубита при увеличении числа кубитов в кольце в эксперименте по наблюдению интерференции.", "model_task_prompt": "Сравните, какой вариант правильно описывает изменение максимальной заселенности измеряемого кубита при увеличении числа кубитов в кольце в эксперименте по наблюдению интерференции.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Baseline VLM может выбрать численные симуляции идеальной модели (HH model) для описания изменений заселенности, тогда как tuned VLM должен выбрать шкалу для эксперимента и численных симуляций реального устройства (Actual device) и верно сопоставить с изменением числа кубитов в кольце.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "максимальная заселенность", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "topic": "Superconducting quantum simulators", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.4, Fig.3", "creator_prompt": "Сравните, какой вариант правильнее объясняет физическую причину идентичности интерференционных картин на Fig. 3 и корректно связывает это объяснение с одинаковой суммой фаз Пайерлса вдоль одного и того же контура.", "model_task_prompt": "Сравните, какой вариант правильнее объясняет физическую причину идентичности интерференционных картин на Fig. 3 и корректно связывает это объяснение с одинаковой суммой фаз Пайерлса вдоль одного и того же контура.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Baseline VLM может сказать, что интерференционные картины разные с количественной точки зрения, тогда как tuned VLM должен согласиться, что интерференционные картины качественно совпадают в связи с тем, что накопленная фаза вдоль одного и того же контура совпадает.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "фаза Пайерлса", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "topic": "Superconducting quantum simulators", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.5, Fig.4", "creator_prompt": "Сравните, какой вариант правильно называет номера и положение кубитов в самой решетке 4х4, значение заселенности которых является наименьшим в эксперименте по осцилляциям Блоха.", "model_task_prompt": "Сравните, какой вариант правильно называет номера и положение кубитов в самой решетке 4х4, значение заселенности которых является наименьшим в эксперименте по осцилляциям Блоха.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Baseline VLM может неправильно сопоставить развертку одномерной цепочки кубитов, тогда как tuned VLM должен верно сопоставить развертку со всей решеткой, а также правильно определить несколько крайних кубитов как наименее заселенные в ходе эксперимента.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "блоховские осцилляции", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "topic": "Superconducting quantum simulators", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.6, Fig.5", "creator_prompt": "Сравните, какой вариант правильно объясняет причину искривления графиков в эксперименте/симуляциях реального процессора (Actual device) по сравнению с симуляциями идеальной модели (HH model).", "model_task_prompt": "Сравните, какой вариант правильно объясняет причину искривления графиков в эксперименте/симуляциях реального процессора (Actual device) по сравнению с симуляциями идеальной модели (HH model).", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Baseline VLM может сослаться на просто другую модель, тогда как tuned VLM должен отметить влияние неоднородностей эффективных связей в системе.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "неоднородные эффективные связи", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "topic": "Superconducting quantum simulators", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.6, Fig.5", "creator_prompt": "Сравните, какой вариант правильно определяет направление начальной скорости частицы относительно направления электрического поля в эксперименте по наблюдению эффекта Холла.", "model_task_prompt": "Сравните, какой вариант правильно определяет направление начальной скорости частицы относительно направления электрического поля в эксперименте по наблюдению эффекта Холла.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Baseline VLM может не понять, что ось x из формулировки в тексте соответствует направлению электрического поля F, тогда как tuned VLM должен это понять.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "эффект Холла", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "topic": "Superconducting quantum simulators", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "easy_control", "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "formula", "page_hint": "p.S4, p.S5, Fig.S1", "creator_prompt": "Сравните, какой вариант правильно определяет закон сдвига основной частоты кубита при наличии параметрической модуляции его энергии.", "model_task_prompt": "Сравните, какой вариант правильно определяет закон сдвига основной частоты кубита при наличии параметрической модуляции его энергии.", "review_focus": ["overall", "evidence"], "creator_rationale": "Ключевая информация дана явно в формуле или сопровождающем тексте, поэтому baseline и tuned VLM не должны сильно различаться. Он помогает проверить, что tuned VLM выигрывает не просто по стилю, а именно на сложных visual-evidence кейсах", "expected_error_modes": [], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "сдвиг частоты", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "topic": "Superconducting quantum simulators", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "figure", "page_hint": "Fig. 1", "creator_prompt": "Сравните, какой вариант правильно дает оценку размера кубита по масштабной шкале на подграфике a.", "model_task_prompt": "Сравните, какой вариант правильно дает оценку размера кубита по масштабной шкале на подграфике a.", "review_focus": ["visual_fact"], "creator_rationale": "Baseline VLM может не отдать внимание масштабной шкале, тогда как tuned VLM должен сопоставить ее длину с длиной кубита (грубо, красного креста), использовать подпись 1мм и объяснить это.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "шкала масштаба", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "topic": "Superconducting quantum simulators", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "easy_control", "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "Fig.1, p.2", "creator_prompt": "Сравните, какой вариант правильно определяет примерное значение максимума подграфика g", "model_task_prompt": "Сравните, какой вариант правильно определяет примерное значение максимума подграфика g", "review_focus": ["overall", "evidence"], "creator_rationale": "Ключевая информация дана явно в формуле или сопровождающем тексте, поэтому baseline и tuned VLM не должны сильно различаться. Он помогает проверить, что tuned VLM выигрывает не просто по стилю, а именно на сложных visual-evidence кейсах", "expected_error_modes": [], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "эффективная связь", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "topic": "Superconducting quantum simulators", "case_id": "CASE-011", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "mixed", "page_hint": "p.3, Fig.2", "creator_prompt": "Сравнить, какой вариант правильно оценивает моменты времени наибольшей заселенности при нулевом потоке через решетку для подграфика a.", "model_task_prompt": "Сравнить, какой вариант правильно оценивает моменты времени наибольшей заселенности при нулевом потоке через решетку для подграфика a.", "review_focus": ["temporal", "evidence"], "creator_rationale": "Baseline VLM может только описать характер осцилляций, тогда как tuned VLM должен извлечь период осцилляций.", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "интерференция", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "gorbunov-ivan-yurievich__0d769c50eb", "creator_id": "Gorbunov Ivan Yurievich", "topic": "Superconducting quantum simulators", "case_id": "CASE-012", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", "paper_id": "arXiv:2405.00873", "year": "2024", "evidence_kind": "figure", "page_hint": "Fig.4", "creator_prompt": "Сравнить, какой вариант правильно оценивает моменты времени нахождения частицы в центре одномерной цепочки для графика численных симуляций блоховский осцилляций для реального девайса (Actual device)", "model_task_prompt": "Сравнить, какой вариант правильно оценивает моменты времени нахождения частицы в центре одномерной цепочки для графика численных симуляций блоховский осцилляций для реального девайса (Actual device)", "review_focus": ["temporal", "evidence"], "creator_rationale": "Baseline VLM может только описать характер осцилляций, тогда как tuned VLM должен извлечь период осцилляций.", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "осцилляции Блоха", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.2, Fig.1", "creator_prompt": "Сравни, как точно описаны этапы пайплайна симуляции сканирования деревьев: от генерации дерева до итогового облака точек.", "model_task_prompt": "Сравни, как точно описаны этапы пайплайна симуляции сканирования деревьев: от генерации дерева до итогового облака точек.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "На схеме показан важный процесс: генерация меша, сэмплирование, симуляция сканирования с учётом траектории и сенсора. Модели часто теряют последовательность шагов или путают зависимость между компонентами.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.3, Fig.2", "creator_prompt": "Сравни, какой вариант верно определяет параметры дерева в интерфейсе Arbaro (уровни ветвления, углы, длина).", "model_task_prompt": "Сравни, какой вариант верно определяет параметры дерева в интерфейсе Arbaro (уровни ветвления, углы, длина).", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Arbaro — ключевой инструмент для создания процедурных деревьев. Изображение содержит специфические параметры (Level 0–3, углы, длина сегментов), которые важны для настройки симуляции и которые легко пропустить.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.2, Fig.3", "creator_prompt": "Сравни, как различаются orchard и forest layout по визуальному представлению и числовым параметрам (spacing, rows).", "model_task_prompt": "Сравни, как различаются orchard и forest layout по визуальному представлению и числовым параметрам (spacing, rows).", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "На рисунке показаны два типа размещения деревьев с конкретными расстояниями (4/10 м и min 6 м). Без внимания к подписям можно перепутать тип или ошибиться в значениях.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.4, Fig.4", "creator_prompt": "Сравни, в чём отличие single-plane LiDAR от 9-beam LiDAR по внешнему виду лучей и угловым характеристикам", "model_task_prompt": "Сравни, в чём отличие single-plane LiDAR от 9-beam LiDAR по внешнему виду лучей и угловым характеристикам", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Изображение демонстрирует конфигурации сенсоров. Важно правильно извлечь параметры: 270° диапазон, 0.675° разрешение, вертикальный охват 30°. Это критично для моделирования многолучевых сканеров.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.5, Fig.5", "creator_prompt": "Сравни описания траектории Zeb1: двойной замкнутый контур, обход вокруг центрального дерева.", "model_task_prompt": "Сравни описания траектории Zeb1: двойной замкнутый контур, обход вокруг центрального дерева.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Траектория сложная и влияет на occlusion. Нужно передать форму (два круга разного радиуса) и цель (минимизация затенения). Без этого симуляция потеряет смысл.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.5, Fig.6", "creator_prompt": "Сравни три типа траекторий (handheld, mobile, aerial) на одном и том же orchard stand.", "model_task_prompt": "Сравни три типа траекторий (handheld, mobile, aerial) на одном и том же orchard stand.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Визуализация позволяет сопоставить покрытие и плотность сканирования. Полезно для тестирования способности модели различать типы движения (наземный, ручной, дрон) по форме пути.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.6, Fig.7", "creator_prompt": "Сравни, как правильно определить occluded point (зелёная точка) на схеме сканирования с одной линией.", "model_task_prompt": "Сравни, как правильно определить occluded point (зелёная точка) на схеме сканирования с одной линией.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Рисунок иллюстрирует механизм возврата первого отражения. Частая ошибка — выбрать ближайшую точку без учёта идентификатора луча. Здесь важно передать правило «только первая в пределах радиуса».", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": "p.7, Fig 10", "creator_prompt": "Сравни, как изменяется визуальное качество и структура облака точек при увеличении уровня шума с 0 м до 0.1 м на одной и той же траектории Zeb1.", "model_task_prompt": "Сравни, как изменяется визуальное качество и структура облака точек при увеличении уровня шума с 0 м до 0.1 м на одной и той же траектории Zeb1.", "review_focus": ["temporal", "evidence"], "creator_rationale": "На рис. 10 показано два состояния одного дерева: (a) без шума, (b) с шумом 0.1 м. Это классический «до/после». Модели часто не замечают, что шум добавлен к координатам точек, и могут перепутать, какое изображение соответствует какому уровню шума.", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "page", "page_hint": "p.11", "creator_prompt": "Опиши последовательность: сначала тренировка модели на симулированных данных SimTreeLS, затем transfer learning на реальных LiDAR-сканах. Что меняется между этапами?", "model_task_prompt": "Опиши последовательность: сначала тренировка модели на симулированных данных SimTreeLS, затем transfer learning на реальных LiDAR-сканах. Что меняется между этапами?", "review_focus": ["temporal", "evidence"], "creator_rationale": "В разделе 4.3 (Future work) явно сказано: «SimTreeLS shows promising results … for deep learning applications using transfer learning». Это временной процесс – сначала предобучение на виртуальных данных, потом адаптация на реальных. Модели могут упустить причинно-следственную связь или порядок этапов.\n\n", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": "p.9, Fig 13", "creator_prompt": "Сравни occlusion profile при смене сенсора с single-beam на 9-beam на одной и той же mobile trajectory (рис. 13). Что произошло с количеством видимых (зелёных) точек?", "model_task_prompt": "Сравни occlusion profile при смене сенсора с single-beam на 9-beam на одной и той же mobile trajectory (рис. 13). Что произошло с количеством видимых (зелёных) точек?", "review_focus": ["temporal", "evidence"], "creator_rationale": "На рис. 13 (mobile trajectory) показано, как добавление вертикальных лучей (9-beam) резко снижает occlusion. Это динамика улучшения за счёт изменения сенсора во времени (или в конфигурации). Модели часто игнорируют подпись «9-beam LiDAR» и не связывают изменение сенсора с уменьшением красных (occluded) точек.", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "table", "page_hint": " p.8, table.2", "creator_prompt": "Извлеки значение p-value из t-теста для V-measure (сегментация) в таблице 2.", "model_task_prompt": "Извлеки значение p-value из t-теста для V-measure (сегментация) в таблице 2.", "review_focus": ["overall"], "creator_rationale": "В таблице 2 значение p-value для V-measure равно 0.0422. Это простой числовой факт, не требующий анализа динамики. Контрольный пример проверяет, умеет ли модель находить конкретную ячейку в двумерной таблице.", "expected_error_modes": [], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "paper_id": "2011.11954", "year": "2021", "evidence_kind": "figure", "page_hint": " p.3, Fig.3", "creator_prompt": "Какое минимальное расстояние между деревьями задаётся в forest layout (рис. 3)?", "model_task_prompt": "Какое минимальное расстояние между деревьями задаётся в forest layout (рис. 3)?", "review_focus": ["overall"], "creator_rationale": "В подписи к рис. 3 указано: «minimum spacing of 6m». Это статический параметр конфигурации, не зависящий от времени. Пример проверяет способность извлекать явную числовую информацию из текста описания рисунка.\n\n", "expected_error_modes": [], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "topic": "Adaptive gradient optimization methods for training LLM", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "MARS: Unleashing the Power of Variance Reduction for Training Large Models", "paper_id": "arxiv:2411.10438", "year": "2024", "evidence_kind": "figure_or_table", "page_hint": "fig. 2, Tab. 1,", "creator_prompt": "Выявить, в какой из задач GPT-2 (Рис. 2) MARS дает наибольший относительный выигрыш в perplexity по сравнению с AdamW, и не перепутать его с табличными результатами ImageNet (Таб. 1).", "model_task_prompt": "Выявить, в какой из задач GPT-2 (Рис. 2) MARS дает наибольший относительный выигрыш в perplexity по сравнению с AdamW, и не перепутать его с табличными результатами ImageNet (Таб. 1).", "review_focus": ["evidence", "visual_fact", "overall"], "creator_rationale": "Ключевой факт преимущества MARS разнесен по нескольким рисункам с кривыми обучения и таблицам с числовыми значениями. Базовая модель может упустить визуальный тренд или неверно привязать выигрыш к конкретной задаче.", "expected_error_modes": ["missed_visual_fact"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "MARS vs AdamW advantage", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "topic": "Adaptive gradient optimization methods for training LLM", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "The AdEMAMix Optimizer: Better, Faster, Older", "paper_id": "arxiv:2409.03137", "year": "2024", "evidence_kind": "figure_or_table", "page_hint": "fig. 2, 3, 6, Tab. 2", "creator_prompt": "Найти на Рис. 6 сравнение AdEMAMix и AdamW по скорости забывания (forgetting) и определить, на каком количестве токенов преимущество становится явным.", "model_task_prompt": "Найти на Рис. 6 сравнение AdEMAMix и AdamW по скорости забывания (forgetting) и определить, на каком количестве токенов преимущество становится явным.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "График демонстрирует динамический процесс (забывание со временем). Ключевой факт — это форма кривых и точка их расхождения, что требует анализа тренда, а не изолированного значения.", "expected_error_modes": ["wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "AdEMAMix forgetting curve", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "topic": "Adaptive gradient optimization methods for training LLM", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "AdaRankGrad: Adaptive Gradient-Rank and Moments for Memory-Efficient LLMs Training and Fine-Tuning", "paper_id": "arxiv:2410.17881", "year": "2024", "evidence_kind": "figure_or_table", "page_hint": "fig. 3, Tab. 2", "creator_prompt": "Сравнить значения точности и потребления памяти GPU для GPT-2 из Таблицы 2 при full fine-tuning, LoRA и AdaRankGrad.", "model_task_prompt": "Сравнить значения точности и потребления памяти GPU для GPT-2 из Таблицы 2 при full fine-tuning, LoRA и AdaRankGrad.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Таблица содержит конкурирующие числовые метрики. Базовая модель может пропустить числовой факт или неверно интерпретировать trade-off между точностью и памятью.", "expected_error_modes": ["wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "GPU memory vs accuracy trade-off", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "topic": "Adaptive gradient optimization methods for training LLM", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "A Self-Attentive Meta-Optimizer with Group-Adaptive Learning Rates and Weight Decay", "paper_id": "arxiv:2605.04055", "year": "2026", "evidence_kind": "figure_or_table", "page_hint": "fig. 2, 3, Tab. 3, 4", "creator_prompt": "Определить по Рис. 3, на какой задаче (языковое моделирование, машинный перевод, классификация) MetaAdamW показывает максимальное и минимальное ускорение сходимости относительно AdamW.", "model_task_prompt": "Определить по Рис. 3, на какой задаче (языковое моделирование, машинный перевод, классификация) MetaAdamW показывает максимальное и минимальное ускорение сходимости относительно AdamW.", "review_focus": ["evidence", "visual_fact", "overall"], "creator_rationale": "На рисунке совмещены кривые сходимости для разных задач. Требуется сравнить визуальные тренды и сделать вывод о вариативности преимущества.", "expected_error_modes": ["hallucinated_visual_inference"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "MetaAdamW convergence speed", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "topic": "Adaptive gradient optimization methods for training LLM", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Adaptive Gradient Methods at the Edge of Stability", "paper_id": "arxiv:2404.01864", "year": "2024", "evidence_kind": "figure", "page_hint": "fig. 1, 3, 6, 7", "creator_prompt": "Проанализировать Рис. 7 (SGD vs. Adam на CIFAR-10) и описать, как меняется ландшафт потерь (loss landscape) в процессе обучения у Adam.", "model_task_prompt": "Проанализировать Рис. 7 (SGD vs. Adam на CIFAR-10) и описать, как меняется ландшафт потерь (loss landscape) в процессе обучения у Adam.", "review_focus": ["visual_fact", "temporal"], "creator_rationale": "Рисунок визуализирует эволюцию ландшафта — сложный визуальный паттерн. Ключевой факт — это изменение характеристик шума и формы поверхности, а не одно конкретное значение.", "expected_error_modes": ["missed_visual_fact"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "CIFAR-10 loss landscape", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "topic": "Adaptive gradient optimization methods for training LLM", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Revisiting the Initial Steps in Adaptive Gradient Descent Optimization", "paper_id": "arxiv:2412.00374", "year": "2024", "evidence_kind": "figure", "page_hint": "fig. 1, 2, 3", "creator_prompt": "По Рис. 2 и 3 определить, как разная инициализация второго момента (data-driven vs random) в Adam влияет на стабильность потерь на ранних итерациях обучения Transformer.", "model_task_prompt": "По Рис. 2 и 3 определить, как разная инициализация второго момента (data-driven vs random) в Adam влияет на стабильность потерь на ранних итерациях обучения Transformer.", "review_focus": ["evidence", "visual_fact", "temporal"], "creator_rationale": "Графики loss на ранней стадии обучения (первые 1000 шагов) содержат ключевую информацию о стабильности, которая может быть упущена при беглом взгляде.", "expected_error_modes": ["missed_visual_fact"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "first 1000 iterations loss", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "topic": "Adaptive gradient optimization methods for training LLM", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Adaptive Gradient Methods at the Edge of Stability", "paper_id": "arxiv:2404.01714", "year": "2025", "evidence_kind": "figure", "page_hint": "Fig. 1, 2, 3, 4, 5, 6, 7, 8", "creator_prompt": "Определить по совокупности рисунков 1–8, какие архитектуры и датасеты дают CG-like-Adam наибольшее преимущество перед Adam в точности и скорости сходимости", "model_task_prompt": "Определить по совокупности рисунков 1–8, какие архитектуры и датасеты дают CG-like-Adam наибольшее преимущество перед Adam в точности и скорости сходимости", "review_focus": ["evidence", "visual_fact", "temporal"], "creator_rationale": "Статья содержит 13 рисунков — кривые обучения, сравнение точности и визуализацию градиентов. Ключевые факты разбросаны по разным задачам (CIFAR-10/100) и требуют сопоставления визуальной информации из нескольких экспериментов.", "expected_error_modes": ["missed_visual_fact"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "CIFAR-10/100 experiments", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "topic": "Adaptive gradient optimization methods for training LLM", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Interpreting Adaptive Gradient Methods by Parameter Scaling for Learning-Rate-Free Optimization", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "Table 1, 2, Fig. 1", "creator_prompt": "По рис. 1 объяснить, как меняется масштаб параметров (parameter scaling) в процессе обучения нейронной сети и как это связано с адаптивностью градиентного метода.", "model_task_prompt": "По рис. 1 объяснить, как меняется масштаб параметров (parameter scaling) в процессе обучения нейронной сети и как это связано с адаптивностью градиентного метода.", "review_focus": ["temporal"], "creator_rationale": "График демонстрирует фазовый переход в масштабировании параметров. Ключевой факт — изменение характера тренда, которое требует временного анализа.", "expected_error_modes": ["hallucinated_visual_inference"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "adaptive scaling behavior", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "topic": "Adaptive gradient optimization methods for training LLM", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Towards Simple and Provable Parameter-Free Adaptive Gradient Methods", "paper_id": "arxiv:2412.19444", "year": "2024", "evidence_kind": "figure", "page_hint": "Fig. 1, 2", "creator_prompt": "По рис. 1, 2 сравнить траектории нормы градиента у предложенных AdaGrad++ и Adam++ с их оригинальными версиями на задаче логистической регрессии и ResNet-18.", "model_task_prompt": "По рис. 1, 2 сравнить траектории нормы градиента у предложенных AdaGrad++ и Adam++ с их оригинальными версиями на задаче логистической регрессии и ResNet-18.", "review_focus": ["temporal", "evidence", "visual_fact"], "creator_rationale": "Ключевой факт — сравнение кривых сходимости. Без внимания к легенде и масштабу осей можно сделать неверный вывод о том, какой метод лучше сходится.", "expected_error_modes": ["missed_visual_fact"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "AdaGrad++ vs Adam++ comparison", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "topic": "Adaptive gradient optimization methods for training LLM", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Can We Remove the Square-Root in Adaptive Gradient Methods? A Second-Order Perspective", "paper_id": "arxiv:2402.03496", "year": "2024", "evidence_kind": "figure_or_table", "page_hint": "Tab. 1, Fig.1, 2", "creator_prompt": "В таблице 1 сравнить результаты AdamW и метода без квадратного корня (NoSqrt) на задаче LRA и объяснить, какая задача является исключением из общего правила.", "model_task_prompt": "В таблице 1 сравнить результаты AdamW и метода без квадратного корня (NoSqrt) на задаче LRA и объяснить, какая задача является исключением из общего правила.", "review_focus": ["evidence"], "creator_rationale": "Таблица содержит компактные, легко поддающиеся количественной оценке данные. Кейс является контрольным, так как задача сводится к простому извлечению и сравнению чисел из таблицы.", "expected_error_modes": ["wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "LRA task results", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "topic": "Adaptive gradient optimization methods for training LLM", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "Optimization Methods in Deep Learning: A Comprehensive Overview", "paper_id": "arxiv:2305.16432", "year": "2023", "evidence_kind": "figure_or_table", "page_hint": "Tab. 1,2, Fig. 2, 5", "creator_prompt": "Найти в таблицах 1 и 2 все упомянутые методы оптимизации и сгруппировать их по категориям (адаптивные и неадаптивные).", "model_task_prompt": "Найти в таблицах 1 и 2 все упомянутые методы оптимизации и сгруппировать их по категориям (адаптивные и неадаптивные).", "review_focus": ["evidence"], "creator_rationale": "Задача на простое извлечение и категоризацию информации из таблицы в обзорной статье. Не требует анализа трендов или визуальной интерпретации.", "expected_error_modes": ["missed_visual_fact"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "taxonomy of optimizers", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", "creator_id": "Артем Васин Александрович", "topic": "Adaptive gradient optimization methods for training LLM", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "A Survey of Advanced Gradient Methods in Machine Learning", "paper_id": "arxiv:2412.04032", "year": "2024", "evidence_kind": "figure", "page_hint": "Fig. 1", "creator_prompt": "По схематичному рис. 1 перечислить ключевые этапы эволюции градиентных методов, затронутые в обзоре.", "model_task_prompt": "По схематичному рис. 1 перечислить ключевые этапы эволюции градиентных методов, затронутые в обзоре.", "review_focus": ["visual_fact"], "creator_rationale": "Ключевая информация представлена в виде блок-схемы. Задача — извлечь последовательность фактов из визуального паттерна, что является базовым навыком.", "expected_error_modes": ["missed_visual_fact"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "evolution block diagram", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "рябков-евгении-юрьевич__598d6ea6b4", "creator_id": "Рябков Евгений Юрьевич", "topic": "Optical Superscattering", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Superscattering emerging from the physics of bound states in the continuum", "paper_id": "10.1038/s41467-023-40382-y", "year": "2023", "evidence_kind": "figure_or_table", "page_hint": "p.6, Fig. 4", "creator_prompt": "Сравните, какой вариант лучше извлекает информацию о super-dipole из картинки и понимает важность этого явления.", "model_task_prompt": "Извлеките информацию о super-dipole из картинки и понимает важность этого явления..", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Информация из изображений часто теряется, однако именно тут хранится наиболее важная информация об эффекте", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "рябков-евгении-юрьевич__598d6ea6b4", "creator_id": "Рябков Евгений Юрьевич", "topic": "Optical Superscattering", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Superscattering emerging from the physics of bound states in the continuum", "paper_id": "10.1038/s41467-023-40382-y", "year": "2023", "evidence_kind": "figure_or_table", "page_hint": "p.8, Fig.6", "creator_prompt": "Сравните, какой вариант лучше извлекает информацию о дизайне системы из картинки и понимает техническую составляющую эффекта", "model_task_prompt": "Извлеките информацию о дизайне системы из картинки и понимает техническую составляющую эффекта.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Информация из изображений часто теряется, однако именно тут хранится наиболее важная информация об используемой системе", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "рябков-евгении-юрьевич__598d6ea6b4", "creator_id": "Рябков Евгений Юрьевич", "topic": "Optical Superscattering", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Superscattering emerging from the physics of bound states in the continuum", "paper_id": "10.1038/s41467-023-40382-y", "year": "2023", "evidence_kind": "figure_or_table", "page_hint": "p.9, Fig.7", "creator_prompt": "Сравните, какой вариант лучше извлекает информацию об экспериментальном достижении superscattering и соответствующих параметрах", "model_task_prompt": "Извлеките информацию об экспериментальном достижении superscattering и соответствующих параметрах.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Информация из изображений часто теряется, однако именно тут хранится наиболее важная информация о реализации эксперимента", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "рябков-евгении-юрьевич__598d6ea6b4", "creator_id": "Рябков Евгений Юрьевич", "topic": "Optical Superscattering", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Experimental Observation of Superscattering", "paper_id": "arXiv:1812.05599", "year": "2019", "evidence_kind": "page", "page_hint": "p.1, p.2", "creator_prompt": "Сравните, какой вариант лучше понимает проблематику достижения данного эффекта и важность его нынешней реализации", "model_task_prompt": "Сравните, какой вариант лучше понимает проблематику достижения данного эффекта и важность его нынешней реализации", "review_focus": ["temporal", "evidence"], "creator_rationale": "tuned VLM должен распознавать новизну нынешней системы по отношению к предыдущим реализациям", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "рябков-евгении-юрьевич__598d6ea6b4", "creator_id": "Рябков Евгений Юрьевич", "topic": "Optical Superscattering", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "Experimental Observation of Superscattering", "paper_id": "arXiv:1812.05599", "year": "2019", "evidence_kind": "page", "page_hint": "p.1", "creator_prompt": "Оценить, распознала ли модель, что ранее данный эффект не наблюдался экспериментально", "model_task_prompt": "Оценить, распознала ли модель, что ранее данный эффект не наблюдался экспериментально", "review_focus": ["overall"], "creator_rationale": "Простая текстовая верификация", "expected_error_modes": [], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "рябков-евгении-юрьевич__598d6ea6b4", "creator_id": "Рябков Евгений Юрьевич", "topic": "Optical Superscattering", "case_id": "CASE-012", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Superscattering pattern shaping for radially anisotropic nanowires", "paper_id": "arXiv:1704.07994", "year": "2017", "evidence_kind": "figure_or_table", "page_hint": "p.2, Fig.1, p.5, Fig.5", "creator_prompt": "Сравните, распознают ли варианты то, что работа исключительно теоретическая и эффект экспериментально не наблюдался", "model_task_prompt": "Сравните, распознают ли варианты то, что работа исключительно теоретическая и эффект экспериментально не наблюдался", "review_focus": ["temporal", "evidence", "visual_fact", "overall"], "creator_rationale": "Модели часто игнорируют контекст проведенных исследований, а tuned VLM должна четко распознавать, в какую область то или иное исследование делает свой вклад", "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference", "missed_visual_fact"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "Мстислав-Кудряшов-Александрович__168bdb55d7", "creator_id": "Мстислав Кудряшов Александрович", "topic": "composite impact modeling", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Fatigue Failure Criteria for Unidirectional Fiber Composites", "paper_id": "https://doi.org/10.1115/1.3157744", "year": "1981", "evidence_kind": "formula", "page_hint": "p.4 formula 18; p5 formula 20,22", "creator_prompt": "сравните, какой вариант корректно определяет формулы в работе. Особенно интерес представляет корректность формул с критериями разрушения", "model_task_prompt": "сравните, какой вариант корректно определяет формулы в работе. Особенно интерес представляет корректность формул с критериями разрушения", "review_focus": ["visual_fact", "overall"], "creator_rationale": "важной частью статьи является работа с формулами", "expected_error_modes": ["missed_visual_fact"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications", "paper_id": "10.3390/electronics11152468", "year": "2022", "evidence_kind": "figure", "page_hint": "p.3, Fig. 1", "creator_prompt": "Сравните, какая модель лучше распознает пространственное расположение волоконного усилителя на 3D-модели EDFA и точно извлекает габариты из подписи.", "model_task_prompt": "Сравните, какая модель лучше распознает пространственное расположение волоконного усилителя на 3D-модели EDFA и точно извлекает габариты из подписи.", "review_focus": ["visual_fact", "evidence"], "creator_rationale": "Базовые VLM плохо понимают пространственную компоновку на плоских рендерах 3D-моделей и часто ошибаются в привязке визуальных элементов к габаритам. Дообученная модель должна точно связать узлы.", "expected_error_modes": ["wrong_evidence_linkage", "missed_visual_fact"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications", "paper_id": "10.3390/electronics11152468", "year": "2022", "evidence_kind": "figure_or_table", "page_hint": "p.12, Fig. 10", "creator_prompt": "Оцените, какая модель точнее извлекает значения коэффициента усиления в зависимости от входной мощности по графику, не путая между собой кривые для разных температур.", "model_task_prompt": "Оцените, какая модель точнее извлекает значения коэффициента усиления в зависимости от входной мощности по графику, не путая между собой кривые для разных температур.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Сложные графики с пересекающимися кривыми и легендами часто сбивают с толку baseline. Важно умение не терять привязку (evidence linkage) к конкретной линии.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications", "paper_id": "10.3390/electronics11152468", "year": "2022", "evidence_kind": "mixed", "page_hint": "p.15, Fig. 14", "creator_prompt": "Проверьте, какая модель корректно связывает просадки оптической мощности с конкретными временными фазами температурного цикла (нагрев/охлаждение) на графике испытаний TVAC.", "model_task_prompt": "Проверьте, какая модель корректно связывает просадки оптической мощности с конкретными временными фазами температурного цикла (нагрев/охлаждение) на графике испытаний TVAC.", "review_focus": ["temporal", "visual_fact"], "creator_rationale": "Базовые модели часто игнорируют ось времени на графиках циклов и выдают среднее значение, теряя фазовый контекст.", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Payload Configuration Integration and Testing of the DeMi CubeSat", "paper_id": "SSC18-XI-02", "year": "2018", "evidence_kind": "figure", "page_hint": "p.4, Fig. 3", "creator_prompt": "Сравните, какая модель корректно прослеживает оптический путь луча от калибровочного лазерного диода до Shack-Hartmann датчика (SHWFS), не смешивая его с путем света от внешней апертуры.", "model_task_prompt": "Сравните, какая модель корректно прослеживает оптический путь луча от калибровочного лазерного диода до Shack-Hartmann датчика (SHWFS), не смешивая его с путем света от внешней апертуры.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Чтение блок-схем и пересекающихся оптических путей — жесткий тест на visual_fact. Baseline часто путает узлы коммутации луча.", "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Payload Configuration Integration and Testing of the DeMi CubeSat", "paper_id": "SSC18-XI-02", "year": "2018", "evidence_kind": "figure", "page_hint": "p.5, Fig. 5", "creator_prompt": "Определите, какая модель может визуально идентифицировать геометрию сетки актуаторов MEMS-зеркала, верно связав её с физическим шагом (pitch) между актуаторами из подписи.", "model_task_prompt": "Определите, какая модель может визуально идентифицировать геометрию сетки актуаторов MEMS-зеркала, верно связав её с физическим шагом (pitch) между актуаторами из подписи.", "review_focus": ["visual_fact"], "creator_rationale": "Работа с микрофотографиями аппаратных компонентов склонна вызывать галлюцинации у базовых моделей, которые выдумывают несуществующие элементы.", "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference", "missed_visual_fact"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "easy_control", "paper_title": "Payload Configuration Integration and Testing of the DeMi CubeSat", "paper_id": "SSC18-XI-02", "year": "2018", "evidence_kind": "page", "page_hint": "p.2, Text section", "creator_prompt": "Проверьте, корректно ли модель извлекает требования к точности измерения волнового фронта (12 нм) из обычного абзаца текста (Payload Requirements).", "model_task_prompt": "Проверьте, корректно ли модель извлекает требования к точности измерения волнового фронта (12 нм) из обычного абзаца текста (Payload Requirements).", "review_focus": ["overall"], "creator_rationale": "Контрольный пример для проверки, что дообучение не сломало способность модели просто итерировать по тексту без галлюцинаций.", "expected_error_modes": [], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission", "paper_id": "SSC19-VI-02", "year": "2019", "evidence_kind": "table", "page_hint": "p.8, Table 4", "creator_prompt": "Какая модель точнее извлекает значения бюджета канала для кросс-линка на дистанции 580 км, корректно обрабатывая структуру таблицы и не путая колонки с потерями (pointing loss) и запасом (link margin)?", "model_task_prompt": "Какая модель точнее извлекает значения бюджета канала для кросс-линка на дистанции 580 км, корректно обрабатывая структуру таблицы и не путая колонки с потерями (pointing loss) и запасом (link margin)?", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Таблицы со сложной вложенной структурой часто парсятся baseline-моделями со смещением строк, из-за чего параметры привязываются не к тем значениям.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission", "paper_id": "SSC19-VI-02", "year": "2019", "evidence_kind": "figure", "page_hint": "p.6, Fig. 6", "creator_prompt": "Оцените, какая модель верно распознает способ разделения передающего и принимающего путей на оптической схеме трансивера (напр. использование дихроичных зеркал для длин волн 1537 нм и 1563 нм)", "model_task_prompt": "Оцените, какая модель верно распознает способ разделения передающего и принимающего путей на оптической схеме трансивера (напр. использование дихроичных зеркал для длин волн 1537 нм и 1563 нм)", "review_focus": ["visual_fact"], "creator_rationale": "VLM без специфического дообучения плохо справляются с мелкими текстовыми подписями на технических схемах и выдумывают несуществующие оптические элементы", "expected_error_modes": ["hallucinated_visual_inference"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission", "paper_id": "SSC19-VI-02", "year": "2019", "evidence_kind": "figure", "page_hint": "p.10, Fig. 11", "creator_prompt": "Проверьте, какая модель точнее описывает процесс схождения (convergence) ошибки наведения во времени, корректно определяя временной интервал до стабилизации (settling time) в замкнутом цикле.", "model_task_prompt": "Проверьте, какая модель точнее описывает процесс схождения (convergence) ошибки наведения во времени, корректно определяя временной интервал до стабилизации (settling time) в замкнутом цикле.", "review_focus": ["temporal", "visual_fact"], "creator_rationale": "Графики переходных процессов сложны для baseline: они не умеют оценивать динамику \"до-в-процессе-после\" и путаются в временных скоупах.", "expected_error_modes": ["needs_time_fix", "missed_visual_fact"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal ", "paper_id": "10.3390/aerospace12080655", "year": "2025", "evidence_kind": "figure_or_table", "page_hint": "p.5, Fig. 2", "creator_prompt": "Сравните, какая модель правильно соотносит цветные лучи (Tx и Rx пути) с их описанием в подписи и безошибочно локализует позицию FSM (Fast Steering Mirror) в плоскости оптического зрачка.", "model_task_prompt": "Сравните, какая модель правильно соотносит цветные лучи (Tx и Rx пути) с их описанием в подписи и безошибочно локализует позицию FSM (Fast Steering Mirror) в плоскости оптического зрачка.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Оптические схемы с цветовой кодировкой лучей — критический тест. Baseline часто не может связать цвет линии на рисунке с текстом в легенде/caption.", "expected_error_modes": ["wrong_evidence_linkage", "hallucinated_visual_inference"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "temporal_hard", "paper_title": "OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal ", "paper_id": "10.3390/aerospace12080655", "year": "2025", "evidence_kind": "mixed", "page_hint": "p.8, Fig. 6", "creator_prompt": "Какая модель лучше выводит логическую связь между паразитной индуктивностью (LTRACE) схемы и её влиянием на временные характеристики (скорость нарастания импульса/задержку) при высокой скорости модуляции диода?", "model_task_prompt": "Какая модель лучше выводит логическую связь между паразитной индуктивностью (LTRACE) схемы и её влиянием на временные характеристики (скорость нарастания импульса/задержку) при высокой скорости модуляции диода?", "review_focus": ["temporal", "evidence"], "creator_rationale": "Понимание влияния топологии электрической схемы на временную динамику сигнала — сложная задача, выявляющая способность VLM рассуждать о физических ограничениях во времени.", "expected_error_modes": ["needs_time_fix", "hallucinated_visual_inference"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "induct", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "иван-колесников-витальевич__ca35bd9ad6", "creator_id": "Иван Колесников Витальевич", "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal ", "paper_id": "10.3390/aerospace12080655", "year": "2025", "evidence_kind": "page", "page_hint": "p.7, Text section", "creator_prompt": "Оцените, способна ли модель извлечь базовое описание процедуры лабораторной характеризации чувствительности приемника из текста до его интеграции.", "model_task_prompt": "Оцените, способна ли модель извлечь базовое описание процедуры лабораторной характеризации чувствительности приемника из текста до его интеграции.", "review_focus": ["overall"], "creator_rationale": "Текстовый кейс без графиков. Обе модели (baseline и SFT) должны справиться одинаково, чтобы доказать, что дообучение не повредило базовую текстовую логику.", "expected_error_modes": [], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "topic": "Vision-Language Models for GUI agents and automated UI testing", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "UI-TARS: Pioneering Automated GUI Interaction with Native Agents", "paper_id": "arXiv:2501.12326", "year": "2025", "evidence_kind": "figure", "page_hint": "p. 27, Figure 8", "creator_prompt": "Сравните, какой вариант точнее извлекает численные значения с bar chart AndroidWorld в Figure 8: scores для моделей UI-TARS-7B и UI-TARS-72B в режимах System-1 и System-2 при Bo1. Оцените, не галлюцинирует ли вариант числа и корректно ли привязывает каждое значение к соответствующей модели и режиму", "model_task_prompt": "Сравните, какой вариант точнее извлекает численные значения с bar chart AndroidWorld в Figure 8: scores для моделей UI-TARS-7B и UI-TARS-72B в режимах System-1 и System-2 при Bo1. Оцените, не галлюцинирует ли вариант числа и корректно ли привязывает каждое значение к соответствующей модели и режиму", "review_focus": ["visual_fact", "evidence"], "creator_rationale": "Текст статьи описывает превосходство System-2 в OOD-сценарии только качественно (\"system-2 reasoning significantly outperforms system-1\"), но конкретные численные значения присутствуют исключительно на bar chart. Это диагностический кейс, потому что: (1) baseline VLM часто галлюцинирует числа или возвращает округлённые/выдуманные значения вместо реального чтения столбцов; (2) на bar chart представлены 4 значения (две модели × два режима), и легко перепутать привязку числа к модели или режиму; (3) сила OOD-эффекта определяется именно разрывом между числами, а не качественным утверждением — без точных значений hypothesis о пользе System-2 в OOD не может быть обоснована количественно", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "topic": "Vision-Language Models for GUI agents and automated UI testing", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "CogAgent: A Visual Language Model for GUI Agents", "paper_id": "arXiv:2312.08914", "year": "2023", "evidence_kind": "figure", "page_hint": "p.8, Figure 3", "creator_prompt": "Сравните, какой вариант точнее извлекает из Figure 3 численные значения TFLOPs для архитектуры с cross-module при всех четырёх разрешениях (224, 490, 756, 1120), и насколько корректно оценивает реальную степень линейности этой зависимости.", "model_task_prompt": "Сравните, какой вариант точнее извлекает из Figure 3 численные значения TFLOPs для архитектуры с cross-module при всех четырёх разрешениях (224, 490, 756, 1120), и насколько корректно оценивает реальную степень линейности этой зависимости.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "текст содержит только качественные характеристики кривой cross-module («modest rise», «almost linear relationship with the number of image patches») и не приводит ни одного точного численного значения TFLOPs для этой архитектуры ни при одном из четырёх разрешений. Все конкретные данные доступны исключительно через чтение Figure 3. Baseline VLM часто опирается на текстовые формулировки и либо пропускает численные значения с графиков, либо галлюцинирует приблизительные числа на основе качественных утверждений текста. Tuned VLM должна реально извлекать точки кривой и проверять, насколько утверждение «almost linear» соответствует фактической форме зависимости", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "topic": "Vision-Language Models for GUI agents and automated UI testing", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "SeeClick: Harnessing GUI Grounding for Advanced Visual GUI Agents", "paper_id": "arXiv:2401.10935", "year": "2024", "evidence_kind": "table", "page_hint": "p. 9317, Table 1", "creator_prompt": "Сравните, какой вариант точнее извлекает, Опираясь на Table 1, точные численные значения \nточности (в процентах) для моделей SeeClick и CogAgent \nстрого в категории «Mobile Icon/Widget», а также их \nразмеры (Model Size) в миллиардах параметров.", "model_task_prompt": "Сравните, какой вариант точнее извлекает, Опираясь на Table 1, точные численные значения точности (в процентах) для моделей SeeClick и CogAgent строго в категории «Mobile Icon/Widget», а также их размеры (Model Size) в миллиардах параметров.", "review_focus": ["visual_fact", "evidence"], "creator_rationale": "Данный кейс проверяет способность VLM извлекать точные числовые значения из многоуровневой таблицы и правильно сопоставлять их со строками (названиями моделей) и дополнительными параметрами.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "topic": "Vision-Language Models for GUI agents and automated UI testing", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Vision-driven Automated Mobile GUI Testing via Multimodal Large Language Model", "paper_id": "arXiv:2407.03037", "year": "2024", "evidence_kind": "table", "page_hint": "p. 9, Table I", "creator_prompt": "Сравните, какой вариант точнее извлекает, используя Table I, значения Precision (P) и Recall (R) для метода Odin строго на датасете «Bug injection data» . Также приведите соответствующие значения P и R для VisionDroid на этом же датасете и укажите абсолютную разницу между ними", "model_task_prompt": "Сравните, какой вариант точнее извлекает, используя Table I, значения Precision (P) и Recall (R) для метода Odin строго на датасете «Bug injection data» . Также приведите соответствующие значения P и R для VisionDroid на этом же датасете и укажите абсолютную разницу между ними", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Во-первых, конкретные числа для Odin на Bug injection data в тексте статьи не приводятся — текст обсуждает только VisionDroid vs GPTDroid и vs NightHawk выборочно. Во-вторых, Table I имеет многоуровневую шапку с тремя соседними блоками датасетов по 6 метрик в каждом, что создаёт высокий риск смещения колонки. В-третьих, baseline VLM склонна «достраивать» числа из текстового нарратива (где VisionDroid однозначно лучший), а не реально читать таблицу — tuned VLM должна различить эти случаи", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "topic": "Vision-Language Models for GUI agents and automated UI testing", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "VLM-Fuzz: Vision Language Model Assisted Recursive Depth-first Search Exploration for Effective UI Testing of Android Apps", "paper_id": "arXiv:2504.11675", "year": "2025", "evidence_kind": "mixed", "page_hint": "p.18, Fig. 9", "creator_prompt": "Сравните, какой вариант точнее извлекает из встроенной таблицы на Fig. 9 точное значение p-value для сравнения Line coverage между методами VLM-Fuzz и DeepGUI.", "model_task_prompt": "Сравните, какой вариант точнее извлекает из встроенной таблицы на Fig. 9 точное значение p-value для сравнения Line coverage между методами VLM-Fuzz и DeepGUI.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Проверка способности модели находить и извлекать конкретное аномальное число в плотной комбинированной таблице на изображении, не поддаваясь галлюцинациям на базе основного текста статьи.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "topic": "Vision-Language Models for GUI agents and automated UI testing", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "AppAgent: Multimodal Agents as Smartphone Users", "paper_id": "arXiv:2312.13771", "year": "2023", "evidence_kind": "table", "page_hint": "p.7, Table 1", "creator_prompt": "Сравните, какой вариант точнее извлекает значения метрик Success Rate (SR) и Reward для метода \"GPT4 (Baseline)\" с конфигурациями Action Space \"Raw\" и \"Ours\", а также для \"AppAgent\" с \"Manually Crafted\" документами, опираясь строго на Table 1.", "model_task_prompt": "Сравните, какой вариант точнее извлекает значения метрик Success Rate (SR) и Reward для метода \"GPT4 (Baseline)\" с конфигурациями Action Space \"Raw\" и \"Ours\", а также для \"AppAgent\" с \"Manually Crafted\" документами, опираясь строго на Table 1.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Кейс проверяет способность VLM корректно обрабатывать таблицы со сложной структурой (пропуски для группировки строк) и не путать результаты базовой модели с показателями нового метода.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "topic": "Vision-Language Models for GUI agents and automated UI testing", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "VideoGameQA-Bench: Evaluating Vision-Language Models for Video Game Quality Assurance", "paper_id": "arXiv:2505.15952", "year": "2025", "evidence_kind": "table", "page_hint": "p.5, Table 2", "creator_prompt": "Сравните, какой вариант точнее извлекает на основе Table 2 значения Accuracy для моделей o4-mini и Llama-4-Scout строго в задаче Video-based glitch detection (VGD).", "model_task_prompt": "Сравните, какой вариант точнее извлекает на основе Table 2 значения Accuracy для моделей o4-mini и Llama-4-Scout строго в задаче Video-based glitch detection (VGD).", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Проверка табличного парсинга: эти конкретные значения (70.0% и 58.6%) не упоминаются напрямую в основном тексте, что вынуждает VLM работать исключительно со сложной структурой таблицы.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "topic": "Vision-Language Models for GUI agents and automated UI testing", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "A Survey on (M)LLM-Based GUI Agents", "paper_id": "arXiv:2504.13865", "year": "2025", "evidence_kind": "table", "page_hint": "p. 17, Table 1", "creator_prompt": "Сравните, какой вариант точнее извлекает, опираясь на Table 1, все датасеты для платформы \"web\", которые поддерживают диалоговые задачи (в столбце Dialogue стоит галочка).", "model_task_prompt": "Сравните, какой вариант точнее извлекает, опираясь на Table 1, все датасеты для платформы \"web\", которые поддерживают диалоговые задачи (в столбце Dialogue стоит галочка).", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Кейс диагностирует способность VLM точно сопоставлять данные из удаленных друг от друга столбцов в очень длинной таблице без смещения по строкам.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "topic": "Vision-Language Models for GUI agents and automated UI testing", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Test-Time Policy Adaptation for Enhanced Multi-Turn Interactions with LLMs", "paper_id": "arXiv:2509.23166", "year": "2025", "evidence_kind": "figure", "page_hint": "p. 28, Figure 6", "creator_prompt": "Сравните, какой вариант точнее определяет из Figure 6 для датасета \nMATH500 момент пересечения кривых ROSA и Baseline во времени и \nправильно описывает, какой метод лидирует ДО и ПОСЛЕ этого момента.", "model_task_prompt": "Сравните, какой вариант точнее определяет из Figure 6 для датасета MATH500 момент пересечения кривых ROSA и Baseline во времени и правильно описывает, какой метод лидирует ДО и ПОСЛЕ этого момента.", "review_focus": ["temporal", "visual_fact"], "creator_rationale": "Текст даёт только качественные temporal-утверждения (\"initially lower\", \n\"steeper slope\", \"surpass the baseline\"), но не называет ни момент \nпересечения, ни величину раннего отставания ROSA. Эти temporal-детали \nизвлекаются только из графика. Baseline VLM склонна процитировать общие \nфразы текста и пропустить before/after структуру во времени.", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage", "missed_visual_fact"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "topic": "Vision-Language Models for GUI agents and automated UI testing", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "A Survey on Web Testing: On the Rise of AI and Applications in Industry", "paper_id": "arXiv:2503.05378", "year": "2025", "evidence_kind": "figure_or_table", "page_hint": "p.38, Fig.3", "creator_prompt": "Сравните, какой вариант точнее определяет из Figure 3 временную динамику публикаций по SBST/AI-методам: год перелома тренда, соотношение публикаций до и после этого года, а также аномальные годы с локальным спадом или искажением. Оцените, какой вариант избегает галлюцинации тренда и опирается именно на визуальные данные", "model_task_prompt": "Сравните, какой вариант точнее определяет из Figure 3 временную динамику публикаций по SBST/AI-методам: год перелома тренда, соотношение публикаций до и после этого года, а также аномальные годы с локальным спадом или искажением. Оцените, какой вариант избегает галлюцинации тренда и опирается именно на визуальные данные", "review_focus": ["temporal", "visual_fact"], "creator_rationale": "Кейс диагностический для A/B-сравнения: текст статьи только упоминает существование Figure 3 в одной строке-подписи и нигде не описывает временную динамику — ни тренд, ни конкретные годы, ни точки перелома. Все temporal-данные сидят исключительно в визуале. Baseline VLM часто галлюцинирует «равномерный рост», сдвигает год перелома на 1–2 года или пропускает аномалии (например, неполный 2025 год). Tuned VLM должна точно сопоставить высоту столбцов с метками оси X и сделать корректный вывод о временной структуре. Сравнение позволит увидеть, какой из вариантов лучше работает с визуальными временными рядами", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage", "missed_visual_fact"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "topic": "Vision-Language Models for GUI agents and automated UI testing", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "LLM-Guided Scenario-based GUI Testing", "paper_id": "arXiv:2506.05079", "year": "2025", "evidence_kind": "page", "page_hint": "p. 24, Section 5 \"Threats to Validity\"", "creator_prompt": "На основании раздела \"Threats to Validity\" перечислите 3 основные угрозы валидности (ограничения), которые сами авторы выделяют в своей работе.", "model_task_prompt": "На основании раздела \"Threats to Validity\" перечислите 3 основные угрозы валидности (ограничения), которые сами авторы выделяют в своей работе.", "review_focus": ["overall"], "creator_rationale": "Кейс намеренно опирается на текстовый раздел статьи, а не на визуальные evidence. Цель — проверить, что tuned-модель не ухудшила работу с простыми текстовыми задачами и что её превосходство на hard-кейсах не сводится к стилистическим предпочтениям.", "expected_error_modes": [], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "михаил-кузнецов-александрович__998d6715e8", "creator_id": "Михаил Кузнецов Александрович", "topic": "Vision-Language Models for GUI agents and automated UI testing", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "Usable AI: Critical Review of Its Current Issues and Trends", "paper_id": "doi:10.3844/jcssp.2023.326.333", "year": "2023", "evidence_kind": "page", "page_hint": "p. 330, Section \"Usability Challenges of AI Applications\"", "creator_prompt": "На основании раздела «Usability Challenges of AI Applications» перечислите основные проблемы (challenges) разработки ориентированного на человека ИИ (HAI), о которых пишут авторы.", "model_task_prompt": "На основании раздела «Usability Challenges of AI Applications» перечислите основные проблемы (challenges) разработки ориентированного на человека ИИ (HAI), о которых пишут авторы.", "review_focus": ["overall"], "creator_rationale": "Кейс намеренно опирается на текстовый раздел статьи, а не на визуальные evidence. Цель — проверить, что tuned-модель не ухудшила работу с простыми текстовыми задачами и что её превосходство на hard-кейсах не сводится лишь к стилистическим предпочтениям.", "expected_error_modes": [], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "парочкин-андреи-витальевич__5c4536453d", "creator_id": "Парочкин Андрей Витальевич", "topic": "Ferroelectric transistor parameters interpretation", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Decoupling polarization and coercive field in AlScN/AlN/AlScN stack for enhanced performance in ferroelectric thin-film transistors", "paper_id": "10.1038/s41467-025-62904-6", "year": "2025", "evidence_kind": "figure", "page_hint": "Fig.4e", "creator_prompt": "Сравнить, какой вариант лучше понимает, какая кривая соответствует подходящему к работе в ключевом режиме напряжению.", "model_task_prompt": "Сравнить, какой вариант лучше понимает, какая кривая соответствует подходящему к работе в ключевом режиме напряжению.", "review_focus": ["temporal", "evidence", "visual_fact"], "creator_rationale": "Tuned VLM должен понять, что означает стрелка на the figure.", "expected_error_modes": ["wrong_evidence_linkage", "missed_visual_fact", "needs_time_fix"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": "-"}, "notes": ""} +{"submission_id": "парочкин-андреи-витальевич__5c4536453d", "creator_id": "Парочкин Андрей Витальевич", "topic": "Ferroelectric transistor parameters interpretation", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Scalable CMOS back-end-of-line-compatible AlScN/two-dimensional channel ferroelectric field-effect transistors", "paper_id": "10.1038/s41565-023-01399-y", "year": "2023", "evidence_kind": "figure", "page_hint": "Fig.1c", "creator_prompt": "Определить, результаты какого ещё метода исследования есть на the figure.", "model_task_prompt": "Определить, результаты какого ещё метода исследования есть на the figure.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Baseline не сможет определить, что белые точки на чёрном фоне - кристаллографические рефлексы, полученные методом рентгеновского analysis.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage", "hallucinated_visual_inference"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": "-"}, "notes": ""} +{"submission_id": "парочкин-андреи-витальевич__5c4536453d", "creator_id": "Парочкин Андрей Витальевич", "topic": "Ferroelectric transistor parameters interpretation", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Scalable CMOS back-end-of-line-compatible AlScN/two-dimensional channel ferroelectric field-effect transistors", "paper_id": "10.1038/s41565-023-01399-y", "year": "2023", "evidence_kind": "figure", "page_hint": "Fig.1c", "creator_prompt": "Определить по картинке, имеются ли в составе структуры кристаллиты.", "model_task_prompt": "Определить по картинке, имеются ли в составе структуры кристаллиты.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Сможет ли tuned VLM определить в какую часть the figure надо смотреть.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": "-"}, "notes": ""} +{"submission_id": "парочкин-андреи-витальевич__5c4536453d", "creator_id": "Парочкин Андрей Витальевич", "topic": "Ferroelectric transistor parameters interpretation", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Origins of High Mobility and Low Operation Voltage of Amorphous Oxide TFTs: Electronic Structure, Electron Transport, Defects and Doping", "paper_id": "10.1109/JDT.2009.2034559", "year": "2009", "evidence_kind": "figure", "page_hint": "Fig.23b", "creator_prompt": "Какой вариант верно напишет, проводимость транзистора после отжига в азотной среде.", "model_task_prompt": "Какой вариант верно напишет, проводимость транзистора после отжига в азотной среде.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Модель должна понять, какая точка синей линии на графике является начальной, а какая - конечной.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": "-"}, "notes": ""} +{"submission_id": "парочкин-андреи-витальевич__5c4536453d", "creator_id": "Парочкин Андрей Витальевич", "topic": "Ferroelectric transistor parameters interpretation", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Origins of High Mobility and Low Operation Voltage of Amorphous Oxide TFTs: Electronic Structure, Electron Transport, Defects and Doping", "paper_id": "10.1109/JDT.2009.2034559", "year": "2009", "evidence_kind": "figure", "page_hint": "Fig.26b", "creator_prompt": "Оценить ширину гистерезиса для отожжённого и неотожжённого образцов.", "model_task_prompt": "Оценить ширину гистерезиса для отожжённого и неотожжённого образцов.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Сможет ли tuned VLM распознать на картинке две \"замкнутые\" линии.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": "-"}, "notes": ""} +{"submission_id": "парочкин-андреи-витальевич__5c4536453d", "creator_id": "Парочкин Андрей Витальевич", "topic": "Ferroelectric transistor parameters interpretation", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Impact of Ferroelectric Layer Thickness on Reliability of Back-End-of-Line-Compatible Hafnium Zirconium Oxide Films", "paper_id": "10.1002/adem.202201124", "year": "2022", "evidence_kind": "figure", "page_hint": "Fig.2", "creator_prompt": "Определить, в какой из плёнок содержится моноклинная фаза.", "model_task_prompt": "Определить, в какой из плёнок содержится моноклинная фаза.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Сможет ли модель сопоставить паттерны для монокристаллических плёнок с измеренными паттернами поликристаллических плёнок разных толщин.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": "-"}, "notes": ""} +{"submission_id": "парочкина-екатерина-владимировна__91f2284dbc", "creator_id": "Парочкина Екатерина Владимировна", "topic": "Посмертные изменения в биомолекулах", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Dynamics of Postmortem Gene Expression in Normal and Neoplastic Murine Liver", "paper_id": "doi: 10.3390/life16040683", "year": "2026", "evidence_kind": "figure_or_table", "page_hint": "Fig.4", "creator_prompt": "Сравните, какой вариант лучше извлекает численные данные из рисунка 4 и сопоставляет их динамику во времени.", "model_task_prompt": "Извлеките численные данные из рисунка 4 и сопоставляет их динамику во времени..", "review_focus": ["visual_fact", "temporal"], "creator_rationale": "Важный факт находится в figure и имеет временную динамику.\n", "expected_error_modes": ["missed_visual_fact", "needs_time_fix"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": "-"}, "notes": "По этой картинке должен быть сделан вывод о том, что профили экспрессии опухоли и здоровой ткани сближаются со временем наблюдения."} +{"submission_id": "парочкина-екатерина-владимировна__91f2284dbc", "creator_id": "Парочкина Екатерина Владимировна", "topic": "Посмертные изменения в биомолекулах", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains", "paper_id": "doi: 10.3390/biom15091288", "year": "2025", "evidence_kind": "figure_or_table", "page_hint": "Fig.2A,B", "creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 2 A,B данные principal component analysis (PCA) и сопоставляет их с временной динамикой", "model_task_prompt": "Извлеките из рисунка 2 A,B данные principal component analysis (PCA) и сопоставляет их с временной динамикой.", "review_focus": ["visual_fact", "temporal"], "creator_rationale": "tuned VLM должен извлекать численные данные, содержащиеся на рисунке в неявном виде", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": "-"}, "notes": ""} +{"submission_id": "парочкина-екатерина-владимировна__91f2284dbc", "creator_id": "Парочкина Екатерина Владимировна", "topic": "Посмертные изменения в биомолекулах", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains", "paper_id": "doi: 10.3390/biom15091288", "year": "2025", "evidence_kind": "figure_or_table", "page_hint": "Fig.3", "creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 3 данные о стабильности соединений", "model_task_prompt": "Извлеките из рисунка 3 данные о стабильности соединений.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Графики содержат очень много линий, но их нужно воспринимать как совокупность", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": "-"}, "notes": ""} +{"submission_id": "парочкина-екатерина-владимировна__91f2284dbc", "creator_id": "Парочкина Екатерина Владимировна", "topic": "Посмертные изменения в биомолекулах", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains", "paper_id": "doi: 10.3390/biom15091288", "year": "2025", "evidence_kind": "figure_or_table", "page_hint": "Fig.4A", "creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 4A качественные (не числовые) данные", "model_task_prompt": "Извлеките из рисунка 4A качественные (не числовые) данные.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "tuned VLM должен извлечь p-value, но значения в цвете и в логарифмической шкале", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": "-"}, "notes": ""} +{"submission_id": "парочкина-екатерина-владимировна__91f2284dbc", "creator_id": "Парочкина Екатерина Владимировна", "topic": "Посмертные изменения в биомолекулах", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Systematic analysis of gene expression patterns associated with postmortem interval in human tissues", "paper_id": "doi: s41598-017-05882-0", "year": "2017", "evidence_kind": "figure_or_table", "page_hint": "Table 2", "creator_prompt": "Сравните, какой вариант лучше извлекает из таблицы 2 категориальные данные", "model_task_prompt": "Извлеките из таблицы 2 категориальные данные.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "baseline может пропустить колонку с FDR, tuned VLM должен извлечь описание гена и значимость", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": "-"}, "notes": ""} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Deep learning methods for 2D material electronic properties", "paper_id": "10.1039/D5DD00155B", "year": "2026", "evidence_kind": "table", "page_hint": "p.5-6, Table 1", "creator_prompt": "Сравните, какая из двух моделей точнее извлекает из таблицы 1 для каждой базы данных (C2DB, MC2D, 2DmatPedia, Materials Project, JARVIS-DFT) информацию о типе данных (структура / электронные свойства / фононы), доступности API и основных ссылках. Выделите только те базы, которые содержат электронные зонные структуры.", "model_task_prompt": "Сравните, какая из двух моделей точнее извлекает из таблицы 1 для каждой базы данных (C2DB, MC2D, 2DmatPedia, Materials Project, JARVIS-DFT) информацию о типе данных (структура / электронные свойства / фононы), доступности API и основных ссылках. Выделите только те базы, которые содержат электронные зонные структуры.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "В таблице пересекаются несколько типов информации (название, описание, ссылка) в формате смешанного текста и гиперссылок. Базовая VLM часто путает колонки или пропускает часть данных, тогда как дообученная модель должна корректно структурировать извлечённые факты.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Deep learning methods for 2D material electronic properties", "paper_id": "10.1039/D5DD00155B", "year": "2026", "evidence_kind": "figure", "page_hint": "p.7, Fig. 1", "creator_prompt": "На рисунке 1 показаны пять архитектур (PLMF, CGCNN, ALIGNN, MEGNet, SLICES). Для каждой из них определите:\n- используется ли графовое представление;\n- есть ли в явном виде обработка углов связей (bond angles);\n- является ли представление строковым (string‑based).\nРезультат оформите в виде таблицы из трёх колонок.", "model_task_prompt": "На рисунке 1 показаны пять архитектур (PLMF, CGCNN, ALIGNN, MEGNet, SLICES). Для каждой из них определите: - используется ли графовое представление; - есть ли в явном виде обработка углов связей (bond angles); - является ли представление строковым (string‑based). Результат оформите в виде таблицы из трёх колонок.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Кейс проверяет способность модели одновременно интерпретировать визуальную схему и извлекать из неё структурированные атрибуты. Без хорошего визуального понимания легко перепутать ALIGNN (углы) и MEGNet (глобальные атрибуты). Ошибки в таком задании показывают слабость мультимодального восприятия.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Deep learning methods for 2D material electronic properties", "paper_id": "10.1039/D5DD00155B", "year": "2026", "evidence_kind": "table", "page_hint": "p. 13-14, Table 3", "creator_prompt": "Найдите в таблице 3 все методы, которые используют трансформеры (transformer) или авторегрессию (autoregressive). Для каждого такого метода выпишите название модели или работы, тип представления структуры, точность (MAE для band centers или band gaps). Игнорируйте методы на основе CNN или RBM, если они явно не упоминают внимание/трансформер.", "model_task_prompt": "Найдите в таблице 3 все методы, которые используют трансформеры (transformer) или авторегрессию (autoregressive). Для каждого такого метода выпишите название модели или работы, тип представления структуры, точность (MAE для band centers или band gaps). Игнорируйте методы на основе CNN или RBM, если они явно не упоминают внимание/трансформер.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Таблица 3 содержит более 20 методов с разными подходами. Задача требует фильтрации по ключевому слову, затем извлечения численных значений из разных колонок. Базовая VLM часто пропускает методы с неявными трансформерами (например, Bandformer) или путает значения MAE для band centers и band dispersions. Улучшенная модель должна справляться точнее.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Deep learning methods for 2D material electronic properties", "paper_id": "10.1039/D5DD00155B", "year": "2026", "evidence_kind": "table", "page_hint": "p.16, Table 4", "creator_prompt": "В таблице 4 перечислены модели для межатомных потенциалов. Отберите те модели, которые явно используют E(3)-equivariant convolutions или equivariant message passing. Для каждой из них укажите название модели, тип архитектуры (Graph NN, Equivariant representations), целевые материалы (2D, 3D, molecular). Если модель не помечена как equivariant, но в описании говорится о «rotational invariance», – не включайте.", "model_task_prompt": "В таблице 4 перечислены модели для межатомных потенциалов. Отберите те модели, которые явно используют E(3)-equivariant convolutions или equivariant message passing. Для каждой из них укажите название модели, тип архитектуры (Graph NN, Equivariant representations), целевые материалы (2D, 3D, molecular). Если модель не помечена как equivariant, но в описании говорится о «rotational invariance», – не включайте.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Equivariant модели (NequIP, MACE, Allegro и др.) – важное современное направление, но в таблице они соседствуют с более простыми подходами (DEEPMD, SchNet). Кейс проверяет, умеет ли VLM различать термины «equivariant» и «invariant», и правильно ли извлекает соответствующие строки. Ошибки здесь указывают на недостаточное мультимодальное понимание научной терминологии.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Deep learning methods for 2D material electronic properties", "paper_id": "10.1039/D5DD00155B", "year": "2026", "evidence_kind": "page", "page_hint": "p.28-29", "creator_prompt": "В разделе 5 авторы перечисляют ключевые вызовы и будущие направления. Найдите в тексте упоминания следующих концепций:\n- uncertainty quantification;\n- interpretability / explainable AI (XAI);\n- foundation models;\n- autonomous labs (self‑driving laboratories).\nДля каждого из них выпишите одну цитату (одно предложение), в которой описывается проблема или предложение. Затем оцените, насколько полно каждая модель (baseline vs tuned) воспроизводит эти цитаты без изменения смысла.", "model_task_prompt": "В разделе 5 авторы перечисляют ключевые вызовы и будущие направления. Найдите в тексте упоминания следующих концепций: - uncertainty quantification; - interpretability / explainable AI (XAI); - foundation models; - autonomous labs (self‑driving laboratories). Для каждого из них выпишите одну цитату (одно предложение), в которой описывается проблема или предложение. Затем оцените, насколько полно каждая модель (baseline vs tuned) воспроизводит эти цитаты без изменения смысла.", "review_focus": ["temporal", "evidence"], "creator_rationale": "Кейс темпоральный, потому что фокус на развитии поля и будущих изменениях. Участник должен извлечь разрозненные фрагменты текста, охватывающие разные абзацы, и правильно их сгруппировать по темам. Это проверяет способность модели к долгосрочному пониманию текста и удержанию контекста. Базовая VLM часто смешивает цитаты или выдаёт обобщения, не соответствующие исходному тексту.", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State", "paper_id": "arXiv:2603.14515", "year": "2026", "evidence_kind": "figure", "page_hint": "p.1, Fig.1", "creator_prompt": "По логарифмическому графику определите показатель степени для Excited Pfaffians. Сравните с наклонами кривых NES и Szabó et al.", "model_task_prompt": "По логарифмическому графику определите показатель степени для Excited Pfaffians. Сравните с наклонами кривых NES и Szabó et al.", "review_focus": ["temporal", "evidence"], "creator_rationale": "Кейс проверяет умение читать логарифмические графики и извлекать числовые значения масштабирования. Ошибки часты при различении близких показателей (2.0 против 0.14).", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State", "paper_id": "arXiv:2603.14515", "year": "2026", "evidence_kind": "figure", "page_hint": "p.5, Fig.3", "creator_prompt": "Для Excited Pfaffian (панель a) назовите, какие компоненты общие для всех состояний, а какие — state‑specific.", "model_task_prompt": "Для Excited Pfaffian (панель a) назовите, какие компоненты общие для всех состояний, а какие — state‑specific.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Ключевое различие двух подходов на схеме: общий backbone против отдельных сетей на состояние. Базовая VLM часто не замечает общую орбитальную часть.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State", "paper_id": "arXiv:2603.14515", "year": "2026", "evidence_kind": "figure", "page_hint": "p.6, Fig.4", "creator_prompt": "Найдите атом, для которого все 10 состояний находятся в пределах химической точности (1.6 mHa) от эксперимента. Для него выпишите погрешность самого высокого уровня.", "model_task_prompt": "Найдите атом, для которого все 10 состояний находятся в пределах химической точности (1.6 mHa) от эксперимента. Для него выпишите погрешность самого высокого уровня.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Нужно сравнить несколько столбцов и выбрать лучший случай. Частая ошибка – выбрать атом с одним хорошим значением, игнорируя другие.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State", "paper_id": "arXiv:2603.14515", "year": "2026", "evidence_kind": "figure", "page_hint": "p.7, Fig.5", "creator_prompt": "В районе 1.6Å происходит обмен двух синглетных состояний. Назовите оба состояния и укажите, какой метод (Excited Pfaffian или Schätzle) сохраняет больше состояний на больших расстояниях.", "model_task_prompt": "В районе 1.6Å происходит обмен двух синглетных состояний. Назовите оба состояния и укажите, какой метод (Excited Pfaffian или Schätzle) сохраняет больше состояний на больших расстояниях.", "review_focus": ["temporal", "evidence"], "creator_rationale": "Темпоральный кейс на отслеживание состояний при пересечении уровней. Базовая VLM путает, какая кривая какому состоянию принадлежит.", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Transferable neural wavefunctions for solids", "paper_id": "10.1038/s43588-025-00872-z", "year": "2025", "evidence_kind": "figure", "page_hint": "p.2, Fig. 1d", "creator_prompt": "На панели d рисунка 1 показано, как переносимая волновая функция использует среднее поле (mean‑field) для начальных орбиталей. Определите, какие компоненты остаются «замороженными», а какие обучаются нейросетью. Объясните, почему такой подход ускоряет обучение для новых систем.", "model_task_prompt": "На панели d рисунка 1 показано, как переносимая волновая функция использует среднее поле (mean‑field) для начальных орбиталей. Определите, какие компоненты остаются «замороженными», а какие обучаются нейросетью. Объясните, почему такой подход ускоряет обучение для новых систем.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Кейс проверяет понимание архитектуры переносимой модели: разделение на фиксированные базовые орбитали и обучаемые поправки. Базовая VLM часто игнорирует эту двухуровневую структуру и ошибочно считает, что вся сеть обучается с нуля.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "temporal_hard", "paper_title": "Transferable neural wavefunctions for solids", "paper_id": "10.1038/s43588-025-00872-z", "year": "2025", "evidence_kind": "page", "page_hint": "стр. 2, последний абзац введения", "creator_prompt": "В тексте упоминается, что DeepSolid потребовал 80 000 GPU‑часов для одного расчёта. Найдите, во сколько раз меньше времени потребовал предложенный метод при переносе с 32‑электронной на 108‑электронную систему LiH. Какой коэффициент ускорения назван в статье?", "model_task_prompt": "В тексте упоминается, что DeepSolid потребовал 80 000 GPU‑часов для одного расчёта. Найдите, во сколько раз меньше времени потребовал предложенный метод при переносе с 32‑электронной на 108‑электронную систему LiH. Какой коэффициент ускорения назван в статье?", "review_focus": ["temporal", "evidence"], "creator_rationale": "Ключевая цифра (50x) показывает эффективность переносимости. Задача требует найти числовое значение и идентифицировать, что речь идёт именно о fine‑tuning, а не о полном переобучении. Базовая VLM часто путает это с общим ускорением.", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "multimodal_hard", "paper_title": "Transferable neural wavefunctions for solids", "paper_id": "10.1038/s43588-025-00872-z", "year": "2025", "evidence_kind": "figure", "page_hint": "p.3, Fig. 2a", "creator_prompt": "На рисунке 2a показано сравнение энергий на атом для водородной цепи. Найдите метод, который даёт самую низкую энергию (наиболее точную). Укажите, какое значение (в mHa) получено предложенным методом при экстраполяции к термодинамическому пределу с использованием TABC.", "model_task_prompt": "На рисунке 2a показано сравнение энергий на атом для водородной цепи. Найдите метод, который даёт самую низкую энергию (наиболее точную). Укажите, какое значение (в mHa) получено предложенным методом при экстраполяции к термодинамическому пределу с использованием TABC.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "График содержит четыре набора точек и экстраполяционные линии. Нужно выбрать правильную кривую (TABC, открытые маркеры) и выписать числовое значение из подписи или с графика (−565.24(2) mHa). Проверяет точность извлечения данных.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-013", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "Transferable neural wavefunctions for solids", "paper_id": "10.1038/s43588-025-00872-z", "year": "2025", "evidence_kind": "figure", "page_hint": "p.3, Fig. 2b", "creator_prompt": "На рисунке 2b показана комплексная поляризация как функция межатомного расстояния. Авторы утверждают, что наблюдают металл‑изоляторный переход. В каком диапазоне R (в единицах a₀) происходит переход согласно их данным? Чем их оценка критического расстояния отличается от оценки Motta et al.?", "model_task_prompt": "На рисунке 2b показана комплексная поляризация как функция межатомного расстояния. Авторы утверждают, что наблюдают металл‑изоляторный переход. В каком диапазоне R (в единицах a₀) происходит переход согласно их данным? Чем их оценка критического расстояния отличается от оценки Motta et al.?", "review_focus": ["temporal", "evidence"], "creator_rationale": "Темпоральный кейс на отслеживание смены фазы. Нужно сравнить два значения критического расстояния (1.32 vs 1.70). Базовая VLM может пропустить эту разницу или неправильно считать R с графика.", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-014", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "Transferable neural wavefunctions for solids", "paper_id": "10.1038/s43588-025-00872-z", "year": "2025", "evidence_kind": "table", "page_hint": "p.4, Table 1", "creator_prompt": "В таблице 1 сравниваются полные энергии графена для трёх твистов. Для твиста k2 (вес 2/3) найдите энергию, полученную DeepSolid, и энергию, полученную авторами. Вычислите разницу в mH.", "model_task_prompt": "В таблице 1 сравниваются полные энергии графена для трёх твистов. Для твиста k2 (вес 2/3) найдите энергию, полученную DeepSolid, и энергию, полученную авторами. Вычислите разницу в mH.", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Простое извлечение чисел из таблицы: DeepSolid: −76.2495, авторы: −76.2572(2), разница ~7.7 mH. Проверяет, не перепутает ли модель строки и правильно ли вычтет.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-015", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction", "paper_id": "arXiv:2603.15669", "year": "2026", "evidence_kind": "page", "page_hint": "p. 7–9, 2.1 (a, b, c)", "creator_prompt": "Авторы описывают три сценария с возрастающей сложностью: интерполяция внутри MD‑траектории, случайное разделение QM9, экстраполяция на фторсодержащие молекулы. Для третьего сценария укажите, какие элементы отсутствовали в тренировочном наборе. Как меняется ошибка предсказания при переходе от первого сценария к третьему?", "model_task_prompt": "Авторы описывают три сценария с возрастающей сложностью: интерполяция внутри MD‑траектории, случайное разделение QM9, экстраполяция на фторсодержащие молекулы. Для третьего сценария укажите, какие элементы отсутствовали в тренировочном наборе. Как меняется ошибка предсказания при переходе от первого сценария к третьему?", "review_focus": ["temporal", "evidence"], "creator_rationale": "Кейс проверяет способность извлекать сравнительную информацию из текста и ранжировать уровни сложности обобщения. Базовая VLM часто не замечает, что в третьем сценарии исключены все молекулы с фтором, и ошибочно приписывает экстраполяцию к другим элементам.", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-016", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction", "paper_id": "arXiv:2603.15669", "year": "2026", "evidence_kind": "figure", "page_hint": "p. 10, Fig. 3", "creator_prompt": "На рисунке 3 показано сравнение предсказанной электронной плотности и DFT‑плотности. Визуально оцените, хорошо ли воспроизводится форма и положение максимумов. В каких областях (вблизи ядер или в межмолекулярном пространстве) заметны расхождения? Почему авторы исключают околоядерные области из расчёта ошибок?", "model_task_prompt": "На рисунке 3 показано сравнение предсказанной электронной плотности и DFT‑плотности. Визуально оцените, хорошо ли воспроизводится форма и положение максимумов. В каких областях (вблизи ядер или в межмолекулярном пространстве) заметны расхождения? Почему авторы исключают околоядерные области из расчёта ошибок?", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "Рисунок демонстрирует качественное совпадение плотностей. Кейс проверяет умение интерпретировать визуальное сравнение полей и связывать его с текстовым описанием (обрезание плотности для стабильности). Базовая VLM может игнорировать артефакты вблизи ядер.", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "свинкин-никита-алексеевич__0987c43afc", "creator_id": "Свинкин Никита Алексеевич", "topic": "AI in Quantum Chemistry", "case_id": "CASE-017", "enabled": true, "primary_endpoint": true, "stratum": "easy_control", "paper_title": "V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction", "paper_id": "arXiv:2603.15669", "year": "2026", "evidence_kind": "page", "page_hint": "p. 12, 3.1, Eq 1", "creator_prompt": "В разделе 3.1 авторы связывают FNO с линейной теорией отклика. Найдите интегральное выражение, связывающее изменение плотности с изменением внешнего потенциала через функцию отклика χ. Напишите это уравнение (можно в текстовом виде). Чем FNO отличается от линейного отклика?", "model_task_prompt": "В разделе 3.1 авторы связывают FNO с линейной теорией отклика. Найдите интегральное выражение, связывающее изменение плотности с изменением внешнего потенциала через функцию отклика χ. Напишите это уравнение (можно в текстовом виде). Чем FNO отличается от линейного отклика?", "review_focus": ["overall"], "creator_rationale": "Лёгкий контрольный кейс на понимание физической мотивации. Участник должен найти уравнение (1), переписать его или указать, что FNO заменяет линейное ядро χ на нелинейный оператор. Проверяет базовое чтение формул.", "expected_error_modes": [], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["temporal", "evidence"], "creator_rationale": "", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["temporal", "evidence"], "creator_rationale": "", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["temporal", "evidence"], "creator_rationale": "", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["overall"], "creator_rationale": "", "expected_error_modes": [], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", "creator_id": "Екатерина Александровна Кубракова", "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["overall"], "creator_rationale": "", "expected_error_modes": [], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-001", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-002", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-003", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-004", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-005", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-006", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-007", "enabled": true, "primary_endpoint": true, "stratum": "multimodal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["evidence", "visual_fact"], "creator_rationale": "", "expected_error_modes": ["missed_visual_fact", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-008", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["temporal", "evidence"], "creator_rationale": "", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-009", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["temporal", "evidence"], "creator_rationale": "", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-010", "enabled": true, "primary_endpoint": true, "stratum": "temporal_hard", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["temporal", "evidence"], "creator_rationale": "", "expected_error_modes": ["needs_time_fix", "wrong_evidence_linkage"], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-011", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["overall"], "creator_rationale": "", "expected_error_modes": [], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} +{"submission_id": "fred-westling__4e51465083", "creator_id": "Fred Westling", "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", "case_id": "CASE-012", "enabled": true, "primary_endpoint": false, "stratum": "easy_control", "paper_title": "", "paper_id": "", "year": "", "evidence_kind": "figure_or_table", "page_hint": "", "creator_prompt": "", "model_task_prompt": "", "review_focus": ["overall"], "creator_rationale": "", "expected_error_modes": [], "match": {"candidate_signature": "", "candidate_source_contains": "", "candidate_predicate_contains": "", "candidate_target_contains": "", "hypothesis_title_contains": "", "premise_contains": "", "mechanism_contains": "", "time_scope_contains": "", "rank_hint": ""}, "notes": ""} diff --git "a/source_manifests/0987c43afc__0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - \320\235\320\270\320\272\320\270\321\202\320\260 \320\241\320\262\320\270\320\275\320\272\320\270\320\275.json" "b/source_manifests/0987c43afc__0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - \320\235\320\270\320\272\320\270\321\202\320\260 \320\241\320\262\320\270\320\275\320\272\320\270\320\275.json" new file mode 100644 index 0000000000000000000000000000000000000000..be507295d05ba0d37faa6546accae3f223ef35c5 --- /dev/null +++ "b/source_manifests/0987c43afc__0018_svinkin_nikita_alekseevich__task3_ab_case_manifest.filled - \320\235\320\270\320\272\320\270\321\202\320\260 \320\241\320\262\320\270\320\275\320\272\320\270\320\275.json" @@ -0,0 +1,581 @@ +{ + "schema_version": "task3_ab_case_manifest_v1", + "generated_at": "2026-05-11T11:23:32Z", + "experiment_meta": { + "topic": "AI in Quantum Chemistry", + "submission_id": "свинкин-никита-алексеевич__0987c43afc", + "creator_id": "Свинкин Никита Алексеевич", + "cutoff_year": "2026", + "review_goal": "Surface VLM differences on multimodal-hard and temporal-hard Task 3 cases." + }, + "strata_targets": { + "multimodal_hard": 7, + "temporal_hard": 3, + "easy_control": 2 + }, + "error_taxonomy": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "needs_time_fix", + "hallucinated_visual_inference" + ], + "cases": [ + { + "case_id": "CASE-001", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Deep learning methods for 2D material electronic properties", + "paper_id": "10.1039/D5DD00155B", + "year": "2026", + "evidence_kind": "table", + "page_hint": "p.5-6, Table 1", + "creator_prompt": "Сравните, какая из двух моделей точнее извлекает из таблицы 1 для каждой базы данных (C2DB, MC2D, 2DmatPedia, Materials Project, JARVIS-DFT) информацию о типе данных (структура / электронные свойства / фононы), доступности API и основных ссылках. Выделите только те базы, которые содержат электронные зонные структуры.", + "creator_rationale": "В таблице пересекаются несколько типов информации (название, описание, ссылка) в формате смешанного текста и гиперссылок. Базовая VLM часто путает колонки или пропускает часть данных, тогда как дообученная модель должна корректно структурировать извлечённые факты.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-002", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Deep learning methods for 2D material electronic properties", + "paper_id": "10.1039/D5DD00155B", + "year": "2026", + "evidence_kind": "figure", + "page_hint": "p.7, Fig. 1", + "creator_prompt": "На рисунке 1 показаны пять архитектур (PLMF, CGCNN, ALIGNN, MEGNet, SLICES). Для каждой из них определите:\n- используется ли графовое представление;\n- есть ли в явном виде обработка углов связей (bond angles);\n- является ли представление строковым (string‑based).\nРезультат оформите в виде таблицы из трёх колонок.", + "creator_rationale": "Кейс проверяет способность модели одновременно интерпретировать визуальную схему и извлекать из неё структурированные атрибуты. Без хорошего визуального понимания легко перепутать ALIGNN (углы) и MEGNet (глобальные атрибуты). Ошибки в таком задании показывают слабость мультимодального восприятия.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-003", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Deep learning methods for 2D material electronic properties", + "paper_id": "10.1039/D5DD00155B", + "year": "2026", + "evidence_kind": "table", + "page_hint": "p. 13-14, Table 3", + "creator_prompt": "Найдите в таблице 3 все методы, которые используют трансформеры (transformer) или авторегрессию (autoregressive). Для каждого такого метода выпишите название модели или работы, тип представления структуры, точность (MAE для band centers или band gaps). Игнорируйте методы на основе CNN или RBM, если они явно не упоминают внимание/трансформер.", + "creator_rationale": "Таблица 3 содержит более 20 методов с разными подходами. Задача требует фильтрации по ключевому слову, затем извлечения численных значений из разных колонок. Базовая VLM часто пропускает методы с неявными трансформерами (например, Bandformer) или путает значения MAE для band centers и band dispersions. Улучшенная модель должна справляться точнее.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-004", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Deep learning methods for 2D material electronic properties", + "paper_id": "10.1039/D5DD00155B", + "year": "2026", + "evidence_kind": "table", + "page_hint": "p.16, Table 4", + "creator_prompt": "В таблице 4 перечислены модели для межатомных потенциалов. Отберите те модели, которые явно используют E(3)-equivariant convolutions или equivariant message passing. Для каждой из них укажите название модели, тип архитектуры (Graph NN, Equivariant representations), целевые материалы (2D, 3D, molecular). Если модель не помечена как equivariant, но в описании говорится о «rotational invariance», – не включайте.", + "creator_rationale": "Equivariant модели (NequIP, MACE, Allegro и др.) – важное современное направление, но в таблице они соседствуют с более простыми подходами (DEEPMD, SchNet). Кейс проверяет, умеет ли VLM различать термины «equivariant» и «invariant», и правильно ли извлекает соответствующие строки. Ошибки здесь указывают на недостаточное мультимодальное понимание научной терминологии.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-005", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Deep learning methods for 2D material electronic properties", + "paper_id": "10.1039/D5DD00155B", + "year": "2026", + "evidence_kind": "page", + "page_hint": "p.28-29", + "creator_prompt": "В разделе 5 авторы перечисляют ключевые вызовы и будущие направления. Найдите в тексте упоминания следующих концепций:\n- uncertainty quantification;\n- interpretability / explainable AI (XAI);\n- foundation models;\n- autonomous labs (self‑driving laboratories).\nДля каждого из них выпишите одну цитату (одно предложение), в которой описывается проблема или предложение. Затем оцените, насколько полно каждая модель (baseline vs tuned) воспроизводит эти цитаты без изменения смысла.", + "creator_rationale": "Кейс темпоральный, потому что фокус на развитии поля и будущих изменениях. Участник должен извлечь разрозненные фрагменты текста, охватывающие разные абзацы, и правильно их сгруппировать по темам. Это проверяет способность модели к долгосрочному пониманию текста и удержанию контекста. Базовая VLM часто смешивает цитаты или выдаёт обобщения, не соответствующие исходному тексту.", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-006", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State", + "paper_id": "arXiv:2603.14515", + "year": "2026", + "evidence_kind": "figure", + "page_hint": "p.1, Fig.1", + "creator_prompt": "По логарифмическому графику определите показатель степени для Excited Pfaffians. Сравните с наклонами кривых NES и Szabó et al.", + "creator_rationale": "Кейс проверяет умение читать логарифмические графики и извлекать числовые значения масштабирования. Ошибки часты при различении близких показателей (2.0 против 0.14).", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-007", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State", + "paper_id": "arXiv:2603.14515", + "year": "2026", + "evidence_kind": "figure", + "page_hint": "p.5, Fig.3", + "creator_prompt": "Для Excited Pfaffian (панель a) назовите, какие компоненты общие для всех состояний, а какие — state‑specific.", + "creator_rationale": "Ключевое различие двух подходов на схеме: общий backbone против отдельных сетей на состояние. Базовая VLM часто не замечает общую орбитальную часть.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-008", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State", + "paper_id": "arXiv:2603.14515", + "year": "2026", + "evidence_kind": "figure", + "page_hint": "p.6, Fig.4", + "creator_prompt": "Найдите атом, для которого все 10 состояний находятся в пределах химической точности (1.6 mHa) от эксперимента. Для него выпишите погрешность самого высокого уровня.", + "creator_rationale": "Нужно сравнить несколько столбцов и выбрать лучший случай. Частая ошибка – выбрать атом с одним хорошим значением, игнорируя другие.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-009", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Excited Pfaffians: Generalized Neural Wave Functions Across Structure and State", + "paper_id": "arXiv:2603.14515", + "year": "2026", + "evidence_kind": "figure", + "page_hint": "p.7, Fig.5", + "creator_prompt": "В районе 1.6Å происходит обмен двух синглетных состояний. Назовите оба состояния и укажите, какой метод (Excited Pfaffian или Schätzle) сохраняет больше состояний на больших расстояниях.", + "creator_rationale": "Темпоральный кейс на отслеживание состояний при пересечении уровней. Базовая VLM путает, какая кривая какому состоянию принадлежит.", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-010", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Transferable neural wavefunctions for solids", + "paper_id": "10.1038/s43588-025-00872-z", + "year": "2025", + "evidence_kind": "figure", + "page_hint": "p.2, Fig. 1d", + "creator_prompt": "На панели d рисунка 1 показано, как переносимая волновая функция использует среднее поле (mean‑field) для начальных орбиталей. Определите, какие компоненты остаются «замороженными», а какие обучаются нейросетью. Объясните, почему такой подход ускоряет обучение для новых систем.", + "creator_rationale": "Кейс проверяет понимание архитектуры переносимой модели: разделение на фиксированные базовые орбитали и обучаемые поправки. Базовая VLM часто игнорирует эту двухуровневую структуру и ошибочно считает, что вся сеть обучается с нуля.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-011", + "enabled": true, + "primary_endpoint": false, + "stratum": "temporal_hard", + "paper_title": "Transferable neural wavefunctions for solids", + "paper_id": "10.1038/s43588-025-00872-z", + "year": "2025", + "evidence_kind": "page", + "page_hint": "стр. 2, последний абзац введения", + "creator_prompt": "В тексте упоминается, что DeepSolid потребовал 80 000 GPU‑часов для одного расчёта. Найдите, во сколько раз меньше времени потребовал предложенный метод при переносе с 32‑электронной на 108‑электронную систему LiH. Какой коэффициент ускорения назван в статье?", + "creator_rationale": "Ключевая цифра (50x) показывает эффективность переносимости. Задача требует найти числовое значение и идентифицировать, что речь идёт именно о fine‑tuning, а не о полном переобучении. Базовая VLM часто путает это с общим ускорением.", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-012", + "enabled": true, + "primary_endpoint": false, + "stratum": "multimodal_hard", + "paper_title": "Transferable neural wavefunctions for solids", + "paper_id": "10.1038/s43588-025-00872-z", + "year": "2025", + "evidence_kind": "figure", + "page_hint": "p.3, Fig. 2a", + "creator_prompt": "На рисунке 2a показано сравнение энергий на атом для водородной цепи. Найдите метод, который даёт самую низкую энергию (наиболее точную). Укажите, какое значение (в mHa) получено предложенным методом при экстраполяции к термодинамическому пределу с использованием TABC.", + "creator_rationale": "График содержит четыре набора точек и экстраполяционные линии. Нужно выбрать правильную кривую (TABC, открытые маркеры) и выписать числовое значение из подписи или с графика (−565.24(2) mHa). Проверяет точность извлечения данных.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-013", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Transferable neural wavefunctions for solids", + "paper_id": "10.1038/s43588-025-00872-z", + "year": "2025", + "evidence_kind": "figure", + "page_hint": "p.3, Fig. 2b", + "creator_prompt": "На рисунке 2b показана комплексная поляризация как функция межатомного расстояния. Авторы утверждают, что наблюдают металл‑изоляторный переход. В каком диапазоне R (в единицах a₀) происходит переход согласно их данным? Чем их оценка критического расстояния отличается от оценки Motta et al.?", + "creator_rationale": "Темпоральный кейс на отслеживание смены фазы. Нужно сравнить два значения критического расстояния (1.32 vs 1.70). Базовая VLM может пропустить эту разницу или неправильно считать R с графика.", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-014", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Transferable neural wavefunctions for solids", + "paper_id": "10.1038/s43588-025-00872-z", + "year": "2025", + "evidence_kind": "table", + "page_hint": "p.4, Table 1", + "creator_prompt": "В таблице 1 сравниваются полные энергии графена для трёх твистов. Для твиста k2 (вес 2/3) найдите энергию, полученную DeepSolid, и энергию, полученную авторами. Вычислите разницу в mH.", + "creator_rationale": "Простое извлечение чисел из таблицы: DeepSolid: −76.2495, авторы: −76.2572(2), разница ~7.7 mH. Проверяет, не перепутает ли модель строки и правильно ли вычтет.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-015", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction", + "paper_id": "arXiv:2603.15669", + "year": "2026", + "evidence_kind": "page", + "page_hint": "p. 7–9, 2.1 (a, b, c)", + "creator_prompt": "Авторы описывают три сценария с возрастающей сложностью: интерполяция внутри MD‑траектории, случайное разделение QM9, экстраполяция на фторсодержащие молекулы. Для третьего сценария укажите, какие элементы отсутствовали в тренировочном наборе. Как меняется ошибка предсказания при переходе от первого сценария к третьему?", + "creator_rationale": "Кейс проверяет способность извлекать сравнительную информацию из текста и ранжировать уровни сложности обобщения. Базовая VLM часто не замечает, что в третьем сценарии исключены все молекулы с фтором, и ошибочно приписывает экстраполяцию к другим элементам.", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-016", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction", + "paper_id": "arXiv:2603.15669", + "year": "2026", + "evidence_kind": "figure", + "page_hint": "p. 10, Fig. 3", + "creator_prompt": "На рисунке 3 показано сравнение предсказанной электронной плотности и DFT‑плотности. Визуально оцените, хорошо ли воспроизводится форма и положение максимумов. В каких областях (вблизи ядер или в межмолекулярном пространстве) заметны расхождения? Почему авторы исключают околоядерные области из расчёта ошибок?", + "creator_rationale": "Рисунок демонстрирует качественное совпадение плотностей. Кейс проверяет умение интерпретировать визуальное сравнение полей и связывать его с текстовым описанием (обрезание плотности для стабильности). Базовая VLM может игнорировать артефакты вблизи ядер.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-017", + "enabled": true, + "primary_endpoint": true, + "stratum": "easy_control", + "paper_title": "V2Rho‑FNO: Fourier Neural Operator for Electronic Density Prediction", + "paper_id": "arXiv:2603.15669", + "year": "2026", + "evidence_kind": "page", + "page_hint": "p. 12, 3.1, Eq 1", + "creator_prompt": "В разделе 3.1 авторы связывают FNO с линейной теорией отклика. Найдите интегральное выражение, связывающее изменение плотности с изменением внешнего потенциала через функцию отклика χ. Напишите это уравнение (можно в текстовом виде). Чем FNO отличается от линейного отклика?", + "creator_rationale": "Лёгкий контрольный кейс на понимание физической мотивации. Участник должен найти уравнение (1), переписать его или указать, что FNO заменяет линейное ядро χ на нелинейный оператор. Проверяет базовое чтение формул.", + "review_focus": [ + "overall" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + } + ] +} \ No newline at end of file diff --git "a/source_manifests/168bdb55d7__0013_kudriashov_mstislav_aleksandrovich__task3_ab_case_manifest.filled - \320\234\321\201\321\202\320\270\321\201\320\273\320\260\320\262.json" "b/source_manifests/168bdb55d7__0013_kudriashov_mstislav_aleksandrovich__task3_ab_case_manifest.filled - \320\234\321\201\321\202\320\270\321\201\320\273\320\260\320\262.json" new file mode 100644 index 0000000000000000000000000000000000000000..7d6ddaf181cef611d8cf2370fe610800f142e66e --- /dev/null +++ "b/source_manifests/168bdb55d7__0013_kudriashov_mstislav_aleksandrovich__task3_ab_case_manifest.filled - \320\234\321\201\321\202\320\270\321\201\320\273\320\260\320\262.json" @@ -0,0 +1,56 @@ +{ + "schema_version": "task3_ab_case_manifest_v1", + "generated_at": "2026-05-09T10:26:53Z", + "experiment_meta": { + "topic": "composite impact modeling", + "submission_id": "Мстислав-Кудряшов-Александрович__168bdb55d7", + "creator_id": "Мстислав Кудряшов Александрович", + "cutoff_year": "2019", + "review_goal": "Surface VLM differences on multimodal-hard and temporal-hard Task 3 cases." + }, + "strata_targets": { + "multimodal_hard": 7, + "temporal_hard": 3, + "easy_control": 2 + }, + "error_taxonomy": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "needs_time_fix", + "hallucinated_visual_inference" + ], + "cases": [ + { + "case_id": "CASE-001", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Fatigue Failure Criteria for Unidirectional Fiber Composites", + "paper_id": "https://doi.org/10.1115/1.3157744", + "year": "1981", + "evidence_kind": "formula", + "page_hint": "p.4 formula 18; p5 formula 20,22", + "creator_prompt": "сравните, какой вариант корректно определяет формулы в работе. Особенно интерес представляет корректность формул с критериями разрушения", + "creator_rationale": "важной частью статьи является работа с формулами", + "review_focus": [ + "visual_fact", + "overall" + ], + "expected_error_modes": [ + "missed_visual_fact" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + } + ] +} \ No newline at end of file diff --git a/source_manifests/598d6ea6b4__0012_riabkov_evgenii_iur_evich__task3_ab_case_manifest.filled_Ryabkov - Evgeny Ryabkov.json b/source_manifests/598d6ea6b4__0012_riabkov_evgenii_iur_evich__task3_ab_case_manifest.filled_Ryabkov - Evgeny Ryabkov.json new file mode 100644 index 0000000000000000000000000000000000000000..9a17ac4c4029c016c3aabd4c279fc110a18ba3ff --- /dev/null +++ b/source_manifests/598d6ea6b4__0012_riabkov_evgenii_iur_evich__task3_ab_case_manifest.filled_Ryabkov - Evgeny Ryabkov.json @@ -0,0 +1,221 @@ +{ + "schema_version": "task3_ab_case_manifest_v1", + "generated_at": "2026-05-08T13:47:40Z", + "experiment_meta": { + "topic": "Optical Superscattering", + "submission_id": "рябков-евгении-юрьевич__598d6ea6b4", + "creator_id": "Рябков Евгений Юрьевич", + "cutoff_year": "2023", + "review_goal": "Surface VLM differences on multimodal-hard and temporal-hard Task 3 cases." + }, + "strata_targets": { + "multimodal_hard": 7, + "temporal_hard": 3, + "easy_control": 2 + }, + "error_taxonomy": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "needs_time_fix", + "hallucinated_visual_inference" + ], + "cases": [ + { + "case_id": "CASE-001", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Superscattering emerging from the physics of bound states in the continuum", + "paper_id": "10.1038/s41467-023-40382-y", + "year": "2023", + "evidence_kind": "figure_or_table", + "page_hint": "p.6, Fig. 4", + "creator_prompt": "Сравните, какой вариант лучше извлекает информацию о super-dipole из картинки и понимает важность этого явления.", + "creator_rationale": "Информация из изображений часто теряется, однако именно тут хранится наиболее важная информация об эффекте", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-002", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Superscattering emerging from the physics of bound states in the continuum", + "paper_id": "10.1038/s41467-023-40382-y", + "year": "2023", + "evidence_kind": "figure_or_table", + "page_hint": "p.8, Fig.6", + "creator_prompt": "Сравните, какой вариант лучше извлекает информацию о дизайне системы из картинки и понимает техническую составляющую эффекта", + "creator_rationale": "Информация из изображений часто теряется, однако именно тут хранится наиболее важная информация об используемой системе", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-003", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Superscattering emerging from the physics of bound states in the continuum", + "paper_id": "10.1038/s41467-023-40382-y", + "year": "2023", + "evidence_kind": "figure_or_table", + "page_hint": "p.9, Fig.7", + "creator_prompt": "Сравните, какой вариант лучше извлекает информацию об экспериментальном достижении superscattering и соответствующих параметрах", + "creator_rationale": "Информация из изображений часто теряется, однако именно тут хранится наиболее важная информация о реализации эксперимента", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-008", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Experimental Observation of Superscattering", + "paper_id": "arXiv:1812.05599", + "year": "2019", + "evidence_kind": "page", + "page_hint": "p.1, p.2", + "creator_prompt": "Сравните, какой вариант лучше понимает проблематику достижения данного эффекта и важность его нынешней реализации", + "creator_rationale": "tuned VLM должен распознавать новизну нынешней системы по отношению к предыдущим реализациям", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-011", + "enabled": true, + "primary_endpoint": false, + "stratum": "easy_control", + "paper_title": "Experimental Observation of Superscattering", + "paper_id": "arXiv:1812.05599", + "year": "2019", + "evidence_kind": "page", + "page_hint": "p.1", + "creator_prompt": "Оценить, распознала ли модель, что ранее данный эффект не наблюдался экспериментально", + "creator_rationale": "Простая текстовая верификация", + "review_focus": [ + "overall" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-012", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Superscattering pattern shaping for radially anisotropic nanowires", + "paper_id": "arXiv:1704.07994", + "year": "2017", + "evidence_kind": "figure_or_table", + "page_hint": "p.2, Fig.1, p.5, Fig.5", + "creator_prompt": "Сравните, распознают ли варианты то, что работа исключительно теоретическая и эффект экспериментально не наблюдался", + "creator_rationale": "Модели часто игнорируют контекст проведенных исследований, а tuned VLM должна четко распознавать, в какую область то или иное исследование делает свой вклад", + "review_focus": [ + "temporal", + "evidence", + "visual_fact", + "overall" + ], + "expected_error_modes": [ + "wrong_evidence_linkage", + "hallucinated_visual_inference", + "missed_visual_fact" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + } + ] +} \ No newline at end of file diff --git a/source_manifests/5c4536453d__0016_parochkin_andrei_vital_evich__task3_ab_case_manifest.filled - Andre Parochkin.json b/source_manifests/5c4536453d__0016_parochkin_andrei_vital_evich__task3_ab_case_manifest.filled - Andre Parochkin.json new file mode 100644 index 0000000000000000000000000000000000000000..01f77de063a0475c2fd4329b15121a0b46b77ec7 --- /dev/null +++ b/source_manifests/5c4536453d__0016_parochkin_andrei_vital_evich__task3_ab_case_manifest.filled - Andre Parochkin.json @@ -0,0 +1,225 @@ +{ + "schema_version": "task3_ab_case_manifest_v1", + "generated_at": "2026-05-11T10:26:22Z", + "experiment_meta": { + "topic": "Ferroelectric transistor parameters interpretation", + "submission_id": "парочкин-андреи-витальевич__5c4536453d", + "creator_id": "Парочкин Андрей Витальевич", + "cutoff_year": "2026", + "review_goal": "Surface VLM differences on multimodal-hard and temporal-hard Task 3 cases." + }, + "strata_targets": { + "multimodal_hard": 4, + "temporal_hard": 2, + "easy_control": 0 + }, + "error_taxonomy": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "needs_time_fix", + "hallucinated_visual_inference" + ], + "cases": [ + { + "case_id": "CASE-001", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Decoupling polarization and coercive field in AlScN/AlN/AlScN stack for enhanced performance in ferroelectric thin-film transistors", + "paper_id": "10.1038/s41467-025-62904-6", + "year": "2025", + "evidence_kind": "figure", + "page_hint": "Fig.4e", + "creator_prompt": "Сравнить, какой вариант лучше понимает, какая кривая соответствует подходящему к работе в ключевом режиме напряжению.", + "creator_rationale": "Tuned VLM должен понять, что означает стрелка на the figure.", + "review_focus": [ + "temporal", + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "wrong_evidence_linkage", + "missed_visual_fact", + "needs_time_fix" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "-" + }, + "notes": "" + }, + { + "case_id": "CASE-002", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Scalable CMOS back-end-of-line-compatible AlScN/two-dimensional channel ferroelectric field-effect transistors", + "paper_id": "10.1038/s41565-023-01399-y", + "year": "2023", + "evidence_kind": "figure", + "page_hint": "Fig.1c", + "creator_prompt": "Определить, результаты какого ещё метода исследования есть на the figure.", + "creator_rationale": "Baseline не сможет определить, что белые точки на чёрном фоне - кристаллографические рефлексы, полученные методом рентгеновского analysis.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "-" + }, + "notes": "" + }, + { + "case_id": "CASE-003", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Scalable CMOS back-end-of-line-compatible AlScN/two-dimensional channel ferroelectric field-effect transistors", + "paper_id": "10.1038/s41565-023-01399-y", + "year": "2023", + "evidence_kind": "figure", + "page_hint": "Fig.1c", + "creator_prompt": "Определить по картинке, имеются ли в составе структуры кристаллиты.", + "creator_rationale": "Сможет ли tuned VLM определить в какую часть the figure надо смотреть.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "-" + }, + "notes": "" + }, + { + "case_id": "CASE-004", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Origins of High Mobility and Low Operation Voltage of Amorphous Oxide TFTs: Electronic Structure, Electron Transport, Defects and Doping", + "paper_id": "10.1109/JDT.2009.2034559", + "year": "2009", + "evidence_kind": "figure", + "page_hint": "Fig.23b", + "creator_prompt": "Какой вариант верно напишет, проводимость транзистора после отжига в азотной среде.", + "creator_rationale": "Модель должна понять, какая точка синей линии на графике является начальной, а какая - конечной.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "-" + }, + "notes": "" + }, + { + "case_id": "CASE-005", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Origins of High Mobility and Low Operation Voltage of Amorphous Oxide TFTs: Electronic Structure, Electron Transport, Defects and Doping", + "paper_id": "10.1109/JDT.2009.2034559", + "year": "2009", + "evidence_kind": "figure", + "page_hint": "Fig.26b", + "creator_prompt": "Оценить ширину гистерезиса для отожжённого и неотожжённого образцов.", + "creator_rationale": "Сможет ли tuned VLM распознать на картинке две \"замкнутые\" линии.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "-" + }, + "notes": "" + }, + { + "case_id": "CASE-006", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Impact of Ferroelectric Layer Thickness on Reliability of Back-End-of-Line-Compatible Hafnium Zirconium Oxide Films", + "paper_id": "10.1002/adem.202201124", + "year": "2022", + "evidence_kind": "figure", + "page_hint": "Fig.2", + "creator_prompt": "Определить, в какой из плёнок содержится моноклинная фаза.", + "creator_rationale": "Сможет ли модель сопоставить паттерны для монокристаллических плёнок с измеренными паттернами поликристаллических плёнок разных толщин.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "-" + }, + "notes": "" + } + ] +} \ No newline at end of file diff --git "a/source_manifests/64495d27da__0005_vysokikh_dmitrii_konstantinovich__task3_ab_case_manifest.filled - \320\224\320\274\320\270\321\202\321\200\320\270\320\271 \320\222\321\213\321\201\320\276\320\272\320\270\321\205.json" "b/source_manifests/64495d27da__0005_vysokikh_dmitrii_konstantinovich__task3_ab_case_manifest.filled - \320\224\320\274\320\270\321\202\321\200\320\270\320\271 \320\222\321\213\321\201\320\276\320\272\320\270\321\205.json" new file mode 100644 index 0000000000000000000000000000000000000000..5ea1c6a45e310cbb44b21cec588647bc129c78dd --- /dev/null +++ "b/source_manifests/64495d27da__0005_vysokikh_dmitrii_konstantinovich__task3_ab_case_manifest.filled - \320\224\320\274\320\270\321\202\321\200\320\270\320\271 \320\222\321\213\321\201\320\276\320\272\320\270\321\205.json" @@ -0,0 +1,408 @@ +{ + "schema_version": "task3_ab_case_manifest_v1", + "generated_at": "2026-04-28T10:48:03Z", + "experiment_meta": { + "topic": "Spectral effects in different electrodynamic systems", + "submission_id": "дмитрии-константинович-высоких__64495d27da", + "creator_id": "Дмитрий Константинович Высоких", + "cutoff_year": "2026", + "review_goal": "Surface VLM differences on multimodal-hard and temporal-hard Task 3 cases." + }, + "strata_targets": { + "multimodal_hard": 7, + "temporal_hard": 3, + "easy_control": 2 + }, + "error_taxonomy": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "needs_time_fix", + "hallucinated_visual_inference" + ], + "cases": [ + { + "case_id": "CASE-001", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Nonlinear exceptional-point lasing with ab initio Maxwell– Bloch theory", + "paper_id": "doi: 10.1063/5.0105963", + "year": "2022", + "evidence_kind": "figure", + "page_hint": "p.2, Fig.1", + "creator_prompt": "Сравните, какой вариант лучше извлекает отношение накачек D1 к D2, для которого наблюдаются особые точки", + "creator_rationale": "Baseline обычно пропускает численные данные, содержащиеся только на рисунке, а tuned VLM должен определить конкретное соотношение накачек D1 и D2, соответствующее особым точкам", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact" + ], + "match": { + "candidate_signature": "-", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-002", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Observation of trapped light within the radiation continu-um", + "paper_id": "doi: 10.1038/nature12289", + "year": "2013", + "evidence_kind": "figure", + "page_hint": "p.3, Fig.3", + "creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 3 и подписи к нему значения угла и длины волны, соответствующие связанному состоянию в континууме (ССК)", + "creator_rationale": "Baseline обычно не извлекает численные данные, содержащиеся только на рисунке, а не в тексте или подписи. В данном случае значение длины волны, соответствующее ССК, присутствует только на рисунке, и tuned VLM должен его определять", + "review_focus": [ + "visual_fact", + "evidence" + ], + "expected_error_modes": [ + "missed_visual_fact" + ], + "match": { + "candidate_signature": "-", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-003", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Reversing the pump depend-ence of a laser at an excep-tional point", + "paper_id": "doi: 10.1038/ncomms5034", + "year": "2014", + "evidence_kind": "figure", + "page_hint": "p.4, Fig.2c", + "creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 2c и подписи к нему диапазон значений поля, в котором зависимость интенсивности генерации от поля накачки инвертирована ", + "creator_rationale": "Рисунок 2c очень нагружен, присутствует трёхмерный график и двумерная вставка, что затрудняет извлечение информации", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "-", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-004", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Ultrasensitive optical absorp-tion in graphene based on bound states in the continu-um", + "paper_id": "doi: 10.1038/srep08266", + "year": "2015", + "evidence_kind": "figure", + "page_hint": "p.2, Fig.1", + "creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 1 значения длины волны и волнового вектора (kx), при которых наблюдаются связанные состояния в континууме", + "creator_rationale": "Рисунок 1 состоит из шести частей и имеет обширную подпись. Для корректного определения требуется способность tuned VLM сопоставлять подпись с рисунком и извлекать соответствующие данные", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "-", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-005", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Optical hydrogen sensing with high‑Q guided‑mode resonance of ­Al2O3/WO3/Pd nanostructure", + "paper_id": "doi: 10.1038/s41598-023-28204-z", + "year": "2023", + "evidence_kind": "figure", + "page_hint": "p.3, Fig.1", + "creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 1 геометрические параметры структуры и материалы, из которых она состоит", + "creator_rationale": "Вертикальные и горизонтальные масштабы отмечены на разных частях рисунка, материалы показаны между двумя частями. Такой громоздкий рисунок может быть труден для обработки моделью", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact" + ], + "match": { + "candidate_signature": "-", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-006", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Optical hydrogen sensing with high‑Q guided‑mode resonance of Al2O3/WO3/Pd nanostructure", + "paper_id": "doi: 10.1038/s41598-023-28204-z", + "year": "2023", + "evidence_kind": "figure", + "page_hint": "p.5, Fig.4", + "creator_prompt": "Сравните, какой вариант лучше извлекает моменты времени (в минутах), в которые подаётся водород в различной концентрации (0, 100, 1000 ppm, ...)", + "creator_rationale": "Моменты времени не указаны в подписи, они фигурируют только на изображении, что затрудняет их извлечение", + "review_focus": [ + "temporal", + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "needs_time_fix", + "missed_visual_fact" + ], + "match": { + "candidate_signature": "-", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-007", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Nonlinear exceptional-point lasing with ab initio Maxwell– Bloch theory", + "paper_id": "doi: 10.1063/5.0105963", + "year": "2022", + "evidence_kind": "figure", + "page_hint": "p.2, Fig.1", + "creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 1 отношение накачек D1/D2, при котором наблюдается фазовый переход между PT-симметричным и PT-несимметричным состояниями", + "creator_rationale": "На рисунке присутствуют данные о фазовом изменении, которые модель должна уметь извлекать", + "review_focus": [ + "temporal", + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "needs_time_fix", + "missed_visual_fact" + ], + "match": { + "candidate_signature": "-", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-008", + "enabled": true, + "primary_endpoint": true, + "stratum": "easy_control", + "paper_title": "Bloch surface eigenstates within the radiation continuum", + "paper_id": "doi: 10.1038/lsa.2013.40", + "year": "2013", + "evidence_kind": "mixed", + "page_hint": "p.2, Fig.1", + "creator_prompt": "Сравнить, какой вариант точнее описывает структуру, в которой авторы предлагают наблюдать связанное состояние в континууме", + "creator_rationale": "В тексте описано два варианта структуры, лишь один из которых позволяет наблюдать связанное состояние в континууме (в котором поверхностные цилиндры имеют увеличенный радиус). Модель должна уметь чётко описывать именно этот вариант структуры", + "review_focus": [ + "evidence" + ], + "expected_error_modes": [ + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "-", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-009", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-010", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-011", + "enabled": true, + "primary_endpoint": false, + "stratum": "easy_control", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "overall" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-012", + "enabled": true, + "primary_endpoint": false, + "stratum": "easy_control", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "overall" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + } + ] +} \ No newline at end of file diff --git "a/source_manifests/8ec4fdad1a__0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - \320\225\320\272\320\260\321\202\320\265\321\200\320\270\320\275\320\260 \320\232\321\203\320\261\321\200\320\260\320\272\320\276\320\262\320\260.json" "b/source_manifests/8ec4fdad1a__0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - \320\225\320\272\320\260\321\202\320\265\321\200\320\270\320\275\320\260 \320\232\321\203\320\261\321\200\320\260\320\272\320\276\320\262\320\260.json" new file mode 100644 index 0000000000000000000000000000000000000000..7327321c15e9ed47760d8e50e8078ccbb8197663 --- /dev/null +++ "b/source_manifests/8ec4fdad1a__0002_kubrakova_ekaterina_aleksandrovna__task3_ab_case_manifest.filled - \320\225\320\272\320\260\321\202\320\265\321\200\320\270\320\275\320\260 \320\232\321\203\320\261\321\200\320\260\320\272\320\276\320\262\320\260.json" @@ -0,0 +1,404 @@ +{ + "schema_version": "task3_ab_case_manifest_v1", + "generated_at": "2026-04-27T14:02:30Z", + "experiment_meta": { + "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", + "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", + "creator_id": "Екатерина Александровна Кубракова", + "cutoff_year": "2026", + "review_goal": "Surface VLM differences on multimodal-hard and temporal-hard Task 3 cases." + }, + "strata_targets": { + "multimodal_hard": 7, + "temporal_hard": 3, + "easy_control": 2 + }, + "error_taxonomy": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "needs_time_fix", + "hallucinated_visual_inference" + ], + "cases": [ + { + "case_id": "CASE-001", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "\"AI Agents Simulate Behavioral Biases in Financial Markets\"", + "paper_id": "10.1007/s42001-026-00465-4", + "year": "2026", + "evidence_kind": "figure_or_table", + "page_hint": "Fig.4", + "creator_prompt": "Сравните, насколько правильно каждый VLM извлекает из Figure 4 ключевые параметры LLM-агентов (уровни bias, типы personality) и связывает их с описанными в тексте рыночными исходами (пузыри, крахи).", + "creator_rationale": "Baseline VLM часто пропускает корреляцию между bias и динамикой цены, в то время как tuned VLM должен точно извлекать все числовые значения из графика и captions, правильно интерпретируя поведенческие эффекты.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "bubble_start", + "premise_contains": "LLM agents with personality", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-002", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "\"AI Agents Simulate Behavioral Biases in Financial Markets\"", + "paper_id": "10.1007/s42001-026-00465-4", + "year": "2026", + "evidence_kind": "figure_or_table", + "page_hint": "Fig.5", + "creator_prompt": "Сравните, как каждый VLM определяет временные рамки критических изменений на рынке (points of inflection), правильно ли привязывает фазы роста/падения к конкретным таймстэмпам.", + "creator_rationale": "Baseline VLM часто игнорирует временные метки на графике или неправильно связывает событие market_crash с предшествующими показателями bias; tuned VLM должен точно распознавать временные последовательности и их влияние на динамику", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "LLM agents with personality", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-003", + "enabled": true, + "primary_endpoint": true, + "stratum": "easy_control", + "paper_title": "\"AI Agents Simulate Behavioral Biases in Financial Markets", + "paper_id": "10.1007/s42001-026-00465-4", + "year": "2026", + "evidence_kind": "page", + "page_hint": "p.8", + "creator_prompt": "Сравните, правильно ли каждый VLM определяет определение 'herd mentality' и его проявление в росте VWAP.", + "creator_rationale": "Этот кейс прост: информация о 'herd mentality' явно дана на странице 8, и корреляция с VWAP доступна в Table 2. Ошибки здесь маловероятны, но помогают проверить базовое понимание текста.", + "review_focus": [ + "overall" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "herd mentality", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-004", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets\"", + "paper_id": "10.1007/s42001-026-00465-4", + "year": "2026", + "evidence_kind": "table", + "page_hint": "Table 1", + "creator_prompt": "Сравните, сколько типов personality настроено в агентах и какие именно bias (overconfidence, loss_aversion, dissonance) им назначены.", + "creator_rationale": "Baseline VLM может пропустить часть bias из-за сложной структуры таблицы, а tuned VLM должен точно извлечь все соответствия.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "loss_aversion", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-005", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", + "paper_id": "10.1007/s42001-026-00465-4", + "year": "2026", + "evidence_kind": "figure", + "page_hint": "Fig.6", + "creator_prompt": "Сравните, как каждый VLM связывает усиление 'herding' и 'overconfidence' с началом пузыря.", + "creator_rationale": "Этот кейс проверяет способность VLM к causal-temporal reasoning; ошибки наиболее вероятны именно в неверном понимании последовательности bias → рыночный пузырь", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "herding", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-006", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "AI Agents Simulate Behavioral Biases in Financial Market", + "paper_id": "10.1007/s42001-026-00465-4", + "year": "2026", + "evidence_kind": "figure_or_table", + "page_hint": "Fig.3", + "creator_prompt": "Сравните, насколько точно каждый VLM извлекает из Figure 3 значения VWAP и trade volume на разных фазах пузыря и связывает их с bias-параметрами агентов", + "creator_rationale": "Baseline VLM теряет часть числовых меток и неверно связывает VWAP с типом bias (например, приписывает рост VWAP 'loss aversion', хотя из графика и caption следует 'overconfidence'). Tuned VLM должен точно распознать обе корреляции.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "VWAP", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-007", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", + "paper_id": "10.1007/s42001-026-00465-4", + "year": "2026", + "evidence_kind": "table", + "page_hint": "Table 2", + "creator_prompt": "Сравните, как каждый VLM интерпретирует данные Table 2: какой bias (overconfidence, loss aversion, dissonance) сильнее всего коррелирует с аномальным ростом VWAP.", + "creator_rationale": "Baseline VLM часто пропускает столбец с доверительными интервалами и ошибается в ранжировании bias. Tuned VLM должен точно извлечь все числовые данные и правильно определить ведущий bias.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "highest correlation", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-008", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", + "paper_id": "10.1007/s42001-026-00465-4", + "year": "2026", + "evidence_kind": "figure", + "page_hint": "Fig.2", + "creator_prompt": "Сравните, сколько типов personality настроено в агентах (из Figure 2) и какие bias к ним привязаны", + "creator_rationale": "Baseline VLM может пропустить часть bias из-за сложной визуализации схемы личности агента. Tuned VLM должен точно извлечь все 5 типов и их bias.", + "review_focus": [ + "evidence" + ], + "expected_error_modes": [ + "missed_visual_fact" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "bias_mapping", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-009", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "AI Agents Simulate Behavioral Biases in Financial Market", + "paper_id": "10.1007/s42001-026-00465-4", + "year": "2026", + "evidence_kind": "figure", + "page_hint": "Fig.6", + "creator_prompt": "Сравните, как каждый VLM определяет момент перехода 'herding' → 'overconfidence' по временной шкале и связывает его с рыночным пузырём", + "creator_rationale": "Baseline VLM часто путает порядок событий (например, ставит пузырь до усиления overconfidence). Tuned VLM должен выстроить правильную causal-temporal последовательность", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "pre-bubble", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-010", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", + "paper_id": "10.1007/s42001-026-00465-4", + "year": "2026", + "evidence_kind": "table", + "page_hint": "Table 3", + "creator_prompt": "Сравните, как каждый VLM определяет временную задержку между ростом bias и проявлением рыночного эффекта (пузырь/крах) из Table 3.", + "creator_rationale": "Здесь важно именно temporal latency: baseline VLM часто игнорирует столбец с временными интервалами. Tuned VLM должен точно извлечь все временные метки и построить sequence correctly.", + "review_focus": [ + "temporal" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "lag", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-011", + "enabled": true, + "primary_endpoint": false, + "stratum": "easy_control", + "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", + "paper_id": "10.1007/s42001-026-00465-4", + "year": "2026", + "evidence_kind": "page", + "page_hint": "p.5", + "creator_prompt": "Сравните, правильно ли каждый VLM определяет три основных bias, перечисленных в явном виде на странице 5.", + "creator_rationale": "Этот кейс — простой контроль: bias явно перечислены", + "review_focus": [ + "overall" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "", + "candidate_source_contains": "overconfidence", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-012", + "enabled": true, + "primary_endpoint": false, + "stratum": "easy_control", + "paper_title": "AI Agents Simulate Behavioral Biases in Financial Markets", + "paper_id": "10.1007/s42001-026-00465-4", + "year": "2026", + "evidence_kind": "page", + "page_hint": "p.10", + "creator_prompt": "Сравните, правильно ли каждый VLM определяет, какой тип личности агента (conservative / aggressive) привёл к loss aversion", + "creator_rationale": "Информация дана прямо в тексте. Проверяет базовое извлечение явного факта.", + "review_focus": [ + "overall" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "", + "candidate_source_contains": "conservative", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + } + ] +} \ No newline at end of file diff --git a/source_manifests/8ec4fdad1a__task3_ab_case_manifest.template.json b/source_manifests/8ec4fdad1a__task3_ab_case_manifest.template.json new file mode 100644 index 0000000000000000000000000000000000000000..e65fcc25145d88b86623cafbf84f70ef16bf9877 --- /dev/null +++ b/source_manifests/8ec4fdad1a__task3_ab_case_manifest.template.json @@ -0,0 +1,412 @@ +{ + "schema_version": "task3_ab_case_manifest_v1", + "generated_at": "2026-04-27T14:02:30Z", + "experiment_meta": { + "topic": "Использование агентов на больших языковых моделях (LLM) для моделирования влияния поведенческих предубеждений (bias) на динамику фондового рынка.", + "submission_id": "екатерина-александровна-кубракова__8ec4fdad1a", + "creator_id": "Екатерина Александровна Кубракова", + "cutoff_year": "2026", + "review_goal": "Surface VLM differences on multimodal-hard and temporal-hard Task 3 cases." + }, + "strata_targets": { + "multimodal_hard": 7, + "temporal_hard": 3, + "easy_control": 2 + }, + "error_taxonomy": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "needs_time_fix", + "hallucinated_visual_inference" + ], + "cases": [ + { + "case_id": "CASE-001", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-002", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-003", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-004", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-005", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-006", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-007", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-008", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-009", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-010", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-011", + "enabled": true, + "primary_endpoint": false, + "stratum": "easy_control", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "overall" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-012", + "enabled": true, + "primary_endpoint": false, + "stratum": "easy_control", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "overall" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + } + ] +} \ No newline at end of file diff --git a/source_manifests/91f2284dbc__0017_parochkina_ekaterina_vladimirovna__task3_ab_case_manifest.filled - Ekaterina Parochkina.json b/source_manifests/91f2284dbc__0017_parochkina_ekaterina_vladimirovna__task3_ab_case_manifest.filled - Ekaterina Parochkina.json new file mode 100644 index 0000000000000000000000000000000000000000..252071192569160c6e85604e436d4834f33791b3 --- /dev/null +++ b/source_manifests/91f2284dbc__0017_parochkina_ekaterina_vladimirovna__task3_ab_case_manifest.filled - Ekaterina Parochkina.json @@ -0,0 +1,189 @@ +{ + "schema_version": "task3_ab_case_manifest_v1", + "generated_at": "2026-05-11T10:24:12Z", + "experiment_meta": { + "topic": "Посмертные изменения в биомолекулах", + "submission_id": "парочкина-екатерина-владимировна__91f2284dbc", + "creator_id": "Парочкина Екатерина Владимировна", + "cutoff_year": "2026", + "review_goal": "Surface VLM differences on multimodal-hard and temporal-hard Task 3 cases." + }, + "strata_targets": { + "multimodal_hard": 7, + "temporal_hard": 3, + "easy_control": 2 + }, + "error_taxonomy": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "needs_time_fix", + "hallucinated_visual_inference" + ], + "cases": [ + { + "case_id": "CASE-001", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Dynamics of Postmortem Gene Expression in Normal and Neoplastic Murine Liver", + "paper_id": "doi: 10.3390/life16040683", + "year": "2026", + "evidence_kind": "figure_or_table", + "page_hint": "Fig.4", + "creator_prompt": "Сравните, какой вариант лучше извлекает численные данные из рисунка 4 и сопоставляет их динамику во времени.", + "creator_rationale": "Важный факт находится в figure и имеет временную динамику.\n", + "review_focus": [ + "visual_fact", + "temporal" + ], + "expected_error_modes": [ + "missed_visual_fact", + "needs_time_fix" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "-" + }, + "notes": "По этой картинке должен быть сделан вывод о том, что профили экспрессии опухоли и здоровой ткани сближаются со временем наблюдения." + }, + { + "case_id": "CASE-002", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains", + "paper_id": "doi: 10.3390/biom15091288", + "year": "2025", + "evidence_kind": "figure_or_table", + "page_hint": "Fig.2A,B", + "creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 2 A,B данные principal component analysis (PCA) и сопоставляет их с временной динамикой", + "creator_rationale": "tuned VLM должен извлекать численные данные, содержащиеся на рисунке в неявном виде", + "review_focus": [ + "visual_fact", + "temporal" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "-" + }, + "notes": "" + }, + { + "case_id": "CASE-003", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains", + "paper_id": "doi: 10.3390/biom15091288", + "year": "2025", + "evidence_kind": "figure_or_table", + "page_hint": "Fig.3", + "creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 3 данные о стабильности соединений", + "creator_rationale": "Графики содержат очень много линий, но их нужно воспринимать как совокупность", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "-" + }, + "notes": "" + }, + { + "case_id": "CASE-004", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Postmortem Stability Analysis of Lipids and Polar Metabolites in Human, Rat, and Mouse Brains", + "paper_id": "doi: 10.3390/biom15091288", + "year": "2025", + "evidence_kind": "figure_or_table", + "page_hint": "Fig.4A", + "creator_prompt": "Сравните, какой вариант лучше извлекает из рисунка 4A качественные (не числовые) данные", + "creator_rationale": "tuned VLM должен извлечь p-value, но значения в цвете и в логарифмической шкале", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "-" + }, + "notes": "" + }, + { + "case_id": "CASE-005", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Systematic analysis of gene expression patterns associated with postmortem interval in human tissues", + "paper_id": "doi: s41598-017-05882-0", + "year": "2017", + "evidence_kind": "figure_or_table", + "page_hint": "Table 2", + "creator_prompt": "Сравните, какой вариант лучше извлекает из таблицы 2 категориальные данные", + "creator_rationale": "baseline может пропустить колонку с FDR, tuned VLM должен извлечь описание гена и значимость", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "-" + }, + "notes": "" + } + ] +} \ No newline at end of file diff --git a/source_manifests/998d6715e8__0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json b/source_manifests/998d6715e8__0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json new file mode 100644 index 0000000000000000000000000000000000000000..f669a1328fa85748375094893f725431f0ec41de --- /dev/null +++ b/source_manifests/998d6715e8__0015_kuznetsov_mikhail_aleksandrovich__task3_ab_case_manifest.filled-final - Roky Mielsen.json @@ -0,0 +1,419 @@ +{ + "schema_version": "task3_ab_case_manifest_v1", + "generated_at": "2026-05-10T11:33:58Z", + "experiment_meta": { + "topic": "Vision-Language Models for GUI agents and automated UI testing", + "submission_id": "михаил-кузнецов-александрович__998d6715e8", + "creator_id": "Михаил Кузнецов Александрович", + "cutoff_year": "2025", + "review_goal": "Surface VLM differences on multimodal-hard and temporal-hard Task 3 cases." + }, + "strata_targets": { + "multimodal_hard": 7, + "temporal_hard": 3, + "easy_control": 2 + }, + "error_taxonomy": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "needs_time_fix", + "hallucinated_visual_inference" + ], + "cases": [ + { + "case_id": "CASE-001", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "UI-TARS: Pioneering Automated GUI Interaction with Native Agents", + "paper_id": "arXiv:2501.12326", + "year": "2025", + "evidence_kind": "figure", + "page_hint": "p. 27, Figure 8", + "creator_prompt": "Сравните, какой вариант точнее извлекает численные значения с bar chart AndroidWorld в Figure 8: scores для моделей UI-TARS-7B и UI-TARS-72B в режимах System-1 и System-2 при Bo1. Оцените, не галлюцинирует ли вариант числа и корректно ли привязывает каждое значение к соответствующей модели и режиму", + "creator_rationale": "Текст статьи описывает превосходство System-2 в OOD-сценарии только качественно (\"system-2 reasoning significantly outperforms system-1\"), но конкретные численные значения присутствуют исключительно на bar chart. Это диагностический кейс, потому что: (1) baseline VLM часто галлюцинирует числа или возвращает округлённые/выдуманные значения вместо реального чтения столбцов; (2) на bar chart представлены 4 значения (две модели × два режима), и легко перепутать привязку числа к модели или режиму; (3) сила OOD-эффекта определяется именно разрывом между числами, а не качественным утверждением — без точных значений hypothesis о пользе System-2 в OOD не может быть обоснована количественно", + "review_focus": [ + "visual_fact", + "evidence" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-002", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "CogAgent: A Visual Language Model for GUI Agents", + "paper_id": "arXiv:2312.08914", + "year": "2023", + "evidence_kind": "figure", + "page_hint": "p.8, Figure 3", + "creator_prompt": "Сравните, какой вариант точнее извлекает из Figure 3 численные значения TFLOPs для архитектуры с cross-module при всех четырёх разрешениях (224, 490, 756, 1120), и насколько корректно оценивает реальную степень линейности этой зависимости.", + "creator_rationale": "текст содержит только качественные характеристики кривой cross-module («modest rise», «almost linear relationship with the number of image patches») и не приводит ни одного точного численного значения TFLOPs для этой архитектуры ни при одном из четырёх разрешений. Все конкретные данные доступны исключительно через чтение Figure 3. Baseline VLM часто опирается на текстовые формулировки и либо пропускает численные значения с графиков, либо галлюцинирует приблизительные числа на основе качественных утверждений текста. Tuned VLM должна реально извлекать точки кривой и проверять, насколько утверждение «almost linear» соответствует фактической форме зависимости", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-003", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "SeeClick: Harnessing GUI Grounding for Advanced Visual GUI Agents", + "paper_id": "arXiv:2401.10935", + "year": "2024", + "evidence_kind": "table", + "page_hint": "p. 9317, Table 1", + "creator_prompt": "Сравните, какой вариант точнее извлекает, Опираясь на Table 1, точные численные значения \nточности (в процентах) для моделей SeeClick и CogAgent \nстрого в категории «Mobile Icon/Widget», а также их \nразмеры (Model Size) в миллиардах параметров.", + "creator_rationale": "Данный кейс проверяет способность VLM извлекать точные числовые значения из многоуровневой таблицы и правильно сопоставлять их со строками (названиями моделей) и дополнительными параметрами.", + "review_focus": [ + "visual_fact", + "evidence" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-004", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Vision-driven Automated Mobile GUI Testing via Multimodal Large Language Model", + "paper_id": "arXiv:2407.03037", + "year": "2024", + "evidence_kind": "table", + "page_hint": "p. 9, Table I", + "creator_prompt": "Сравните, какой вариант точнее извлекает, используя Table I, значения Precision (P) и Recall (R) для метода Odin строго на датасете «Bug injection data» . Также приведите соответствующие значения P и R для VisionDroid на этом же датасете и укажите абсолютную разницу между ними", + "creator_rationale": "Во-первых, конкретные числа для Odin на Bug injection data в тексте статьи не приводятся — текст обсуждает только VisionDroid vs GPTDroid и vs NightHawk выборочно. Во-вторых, Table I имеет многоуровневую шапку с тремя соседними блоками датасетов по 6 метрик в каждом, что создаёт высокий риск смещения колонки. В-третьих, baseline VLM склонна «достраивать» числа из текстового нарратива (где VisionDroid однозначно лучший), а не реально читать таблицу — tuned VLM должна различить эти случаи", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-005", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "VLM-Fuzz: Vision Language Model Assisted Recursive Depth-first Search Exploration for Effective UI Testing of Android Apps", + "paper_id": "arXiv:2504.11675", + "year": "2025", + "evidence_kind": "mixed", + "page_hint": "p.18, Fig. 9", + "creator_prompt": "Сравните, какой вариант точнее извлекает из встроенной таблицы на Fig. 9 точное значение p-value для сравнения Line coverage между методами VLM-Fuzz и DeepGUI.", + "creator_rationale": "Проверка способности модели находить и извлекать конкретное аномальное число в плотной комбинированной таблице на изображении, не поддаваясь галлюцинациям на базе основного текста статьи.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-006", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "AppAgent: Multimodal Agents as Smartphone Users", + "paper_id": "arXiv:2312.13771", + "year": "2023", + "evidence_kind": "table", + "page_hint": "p.7, Table 1", + "creator_prompt": "Сравните, какой вариант точнее извлекает значения метрик Success Rate (SR) и Reward для метода \"GPT4 (Baseline)\" с конфигурациями Action Space \"Raw\" и \"Ours\", а также для \"AppAgent\" с \"Manually Crafted\" документами, опираясь строго на Table 1.", + "creator_rationale": "Кейс проверяет способность VLM корректно обрабатывать таблицы со сложной структурой (пропуски для группировки строк) и не путать результаты базовой модели с показателями нового метода.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-007", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "VideoGameQA-Bench: Evaluating Vision-Language Models for Video Game Quality Assurance", + "paper_id": "arXiv:2505.15952", + "year": "2025", + "evidence_kind": "table", + "page_hint": "p.5, Table 2", + "creator_prompt": "Сравните, какой вариант точнее извлекает на основе Table 2 значения Accuracy для моделей o4-mini и Llama-4-Scout строго в задаче Video-based glitch detection (VGD).", + "creator_rationale": "Проверка табличного парсинга: эти конкретные значения (70.0% и 58.6%) не упоминаются напрямую в основном тексте, что вынуждает VLM работать исключительно со сложной структурой таблицы.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-008", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "A Survey on (M)LLM-Based GUI Agents", + "paper_id": "arXiv:2504.13865", + "year": "2025", + "evidence_kind": "table", + "page_hint": "p. 17, Table 1", + "creator_prompt": "Сравните, какой вариант точнее извлекает, опираясь на Table 1, все датасеты для платформы \"web\", которые поддерживают диалоговые задачи (в столбце Dialogue стоит галочка).", + "creator_rationale": "Кейс диагностирует способность VLM точно сопоставлять данные из удаленных друг от друга столбцов в очень длинной таблице без смещения по строкам.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-009", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Test-Time Policy Adaptation for Enhanced Multi-Turn Interactions with LLMs", + "paper_id": "arXiv:2509.23166", + "year": "2025", + "evidence_kind": "figure", + "page_hint": "p. 28, Figure 6", + "creator_prompt": "Сравните, какой вариант точнее определяет из Figure 6 для датасета \nMATH500 момент пересечения кривых ROSA и Baseline во времени и \nправильно описывает, какой метод лидирует ДО и ПОСЛЕ этого момента.", + "creator_rationale": "Текст даёт только качественные temporal-утверждения (\"initially lower\", \n\"steeper slope\", \"surpass the baseline\"), но не называет ни момент \nпересечения, ни величину раннего отставания ROSA. Эти temporal-детали \nизвлекаются только из графика. Baseline VLM склонна процитировать общие \nфразы текста и пропустить before/after структуру во времени.", + "review_focus": [ + "temporal", + "visual_fact" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage", + "missed_visual_fact" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-010", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "A Survey on Web Testing: On the Rise of AI and Applications in Industry", + "paper_id": "arXiv:2503.05378", + "year": "2025", + "evidence_kind": "figure_or_table", + "page_hint": "p.38, Fig.3", + "creator_prompt": "Сравните, какой вариант точнее определяет из Figure 3 временную динамику публикаций по SBST/AI-методам: год перелома тренда, соотношение публикаций до и после этого года, а также аномальные годы с локальным спадом или искажением. Оцените, какой вариант избегает галлюцинации тренда и опирается именно на визуальные данные", + "creator_rationale": "Кейс диагностический для A/B-сравнения: текст статьи только упоминает существование Figure 3 в одной строке-подписи и нигде не описывает временную динамику — ни тренд, ни конкретные годы, ни точки перелома. Все temporal-данные сидят исключительно в визуале. Baseline VLM часто галлюцинирует «равномерный рост», сдвигает год перелома на 1–2 года или пропускает аномалии (например, неполный 2025 год). Tuned VLM должна точно сопоставить высоту столбцов с метками оси X и сделать корректный вывод о временной структуре. Сравнение позволит увидеть, какой из вариантов лучше работает с визуальными временными рядами", + "review_focus": [ + "temporal", + "visual_fact" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage", + "missed_visual_fact" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-011", + "enabled": true, + "primary_endpoint": false, + "stratum": "easy_control", + "paper_title": "LLM-Guided Scenario-based GUI Testing", + "paper_id": "arXiv:2506.05079", + "year": "2025", + "evidence_kind": "page", + "page_hint": "p. 24, Section 5 \"Threats to Validity\"", + "creator_prompt": "На основании раздела \"Threats to Validity\" перечислите 3 основные угрозы валидности (ограничения), которые сами авторы выделяют в своей работе.", + "creator_rationale": "Кейс намеренно опирается на текстовый раздел статьи, а не на визуальные evidence. Цель — проверить, что tuned-модель не ухудшила работу с простыми текстовыми задачами и что её превосходство на hard-кейсах не сводится к стилистическим предпочтениям.", + "review_focus": [ + "overall" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-012", + "enabled": true, + "primary_endpoint": false, + "stratum": "easy_control", + "paper_title": "Usable AI: Critical Review of Its Current Issues and Trends", + "paper_id": "doi:10.3844/jcssp.2023.326.333", + "year": "2023", + "evidence_kind": "page", + "page_hint": "p. 330, Section \"Usability Challenges of AI Applications\"", + "creator_prompt": "На основании раздела «Usability Challenges of AI Applications» перечислите основные проблемы (challenges) разработки ориентированного на человека ИИ (HAI), о которых пишут авторы.", + "creator_rationale": "Кейс намеренно опирается на текстовый раздел статьи, а не на визуальные evidence. Цель — проверить, что tuned-модель не ухудшила работу с простыми текстовыми задачами и что её превосходство на hard-кейсах не сводится лишь к стилистическим предпочтениям.", + "review_focus": [ + "overall" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + } + ] +} \ No newline at end of file diff --git "a/source_manifests/c5c57bba7e__0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - \320\222\320\260\320\264\320\270\320\274 \320\235\320\260\321\203\320\274\320\276\320\262.json" "b/source_manifests/c5c57bba7e__0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - \320\222\320\260\320\264\320\270\320\274 \320\235\320\260\321\203\320\274\320\276\320\262.json" new file mode 100644 index 0000000000000000000000000000000000000000..1f7a0a31b1d742e2f03e05fd05eb8433155d5de8 --- /dev/null +++ "b/source_manifests/c5c57bba7e__0003_naumov_vadim_dmitrievich__task3_ab_case_manifest.filled (4) - \320\222\320\260\320\264\320\270\320\274 \320\235\320\260\321\203\320\274\320\276\320\262.json" @@ -0,0 +1,413 @@ +{ + "schema_version": "task3_ab_case_manifest_v1", + "generated_at": "2026-04-27T12:15:05Z", + "experiment_meta": { + "topic": "Cellular and electrophysiological models for study the role of cardiac tissue fibrosis in the onset of atrial fibrillation for modeling ablation therapy", + "submission_id": "вадим-наумов__c5c57bba7e", + "creator_id": "Вадим Наумов", + "cutoff_year": "2024", + "review_goal": "Собрать 12 диагностических кейсов, где различия baseline VLM vs tuned VLM видны на visual evidence extraction, evidence linkage и temporal grounding." + }, + "strata_targets": { + "multimodal_hard": 5, + "temporal_hard": 5, + "easy_control": 2 + }, + "error_taxonomy": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "needs_time_fix", + "hallucinated_visual_inference" + ], + "cases": [ + { + "case_id": "CASE-001", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", + "paper_id": "10.1371/journal.pcbi.1006597", + "year": "2019", + "evidence_kind": "figure", + "page_hint": "Fig 6b", + "creator_prompt": "Сравните какой вариант лучше извлекает данные о пороговом значении процента фибробластов из графика при разных Ebond", + "creator_rationale": "Кейс диагностический, потому что baseline часто не может понять, какой порог относится к какому значению Ebond", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "wrong_evidence_linkage", + "missed_visual_fact" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "Pd/AC catalyst", + "candidate_predicate_contains": "deactivation", + "candidate_target_contains": "activity decay", + "hypothesis_title_contains": "kinetic study", + "premise_contains": "formic acid", + "mechanism_contains": "catalytic deactivation", + "time_scope_contains": "temperature", + "rank_hint": "1" + }, + "notes": "" + }, + { + "case_id": "CASE-002", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", + "paper_id": "10.1371/journal.pcbi.1006597", + "year": "2019", + "evidence_kind": "table", + "page_hint": "Table 1", + "creator_prompt": "Сравните какой вариант лучше извлекает данные о значении параметров из таблицы", + "creator_rationale": "Кейс диагностический, потому что baseline часто берет значения из файлов конфигурации, а не из таблицы 1. В таблице 1 они указаны с единицами измерения, ответ же часто выдается в условных единицах из конфигурационных файлов", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "heterogeneous catalysis", + "candidate_predicate_contains": "performance equation", + "candidate_target_contains": "statistical learning", + "hypothesis_title_contains": "performance equations", + "premise_contains": "hybrid data", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "2" + }, + "notes": "Полезен для проверки того, что модель берет значения именно из указанной таблицы и с единицами измерения, а не находит простейший путь до файлов конфигурации." + }, + { + "case_id": "CASE-003", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", + "paper_id": "10.1371/journal.pcbi.1006597", + "year": "2019", + "evidence_kind": "formula", + "page_hint": "Eq 2", + "creator_prompt": "Сравните какой вариант лучше извлекает формулу Hjunctions из картинки с формулой после уравнения 1", + "creator_rationale": "Кейс диагностический, потому что baseline часто показывает 2alpha в формуле вместо alpha(i,j)", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "Hammett", + "candidate_predicate_contains": "correlation", + "candidate_target_contains": "catalyst behavior", + "hypothesis_title_contains": "3D Hammett", + "premise_contains": "time-resolved", + "mechanism_contains": "", + "time_scope_contains": "time-resolved", + "rank_hint": "1" + }, + "notes": "" + }, + { + "case_id": "CASE-004", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Discrete Anisotropy Model of Heterogeneous Cardiac Tissue Predicting the Occurrence of Symmetry Breaking of Reentrant Activity", + "paper_id": "10.1134/S0021364024600782", + "year": "2024", + "evidence_kind": "figure", + "page_hint": "Fig 1", + "creator_prompt": "Сравните, какой вариант лучше извлекает данные о размере образца", + "creator_rationale": "Baseline часто не может определить линейный размер образца из картинки, хотя на картинке он указан явно", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "biomass", + "candidate_predicate_contains": "deactivation", + "candidate_target_contains": "mitigation", + "hypothesis_title_contains": "Catalyst Deactivation", + "premise_contains": "conversions of biomass", + "mechanism_contains": "coking", + "time_scope_contains": "", + "rank_hint": "3" + }, + "notes": "" + }, + { + "case_id": "CASE-005", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Virtual cardiac monolayers for electrical wave propagation", + "paper_id": "10.1038/s41598-017-07653-3", + "year": "2017", + "evidence_kind": "figure", + "page_hint": "Fig 2", + "creator_prompt": "Сравните, какой вариант лучше определяет морфологические метрики кардиомиоцитов и фибробластов из экспериментов", + "creator_rationale": "Кейс проверяет, насколько хорошо модель может понимать сокращения и вытаскивать параметры из картинок", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "continuous production", + "candidate_predicate_contains": "decomposition", + "candidate_target_contains": "continuous flow", + "hypothesis_title_contains": "Continuous Production of Hydrogen", + "premise_contains": "formic acid", + "mechanism_contains": "", + "time_scope_contains": "continuous flow", + "rank_hint": "2" + }, + "notes": "" + }, + { + "case_id": "CASE-006", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Simulation of the differential adhesion driven rearrangement of biological cells", + "paper_id": "10.1103/PhysRevE.47.2128", + "year": "1993", + "evidence_kind": "figure", + "page_hint": "Fig 5a", + "creator_prompt": "Сравните, какой вариант лучше лучше определяет время выхода на плато длины границ в эксперименте на рисунке 5а", + "creator_rationale": "Baseline часто не может вытащить эту информацию", + "review_focus": [ + "temporal", + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "formic acid", + "candidate_predicate_contains": "activity", + "candidate_target_contains": "temperature", + "hypothesis_title_contains": "catalytic deactivation", + "premise_contains": "successive cycles", + "mechanism_contains": "", + "time_scope_contains": "cycles", + "rank_hint": "1" + }, + "notes": "" + }, + { + "case_id": "CASE-007", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Simulation of the differential adhesion driven rearrangement of biological cells", + "paper_id": "10.1103/PhysRevE.47.2128", + "year": "1993", + "evidence_kind": "figure", + "page_hint": "Fig 13c", + "creator_prompt": "Сравните, какой вариант лучше определяет время в шагах Монте-Карло (MCS), когда длина гетеротипических границ примерно равна длине гомотипических границ на рисунке 13с", + "creator_rationale": "VLM должен лучше различать разные линии на графике и сопоставлять их равенство по одной из осей", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "continuous flow", + "candidate_predicate_contains": "stability", + "candidate_target_contains": "time-on-stream", + "hypothesis_title_contains": "continuous flow", + "premise_contains": "stabilization", + "mechanism_contains": "", + "time_scope_contains": "time-on-stream", + "rank_hint": "2" + }, + "notes": "" + }, + { + "case_id": "CASE-008", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Simulation of the differential adhesion driven rearrangement of biological cells", + "paper_id": "10.1103/PhysRevE.47.2128", + "year": "1993", + "evidence_kind": "figure", + "page_hint": "Fig 19b", + "creator_prompt": "Сравните, какой вариант лучше определяет время в шагах Монте-Карло (MCS), когда длина гетеротипических границ для разных сочетаний (темные со светлыми, темные с окружением, светлые с окружением) начинают заметно расходиться на рисунке 19b", + "creator_rationale": "Baseline часто не может определить корректно момент расхождения", + "review_focus": [ + "temporal", + "visual_fact" + ], + "expected_error_modes": [ + "needs_time_fix", + "missed_visual_fact" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "time-resolved", + "candidate_predicate_contains": "monitor", + "candidate_target_contains": "catalyst behavior", + "hypothesis_title_contains": "time-resolved", + "premise_contains": "3D Hammett", + "mechanism_contains": "", + "time_scope_contains": "early vs late", + "rank_hint": "1" + }, + "notes": "" + }, + { + "case_id": "CASE-009", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Generation and maturation of human iPSC-derived 3D organotypic cardiac microtissues in long-term culture", + "paper_id": "10.1038/s41598-022-22225-w", + "year": "2022", + "evidence_kind": "figure", + "page_hint": "Fig 2", + "creator_prompt": "Сравните, какой вариант лучше различает какой график к какому периоду относится", + "creator_rationale": "Модель должна различать по контексту различие в результатах цитометрии а разных этапах", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "deactivation", + "candidate_predicate_contains": "mitigation", + "candidate_target_contains": "regeneration", + "hypothesis_title_contains": "Catalyst Deactivation", + "premise_contains": "biomass", + "mechanism_contains": "", + "time_scope_contains": "regeneration cycle", + "rank_hint": "3" + }, + "notes": "" + }, + { + "case_id": "CASE-010", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models", + "paper_id": "10.1007/s12012-025-09987-1", + "year": "2025", + "evidence_kind": "figure", + "page_hint": "Graphical Abstract", + "creator_prompt": "Сравните, какой вариант лучше понимает какой цвет означает более позднюю стадию распространения волны", + "creator_rationale": "Baseline может не понять по картинке, куда по шкале времени направлено изменение цвета на рисунке", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "Pd/AC catalysts", + "candidate_predicate_contains": "kinetic study", + "candidate_target_contains": "gas flow", + "hypothesis_title_contains": "continuous hydrogen production", + "premise_contains": "liquid-phase formic acid", + "mechanism_contains": "", + "time_scope_contains": "space-time", + "rank_hint": "2" + }, + "notes": "" + }, + { + "case_id": "CASE-011", + "enabled": true, + "primary_endpoint": false, + "stratum": "easy_control", + "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", + "paper_id": "doi:10.1371/journal.pcbi.1006597", + "year": "2019", + "evidence_kind": "page", + "page_hint": "Abstract", + "creator_prompt": "Сравните, какой вариант лучше формулирует общий тезис статьи о причинах значения порога перколяции", + "creator_rationale": "Это control-case: не должно быть большой разницы", + "review_focus": [ + "overall" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "", + "candidate_source_contains": "biomass conversion", + "candidate_predicate_contains": "deactivation", + "candidate_target_contains": "", + "hypothesis_title_contains": "Catalyst Deactivation", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "5" + }, + "notes": "" + }, + { + "case_id": "CASE-012", + "enabled": true, + "primary_endpoint": false, + "stratum": "easy_control", + "paper_title": "Modeling the functional heterogeneity and conditions for the occurrence of microreentry in procedurally created atrial fibrous tissue", + "paper_id": "doi:10.1063/5.0151624", + "year": "2023", + "evidence_kind": "page", + "page_hint": "Methods", + "creator_prompt": "Сравните, какой вариант лучше описывает Гамильтониан и его слагаемые в клеточной модели", + "creator_rationale": "Простой контрольный кейс", + "review_focus": [ + "overall" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "", + "candidate_source_contains": "hybrid data", + "candidate_predicate_contains": "generalizing", + "candidate_target_contains": "performance equations", + "hypothesis_title_contains": "statistical learning", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "4" + }, + "notes": "" + } + ] +} \ No newline at end of file diff --git a/source_manifests/ca35bd9ad6__0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json b/source_manifests/ca35bd9ad6__0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json new file mode 100644 index 0000000000000000000000000000000000000000..cffe47349949952120c36758f121c0acf1d716fe --- /dev/null +++ b/source_manifests/ca35bd9ad6__0014_kolesnikov_ivan_vital_evich__task3_ab_case_manifest.filled (1) - Ex' Xidad.json @@ -0,0 +1,410 @@ +{ + "schema_version": "task3_ab_case_manifest_v1", + "generated_at": "2026-05-10T18:07:34Z", + "experiment_meta": { + "topic": "Optimization of compact optical folded schemes based on off-axis parabolic mirrors for 10G inter-satellite CubeSat communication terminals", + "submission_id": "иван-колесников-витальевич__ca35bd9ad6", + "creator_id": "Иван Колесников Витальевич", + "cutoff_year": "2026", + "review_goal": "Surface VLM differences on multimodal-hard and temporal-hard Task 3 cases." + }, + "strata_targets": { + "multimodal_hard": 7, + "temporal_hard": 3, + "easy_control": 2 + }, + "error_taxonomy": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "needs_time_fix", + "hallucinated_visual_inference" + ], + "cases": [ + { + "case_id": "CASE-001", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications", + "paper_id": "10.3390/electronics11152468", + "year": "2022", + "evidence_kind": "figure", + "page_hint": "p.3, Fig. 1", + "creator_prompt": "Сравните, какая модель лучше распознает пространственное расположение волоконного усилителя на 3D-модели EDFA и точно извлекает габариты из подписи.", + "creator_rationale": "Базовые VLM плохо понимают пространственную компоновку на плоских рендерах 3D-моделей и часто ошибаются в привязке визуальных элементов к габаритам. Дообученная модель должна точно связать узлы.", + "review_focus": [ + "visual_fact", + "evidence" + ], + "expected_error_modes": [ + "wrong_evidence_linkage", + "missed_visual_fact" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-002", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications", + "paper_id": "10.3390/electronics11152468", + "year": "2022", + "evidence_kind": "figure_or_table", + "page_hint": "p.12, Fig. 10", + "creator_prompt": "Оцените, какая модель точнее извлекает значения коэффициента усиления в зависимости от входной мощности по графику, не путая между собой кривые для разных температур.", + "creator_rationale": "Сложные графики с пересекающимися кривыми и легендами часто сбивают с толку baseline. Важно умение не терять привязку (evidence linkage) к конкретной линии.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-003", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Development and Space-Qualification of a Miniaturized CubeSat’s 2-W EDFA for Space Laser Communications", + "paper_id": "10.3390/electronics11152468", + "year": "2022", + "evidence_kind": "mixed", + "page_hint": "p.15, Fig. 14", + "creator_prompt": "Проверьте, какая модель корректно связывает просадки оптической мощности с конкретными временными фазами температурного цикла (нагрев/охлаждение) на графике испытаний TVAC.", + "creator_rationale": "Базовые модели часто игнорируют ось времени на графиках циклов и выдают среднее значение, теряя фазовый контекст.", + "review_focus": [ + "temporal", + "visual_fact" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-004", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Payload Configuration Integration and Testing of the DeMi CubeSat", + "paper_id": "SSC18-XI-02", + "year": "2018", + "evidence_kind": "figure", + "page_hint": "p.4, Fig. 3", + "creator_prompt": "Сравните, какая модель корректно прослеживает оптический путь луча от калибровочного лазерного диода до Shack-Hartmann датчика (SHWFS), не смешивая его с путем света от внешней апертуры.", + "creator_rationale": "Чтение блок-схем и пересекающихся оптических путей — жесткий тест на visual_fact. Baseline часто путает узлы коммутации луча.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "wrong_evidence_linkage", + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-005", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Payload Configuration Integration and Testing of the DeMi CubeSat", + "paper_id": "SSC18-XI-02", + "year": "2018", + "evidence_kind": "figure", + "page_hint": "p.5, Fig. 5", + "creator_prompt": "Определите, какая модель может визуально идентифицировать геометрию сетки актуаторов MEMS-зеркала, верно связав её с физическим шагом (pitch) между актуаторами из подписи.", + "creator_rationale": "Работа с микрофотографиями аппаратных компонентов склонна вызывать галлюцинации у базовых моделей, которые выдумывают несуществующие элементы.", + "review_focus": [ + "visual_fact" + ], + "expected_error_modes": [ + "wrong_evidence_linkage", + "hallucinated_visual_inference", + "missed_visual_fact" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-006", + "enabled": true, + "primary_endpoint": true, + "stratum": "easy_control", + "paper_title": "Payload Configuration Integration and Testing of the DeMi CubeSat", + "paper_id": "SSC18-XI-02", + "year": "2018", + "evidence_kind": "page", + "page_hint": "p.2, Text section", + "creator_prompt": "Проверьте, корректно ли модель извлекает требования к точности измерения волнового фронта (12 нм) из обычного абзаца текста (Payload Requirements).", + "creator_rationale": "Контрольный пример для проверки, что дообучение не сломало способность модели просто итерировать по тексту без галлюцинаций.", + "review_focus": [ + "overall" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-007", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission", + "paper_id": "SSC19-VI-02", + "year": "2019", + "evidence_kind": "table", + "page_hint": "p.8, Table 4", + "creator_prompt": "Какая модель точнее извлекает значения бюджета канала для кросс-линка на дистанции 580 км, корректно обрабатывая структуру таблицы и не путая колонки с потерями (pointing loss) и запасом (link margin)?", + "creator_rationale": "Таблицы со сложной вложенной структурой часто парсятся baseline-моделями со смещением строк, из-за чего параметры привязываются не к тем значениям.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-008", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission", + "paper_id": "SSC19-VI-02", + "year": "2019", + "evidence_kind": "figure", + "page_hint": "p.6, Fig. 6", + "creator_prompt": "Оцените, какая модель верно распознает способ разделения передающего и принимающего путей на оптической схеме трансивера (напр. использование дихроичных зеркал для длин волн 1537 нм и 1563 нм)", + "creator_rationale": "VLM без специфического дообучения плохо справляются с мелкими текстовыми подписями на технических схемах и выдумывают несуществующие оптические элементы", + "review_focus": [ + "visual_fact" + ], + "expected_error_modes": [ + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-009", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Optical Communications Crosslink Payload Prototype Development for the Cubesat Laser Infrared CrosslinK (CLICK) Mission", + "paper_id": "SSC19-VI-02", + "year": "2019", + "evidence_kind": "figure", + "page_hint": "p.10, Fig. 11", + "creator_prompt": "Проверьте, какая модель точнее описывает процесс схождения (convergence) ошибки наведения во времени, корректно определяя временной интервал до стабилизации (settling time) в замкнутом цикле.", + "creator_rationale": "Графики переходных процессов сложны для baseline: они не умеют оценивать динамику \"до-в-процессе-после\" и путаются в временных скоупах.", + "review_focus": [ + "temporal", + "visual_fact" + ], + "expected_error_modes": [ + "needs_time_fix", + "missed_visual_fact" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-010", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal ", + "paper_id": "10.3390/aerospace12080655", + "year": "2025", + "evidence_kind": "figure_or_table", + "page_hint": "p.5, Fig. 2", + "creator_prompt": "Сравните, какая модель правильно соотносит цветные лучи (Tx и Rx пути) с их описанием в подписи и безошибочно локализует позицию FSM (Fast Steering Mirror) в плоскости оптического зрачка.", + "creator_rationale": "Оптические схемы с цветовой кодировкой лучей — критический тест. Baseline часто не может связать цвет линии на рисунке с текстом в легенде/caption.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "wrong_evidence_linkage", + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-011", + "enabled": true, + "primary_endpoint": false, + "stratum": "temporal_hard", + "paper_title": "OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal ", + "paper_id": "10.3390/aerospace12080655", + "year": "2025", + "evidence_kind": "mixed", + "page_hint": "p.8, Fig. 6", + "creator_prompt": "Какая модель лучше выводит логическую связь между паразитной индуктивностью (LTRACE) схемы и её влиянием на временные характеристики (скорость нарастания импульса/задержку) при высокой скорости модуляции диода?", + "creator_rationale": "Понимание влияния топологии электрической схемы на временную динамику сигнала — сложная задача, выявляющая способность VLM рассуждать о физических ограничениях во времени.", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "induct", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-012", + "enabled": true, + "primary_endpoint": false, + "stratum": "easy_control", + "paper_title": "OSIRIS4CubeSat—The World’s Smallest Commercially Available Laser Communication Terminal ", + "paper_id": "10.3390/aerospace12080655", + "year": "2025", + "evidence_kind": "page", + "page_hint": "p.7, Text section", + "creator_prompt": "Оцените, способна ли модель извлечь базовое описание процедуры лабораторной характеризации чувствительности приемника из текста до его интеграции.", + "creator_rationale": "Текстовый кейс без графиков. Обе модели (baseline и SFT) должны справиться одинаково, чтобы доказать, что дообучение не повредило базовую текстовую логику.", + "review_focus": [ + "overall" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + } + ] +} \ No newline at end of file diff --git a/source_manifests/df07798d94__0008_mukhorin_matvei_dmtrievich__task3_ab_case_manifest.filled - Matvey Mukhorin.json b/source_manifests/df07798d94__0008_mukhorin_matvei_dmtrievich__task3_ab_case_manifest.filled - Matvey Mukhorin.json new file mode 100644 index 0000000000000000000000000000000000000000..008eaa6c87c29d1a91471a49a694052948c67728 --- /dev/null +++ b/source_manifests/df07798d94__0008_mukhorin_matvei_dmtrievich__task3_ab_case_manifest.filled - Matvey Mukhorin.json @@ -0,0 +1,255 @@ +{ + "schema_version": "task3_ab_case_manifest_v1", + "generated_at": "2026-05-04T16:39:34Z", + "experiment_meta": { + "topic": "3D reconstuction", + "submission_id": "мухорин-матвеи-дмитриевич__df07798d94", + "creator_id": "Мухорин Матвей Дмитриевич", + "cutoff_year": "2024", + "review_goal": "Surface VLM differences on multimodal-hard and temporal-hard Task 3 cases." + }, + "strata_targets": { + "multimodal_hard": 5, + "temporal_hard": 2, + "easy_control": 1 + }, + "error_taxonomy": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "needs_time_fix", + "hallucinated_visual_inference" + ], + "cases": [ + { + "case_id": "CASE-001", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "3DGS.zip: A survey on 3D Gaussian Splatting Compression Methods", + "paper_id": "arxiv:2407.09510", + "year": "2024", + "evidence_kind": "figure", + "page_hint": "Figure 1", + "creator_prompt": "Сравните какой вариант лучше извлекает данные из гистограммы и использует его в hypothesis support", + "creator_rationale": "tuned VLM должна отметить дизбаланс (пик у низких значений opacity) в распределении по opacity", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-002", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "3DGS.zip: A survey on 3D Gaussian Splatting Compression Methods", + "paper_id": "arxiv:2407.09510", + "year": "2024", + "evidence_kind": "figure", + "page_hint": "Figure 2", + "creator_prompt": "Сравните какой вариант лучше извлекает данные из heatmap и использует его в hypothesis support", + "creator_rationale": "tuned VLM должна отметить сильную корреляцию компонент f_dc_0, f_dc_1, f_dc_2", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-003", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Efficient Geometry-aware 3D Generative Adversarial Networks", + "paper_id": "arxiv:2112.07945", + "year": "2024", + "evidence_kind": "table", + "page_hint": "Table 1", + "creator_prompt": "Сравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support", + "creator_rationale": "tuned VLM должна отметить улучшение скорости работы в 7.8 раз, уменьшение используемой памяти (0.06 от базового подхода)", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-004", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Speedy-Splat: Fast 3D Gaussian Splatting with Sparse Pixels and Sparse Primitives", + "paper_id": "arxiv:2412.00578", + "year": "2024", + "evidence_kind": "table", + "page_hint": "Table 2", + "creator_prompt": "Сравните какой вариант лучше извлекает данные из таблицы и использует его в hypothesis support", + "creator_rationale": "tuned VLM должна отметить значительное увеличение FPS при добавлении pruning методов", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-005", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES", + "paper_id": "arxiv:2603.11531", + "year": "2026", + "evidence_kind": "figure", + "page_hint": "Figure 2", + "creator_prompt": "Сравните какой вариант лучше извлекает данные из диаграммы и использует его в hypothesis support", + "creator_rationale": "tuned VLM должна отметить, что большую часть времени занимают Rasterization и Sorting", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-006", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES", + "paper_id": "arxiv:2603.11531", + "year": "2026", + "evidence_kind": "formula", + "page_hint": "Figure 9", + "creator_prompt": "Сравните какой вариант лучше извлекает данные из pie chart и использует его в hypothesis support", + "creator_rationale": "tuned VLM должна отметить, что Mobile-GS имеет highest rate во всех диаграммах", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-007", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "MOBILE-GS: REAL-TIME GAUSSIAN SPLATTING FOR MOBILE DEVICES", + "paper_id": "arxiv:2603.11531", + "year": "2026", + "evidence_kind": "formula", + "page_hint": "formula 3", + "creator_prompt": "Сравните какой вариант лучше извлекает данные из формулы и использует их в hypothesis support", + "creator_rationale": "formula 3 - самая важная формула в статье, tuned VLM должна использовать её в hypothesis support", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + } + ] +} \ No newline at end of file diff --git a/source_manifests/dosi_onur_task3__0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json b/source_manifests/dosi_onur_task3__0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json new file mode 100644 index 0000000000000000000000000000000000000000..86e36d6450b02dccae6ca2f87017927725184bd5 --- /dev/null +++ b/source_manifests/dosi_onur_task3__0006_dosi_onur__task3_ab_case_manifest.filled - Onur Dosi.json @@ -0,0 +1,416 @@ +{ + "schema_version": "task3_ab_case_manifest_v1", + "generated_at": "2026-05-01T08:08:08Z", + "experiment_meta": { + "topic": "Multimodal and temporal analysis of Fusobacterium nucleatum in colorectal cancer progression", + "submission_id": "dosi_onur_task3", + "creator_id": "Доси Онур", + "cutoff_year": "2026", + "review_goal": "Проверить, где улучшенная VLM лучше baseline извлекает факты из figure/table и корректно понимает динамику развития (adenoma -> carcinoma, экспериментальные модели)." + }, + "strata_targets": { + "multimodal_hard": 7, + "temporal_hard": 3, + "easy_control": 2 + }, + "error_taxonomy": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "needs_time_fix", + "hallucinated_visual_inference" + ], + "cases": [ + { + "case_id": "CASE-001", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", + "paper_id": "doi:10.1371/journal.pone.0053653", + "year": "2013", + "evidence_kind": "figure", + "page_hint": "p.2, Fig.1", + "creator_prompt": "Сравните, какой вариант точнее отражает различие в уровне Fusobacterium между adenoma cases и control на Figure 1, включая направление и относительную величину различия.", + "creator_rationale": "Ключевой факт находится в графике (Figure 1), где показано количественное различие (log copy number) между группами. Важно не только заметить, что уровень Fusobacterium выше в adenoma cases, но и корректно передать направление и относительный масштаб различия. Базовая модель часто упрощает вывод до общего утверждения об ассоциации и игнорирует количественные различия.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-002", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", + "paper_id": "doi:10.1371/journal.pone.0053653", + "year": "2013", + "evidence_kind": "table", + "page_hint": "p.2, Table 2", + "creator_prompt": "Сравните, какой вариант точнее извлекает зависимость риска аденом от уровня Fusobacterium (tertiles) в Table 2, включая корректное указание odds ratio для высокой группы.", + "creator_rationale": "Ключевая информация находится в таблице (Table 2), где показана количественная зависимость между уровнем Fusobacterium и риском аденом. Важно корректно извлечь структуру tertiles и численные значения odds ratio, особенно для высокой группы. Базовая модель часто теряет численные значения или упрощает вывод до общего утверждения без точной оценки риска.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-003", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", + "paper_id": "doi:10.1371/journal.pone.0053653", + "year": "2013", + "evidence_kind": "figure", + "page_hint": "p.4, Fig.3", + "creator_prompt": "Сравните, какой вариант точнее отражает связь между уровнем Fusobacterium и экспрессией цитокинов (например, IL-10 и TNF-α) на Figure 3, включая направление корреляции.", + "creator_rationale": "Ключевой факт находится в figure, где показаны корреляции между Fusobacterium и воспалительными цитокинами. Важно правильно интерпретировать направление связи и различия между цитокинами. Базовая модель часто упрощает вывод до общего утверждения об ассоциации или неверно интерпретирует направление корреляции.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-004", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", + "paper_id": "doi:10.1371/journal.pone.0053653", + "year": "2013", + "evidence_kind": "figure", + "page_hint": "p.4, Fig.4", + "creator_prompt": "Сравните, какой вариант точнее отражает различие уровня Fusobacterium между нормальной и опухолевой тканью по всем пациентам на Figure 4.", + "creator_rationale": "Ключевой факт находится в figure, где показано сравнение уровней Fusobacterium между нормальной и опухолевой тканью для нескольких пациентов. Важно корректно интерпретировать общий паттерн повышения уровня в опухолевой ткани, а не отдельные наблюдения. Базовая модель часто упускает повторяющийся тренд или делает вывод на основе единичных примеров.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-005", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", + "paper_id": "doi:10.1371/journal.pone.0053653", + "year": "2013", + "evidence_kind": "figure", + "page_hint": "p.3, Fig.2", + "creator_prompt": "Сравните, какой вариант точнее описывает локализацию Fusobacterium в тканях (например, в mucus layer и colonic crypts) на Figure 2.", + "creator_rationale": "Ключевая информация находится в микроскопических изображениях (FISH), где показано пространственное распределение Fusobacterium в ткани. Важно корректно описать локализацию (mucus layer, crypts), а не просто факт присутствия бактерий. Базовая модель часто игнорирует пространственные детали или формулирует слишком общее описание.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-006", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", + "paper_id": "doi:10.1371/journal.pone.0053653", + "year": "2013", + "evidence_kind": "figure_or_table", + "page_hint": "p.2, Fig.1; Table 2", + "creator_prompt": "Сравните, какой вариант лучше объединяет данные из Figure 1 и Table 2, связывая уровень Fusobacterium с риском аденом.", + "creator_rationale": "Кейс требует интеграции данных из разных источников: Figure 1 показывает различие уровня Fusobacterium между группами, а Table 2 — связь уровня с риском аденом (odds ratio). Важно объединить эти факты в единую интерпретацию. Базовая модель часто рассматривает их раздельно и не устанавливает связь между уровнем бактерии и риском заболевания.", + "review_focus": [ + "evidence", + "visual_fact", + "overall" + ], + "expected_error_modes": [ + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-007", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Fusobacterium nucleatum Promotes Colorectal Carcinogenesis by Modulating E-Cadherin/β-Catenin Signaling via its FadA Adhesin", + "paper_id": "doi:10.1016/j.chom.2013.07.012", + "year": "2013", + "evidence_kind": "figure", + "page_hint": "p.15, Fig.2", + "creator_prompt": "Сравните, какой вариант точнее отражает экспериментальное доказательство связывания FadA с E-cadherin на Figure 2.", + "creator_rationale": "Ключевая информация находится в figure, где показаны экспериментальные данные (Western blot и co-immunoprecipitation), подтверждающие связывание FadA с E-cadherin. Важно корректно интерпретировать, что это именно экспериментальное доказательство взаимодействия, а не просто предположение механизма. Базовая модель часто игнорирует детали эксперимента или описывает результат слишком обобщённо.", + "review_focus": [ + "evidence", + "visual_fact", + "overall" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-008", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", + "paper_id": "doi:10.1371/journal.pone.0053653", + "year": "2013", + "evidence_kind": "figure_or_table", + "page_hint": "p.2–4, Fig.1; Table 2; Fig.4", + "creator_prompt": "Сравните, какой вариант лучше отражает роль Fusobacterium на разных стадиях заболевания (от аденомы к более поздним стадиям), сохраняя временную логику.", + "creator_rationale": "Кейс требует учёта временной динамики заболевания: Fusobacterium обнаруживается уже на стадии аденомы и связан с дальнейшим развитием заболевания. Важно сохранить последовательность стадий и не смешивать ранние и поздние этапы. Базовая модель часто игнорирует временную структуру и описывает данные как статические.", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-009", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Fusobacterium nucleatum Potentiates Intestinal Tumorigenesis and Modulates the Tumor-Immune Microenvironment", + "paper_id": "doi:10.1016/j.chom.2013.07.007", + "year": "2013", + "evidence_kind": "figure", + "page_hint": "p.3, Fig.2", + "creator_prompt": "Сравните, какой вариант точнее отражает изменение числа опухолей и других показателей после воздействия Fusobacterium nucleatum в эксперименте на мышах (Figure 2).", + "creator_rationale": "Кейс требует понимания временной структуры эксперимента: сначала мыши подвергаются воздействию Fusobacterium nucleatum, затем оцениваются изменения числа опухолей и гистологических показателей. Важно корректно отразить причинно-следственную связь и динамику изменений по сравнению с контрольными группами. Базовая модель часто игнорирует экспериментальный дизайн и описывает результат как статическую ассоциацию.", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-010", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Fusobacterium nucleatum Potentiates Intestinal Tumorigenesis and Modulates the Tumor-Immune Microenvironment", + "paper_id": "doi:10.1016/j.chom.2013.07.007", + "year": "2013", + "evidence_kind": "figure", + "page_hint": "p.3, Fig.2", + "creator_prompt": "Сравните, какой вариант точнее отражает изменения в иммунной среде после воздействия Fusobacterium nucleatum, включая гистологические и воспалительные показатели (Figure 2).", + "creator_rationale": "Кейс требует понимания динамических изменений в иммунной среде после воздействия Fusobacterium nucleatum. Важно учитывать не только увеличение числа опухолей, но и изменения в гистологических и воспалительных показателях. Базовая модель часто игнорирует эти аспекты и фокусируется только на опухолевом росте.", + "review_focus": [ + "temporal", + "evidence", + "overall" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-011", + "enabled": true, + "primary_endpoint": false, + "stratum": "easy_control", + "paper_title": "Fusobacterium Is Associated with Colorectal Adenomas", + "paper_id": "doi:10.1371/journal.pone.0053653", + "year": "2013", + "evidence_kind": "page", + "page_hint": "p.1", + "creator_prompt": "Сравните, какой вариант точнее формулирует основную идею статьи о связи Fusobacterium с колоректальными аденомами.", + "creator_rationale": "Кейс основан преимущественно на текстовой информации и не требует извлечения сложного визуального или временного evidence. Ожидается, что обе модели справятся примерно одинаково.", + "review_focus": [ + "overall" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-012", + "enabled": true, + "primary_endpoint": false, + "stratum": "easy_control", + "paper_title": "Fusobacterium nucleatum Promotes Colorectal Carcinogenesis by Modulating E-Cadherin/β-Catenin Signaling via its FadA Adhesin", + "paper_id": "doi:10.1016/j.chom.2013.07.012", + "year": "2013", + "evidence_kind": "page", + "page_hint": "p.2–5", + "creator_prompt": "Сравните, какой вариант точнее описывает роль FadA в механизме действия Fusobacterium nucleatum.", + "creator_rationale": "Кейс основан на текстовом описании механизма и не требует сложной интерпретации figure или temporal динамики. Ожидается, что различия между моделями будут минимальными.", + "review_focus": [ + "overall" + ], + "expected_error_modes": [ + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + } + ] +} \ No newline at end of file diff --git "a/source_manifests/ebb8391305__0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Ma\321\202\320\262\320\265\320\271 \320\227\320\260\320\274\321\217\321\202\320\270\320\275.json" "b/source_manifests/ebb8391305__0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Ma\321\202\320\262\320\265\320\271 \320\227\320\260\320\274\321\217\321\202\320\270\320\275.json" new file mode 100644 index 0000000000000000000000000000000000000000..744b18d4f9e7d4f04869f4e10a559772223f87c3 --- /dev/null +++ "b/source_manifests/ebb8391305__0007_zamiatin_matvei_sergeevich__task3_ab_case_manifest.filled - Ma\321\202\320\262\320\265\320\271 \320\227\320\260\320\274\321\217\321\202\320\270\320\275.json" @@ -0,0 +1,313 @@ +{ + "schema_version": "task3_ab_case_manifest_v1", + "generated_at": "2026-05-03T12:44:13Z", + "experiment_meta": { + "topic": "Ионосфера Земли и проект «Ионозонд»", + "submission_id": "матвеи-замятин-сергеевич__ebb8391305", + "creator_id": "Матвей Замятин Сергеевич", + "cutoff_year": "2025", + "review_goal": "Surface VLM differences on multimodal-hard and temporal-hard Task 3 cases." + }, + "strata_targets": { + "multimodal_hard": 7, + "temporal_hard": 3, + "easy_control": 2 + }, + "error_taxonomy": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "needs_time_fix", + "hallucinated_visual_inference" + ], + "cases": [ + { + "case_id": "CASE-001", + "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", + "paper_id": "10.7868/S0044394825030016", + "year": 2025, + "evidence_kind": "figure", + "page_hint": "p.9, Fig.5", + "stratum": "multimodal_hard", + "creator_prompt": "Сравните, какой вариант точнее считывает порядок значений электронной концентрации (ось X) для слоя F2 в дневное время, учитывая логарифмический масштаб оси.", + "creator_rationale": "Кейс диагностический, так как ось X имеет логарифмический масштаб (от 10^2 до 10^6). Baseline часто игнорирует степень и выдает неверные порядки величин, в то время как tuned VLM должен правильно прочитать значения по кривой 'День'.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "hallucinated_visual_inference" + ], + "premise_contains": "многослойную вертикальную структуру", + "notes": "Привязка к Step 2 (описание вертикальной структуры и Рис. 5).", + "match": { + "premise_contains": "многослойную вертикальную структуру" + } + }, + { + "case_id": "CASE-002", + "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", + "paper_id": "10.7868/S0044394825030016", + "year": 2025, + "evidence_kind": "figure", + "page_hint": "p.21, Fig.14", + "stratum": "multimodal_hard", + "creator_prompt": "Проверьте, какой вариант точно извлекает численное значение критической частоты foF2 (5.35 МГц) из мелкого текста, наложенного на плотную цветную ионограмму.", + "creator_rationale": "Важный факт сидит прямо внутри сложного зашумленного изображения (ионограммы ЛАЭРТ). Baseline VLM часто пропускает текстовые лейблы, наложенные поверх heatmap-графиков.", + "review_focus": [ + "visual_fact", + "evidence" + ], + "expected_error_modes": [ + "missed_visual_fact" + ], + "premise_contains": "ионозонд ЛАЭРТ", + "notes": "Привязка к Step 5 (проект Ионозонд и прибор ЛАЭРТ).", + "match": { + "premise_contains": "ионозонд ЛАЭРТ" + } + }, + { + "case_id": "CASE-003", + "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", + "paper_id": "10.7868/S0044394825030016", + "year": 2025, + "evidence_kind": "figure", + "page_hint": "p.21, Fig.14", + "stratum": "multimodal_hard", + "creator_prompt": "Оцените, какой вариант корректно различает моды радиосигнала (Z-мода, O-мода, X-мода) и связывает их с соответствующими кривыми на графике.", + "creator_rationale": "Требуется пространственное понимание связей между подписями и линиями-указателями на сложном научном рисунке. Baseline может перепутать принадлежность подписей к конкретным следам сигнала.", + "review_focus": [ + "visual_fact", + "evidence" + ], + "expected_error_modes": [ + "wrong_evidence_linkage", + "hallucinated_visual_inference" + ], + "premise_contains": "ионозонд ЛАЭРТ", + "notes": "Также привязка к Step 5, фокус на извлечение множественных визуальных фактов с одного графика.", + "match": { + "premise_contains": "ионозонд ЛАЭРТ" + } + }, + { + "case_id": "CASE-004", + "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", + "paper_id": "10.7868/S0044394825030016", + "year": 2025, + "evidence_kind": "figure", + "page_hint": "p.12, Fig.8", + "stratum": "multimodal_hard", + "creator_prompt": "Сравните, какой вариант лучше понимает разницу между синими лучами (сигналы ГНСС) и красными лучами (зондирование с низкоорбитального спутника).", + "creator_rationale": "Схема радиотомографии использует цветовую кодировку лучей, описанную в подписи. Baseline может слить все лучи в один механизм, потеряв специфику двух разных систем зондирования.", + "review_focus": [ + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "premise_contains": "ограничены локальным охватом", + "notes": "Привязка к Step 4, где объясняется разница между наземными методами и спутниковыми (исопользование ГНСС).", + "match": { + "premise_contains": "ограничены локальным охватом" + } + }, + { + "case_id": "CASE-005", + "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", + "paper_id": "10.7868/S0044394825030016", + "year": 2025, + "evidence_kind": "figure", + "page_hint": "p.19, Fig.12", + "stratum": "multimodal_hard", + "creator_prompt": "Проверьте, какой вариант правильно идентифицирует расположение длинных антенн ионозонда ЛАЭРТ и антенны прибора МАЯК на конструкции спутника.", + "creator_rationale": "Требуется сопоставить текстовое описание из caption (вверх отходит штанга, вниз направлена антенна МАЯК, длинные - ЛАЭРТ) с 3D-моделью аппарата.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "wrong_evidence_linkage" + ], + "premise_contains": "аппаратов «Ионосфера-М»", + "notes": "Привязка к Step 5, визуальное устройство КА Ионосфера-М.", + "match": { + "premise_contains": "аппаратов «Ионосфера-М»" + } + }, + { + "case_id": "CASE-006", + "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", + "paper_id": "10.7868/S0044394825030016", + "year": 2025, + "evidence_kind": "figure", + "page_hint": "p.14, Fig.9", + "stratum": "multimodal_hard", + "creator_prompt": "Сравните, какой вариант корректно извлекает пространственную информацию о том, что высокочастотная волна (High-frequency wave) направлена вверх, а низкочастотная (Low-frequency) возникает в турбулентном объеме и идет вниз.", + "creator_rationale": "На схеме активного эксперимента направления волн показаны стрелками. Baseline VLM часто игнорирует векторные элементы (стрелки) и просто перечисляет найденный текст.", + "review_focus": [ + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "premise_contains": "взаимодействие мощного искусственного", + "notes": "Привязка к Step 4, часть, описывающая активные эксперименты и нагревные стенды.", + "match": { + "premise_contains": "взаимодействие мощного искусственного" + } + }, + { + "case_id": "CASE-007", + "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", + "paper_id": "10.7868/S0044394825030016", + "year": 2025, + "evidence_kind": "figure", + "page_hint": "p.22, Fig.15", + "stratum": "multimodal_hard", + "creator_prompt": "Оцените, какой вариант правильно понимает структуру составного рисунка: верхняя панель (А) — электрическая компонента, нижняя (Б) — магнитная.", + "creator_rationale": "Сложный мультипанельный график. Baseline может перепутать панели или смешать данные электрической и магнитной компонент при формулировке evidence.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "wrong_evidence_linkage" + ], + "premise_contains": "ОНЧ-передатчиков", + "notes": "Привязка к Step 5, где упоминаются ОНЧ-передатчики и их спектрограммы.", + "match": { + "premise_contains": "ОНЧ-передатчиков" + } + }, + { + "case_id": "CASE-008", + "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", + "paper_id": "10.7868/S0044394825030016", + "year": 2025, + "evidence_kind": "figure", + "page_hint": "p.9, Fig.5", + "stratum": "temporal_hard", + "creator_prompt": "Сравните, какой вариант лучше улавливает временную динамику (день vs ночь), в частности полное исчезновение слоя D в ночное время на графике профиля.", + "creator_rationale": "Кейс на before/after (день/ночь). График четко показывает отсутствие нижней петли (слоя D) на кривой 'Ночь'. Tuned VLM должен явно связать временное условие с изменением структуры на рисунке.", + "review_focus": [ + "temporal", + "visual_fact" + ], + "expected_error_modes": [ + "needs_time_fix", + "missed_visual_fact" + ], + "premise_contains": "зависит от высоты и времени суток", + "time_scope_contains": "ночью", + "notes": "Привязка к Step 2. Явный темпоральный маркер 'ночью'.", + "match": { + "premise_contains": "зависит от высоты и времени суток", + "time_scope_contains": "ночью" + } + }, + { + "case_id": "CASE-009", + "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", + "paper_id": "10.7868/S0044394825030016", + "year": 2025, + "evidence_kind": "figure", + "page_hint": "p.15, Fig.11", + "stratum": "temporal_hard", + "creator_prompt": "Проверьте, какой вариант точнее формулирует разницу в дальности распространения радиосигнала днем и ночью из-за изменения слоев ионосферы.", + "creator_rationale": "Изображение демонстрирует разницу между дневной и ночной радиосвязью (temporal scope). Baseline может описать картинку в целом, потеряв причинно-следственную связь между временем суток и дальностью скачка.", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "hypothesis_title_contains": "суточной изменчивости", + "notes": "Привязка к Step 3. Темпоральная разница влияния ионосферы на сигнал.", + "match": { + "hypothesis_title_contains": "суточной изменчивости" + } + }, + { + "case_id": "CASE-010", + "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", + "paper_id": "10.7868/S0044394825030016", + "year": 2025, + "evidence_kind": "figure", + "page_hint": "p.22, Fig.15", + "stratum": "temporal_hard", + "creator_prompt": "Оцените, какой вариант правильно извлекает конкретный временной интервал (с начала измерений до 22:47:00), в котором наблюдаются естественные электростатические колебания.", + "creator_rationale": "Временная привязка напрямую завязана на ось X спектрограммы и текст подписи. Tuned VLM должен четко вытянуть временные границы явления (time_scope).", + "review_focus": [ + "temporal", + "visual_fact" + ], + "expected_error_modes": [ + "needs_time_fix", + "missed_visual_fact" + ], + "premise_contains": "ОНЧ-передатчиков", + "time_scope_contains": "22:47:00", + "notes": "Привязка к Step 5. Временной интервал с оси X.", + "match": { + "premise_contains": "ОНЧ-передатчиков", + "time_scope_contains": "22:47:00" + } + }, + { + "case_id": "CASE-011", + "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", + "paper_id": "10.7868/S0044394825030016", + "year": 2025, + "evidence_kind": "figure", + "page_hint": "p.12, Fig.7", + "stratum": "easy_control", + "creator_prompt": "Проверьте, какой вариант правильно описывает базовые компоненты схемы отражения радиосигнала (Земля, ионосфера, антенны).", + "creator_rationale": "Простой контрольный кейс. Схема очень ясная, текст-доминантная подпись. Обе модели должны справиться без проблем, кейс нужен для баланса.", + "review_focus": [ + "overall" + ], + "expected_error_modes": [ + "hallucinated_visual_inference" + ], + "premise_contains": "отражения радиоволн", + "notes": "Привязка к Step 1, базовая концепция радиосвязи.", + "match": { + "premise_contains": "отражения радиоволн" + } + }, + { + "case_id": "CASE-012", + "paper_title": "ТАЙНЫ ИОНОСФЕРЫ ЗЕМЛИ И ПРОЕКТ «ИОНОЗОНД» ДЛЯ ИХ РАСКРЫТИЯ", + "paper_id": "10.7868/S0044394825030016", + "year": 2025, + "evidence_kind": "figure", + "page_hint": "p.20, Fig.13", + "stratum": "easy_control", + "creator_prompt": "Сравните, какой вариант корректно определяет количество спутников (4 КА) и количество орбитальных плоскостей на схеме проекта Ионозонд.", + "creator_rationale": "Простой счетный кейс на основе графической схемы и подписи. Baseline не должен ошибаться в базовом подсчете ясно выделенных объектов.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact" + ], + "premise_contains": "двух пар спутников", + "notes": "Привязка к Step 5, визуальный подсчет спутников.", + "match": { + "premise_contains": "двух пар спутников" + } + } + ], + "topic": "Исследование ионосферы Земли и проект Ионозонд", + "submission_id": "zamiatin_matvei_sergeevich__672a8cfe7603", + "creator_id": "Матвей Замятин Сергеевич", + "cutoff_year": 2025, + "review_goal": "Проверить, где tuned VLM лучше baseline извлекает численные значения из плотных научных графиков (ионограмм, спектрограмм), корректно интерпретирует логарифмические шкалы и точнее сохраняет временную привязку (день/ночь, временные отрезки на осях)." +} \ No newline at end of file diff --git "a/source_manifests/f0377dec26__0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - \320\224\320\265\320\275\320\270\321\201 \320\220\320\273\320\265\320\272\321\201\320\260\320\275\320\264\321\200\320\276\320\262\320\270\321\207.json" "b/source_manifests/f0377dec26__0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - \320\224\320\265\320\275\320\270\321\201 \320\220\320\273\320\265\320\272\321\201\320\260\320\275\320\264\321\200\320\276\320\262\320\270\321\207.json" new file mode 100644 index 0000000000000000000000000000000000000000..616220e22f5b411cc1018e8ce53f1f06505f7cfe --- /dev/null +++ "b/source_manifests/f0377dec26__0001_zamorin_denis_aleksandrovich__task3_ab_case_manifest.filled - \320\224\320\265\320\275\320\270\321\201 \320\220\320\273\320\265\320\272\321\201\320\260\320\275\320\264\321\200\320\276\320\262\320\270\321\207.json" @@ -0,0 +1,415 @@ +{ + "schema_version": "task3_ab_case_manifest_v1", + "generated_at": "2026-04-22T14:31:33Z", + "experiment_meta": { + "topic": "Открытие гексатической фазы в двумерной структуре пылевых частиц в плазме", + "submission_id": "денис-заморин__f0377dec26", + "creator_id": "Денис Заморин", + "cutoff_year": "2026", + "review_goal": "Surface VLM differences on multimodal-hard and temporal-hard Task 3 cases." + }, + "strata_targets": { + "multimodal_hard": 7, + "temporal_hard": 3, + "easy_control": 2 + }, + "error_taxonomy": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "needs_time_fix", + "hallucinated_visual_inference" + ], + "cases": [ + { + "case_id": "CASE-001", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Ordering, Metastability and Phase Transitions in Two-Dimensional Systems", + "paper_id": "DOI:10.1088/0022-3719/6/7/010", + "year": "1973", + "evidence_kind": "figure_or_table", + "page_hint": "p.1191–1192, Fig.1 & Fig.2", + "creator_prompt": "Сравните, какой вариант точнее интерпретирует рисунки 1 и 2 (стр. 1191–1192): извлеките связь между направлением обхода замкнутого контура и величиной топологического заряда q, и проверьте, не теряется ли эта визуальная закономерность в hypothesis support.", + "creator_rationale": "Ключевой концептуальный факт о топологическом порядке (дискретное изменение фазы dФ=2piq при обходе контура) задан исключительно через схемы на рис. 1 и 2. Базовые VLM часто упускают геометрическую логику физических диаграмм, ошибочно привязывают формулы к неверным элементам или теряют связь между визуальным контуром и математическим определением заряда. Кейс диагностирует именно точность visual grounding и способность модели сохранять топологический инвариант, извлечённый из рисунка.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-002", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Quasicrystalline structures in strongly coupled dusty plasma", + "paper_id": "DOI:10.1070/PU1997v040n11ABEH000308", + "year": "1977", + "evidence_kind": "figure", + "page_hint": "p.1166, Fig.4", + "creator_prompt": "Сравните, какой вариант точнее извлекает данные из графика на рис. 4 (стр. 1165): определите, какая кривая соответствует переходу от “газообразного” к “жидкоподобному” состоянию, и проверьте, правильно ли модель связывает появление пика g(r) с указанным в тексте значением параметра связи Γ = 40.", + "creator_rationale": "Ключевой диагностический факт (фазовый переход при Γ = 40) визуализирован через форму кривых g(r) на рис. 4. Базовые VLM часто теряют точные численные значения осей, путают подписи кривых (1, 2, 3) или не связывают визуальный пик корреляционной функции с физическим параметром Г, упомянутым в тексте. Кейс проверяет способность модели точно считывать научные графики, сопоставлять их с текстовыми параметрами и сохранять корректную evidence linkage.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "wrong_evidence_linkage", + "missed_visual_fact" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-003", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Quasicrystalline structures in strongly coupled dusty plasma", + "paper_id": "DOI:10.1070/PU1997v040n11ABEH000308", + "year": "1977", + "evidence_kind": "figure_or_table", + "page_hint": "p.1166, Fig.5", + "creator_prompt": "Сравните, какой вариант вернее интерпретирует фазовую диаграмму на рис. 5 (стр. 1166): извлеките координаты экспериментальных точек в логарифмическом масштабе осей, определите, относительно каких теоретических кривых они лежат, и проверьте, не нарушается ли при этом условие образования упорядоченных структур, описанное в тексте.", + "creator_rationale": "Рис. 5 представляет собой логарифмическую фазовую диаграмму, где положение экспериментальных точек относительно теоретических границ определяет наличие фазового перехода. VLM baseline часто ошибается при считывании лог-шкал, путает обозначения кривых (OCP vs Debye model) или теряет связь между визуальным положением точки и выводом о формировании квазикристалла. Кейс диагностирует точность работы с научными графиками и способность модели сохранять корректную привязку визуальных данных к текстовым выводам.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-004", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Melting dynamics of a plasma crystal", + "paper_id": "DOI:10.1038/379806a0", + "year": "1996", + "evidence_kind": "figure", + "page_hint": "p. 809, Fig. 3", + "creator_prompt": "Сравните, какой вариант точнее считывает график на рис. 3: определите давление газа (0.32 мбар), при котором ориентационный порядок демонстрирует локальный максимум, в то время как трансляционный порядок продолжает монотонно падать.", + "creator_rationale": "Ключевой диагностический вывод статьи (парадоксальное восстановление ориентационного порядка при продолжающемся разрушении трансляционной решётки) закодирован исключительно в форме двух кривых на рис. 3. Базовые VLM часто путают оси, теряют масштаб логарифмической/линейной сетки или не связывают заштрихованную область графика с конкретным давлением вторичного пика. Кейс диагностирует точность multi-curve reading, способность модели отслеживать неочевидные визуальные паттерны и сохранять корректную evidence linkage.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-005", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Plasma Crystal: Coulomb Crystallization in a Dusty Plasma", + "paper_id": "DOI: https://doi.org/10.1103/PhysRevLett.73.652", + "year": "1994", + "evidence_kind": "figure", + "page_hint": "p. 653, Fig. 4", + "creator_prompt": "Сравните три гистограммы на рис. 4 (стр. 653): определите, какое из распределений (площадь ячеек, число сторон или расстояние до соседа) наиболее чётко отличает экспериментальные данные (чёрные столбцы) от случайного распределения (белые), и проверьте, сохраняет ли модель связь между сужением пиков и выводом о кристаллическом порядке.", + "creator_rationale": "Рис. 4 содержит три взаимосвязанные гистограммы, где ключевой диагностический признак (кристаллизация) проявляется в сужении распределений и смещении мод относительно случайного газа. Базовые VLM часто путают легенду (чёрные/белые столбцы), теряют масштаб осей или не сопоставляют форму распределений с физическим выводом о переходе “газ – кристалл”. Кейс проверяет fine-grained visual comparison, способность модели извлекать статистические тренды из multi-panel plots и корректно привязывать их к текстовому claim о crystalline order.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "wrong_evidence_linkage", + "hallucinated_visual_inference", + "missed_visual_fact" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-006", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Plasma Crystal: Coulomb Crystallization in a Dusty Plasma", + "paper_id": "DOI: https://doi.org/10.1103/PhysRevLett.73.652", + "year": "1994", + "evidence_kind": "figure", + "page_hint": "p. 654, Fig. 3", + "creator_prompt": "Проанализируйте тесселяцию на рис. 3: определите, какая геометрическая фигура преобладает среди ячеек Вороного, проверьте, связывает ли модель визуальное доминирование шестиугольников с выводом о формировании кристаллической решётки.", + "creator_rationale": "Рис. 3 содержит топологическое доказательство кристаллизации: ячейки Вороного преимущественно шестиугольные с почти равными площадями. Базовые VLM часто воспринимают такую сетку как декоративный шум, не распознают доминирующую валентность (количество сторон). Кейс диагностирует способность модели извлекать топологические особенности из научной визуализации и корректно привязывать их к фазовому состоянию (кристалл в данном случае) без опоры на текст.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-007", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Hexatic phase in two-dimensional Yukawa systems: Existence and properties", + "paper_id": "DOI 10.1088/1742-6596/653/1/012103", + "year": "2015", + "evidence_kind": "figure", + "page_hint": "p.3-4, Fig.1 & Fig.3", + "creator_prompt": "Сравните, какой вариант точнее считывает рисунки 1 и 3: извлеките асимптотическое поведение g6(r) для гексатической фазы (степенной закон r^(-1/5)), сопоставьте его с положением пика теплоёмкости Cv и определите границы переходов при Γ = 98 и Γ=154.", + "creator_rationale": "Ключевой диагностический вывод о двухстадийном плавлении закодирован в форме кривых на рис. 1 и сингулярности теплоемкости на рис. 3. Базовые VLM часто путают асимптотики на лог-шкалах, теряют связь между визуальным пиком и переходом, или галлюцинируют численные значения , не сверяя их с осями. Кейс проверяет точность извлечения степенных зависимостей, сопоставления multi-panel графиков и сохранения evidence linkage между визуальными особенностями и фазовыми переходами", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-008", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Hexatic phase in two-dimensional Yukawa systems: Existence and properties", + "paper_id": "DOI 10.1088/1742-6596/653/1/012103", + "year": "2015", + "evidence_kind": "figure", + "page_hint": "p.4–5, Fig.5 & Fig.6", + "creator_prompt": "Проанализируйте динамику фазового сценария при уменьшении Γ: определите последовательность потери порядка (трансляционный до ориентационного), выявите на рис. 5 расхождение в оценках критических точек из работ до и после 2010 года, и проверьте, как на рис. 6 сдвигается диапазон существования гексатической фазы при изменении параметра каппа.", + "creator_rationale": "В работах по численному моделированию “временная” динамика заменяется эволюцией состояния при варьировании управляющего параметра и историческим уточнением границ. Рис. 5 и 6 визуализируют состояния системы перехода (кристалл - гексатика - жидкость) и тренд стабильности гексатической фазы при росте концентрации. VLM baseline часто теряет причинно-следственную связь в последовательности фазовых сдвигов, путает направления изменения границ на диаграммах или игнорирует контекст расхождения данных в литературе. Кейс диагностирует способность модели отслеживать динамику фазовых сценариев, сравнивать состояния до/после перехода. ", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-009", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Laser-induced melting of two-dimensional dusty plasma system in RF discharge", + "paper_id": "DOI:10.1038/s41598-020-80082-x", + "year": "2021", + "evidence_kind": "figure", + "page_hint": "p.6-7, Fig.4 & Fig.5", + "creator_prompt": "Отследите последовательность разрушения порядка при уменьшении Γ: определите, какой тип порядка (трансляционный или ориентационный) теряется первым в районе Γ = 160Γ, а какой - в районе Г = 100, и проверьте, соответствует ли эта динамика визуальной эволюции дефектов на диаграммах Вороного (рис. 5).", + "creator_rationale": "Ключевой диагностический вывод о двухстадийном плавлении (solid-hexatic-liquid) закодирован в последовательности расхождения пиков восприимчивостей χT и χ6 на рис. 4 и визуальной трансформации дефектов на рис. 5. Базовые VLM часто меняют местами порядок фазовых сдвигов, путают привязку критических точек к осям или игнорируют причинно-следственную связь между распадом пар дислокаций и последующим появлением свободных дисклинаций. Кейс проверяет способность модели отслеживать динамику фазового сценария и корректно интерпретировать последовательность событий «до/после» перехода.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "wrong_evidence_linkage", + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-010", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Laser-induced melting of two-dimensional dusty plasma system in RF discharge", + "paper_id": "DOI:10.1038/s41598-020-80082-x", + "year": "2021", + "evidence_kind": "figure", + "page_hint": "p.5, Fig.3", + "creator_prompt": "Проанализируйте эволюцию структурного фактора S(kxy) на рис. 3 при переходе от Γ=600 к Γ=50: опишите последовательную трансформацию максимумов (чёткие пики --- размытые гексагоны --- концентрические кольца) и проверьте, связывает ли модель промежуточную стадию с гексатической фазой, а не с прямым переходом твёрдое кристалл - жидкость.", + "creator_rationale": "Рис. 3 визуализирует параметрическую/временнýю эволюцию дифракционной картины в процессе плавления. Базовые модели часто воспринимают три панели как независимые снимки, упускают постепенное размытие пиков и не связывают промежуточную стадию (размытые гексагоны) с теоретическим предсказанием гексатической фазы. Кейс диагностирует способность модели отслеживать непрерывную динамику структурных изменений и корректно интерпретировать фазовую траекторию системы.", + "review_focus": [ + "temporal", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-011", + "enabled": true, + "primary_endpoint": false, + "stratum": "easy_control", + "paper_title": "Laser-induced melting of two-dimensional dusty plasma system in RF discharge", + "paper_id": "DOI:10.1038/s41598-020-80082-x", + "year": "2021", + "evidence_kind": "page", + "page_hint": "p.3, раздел Experiments", + "creator_prompt": "Извлеките базовые параметры эксперимента: диаметр частиц, рабочее давление газа и диапазон мощности лазера, использованного для нагрева, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.", + "creator_rationale": "Кейс содержит чисто текстовые, явно указанные экспериментальные параметры (диаметр 10.16 мкм, давление 4.3 Па, мощность 20–300 мВт), которые не требуют визуального анализа или сложного фазового вывода. Базовые и донастроенные VLM должны одинаково точно извлекать эти факты. Кейс служит контрольным примером для проверки того, что модель не «переусложняет» простые запросы и сохраняет точность на straightforward extraction tasks.", + "review_focus": [ + "overall" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-012", + "enabled": true, + "primary_endpoint": false, + "stratum": "easy_control", + "paper_title": "Laser-induced melting of two-dimensional dusty plasma system in RF discharge", + "paper_id": "DOI:10.1038/s41598-020-80082-x", + "year": "2021", + "evidence_kind": "page", + "page_hint": "p.2–3, раздел Experiments", + "creator_prompt": "Извлеките базовые параметры ВЧ-разряда: частоту генератора, расстояние между электродами, рабочее давление аргона и мощность разряда, и проверьте, точно ли модель воспроизводит указанные числовые значения без искажений.", + "creator_rationale": "Кейс содержит явно указанные в текстовом блоке Experiments параметры установки (13.56 МГц, 5 см, 4.3 Па, 7.9 Вт), которые не требуют визуального анализа, интерпретации графиков или фазовых выводов. Базовые и донастроенные VLM должны одинаково точно извлекать эти факты. Кейс служит контрольным примером для проверки того, что модель не «переусложняет» простые запросы и сохраняет точность на задачах прямого цитирования чисел из текста.", + "review_focus": [ + "overall" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + } + ] +} \ No newline at end of file diff --git "a/source_manifests/fred-westling__4e51465083__0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - \320\224\320\260\321\200\321\214\321\217 \320\221\320\265\321\201\320\277\321\217\321\202\321\207\321\203\320\272.json" "b/source_manifests/fred-westling__4e51465083__0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - \320\224\320\260\321\200\321\214\321\217 \320\221\320\265\321\201\320\277\321\217\321\202\321\207\321\203\320\272.json" new file mode 100644 index 0000000000000000000000000000000000000000..e738d8d2ac89466e4c6d636c90fd69536e0f1c26 --- /dev/null +++ "b/source_manifests/fred-westling__4e51465083__0010_shevchenko_dar_ia_andreevna__task3_ab_case_manifest.filled - \320\224\320\260\321\200\321\214\321\217 \320\221\320\265\321\201\320\277\321\217\321\202\321\207\321\203\320\272.json" @@ -0,0 +1,412 @@ +{ + "schema_version": "task3_ab_case_manifest_v1", + "generated_at": "2026-05-07T19:09:49Z", + "experiment_meta": { + "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", + "submission_id": "fred-westling__4e51465083", + "creator_id": "Fred Westling", + "cutoff_year": "2021", + "review_goal": "Surface VLM differences on multimodal-hard and temporal-hard Task 3 cases." + }, + "strata_targets": { + "multimodal_hard": 7, + "temporal_hard": 3, + "easy_control": 2 + }, + "error_taxonomy": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "needs_time_fix", + "hallucinated_visual_inference" + ], + "cases": [ + { + "case_id": "CASE-001", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", + "paper_id": "2011.11954", + "year": "2021", + "evidence_kind": "figure", + "page_hint": " p.2, Fig.1", + "creator_prompt": "Сравни, как точно описаны этапы пайплайна симуляции сканирования деревьев: от генерации дерева до итогового облака точек.", + "creator_rationale": "На схеме показан важный процесс: генерация меша, сэмплирование, симуляция сканирования с учётом траектории и сенсора. Модели часто теряют последовательность шагов или путают зависимость между компонентами.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-002", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", + "paper_id": "2011.11954", + "year": "2021", + "evidence_kind": "figure", + "page_hint": " p.3, Fig.2", + "creator_prompt": "Сравни, какой вариант верно определяет параметры дерева в интерфейсе Arbaro (уровни ветвления, углы, длина).", + "creator_rationale": "Arbaro — ключевой инструмент для создания процедурных деревьев. Изображение содержит специфические параметры (Level 0–3, углы, длина сегментов), которые важны для настройки симуляции и которые легко пропустить.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-003", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", + "paper_id": "2011.11954", + "year": "2021", + "evidence_kind": "figure", + "page_hint": " p.2, Fig.3", + "creator_prompt": "Сравни, как различаются orchard и forest layout по визуальному представлению и числовым параметрам (spacing, rows).", + "creator_rationale": "На рисунке показаны два типа размещения деревьев с конкретными расстояниями (4/10 м и min 6 м). Без внимания к подписям можно перепутать тип или ошибиться в значениях.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-004", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", + "paper_id": "2011.11954", + "year": "2021", + "evidence_kind": "figure", + "page_hint": " p.4, Fig.4", + "creator_prompt": "Сравни, в чём отличие single-plane LiDAR от 9-beam LiDAR по внешнему виду лучей и угловым характеристикам", + "creator_rationale": "Изображение демонстрирует конфигурации сенсоров. Важно правильно извлечь параметры: 270° диапазон, 0.675° разрешение, вертикальный охват 30°. Это критично для моделирования многолучевых сканеров.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-005", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", + "paper_id": "2011.11954", + "year": "2021", + "evidence_kind": "figure", + "page_hint": " p.5, Fig.5", + "creator_prompt": "Сравни описания траектории Zeb1: двойной замкнутый контур, обход вокруг центрального дерева.", + "creator_rationale": "Траектория сложная и влияет на occlusion. Нужно передать форму (два круга разного радиуса) и цель (минимизация затенения). Без этого симуляция потеряет смысл.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-006", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", + "paper_id": "2011.11954", + "year": "2021", + "evidence_kind": "figure", + "page_hint": " p.5, Fig.6", + "creator_prompt": "Сравни три типа траекторий (handheld, mobile, aerial) на одном и том же orchard stand.", + "creator_rationale": "Визуализация позволяет сопоставить покрытие и плотность сканирования. Полезно для тестирования способности модели различать типы движения (наземный, ручной, дрон) по форме пути.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-007", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", + "paper_id": "2011.11954", + "year": "2021", + "evidence_kind": "figure", + "page_hint": " p.6, Fig.7", + "creator_prompt": "Сравни, как правильно определить occluded point (зелёная точка) на схеме сканирования с одной линией.", + "creator_rationale": "Рисунок иллюстрирует механизм возврата первого отражения. Частая ошибка — выбрать ближайшую точку без учёта идентификатора луча. Здесь важно передать правило «только первая в пределах радиуса».", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-008", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", + "paper_id": "2011.11954", + "year": "2021", + "evidence_kind": "figure", + "page_hint": "p.7, Fig 10", + "creator_prompt": "Сравни, как изменяется визуальное качество и структура облака точек при увеличении уровня шума с 0 м до 0.1 м на одной и той же траектории Zeb1.", + "creator_rationale": "На рис. 10 показано два состояния одного дерева: (a) без шума, (b) с шумом 0.1 м. Это классический «до/после». Модели часто не замечают, что шум добавлен к координатам точек, и могут перепутать, какое изображение соответствует какому уровню шума.", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-009", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", + "paper_id": "2011.11954", + "year": "2021", + "evidence_kind": "page", + "page_hint": "p.11", + "creator_prompt": "Опиши последовательность: сначала тренировка модели на симулированных данных SimTreeLS, затем transfer learning на реальных LiDAR-сканах. Что меняется между этапами?", + "creator_rationale": "В разделе 4.3 (Future work) явно сказано: «SimTreeLS shows promising results … for deep learning applications using transfer learning». Это временной процесс – сначала предобучение на виртуальных данных, потом адаптация на реальных. Модели могут упустить причинно-следственную связь или порядок этапов.\n\n", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-010", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", + "paper_id": "2011.11954", + "year": "2021", + "evidence_kind": "figure", + "page_hint": "p.9, Fig 13", + "creator_prompt": "Сравни occlusion profile при смене сенсора с single-beam на 9-beam на одной и той же mobile trajectory (рис. 13). Что произошло с количеством видимых (зелёных) точек?", + "creator_rationale": "На рис. 13 (mobile trajectory) показано, как добавление вертикальных лучей (9-beam) резко снижает occlusion. Это динамика улучшения за счёт изменения сенсора во времени (или в конфигурации). Модели часто игнорируют подпись «9-beam LiDAR» и не связывают изменение сенсора с уменьшением красных (occluded) точек.", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-011", + "enabled": true, + "primary_endpoint": false, + "stratum": "easy_control", + "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", + "paper_id": "2011.11954", + "year": "2021", + "evidence_kind": "table", + "page_hint": " p.8, table.2", + "creator_prompt": "Извлеки значение p-value из t-теста для V-measure (сегментация) в таблице 2.", + "creator_rationale": "В таблице 2 значение p-value для V-measure равно 0.0422. Это простой числовой факт, не требующий анализа динамики. Контрольный пример проверяет, умеет ли модель находить конкретную ячейку в двумерной таблице.", + "review_focus": [ + "overall" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-012", + "enabled": true, + "primary_endpoint": false, + "stratum": "easy_control", + "paper_title": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", + "paper_id": "2011.11954", + "year": "2021", + "evidence_kind": "figure", + "page_hint": " p.3, Fig.3", + "creator_prompt": "Какое минимальное расстояние между деревьями задаётся в forest layout (рис. 3)?", + "creator_rationale": "В подписи к рис. 3 указано: «minimum spacing of 6m». Это статический параметр конфигурации, не зависящий от времени. Пример проверяет способность извлекать явную числовую информацию из текста описания рисунка.\n\n", + "review_focus": [ + "overall" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + } + ] +} \ No newline at end of file diff --git a/source_manifests/fred-westling__4e51465083__task3_ab_case_manifest.template.json b/source_manifests/fred-westling__4e51465083__task3_ab_case_manifest.template.json new file mode 100644 index 0000000000000000000000000000000000000000..41f12dc38d03c8467637a12c020fa091f59a74a3 --- /dev/null +++ b/source_manifests/fred-westling__4e51465083__task3_ab_case_manifest.template.json @@ -0,0 +1,412 @@ +{ + "schema_version": "task3_ab_case_manifest_v1", + "generated_at": "2026-05-07T19:09:49Z", + "experiment_meta": { + "topic": "SimTreeLS: Simulating aerial and terrestrial laser scans of trees", + "submission_id": "fred-westling__4e51465083", + "creator_id": "Fred Westling", + "cutoff_year": "2021", + "review_goal": "Surface VLM differences on multimodal-hard and temporal-hard Task 3 cases." + }, + "strata_targets": { + "multimodal_hard": 7, + "temporal_hard": 3, + "easy_control": 2 + }, + "error_taxonomy": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "needs_time_fix", + "hallucinated_visual_inference" + ], + "cases": [ + { + "case_id": "CASE-001", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-002", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-003", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-004", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-005", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-006", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-007", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-008", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-009", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-010", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-011", + "enabled": true, + "primary_endpoint": false, + "stratum": "easy_control", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "overall" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-012", + "enabled": true, + "primary_endpoint": false, + "stratum": "easy_control", + "paper_title": "", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "", + "creator_prompt": "", + "creator_rationale": "", + "review_focus": [ + "overall" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + } + ] +} \ No newline at end of file diff --git "a/source_manifests/gorbunov-ivan-yurievich__0d769c50eb__0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - \320\230\320\262\320\260\320\275 \320\223\320\276\321\200\320\261\321\203\320\275\320\276\320\262.json" "b/source_manifests/gorbunov-ivan-yurievich__0d769c50eb__0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - \320\230\320\262\320\260\320\275 \320\223\320\276\321\200\320\261\321\203\320\275\320\276\320\262.json" new file mode 100644 index 0000000000000000000000000000000000000000..003ddc267bce309905b720274787426d941308ca --- /dev/null +++ "b/source_manifests/gorbunov-ivan-yurievich__0d769c50eb__0009_gorbunov_ivan_iur_evich__task3_ab_case_manifest.filled - \320\230\320\262\320\260\320\275 \320\223\320\276\321\200\320\261\321\203\320\275\320\276\320\262.json" @@ -0,0 +1,420 @@ +{ + "schema_version": "task3_ab_case_manifest_v1", + "generated_at": "2026-05-03T18:06:33Z", + "experiment_meta": { + "topic": "Superconducting quantum simulators", + "submission_id": "gorbunov-ivan-yurievich__0d769c50eb", + "creator_id": "Gorbunov Ivan Yurievich", + "cutoff_year": "2026", + "review_goal": "Surface VLM differences on multimodal-hard and temporal-hard Task 3 cases." + }, + "strata_targets": { + "multimodal_hard": 7, + "temporal_hard": 3, + "easy_control": 2 + }, + "error_taxonomy": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "needs_time_fix", + "hallucinated_visual_inference" + ], + "cases": [ + { + "case_id": "CASE-001", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", + "paper_id": "arXiv:2405.00873", + "year": "2024", + "evidence_kind": "mixed", + "page_hint": "p.2, Fig.1", + "creator_prompt": "Сравнить, сколько кубитов в процессоре выводят модели, исходя из иллюстрации.", + "creator_rationale": "Baseline VLM может использовать нерелевантный подграфик или неправильно посчитать элементы массива, тогда как tuned VLM должен извлечь точное численное evidence, не спутав кубиты с другими элементами процессора или линиями измерения, и корректно привязать его к figure.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "кубитов трансмонов", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-002", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", + "paper_id": "arXiv:2405.00873", + "year": "2024", + "evidence_kind": "mixed", + "page_hint": "p.3, Fig.2", + "creator_prompt": "Сравните, какой вариант правильно сопоставляет характер изменения заселенности измеряемого кубита со значением магнитного потока через кольцо из кубитов в подграфике a.", + "creator_rationale": "Baseline VLM может неверно интерпретировать цвет графика с нужным кубитом на решетке кубитов слева, тогда как tuned VLM должен сопоставить цвет кубита на решетке слева и цвет графика, а также опознать измеряемый кубит по специальному выделению.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "синтетический магнитный поток", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-003", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", + "paper_id": "arXiv:2405.00873", + "year": "2024", + "evidence_kind": "mixed", + "page_hint": "p.3, Fig.2", + "creator_prompt": "Сравните, какой вариант правильно описывает изменение максимальной заселенности измеряемого кубита при увеличении числа кубитов в кольце в эксперименте по наблюдению интерференции.", + "creator_rationale": "Baseline VLM может выбрать численные симуляции идеальной модели (HH model) для описания изменений заселенности, тогда как tuned VLM должен выбрать шкалу для эксперимента и численных симуляций реального устройства (Actual device) и верно сопоставить с изменением числа кубитов в кольце.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "максимальная заселенность", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-004", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", + "paper_id": "arXiv:2405.00873", + "year": "2024", + "evidence_kind": "mixed", + "page_hint": "p.4, Fig.3", + "creator_prompt": "Сравните, какой вариант правильнее объясняет физическую причину идентичности интерференционных картин на Fig. 3 и корректно связывает это объяснение с одинаковой суммой фаз Пайерлса вдоль одного и того же контура.", + "creator_rationale": "Baseline VLM может сказать, что интерференционные картины разные с количественной точки зрения, тогда как tuned VLM должен согласиться, что интерференционные картины качественно совпадают в связи с тем, что накопленная фаза вдоль одного и того же контура совпадает.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "фаза Пайерлса", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-005", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", + "paper_id": "arXiv:2405.00873", + "year": "2024", + "evidence_kind": "mixed", + "page_hint": "p.5, Fig.4", + "creator_prompt": "Сравните, какой вариант правильно называет номера и положение кубитов в самой решетке 4х4, значение заселенности которых является наименьшим в эксперименте по осцилляциям Блоха.", + "creator_rationale": "Baseline VLM может неправильно сопоставить развертку одномерной цепочки кубитов, тогда как tuned VLM должен верно сопоставить развертку со всей решеткой, а также правильно определить несколько крайних кубитов как наименее заселенные в ходе эксперимента.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "блоховские осцилляции", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-006", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", + "paper_id": "arXiv:2405.00873", + "year": "2024", + "evidence_kind": "mixed", + "page_hint": "p.6, Fig.5", + "creator_prompt": "Сравните, какой вариант правильно объясняет причину искривления графиков в эксперименте/симуляциях реального процессора (Actual device) по сравнению с симуляциями идеальной модели (HH model).", + "creator_rationale": "Baseline VLM может сослаться на просто другую модель, тогда как tuned VLM должен отметить влияние неоднородностей эффективных связей в системе.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "неоднородные эффективные связи", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-007", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", + "paper_id": "arXiv:2405.00873", + "year": "2024", + "evidence_kind": "mixed", + "page_hint": "p.6, Fig.5", + "creator_prompt": "Сравните, какой вариант правильно определяет направление начальной скорости частицы относительно направления электрического поля в эксперименте по наблюдению эффекта Холла.", + "creator_rationale": "Baseline VLM может не понять, что ось x из формулировки в тексте соответствует направлению электрического поля F, тогда как tuned VLM должен это понять.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "эффект Холла", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-008", + "enabled": true, + "primary_endpoint": true, + "stratum": "easy_control", + "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", + "paper_id": "arXiv:2405.00873", + "year": "2024", + "evidence_kind": "formula", + "page_hint": "p.S4, p.S5, Fig.S1", + "creator_prompt": "Сравните, какой вариант правильно определяет закон сдвига основной частоты кубита при наличии параметрической модуляции его энергии.", + "creator_rationale": "Ключевая информация дана явно в формуле или сопровождающем тексте, поэтому baseline и tuned VLM не должны сильно различаться. Он помогает проверить, что tuned VLM выигрывает не просто по стилю, а именно на сложных visual-evidence кейсах", + "review_focus": [ + "overall", + "evidence" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "сдвиг частоты", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-009", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", + "paper_id": "arXiv:2405.00873", + "year": "2024", + "evidence_kind": "figure", + "page_hint": "Fig. 1", + "creator_prompt": "Сравните, какой вариант правильно дает оценку размера кубита по масштабной шкале на подграфике a.", + "creator_rationale": "Baseline VLM может не отдать внимание масштабной шкале, тогда как tuned VLM должен сопоставить ее длину с длиной кубита (грубо, красного креста), использовать подпись 1мм и объяснить это.", + "review_focus": [ + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "шкала масштаба", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-010", + "enabled": true, + "primary_endpoint": true, + "stratum": "easy_control", + "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", + "paper_id": "arXiv:2405.00873", + "year": "2024", + "evidence_kind": "mixed", + "page_hint": "Fig.1, p.2", + "creator_prompt": "Сравните, какой вариант правильно определяет примерное значение максимума подграфика g", + "creator_rationale": "Ключевая информация дана явно в формуле или сопровождающем тексте, поэтому baseline и tuned VLM не должны сильно различаться. Он помогает проверить, что tuned VLM выигрывает не просто по стилю, а именно на сложных visual-evidence кейсах", + "review_focus": [ + "overall", + "evidence" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "эффективная связь", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-011", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", + "paper_id": "arXiv:2405.00873", + "year": "2024", + "evidence_kind": "mixed", + "page_hint": "p.3, Fig.2", + "creator_prompt": "Сравнить, какой вариант правильно оценивает моменты времени наибольшей заселенности при нулевом потоке через решетку для подграфика a.", + "creator_rationale": "Baseline VLM может только описать характер осцилляций, тогда как tuned VLM должен извлечь период осцилляций.", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "интерференция", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-012", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Implementing a Synthetic Magnetic Vector Potential in a 2D Superconducting Qubit Array", + "paper_id": "arXiv:2405.00873", + "year": "2024", + "evidence_kind": "figure", + "page_hint": "Fig.4", + "creator_prompt": "Сравнить, какой вариант правильно оценивает моменты времени нахождения частицы в центре одномерной цепочки для графика численных симуляций блоховский осцилляций для реального девайса (Actual device)", + "creator_rationale": "Baseline VLM может только описать характер осцилляций, тогда как tuned VLM должен извлечь период осцилляций.", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "осцилляции Блоха", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + } + ] +} \ No newline at end of file diff --git "a/source_manifests/semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427__0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - \320\230\320\262\320\260\320\275 \320\241\320\265\320\274\320\270\320\264\320\265\321\202\320\275\320\276\320\262.json" "b/source_manifests/semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427__0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - \320\230\320\262\320\260\320\275 \320\241\320\265\320\274\320\270\320\264\320\265\321\202\320\275\320\276\320\262.json" new file mode 100644 index 0000000000000000000000000000000000000000..7e603fc801ddd720bbb184882a874c70900baf45 --- /dev/null +++ "b/source_manifests/semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427__0004_semidetnov_ivan_sergeevich__task3_ab_case_manifest_cardiac_doi_set.filled - \320\230\320\262\320\260\320\275 \320\241\320\265\320\274\320\270\320\264\320\265\321\202\320\275\320\276\320\262.json" @@ -0,0 +1,413 @@ +{ + "schema_version": "task3_ab_case_manifest_v1", + "generated_at": "2026-04-27T18:45:00Z", + "experiment_meta": { + "topic": "Cardiac tissue electrophysiology, optical mapping, fibrosis, microreentry, hiPSC-derived cardiomyocytes and in silico safety models", + "submission_id": "semidetnov-ivan__cardiac-electrophysiology-doi-set__20260427", + "creator_id": "Семидетнов Иван", + "cutoff_year": "2025", + "review_goal": "Собрать 12 диагностических A/B кейсов по заданным DOI, где различия baseline VLM vs SFT/DPO VLM видны в multimodal evidence extraction, evidence linkage и temporal grounding на фигурах, таблицах, формулах, схемах и time-resolved evidence." + }, + "strata_targets": { + "multimodal_hard": 7, + "temporal_hard": 3, + "easy_control": 2 + }, + "error_taxonomy": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "needs_time_fix", + "hallucinated_visual_inference" + ], + "cases": [ + { + "case_id": "CASE-001", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", + "paper_id": "doi:10.1371/journal.pcbi.1006597", + "year": "2019", + "evidence_kind": "figure", + "page_hint": "Fig. 1: activation map, blocked regions, main propagation pathways, velocity decay and percolation threshold", + "creator_prompt": "Сравните, какой вариант лучше считывает Fig. 1: где находятся блоки проведения, по каким узким путям распространяется волна, как меняется velocity при росте доли non-conducting cells и какой percolation threshold указан на графике.", + "creator_rationale": "Кейс диагностический, потому что ключевые факты одновременно визуальные и количественные: baseline может заметить общий тренд fibrosis → slower conduction, но потерять красные зоны блоков, стрелки путей, долю non-conducting cells и численную границу percolation.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "doi:10.1371/journal.pcbi.1006597|Fig1|activation-map-percolation", + "candidate_source_contains": "activation map", + "candidate_predicate_contains": "percolation threshold", + "candidate_target_contains": "75 ± 2%", + "hypothesis_title_contains": "conducting pathways", + "premise_contains": "66% of non-conducting cells", + "mechanism_contains": "branching network", + "time_scope_contains": "activation times", + "rank_hint": "1" + }, + "notes": "Использовать как сильный multimodal_hard кейс: акцент на визуальные маркеры карты активации и точную численную связь с графиком velocity." + }, + { + "case_id": "CASE-002", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", + "paper_id": "doi:10.1371/journal.pcbi.1006597", + "year": "2019", + "evidence_kind": "figure_or_table", + "page_hint": "Fig. 6 and Table 1: virtual monolayers, E bond conditions, velocity vs density, percolation threshold", + "creator_prompt": "Сравните, какой вариант лучше связывает Fig. 6 с параметрами модели: различает orange/blue условия cytoskeleton alignment, не путает simulated fibroblast density с experimental fraction и корректно переносит threshold/velocity evidence.", + "creator_rationale": "Это hard-case на evidence linkage: модель должна не просто пересказать, что симуляция похожа на эксперимент, а удержать соответствие между цветами кривых, E bond, плотностью fibroblasts и вероятностью проводимости.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "doi:10.1371/journal.pcbi.1006597|Fig6|virtual-monolayers", + "candidate_source_contains": "virtual cardiac monolayers", + "candidate_predicate_contains": "velocity as a function", + "candidate_target_contains": "non-conducting cells", + "hypothesis_title_contains": "wave propagation", + "premise_contains": "E bond", + "mechanism_contains": "cytoskeleton alignment", + "time_scope_contains": "samples starting from 71%", + "rank_hint": "2" + }, + "notes": "Проверяет перенос визуальных условных обозначений и параметров модели из figure/table evidence." + }, + { + "case_id": "CASE-003", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Simulation of the differential adhesion driven rearrangement of biological cells", + "paper_id": "doi:10.1103/PhysRevE.47.2128", + "year": "1993", + "evidence_kind": "figure_or_table", + "page_hint": "Simulation snapshots and parameter tables for differential adhesion / extended Potts model", + "creator_prompt": "Сравните, какой вариант лучше извлекает из визуализаций cell sorting, какие клеточные типы перераспределяются, как differential adhesion задаёт rearrangement, и не превращает Potts-model evidence в общий текст про миграцию клеток.", + "creator_rationale": "Кейс важен как foundation-модель: baseline часто подменяет визуальные snapshots и параметры адгезии общим выводом, тогда как tuned VLM должен привязать observed rearrangement к механизму differential adhesion и настройкам модели.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "doi:10.1103/PhysRevE.47.2128|cell-sorting|Potts-model", + "candidate_source_contains": "differential adhesion", + "candidate_predicate_contains": "rearrangement", + "candidate_target_contains": "biological cells", + "hypothesis_title_contains": "extended Potts model", + "premise_contains": "cell sorting", + "mechanism_contains": "adhesion", + "time_scope_contains": "simulation snapshots", + "rank_hint": "1" + }, + "notes": "Хороший визуальный кейс на связь model parameters → emergent cell arrangement." + }, + { + "case_id": "CASE-004", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "A model for human ventricular tissue", + "paper_id": "doi:10.1152/ajpheart.00794.2003", + "year": "2004", + "evidence_kind": "formula", + "page_hint": "Model equations / current definitions / AP trace and restitution-style figures", + "creator_prompt": "Сравните, какой вариант лучше восстанавливает структуру human ventricular tissue model: какие ионные токи и переменные входят в формулы, какие параметры относятся к single-cell AP, а какие — к tissue propagation, без добавления несуществующих channels.", + "creator_rationale": "Это symbolic/multimodal case: ключевой факт может находиться в формулах, таблицах параметров и графиках AP. Ошибка baseline обычно не в общей теме, а в неверной привязке переменных к току, ткани или временному масштабу.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "wrong_evidence_linkage", + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "doi:10.1152/ajpheart.00794.2003|human-ventricular-model|equations", + "candidate_source_contains": "human ventricular tissue", + "candidate_predicate_contains": "mathematical model", + "candidate_target_contains": "action potential", + "hypothesis_title_contains": "A model for human ventricular tissue", + "premise_contains": "ion currents", + "mechanism_contains": "electrophysiological model", + "time_scope_contains": "action potential duration", + "rank_hint": "1" + }, + "notes": "Оценивать не биофизическую полноту ответа, а аккуратность extraction from equations/figures/tables." + }, + { + "case_id": "CASE-005", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Optical Imaging of the Heart", + "paper_id": "doi:10.1161/01.RES.0000130529.18016.35", + "year": "2004", + "evidence_kind": "mixed", + "page_hint": "Review figures/tables on optical mapping, voltage-sensitive dyes, activation and repolarization maps", + "creator_prompt": "Сравните, какой вариант лучше переносит из схем и таблиц optical imaging pipeline: что именно измеряется оптическим сигналом, где activation map отличается от repolarization map, и какие ограничения относятся к dye/motion artifact, а не к electrophysiology как таковой.", + "creator_rationale": "Кейс диагностический, потому что в обзоре много визуальных схем и табличных сравнений; baseline может смешать optical mapping, ECG и patch-clamp, а tuned VLM должен удержать modality-specific evidence linkage.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "doi:10.1161/01.RES.0000130529.18016.35|optical-imaging|maps", + "candidate_source_contains": "Optical Imaging", + "candidate_predicate_contains": "activation map", + "candidate_target_contains": "repolarization map", + "hypothesis_title_contains": "Optical Imaging of the Heart", + "premise_contains": "voltage-sensitive dyes", + "mechanism_contains": "optical mapping", + "time_scope_contains": "action potentials", + "rank_hint": "2" + }, + "notes": "Проверяет способность VLM различать типы карт и экспериментальные ограничения по визуальным/табличным evidence." + }, + { + "case_id": "CASE-006", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Modeling the functional heterogeneity and conditions for the occurrence of microreentry in procedurally created atrial fibrous tissue", + "paper_id": "doi:10.1063/5.0151624", + "year": "2023", + "evidence_kind": "figure_or_table", + "page_hint": "Figures/tables with procedurally created atrial fibrous tissue, heterogeneity settings and microreentry conditions", + "creator_prompt": "Сравните, какой вариант лучше извлекает из схем и карт модели, при каких параметрах fibrous tissue возникает microreentry: геометрия, conduction heterogeneity, obstacle/fibrosis pattern и условия устойчивого reentry не должны смешиваться в один общий фактор.", + "creator_rationale": "Это сильный multimodal_hard кейс на условные карты и parameter-condition linkage: baseline часто говорит 'fibrosis causes reentry', но не отделяет geometry, heterogeneity и threshold-like conditions, показанные в figures/tables.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "doi:10.1063/5.0151624|microreentry|atrial-fibrous-tissue", + "candidate_source_contains": "atrial fibrous tissue", + "candidate_predicate_contains": "microreentry", + "candidate_target_contains": "functional heterogeneity", + "hypothesis_title_contains": "conditions for the occurrence", + "premise_contains": "procedurally created", + "mechanism_contains": "conduction heterogeneity", + "time_scope_contains": "reentry initiation", + "rank_hint": "1" + }, + "notes": "Подходит для сравнения моделей на phase/map-like evidence и причинной привязке условий." + }, + { + "case_id": "CASE-007", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models", + "paper_id": "doi:10.1007/s12012-025-09987-1", + "year": "2025", + "evidence_kind": "mixed", + "page_hint": "Workflow figures/tables linking hiPSC-CM readouts, 2D in silico model outputs and toxicity endpoints", + "creator_prompt": "Сравните, какой вариант лучше связывает workflow evidence: какие данные приходят из hiPSC-derived cardiomyocytes, какие — из 2D in silico model, и где именно формируется вывод о cardiovascular toxicity / proarrhythmic risk.", + "creator_rationale": "Кейс нужен как современный integration-case: baseline может свести всё к 'iPSC-CM improves screening', но diagnostic signal — в правильной связи между experimental readouts, model layers and toxicity endpoint.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "wrong_evidence_linkage", + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "doi:10.1007/s12012-025-09987-1|hiPSC-CM|2D-in-silico", + "candidate_source_contains": "iPSC-Derived Cardiomyocytes", + "candidate_predicate_contains": "integrating", + "candidate_target_contains": "2D In Silico Models", + "hypothesis_title_contains": "Advanced Cardiovascular Toxicity Screening", + "premise_contains": "cardiac safety screening", + "mechanism_contains": "proarrhythmic risk", + "time_scope_contains": "drug exposure", + "rank_hint": "1" + }, + "notes": "Использовать для проверки extraction из workflow figure/table и корректной роли каждой modality." + }, + { + "case_id": "CASE-008", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Self-organization of conducting pathways explains electrical wave propagation in cardiac tissues with high fraction of non-conducting cells", + "paper_id": "doi:10.1371/journal.pcbi.1006597", + "year": "2019", + "evidence_kind": "figure", + "page_hint": "Fig. 1a and S1 Video: activation times, repeated blocks, delayed propagation into left/right regions", + "creator_prompt": "Сравните, какой вариант лучше удерживает temporal ordering в activation map/video: от точки стимуляции волна сначала расходится, затем блокируется, после задержки идёт в left/right regions и снова фракционируется, а не описывается как статическая сеть проводимости.", + "creator_rationale": "Temporal-hard сигнал здесь в последовательности событий. Модель должна отличать пространственный путь от временного порядка activation times и не схлопывать delay/block/further propagation в один неподвижный факт.", + "review_focus": [ + "temporal", + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "needs_time_fix", + "missed_visual_fact" + ], + "match": { + "candidate_signature": "doi:10.1371/journal.pcbi.1006597|Fig1a|temporal-activation", + "candidate_source_contains": "activation times", + "candidate_predicate_contains": "after a short delay", + "candidate_target_contains": "left and right parts", + "hypothesis_title_contains": "wave propagation", + "premise_contains": "stimulation point", + "mechanism_contains": "conduction blocks", + "time_scope_contains": "initially; after a short delay; repeats", + "rank_hint": "1" + }, + "notes": "Основной temporal_hard кейс: важна последовательность propagation/block/re-propagation, а не только факт проводимости." + }, + { + "case_id": "CASE-009", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "A model for human ventricular tissue", + "paper_id": "doi:10.1152/ajpheart.00794.2003", + "year": "2004", + "evidence_kind": "figure_or_table", + "page_hint": "AP traces / restitution curves / time-dependent gating variables in model outputs", + "creator_prompt": "Сравните, какой вариант лучше различает быстрые изменения мембранного потенциала, динамику gating variables и более медленные изменения APD/restitution в human ventricular tissue model, не смешивая временные масштабы single-cell and tissue outputs.", + "creator_rationale": "Кейс диагностирует temporal grounding на графиках и формулах: baseline может правильно назвать action potential, но перепутать раннюю depolarization, plateau/repolarization и tissue-level propagation или restitution timing.", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "doi:10.1152/ajpheart.00794.2003|AP-trace|temporal-scales", + "candidate_source_contains": "action potential", + "candidate_predicate_contains": "time-dependent", + "candidate_target_contains": "gating variables", + "hypothesis_title_contains": "human ventricular tissue", + "premise_contains": "restitution", + "mechanism_contains": "ion currents", + "time_scope_contains": "depolarization plateau repolarization", + "rank_hint": "2" + }, + "notes": "Оценивать правильную temporal decomposition, а не численное моделирование." + }, + { + "case_id": "CASE-010", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Advanced Cardiovascular Toxicity Screening: Integrating Human iPSC-Derived Cardiomyocytes with 2D In Silico Models", + "paper_id": "doi:10.1007/s12012-025-09987-1", + "year": "2025", + "evidence_kind": "mixed", + "page_hint": "Drug exposure / screening workflow / model-output sequence across experimental and in silico layers", + "creator_prompt": "Сравните, какой вариант лучше удерживает порядок: сначала experimental hiPSC-CM readouts, затем parameter/model integration, затем 2D tissue-level prediction and toxicity interpretation; ответ не должен превращать pipeline в один одномоментный вывод.", + "creator_rationale": "Temporal-hard аспект — это порядок evidence generation. Baseline может верно назвать компоненты pipeline, но перепутать, какие данные являются input, какие intermediate, а какие endpoint.", + "review_focus": [ + "temporal", + "evidence" + ], + "expected_error_modes": [ + "needs_time_fix", + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "doi:10.1007/s12012-025-09987-1|workflow|temporal-pipeline", + "candidate_source_contains": "cardiovascular toxicity screening", + "candidate_predicate_contains": "integrating", + "candidate_target_contains": "2D in silico models", + "hypothesis_title_contains": "Advanced Cardiovascular Toxicity Screening", + "premise_contains": "hiPSC-CM", + "mechanism_contains": "model integration", + "time_scope_contains": "input intermediate endpoint", + "rank_hint": "1" + }, + "notes": "Temporal case на causal/processing order внутри workflow figure." + }, + { + "case_id": "CASE-011", + "enabled": true, + "primary_endpoint": false, + "stratum": "easy_control", + "paper_title": "Basic Mechanisms of Cardiac Impulse Propagation and Associated Arrhythmias", + "paper_id": "doi:10.1152/physrev.00025.2003", + "year": "2004", + "evidence_kind": "page", + "page_hint": "Abstract / introduction-level review summary", + "creator_prompt": "Сравните, какой вариант точнее передаёт общий тезис обзора: как generation and propagation of cardiac action potentials связаны с arrhythmia mechanisms, без необходимости извлекать сложные значения из figure/table.", + "creator_rationale": "Это easy_control: участник должен оценивать summary-level understanding. Если модель проваливается здесь, это общий quality failure, а не специфический multimodal/temporal дефицит.", + "review_focus": [ + "overall" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "doi:10.1152/physrev.00025.2003|review-control", + "candidate_source_contains": "cardiac impulse propagation", + "candidate_predicate_contains": "associated arrhythmias", + "candidate_target_contains": "action potential", + "hypothesis_title_contains": "Basic Mechanisms", + "premise_contains": "cardiac electrophysiology", + "mechanism_contains": "propagation", + "time_scope_contains": "", + "rank_hint": "5" + }, + "notes": "Простой контроль на корректный обзорный summary." + }, + { + "case_id": "CASE-012", + "enabled": true, + "primary_endpoint": false, + "stratum": "easy_control", + "paper_title": "Optical Imaging of the Heart", + "paper_id": "doi:10.1161/01.RES.0000130529.18016.35", + "year": "2004", + "evidence_kind": "page", + "page_hint": "Abstract / review overview of optical techniques in cardiac electrophysiology", + "creator_prompt": "Сравните, какой вариант лучше формулирует основную роль optical imaging in cardiac electrophysiology: какие вопросы оно помогает изучать и почему это не просто обычная видеозапись сердца.", + "creator_rationale": "Контрольный кейс на общий смысл статьи. Здесь не требуется детальная привязка к конкретной карте или таблице, поэтому он помогает отделить hard-case failures от общего непонимания темы.", + "review_focus": [ + "overall" + ], + "expected_error_modes": [], + "match": { + "candidate_signature": "doi:10.1161/01.RES.0000130529.18016.35|optical-imaging-control", + "candidate_source_contains": "Optical Imaging of the Heart", + "candidate_predicate_contains": "optical techniques", + "candidate_target_contains": "cardiac electrophysiology", + "hypothesis_title_contains": "Optical Imaging", + "premise_contains": "review", + "mechanism_contains": "optical mapping", + "time_scope_contains": "", + "rank_hint": "4" + }, + "notes": "Второй easy_control для стабильного сравнения ответов на простом обзорном материале." + } + ] +} \ No newline at end of file diff --git "a/source_manifests/vasin_artem_aleksandrovich__0cf7f9ceca__0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - \320\220\321\200\321\202\320\265\320\274 \320\222\320\260\321\201\320\270\320\275.json" "b/source_manifests/vasin_artem_aleksandrovich__0cf7f9ceca__0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - \320\220\321\200\321\202\320\265\320\274 \320\222\320\260\321\201\320\270\320\275.json" new file mode 100644 index 0000000000000000000000000000000000000000..22ba50629f46be511ddb1d095aa8f9e05c383749 --- /dev/null +++ "b/source_manifests/vasin_artem_aleksandrovich__0cf7f9ceca__0011_vasin_artem_aleksandrovich__task3_ab_case_manifest.filled - \320\220\321\200\321\202\320\265\320\274 \320\222\320\260\321\201\320\270\320\275.json" @@ -0,0 +1,409 @@ +{ + "schema_version": "task3_ab_case_manifest_v1", + "generated_at": "2026-05-08T11:23:40Z", + "experiment_meta": { + "topic": "Adaptive gradient optimization methods for training LLM", + "submission_id": "vasin_artem_aleksandrovich__0cf7f9ceca", + "creator_id": "Артем Васин Александрович", + "cutoff_year": "2026", + "review_goal": "Surface VLM differences on multimodal-hard and temporal-hard Task 3 cases." + }, + "strata_targets": { + "multimodal_hard": 7, + "temporal_hard": 3, + "easy_control": 2 + }, + "error_taxonomy": [ + "missed_visual_fact", + "wrong_evidence_linkage", + "needs_time_fix", + "hallucinated_visual_inference" + ], + "cases": [ + { + "case_id": "CASE-001", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "MARS: Unleashing the Power of Variance Reduction for Training Large Models", + "paper_id": "arxiv:2411.10438", + "year": "2024", + "evidence_kind": "figure_or_table", + "page_hint": "fig. 2, Tab. 1,", + "creator_prompt": "Выявить, в какой из задач GPT-2 (Рис. 2) MARS дает наибольший относительный выигрыш в perplexity по сравнению с AdamW, и не перепутать его с табличными результатами ImageNet (Таб. 1).", + "creator_rationale": "Ключевой факт преимущества MARS разнесен по нескольким рисункам с кривыми обучения и таблицам с числовыми значениями. Базовая модель может упустить визуальный тренд или неверно привязать выигрыш к конкретной задаче.", + "review_focus": [ + "evidence", + "visual_fact", + "overall" + ], + "expected_error_modes": [ + "missed_visual_fact" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "MARS vs AdamW advantage", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-002", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "The AdEMAMix Optimizer: Better, Faster, Older", + "paper_id": "arxiv:2409.03137", + "year": "2024", + "evidence_kind": "figure_or_table", + "page_hint": "fig. 2, 3, 6, Tab. 2", + "creator_prompt": "Найти на Рис. 6 сравнение AdEMAMix и AdamW по скорости забывания (forgetting) и определить, на каком количестве токенов преимущество становится явным.", + "creator_rationale": "График демонстрирует динамический процесс (забывание со временем). Ключевой факт — это форма кривых и точка их расхождения, что требует анализа тренда, а не изолированного значения.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "AdEMAMix forgetting curve", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-003", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "AdaRankGrad: Adaptive Gradient-Rank and Moments for Memory-Efficient LLMs Training and Fine-Tuning", + "paper_id": "arxiv:2410.17881", + "year": "2024", + "evidence_kind": "figure_or_table", + "page_hint": "fig. 3, Tab. 2", + "creator_prompt": "Сравнить значения точности и потребления памяти GPU для GPT-2 из Таблицы 2 при full fine-tuning, LoRA и AdaRankGrad.", + "creator_rationale": "Таблица содержит конкурирующие числовые метрики. Базовая модель может пропустить числовой факт или неверно интерпретировать trade-off между точностью и памятью.", + "review_focus": [ + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "GPU memory vs accuracy trade-off", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-004", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "A Self-Attentive Meta-Optimizer with Group-Adaptive Learning Rates and Weight Decay", + "paper_id": "arxiv:2605.04055", + "year": "2026", + "evidence_kind": "figure_or_table", + "page_hint": "fig. 2, 3, Tab. 3, 4", + "creator_prompt": "Определить по Рис. 3, на какой задаче (языковое моделирование, машинный перевод, классификация) MetaAdamW показывает максимальное и минимальное ускорение сходимости относительно AdamW.", + "creator_rationale": "На рисунке совмещены кривые сходимости для разных задач. Требуется сравнить визуальные тренды и сделать вывод о вариативности преимущества.", + "review_focus": [ + "evidence", + "visual_fact", + "overall" + ], + "expected_error_modes": [ + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "MetaAdamW convergence speed", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-005", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Adaptive Gradient Methods at the Edge of Stability", + "paper_id": "arxiv:2404.01864", + "year": "2024", + "evidence_kind": "figure", + "page_hint": "fig. 1, 3, 6, 7", + "creator_prompt": "Проанализировать Рис. 7 (SGD vs. Adam на CIFAR-10) и описать, как меняется ландшафт потерь (loss landscape) в процессе обучения у Adam.", + "creator_rationale": "Рисунок визуализирует эволюцию ландшафта — сложный визуальный паттерн. Ключевой факт — это изменение характеристик шума и формы поверхности, а не одно конкретное значение.", + "review_focus": [ + "visual_fact", + "temporal" + ], + "expected_error_modes": [ + "missed_visual_fact" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "CIFAR-10 loss landscape", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-006", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Revisiting the Initial Steps in Adaptive Gradient Descent Optimization", + "paper_id": "arxiv:2412.00374", + "year": "2024", + "evidence_kind": "figure", + "page_hint": "fig. 1, 2, 3", + "creator_prompt": "По Рис. 2 и 3 определить, как разная инициализация второго момента (data-driven vs random) в Adam влияет на стабильность потерь на ранних итерациях обучения Transformer.", + "creator_rationale": "Графики loss на ранней стадии обучения (первые 1000 шагов) содержат ключевую информацию о стабильности, которая может быть упущена при беглом взгляде.", + "review_focus": [ + "evidence", + "visual_fact", + "temporal" + ], + "expected_error_modes": [ + "missed_visual_fact" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "first 1000 iterations loss", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-007", + "enabled": true, + "primary_endpoint": true, + "stratum": "multimodal_hard", + "paper_title": "Adaptive Gradient Methods at the Edge of Stability", + "paper_id": "arxiv:2404.01714", + "year": "2025", + "evidence_kind": "figure", + "page_hint": "Fig. 1, 2, 3, 4, 5, 6, 7, 8", + "creator_prompt": "Определить по совокупности рисунков 1–8, какие архитектуры и датасеты дают CG-like-Adam наибольшее преимущество перед Adam в точности и скорости сходимости", + "creator_rationale": "Статья содержит 13 рисунков — кривые обучения, сравнение точности и визуализацию градиентов. Ключевые факты разбросаны по разным задачам (CIFAR-10/100) и требуют сопоставления визуальной информации из нескольких экспериментов.", + "review_focus": [ + "evidence", + "visual_fact", + "temporal" + ], + "expected_error_modes": [ + "missed_visual_fact" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "CIFAR-10/100 experiments", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-008", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Interpreting Adaptive Gradient Methods by Parameter Scaling for Learning-Rate-Free Optimization", + "paper_id": "", + "year": "", + "evidence_kind": "figure_or_table", + "page_hint": "Table 1, 2, Fig. 1", + "creator_prompt": "По рис. 1 объяснить, как меняется масштаб параметров (parameter scaling) в процессе обучения нейронной сети и как это связано с адаптивностью градиентного метода.", + "creator_rationale": "График демонстрирует фазовый переход в масштабировании параметров. Ключевой факт — изменение характера тренда, которое требует временного анализа.", + "review_focus": [ + "temporal" + ], + "expected_error_modes": [ + "hallucinated_visual_inference" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "adaptive scaling behavior", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-009", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Towards Simple and Provable Parameter-Free Adaptive Gradient Methods", + "paper_id": "arxiv:2412.19444", + "year": "2024", + "evidence_kind": "figure", + "page_hint": "Fig. 1, 2", + "creator_prompt": "По рис. 1, 2 сравнить траектории нормы градиента у предложенных AdaGrad++ и Adam++ с их оригинальными версиями на задаче логистической регрессии и ResNet-18.", + "creator_rationale": "Ключевой факт — сравнение кривых сходимости. Без внимания к легенде и масштабу осей можно сделать неверный вывод о том, какой метод лучше сходится.", + "review_focus": [ + "temporal", + "evidence", + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "AdaGrad++ vs Adam++ comparison", + "premise_contains": "", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-010", + "enabled": true, + "primary_endpoint": true, + "stratum": "temporal_hard", + "paper_title": "Can We Remove the Square-Root in Adaptive Gradient Methods? A Second-Order Perspective", + "paper_id": "arxiv:2402.03496", + "year": "2024", + "evidence_kind": "figure_or_table", + "page_hint": "Tab. 1, Fig.1, 2", + "creator_prompt": "В таблице 1 сравнить результаты AdamW и метода без квадратного корня (NoSqrt) на задаче LRA и объяснить, какая задача является исключением из общего правила.", + "creator_rationale": "Таблица содержит компактные, легко поддающиеся количественной оценке данные. Кейс является контрольным, так как задача сводится к простому извлечению и сравнению чисел из таблицы.", + "review_focus": [ + "evidence" + ], + "expected_error_modes": [ + "wrong_evidence_linkage" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "LRA task results", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-011", + "enabled": true, + "primary_endpoint": false, + "stratum": "easy_control", + "paper_title": "Optimization Methods in Deep Learning: A Comprehensive Overview", + "paper_id": "arxiv:2305.16432", + "year": "2023", + "evidence_kind": "figure_or_table", + "page_hint": "Tab. 1,2, Fig. 2, 5", + "creator_prompt": "Найти в таблицах 1 и 2 все упомянутые методы оптимизации и сгруппировать их по категориям (адаптивные и неадаптивные).", + "creator_rationale": "Задача на простое извлечение и категоризацию информации из таблицы в обзорной статье. Не требует анализа трендов или визуальной интерпретации.", + "review_focus": [ + "evidence" + ], + "expected_error_modes": [ + "missed_visual_fact" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "taxonomy of optimizers", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + }, + { + "case_id": "CASE-012", + "enabled": true, + "primary_endpoint": false, + "stratum": "easy_control", + "paper_title": "A Survey of Advanced Gradient Methods in Machine Learning", + "paper_id": "arxiv:2412.04032", + "year": "2024", + "evidence_kind": "figure", + "page_hint": "Fig. 1", + "creator_prompt": "По схематичному рис. 1 перечислить ключевые этапы эволюции градиентных методов, затронутые в обзоре.", + "creator_rationale": "Ключевая информация представлена в виде блок-схемы. Задача — извлечь последовательность фактов из визуального паттерна, что является базовым навыком.", + "review_focus": [ + "visual_fact" + ], + "expected_error_modes": [ + "missed_visual_fact" + ], + "match": { + "candidate_signature": "", + "candidate_source_contains": "", + "candidate_predicate_contains": "", + "candidate_target_contains": "", + "hypothesis_title_contains": "", + "premise_contains": "evolution block diagram", + "mechanism_contains": "", + "time_scope_contains": "", + "rank_hint": "" + }, + "notes": "" + } + ] +} \ No newline at end of file