Duplicate from MERA-evaluation/UniScienceVQA

Co-authored-by: MERA <MERA-evaluation@users.noreply.huggingface.co>

.gitattributes

@@ -0,0 +1,59 @@
+*.7z filter=lfs diff=lfs merge=lfs -text
+*.arrow filter=lfs diff=lfs merge=lfs -text
+*.bin filter=lfs diff=lfs merge=lfs -text
+*.bz2 filter=lfs diff=lfs merge=lfs -text
+*.ckpt filter=lfs diff=lfs merge=lfs -text
+*.ftz filter=lfs diff=lfs merge=lfs -text
+*.gz filter=lfs diff=lfs merge=lfs -text
+*.h5 filter=lfs diff=lfs merge=lfs -text
+*.joblib filter=lfs diff=lfs merge=lfs -text
+*.lfs.* filter=lfs diff=lfs merge=lfs -text
+*.lz4 filter=lfs diff=lfs merge=lfs -text
+*.mds filter=lfs diff=lfs merge=lfs -text
+*.mlmodel filter=lfs diff=lfs merge=lfs -text
+*.model filter=lfs diff=lfs merge=lfs -text
+*.msgpack filter=lfs diff=lfs merge=lfs -text
+*.npy filter=lfs diff=lfs merge=lfs -text
+*.npz filter=lfs diff=lfs merge=lfs -text
+*.onnx filter=lfs diff=lfs merge=lfs -text
+*.ot filter=lfs diff=lfs merge=lfs -text
+*.parquet filter=lfs diff=lfs merge=lfs -text
+*.pb filter=lfs diff=lfs merge=lfs -text
+*.pickle filter=lfs diff=lfs merge=lfs -text
+*.pkl filter=lfs diff=lfs merge=lfs -text
+*.pt filter=lfs diff=lfs merge=lfs -text
+*.pth filter=lfs diff=lfs merge=lfs -text
+*.rar filter=lfs diff=lfs merge=lfs -text
+*.safetensors filter=lfs diff=lfs merge=lfs -text
+saved_model/**/* filter=lfs diff=lfs merge=lfs -text
+*.tar.* filter=lfs diff=lfs merge=lfs -text
+*.tar filter=lfs diff=lfs merge=lfs -text
+*.tflite filter=lfs diff=lfs merge=lfs -text
+*.tgz filter=lfs diff=lfs merge=lfs -text
+*.wasm filter=lfs diff=lfs merge=lfs -text
+*.xz filter=lfs diff=lfs merge=lfs -text
+*.zip filter=lfs diff=lfs merge=lfs -text
+*.zst filter=lfs diff=lfs merge=lfs -text
+*tfevents* filter=lfs diff=lfs merge=lfs -text
+# Audio files - uncompressed
+*.pcm filter=lfs diff=lfs merge=lfs -text
+*.sam filter=lfs diff=lfs merge=lfs -text
+*.raw filter=lfs diff=lfs merge=lfs -text
+# Audio files - compressed
+*.aac filter=lfs diff=lfs merge=lfs -text
+*.flac filter=lfs diff=lfs merge=lfs -text
+*.mp3 filter=lfs diff=lfs merge=lfs -text
+*.ogg filter=lfs diff=lfs merge=lfs -text
+*.wav filter=lfs diff=lfs merge=lfs -text
+# Image files - uncompressed
+*.bmp filter=lfs diff=lfs merge=lfs -text
+*.gif filter=lfs diff=lfs merge=lfs -text
+*.png filter=lfs diff=lfs merge=lfs -text
+*.tiff filter=lfs diff=lfs merge=lfs -text
+# Image files - compressed
+*.jpg filter=lfs diff=lfs merge=lfs -text
+*.jpeg filter=lfs diff=lfs merge=lfs -text
+*.webp filter=lfs diff=lfs merge=lfs -text
+# Video files - compressed
+*.mp4 filter=lfs diff=lfs merge=lfs -text
+*.webm filter=lfs diff=lfs merge=lfs -text

Applied_Sciences/shots-00000-of-00001.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:836cbd6b5b2fc4415bcaf7f560818cf0daf9715b60d11b71500852a076356229
+size 93813588

Applied_Sciences/test-00000-of-00002.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:d6198d0e6fc273dace4eb1df98c4097f62346cecee0c364d64e654b6a8a9a2ce
+size 282437408

Applied_Sciences/test-00001-of-00002.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:a415de2cda63ea352a3da2d2336140639e5260da537f638dd9a747ac3f0500d7
+size 385164643

Business/shots-00000-of-00001.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:cfd48e8ab9fb997f9e2b064e40bf4c72c8e66b0324cd4c338b39f9f943da4cf9
+size 45939242

Business/test-00000-of-00001.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:b5baef70dd46fbf210c00d8ff7d31dbfe71f6c7a079facceac4cbbddc453b54c
+size 307362747

Cultural_Studies/shots-00000-of-00002.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:a82e012ff190e949617787819f882ea923cf94a45fd521180dc6e0085e4ea06d
+size 186744440

Cultural_Studies/shots-00001-of-00002.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:22e22df7a6c653fcf194b4b28fb2ab833e376a4db11806fdb133ad986a6810ef
+size 302578402

Cultural_Studies/test-00000-of-00007.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:f1a48337bbca2784b0a9c0e93975c49025f6bb9b2bb66c655004774b44aeeb03
+size 215227650

Cultural_Studies/test-00001-of-00007.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:359c5aac17dc5da04f9e3f45b54c8e37bb28bc1579e9454170d675b90d3e4a50
+size 153005639

Cultural_Studies/test-00002-of-00007.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:3ea7e81d3fb51ecf9c234378ddee4e44e96175f95b3f904f11ab422ca924d670
+size 722446725

Cultural_Studies/test-00003-of-00007.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:2088b71537577f063ff3832b684f8c785ad1b31df6073a898508ee8ce5c9cec3
+size 372325168

Cultural_Studies/test-00004-of-00007.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:222b8cc910f139decad35c786cd7b3ab835ab237070714069ef9071e3378a80e
+size 453962488

Cultural_Studies/test-00005-of-00007.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:137477ae93f1eaf158e9ee4c3f4d71c82d61efa6715b6e7dc890aac6bdb1bb09
+size 757566221

Cultural_Studies/test-00006-of-00007.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:ae2fe69a371d3b2edc7b4a043091d985a3b4d1efd61905910f1fd949e70e68d0
+size 402716182

Fundamental_Sciences/shots-00000-of-00001.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:af800de0435f2042bef8db85591a445c1b23f831992b5282247bcc0ddaf61a1e
+size 366021844

Fundamental_Sciences/test-00000-of-00006.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:29109746ba5c98fdd2a3bccbc8ce966967ee5ecb7ee3c100f907e23d1aa14724
+size 327666867

Fundamental_Sciences/test-00001-of-00006.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:e39d923befe8e7acd9b81b7ec870a9adb8c6665302c2f712d9d6e7a5e4bf89a6
+size 312406625

Fundamental_Sciences/test-00002-of-00006.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:85fa1bbb79b0bcd6892109e95809c3105ac8edd13f4e9e6f34cc039b3b273873
+size 521031922

Fundamental_Sciences/test-00003-of-00006.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:fd3ed0653883d18413ed5eb57cd2f4dd97344e12556a0e397cf0da3f369c1440
+size 259735347

Fundamental_Sciences/test-00004-of-00006.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:8810d481737f3a18278d4dfae98bf26032f77e9b8ebdc5047c1c085807947407
+size 414683269

Fundamental_Sciences/test-00005-of-00006.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:7c0124c5dfafa7ff9d80935925f662a51be8e0a24923fe5e50149ab9210ccc33
+size 553882647

Health_and_Medicine/shots-00000-of-00001.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:a005e15d07d11ce22e7b4a12ddb87b3a0df22f5c22336e76d3d7b80fbb4cba23
+size 337285808

Health_and_Medicine/test-00000-of-00006.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:3a9d30065ba3ab4356f72e52575b8ffbe83245682f381d434f0b3fa463667ce3
+size 621819610

Health_and_Medicine/test-00001-of-00006.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:4d269d468e29a2850e631dd4ac825c403c71c291a2f32bc3dedeb2361f3f796e
+size 205799897

Health_and_Medicine/test-00002-of-00006.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:f11c992ffad3b2a02050f8a6a4e65ccef5d1718de225eb03dc91d5d6dae714b0
+size 291754014

Health_and_Medicine/test-00003-of-00006.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:bf44424016e7f02b3b97fae99ab10c281823c79a569361a5a618f6bf7e3b158b
+size 260346389

Health_and_Medicine/test-00004-of-00006.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:48c11daa5cfe1c83cca8d7f4fdb7f43acebaa560125fec0c36e832a1bb11bbdd
+size 707038684

Health_and_Medicine/test-00005-of-00006.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:e65c556d71a753991e08fc177d64d6b267d7af50e108753e2f55e84beeb9580d
+size 438210550

README.md

@@ -0,0 +1,513 @@
+---
+dataset_info:
+- config_name: Applied_Sciences
+  features:
+  - name: instruction
+    dtype: string
+  - name: inputs
+    struct:
+    - name: image
+      dtype:
+        image:
+          decode: false
+    - name: question
+      dtype: string
+    - name: annotation
+      dtype: string
+    - name: option_a
+      dtype: string
+    - name: option_b
+      dtype: string
+    - name: option_c
+      dtype: string
+    - name: option_d
+      dtype: string
+    - name: option_e
+      dtype: string
+    - name: option_f
+      dtype: string
+    - name: option_g
+      dtype: string
+    - name: option_h
+      dtype: string
+    - name: option_i
+      dtype: string
+    - name: option_j
+      dtype: string
+  - name: outputs
+    dtype: string
+  - name: meta
+    struct:
+    - name: id
+      dtype: int32
+    - name: categories
+      struct:
+      - name: type_answer
+        dtype: string
+      - name: subdomain
+        dtype: string
+    - name: image
+      struct:
+      - name: source
+        dtype: string
+      - name: type
+        dtype: string
+      - name: content
+        dtype: string
+  splits:
+  - name: shots
+    num_bytes: 93916125
+    num_examples: 80
+  - name: test
+    num_bytes: 679604830
+    num_examples: 605
+  download_size: 761415639
+  dataset_size: 773520955
+- config_name: Business
+  features:
+  - name: instruction
+    dtype: string
+  - name: inputs
+    struct:
+    - name: image
+      dtype:
+        image:
+          decode: false
+    - name: question
+      dtype: string
+    - name: annotation
+      dtype: string
+    - name: option_a
+      dtype: string
+    - name: option_b
+      dtype: string
+    - name: option_c
+      dtype: string
+    - name: option_d
+      dtype: string
+    - name: option_e
+      dtype: string
+    - name: option_f
+      dtype: string
+    - name: option_g
+      dtype: string
+    - name: option_h
+      dtype: string
+    - name: option_i
+      dtype: string
+    - name: option_j
+      dtype: string
+  - name: outputs
+    dtype: string
+  - name: meta
+    struct:
+    - name: id
+      dtype: int32
+    - name: categories
+      struct:
+      - name: type_answer
+        dtype: string
+      - name: subdomain
+        dtype: string
+    - name: image
+      struct:
+      - name: source
+        dtype: string
+      - name: type
+        dtype: string
+      - name: content
+        dtype: string
+  splits:
+  - name: shots
+    num_bytes: 46100185
+    num_examples: 139
+  - name: test
+    num_bytes: 314640905
+    num_examples: 1031
+  download_size: 353301989
+  dataset_size: 360741090
+- config_name: Cultural_Studies
+  features:
+  - name: instruction
+    dtype: string
+  - name: inputs
+    struct:
+    - name: image
+      dtype:
+        image:
+          decode: false
+    - name: question
+      dtype: string
+    - name: annotation
+      dtype: string
+    - name: option_a
+      dtype: string
+    - name: option_b
+      dtype: string
+    - name: option_c
+      dtype: string
+    - name: option_d
+      dtype: string
+    - name: option_e
+      dtype: string
+    - name: option_f
+      dtype: string
+    - name: option_g
+      dtype: string
+    - name: option_h
+      dtype: string
+    - name: option_i
+      dtype: string
+    - name: option_j
+      dtype: string
+  - name: outputs
+    dtype: string
+  - name: meta
+    struct:
+    - name: id
+      dtype: int32
+    - name: categories
+      struct:
+      - name: type_answer
+        dtype: string
+      - name: subdomain
+        dtype: string
+    - name: image
+      struct:
+      - name: source
+        dtype: string
+      - name: type
+        dtype: string
+      - name: content
+        dtype: string
+  splits:
+  - name: shots
+    num_bytes: 500914731
+    num_examples: 191
+  - name: test
+    num_bytes: 3316420067
+    num_examples: 1436
+  download_size: 3566572915
+  dataset_size: 3817334798
+- config_name: Fundamental_Sciences
+  features:
+  - name: instruction
+    dtype: string
+  - name: inputs
+    struct:
+    - name: image
+      dtype:
+        image:
+          decode: false
+    - name: question
+      dtype: string
+    - name: annotation
+      dtype: string
+    - name: option_a
+      dtype: string
+    - name: option_b
+      dtype: string
+    - name: option_c
+      dtype: string
+    - name: option_d
+      dtype: string
+    - name: option_e
+      dtype: string
+    - name: option_f
+      dtype: string
+    - name: option_g
+      dtype: string
+    - name: option_h
+      dtype: string
+    - name: option_i
+      dtype: string
+    - name: option_j
+      dtype: string
+  - name: outputs
+    dtype: string
+  - name: meta
+    struct:
+    - name: id
+      dtype: int32
+    - name: categories
+      struct:
+      - name: type_answer
+        dtype: string
+      - name: subdomain
+        dtype: string
+    - name: image
+      struct:
+      - name: source
+        dtype: string
+      - name: type
+        dtype: string
+      - name: content
+        dtype: string
+  splits:
+  - name: shots
+    num_bytes: 381582159
+    num_examples: 247
+  - name: test
+    num_bytes: 2555128525
+    num_examples: 1866
+  download_size: 2755428521
+  dataset_size: 2936710684
+- config_name: Health_and_Medicine
+  features:
+  - name: instruction
+    dtype: string
+  - name: inputs
+    struct:
+    - name: image
+      dtype:
+        image:
+          decode: false
+    - name: question
+      dtype: string
+    - name: annotation
+      dtype: string
+    - name: option_a
+      dtype: string
+    - name: option_b
+      dtype: string
+    - name: option_c
+      dtype: string
+    - name: option_d
+      dtype: string
+    - name: option_e
+      dtype: string
+    - name: option_f
+      dtype: string
+    - name: option_g
+      dtype: string
+    - name: option_h
+      dtype: string
+    - name: option_i
+      dtype: string
+    - name: option_j
+      dtype: string
+  - name: outputs
+    dtype: string
+  - name: meta
+    struct:
+    - name: id
+      dtype: int32
+    - name: categories
+      struct:
+      - name: type_answer
+        dtype: string
+      - name: subdomain
+        dtype: string
+    - name: image
+      struct:
+      - name: source
+        dtype: string
+      - name: type
+        dtype: string
+      - name: content
+        dtype: string
+  splits:
+  - name: shots
+    num_bytes: 345216376
+    num_examples: 252
+  - name: test
+    num_bytes: 2726487807
+    num_examples: 1904
+  download_size: 2862254952
+  dataset_size: 3071704183
+- config_name: Social_Sciences
+  features:
+  - name: instruction
+    dtype: string
+  - name: inputs
+    struct:
+    - name: image
+      dtype:
+        image:
+          decode: false
+    - name: question
+      dtype: string
+    - name: annotation
+      dtype: string
+    - name: option_a
+      dtype: string
+    - name: option_b
+      dtype: string
+    - name: option_c
+      dtype: string
+    - name: option_d
+      dtype: string
+    - name: option_e
+      dtype: string
+    - name: option_f
+      dtype: string
+    - name: option_g
+      dtype: string
+    - name: option_h
+      dtype: string
+    - name: option_i
+      dtype: string
+    - name: option_j
+      dtype: string
+  - name: outputs
+    dtype: string
+  - name: meta
+    struct:
+    - name: id
+      dtype: int32
+    - name: categories
+      struct:
+      - name: type_answer
+        dtype: string
+      - name: subdomain
+        dtype: string
+    - name: image
+      struct:
+      - name: source
+        dtype: string
+      - name: type
+        dtype: string
+      - name: content
+        dtype: string
+  splits:
+  - name: shots
+    num_bytes: 38442172
+    num_examples: 78
+  - name: test
+    num_bytes: 291785322
+    num_examples: 590
+  download_size: 328536704
+  dataset_size: 330227494
+configs:
+- config_name: Applied_Sciences
+  data_files:
+  - split: shots
+    path: Applied_Sciences/shots-*
+  - split: test
+    path: Applied_Sciences/test-*
+- config_name: Business
+  data_files:
+  - split: shots
+    path: Business/shots-*
+  - split: test
+    path: Business/test-*
+- config_name: Cultural_Studies
+  data_files:
+  - split: shots
+    path: Cultural_Studies/shots-*
+  - split: test
+    path: Cultural_Studies/test-*
+- config_name: Fundamental_Sciences
+  data_files:
+  - split: shots
+    path: Fundamental_Sciences/shots-*
+  - split: test
+    path: Fundamental_Sciences/test-*
+- config_name: Health_and_Medicine
+  data_files:
+  - split: shots
+    path: Health_and_Medicine/shots-*
+  - split: test
+    path: Health_and_Medicine/test-*
+- config_name: Social_Sciences
+  data_files:
+  - split: shots
+    path: Social_Sciences/shots-*
+  - split: test
+    path: Social_Sciences/test-*
+---
+
+# UniScienceVQA
+
+
+## Описание задачи
+
+UniScienceVQA — мультимодальный датасет, состоящий из заданий на проверку экспертных знаний в различных областях науки (фундаментальные, социальные и прикладные науки, культуроведение, бизнес, здоровье и медицина), задания представлены в виде изображений и вопросов с аннотацией к ним. Задания делятся на три группу по варианту ответ: 1) с коротким ответом; 2) с вариантами ответов; 3) с вариантами ответов, на которые нет верного ответа.
+
+Тестируемые навыки моделей: Expert domain knowledge, Scheme recognition, Text recognition (OCR), Static counting, Problem decomposition, Comparative reasoning, Physical property understanding, Mathematical reasoning
+
+Авторы: Александр Капитанов, Петр Суровцев
+
+
+## Мотивация
+
+Датасет представляет собой открытую базу задач для проверки способностей модели понимать элементы изображения из университетской программы и профессиональной сферы. Особенностью данного задания является проверка моделей давать короткий и точный ответ, а так же находить правильный ответ из нескольких варинантов ответов. 
+
+Датасет предназначается для моделей Vision + Text, которые умеют не только понимать, что изображено, но и обладают экспертными знаниями университетской программы. 
+
+Данный датасет не проверяет ход решения и не требует вывести рассуждения для задачи — ответом на задачу является короткий ответ числом / формулой. Аннотация служит инструкцией для записи однозначного короткого ответа на задачу в требуемой пользователем форме. Поэтому в качестве метрики используется Accuracy.
+
+
+## Описание датасета
+
+### Поля данных
+
+Каждый вопрос в датасете содержит следующие поля:
+
+- `instruction` [str] — Промпт-инструкция для модели, содержащая шаблон для вставки элементов вопроса.
+- `inputs` — Вводные данные, формирующие задание для модели.
+    - `image` [str] — Путь к файлу с изображением, к которому относится вопрос.
+    - `question` [str] — Текст вопроса.
+    - `annotation` [str] — формат выдаваемого ответа;
+- `outputs` [str] — Правильный ответ на вопрос.
+- `meta` — Метаданные, относящиеся к тестовому примеру, но не используемые в вопросе (скрытые от тестируемой модели).
+    - `id` [int] — Номер-идентификатор вопроса в датасете.
+    - `categories` — Категории признаков, характеризующих тестовый пример.
+        - `subdomain` [str] — Поддомен задания.
+        - `type_answer` [str] — Варинат ответа: короткий ответ или выбор правильного ответа.
+    - `image` — Метаданные, относящиеся к изображению.
+        - `source` [str] — Информация о происхождении изображения — согласно классификации изображений для датасетов MERA.
+        - `type` [str] — Тип изображения — согласно классификации изображений для датасетов MERA.
+        - `content` [str] — Содержание изображения — согласно классификации изображений для датасетов MERA.
+
+
+### Пример данных
+
+```json
+{
+    "instruction": "Ознакомьтесь с изображением <image> и дайте ответ на вопрос. {question} {annotation}\nОтвет:",
+    "inputs": {
+        "image": "samples/image01633.jpg",
+        "question": "Какой порядок группы автоморфизмов изображенного графа?",
+        "annotation": "В ответе напишите только число."
+    },
+    "outputs": "72",
+    "meta": {
+        "id": 1633,
+        "categories": {
+            "subdomain": "Computer science and Programming",
+            "type_answer": "short answer"
+        },
+        "image": {
+            "source": "photo",
+            "type": "visual",
+            "content": "riddle"
+        }
+    }
+}
+```
+
+
+### Создание датасета
+
+Датасет состоит из 25 поддоменов и для сбора данных по каждому поддомену привлекалась группа экспертов с углубленными знаниями в этой области. Изображения для датасета были нарисованы или сфотографированы экспертами. Создание датасета включала два этапа: 1) создание изображение, вопроса и ответа; 2) проверка созданных данных. Аннотация, которая содержит формат для однозначной записи ответа на задачу, была вручную добавлена в соответствии с ответом. К каждой задаче в инструк��ии добавлен универсальный текст: «Прочитайте вопрос и решите задачу задачу.». В результате на каждый поддомен было собрано 200-400 заданий.
+
+
+## Оценка
+
+### Метрики
+
+Для агрегированной оценки ответов моделей используются следующие метрики:
+
+- `Exact match`: Метрика Exact match вычисляет среднее по оценкам всех обработанных вопросов, где оценка имеет значение 1, если предсказанная строка точно совпадает с правильным ответом, и 0 в остальных случаях.
+
+
+### Human baseline
+
+Human baseline — это оценка усредненных ответов людей на вопросы бенчмарка. Оценка проводится по тем же метрикам, что и для моделей.
+
+Для всех вопросов датасета были получены ответы разметчиков на crowd-source платформе с перекрытием 5. Ответы в свободной форме были нормализованы (регистр, пробелы) для сравнения с эталоном. Агрегированным ответом считался тот, который был выбран большинством (majority vote).
+
+Результаты оценки:
+
+- Exact match – 0.13

Social_Sciences/shots-00000-of-00001.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:9a99eb0735652ad9919b8759ffd305e31dd8f350b7489413c4a18aa099c033d4
+size 38365617

Social_Sciences/test-00000-of-00001.parquet

@@ -0,0 +1,3 @@
+version https://git-lfs.github.com/spec/v1
+oid sha256:5adead5e00acd697cfa49d638e20d1bf3dc7e75330f18c5005ad2d31576d8cab
+size 290171087