ruEMLU / README.md
MERA-evaluation's picture
Update dataset card and parquet
9069370 verified
|
Raw History Blame Contribute Delete
4.89 kB
metadata
dataset_info:
  features:
    - name: instruction
      dtype: string
    - name: inputs
      struct:
        - name: question
          dtype: string
        - name: option_a
          dtype: string
        - name: option_b
          dtype: string
        - name: option_c
          dtype: string
        - name: option_d
          dtype: string
        - name: option_e
          dtype: string
        - name: option_f
          dtype: string
        - name: option_g
          dtype: string
        - name: option_h
          dtype: string
    - name: outputs
      dtype: string
    - name: meta
      struct:
        - name: id
          dtype: int32
        - name: domain
          dtype: string
  splits:
    - name: test
      num_bytes: 949495
      num_examples: 3493
  download_size: 949495
  dataset_size: 949495
configs:
  - config_name: default
    data_files:
      - split: test
        path: data/test-*

ruEMLU

Отдельный набор вопросов по электроэнергетике. С ETMLU не объединяется: совпадающие формулировки остаются в своём наборе.

В наборе 17 доменов. Каждый пример — вопрос с вариантами ответа на русском языке. В промпт попадают только непустые варианты. Буквы ответа записываются латиницей. Несколько букв идут в алфавитном порядке через запятую и пробел, например «A, B».

Одна запись состоит из инструкции, вопроса и вариантов option_a…option_h, поля ответа и метаданных id и domain. Пустые варианты хранятся пустой строкой. id совпадает с номером той же строки в jsonl и идёт от 0 без пропусков внутри полного файла.

Пример первой записи сплита test:

{
  "instruction": "Ниже приведены вопросы с множественным выбором (с ответами) по теме {domain}. Напиши только букву или буквы ответа.\n\n{question}\n\nВыбери ответ или несколько ответов из вариантов:\nA. {option_a}\nB. {option_b}\nC. {option_c}\nD. {option_d}\nE. {option_e}\nF. {option_f}\nG. {option_g}\nH. {option_h}\n\nЕсли ответов больше одного, запиши буквы в алфавитном порядке через запятую и пробел, например \"A, B, C\".\nОтвет:",
  "inputs": {
    "question": "Сколько байт составит длина одного блока данных APDU для сигналов телесигнализации?",
    "option_a": "$258$.",
    "option_b": "$252$.",
    "option_c": "$254$.",
    "option_d": "$256$.",
    "option_e": "",
    "option_f": "",
    "option_g": "",
    "option_h": ""
  },
  "outputs": "",
  "meta": {
    "id": 0,
    "domain": "Автоматизированные системы управления технологическими процессами электросетевых объектов"
  }
}

Сплиты:

  • test: 3493 примеров, поле outputs пустое.

Всего строк в карточке: 3493.

Домены:

  • Автоматизированные системы управления технологическими процессами электросетевых объектов
  • Информационные модели в электроэнергетике
  • Правовые основы функционирования электроэнергетики
  • Промышленная электроника
  • Релейная защита электроэнергетических систем
  • Теоретические основы электротехники
  • Техника безопасности и охрана труда в электроустановках
  • Техника высоких напряжений
  • Экология в энергетике
  • Экономика и ценообразование в электроэнергетике
  • Электрическая часть электрических станций
  • Электрические машины
  • Электрические станции и подстанции
  • Электромагнитная совместимость
  • Электромагнитные переходные процессы в электроэнергетических системах
  • Электроэнергетические системы и сети
  • Элементы автоматических устройств