metadata
license: cc0-1.0
language:
- ru
pretty_name: CowQA-RU
tags:
- benchmark
- evaluation
CowQA-RU
Оценка способности ИИ к фактическому воспроизведению знаний о коровах в формате вопросов с тремя вариантами ответов.
P.S. Если быть точным, вопросы касаются всего, что связано с коровами.
Таблица лидеров
Официальная таблица лидеров доступна здесь для test.js и здесь для test-rapid.js.
Пример формата
[
{"question":"Вопрос", "A":"вариант А", "B":"вариант Б", "C":"вариант В", "correct":"A"}
]
Источник данных
Вопросы написаны вручную на основе статей Википедии.
Качество и сложность
Все вопросы имеют среднюю сложность и довольно прямолинейны, избегая малоизвестных фактов. Разделения по уровню сложности нет.
Лицензия и условия использования
CC0-1.0, указание авторства не требуется.
Формат файла
Простой JSON, без разделения на обучающую/проверочную/тестовую выборки. Набор данных рекомендуется использовать только для оценки.
Сделано sapbot из Romarchive