cowqa-ru / README.md
sapbot's picture
Upload 4 files
d1dc13c verified
|
Raw
History Blame Contribute Delete
1.81 kB
---
license: cc0-1.0
language:
- ru
pretty_name: CowQA-RU
tags:
- benchmark
- evaluation
---
# CowQA-RU
Оценка способности ИИ к фактическому воспроизведению знаний о коровах в формате вопросов с тремя вариантами ответов.
*P.S. Если быть точным, вопросы касаются всего, что связано с коровами.*
## Таблица лидеров
Официальная таблица лидеров доступна [здесь](https://obscureai.mooo.com/leaderboard/cowqaru) для `test.js` и [здесь](https://obscureai.mooo.com/leaderboard/cowqarurapid) для `test-rapid.js`.
## Пример формата
```json
[
{"question":"Вопрос", "A":"вариант А", "B":"вариант Б", "C":"вариант В", "correct":"A"}
]
```
## Источник данных
Вопросы написаны вручную на основе статей Википедии.
## Качество и сложность
Все вопросы имеют среднюю сложность и довольно прямолинейны, избегая малоизвестных фактов. Разделения по уровню сложности нет.
## Лицензия и условия использования
CC0-1.0, указание авторства не требуется.
## Формат файла
Простой JSON, без разделения на обучающую/проверочную/тестовую выборки. Набор данных рекомендуется использовать только для оценки.
---
Сделано [sapbot](https://sapbotgit.github.io) из [Romarchive](https://cows.info.gf)