sapbot commited on
Commit
d1dc13c
·
verified ·
1 Parent(s): 44cb2b2

Upload 4 files

Browse files
Files changed (4) hide show
  1. README.md +45 -0
  2. dataset.json +110 -0
  3. test-rapid.js +63 -0
  4. test.js +17 -0
README.md ADDED
@@ -0,0 +1,45 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ ---
2
+ license: cc0-1.0
3
+ language:
4
+ - ru
5
+ pretty_name: CowQA-RU
6
+ tags:
7
+ - benchmark
8
+ - evaluation
9
+ ---
10
+ # CowQA-RU
11
+
12
+ Оценка способности ИИ к фактическому воспроизведению знаний о коровах в формате вопросов с тремя вариантами ответов.
13
+
14
+ *P.S. Если быть точным, вопросы касаются всего, что связано с коровами.*
15
+
16
+ ## Таблица лидеров
17
+
18
+ Официальная таблица лидеров доступна [здесь](https://obscureai.mooo.com/leaderboard/cowqaru) для `test.js` и [здесь](https://obscureai.mooo.com/leaderboard/cowqarurapid) для `test-rapid.js`.
19
+
20
+ ## Пример формата
21
+
22
+ ```json
23
+ [
24
+ {"question":"Вопрос", "A":"вариант А", "B":"вариант Б", "C":"вариант В", "correct":"A"}
25
+ ]
26
+ ```
27
+
28
+ ## Источник данных
29
+
30
+ Вопросы написаны вручную на основе статей Википедии.
31
+
32
+ ## Качество и сложность
33
+
34
+ Все вопросы имеют среднюю сложность и довольно прямолинейны, избегая малоизвестных фактов. Разделения по уровню сложности нет.
35
+
36
+ ## Лицензия и условия использования
37
+
38
+ CC0-1.0, указание авторства не требуется.
39
+
40
+ ## Формат файла
41
+
42
+ Простой JSON, без разделения на обучающую/проверочную/тестовую выборки. Набор данных рекомендуется использовать только для оценки.
43
+
44
+ ---
45
+ Сделано [sapbot](https://sapbotgit.github.io) из [Romarchive](https://cows.info.gf)
dataset.json ADDED
@@ -0,0 +1,110 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ [
2
+ {"question":"К какому подтрибу относится крупный рогатый скот?", "A":"Bovina", "B":"Bubalina", "C":"Pseudoryina", "correct":"A"},
3
+ {"question":"К какому роду относится крупный рогатый скот?", "A":"Bos", "B":"Tetracerus", "C":"Boselaphus", "correct":"A"},
4
+ {"question":"Каково биноминальное название крупного рогатого скота?", "A":"Bos taurus", "B":"Panthera tigris", "C":"Bison bison", "correct":"A"},
5
+ {"question":"Одинаково ли подсемейство у крупного рогатого скота и бизона?", "A":"Да", "B":"Нет", "C":"Не знаю", "correct":"A"},
6
+ {"question":"Хайлендский скот уникален тем, что ...", "A":"У него длинные рога", "B":"Он пушистый", "C":"Его используют в боях быков", "correct":"B"},
7
+ {"question":"Какой охранный статус у равнинного бизона по состоянию на 2022 год?", "A":"Уязвимый", "B":"Находится в состоянии, близком к угрожаемому", "C":"Вызывает наименьшие опасения", "correct":"B"},
8
+ {"question":"Сколько камер в желудке у крупного рогатого скота?", "A":"2", "B":"3", "C":"4", "correct":"C"},
9
+ {"question":"Каково назначение коров флекфи? (Fleckvieh)", "A":"Двойного назначения", "B":"Мясное", "C":"Молочное", "correct":"A"},
10
+ {"question":"В честь чего названа симментальская корова?", "A":"Река", "B":"Долина", "C":"Страна", "correct":"B"},
11
+ {"question":"Когда первые симментальские коровы прибыли в Россию?", "A":"К 1950 году", "B":"К 1980 году", "C":"К 1850 году", "correct":"C"},
12
+ {"question":"Как назывался помесь серого степного скота и симментальских быков?", "A":"Степной симментал", "B":"Украинский симментал", "C":"Поволжский симментал", "correct":"B"},
13
+ {"question":"Какое из этих других названий применяется к хайлендскому скоту?", "A":"Кайло (Kyloe)", "B":"Шароле", "C":"Ангус", "correct":"A"},
14
+ {"question":"Для чего нужна носовая серьга у телят?", "A":"Чтобы предотвратить сосание", "B":"Для украшения", "C":"Чтобы бык не травмировал себя", "correct":"A"},
15
+ {"question":"Каково использование герефордского скота?", "A":"Мясное", "B":"Молочное", "C":"Двойного назначения", "correct":"A"},
16
+ {"question":"Какова страна происхождения герефордского скота?", "A":"Великобритания", "B":"Соединённые Штаты Америки", "C":"Россия", "correct":"A"},
17
+ {"question":"Герефордский скот хорошо адаптирован к ...", "A":"Холодному климату", "B":"Жаркому климату", "C":"Дождю", "correct":"A"},
18
+ {"question":"Какова страна происхождения абердин-ангусского скота?", "A":"США", "B":"Польша", "C":"Шотландия", "correct":"C"},
19
+ {"question":"Каково полное название ангусской (шотландской) породы?", "A":"Абердин-ангус", "B":"Ангус Бургер", "C":"Ангус Геральд", "correct":"A"},
20
+ {"question":"Что указывает на эмоциональное состояние коров?", "A":"Мычание", "B":"Положение ушей", "C":"Положение головы", "correct":"B"},
21
+ {"question":"Какова средняя продолжительность сна у коров?", "A":"2 часа", "B":"4 часа", "C":"10 часов", "correct":"B"},
22
+ {"question":"В какой позе спят коровы?", "A":"Стоя", "B":"Лёжа", "C":"Сидя", "correct":"B"},
23
+ {"question":"У какого вида животных самая большая биомасса на Земле?", "A":"Слоны", "B":"Крупный рогатый скот", "C":"Кошки", "correct":"B"},
24
+ {"question":"Где запрещён убой крупного рогатого скота?", "A":"Индийский союз и Непал", "B":"Россия и США", "C":"Китай и Япония", "correct":"A"},
25
+ {"question":"Каков средний вес быка якутского скота?", "A":"350-400 кг", "B":"500-600 кг", "C":"650+ кг", "correct":"B"},
26
+ {"question":"Якутский скот относите��ьно ... по размеру", "A":"Мелкий", "B":"Крупный", "C":"Толстый", "correct":"A"},
27
+ {"question":"В каком регионе России преимущественно встречается якутский скот?", "A":"Республика Саха (Якутия)", "B":"Краснодарский край", "C":"Мурманская область", "correct":"A"},
28
+ {"question":"Каков охранный статус якутского скота по данным ФАО?", "A":"Вызывает наименьшие опасения", "B":"Находится в критическом состоянии", "C":"Находится под угрозой исчезновения", "correct":"C"},
29
+ {"question":"Какая уникальная адаптация помогает якутскому скоту выживать при температурах ниже -50°C?", "A":"Спячка", "B":"Густая двойная шерсть", "C":"Рытьё нор под землёй", "correct":"B"},
30
+ {"question":"Каково типичное содержание жира в молоке якутского скота?", "A":"2-3%", "B":"5-6%", "C":"10-12%", "correct":"B"},
31
+ {"question":"Сколько голов якутского скота, по оценкам, существовало в начале XXI века?", "A":"Менее 1200", "B":"10 000-15 000", "C":"Более 50 000", "correct":"A"},
32
+ {"question":"Какая окраска обычно встречается у якутского скота?", "A":"Только сплошная чёрная", "B":"Пёстрая чёрно-белая", "C":"Различные цвета, включая чёрный, красный и пятнистый, с белой полосой на спине", "correct":"C"},
33
+ {"question":"Якутский скот генетически наиболее близок к какой группе?", "A":"Европейский тауриновый скот", "B":"Восточноазиатский зебу", "C":"Турано-монгольский скот", "correct":"C"},
34
+ {"question":"Каково основное использование якутского скота коренными общинами?", "A":"Тройного назначения (мясо, молоко, тягловая сила)", "B":"Только как тягловая сила", "C":"Только для религиозных церемоний", "correct":"A"},
35
+ {"question":"Какую характеристику рогов разделяют и самцы, и самки якутского скота?", "A":"Безрогие", "B":"Короткие, тупые рога", "C":"Рогатые; переменная форма и направление", "correct":"C"},
36
+ {"question":"Какова типичная высота в холке якутской коровы?", "A":"90-100 см", "B":"110-112 см", "C":"130-140 см", "correct":"B"},
37
+ {"question":"Как якутский скот добывает воду зимой, когда реки замёрзли?", "A":"Поедая снег", "B":"Они не пьют месяцами", "C":"Выкапывая колодцы во льду", "correct":"A"},
38
+ {"question":"Какой средний годовой удой якутской коровы (в литрах)?", "A":"500-800 л", "B":"1000-1112 л", "C":"3000-4000 л", "correct":"B"},
39
+ {"question":"Какое историческое событие вызвало резкое сокращение поголовья якутского скота в XX веке?", "A":"Коллективизация и политика скрещивания", "B":"Вспышка ящура", "C":"Извержение вулкана", "correct":"A"},
40
+ {"question":"Каков типичный вес при рождении телёнка якутского скота?", "A":"10-15 кг", "B":"19-21 кг", "C":"35-40 кг", "correct":"B"},
41
+ {"question":"Какая из этих пород считается ближайшим родственником якутского скота?", "A":"Хайлендский скот", "B":"Калмыцкий скот", "C":"Японский вагю", "correct":"B"},
42
+ {"question":"Откуда произошёл хайлендский скот?", "A":"Шотландское высокогорье и острова", "B":"Ирландские низины", "C":"Валлийские долины", "correct":"A"},
43
+ {"question":"Какова заметная характеристика хайлендской породы?", "A":"Короткая, гладкая шерсть для жаркого климата", "B":"Длинная, лохматая двойная шерсть для теплоизоляции", "C":"Пятнистый окрас для маскировки", "correct":"B"},
44
+ {"question":"Каково основное современное использование хайлендского скота?", "A":"Молочное производство", "B":"Производство говядины", "C":"Тягловые животные", "correct":"B"},
45
+ {"question":"Какой охранный статус присвоила ФАО хайлендскому скоту в 2007 году?", "A":"Не находится под угрозой", "B":"Находится под угрозой исчезновения", "C":"Уязвимый", "correct":"A"},
46
+ {"question":"Как ещё называют хайлендский скот, особенно с Гебридских островов?", "A":"Герефорд", "B":"Кайло (Kyloe)", "C":"Ангус", "correct":"B"},
47
+ {"question":"Как называется длинная чёлка над глазами хайлендской коровы, защищающая их от непогоды?", "A":"Доссан (Dossan)", "B":"Флемен", "C":"Грива", "correct":"A"},
48
+ {"question":"Как уникально называется группа хайлендского скота?", "A":"Стадо", "B":"Фолд (Fold)", "C":"Отара", "correct":"B"},
49
+ {"question":"Какую функцию выполняют большие рога хайлендского скота летом?", "A":"Выкапывание корней", "B":"Рассеивание тепла для охлаждения", "C":"Демонстрация во время брачных ритуалов", "correct":"B"},
50
+ {"question":"В каком году была опубликована первая племенная книга для хайлендского скота?", "A":"1785", "B":"1885", "C":"1905", "correct":"B"},
51
+ {"question":"В каком году в Шотландии было основано Общество хайлендского скота?", "A":"1778", "B":"1884", "C":"1923", "correct":"B"},
52
+ {"question":"Какова средняя продолжительность жизни хайлендской коровы?", "A":"5-10 лет", "B":"15-20 лет", "C":"25-30 лет", "correct":"B"},
53
+ {"question":"Какова характеристика хайлендской говядины?", "A":"Она богата жиром и холестерином", "B":"Известна своей постностью и нежностью", "C":"Имеет сильный диковатый вкус", "correct":"B"},
54
+ {"question":"Какой из этих цветов ТРАДИЦИОННО не встречается у хайлендского скота?", "A":"Красный", "B":"Пегий (brindle)", "C":"Голубой", "correct":"C"},
55
+ {"question":"Как называют хайлендский скот на скотсском языке?", "A":"Bò Ghàidhealach", "B":"Heilan coo", "C":"Cow Shaggy", "correct":"B"},
56
+ {"question":"Хайлендский скот известен тем, что особенно хорош в чём?", "A":"Превращении низкокачественного корма в говядину", "B":"Производстве больших объёмов молока", "C":"Победе на выставках экстерьера", "correct":"A"},
57
+ {"question":"Шерсть хайлендского скота отмечена Книгой рекордов Гиннесса как ...", "A":"Самый густой мех среди всех животных", "B":"Самая длинная шерсть среди всех пород скота", "C":"Самый красочный рисунок шерсти", "correct":"B"},
58
+ {"question":"Какая особенность помогает защитить хайлендский скот от инфекционного кератоконъюнктивита и других проблем, связанных с мухами?", "A":"Их широкие копыта", "B":"Их длинные изогнутые рога", "C":"Их длинные ресницы и чёлка (доссан)", "correct":"C"},
59
+ {"question":"Каков приблизительный период беременности у хайлендской коровы?", "A":"6-7 месяцев", "B":"9-10 месяцев", "C":"11-12 месяцев", "correct":"B"},
60
+ {"question":"Какая уникальная характеристика описывает молоко, производимое хайлендскими коровами?", "A":"Высокое содержание молочного жира", "B":"Низкое содержание белка", "C":"Содержит естественные пробиотики", "correct":"A"},
61
+ {"question":"Группу хайлендского скота в отсутствие быка часто возглавляет ...", "A":"Самая молодая самка", "B":"Самая старая самка", "C":"Самый сильный самец", "correct":"B"},
62
+ {"question":"Зимой хайлендский скот использует свои рога в первую очередь для ...", "A":"Борьбы за территорию", "B":"Раскапывания снега, чтобы добраться до растительности", "C":"Заточки орудий о камни", "correct":"B"},
63
+ {"question":"Хайлендский скот хорошо подходит для природного выпаса, потому что предпочитает ...", "A":"Только самую нежную траву", "B":"Широкий спектр грубых растений и кустарников", "C":"Выпас только ночью", "correct":"B"},
64
+ {"question":"Какой традиционный окрас хайлендского скота характеризуется смесью тёмных и светлых волос?", "A":"Пегий (piebald)", "B":"Пегий (brindle)", "C":"Роан (roan)", "correct":"B"},
65
+ {"question":"Внешний слой шерсти хайлендской коровы обычно описывается как ...", "A":"Мягкий и пуховой", "B":"Длинный, грубый и маслянистый", "C":"Короткий и щетинистый", "correct":"B"},
66
+ {"question":"Как двойная шерсть хайлендской коровы влияет на качество её мяса?", "A":"Придаёт мясу дымный привкус", "B":"Уменьшает потребность в подкожном жире, что приводит к более постному мясу", "C":"Приправляет мясо во время выпаса", "correct":"B"},
67
+ {"question":"Каково буквальное значение немецкого слова «Fleckvieh»?", "A":"Пятнистый скот", "B":"Корова двойного назначения", "C":"Горная порода", "correct":"A"},
68
+ {"question":"В каком веке возникла порода флекфи?", "A":"XVIII век", "B":"XIX век", "C":"XX век", "correct":"B"},
69
+ {"question":"Из какой долины в Швейцарии происходит предок флекфи — симментальская порода?", "A":"Рейнская долина", "B":"Зимменталь (Simmental)", "C":"Энгадин", "correct":"B"},
70
+ {"question":"Примерно в каком году начался импорт симментальского скота в Баварию и Австрию, что привело к созданию флекфи?", "A":"1750", "B":"1830", "C":"1900", "correct":"B"},
71
+ {"question":"Какова основная цель разведения флекфи в современном животноводстве?", "A":"Только мясное производство", "B":"Двойного назначения (молоко и мясо)", "C":"Только тягловые работы", "correct":"B"},
72
+ {"question":"Каким было историческое тройное назначение исходных симментальских и ранних предков флекфи?", "A":"Молоко, мясо и кожа", "B":"Молоко, мясо и тягловые работы", "C":"Молоко, шкуры и выставки", "correct":"B"},
73
+ {"question":"Какой типичный окрас шерсти у коровы флекфи?", "A":"Сплошной чёрный", "B":"Красный с белыми отметинами (red pied)", "C":"Коричневый с чёрными полосами", "correct":"B"},
74
+ {"question":"Помимо рогатости, какой вариант возможен у флекфи?", "A":"Комолые (естественно безрогие)", "B":"Только самки рогатые", "C":"Всегда имеют витые рога", "correct":"A"},
75
+ {"question":"Каков приблизительный средний вес взрослого быка флекфи?", "A":"500-700 кг", "B":"800-1000 кг", "C":"1100-1300 кг", "correct":"C"},
76
+ {"question":"Каков приблизительный средний вес взрослой коровы флекфи?", "A":"400-500 кг", "B":"700-800 кг", "C":"900-1000 кг", "correct":"B"},
77
+ {"question":"Каков приблизительный средний рост взрослой коровы флекфи?", "A":"110-120 см", "B":"140-150 см", "C":"160-170 см", "correct":"B"},
78
+ {"question":"Каков среднесуточный привес растущего бычка флекфи?", "A":"~750 г", "B":"~1350 г", "C":"~2000 г", "correct":"B"},
79
+ {"question":"Молоко флекфи особенно ценится за какую характеристику, что делает его отличным для сыроделия?", "A":"Высокое содержание воды", "B":"Высокое содержание жира и белка", "C":"Естественно сладкий вкус", "correct":"B"},
80
+ {"question":"Сколько молока в среднем м��жет дать корова флекфи за одну лактацию?", "A":"3000-5000 кг", "B":"6000-10000 кг", "C":"12000-15000 кг", "correct":"B"},
81
+ {"question":"Согласно последним данным, сколько примерно голов флекфи насчитывается в мире?", "A":"15 миллионов", "B":"41 миллион", "C":"70 миллионов", "correct":"B"},
82
+ {"question":"Какая страна имеет самую большую популяцию флекфи в мире?", "A":"Австрия", "B":"Соединённые Штаты", "C":"Германия", "correct":"C"},
83
+ {"question":"Сколько примерно процентов от общего поголовья скота в Австрии составляет флекфи?", "A":"Примерно 30%", "B":"Примерно 60%", "C":"Примерно 85%", "correct":"C"},
84
+ {"question":"Каков охранный статус породы флекфи по данным ФАО?", "A":"Уязвимый", "B":"Находится под угрозой исчезновения", "C":"Не находится под угрозой", "correct":"C"},
85
+ {"question":"На странице какого университета штата США есть раздел «Открытие мясного скота — породы», где представлен флекфи?", "A":"Калифорнийский университет", "B":"Университет Кентукки", "C":"Техасский университет", "correct":"B"},
86
+ {"question":"В каком году была основана первая Австрийская ассоциация разведения симментальского флекфи?", "A":"1850", "B":"1894", "C":"1922", "correct":"B"},
87
+ {"question":"Когда в программе разведения флекфи начали делать больший упор на молочные и адаптационные признаки?", "A":"Около 1890 года", "B":"После 1975 года", "C":"После 1997 года", "correct":"B"},
88
+ {"question":"Какая инновационная концепция была введена в разведении флекфи в 1997 году для балансирования молочных, мясных и адаптационных признаков?", "A":"Индекс геномной селекции", "B":"Индекс общей ценности", "C":"Ценность двойного назначения", "correct":"B"},
89
+ {"question":"Какая порода считается прямым предком или близким родственником флекфи и имеет тот же стандарт породы в Швейцарии?", "A":"Бурая швицкая", "B":"Герефорд", "C":"Симментальская", "correct":"C"},
90
+ {"question":"Помимо использования в качестве породы двойного назначения, для какой ещё цели флекфи обычно используется в современном сельском хозяйстве?", "A":"Скрещивание для улучшения других пород", "B":"Соревнования по конкуру", "C":"Родео", "correct":"A"},
91
+ {"question":"Скот флекфи известен своим хорошим темпераментом. Какая из этих черт связана с породой?", "A":"Агрессивность и высокая стрессовость", "B":"Спокойный характер и уравновешенность", "C":"Пугливость и низкая продуктивность", "correct":"B"},
92
+ {"question":"Откуда произошёл герефордский скот?", "A":"Шотландия", "B":"Херефордшир, Англия", "C":"Ирландия", "correct":"B"},
93
+ {"question":"Каков приблизительный средний вес взрослого быка герефордской породы?", "A":"750-850 кг", "B":"900-1000 кг", "C":"1075 кг (2350 фунтов)", "correct":"C"},
94
+ {"question":"Какой охранный статус присвоил DAD‑IS герефордскому скоту в 2023 году?", "A":"Находится под угрозой исчезновения", "B":"Уязвимый", "C":"Не находится под угрозой", "correct":"C"},
95
+ {"question":"Каковы характерные цветовые отметины герефордского скота?", "A":"Чёрное тело с белой мордой", "B":"Красное тело с белой мордой", "C":"Белое тело с красными пятнами", "correct":"B"},
96
+ {"question":"Какое из следующих описаний лучше всего характеризует типичный темперамент герефордского скота?", "A":"Агрессивный и подверженный стрессу", "B":"Спокойный и лёгкий в обращении", "C":"Нервный и пугливый", "correct":"B"},
97
+ {"question":"Комолый вариант герефорда (Polled Hereford) естественно безрогий, потому что он возник в результате ...", "A":"Скрещивания с ангусом", "B":"Естественной генетической мутации", "C":"Хирургического удаления рогов", "correct":"B"},
98
+ {"question":"В каком году была опубликована первая племенная книга для герефордского скота?", "A":"1742", "B":"1846", "C":"1886", "correct":"B"},
99
+ {"question":"Для какой основной цели разводят герефордский скот?", "A":"Молочное производство", "B":"Производство говядины", "C":"Тягловые работы", "correct":"B"},
100
+ {"question":"Как называется кастрированный самец крупного рогатого скота?", "A":"Бык", "B":"Вол", "C":"Тёлка", "correct":"B"},
101
+ {"question":"Сколько уникальных вокализаций для общения есть у коров?", "A":"Около 50", "B":"Около 125", "C":"Около 333", "correct":"C"},
102
+ {"question":"Какой цвет не различает крупный рогатый скот?", "A":"Зелёный", "B":"Синий", "C":"Красный", "correct":"C"},
103
+ {"question":"Сколько слюны корова вырабатывает ежедневно при жвачке?", "A":"Около 50 литров", "B":"Около 100 литров", "C":"Около 200 литров", "correct":"C"},
104
+ {"question":"Какая порода скота считается самой крупной в мире?", "A":"Кьянина", "B":"Голштинско-фризская", "C":"Вагю", "correct":"A"},
105
+ {"question":"От какого животного произошёл современный крупный рогатый скот?", "A":"Европейский бизон", "B":"Тур", "C":"Водяной буйвол", "correct":"B"},
106
+ {"question":"Какова приблизительная общая численность крупного рогатого скота в мире?", "A":"500 миллионов", "B":"1 миллиард", "C":"1,5 миллиарда", "correct":"C"},
107
+ {"question":"Сколько процентов глобальных выбросов парниковых газов приходится на домашний скот?", "A":"Около 5%", "B":"Около 14,5%", "C":"Около 25%", "correct":"B"},
108
+ {"question":"Каким типом зрения обладает крупный рогатый скот?", "A":"Монокулярным", "B":"Бинокулярным", "C":"Как монокулярным, так и бинокулярным", "correct":"C"},
109
+ {"question":"Сколько рёбер у крупного рогатого скота?", "A":"10", "B":"11", "C":"13", "correct":"C"}
110
+ ]
test-rapid.js ADDED
@@ -0,0 +1,63 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ const fs = require("fs")
2
+ const readline = require("readline")
3
+
4
+ // Загружаем датасет
5
+ const dataset = JSON.parse(fs.readFileSync("dataset.json"));
6
+
7
+ // Формируем единый промпт
8
+ let prompt = `Answer the following multiple choice questions. For each question, output the number of the question followed by a dot and the letter of the correct answer (A, B, or C). Output one answer per line, in order from 1 to N.
9
+
10
+ `;
11
+
12
+ dataset.forEach((item, idx) => {
13
+ const num = idx + 1;
14
+ prompt += `${num}. ${item.question}\n`;
15
+ prompt += `A. ${item.A}\n`;
16
+ prompt += `B. ${item.B}\n`;
17
+ prompt += `C. ${item.C}\n\n`;
18
+ });
19
+
20
+ console.log(prompt)
21
+ console.log("=== PUT HERE AI RESPONSE: ===");
22
+ console.log("1.A");
23
+ console.log("2.B");
24
+ console.log("3.C");
25
+ console.log("...");
26
+ console.log("(Then enter Ctrl+D)\n");
27
+
28
+ const rl = readline.createInterface({
29
+ input: process.stdin,
30
+ output: process.stdout,
31
+ terminal: false
32
+ });
33
+
34
+ let llmResponse = "";
35
+
36
+ rl.on("line", (line) => {
37
+ llmResponse += line + "\n";
38
+ });
39
+
40
+ rl.on("close", () => {
41
+ const lines = llmResponse.split(/\r?\n/);
42
+ const answers = {};
43
+ for (const line of lines) {
44
+ const match = line.match(/^(\d+)\.\s*([ABC])$/i);
45
+ if (match) {
46
+ const qNum = parseInt(match[1], 10);
47
+ const answerLetter = match[2].toUpperCase();
48
+ answers[qNum] = answerLetter;
49
+ }
50
+ }
51
+
52
+ let correct = 0;
53
+ for (let i = 0; i < dataset.length; i++) {
54
+ const expected = dataset[i].correct;
55
+ const predicted = answers[i + 1];
56
+ if (predicted && predicted === expected) {
57
+ correct++;
58
+ }
59
+ }
60
+
61
+ console.log(`\nFinal CowQA-Rapid score: ${correct}/${dataset.length} (${Math.round((correct / dataset.length) * 100 * 100) / 100})%`);
62
+ process.exit(0);
63
+ });
test.js ADDED
@@ -0,0 +1,17 @@
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
+ const ask = require("ask-my-llm").ask
2
+ const dataset = JSON.parse(require("fs").readFileSync("dataset.json"))
3
+
4
+ let correct = 0
5
+ dataset.forEach((i, index) => {
6
+ console.log(i.question)
7
+ let predicted = ask(`${i.question}
8
+ A. ${i.A}
9
+ B. ${i.B}
10
+ C. ${i.C}
11
+ Return ONLY letter. Nothing more.`).trim()
12
+ console.log(`(${index}/${dataset.length}) Expected: ${i.correct} (${i[i.correct]}) Predicted: ${predicted} (${i[predicted] || "Not choice!"})`)
13
+ if (i.correct == predicted) {
14
+ correct++
15
+ }
16
+ })
17
+ console.log(`Final score: ${correct}/${dataset.length} (${Math.round((correct / dataset.length) * 100 * 100) / 100})%`)