new version of dataset with multy-turn conversations

README.md

@@ -8,8 +8,6 @@ license:
 multilinguality:
 - monolingual
 pretty_name: arithmetic
-size_categories:
-- 1M<n<10M
 source_datasets: []
 tags: []
 task_categories:
@@ -23,50 +21,70 @@ task_ids:
 Датасет содержит сэмплы с простыми математическими заданиями примерно такого вида:
 
 ```
-question: Чему равно (1+5)*6?
-answer: 36
+- Фонарик Федора работает от 2 батареек, а фонарик Лехи от 6. Сколько батареек нужно фонарикам Федора и Лехи в сумме?
+- 2+6=8, столько батареек потребуется.
+- Теперь прибавь к результату 469, что получилось?
+- 8 плюс 469 равно 477
+- Подели на 53, что получилось?
+- 9
 ```
 
 Основная масса задач связана с арифметическими действиями. Есть некоторое количество задач
 на поиск корней квадратного уравнения:
 
 ```
-question: Найди действительные корни квадратного уравнения a⋅x²+b⋅x+c для a=45, b=225, c=-270
-answer: Тут два действительных корня -6 и 1
+- Найди действительные корни квадратного уравнения a⋅x²+b⋅x+c для a=45, b=225, c=-270
+- Тут два действительных корня -6 и 1
 ```
 
 
 Также есть пополняемый набор задач с раскрытым ходом решения:
 
 ```
-question: 'В болотистых лесах проживает 8 сусликов. Охотник съедает по одному суслику каждые 9 дней. Сколько сусликов останется через 12 дней?'
-answer: За 12 дней охотник пообедает 1 раз. Поэтому останется 8-1=7 сусликов.
+- В болотистых лесах проживает 8 сусликов. Охотник съедает по одному суслику каждые 9 дней. Сколько сусликов останется через 12 дней?
+- За 12 дней охотник пообедает 1 раз. Поэтому останется 8-1=7 сусликов.
 ```
 
 Некоторые задачи построены так, чтобы заставить модель обращать внимание не просто на
 наличие чисел, а на контекст их употребления:
 
 ```
-question: 'Вика принесла в школу 5 мандаринов. Друзья попросили ее поделиться с ними мандаринами. Она отдала им 3 штуки. Сколько мандаринов Вика отдала?
-answer: 3
+- Вика принесла в школу 5 мандаринов. Друзья попросили ее поделиться с ними мандаринами. Она отдала им 3 штуки. Сколько мандаринов Вика отдала?
+- 3
 ```
 
 Иногда числа в задаче не имеют отношения к сути задачи, что должно еще сильнее побуждать решающую модель учитывать контекст:
 
 ```
-question: Перемножив восемь и семь, учитель средней школы №77 получил 5084. Он верно посчитал?
-answer: Учитель средней школы №77 ошибся, так как 8*7=56, а не 5084
+-  Перемножив восемь и семь, учитель средней школы №77 получил 5084. Он верно посчитал?
+-  Учитель средней школы №77 ошибся, так как 8*7=56, а не 5084
 ```
 
+## Формат данных
+
+Каждый сэмпл содержит список связанных реплик без префикса "- ", образующих цепочку арифметических заданий, в которых
+условие новой задачи требует анализа как минимум предыдущей реплики.
+
 ## Лексическая вариативность ответов
 
 Для многих задач ответ сформулирован не просто как число, в него добавлен сопутствующий текст:
 
 ```
-question: Чему равно 2+2?
-answer: 2+2 равно 4
+- Чему равно 2+2?
+- 2+2 равно 4
 ```
 
+## Метрики генеративных моделей
+
+После файнтюна (1 эпоха, lr=1e-5) на 90% датасета получаются такие метрики по тестовой части:
+
+```
+Модель                                   Среднее отклонение числового ответа              Доля верных отв��тов
+                                         в сравнении с верным 
+sberbank-ai/rugpt3small_based_on_gpt2        5442%                                        9.2%
+sberbank-ai/rugpt3medium_based_on_gpt2       124%                                         14.4%
+sberbank-ai/rugpt3large_based_on_gpt2        68.4%                                        25.0%
+```
 
 ## Использование датасета
 

qa_arith.json

@@ -1,3 +1,3 @@
 version https://git-lfs.github.com/spec/v1
-oid sha256:d09f26077e5b9f681a23acc4388ab950015d4efa5444b2890e0674865d533d37
-size 171300175
+oid sha256:1e8a8b29c148f69eb26d1b310afc4cbf588bc79d88130d84f7f785f3f222fbcb
+size 27874370