Datasets:
Tasks:
Question Answering
Modalities:
Text
Formats:
json
Sub-tasks:
closed-domain-qa
Languages:
Russian
Size:
100K - 1M
License:
koziev ilya
commited on
Commit
·
0b80851
1
Parent(s):
926ed28
new baseline benchmarks including facebook/xglm-2.9B
Browse files
README.md
CHANGED
|
@@ -76,14 +76,15 @@ task_ids:
|
|
| 76 |
|
| 77 |
## Метрики генеративных моделей
|
| 78 |
|
| 79 |
-
После файнтюна (1 эпоха, lr=1e-5) на 90%
|
| 80 |
|
| 81 |
```
|
| 82 |
Модель Среднее отклонение числового ответа Доля верных ответов
|
| 83 |
в сравнении с верным
|
| 84 |
-
sberbank-ai/rugpt3small_based_on_gpt2
|
| 85 |
-
sberbank-ai/rugpt3medium_based_on_gpt2
|
| 86 |
-
sberbank-ai/rugpt3large_based_on_gpt2
|
|
|
|
| 87 |
```
|
| 88 |
|
| 89 |
## Генератор сэмплов
|
|
|
|
| 76 |
|
| 77 |
## Метрики генеративных моделей
|
| 78 |
|
| 79 |
+
После файнтюна (1 эпоха, lr=1e-5) на 90% датасета, получаются такие метрики на тестовой части:
|
| 80 |
|
| 81 |
```
|
| 82 |
Модель Среднее отклонение числового ответа Доля верных ответов
|
| 83 |
в сравнении с верным
|
| 84 |
+
sberbank-ai/rugpt3small_based_on_gpt2 8.03e+02% 0.057
|
| 85 |
+
sberbank-ai/rugpt3medium_based_on_gpt2 2.89e+02% 0.085
|
| 86 |
+
sberbank-ai/rugpt3large_based_on_gpt2 1.58e+02% 0.131
|
| 87 |
+
facebook/xglm-2.9B 8.13e+02% 0.224
|
| 88 |
```
|
| 89 |
|
| 90 |
## Генератор сэмплов
|