File size: 480 Bytes
5d9beae 18596f3 ae68fef 18596f3 | 1 2 3 4 5 6 7 8 9 10 11 12 13 |
##### \\ai0.softland.ru\f64\Develop\GitFlic\ipynb1\train_saves_7M\mlm_pretraned_7M_723316_part_04\
основа bert-base-uncased
и словарь стандартного размера 30522
но словарь задан сразу на корпусе 7 миллионов
обучалось на кусках объединенного 7 миллионного сета
по шагам от 09 до 04
тут только MLM обучение без tnved
|