f64k commited on
Commit
18596f3
·
verified ·
1 Parent(s): ae68fef

Update README.md

Browse files
Files changed (1) hide show
  1. README.md +6 -0
README.md CHANGED
@@ -1,6 +1,12 @@
1
 
2
  ##### \\ai0.softland.ru\f64\Develop\GitFlic\ipynb1\train_saves_7M\mlm_pretraned_7M_723316_part_04\
3
 
 
 
 
 
4
  обучалось на кусках объединенного 7 миллионного сета
5
  по шагам от 09 до 04
6
  тут только MLM обучение без tnved
 
 
 
1
 
2
  ##### \\ai0.softland.ru\f64\Develop\GitFlic\ipynb1\train_saves_7M\mlm_pretraned_7M_723316_part_04\
3
 
4
+ основа bert-base-uncased
5
+ и словарь стандартного размера 30522
6
+ но словарь задан сразу на корпусе 7 миллионов
7
+
8
  обучалось на кусках объединенного 7 миллионного сета
9
  по шагам от 09 до 04
10
  тут только MLM обучение без tnved
11
+
12
+