yetrun's picture
ver1: 实现深度学习训练框架,支持 Wiki GPT 与诗歌生成双任务
a5fd608
- [ ] `<doc>` 格式由于计算图的限制还无法实现,未来打算实现。
- [ ] 希望能通过 Callback 或 train_step 截取到训练过程中的数据。
- [ ] wiki 训练后不能回答事实性问题,感觉是过拟合了,将 dropout 调成 0.5 试一试(当前 0.1)。