v5
学習
- コミット：f3f9e506c713df87b6d5a30ad7def1ce2ab80e10
- データセット：v3
学習側の設定
# 学習に使うデータ。
train_data: ./vendor/v3.jsonl
# train_dataのうち、学習中に評価に使うデータの割合。
test_ratio: 0.01
# 評価に使うデータ。
eval_data: ./vendor/unidic_words.jsonl
# 評価用データのうち、学習中に評価に使う単語の数。（eval.pyでは全てのデータを使います）
# nullの場合は全てのデータを使います。
eval_max_words: null
# モデルの次元数。
dim: 256
# 学習するエポック数。
max_epochs: 15
# 最新のエポックから保存するモデルの数。
num_last_models_to_keep: 2
# 保存する上位のモデルの数。
num_best_models_to_keep: 2
# 乱数のシード。
seed: 0
# Optimizerの学習率
optimizer_lr: 0.001
# LayerNormを使うかどうか
use_layernorm: true
# Optimizerのweight_decay（L2正則化）
weight_decay: 0.2