{ "best_global_step": null, "best_metric": null, "best_model_checkpoint": null, "epoch": 3.0, "eval_steps": 500, "global_step": 180, "is_hyper_param_search": false, "is_local_process_zero": true, "is_world_process_zero": true, "log_history": [ { "epoch": 0.16666666666666666, "grad_norm": 54.002506256103516, "learning_rate": 0.00019, "loss": 1.1516, "step": 10 }, { "epoch": 0.3333333333333333, "grad_norm": 94.82562255859375, "learning_rate": 0.0001788888888888889, "loss": 0.7908, "step": 20 }, { "epoch": 0.5, "grad_norm": 59.41981506347656, "learning_rate": 0.0001677777777777778, "loss": 0.9385, "step": 30 }, { "epoch": 0.6666666666666666, "grad_norm": 52.318058013916016, "learning_rate": 0.00015666666666666666, "loss": 0.7055, "step": 40 }, { "epoch": 0.8333333333333334, "grad_norm": 23.831907272338867, "learning_rate": 0.00014555555555555556, "loss": 0.5176, "step": 50 }, { "epoch": 1.0, "grad_norm": 16.34128761291504, "learning_rate": 0.00013444444444444447, "loss": 0.3808, "step": 60 }, { "epoch": 1.0, "eval_loss": 0.37904611229896545, "eval_runtime": 112.1148, "eval_samples_per_second": 1.07, "eval_steps_per_second": 0.268, "step": 60 }, { "epoch": 1.1666666666666667, "grad_norm": 39.02091979980469, "learning_rate": 0.00012333333333333334, "loss": 0.2676, "step": 70 }, { "epoch": 1.3333333333333333, "grad_norm": 21.853364944458008, "learning_rate": 0.00011222222222222223, "loss": 0.2726, "step": 80 }, { "epoch": 1.5, "grad_norm": 6.144832134246826, "learning_rate": 0.00010111111111111112, "loss": 0.3901, "step": 90 }, { "epoch": 1.6666666666666665, "grad_norm": 26.888530731201172, "learning_rate": 9e-05, "loss": 0.2967, "step": 100 }, { "epoch": 1.8333333333333335, "grad_norm": 8.118559837341309, "learning_rate": 7.88888888888889e-05, "loss": 0.2704, "step": 110 }, { "epoch": 2.0, "grad_norm": 15.914090156555176, "learning_rate": 6.777777777777778e-05, "loss": 0.204, "step": 120 }, { "epoch": 2.0, "eval_loss": 0.3309185802936554, "eval_runtime": 111.9022, "eval_samples_per_second": 1.072, "eval_steps_per_second": 0.268, "step": 120 }, { "epoch": 2.1666666666666665, "grad_norm": 4.552630424499512, "learning_rate": 5.666666666666667e-05, "loss": 0.1468, "step": 130 }, { "epoch": 2.3333333333333335, "grad_norm": 9.500479698181152, "learning_rate": 4.555555555555556e-05, "loss": 0.1654, "step": 140 }, { "epoch": 2.5, "grad_norm": 11.919659614562988, "learning_rate": 3.444444444444445e-05, "loss": 0.168, "step": 150 }, { "epoch": 2.6666666666666665, "grad_norm": 1.4089142084121704, "learning_rate": 2.3333333333333336e-05, "loss": 0.1181, "step": 160 }, { "epoch": 2.8333333333333335, "grad_norm": 16.73894500732422, "learning_rate": 1.2222222222222222e-05, "loss": 0.0876, "step": 170 }, { "epoch": 3.0, "grad_norm": 31.256778717041016, "learning_rate": 1.1111111111111112e-06, "loss": 0.1272, "step": 180 }, { "epoch": 3.0, "eval_loss": 0.3321630358695984, "eval_runtime": 111.8831, "eval_samples_per_second": 1.073, "eval_steps_per_second": 0.268, "step": 180 } ], "logging_steps": 10, "max_steps": 180, "num_input_tokens_seen": 0, "num_train_epochs": 3, "save_steps": 500, "stateful_callbacks": { "TrainerControl": { "args": { "should_epoch_stop": false, "should_evaluate": false, "should_log": false, "should_save": true, "should_training_stop": true }, "attributes": {} } }, "total_flos": 1.792585324560384e+16, "train_batch_size": 4, "trial_name": null, "trial_params": null }