| { | |
| "best_metric": 0.033857524394989014, | |
| "best_model_checkpoint": "autotrain-uezr0-uoiv8/checkpoint-900", | |
| "epoch": 3.0, | |
| "eval_steps": 500, | |
| "global_step": 900, | |
| "is_hyper_param_search": false, | |
| "is_local_process_zero": true, | |
| "is_world_process_zero": true, | |
| "log_history": [ | |
| { | |
| "epoch": 0.08333333333333333, | |
| "grad_norm": 1.82069730758667, | |
| "learning_rate": 1.388888888888889e-05, | |
| "loss": 0.6908, | |
| "step": 25 | |
| }, | |
| { | |
| "epoch": 0.16666666666666666, | |
| "grad_norm": 2.137547731399536, | |
| "learning_rate": 2.777777777777778e-05, | |
| "loss": 0.6406, | |
| "step": 50 | |
| }, | |
| { | |
| "epoch": 0.25, | |
| "grad_norm": 4.0937089920043945, | |
| "learning_rate": 4.166666666666667e-05, | |
| "loss": 0.4508, | |
| "step": 75 | |
| }, | |
| { | |
| "epoch": 0.3333333333333333, | |
| "grad_norm": 1.7516766786575317, | |
| "learning_rate": 4.938271604938271e-05, | |
| "loss": 0.221, | |
| "step": 100 | |
| }, | |
| { | |
| "epoch": 0.4166666666666667, | |
| "grad_norm": 0.4161239266395569, | |
| "learning_rate": 4.7901234567901237e-05, | |
| "loss": 0.1776, | |
| "step": 125 | |
| }, | |
| { | |
| "epoch": 0.5, | |
| "grad_norm": 0.2219855636358261, | |
| "learning_rate": 4.635802469135803e-05, | |
| "loss": 0.077, | |
| "step": 150 | |
| }, | |
| { | |
| "epoch": 0.5833333333333334, | |
| "grad_norm": 0.8288750648498535, | |
| "learning_rate": 4.481481481481482e-05, | |
| "loss": 0.0728, | |
| "step": 175 | |
| }, | |
| { | |
| "epoch": 0.6666666666666666, | |
| "grad_norm": 0.7433828115463257, | |
| "learning_rate": 4.327160493827161e-05, | |
| "loss": 0.1121, | |
| "step": 200 | |
| }, | |
| { | |
| "epoch": 0.75, | |
| "grad_norm": 0.09709342569112778, | |
| "learning_rate": 4.17283950617284e-05, | |
| "loss": 0.0739, | |
| "step": 225 | |
| }, | |
| { | |
| "epoch": 0.8333333333333334, | |
| "grad_norm": 0.078657366335392, | |
| "learning_rate": 4.018518518518519e-05, | |
| "loss": 0.0763, | |
| "step": 250 | |
| }, | |
| { | |
| "epoch": 0.9166666666666666, | |
| "grad_norm": 0.0632229894399643, | |
| "learning_rate": 3.864197530864197e-05, | |
| "loss": 0.0652, | |
| "step": 275 | |
| }, | |
| { | |
| "epoch": 1.0, | |
| "grad_norm": 0.05742119625210762, | |
| "learning_rate": 3.709876543209877e-05, | |
| "loss": 0.0975, | |
| "step": 300 | |
| }, | |
| { | |
| "epoch": 1.0, | |
| "eval_accuracy": 0.9879166666666667, | |
| "eval_auc": 0.9982201339448166, | |
| "eval_f1": 0.9879317519766958, | |
| "eval_loss": 0.0525396354496479, | |
| "eval_precision": 0.9883430474604497, | |
| "eval_recall": 0.9875207986688852, | |
| "eval_runtime": 1.0448, | |
| "eval_samples_per_second": 2297.14, | |
| "eval_steps_per_second": 36.371, | |
| "step": 300 | |
| }, | |
| { | |
| "epoch": 1.0833333333333333, | |
| "grad_norm": 0.05390068516135216, | |
| "learning_rate": 3.555555555555556e-05, | |
| "loss": 0.0312, | |
| "step": 325 | |
| }, | |
| { | |
| "epoch": 1.1666666666666667, | |
| "grad_norm": 0.04680803418159485, | |
| "learning_rate": 3.401234567901235e-05, | |
| "loss": 0.056, | |
| "step": 350 | |
| }, | |
| { | |
| "epoch": 1.25, | |
| "grad_norm": 0.044450074434280396, | |
| "learning_rate": 3.2469135802469134e-05, | |
| "loss": 0.0256, | |
| "step": 375 | |
| }, | |
| { | |
| "epoch": 1.3333333333333333, | |
| "grad_norm": 7.118642330169678, | |
| "learning_rate": 3.0925925925925924e-05, | |
| "loss": 0.0274, | |
| "step": 400 | |
| }, | |
| { | |
| "epoch": 1.4166666666666667, | |
| "grad_norm": 0.03718909993767738, | |
| "learning_rate": 2.9382716049382718e-05, | |
| "loss": 0.0424, | |
| "step": 425 | |
| }, | |
| { | |
| "epoch": 1.5, | |
| "grad_norm": 0.03126256540417671, | |
| "learning_rate": 2.783950617283951e-05, | |
| "loss": 0.028, | |
| "step": 450 | |
| }, | |
| { | |
| "epoch": 1.5833333333333335, | |
| "grad_norm": 0.04140450805425644, | |
| "learning_rate": 2.6296296296296296e-05, | |
| "loss": 0.0809, | |
| "step": 475 | |
| }, | |
| { | |
| "epoch": 1.6666666666666665, | |
| "grad_norm": 0.031227530911564827, | |
| "learning_rate": 2.475308641975309e-05, | |
| "loss": 0.0303, | |
| "step": 500 | |
| }, | |
| { | |
| "epoch": 1.75, | |
| "grad_norm": 0.03383219987154007, | |
| "learning_rate": 2.3209876543209877e-05, | |
| "loss": 0.0297, | |
| "step": 525 | |
| }, | |
| { | |
| "epoch": 1.8333333333333335, | |
| "grad_norm": 0.21085390448570251, | |
| "learning_rate": 2.1666666666666667e-05, | |
| "loss": 0.058, | |
| "step": 550 | |
| }, | |
| { | |
| "epoch": 1.9166666666666665, | |
| "grad_norm": 0.0288908202201128, | |
| "learning_rate": 2.0123456790123457e-05, | |
| "loss": 0.0398, | |
| "step": 575 | |
| }, | |
| { | |
| "epoch": 2.0, | |
| "grad_norm": 0.045943427830934525, | |
| "learning_rate": 1.8580246913580248e-05, | |
| "loss": 0.0309, | |
| "step": 600 | |
| }, | |
| { | |
| "epoch": 2.0, | |
| "eval_accuracy": 0.9891666666666666, | |
| "eval_auc": 0.9969343664843513, | |
| "eval_f1": 0.9891576313594662, | |
| "eval_loss": 0.051070552319288254, | |
| "eval_precision": 0.9916387959866221, | |
| "eval_recall": 0.9866888519134775, | |
| "eval_runtime": 1.0335, | |
| "eval_samples_per_second": 2322.126, | |
| "eval_steps_per_second": 36.767, | |
| "step": 600 | |
| }, | |
| { | |
| "epoch": 2.0833333333333335, | |
| "grad_norm": 0.03196296840906143, | |
| "learning_rate": 1.7037037037037038e-05, | |
| "loss": 0.032, | |
| "step": 625 | |
| }, | |
| { | |
| "epoch": 2.1666666666666665, | |
| "grad_norm": 0.029745565727353096, | |
| "learning_rate": 1.549382716049383e-05, | |
| "loss": 0.0309, | |
| "step": 650 | |
| }, | |
| { | |
| "epoch": 2.25, | |
| "grad_norm": 0.027830524370074272, | |
| "learning_rate": 1.3950617283950617e-05, | |
| "loss": 0.0329, | |
| "step": 675 | |
| }, | |
| { | |
| "epoch": 2.3333333333333335, | |
| "grad_norm": 0.025451036170125008, | |
| "learning_rate": 1.2407407407407408e-05, | |
| "loss": 0.0092, | |
| "step": 700 | |
| }, | |
| { | |
| "epoch": 2.4166666666666665, | |
| "grad_norm": 0.024281444028019905, | |
| "learning_rate": 1.0864197530864198e-05, | |
| "loss": 0.0362, | |
| "step": 725 | |
| }, | |
| { | |
| "epoch": 2.5, | |
| "grad_norm": 0.02248438447713852, | |
| "learning_rate": 9.320987654320989e-06, | |
| "loss": 0.0189, | |
| "step": 750 | |
| }, | |
| { | |
| "epoch": 2.5833333333333335, | |
| "grad_norm": 0.022118769586086273, | |
| "learning_rate": 7.777777777777777e-06, | |
| "loss": 0.0134, | |
| "step": 775 | |
| }, | |
| { | |
| "epoch": 2.6666666666666665, | |
| "grad_norm": 0.0221453458070755, | |
| "learning_rate": 6.234567901234569e-06, | |
| "loss": 0.0096, | |
| "step": 800 | |
| }, | |
| { | |
| "epoch": 2.75, | |
| "grad_norm": 0.02116595022380352, | |
| "learning_rate": 4.691358024691358e-06, | |
| "loss": 0.0194, | |
| "step": 825 | |
| }, | |
| { | |
| "epoch": 2.8333333333333335, | |
| "grad_norm": 0.02011377364397049, | |
| "learning_rate": 3.148148148148148e-06, | |
| "loss": 0.0106, | |
| "step": 850 | |
| }, | |
| { | |
| "epoch": 2.9166666666666665, | |
| "grad_norm": 0.02164468728005886, | |
| "learning_rate": 1.6049382716049385e-06, | |
| "loss": 0.0093, | |
| "step": 875 | |
| }, | |
| { | |
| "epoch": 3.0, | |
| "grad_norm": 0.037997905164957047, | |
| "learning_rate": 6.17283950617284e-08, | |
| "loss": 0.0185, | |
| "step": 900 | |
| }, | |
| { | |
| "epoch": 3.0, | |
| "eval_accuracy": 0.9933333333333333, | |
| "eval_auc": 0.9984406206683908, | |
| "eval_f1": 0.9933333333333333, | |
| "eval_loss": 0.033857524394989014, | |
| "eval_precision": 0.994991652754591, | |
| "eval_recall": 0.9916805324459235, | |
| "eval_runtime": 1.0406, | |
| "eval_samples_per_second": 2306.446, | |
| "eval_steps_per_second": 36.519, | |
| "step": 900 | |
| } | |
| ], | |
| "logging_steps": 25, | |
| "max_steps": 900, | |
| "num_input_tokens_seen": 0, | |
| "num_train_epochs": 3, | |
| "save_steps": 500, | |
| "stateful_callbacks": { | |
| "EarlyStoppingCallback": { | |
| "args": { | |
| "early_stopping_patience": 5, | |
| "early_stopping_threshold": 0.01 | |
| }, | |
| "attributes": { | |
| "early_stopping_patience_counter": 0 | |
| } | |
| }, | |
| "TrainerControl": { | |
| "args": { | |
| "should_epoch_stop": false, | |
| "should_evaluate": false, | |
| "should_log": false, | |
| "should_save": true, | |
| "should_training_stop": true | |
| }, | |
| "attributes": {} | |
| } | |
| }, | |
| "total_flos": 474283650318336.0, | |
| "train_batch_size": 8, | |
| "trial_name": null, | |
| "trial_params": null | |
| } | |