{ "best_global_step": 1200, "best_metric": 0.47726884484291077, "best_model_checkpoint": "lora_model_security_logs_v9_labeled/checkpoint-1200", "epoch": 1.0, "eval_steps": 200, "global_step": 1500, "is_hyper_param_search": false, "is_local_process_zero": true, "is_world_process_zero": true, "log_history": [ { "epoch": 0.03333333333333333, "grad_norm": 0.6829715371131897, "learning_rate": 9.8e-05, "loss": 1.9999, "step": 50 }, { "epoch": 0.06666666666666667, "grad_norm": 0.31721991300582886, "learning_rate": 0.00019800000000000002, "loss": 0.541, "step": 100 }, { "epoch": 0.1, "grad_norm": 0.26042142510414124, "learning_rate": 0.000193, "loss": 0.4888, "step": 150 }, { "epoch": 0.13333333333333333, "grad_norm": 0.18574091792106628, "learning_rate": 0.00018585714285714286, "loss": 0.4738, "step": 200 }, { "epoch": 0.13333333333333333, "eval_loss": 0.4974958896636963, "eval_runtime": 505.3527, "eval_samples_per_second": 3.859, "eval_steps_per_second": 3.859, "step": 200 }, { "epoch": 0.16666666666666666, "grad_norm": 0.15144620835781097, "learning_rate": 0.0001787142857142857, "loss": 0.4663, "step": 250 }, { "epoch": 0.2, "grad_norm": 0.2233528047800064, "learning_rate": 0.0001715714285714286, "loss": 0.4589, "step": 300 }, { "epoch": 0.23333333333333334, "grad_norm": 0.1415550708770752, "learning_rate": 0.00016442857142857144, "loss": 0.4562, "step": 350 }, { "epoch": 0.26666666666666666, "grad_norm": 0.17381848394870758, "learning_rate": 0.0001572857142857143, "loss": 0.4542, "step": 400 }, { "epoch": 0.26666666666666666, "eval_loss": 0.4863407015800476, "eval_runtime": 505.1301, "eval_samples_per_second": 3.86, "eval_steps_per_second": 3.86, "step": 400 }, { "epoch": 0.3, "grad_norm": 0.12664951384067535, "learning_rate": 0.00015014285714285715, "loss": 0.4509, "step": 450 }, { "epoch": 0.3333333333333333, "grad_norm": 0.1399802416563034, "learning_rate": 0.000143, "loss": 0.4494, "step": 500 }, { "epoch": 0.36666666666666664, "grad_norm": 0.13165497779846191, "learning_rate": 0.00013585714285714286, "loss": 0.45, "step": 550 }, { "epoch": 0.4, "grad_norm": 0.1400764137506485, "learning_rate": 0.00012871428571428571, "loss": 0.4483, "step": 600 }, { "epoch": 0.4, "eval_loss": 0.4824991524219513, "eval_runtime": 504.9552, "eval_samples_per_second": 3.862, "eval_steps_per_second": 3.862, "step": 600 }, { "epoch": 0.43333333333333335, "grad_norm": 0.11608292907476425, "learning_rate": 0.00012157142857142858, "loss": 0.4482, "step": 650 }, { "epoch": 0.4666666666666667, "grad_norm": 0.11542435735464096, "learning_rate": 0.00011442857142857144, "loss": 0.447, "step": 700 }, { "epoch": 0.5, "grad_norm": 0.10280290991067886, "learning_rate": 0.0001072857142857143, "loss": 0.4469, "step": 750 }, { "epoch": 0.5333333333333333, "grad_norm": 0.12107875943183899, "learning_rate": 0.00010014285714285714, "loss": 0.4464, "step": 800 }, { "epoch": 0.5333333333333333, "eval_loss": 0.4817500412464142, "eval_runtime": 505.4967, "eval_samples_per_second": 3.858, "eval_steps_per_second": 3.858, "step": 800 }, { "epoch": 0.5666666666666667, "grad_norm": 0.12007971853017807, "learning_rate": 9.300000000000001e-05, "loss": 0.4469, "step": 850 }, { "epoch": 0.6, "grad_norm": 0.10314352810382843, "learning_rate": 8.585714285714286e-05, "loss": 0.4431, "step": 900 }, { "epoch": 0.6333333333333333, "grad_norm": 0.10818742215633392, "learning_rate": 7.871428571428572e-05, "loss": 0.4437, "step": 950 }, { "epoch": 0.6666666666666666, "grad_norm": 0.09120230376720428, "learning_rate": 7.157142857142857e-05, "loss": 0.4458, "step": 1000 }, { "epoch": 0.6666666666666666, "eval_loss": 0.4788644313812256, "eval_runtime": 505.1578, "eval_samples_per_second": 3.86, "eval_steps_per_second": 3.86, "step": 1000 }, { "epoch": 0.7, "grad_norm": 0.09053187817335129, "learning_rate": 6.442857142857143e-05, "loss": 0.4457, "step": 1050 }, { "epoch": 0.7333333333333333, "grad_norm": 0.14393052458763123, "learning_rate": 5.728571428571429e-05, "loss": 0.443, "step": 1100 }, { "epoch": 0.7666666666666667, "grad_norm": 0.12039630115032196, "learning_rate": 5.014285714285715e-05, "loss": 0.4436, "step": 1150 }, { "epoch": 0.8, "grad_norm": 0.12199816107749939, "learning_rate": 4.3e-05, "loss": 0.4423, "step": 1200 }, { "epoch": 0.8, "eval_loss": 0.47726884484291077, "eval_runtime": 503.6642, "eval_samples_per_second": 3.872, "eval_steps_per_second": 3.872, "step": 1200 }, { "epoch": 0.8333333333333334, "grad_norm": 0.11996053159236908, "learning_rate": 3.585714285714286e-05, "loss": 0.445, "step": 1250 }, { "epoch": 0.8666666666666667, "grad_norm": 0.0823620930314064, "learning_rate": 2.8714285714285716e-05, "loss": 0.4427, "step": 1300 }, { "epoch": 0.9, "grad_norm": 0.10724205523729324, "learning_rate": 2.1571428571428574e-05, "loss": 0.4428, "step": 1350 }, { "epoch": 0.9333333333333333, "grad_norm": 0.0817963033914566, "learning_rate": 1.442857142857143e-05, "loss": 0.4418, "step": 1400 }, { "epoch": 0.9333333333333333, "eval_loss": 0.4773610830307007, "eval_runtime": 503.6547, "eval_samples_per_second": 3.872, "eval_steps_per_second": 3.872, "step": 1400 }, { "epoch": 0.9666666666666667, "grad_norm": 0.09200741350650787, "learning_rate": 7.285714285714286e-06, "loss": 0.4423, "step": 1450 }, { "epoch": 1.0, "grad_norm": 0.10160347819328308, "learning_rate": 1.4285714285714287e-07, "loss": 0.4403, "step": 1500 } ], "logging_steps": 50, "max_steps": 1500, "num_input_tokens_seen": 0, "num_train_epochs": 1, "save_steps": 200, "stateful_callbacks": { "TrainerControl": { "args": { "should_epoch_stop": false, "should_evaluate": false, "should_log": false, "should_save": true, "should_training_stop": true }, "attributes": {} } }, "total_flos": 1.516383375005614e+17, "train_batch_size": 1, "trial_name": null, "trial_params": null }