| { |
| "best_global_step": 1200, |
| "best_metric": 0.47726884484291077, |
| "best_model_checkpoint": "lora_model_security_logs_v9_labeled/checkpoint-1200", |
| "epoch": 1.0, |
| "eval_steps": 200, |
| "global_step": 1500, |
| "is_hyper_param_search": false, |
| "is_local_process_zero": true, |
| "is_world_process_zero": true, |
| "log_history": [ |
| { |
| "epoch": 0.03333333333333333, |
| "grad_norm": 0.6829715371131897, |
| "learning_rate": 9.8e-05, |
| "loss": 1.9999, |
| "step": 50 |
| }, |
| { |
| "epoch": 0.06666666666666667, |
| "grad_norm": 0.31721991300582886, |
| "learning_rate": 0.00019800000000000002, |
| "loss": 0.541, |
| "step": 100 |
| }, |
| { |
| "epoch": 0.1, |
| "grad_norm": 0.26042142510414124, |
| "learning_rate": 0.000193, |
| "loss": 0.4888, |
| "step": 150 |
| }, |
| { |
| "epoch": 0.13333333333333333, |
| "grad_norm": 0.18574091792106628, |
| "learning_rate": 0.00018585714285714286, |
| "loss": 0.4738, |
| "step": 200 |
| }, |
| { |
| "epoch": 0.13333333333333333, |
| "eval_loss": 0.4974958896636963, |
| "eval_runtime": 505.3527, |
| "eval_samples_per_second": 3.859, |
| "eval_steps_per_second": 3.859, |
| "step": 200 |
| }, |
| { |
| "epoch": 0.16666666666666666, |
| "grad_norm": 0.15144620835781097, |
| "learning_rate": 0.0001787142857142857, |
| "loss": 0.4663, |
| "step": 250 |
| }, |
| { |
| "epoch": 0.2, |
| "grad_norm": 0.2233528047800064, |
| "learning_rate": 0.0001715714285714286, |
| "loss": 0.4589, |
| "step": 300 |
| }, |
| { |
| "epoch": 0.23333333333333334, |
| "grad_norm": 0.1415550708770752, |
| "learning_rate": 0.00016442857142857144, |
| "loss": 0.4562, |
| "step": 350 |
| }, |
| { |
| "epoch": 0.26666666666666666, |
| "grad_norm": 0.17381848394870758, |
| "learning_rate": 0.0001572857142857143, |
| "loss": 0.4542, |
| "step": 400 |
| }, |
| { |
| "epoch": 0.26666666666666666, |
| "eval_loss": 0.4863407015800476, |
| "eval_runtime": 505.1301, |
| "eval_samples_per_second": 3.86, |
| "eval_steps_per_second": 3.86, |
| "step": 400 |
| }, |
| { |
| "epoch": 0.3, |
| "grad_norm": 0.12664951384067535, |
| "learning_rate": 0.00015014285714285715, |
| "loss": 0.4509, |
| "step": 450 |
| }, |
| { |
| "epoch": 0.3333333333333333, |
| "grad_norm": 0.1399802416563034, |
| "learning_rate": 0.000143, |
| "loss": 0.4494, |
| "step": 500 |
| }, |
| { |
| "epoch": 0.36666666666666664, |
| "grad_norm": 0.13165497779846191, |
| "learning_rate": 0.00013585714285714286, |
| "loss": 0.45, |
| "step": 550 |
| }, |
| { |
| "epoch": 0.4, |
| "grad_norm": 0.1400764137506485, |
| "learning_rate": 0.00012871428571428571, |
| "loss": 0.4483, |
| "step": 600 |
| }, |
| { |
| "epoch": 0.4, |
| "eval_loss": 0.4824991524219513, |
| "eval_runtime": 504.9552, |
| "eval_samples_per_second": 3.862, |
| "eval_steps_per_second": 3.862, |
| "step": 600 |
| }, |
| { |
| "epoch": 0.43333333333333335, |
| "grad_norm": 0.11608292907476425, |
| "learning_rate": 0.00012157142857142858, |
| "loss": 0.4482, |
| "step": 650 |
| }, |
| { |
| "epoch": 0.4666666666666667, |
| "grad_norm": 0.11542435735464096, |
| "learning_rate": 0.00011442857142857144, |
| "loss": 0.447, |
| "step": 700 |
| }, |
| { |
| "epoch": 0.5, |
| "grad_norm": 0.10280290991067886, |
| "learning_rate": 0.0001072857142857143, |
| "loss": 0.4469, |
| "step": 750 |
| }, |
| { |
| "epoch": 0.5333333333333333, |
| "grad_norm": 0.12107875943183899, |
| "learning_rate": 0.00010014285714285714, |
| "loss": 0.4464, |
| "step": 800 |
| }, |
| { |
| "epoch": 0.5333333333333333, |
| "eval_loss": 0.4817500412464142, |
| "eval_runtime": 505.4967, |
| "eval_samples_per_second": 3.858, |
| "eval_steps_per_second": 3.858, |
| "step": 800 |
| }, |
| { |
| "epoch": 0.5666666666666667, |
| "grad_norm": 0.12007971853017807, |
| "learning_rate": 9.300000000000001e-05, |
| "loss": 0.4469, |
| "step": 850 |
| }, |
| { |
| "epoch": 0.6, |
| "grad_norm": 0.10314352810382843, |
| "learning_rate": 8.585714285714286e-05, |
| "loss": 0.4431, |
| "step": 900 |
| }, |
| { |
| "epoch": 0.6333333333333333, |
| "grad_norm": 0.10818742215633392, |
| "learning_rate": 7.871428571428572e-05, |
| "loss": 0.4437, |
| "step": 950 |
| }, |
| { |
| "epoch": 0.6666666666666666, |
| "grad_norm": 0.09120230376720428, |
| "learning_rate": 7.157142857142857e-05, |
| "loss": 0.4458, |
| "step": 1000 |
| }, |
| { |
| "epoch": 0.6666666666666666, |
| "eval_loss": 0.4788644313812256, |
| "eval_runtime": 505.1578, |
| "eval_samples_per_second": 3.86, |
| "eval_steps_per_second": 3.86, |
| "step": 1000 |
| }, |
| { |
| "epoch": 0.7, |
| "grad_norm": 0.09053187817335129, |
| "learning_rate": 6.442857142857143e-05, |
| "loss": 0.4457, |
| "step": 1050 |
| }, |
| { |
| "epoch": 0.7333333333333333, |
| "grad_norm": 0.14393052458763123, |
| "learning_rate": 5.728571428571429e-05, |
| "loss": 0.443, |
| "step": 1100 |
| }, |
| { |
| "epoch": 0.7666666666666667, |
| "grad_norm": 0.12039630115032196, |
| "learning_rate": 5.014285714285715e-05, |
| "loss": 0.4436, |
| "step": 1150 |
| }, |
| { |
| "epoch": 0.8, |
| "grad_norm": 0.12199816107749939, |
| "learning_rate": 4.3e-05, |
| "loss": 0.4423, |
| "step": 1200 |
| }, |
| { |
| "epoch": 0.8, |
| "eval_loss": 0.47726884484291077, |
| "eval_runtime": 503.6642, |
| "eval_samples_per_second": 3.872, |
| "eval_steps_per_second": 3.872, |
| "step": 1200 |
| }, |
| { |
| "epoch": 0.8333333333333334, |
| "grad_norm": 0.11996053159236908, |
| "learning_rate": 3.585714285714286e-05, |
| "loss": 0.445, |
| "step": 1250 |
| }, |
| { |
| "epoch": 0.8666666666666667, |
| "grad_norm": 0.0823620930314064, |
| "learning_rate": 2.8714285714285716e-05, |
| "loss": 0.4427, |
| "step": 1300 |
| }, |
| { |
| "epoch": 0.9, |
| "grad_norm": 0.10724205523729324, |
| "learning_rate": 2.1571428571428574e-05, |
| "loss": 0.4428, |
| "step": 1350 |
| }, |
| { |
| "epoch": 0.9333333333333333, |
| "grad_norm": 0.0817963033914566, |
| "learning_rate": 1.442857142857143e-05, |
| "loss": 0.4418, |
| "step": 1400 |
| }, |
| { |
| "epoch": 0.9333333333333333, |
| "eval_loss": 0.4773610830307007, |
| "eval_runtime": 503.6547, |
| "eval_samples_per_second": 3.872, |
| "eval_steps_per_second": 3.872, |
| "step": 1400 |
| }, |
| { |
| "epoch": 0.9666666666666667, |
| "grad_norm": 0.09200741350650787, |
| "learning_rate": 7.285714285714286e-06, |
| "loss": 0.4423, |
| "step": 1450 |
| }, |
| { |
| "epoch": 1.0, |
| "grad_norm": 0.10160347819328308, |
| "learning_rate": 1.4285714285714287e-07, |
| "loss": 0.4403, |
| "step": 1500 |
| } |
| ], |
| "logging_steps": 50, |
| "max_steps": 1500, |
| "num_input_tokens_seen": 0, |
| "num_train_epochs": 1, |
| "save_steps": 200, |
| "stateful_callbacks": { |
| "TrainerControl": { |
| "args": { |
| "should_epoch_stop": false, |
| "should_evaluate": false, |
| "should_log": false, |
| "should_save": true, |
| "should_training_stop": true |
| }, |
| "attributes": {} |
| } |
| }, |
| "total_flos": 1.516383375005614e+17, |
| "train_batch_size": 1, |
| "trial_name": null, |
| "trial_params": null |
| } |
|
|
