| { |
| "best_global_step": null, |
| "best_metric": null, |
| "best_model_checkpoint": null, |
| "epoch": 166.66666666666666, |
| "eval_steps": 500, |
| "global_step": 500, |
| "is_hyper_param_search": false, |
| "is_local_process_zero": true, |
| "is_world_process_zero": true, |
| "log_history": [ |
| { |
| "epoch": 0.3333333333333333, |
| "grad_norm": 0.0, |
| "learning_rate": 0.001, |
| "loss": 12.006645202636719, |
| "step": 1 |
| }, |
| { |
| "epoch": 3.3333333333333335, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0009955, |
| "loss": 12.006645202636719, |
| "step": 10 |
| }, |
| { |
| "epoch": 6.666666666666667, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0009905, |
| "loss": 12.006645202636719, |
| "step": 20 |
| }, |
| { |
| "epoch": 10.0, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0009855, |
| "loss": 12.006645202636719, |
| "step": 30 |
| }, |
| { |
| "epoch": 13.333333333333334, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0009805, |
| "loss": 12.006645202636719, |
| "step": 40 |
| }, |
| { |
| "epoch": 16.666666666666668, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0009755, |
| "loss": 12.006645202636719, |
| "step": 50 |
| }, |
| { |
| "epoch": 20.0, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0009705, |
| "loss": 12.006645202636719, |
| "step": 60 |
| }, |
| { |
| "epoch": 23.333333333333332, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0009655, |
| "loss": 12.006645202636719, |
| "step": 70 |
| }, |
| { |
| "epoch": 26.666666666666668, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0009605000000000001, |
| "loss": 12.006645202636719, |
| "step": 80 |
| }, |
| { |
| "epoch": 30.0, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0009555000000000001, |
| "loss": 12.006645202636719, |
| "step": 90 |
| }, |
| { |
| "epoch": 33.333333333333336, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0009505000000000001, |
| "loss": 12.006645202636719, |
| "step": 100 |
| }, |
| { |
| "epoch": 36.666666666666664, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0009455, |
| "loss": 12.006645202636719, |
| "step": 110 |
| }, |
| { |
| "epoch": 40.0, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0009405, |
| "loss": 12.006645202636719, |
| "step": 120 |
| }, |
| { |
| "epoch": 43.333333333333336, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0009355, |
| "loss": 12.006645202636719, |
| "step": 130 |
| }, |
| { |
| "epoch": 46.666666666666664, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0009305, |
| "loss": 12.006645202636719, |
| "step": 140 |
| }, |
| { |
| "epoch": 50.0, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0009255, |
| "loss": 12.006645202636719, |
| "step": 150 |
| }, |
| { |
| "epoch": 53.333333333333336, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0009205, |
| "loss": 12.006645202636719, |
| "step": 160 |
| }, |
| { |
| "epoch": 56.666666666666664, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0009155, |
| "loss": 12.006645202636719, |
| "step": 170 |
| }, |
| { |
| "epoch": 60.0, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0009105, |
| "loss": 12.006645202636719, |
| "step": 180 |
| }, |
| { |
| "epoch": 63.333333333333336, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0009055, |
| "loss": 12.006645202636719, |
| "step": 190 |
| }, |
| { |
| "epoch": 66.66666666666667, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0009004999999999999, |
| "loss": 12.006645202636719, |
| "step": 200 |
| }, |
| { |
| "epoch": 70.0, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0008955, |
| "loss": 12.006645202636719, |
| "step": 210 |
| }, |
| { |
| "epoch": 73.33333333333333, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0008905, |
| "loss": 12.006645202636719, |
| "step": 220 |
| }, |
| { |
| "epoch": 76.66666666666667, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0008855, |
| "loss": 12.006645202636719, |
| "step": 230 |
| }, |
| { |
| "epoch": 80.0, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0008805, |
| "loss": 12.006645202636719, |
| "step": 240 |
| }, |
| { |
| "epoch": 83.33333333333333, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0008755, |
| "loss": 12.006645202636719, |
| "step": 250 |
| }, |
| { |
| "epoch": 86.66666666666667, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0008705000000000001, |
| "loss": 12.006645202636719, |
| "step": 260 |
| }, |
| { |
| "epoch": 90.0, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0008655000000000001, |
| "loss": 12.006645202636719, |
| "step": 270 |
| }, |
| { |
| "epoch": 93.33333333333333, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0008605, |
| "loss": 12.006645202636719, |
| "step": 280 |
| }, |
| { |
| "epoch": 96.66666666666667, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0008555, |
| "loss": 12.006645202636719, |
| "step": 290 |
| }, |
| { |
| "epoch": 100.0, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0008505, |
| "loss": 12.006645202636719, |
| "step": 300 |
| }, |
| { |
| "epoch": 103.33333333333333, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0008455, |
| "loss": 12.006645202636719, |
| "step": 310 |
| }, |
| { |
| "epoch": 106.66666666666667, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0008405, |
| "loss": 12.006645202636719, |
| "step": 320 |
| }, |
| { |
| "epoch": 110.0, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0008355000000000001, |
| "loss": 12.006645202636719, |
| "step": 330 |
| }, |
| { |
| "epoch": 113.33333333333333, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0008305000000000001, |
| "loss": 12.006645202636719, |
| "step": 340 |
| }, |
| { |
| "epoch": 116.66666666666667, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0008255000000000001, |
| "loss": 12.006645202636719, |
| "step": 350 |
| }, |
| { |
| "epoch": 120.0, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0008205, |
| "loss": 12.006645202636719, |
| "step": 360 |
| }, |
| { |
| "epoch": 123.33333333333333, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0008155, |
| "loss": 12.006645202636719, |
| "step": 370 |
| }, |
| { |
| "epoch": 126.66666666666667, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0008105, |
| "loss": 12.006645202636719, |
| "step": 380 |
| }, |
| { |
| "epoch": 130.0, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0008055, |
| "loss": 12.006645202636719, |
| "step": 390 |
| }, |
| { |
| "epoch": 133.33333333333334, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0008005, |
| "loss": 12.006645202636719, |
| "step": 400 |
| }, |
| { |
| "epoch": 136.66666666666666, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0007955, |
| "loss": 12.006645202636719, |
| "step": 410 |
| }, |
| { |
| "epoch": 140.0, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0007905, |
| "loss": 12.006645202636719, |
| "step": 420 |
| }, |
| { |
| "epoch": 143.33333333333334, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0007855, |
| "loss": 12.006645202636719, |
| "step": 430 |
| }, |
| { |
| "epoch": 146.66666666666666, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0007804999999999999, |
| "loss": 12.006645202636719, |
| "step": 440 |
| }, |
| { |
| "epoch": 150.0, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0007754999999999999, |
| "loss": 12.006645202636719, |
| "step": 450 |
| }, |
| { |
| "epoch": 153.33333333333334, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0007705, |
| "loss": 12.006645202636719, |
| "step": 460 |
| }, |
| { |
| "epoch": 156.66666666666666, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0007655, |
| "loss": 12.006645202636719, |
| "step": 470 |
| }, |
| { |
| "epoch": 160.0, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0007605, |
| "loss": 12.006645202636719, |
| "step": 480 |
| }, |
| { |
| "epoch": 163.33333333333334, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0007555, |
| "loss": 12.006645202636719, |
| "step": 490 |
| }, |
| { |
| "epoch": 166.66666666666666, |
| "grad_norm": 0.0, |
| "learning_rate": 0.0007505, |
| "loss": 12.006645202636719, |
| "step": 500 |
| } |
| ], |
| "logging_steps": 10, |
| "max_steps": 2000, |
| "num_input_tokens_seen": 0, |
| "num_train_epochs": 667, |
| "save_steps": 500, |
| "stateful_callbacks": { |
| "TrainerControl": { |
| "args": { |
| "should_epoch_stop": false, |
| "should_evaluate": false, |
| "should_log": false, |
| "should_save": true, |
| "should_training_stop": false |
| }, |
| "attributes": {} |
| } |
| }, |
| "total_flos": 291811169525760.0, |
| "train_batch_size": 2, |
| "trial_name": null, |
| "trial_params": null |
| } |
|
|
