{
  "best_metric": null,
  "best_model_checkpoint": null,
  "epoch": 2.976,
  "eval_steps": 500,
  "global_step": 279,
  "is_hyper_param_search": false,
  "is_local_process_zero": true,
  "is_world_process_zero": true,
  "log_history": [
    {
      "epoch": 0.010666666666666666,
      "learning_rate": 0.0,
      "loss": 1.6919,
      "step": 1
    },
    {
      "epoch": 0.021333333333333333,
      "learning_rate": 7.525749891599529e-06,
      "loss": 0.7385,
      "step": 2
    },
    {
      "epoch": 0.032,
      "learning_rate": 1.192803136799156e-05,
      "loss": 0.656,
      "step": 3
    },
    {
      "epoch": 0.042666666666666665,
      "learning_rate": 1.5051499783199057e-05,
      "loss": 0.5191,
      "step": 4
    },
    {
      "epoch": 0.05333333333333334,
      "learning_rate": 1.7474250108400467e-05,
      "loss": 0.3518,
      "step": 5
    },
    {
      "epoch": 0.064,
      "learning_rate": 1.945378125959109e-05,
      "loss": 0.2095,
      "step": 6
    },
    {
      "epoch": 0.07466666666666667,
      "learning_rate": 2.1127451000356418e-05,
      "loss": 0.1288,
      "step": 7
    },
    {
      "epoch": 0.08533333333333333,
      "learning_rate": 2.2577249674798584e-05,
      "loss": 0.1015,
      "step": 8
    },
    {
      "epoch": 0.096,
      "learning_rate": 2.385606273598312e-05,
      "loss": 0.0598,
      "step": 9
    },
    {
      "epoch": 0.10666666666666667,
      "learning_rate": 2.4999999999999998e-05,
      "loss": 0.0533,
      "step": 10
    },
    {
      "epoch": 0.11733333333333333,
      "learning_rate": 2.6034817128955623e-05,
      "loss": 0.0625,
      "step": 11
    },
    {
      "epoch": 0.128,
      "learning_rate": 2.6979531151190617e-05,
      "loss": 0.0482,
      "step": 12
    },
    {
      "epoch": 0.13866666666666666,
      "learning_rate": 2.7848583807670913e-05,
      "loss": 0.0296,
      "step": 13
    },
    {
      "epoch": 0.14933333333333335,
      "learning_rate": 2.8653200891955945e-05,
      "loss": 0.0497,
      "step": 14
    },
    {
      "epoch": 0.16,
      "learning_rate": 2.940228147639203e-05,
      "loss": 0.0223,
      "step": 15
    },
    {
      "epoch": 0.17066666666666666,
      "learning_rate": 3.0102999566398115e-05,
      "loss": 0.0267,
      "step": 16
    },
    {
      "epoch": 0.18133333333333335,
      "learning_rate": 3.076122303445685e-05,
      "loss": 0.029,
      "step": 17
    },
    {
      "epoch": 0.192,
      "learning_rate": 3.1381812627582646e-05,
      "loss": 0.0241,
      "step": 18
    },
    {
      "epoch": 0.20266666666666666,
      "learning_rate": 3.1968840023820715e-05,
      "loss": 0.0387,
      "step": 19
    },
    {
      "epoch": 0.21333333333333335,
      "learning_rate": 3.2525749891599525e-05,
      "loss": 0.0113,
      "step": 20
    },
    {
      "epoch": 0.224,
      "learning_rate": 3.305548236834798e-05,
      "loss": 0.0128,
      "step": 21
    },
    {
      "epoch": 0.23466666666666666,
      "learning_rate": 3.3560567020555153e-05,
      "loss": 0.0094,
      "step": 22
    },
    {
      "epoch": 0.24533333333333332,
      "learning_rate": 3.404319590043982e-05,
      "loss": 0.0078,
      "step": 23
    },
    {
      "epoch": 0.256,
      "learning_rate": 3.450528104279015e-05,
      "loss": 0.0104,
      "step": 24
    },
    {
      "epoch": 0.26666666666666666,
      "learning_rate": 3.4948500216800935e-05,
      "loss": 0.0084,
      "step": 25
    },
    {
      "epoch": 0.2773333333333333,
      "learning_rate": 3.537433369927044e-05,
      "loss": 0.0055,
      "step": 26
    },
    {
      "epoch": 0.288,
      "learning_rate": 3.578409410397468e-05,
      "loss": 0.0049,
      "step": 27
    },
    {
      "epoch": 0.2986666666666667,
      "learning_rate": 3.6178950783555475e-05,
      "loss": 0.0072,
      "step": 28
    },
    {
      "epoch": 0.30933333333333335,
      "learning_rate": 3.65599499474739e-05,
      "loss": 0.0055,
      "step": 29
    },
    {
      "epoch": 0.32,
      "learning_rate": 3.6928031367991554e-05,
      "loss": 0.003,
      "step": 30
    },
    {
      "epoch": 0.33066666666666666,
      "learning_rate": 3.728404234585681e-05,
      "loss": 0.0068,
      "step": 31
    },
    {
      "epoch": 0.3413333333333333,
      "learning_rate": 3.762874945799765e-05,
      "loss": 0.0024,
      "step": 32
    },
    {
      "epoch": 0.352,
      "learning_rate": 3.796284849694718e-05,
      "loss": 0.0025,
      "step": 33
    },
    {
      "epoch": 0.3626666666666667,
      "learning_rate": 3.8286972926056376e-05,
      "loss": 0.0041,
      "step": 34
    },
    {
      "epoch": 0.37333333333333335,
      "learning_rate": 3.8601701108756885e-05,
      "loss": 0.0032,
      "step": 35
    },
    {
      "epoch": 0.384,
      "learning_rate": 3.890756251918218e-05,
      "loss": 0.006,
      "step": 36
    },
    {
      "epoch": 0.39466666666666667,
      "learning_rate": 3.920504310167487e-05,
      "loss": 0.0017,
      "step": 37
    },
    {
      "epoch": 0.4053333333333333,
      "learning_rate": 3.949458991542025e-05,
      "loss": 0.0039,
      "step": 38
    },
    {
      "epoch": 0.416,
      "learning_rate": 3.977661517566247e-05,
      "loss": 0.0057,
      "step": 39
    },
    {
      "epoch": 0.4266666666666667,
      "learning_rate": 4.005149978319905e-05,
      "loss": 0.0075,
      "step": 40
    },
    {
      "epoch": 0.43733333333333335,
      "learning_rate": 4.031959641799338e-05,
      "loss": 0.0049,
      "step": 41
    },
    {
      "epoch": 0.448,
      "learning_rate": 4.058123225994751e-05,
      "loss": 0.0081,
      "step": 42
    },
    {
      "epoch": 0.45866666666666667,
      "learning_rate": 4.0836711389489654e-05,
      "loss": 0.0034,
      "step": 43
    },
    {
      "epoch": 0.4693333333333333,
      "learning_rate": 4.108631691215468e-05,
      "loss": 0.003,
      "step": 44
    },
    {
      "epoch": 0.48,
      "learning_rate": 4.133031284438358e-05,
      "loss": 0.0044,
      "step": 45
    },
    {
      "epoch": 0.49066666666666664,
      "learning_rate": 4.156894579203935e-05,
      "loss": 0.0033,
      "step": 46
    },
    {
      "epoch": 0.5013333333333333,
      "learning_rate": 4.180244644839293e-05,
      "loss": 0.0105,
      "step": 47
    },
    {
      "epoch": 0.512,
      "learning_rate": 4.203103093438968e-05,
      "loss": 0.0053,
      "step": 48
    },
    {
      "epoch": 0.5226666666666666,
      "learning_rate": 4.2254902000712836e-05,
      "loss": 0.0065,
      "step": 49
    },
    {
      "epoch": 0.5333333333333333,
      "learning_rate": 4.247425010840046e-05,
      "loss": 0.0095,
      "step": 50
    },
    {
      "epoch": 0.544,
      "learning_rate": 4.2689254402448405e-05,
      "loss": 0.0079,
      "step": 51
    },
    {
      "epoch": 0.5546666666666666,
      "learning_rate": 4.290008359086998e-05,
      "loss": 0.0119,
      "step": 52
    },
    {
      "epoch": 0.5653333333333334,
      "learning_rate": 4.310689674001973e-05,
      "loss": 0.0097,
      "step": 53
    },
    {
      "epoch": 0.576,
      "learning_rate": 4.330984399557421e-05,
      "loss": 0.0099,
      "step": 54
    },
    {
      "epoch": 0.5866666666666667,
      "learning_rate": 4.350906723735609e-05,
      "loss": 0.0035,
      "step": 55
    },
    {
      "epoch": 0.5973333333333334,
      "learning_rate": 4.370470067515501e-05,
      "loss": 0.0069,
      "step": 56
    },
    {
      "epoch": 0.608,
      "learning_rate": 4.3896871391812285e-05,
      "loss": 0.0067,
      "step": 57
    },
    {
      "epoch": 0.6186666666666667,
      "learning_rate": 4.408569983907343e-05,
      "loss": 0.0059,
      "step": 58
    },
    {
      "epoch": 0.6293333333333333,
      "learning_rate": 4.42713002910536e-05,
      "loss": 0.0052,
      "step": 59
    },
    {
      "epoch": 0.64,
      "learning_rate": 4.445378125959108e-05,
      "loss": 0.0323,
      "step": 60
    },
    {
      "epoch": 0.6506666666666666,
      "learning_rate": 4.463324587526917e-05,
      "loss": 0.0327,
      "step": 61
    },
    {
      "epoch": 0.6613333333333333,
      "learning_rate": 4.4809792237456346e-05,
      "loss": 0.0148,
      "step": 62
    },
    {
      "epoch": 0.672,
      "learning_rate": 4.498351373633954e-05,
      "loss": 0.0161,
      "step": 63
    },
    {
      "epoch": 0.6826666666666666,
      "learning_rate": 4.515449934959717e-05,
      "loss": 0.0051,
      "step": 64
    },
    {
      "epoch": 0.6933333333333334,
      "learning_rate": 4.532283391607138e-05,
      "loss": 0.0031,
      "step": 65
    },
    {
      "epoch": 0.704,
      "learning_rate": 4.548859838854671e-05,
      "loss": 0.0029,
      "step": 66
    },
    {
      "epoch": 0.7146666666666667,
      "learning_rate": 4.565187006752065e-05,
      "loss": 0.0019,
      "step": 67
    },
    {
      "epoch": 0.7253333333333334,
      "learning_rate": 4.581272281765591e-05,
      "loss": 0.0048,
      "step": 68
    },
    {
      "epoch": 0.736,
      "learning_rate": 4.597122726843138e-05,
      "loss": 0.0017,
      "step": 69
    },
    {
      "epoch": 0.7466666666666667,
      "learning_rate": 4.612745100035642e-05,
      "loss": 0.0044,
      "step": 70
    },
    {
      "epoch": 0.7573333333333333,
      "learning_rate": 4.628145871797688e-05,
      "loss": 0.0034,
      "step": 71
    },
    {
      "epoch": 0.768,
      "learning_rate": 4.643331241078171e-05,
      "loss": 0.0022,
      "step": 72
    },
    {
      "epoch": 0.7786666666666666,
      "learning_rate": 4.658307150301139e-05,
      "loss": 0.0043,
      "step": 73
    },
    {
      "epoch": 0.7893333333333333,
      "learning_rate": 4.67307929932744e-05,
      "loss": 0.0074,
      "step": 74
    },
    {
      "epoch": 0.8,
      "learning_rate": 4.687653158479249e-05,
      "loss": 0.0034,
      "step": 75
    },
    {
      "epoch": 0.8106666666666666,
      "learning_rate": 4.702033980701978e-05,
      "loss": 0.0024,
      "step": 76
    },
    {
      "epoch": 0.8213333333333334,
      "learning_rate": 4.716226812931204e-05,
      "loss": 0.0012,
      "step": 77
    },
    {
      "epoch": 0.832,
      "learning_rate": 4.7302365067262006e-05,
      "loss": 0.0036,
      "step": 78
    },
    {
      "epoch": 0.8426666666666667,
      "learning_rate": 4.744067728226103e-05,
      "loss": 0.0047,
      "step": 79
    },
    {
      "epoch": 0.8533333333333334,
      "learning_rate": 4.757724967479858e-05,
      "loss": 0.0037,
      "step": 80
    },
    {
      "epoch": 0.864,
      "learning_rate": 4.771212547196624e-05,
      "loss": 0.0022,
      "step": 81
    },
    {
      "epoch": 0.8746666666666667,
      "learning_rate": 4.7845346309592914e-05,
      "loss": 0.0009,
      "step": 82
    },
    {
      "epoch": 0.8853333333333333,
      "learning_rate": 4.7976952309401844e-05,
      "loss": 0.0037,
      "step": 83
    },
    {
      "epoch": 0.896,
      "learning_rate": 4.810698215154703e-05,
      "loss": 0.0029,
      "step": 84
    },
    {
      "epoch": 0.9066666666666666,
      "learning_rate": 4.823547314285732e-05,
      "loss": 0.0078,
      "step": 85
    },
    {
      "epoch": 0.9173333333333333,
      "learning_rate": 4.836246128108918e-05,
      "loss": 0.0014,
      "step": 86
    },
    {
      "epoch": 0.928,
      "learning_rate": 4.8487981315465456e-05,
      "loss": 0.0039,
      "step": 87
    },
    {
      "epoch": 0.9386666666666666,
      "learning_rate": 4.8612066803754214e-05,
      "loss": 0.0034,
      "step": 88
    },
    {
      "epoch": 0.9493333333333334,
      "learning_rate": 4.873475016612281e-05,
      "loss": 0.0048,
      "step": 89
    },
    {
      "epoch": 0.96,
      "learning_rate": 4.885606273598312e-05,
      "loss": 0.0049,
      "step": 90
    },
    {
      "epoch": 0.9706666666666667,
      "learning_rate": 4.897603480802733e-05,
      "loss": 0.0039,
      "step": 91
    },
    {
      "epoch": 0.9813333333333333,
      "learning_rate": 4.909469568363888e-05,
      "loss": 0.0021,
      "step": 92
    },
    {
      "epoch": 0.992,
      "learning_rate": 4.9212073713848375e-05,
      "loss": 0.0013,
      "step": 93
    },
    {
      "epoch": 1.0026666666666666,
      "learning_rate": 4.932819633999246e-05,
      "loss": 0.0026,
      "step": 94
    },
    {
      "epoch": 1.0133333333333334,
      "learning_rate": 4.9443090132221186e-05,
      "loss": 0.0026,
      "step": 95
    },
    {
      "epoch": 1.024,
      "learning_rate": 4.9556780825989205e-05,
      "loss": 0.0065,
      "step": 96
    },
    {
      "epoch": 1.0346666666666666,
      "learning_rate": 4.9669293356656114e-05,
      "loss": 0.004,
      "step": 97
    },
    {
      "epoch": 1.0453333333333332,
      "learning_rate": 4.978065189231237e-05,
      "loss": 0.0092,
      "step": 98
    },
    {
      "epoch": 1.056,
      "learning_rate": 4.989087986493874e-05,
      "loss": 0.0034,
      "step": 99
    },
    {
      "epoch": 1.0666666666666667,
      "learning_rate": 4.9999999999999996e-05,
      "loss": 0.0056,
      "step": 100
    },
    {
      "epoch": 1.0773333333333333,
      "learning_rate": 5e-05,
      "loss": 0.0018,
      "step": 101
    },
    {
      "epoch": 1.088,
      "learning_rate": 4.9720670391061455e-05,
      "loss": 0.0012,
      "step": 102
    },
    {
      "epoch": 1.0986666666666667,
      "learning_rate": 4.944134078212291e-05,
      "loss": 0.002,
      "step": 103
    },
    {
      "epoch": 1.1093333333333333,
      "learning_rate": 4.916201117318436e-05,
      "loss": 0.0027,
      "step": 104
    },
    {
      "epoch": 1.12,
      "learning_rate": 4.8882681564245814e-05,
      "loss": 0.0019,
      "step": 105
    },
    {
      "epoch": 1.1306666666666667,
      "learning_rate": 4.860335195530727e-05,
      "loss": 0.0016,
      "step": 106
    },
    {
      "epoch": 1.1413333333333333,
      "learning_rate": 4.832402234636872e-05,
      "loss": 0.0026,
      "step": 107
    },
    {
      "epoch": 1.152,
      "learning_rate": 4.8044692737430166e-05,
      "loss": 0.0015,
      "step": 108
    },
    {
      "epoch": 1.1626666666666667,
      "learning_rate": 4.7765363128491626e-05,
      "loss": 0.0051,
      "step": 109
    },
    {
      "epoch": 1.1733333333333333,
      "learning_rate": 4.748603351955307e-05,
      "loss": 0.0033,
      "step": 110
    },
    {
      "epoch": 1.184,
      "learning_rate": 4.7206703910614525e-05,
      "loss": 0.0022,
      "step": 111
    },
    {
      "epoch": 1.1946666666666665,
      "learning_rate": 4.692737430167598e-05,
      "loss": 0.0027,
      "step": 112
    },
    {
      "epoch": 1.2053333333333334,
      "learning_rate": 4.664804469273743e-05,
      "loss": 0.002,
      "step": 113
    },
    {
      "epoch": 1.216,
      "learning_rate": 4.6368715083798884e-05,
      "loss": 0.0019,
      "step": 114
    },
    {
      "epoch": 1.2266666666666666,
      "learning_rate": 4.6089385474860336e-05,
      "loss": 0.001,
      "step": 115
    },
    {
      "epoch": 1.2373333333333334,
      "learning_rate": 4.581005586592179e-05,
      "loss": 0.0052,
      "step": 116
    },
    {
      "epoch": 1.248,
      "learning_rate": 4.553072625698324e-05,
      "loss": 0.0018,
      "step": 117
    },
    {
      "epoch": 1.2586666666666666,
      "learning_rate": 4.5251396648044695e-05,
      "loss": 0.0068,
      "step": 118
    },
    {
      "epoch": 1.2693333333333334,
      "learning_rate": 4.497206703910615e-05,
      "loss": 0.001,
      "step": 119
    },
    {
      "epoch": 1.28,
      "learning_rate": 4.4692737430167594e-05,
      "loss": 0.0017,
      "step": 120
    },
    {
      "epoch": 1.2906666666666666,
      "learning_rate": 4.4413407821229054e-05,
      "loss": 0.0012,
      "step": 121
    },
    {
      "epoch": 1.3013333333333335,
      "learning_rate": 4.41340782122905e-05,
      "loss": 0.0022,
      "step": 122
    },
    {
      "epoch": 1.312,
      "learning_rate": 4.385474860335196e-05,
      "loss": 0.0042,
      "step": 123
    },
    {
      "epoch": 1.3226666666666667,
      "learning_rate": 4.3575418994413406e-05,
      "loss": 0.0017,
      "step": 124
    },
    {
      "epoch": 1.3333333333333333,
      "learning_rate": 4.3296089385474866e-05,
      "loss": 0.0089,
      "step": 125
    },
    {
      "epoch": 1.3439999999999999,
      "learning_rate": 4.301675977653631e-05,
      "loss": 0.0008,
      "step": 126
    },
    {
      "epoch": 1.3546666666666667,
      "learning_rate": 4.273743016759777e-05,
      "loss": 0.0016,
      "step": 127
    },
    {
      "epoch": 1.3653333333333333,
      "learning_rate": 4.245810055865922e-05,
      "loss": 0.0009,
      "step": 128
    },
    {
      "epoch": 1.376,
      "learning_rate": 4.217877094972068e-05,
      "loss": 0.0014,
      "step": 129
    },
    {
      "epoch": 1.3866666666666667,
      "learning_rate": 4.1899441340782123e-05,
      "loss": 0.0009,
      "step": 130
    },
    {
      "epoch": 1.3973333333333333,
      "learning_rate": 4.1620111731843576e-05,
      "loss": 0.0027,
      "step": 131
    },
    {
      "epoch": 1.408,
      "learning_rate": 4.134078212290503e-05,
      "loss": 0.0005,
      "step": 132
    },
    {
      "epoch": 1.4186666666666667,
      "learning_rate": 4.106145251396648e-05,
      "loss": 0.0005,
      "step": 133
    },
    {
      "epoch": 1.4293333333333333,
      "learning_rate": 4.0782122905027935e-05,
      "loss": 0.0018,
      "step": 134
    },
    {
      "epoch": 1.44,
      "learning_rate": 4.050279329608939e-05,
      "loss": 0.0013,
      "step": 135
    },
    {
      "epoch": 1.4506666666666668,
      "learning_rate": 4.022346368715084e-05,
      "loss": 0.0013,
      "step": 136
    },
    {
      "epoch": 1.4613333333333334,
      "learning_rate": 3.9944134078212294e-05,
      "loss": 0.0007,
      "step": 137
    },
    {
      "epoch": 1.472,
      "learning_rate": 3.966480446927375e-05,
      "loss": 0.0014,
      "step": 138
    },
    {
      "epoch": 1.4826666666666668,
      "learning_rate": 3.93854748603352e-05,
      "loss": 0.0004,
      "step": 139
    },
    {
      "epoch": 1.4933333333333334,
      "learning_rate": 3.9106145251396646e-05,
      "loss": 0.0005,
      "step": 140
    },
    {
      "epoch": 1.504,
      "learning_rate": 3.8826815642458106e-05,
      "loss": 0.0012,
      "step": 141
    },
    {
      "epoch": 1.5146666666666668,
      "learning_rate": 3.854748603351955e-05,
      "loss": 0.0008,
      "step": 142
    },
    {
      "epoch": 1.5253333333333332,
      "learning_rate": 3.826815642458101e-05,
      "loss": 0.0011,
      "step": 143
    },
    {
      "epoch": 1.536,
      "learning_rate": 3.798882681564246e-05,
      "loss": 0.0001,
      "step": 144
    },
    {
      "epoch": 1.5466666666666666,
      "learning_rate": 3.770949720670392e-05,
      "loss": 0.0018,
      "step": 145
    },
    {
      "epoch": 1.5573333333333332,
      "learning_rate": 3.743016759776536e-05,
      "loss": 0.0002,
      "step": 146
    },
    {
      "epoch": 1.568,
      "learning_rate": 3.715083798882682e-05,
      "loss": 0.0001,
      "step": 147
    },
    {
      "epoch": 1.5786666666666667,
      "learning_rate": 3.687150837988827e-05,
      "loss": 0.0008,
      "step": 148
    },
    {
      "epoch": 1.5893333333333333,
      "learning_rate": 3.659217877094972e-05,
      "loss": 0.0008,
      "step": 149
    },
    {
      "epoch": 1.6,
      "learning_rate": 3.6312849162011175e-05,
      "loss": 0.0,
      "step": 150
    },
    {
      "epoch": 1.6106666666666667,
      "learning_rate": 3.603351955307263e-05,
      "loss": 0.0007,
      "step": 151
    },
    {
      "epoch": 1.6213333333333333,
      "learning_rate": 3.575418994413408e-05,
      "loss": 0.0012,
      "step": 152
    },
    {
      "epoch": 1.6320000000000001,
      "learning_rate": 3.5474860335195534e-05,
      "loss": 0.001,
      "step": 153
    },
    {
      "epoch": 1.6426666666666667,
      "learning_rate": 3.519553072625699e-05,
      "loss": 0.0002,
      "step": 154
    },
    {
      "epoch": 1.6533333333333333,
      "learning_rate": 3.491620111731844e-05,
      "loss": 0.0001,
      "step": 155
    },
    {
      "epoch": 1.6640000000000001,
      "learning_rate": 3.463687150837989e-05,
      "loss": 0.0001,
      "step": 156
    },
    {
      "epoch": 1.6746666666666665,
      "learning_rate": 3.4357541899441345e-05,
      "loss": 0.0001,
      "step": 157
    },
    {
      "epoch": 1.6853333333333333,
      "learning_rate": 3.407821229050279e-05,
      "loss": 0.0005,
      "step": 158
    },
    {
      "epoch": 1.696,
      "learning_rate": 3.3798882681564244e-05,
      "loss": 0.0013,
      "step": 159
    },
    {
      "epoch": 1.7066666666666666,
      "learning_rate": 3.35195530726257e-05,
      "loss": 0.0008,
      "step": 160
    },
    {
      "epoch": 1.7173333333333334,
      "learning_rate": 3.324022346368715e-05,
      "loss": 0.0009,
      "step": 161
    },
    {
      "epoch": 1.728,
      "learning_rate": 3.29608938547486e-05,
      "loss": 0.0002,
      "step": 162
    },
    {
      "epoch": 1.7386666666666666,
      "learning_rate": 3.2681564245810056e-05,
      "loss": 0.0002,
      "step": 163
    },
    {
      "epoch": 1.7493333333333334,
      "learning_rate": 3.240223463687151e-05,
      "loss": 0.0002,
      "step": 164
    },
    {
      "epoch": 1.76,
      "learning_rate": 3.212290502793296e-05,
      "loss": 0.0003,
      "step": 165
    },
    {
      "epoch": 1.7706666666666666,
      "learning_rate": 3.1843575418994415e-05,
      "loss": 0.0003,
      "step": 166
    },
    {
      "epoch": 1.7813333333333334,
      "learning_rate": 3.156424581005587e-05,
      "loss": 0.0002,
      "step": 167
    },
    {
      "epoch": 1.792,
      "learning_rate": 3.128491620111732e-05,
      "loss": 0.0004,
      "step": 168
    },
    {
      "epoch": 1.8026666666666666,
      "learning_rate": 3.1005586592178774e-05,
      "loss": 0.0044,
      "step": 169
    },
    {
      "epoch": 1.8133333333333335,
      "learning_rate": 3.0726256983240227e-05,
      "loss": 0.0002,
      "step": 170
    },
    {
      "epoch": 1.8239999999999998,
      "learning_rate": 3.0446927374301676e-05,
      "loss": 0.0029,
      "step": 171
    },
    {
      "epoch": 1.8346666666666667,
      "learning_rate": 3.0167597765363132e-05,
      "loss": 0.0004,
      "step": 172
    },
    {
      "epoch": 1.8453333333333335,
      "learning_rate": 2.9888268156424582e-05,
      "loss": 0.0003,
      "step": 173
    },
    {
      "epoch": 1.8559999999999999,
      "learning_rate": 2.9608938547486038e-05,
      "loss": 0.0072,
      "step": 174
    },
    {
      "epoch": 1.8666666666666667,
      "learning_rate": 2.9329608938547488e-05,
      "loss": 0.0007,
      "step": 175
    },
    {
      "epoch": 1.8773333333333333,
      "learning_rate": 2.9050279329608944e-05,
      "loss": 0.0008,
      "step": 176
    },
    {
      "epoch": 1.888,
      "learning_rate": 2.8770949720670394e-05,
      "loss": 0.0014,
      "step": 177
    },
    {
      "epoch": 1.8986666666666667,
      "learning_rate": 2.8491620111731843e-05,
      "loss": 0.0005,
      "step": 178
    },
    {
      "epoch": 1.9093333333333333,
      "learning_rate": 2.82122905027933e-05,
      "loss": 0.0007,
      "step": 179
    },
    {
      "epoch": 1.92,
      "learning_rate": 2.793296089385475e-05,
      "loss": 0.0001,
      "step": 180
    },
    {
      "epoch": 1.9306666666666668,
      "learning_rate": 2.7653631284916205e-05,
      "loss": 0.0008,
      "step": 181
    },
    {
      "epoch": 1.9413333333333334,
      "learning_rate": 2.7374301675977655e-05,
      "loss": 0.0009,
      "step": 182
    },
    {
      "epoch": 1.952,
      "learning_rate": 2.7094972067039108e-05,
      "loss": 0.0009,
      "step": 183
    },
    {
      "epoch": 1.9626666666666668,
      "learning_rate": 2.681564245810056e-05,
      "loss": 0.0002,
      "step": 184
    },
    {
      "epoch": 1.9733333333333334,
      "learning_rate": 2.6536312849162014e-05,
      "loss": 0.0003,
      "step": 185
    },
    {
      "epoch": 1.984,
      "learning_rate": 2.6256983240223466e-05,
      "loss": 0.001,
      "step": 186
    },
    {
      "epoch": 1.9946666666666668,
      "learning_rate": 2.5977653631284916e-05,
      "loss": 0.0004,
      "step": 187
    },
    {
      "epoch": 2.005333333333333,
      "learning_rate": 2.569832402234637e-05,
      "loss": 0.0002,
      "step": 188
    },
    {
      "epoch": 2.016,
      "learning_rate": 2.5418994413407822e-05,
      "loss": 0.0,
      "step": 189
    },
    {
      "epoch": 2.026666666666667,
      "learning_rate": 2.5139664804469275e-05,
      "loss": 0.0001,
      "step": 190
    },
    {
      "epoch": 2.037333333333333,
      "learning_rate": 2.4860335195530728e-05,
      "loss": 0.0,
      "step": 191
    },
    {
      "epoch": 2.048,
      "learning_rate": 2.458100558659218e-05,
      "loss": 0.0002,
      "step": 192
    },
    {
      "epoch": 2.058666666666667,
      "learning_rate": 2.4301675977653633e-05,
      "loss": 0.0001,
      "step": 193
    },
    {
      "epoch": 2.0693333333333332,
      "learning_rate": 2.4022346368715083e-05,
      "loss": 0.0004,
      "step": 194
    },
    {
      "epoch": 2.08,
      "learning_rate": 2.3743016759776536e-05,
      "loss": 0.0,
      "step": 195
    },
    {
      "epoch": 2.0906666666666665,
      "learning_rate": 2.346368715083799e-05,
      "loss": 0.0002,
      "step": 196
    },
    {
      "epoch": 2.1013333333333333,
      "learning_rate": 2.3184357541899442e-05,
      "loss": 0.0003,
      "step": 197
    },
    {
      "epoch": 2.112,
      "learning_rate": 2.2905027932960895e-05,
      "loss": 0.0004,
      "step": 198
    },
    {
      "epoch": 2.1226666666666665,
      "learning_rate": 2.2625698324022348e-05,
      "loss": 0.0005,
      "step": 199
    },
    {
      "epoch": 2.1333333333333333,
      "learning_rate": 2.2346368715083797e-05,
      "loss": 0.0,
      "step": 200
    },
    {
      "epoch": 2.144,
      "learning_rate": 2.206703910614525e-05,
      "loss": 0.0014,
      "step": 201
    },
    {
      "epoch": 2.1546666666666665,
      "learning_rate": 2.1787709497206703e-05,
      "loss": 0.0005,
      "step": 202
    },
    {
      "epoch": 2.1653333333333333,
      "learning_rate": 2.1508379888268156e-05,
      "loss": 0.0,
      "step": 203
    },
    {
      "epoch": 2.176,
      "learning_rate": 2.122905027932961e-05,
      "loss": 0.0001,
      "step": 204
    },
    {
      "epoch": 2.1866666666666665,
      "learning_rate": 2.0949720670391062e-05,
      "loss": 0.0,
      "step": 205
    },
    {
      "epoch": 2.1973333333333334,
      "learning_rate": 2.0670391061452515e-05,
      "loss": 0.0005,
      "step": 206
    },
    {
      "epoch": 2.208,
      "learning_rate": 2.0391061452513968e-05,
      "loss": 0.0001,
      "step": 207
    },
    {
      "epoch": 2.2186666666666666,
      "learning_rate": 2.011173184357542e-05,
      "loss": 0.0,
      "step": 208
    },
    {
      "epoch": 2.2293333333333334,
      "learning_rate": 1.9832402234636873e-05,
      "loss": 0.0002,
      "step": 209
    },
    {
      "epoch": 2.24,
      "learning_rate": 1.9553072625698323e-05,
      "loss": 0.0,
      "step": 210
    },
    {
      "epoch": 2.2506666666666666,
      "learning_rate": 1.9273743016759776e-05,
      "loss": 0.0007,
      "step": 211
    },
    {
      "epoch": 2.2613333333333334,
      "learning_rate": 1.899441340782123e-05,
      "loss": 0.0001,
      "step": 212
    },
    {
      "epoch": 2.2720000000000002,
      "learning_rate": 1.871508379888268e-05,
      "loss": 0.0001,
      "step": 213
    },
    {
      "epoch": 2.2826666666666666,
      "learning_rate": 1.8435754189944135e-05,
      "loss": 0.0001,
      "step": 214
    },
    {
      "epoch": 2.2933333333333334,
      "learning_rate": 1.8156424581005588e-05,
      "loss": 0.0001,
      "step": 215
    },
    {
      "epoch": 2.304,
      "learning_rate": 1.787709497206704e-05,
      "loss": 0.0003,
      "step": 216
    },
    {
      "epoch": 2.3146666666666667,
      "learning_rate": 1.7597765363128493e-05,
      "loss": 0.0001,
      "step": 217
    },
    {
      "epoch": 2.3253333333333335,
      "learning_rate": 1.7318435754189946e-05,
      "loss": 0.0002,
      "step": 218
    },
    {
      "epoch": 2.336,
      "learning_rate": 1.7039106145251396e-05,
      "loss": 0.0001,
      "step": 219
    },
    {
      "epoch": 2.3466666666666667,
      "learning_rate": 1.675977653631285e-05,
      "loss": 0.0,
      "step": 220
    },
    {
      "epoch": 2.3573333333333335,
      "learning_rate": 1.64804469273743e-05,
      "loss": 0.0,
      "step": 221
    },
    {
      "epoch": 2.368,
      "learning_rate": 1.6201117318435755e-05,
      "loss": 0.0001,
      "step": 222
    },
    {
      "epoch": 2.3786666666666667,
      "learning_rate": 1.5921787709497207e-05,
      "loss": 0.0003,
      "step": 223
    },
    {
      "epoch": 2.389333333333333,
      "learning_rate": 1.564245810055866e-05,
      "loss": 0.0002,
      "step": 224
    },
    {
      "epoch": 2.4,
      "learning_rate": 1.5363128491620113e-05,
      "loss": 0.0,
      "step": 225
    },
    {
      "epoch": 2.4106666666666667,
      "learning_rate": 1.5083798882681566e-05,
      "loss": 0.0,
      "step": 226
    },
    {
      "epoch": 2.421333333333333,
      "learning_rate": 1.4804469273743019e-05,
      "loss": 0.0,
      "step": 227
    },
    {
      "epoch": 2.432,
      "learning_rate": 1.4525139664804472e-05,
      "loss": 0.0,
      "step": 228
    },
    {
      "epoch": 2.4426666666666668,
      "learning_rate": 1.4245810055865922e-05,
      "loss": 0.0001,
      "step": 229
    },
    {
      "epoch": 2.453333333333333,
      "learning_rate": 1.3966480446927374e-05,
      "loss": 0.0,
      "step": 230
    },
    {
      "epoch": 2.464,
      "learning_rate": 1.3687150837988827e-05,
      "loss": 0.0,
      "step": 231
    },
    {
      "epoch": 2.474666666666667,
      "learning_rate": 1.340782122905028e-05,
      "loss": 0.0,
      "step": 232
    },
    {
      "epoch": 2.485333333333333,
      "learning_rate": 1.3128491620111733e-05,
      "loss": 0.0,
      "step": 233
    },
    {
      "epoch": 2.496,
      "learning_rate": 1.2849162011173184e-05,
      "loss": 0.0,
      "step": 234
    },
    {
      "epoch": 2.506666666666667,
      "learning_rate": 1.2569832402234637e-05,
      "loss": 0.0,
      "step": 235
    },
    {
      "epoch": 2.517333333333333,
      "learning_rate": 1.229050279329609e-05,
      "loss": 0.0,
      "step": 236
    },
    {
      "epoch": 2.528,
      "learning_rate": 1.2011173184357542e-05,
      "loss": 0.0,
      "step": 237
    },
    {
      "epoch": 2.538666666666667,
      "learning_rate": 1.1731843575418994e-05,
      "loss": 0.0,
      "step": 238
    },
    {
      "epoch": 2.5493333333333332,
      "learning_rate": 1.1452513966480447e-05,
      "loss": 0.0,
      "step": 239
    },
    {
      "epoch": 2.56,
      "learning_rate": 1.1173184357541899e-05,
      "loss": 0.0,
      "step": 240
    },
    {
      "epoch": 2.570666666666667,
      "learning_rate": 1.0893854748603351e-05,
      "loss": 0.0013,
      "step": 241
    },
    {
      "epoch": 2.5813333333333333,
      "learning_rate": 1.0614525139664804e-05,
      "loss": 0.0,
      "step": 242
    },
    {
      "epoch": 2.592,
      "learning_rate": 1.0335195530726257e-05,
      "loss": 0.0,
      "step": 243
    },
    {
      "epoch": 2.602666666666667,
      "learning_rate": 1.005586592178771e-05,
      "loss": 0.0,
      "step": 244
    },
    {
      "epoch": 2.6133333333333333,
      "learning_rate": 9.776536312849161e-06,
      "loss": 0.0,
      "step": 245
    },
    {
      "epoch": 2.624,
      "learning_rate": 9.497206703910614e-06,
      "loss": 0.0001,
      "step": 246
    },
    {
      "epoch": 2.634666666666667,
      "learning_rate": 9.217877094972067e-06,
      "loss": 0.0001,
      "step": 247
    },
    {
      "epoch": 2.6453333333333333,
      "learning_rate": 8.93854748603352e-06,
      "loss": 0.0,
      "step": 248
    },
    {
      "epoch": 2.656,
      "learning_rate": 8.659217877094973e-06,
      "loss": 0.0,
      "step": 249
    },
    {
      "epoch": 2.6666666666666665,
      "learning_rate": 8.379888268156424e-06,
      "loss": 0.0,
      "step": 250
    },
    {
      "epoch": 2.6773333333333333,
      "learning_rate": 8.100558659217877e-06,
      "loss": 0.0,
      "step": 251
    },
    {
      "epoch": 2.6879999999999997,
      "learning_rate": 7.82122905027933e-06,
      "loss": 0.0,
      "step": 252
    },
    {
      "epoch": 2.6986666666666665,
      "learning_rate": 7.541899441340783e-06,
      "loss": 0.0,
      "step": 253
    },
    {
      "epoch": 2.7093333333333334,
      "learning_rate": 7.262569832402236e-06,
      "loss": 0.0,
      "step": 254
    },
    {
      "epoch": 2.7199999999999998,
      "learning_rate": 6.983240223463687e-06,
      "loss": 0.0,
      "step": 255
    },
    {
      "epoch": 2.7306666666666666,
      "learning_rate": 6.70391061452514e-06,
      "loss": 0.0,
      "step": 256
    },
    {
      "epoch": 2.7413333333333334,
      "learning_rate": 6.424581005586592e-06,
      "loss": 0.0001,
      "step": 257
    },
    {
      "epoch": 2.752,
      "learning_rate": 6.145251396648045e-06,
      "loss": 0.0005,
      "step": 258
    },
    {
      "epoch": 2.7626666666666666,
      "learning_rate": 5.865921787709497e-06,
      "loss": 0.0,
      "step": 259
    },
    {
      "epoch": 2.7733333333333334,
      "learning_rate": 5.586592178770949e-06,
      "loss": 0.0,
      "step": 260
    },
    {
      "epoch": 2.784,
      "learning_rate": 5.307262569832402e-06,
      "loss": 0.0,
      "step": 261
    },
    {
      "epoch": 2.7946666666666666,
      "learning_rate": 5.027932960893855e-06,
      "loss": 0.0,
      "step": 262
    },
    {
      "epoch": 2.8053333333333335,
      "learning_rate": 4.748603351955307e-06,
      "loss": 0.0007,
      "step": 263
    },
    {
      "epoch": 2.816,
      "learning_rate": 4.46927374301676e-06,
      "loss": 0.0,
      "step": 264
    },
    {
      "epoch": 2.8266666666666667,
      "learning_rate": 4.189944134078212e-06,
      "loss": 0.0026,
      "step": 265
    },
    {
      "epoch": 2.8373333333333335,
      "learning_rate": 3.910614525139665e-06,
      "loss": 0.0,
      "step": 266
    },
    {
      "epoch": 2.848,
      "learning_rate": 3.631284916201118e-06,
      "loss": 0.0,
      "step": 267
    },
    {
      "epoch": 2.8586666666666667,
      "learning_rate": 3.35195530726257e-06,
      "loss": 0.0,
      "step": 268
    },
    {
      "epoch": 2.8693333333333335,
      "learning_rate": 3.0726256983240226e-06,
      "loss": 0.0,
      "step": 269
    },
    {
      "epoch": 2.88,
      "learning_rate": 2.7932960893854746e-06,
      "loss": 0.0,
      "step": 270
    },
    {
      "epoch": 2.8906666666666667,
      "learning_rate": 2.5139664804469276e-06,
      "loss": 0.0,
      "step": 271
    },
    {
      "epoch": 2.9013333333333335,
      "learning_rate": 2.23463687150838e-06,
      "loss": 0.001,
      "step": 272
    },
    {
      "epoch": 2.912,
      "learning_rate": 1.9553072625698325e-06,
      "loss": 0.0002,
      "step": 273
    },
    {
      "epoch": 2.9226666666666667,
      "learning_rate": 1.675977653631285e-06,
      "loss": 0.0006,
      "step": 274
    },
    {
      "epoch": 2.9333333333333336,
      "learning_rate": 1.3966480446927373e-06,
      "loss": 0.0,
      "step": 275
    },
    {
      "epoch": 2.944,
      "learning_rate": 1.11731843575419e-06,
      "loss": 0.0,
      "step": 276
    },
    {
      "epoch": 2.9546666666666668,
      "learning_rate": 8.379888268156425e-07,
      "loss": 0.0,
      "step": 277
    },
    {
      "epoch": 2.9653333333333336,
      "learning_rate": 5.58659217877095e-07,
      "loss": 0.0,
      "step": 278
    },
    {
      "epoch": 2.976,
      "learning_rate": 2.793296089385475e-07,
      "loss": 0.0,
      "step": 279
    },
    {
      "epoch": 2.976,
      "step": 279,
      "total_flos": 12498162040832.0,
      "train_loss": 0.019607835586566418,
      "train_runtime": 25767.3014,
      "train_samples_per_second": 0.349,
      "train_steps_per_second": 0.011
    }
  ],
  "logging_steps": 1.0,
  "max_steps": 279,
  "num_input_tokens_seen": 0,
  "num_train_epochs": 3,
  "save_steps": 100,
  "total_flos": 12498162040832.0,
  "train_batch_size": 1,
  "trial_name": null,
  "trial_params": null
}