{
  "best_global_step": null,
  "best_metric": null,
  "best_model_checkpoint": null,
  "epoch": 0.8533333333333334,
  "eval_steps": 500,
  "global_step": 200,
  "is_hyper_param_search": false,
  "is_local_process_zero": true,
  "is_world_process_zero": true,
  "log_history": [
    {
      "epoch": 0.004266666666666667,
      "grad_norm": 22.56278419494629,
      "learning_rate": 0.0,
      "loss": 1.003,
      "step": 1
    },
    {
      "epoch": 0.008533333333333334,
      "grad_norm": 22.34969711303711,
      "learning_rate": 4.2553191489361707e-08,
      "loss": 1.0007,
      "step": 2
    },
    {
      "epoch": 0.0128,
      "grad_norm": 22.497220993041992,
      "learning_rate": 8.510638297872341e-08,
      "loss": 0.9989,
      "step": 3
    },
    {
      "epoch": 0.017066666666666667,
      "grad_norm": 22.301002502441406,
      "learning_rate": 1.276595744680851e-07,
      "loss": 0.9972,
      "step": 4
    },
    {
      "epoch": 0.021333333333333333,
      "grad_norm": 22.443401336669922,
      "learning_rate": 1.7021276595744683e-07,
      "loss": 0.9995,
      "step": 5
    },
    {
      "epoch": 0.0256,
      "grad_norm": 22.423526763916016,
      "learning_rate": 2.1276595744680852e-07,
      "loss": 0.9983,
      "step": 6
    },
    {
      "epoch": 0.029866666666666666,
      "grad_norm": 22.28087043762207,
      "learning_rate": 2.553191489361702e-07,
      "loss": 0.9965,
      "step": 7
    },
    {
      "epoch": 0.034133333333333335,
      "grad_norm": 22.648902893066406,
      "learning_rate": 2.9787234042553196e-07,
      "loss": 0.9996,
      "step": 8
    },
    {
      "epoch": 0.0384,
      "grad_norm": 21.830528259277344,
      "learning_rate": 3.4042553191489365e-07,
      "loss": 0.9895,
      "step": 9
    },
    {
      "epoch": 0.042666666666666665,
      "grad_norm": 22.060640335083008,
      "learning_rate": 3.8297872340425535e-07,
      "loss": 0.9927,
      "step": 10
    },
    {
      "epoch": 0.046933333333333334,
      "grad_norm": 20.831892013549805,
      "learning_rate": 4.2553191489361704e-07,
      "loss": 0.9694,
      "step": 11
    },
    {
      "epoch": 0.0512,
      "grad_norm": 20.609140396118164,
      "learning_rate": 4.6808510638297873e-07,
      "loss": 0.9665,
      "step": 12
    },
    {
      "epoch": 0.055466666666666664,
      "grad_norm": 20.27930450439453,
      "learning_rate": 5.106382978723404e-07,
      "loss": 0.9665,
      "step": 13
    },
    {
      "epoch": 0.05973333333333333,
      "grad_norm": 20.32429313659668,
      "learning_rate": 5.531914893617021e-07,
      "loss": 0.9611,
      "step": 14
    },
    {
      "epoch": 0.064,
      "grad_norm": 16.961851119995117,
      "learning_rate": 5.957446808510639e-07,
      "loss": 0.8898,
      "step": 15
    },
    {
      "epoch": 0.06826666666666667,
      "grad_norm": 16.51335906982422,
      "learning_rate": 6.382978723404255e-07,
      "loss": 0.8859,
      "step": 16
    },
    {
      "epoch": 0.07253333333333334,
      "grad_norm": 16.328777313232422,
      "learning_rate": 6.808510638297873e-07,
      "loss": 0.8805,
      "step": 17
    },
    {
      "epoch": 0.0768,
      "grad_norm": 15.942858695983887,
      "learning_rate": 7.234042553191489e-07,
      "loss": 0.8662,
      "step": 18
    },
    {
      "epoch": 0.08106666666666666,
      "grad_norm": 15.772059440612793,
      "learning_rate": 7.659574468085107e-07,
      "loss": 0.8618,
      "step": 19
    },
    {
      "epoch": 0.08533333333333333,
      "grad_norm": 15.53687858581543,
      "learning_rate": 8.085106382978725e-07,
      "loss": 0.8506,
      "step": 20
    },
    {
      "epoch": 0.0896,
      "grad_norm": 10.289249420166016,
      "learning_rate": 8.510638297872341e-07,
      "loss": 0.6896,
      "step": 21
    },
    {
      "epoch": 0.09386666666666667,
      "grad_norm": 10.452590942382812,
      "learning_rate": 8.936170212765959e-07,
      "loss": 0.6914,
      "step": 22
    },
    {
      "epoch": 0.09813333333333334,
      "grad_norm": 10.317420959472656,
      "learning_rate": 9.361702127659575e-07,
      "loss": 0.6787,
      "step": 23
    },
    {
      "epoch": 0.1024,
      "grad_norm": 9.890551567077637,
      "learning_rate": 9.787234042553193e-07,
      "loss": 0.6696,
      "step": 24
    },
    {
      "epoch": 0.10666666666666667,
      "grad_norm": 9.151979446411133,
      "learning_rate": 1.0212765957446809e-06,
      "loss": 0.6481,
      "step": 25
    },
    {
      "epoch": 0.11093333333333333,
      "grad_norm": 8.83176040649414,
      "learning_rate": 1.0638297872340427e-06,
      "loss": 0.6352,
      "step": 26
    },
    {
      "epoch": 0.1152,
      "grad_norm": 8.056096076965332,
      "learning_rate": 1.1063829787234042e-06,
      "loss": 0.6139,
      "step": 27
    },
    {
      "epoch": 0.11946666666666667,
      "grad_norm": 8.634873390197754,
      "learning_rate": 1.148936170212766e-06,
      "loss": 0.5139,
      "step": 28
    },
    {
      "epoch": 0.12373333333333333,
      "grad_norm": 6.985842704772949,
      "learning_rate": 1.1914893617021278e-06,
      "loss": 0.4903,
      "step": 29
    },
    {
      "epoch": 0.128,
      "grad_norm": 6.07671594619751,
      "learning_rate": 1.2340425531914894e-06,
      "loss": 0.4741,
      "step": 30
    },
    {
      "epoch": 0.13226666666666667,
      "grad_norm": 5.922327995300293,
      "learning_rate": 1.276595744680851e-06,
      "loss": 0.456,
      "step": 31
    },
    {
      "epoch": 0.13653333333333334,
      "grad_norm": 5.909642696380615,
      "learning_rate": 1.3191489361702128e-06,
      "loss": 0.4431,
      "step": 32
    },
    {
      "epoch": 0.1408,
      "grad_norm": 5.159115314483643,
      "learning_rate": 1.3617021276595746e-06,
      "loss": 0.4265,
      "step": 33
    },
    {
      "epoch": 0.14506666666666668,
      "grad_norm": 4.204401016235352,
      "learning_rate": 1.4042553191489364e-06,
      "loss": 0.408,
      "step": 34
    },
    {
      "epoch": 0.14933333333333335,
      "grad_norm": 3.8235232830047607,
      "learning_rate": 1.4468085106382978e-06,
      "loss": 0.3929,
      "step": 35
    },
    {
      "epoch": 0.1536,
      "grad_norm": 3.8501057624816895,
      "learning_rate": 1.4893617021276596e-06,
      "loss": 0.3837,
      "step": 36
    },
    {
      "epoch": 0.15786666666666666,
      "grad_norm": 4.0237860679626465,
      "learning_rate": 1.5319148936170214e-06,
      "loss": 0.3512,
      "step": 37
    },
    {
      "epoch": 0.16213333333333332,
      "grad_norm": 4.531589031219482,
      "learning_rate": 1.5744680851063832e-06,
      "loss": 0.3299,
      "step": 38
    },
    {
      "epoch": 0.1664,
      "grad_norm": 4.304875373840332,
      "learning_rate": 1.617021276595745e-06,
      "loss": 0.3179,
      "step": 39
    },
    {
      "epoch": 0.17066666666666666,
      "grad_norm": 3.1829235553741455,
      "learning_rate": 1.6595744680851064e-06,
      "loss": 0.3087,
      "step": 40
    },
    {
      "epoch": 0.17493333333333333,
      "grad_norm": 2.890695810317993,
      "learning_rate": 1.7021276595744682e-06,
      "loss": 0.3009,
      "step": 41
    },
    {
      "epoch": 0.1792,
      "grad_norm": 3.62577223777771,
      "learning_rate": 1.74468085106383e-06,
      "loss": 0.2926,
      "step": 42
    },
    {
      "epoch": 0.18346666666666667,
      "grad_norm": 3.2570207118988037,
      "learning_rate": 1.7872340425531918e-06,
      "loss": 0.2857,
      "step": 43
    },
    {
      "epoch": 0.18773333333333334,
      "grad_norm": 2.0917487144470215,
      "learning_rate": 1.8297872340425531e-06,
      "loss": 0.2734,
      "step": 44
    },
    {
      "epoch": 0.192,
      "grad_norm": 2.1430346965789795,
      "learning_rate": 1.872340425531915e-06,
      "loss": 0.2669,
      "step": 45
    },
    {
      "epoch": 0.19626666666666667,
      "grad_norm": 2.666980266571045,
      "learning_rate": 1.9148936170212767e-06,
      "loss": 0.2582,
      "step": 46
    },
    {
      "epoch": 0.20053333333333334,
      "grad_norm": 1.869988203048706,
      "learning_rate": 1.9574468085106385e-06,
      "loss": 0.2517,
      "step": 47
    },
    {
      "epoch": 0.2048,
      "grad_norm": 2.069547653198242,
      "learning_rate": 2.0000000000000003e-06,
      "loss": 0.2445,
      "step": 48
    },
    {
      "epoch": 0.20906666666666668,
      "grad_norm": 2.0606069564819336,
      "learning_rate": 2.0425531914893617e-06,
      "loss": 0.238,
      "step": 49
    },
    {
      "epoch": 0.21333333333333335,
      "grad_norm": 1.706727147102356,
      "learning_rate": 2.0851063829787235e-06,
      "loss": 0.2335,
      "step": 50
    },
    {
      "epoch": 0.2176,
      "grad_norm": 2.278432846069336,
      "learning_rate": 2.1276595744680853e-06,
      "loss": 0.2308,
      "step": 51
    },
    {
      "epoch": 0.22186666666666666,
      "grad_norm": 1.8908629417419434,
      "learning_rate": 2.170212765957447e-06,
      "loss": 0.2262,
      "step": 52
    },
    {
      "epoch": 0.22613333333333333,
      "grad_norm": 1.949669599533081,
      "learning_rate": 2.2127659574468085e-06,
      "loss": 0.219,
      "step": 53
    },
    {
      "epoch": 0.2304,
      "grad_norm": 1.920652151107788,
      "learning_rate": 2.2553191489361703e-06,
      "loss": 0.2162,
      "step": 54
    },
    {
      "epoch": 0.23466666666666666,
      "grad_norm": 2.028974771499634,
      "learning_rate": 2.297872340425532e-06,
      "loss": 0.2121,
      "step": 55
    },
    {
      "epoch": 0.23893333333333333,
      "grad_norm": 1.6449410915374756,
      "learning_rate": 2.340425531914894e-06,
      "loss": 0.2078,
      "step": 56
    },
    {
      "epoch": 0.2432,
      "grad_norm": 1.5636619329452515,
      "learning_rate": 2.3829787234042557e-06,
      "loss": 0.2003,
      "step": 57
    },
    {
      "epoch": 0.24746666666666667,
      "grad_norm": 1.9496514797210693,
      "learning_rate": 2.425531914893617e-06,
      "loss": 0.1962,
      "step": 58
    },
    {
      "epoch": 0.2517333333333333,
      "grad_norm": 1.6503078937530518,
      "learning_rate": 2.468085106382979e-06,
      "loss": 0.1907,
      "step": 59
    },
    {
      "epoch": 0.256,
      "grad_norm": 1.2683771848678589,
      "learning_rate": 2.5106382978723402e-06,
      "loss": 0.1878,
      "step": 60
    },
    {
      "epoch": 0.26026666666666665,
      "grad_norm": 2.003361701965332,
      "learning_rate": 2.553191489361702e-06,
      "loss": 0.1827,
      "step": 61
    },
    {
      "epoch": 0.26453333333333334,
      "grad_norm": 1.4562724828720093,
      "learning_rate": 2.595744680851064e-06,
      "loss": 0.1817,
      "step": 62
    },
    {
      "epoch": 0.2688,
      "grad_norm": 2.4795641899108887,
      "learning_rate": 2.6382978723404256e-06,
      "loss": 0.1787,
      "step": 63
    },
    {
      "epoch": 0.2730666666666667,
      "grad_norm": 2.1848199367523193,
      "learning_rate": 2.6808510638297874e-06,
      "loss": 0.1759,
      "step": 64
    },
    {
      "epoch": 0.2773333333333333,
      "grad_norm": 1.6162073612213135,
      "learning_rate": 2.7234042553191492e-06,
      "loss": 0.1725,
      "step": 65
    },
    {
      "epoch": 0.2816,
      "grad_norm": 3.0534298419952393,
      "learning_rate": 2.765957446808511e-06,
      "loss": 0.169,
      "step": 66
    },
    {
      "epoch": 0.28586666666666666,
      "grad_norm": 1.6378310918807983,
      "learning_rate": 2.808510638297873e-06,
      "loss": 0.1662,
      "step": 67
    },
    {
      "epoch": 0.29013333333333335,
      "grad_norm": 3.190389394760132,
      "learning_rate": 2.8510638297872346e-06,
      "loss": 0.1638,
      "step": 68
    },
    {
      "epoch": 0.2944,
      "grad_norm": 2.222900152206421,
      "learning_rate": 2.8936170212765956e-06,
      "loss": 0.1643,
      "step": 69
    },
    {
      "epoch": 0.2986666666666667,
      "grad_norm": 2.720613956451416,
      "learning_rate": 2.9361702127659574e-06,
      "loss": 0.16,
      "step": 70
    },
    {
      "epoch": 0.30293333333333333,
      "grad_norm": 2.4706056118011475,
      "learning_rate": 2.978723404255319e-06,
      "loss": 0.1595,
      "step": 71
    },
    {
      "epoch": 0.3072,
      "grad_norm": 1.7160310745239258,
      "learning_rate": 3.021276595744681e-06,
      "loss": 0.1579,
      "step": 72
    },
    {
      "epoch": 0.31146666666666667,
      "grad_norm": 3.9026131629943848,
      "learning_rate": 3.0638297872340428e-06,
      "loss": 0.1548,
      "step": 73
    },
    {
      "epoch": 0.3157333333333333,
      "grad_norm": 2.223243236541748,
      "learning_rate": 3.1063829787234046e-06,
      "loss": 0.1571,
      "step": 74
    },
    {
      "epoch": 0.32,
      "grad_norm": 3.901400327682495,
      "learning_rate": 3.1489361702127664e-06,
      "loss": 0.1532,
      "step": 75
    },
    {
      "epoch": 0.32426666666666665,
      "grad_norm": 3.2121057510375977,
      "learning_rate": 3.191489361702128e-06,
      "loss": 0.1535,
      "step": 76
    },
    {
      "epoch": 0.32853333333333334,
      "grad_norm": 2.6652214527130127,
      "learning_rate": 3.23404255319149e-06,
      "loss": 0.1513,
      "step": 77
    },
    {
      "epoch": 0.3328,
      "grad_norm": 5.308091640472412,
      "learning_rate": 3.276595744680851e-06,
      "loss": 0.1501,
      "step": 78
    },
    {
      "epoch": 0.3370666666666667,
      "grad_norm": 4.369630813598633,
      "learning_rate": 3.3191489361702127e-06,
      "loss": 0.1505,
      "step": 79
    },
    {
      "epoch": 0.3413333333333333,
      "grad_norm": 4.927572727203369,
      "learning_rate": 3.3617021276595745e-06,
      "loss": 0.1486,
      "step": 80
    },
    {
      "epoch": 0.3456,
      "grad_norm": 3.150054931640625,
      "learning_rate": 3.4042553191489363e-06,
      "loss": 0.1488,
      "step": 81
    },
    {
      "epoch": 0.34986666666666666,
      "grad_norm": 6.687278747558594,
      "learning_rate": 3.446808510638298e-06,
      "loss": 0.1467,
      "step": 82
    },
    {
      "epoch": 0.35413333333333336,
      "grad_norm": 5.45517635345459,
      "learning_rate": 3.48936170212766e-06,
      "loss": 0.1468,
      "step": 83
    },
    {
      "epoch": 0.3584,
      "grad_norm": 5.900143623352051,
      "learning_rate": 3.5319148936170217e-06,
      "loss": 0.1457,
      "step": 84
    },
    {
      "epoch": 0.3626666666666667,
      "grad_norm": 6.59785795211792,
      "learning_rate": 3.5744680851063835e-06,
      "loss": 0.1479,
      "step": 85
    },
    {
      "epoch": 0.36693333333333333,
      "grad_norm": 3.661660671234131,
      "learning_rate": 3.6170212765957453e-06,
      "loss": 0.1436,
      "step": 86
    },
    {
      "epoch": 0.3712,
      "grad_norm": 4.646217346191406,
      "learning_rate": 3.6595744680851063e-06,
      "loss": 0.1431,
      "step": 87
    },
    {
      "epoch": 0.37546666666666667,
      "grad_norm": 3.3780157566070557,
      "learning_rate": 3.702127659574468e-06,
      "loss": 0.1426,
      "step": 88
    },
    {
      "epoch": 0.3797333333333333,
      "grad_norm": 4.596078395843506,
      "learning_rate": 3.74468085106383e-06,
      "loss": 0.1422,
      "step": 89
    },
    {
      "epoch": 0.384,
      "grad_norm": 3.384758949279785,
      "learning_rate": 3.7872340425531917e-06,
      "loss": 0.1399,
      "step": 90
    },
    {
      "epoch": 0.38826666666666665,
      "grad_norm": 6.492227077484131,
      "learning_rate": 3.8297872340425535e-06,
      "loss": 0.1408,
      "step": 91
    },
    {
      "epoch": 0.39253333333333335,
      "grad_norm": 4.704247951507568,
      "learning_rate": 3.872340425531915e-06,
      "loss": 0.1392,
      "step": 92
    },
    {
      "epoch": 0.3968,
      "grad_norm": 7.741692543029785,
      "learning_rate": 3.914893617021277e-06,
      "loss": 0.1413,
      "step": 93
    },
    {
      "epoch": 0.4010666666666667,
      "grad_norm": 8.09485149383545,
      "learning_rate": 3.957446808510639e-06,
      "loss": 0.1433,
      "step": 94
    },
    {
      "epoch": 0.4053333333333333,
      "grad_norm": 2.9961678981781006,
      "learning_rate": 4.000000000000001e-06,
      "loss": 0.1381,
      "step": 95
    },
    {
      "epoch": 0.4096,
      "grad_norm": 4.540401935577393,
      "learning_rate": 4.042553191489362e-06,
      "loss": 0.1376,
      "step": 96
    },
    {
      "epoch": 0.41386666666666666,
      "grad_norm": 4.068235397338867,
      "learning_rate": 4.085106382978723e-06,
      "loss": 0.1369,
      "step": 97
    },
    {
      "epoch": 0.41813333333333336,
      "grad_norm": 3.181708812713623,
      "learning_rate": 4.127659574468085e-06,
      "loss": 0.1352,
      "step": 98
    },
    {
      "epoch": 0.4224,
      "grad_norm": 4.561326026916504,
      "learning_rate": 4.170212765957447e-06,
      "loss": 0.1358,
      "step": 99
    },
    {
      "epoch": 0.4266666666666667,
      "grad_norm": 3.7372615337371826,
      "learning_rate": 4.212765957446809e-06,
      "loss": 0.1338,
      "step": 100
    },
    {
      "epoch": 0.43093333333333333,
      "grad_norm": 6.206492900848389,
      "learning_rate": 4.255319148936171e-06,
      "loss": 0.1376,
      "step": 101
    },
    {
      "epoch": 0.4352,
      "grad_norm": 4.748600006103516,
      "learning_rate": 4.297872340425532e-06,
      "loss": 0.1353,
      "step": 102
    },
    {
      "epoch": 0.43946666666666667,
      "grad_norm": 8.013435363769531,
      "learning_rate": 4.340425531914894e-06,
      "loss": 0.136,
      "step": 103
    },
    {
      "epoch": 0.4437333333333333,
      "grad_norm": 7.1991190910339355,
      "learning_rate": 4.382978723404256e-06,
      "loss": 0.137,
      "step": 104
    },
    {
      "epoch": 0.448,
      "grad_norm": 4.625593185424805,
      "learning_rate": 4.425531914893617e-06,
      "loss": 0.1319,
      "step": 105
    },
    {
      "epoch": 0.45226666666666665,
      "grad_norm": 4.910801887512207,
      "learning_rate": 4.468085106382979e-06,
      "loss": 0.134,
      "step": 106
    },
    {
      "epoch": 0.45653333333333335,
      "grad_norm": 6.377923488616943,
      "learning_rate": 4.5106382978723406e-06,
      "loss": 0.1342,
      "step": 107
    },
    {
      "epoch": 0.4608,
      "grad_norm": 5.0228986740112305,
      "learning_rate": 4.553191489361702e-06,
      "loss": 0.1343,
      "step": 108
    },
    {
      "epoch": 0.4650666666666667,
      "grad_norm": 6.513828754425049,
      "learning_rate": 4.595744680851064e-06,
      "loss": 0.1308,
      "step": 109
    },
    {
      "epoch": 0.4693333333333333,
      "grad_norm": 5.182156085968018,
      "learning_rate": 4.638297872340426e-06,
      "loss": 0.1324,
      "step": 110
    },
    {
      "epoch": 0.4736,
      "grad_norm": 6.711518287658691,
      "learning_rate": 4.680851063829788e-06,
      "loss": 0.1327,
      "step": 111
    },
    {
      "epoch": 0.47786666666666666,
      "grad_norm": 5.540736198425293,
      "learning_rate": 4.7234042553191496e-06,
      "loss": 0.1316,
      "step": 112
    },
    {
      "epoch": 0.48213333333333336,
      "grad_norm": 5.925957202911377,
      "learning_rate": 4.765957446808511e-06,
      "loss": 0.1302,
      "step": 113
    },
    {
      "epoch": 0.4864,
      "grad_norm": 5.579200744628906,
      "learning_rate": 4.808510638297872e-06,
      "loss": 0.131,
      "step": 114
    },
    {
      "epoch": 0.49066666666666664,
      "grad_norm": 4.405421733856201,
      "learning_rate": 4.851063829787234e-06,
      "loss": 0.1296,
      "step": 115
    },
    {
      "epoch": 0.49493333333333334,
      "grad_norm": 5.265398025512695,
      "learning_rate": 4.893617021276596e-06,
      "loss": 0.1291,
      "step": 116
    },
    {
      "epoch": 0.4992,
      "grad_norm": 3.860846519470215,
      "learning_rate": 4.936170212765958e-06,
      "loss": 0.1303,
      "step": 117
    },
    {
      "epoch": 0.5034666666666666,
      "grad_norm": 2.226341724395752,
      "learning_rate": 4.9787234042553195e-06,
      "loss": 0.1256,
      "step": 118
    },
    {
      "epoch": 0.5077333333333334,
      "grad_norm": 8.795147895812988,
      "learning_rate": 5.0212765957446805e-06,
      "loss": 0.1305,
      "step": 119
    },
    {
      "epoch": 0.512,
      "grad_norm": 4.675596714019775,
      "learning_rate": 5.063829787234042e-06,
      "loss": 0.1295,
      "step": 120
    },
    {
      "epoch": 0.5162666666666667,
      "grad_norm": 11.608587265014648,
      "learning_rate": 5.106382978723404e-06,
      "loss": 0.1315,
      "step": 121
    },
    {
      "epoch": 0.5205333333333333,
      "grad_norm": 11.548611640930176,
      "learning_rate": 5.148936170212766e-06,
      "loss": 0.1354,
      "step": 122
    },
    {
      "epoch": 0.5248,
      "grad_norm": 4.825727462768555,
      "learning_rate": 5.191489361702128e-06,
      "loss": 0.1299,
      "step": 123
    },
    {
      "epoch": 0.5290666666666667,
      "grad_norm": 7.2229413986206055,
      "learning_rate": 5.2340425531914895e-06,
      "loss": 0.1306,
      "step": 124
    },
    {
      "epoch": 0.5333333333333333,
      "grad_norm": 6.224844932556152,
      "learning_rate": 5.276595744680851e-06,
      "loss": 0.1332,
      "step": 125
    },
    {
      "epoch": 0.5376,
      "grad_norm": 5.247742652893066,
      "learning_rate": 5.319148936170213e-06,
      "loss": 0.1277,
      "step": 126
    },
    {
      "epoch": 0.5418666666666667,
      "grad_norm": 7.463538646697998,
      "learning_rate": 5.361702127659575e-06,
      "loss": 0.1313,
      "step": 127
    },
    {
      "epoch": 0.5461333333333334,
      "grad_norm": 5.209482192993164,
      "learning_rate": 5.404255319148937e-06,
      "loss": 0.1304,
      "step": 128
    },
    {
      "epoch": 0.5504,
      "grad_norm": 7.131233215332031,
      "learning_rate": 5.4468085106382985e-06,
      "loss": 0.1283,
      "step": 129
    },
    {
      "epoch": 0.5546666666666666,
      "grad_norm": 5.096197128295898,
      "learning_rate": 5.48936170212766e-06,
      "loss": 0.1314,
      "step": 130
    },
    {
      "epoch": 0.5589333333333333,
      "grad_norm": 8.022686004638672,
      "learning_rate": 5.531914893617022e-06,
      "loss": 0.1287,
      "step": 131
    },
    {
      "epoch": 0.5632,
      "grad_norm": 5.0473175048828125,
      "learning_rate": 5.574468085106384e-06,
      "loss": 0.129,
      "step": 132
    },
    {
      "epoch": 0.5674666666666667,
      "grad_norm": 8.857738494873047,
      "learning_rate": 5.617021276595746e-06,
      "loss": 0.1288,
      "step": 133
    },
    {
      "epoch": 0.5717333333333333,
      "grad_norm": 5.748481750488281,
      "learning_rate": 5.6595744680851075e-06,
      "loss": 0.1298,
      "step": 134
    },
    {
      "epoch": 0.576,
      "grad_norm": 9.72546100616455,
      "learning_rate": 5.702127659574469e-06,
      "loss": 0.1283,
      "step": 135
    },
    {
      "epoch": 0.5802666666666667,
      "grad_norm": 7.091835975646973,
      "learning_rate": 5.744680851063831e-06,
      "loss": 0.1286,
      "step": 136
    },
    {
      "epoch": 0.5845333333333333,
      "grad_norm": 10.19481372833252,
      "learning_rate": 5.787234042553191e-06,
      "loss": 0.1311,
      "step": 137
    },
    {
      "epoch": 0.5888,
      "grad_norm": 9.936722755432129,
      "learning_rate": 5.829787234042553e-06,
      "loss": 0.1273,
      "step": 138
    },
    {
      "epoch": 0.5930666666666666,
      "grad_norm": 5.595465183258057,
      "learning_rate": 5.872340425531915e-06,
      "loss": 0.1242,
      "step": 139
    },
    {
      "epoch": 0.5973333333333334,
      "grad_norm": 5.289859771728516,
      "learning_rate": 5.9148936170212766e-06,
      "loss": 0.1242,
      "step": 140
    },
    {
      "epoch": 0.6016,
      "grad_norm": 8.406579971313477,
      "learning_rate": 5.957446808510638e-06,
      "loss": 0.1251,
      "step": 141
    },
    {
      "epoch": 0.6058666666666667,
      "grad_norm": 6.704819679260254,
      "learning_rate": 6e-06,
      "loss": 0.1255,
      "step": 142
    },
    {
      "epoch": 0.6101333333333333,
      "grad_norm": 9.0625,
      "learning_rate": 6.042553191489362e-06,
      "loss": 0.1255,
      "step": 143
    },
    {
      "epoch": 0.6144,
      "grad_norm": 8.436838150024414,
      "learning_rate": 6.085106382978724e-06,
      "loss": 0.1247,
      "step": 144
    },
    {
      "epoch": 0.6186666666666667,
      "grad_norm": 7.0138630867004395,
      "learning_rate": 6.1276595744680855e-06,
      "loss": 0.1268,
      "step": 145
    },
    {
      "epoch": 0.6229333333333333,
      "grad_norm": 6.2439117431640625,
      "learning_rate": 6.170212765957447e-06,
      "loss": 0.1231,
      "step": 146
    },
    {
      "epoch": 0.6272,
      "grad_norm": 8.84973430633545,
      "learning_rate": 6.212765957446809e-06,
      "loss": 0.1255,
      "step": 147
    },
    {
      "epoch": 0.6314666666666666,
      "grad_norm": 7.984808921813965,
      "learning_rate": 6.255319148936171e-06,
      "loss": 0.1238,
      "step": 148
    },
    {
      "epoch": 0.6357333333333334,
      "grad_norm": 6.803660869598389,
      "learning_rate": 6.297872340425533e-06,
      "loss": 0.1226,
      "step": 149
    },
    {
      "epoch": 0.64,
      "grad_norm": 5.848384380340576,
      "learning_rate": 6.3404255319148945e-06,
      "loss": 0.1224,
      "step": 150
    },
    {
      "epoch": 0.6442666666666667,
      "grad_norm": 8.635106086730957,
      "learning_rate": 6.382978723404256e-06,
      "loss": 0.1232,
      "step": 151
    },
    {
      "epoch": 0.6485333333333333,
      "grad_norm": 7.334502220153809,
      "learning_rate": 6.425531914893618e-06,
      "loss": 0.1235,
      "step": 152
    },
    {
      "epoch": 0.6528,
      "grad_norm": 7.256570816040039,
      "learning_rate": 6.46808510638298e-06,
      "loss": 0.1235,
      "step": 153
    },
    {
      "epoch": 0.6570666666666667,
      "grad_norm": 6.407953262329102,
      "learning_rate": 6.510638297872342e-06,
      "loss": 0.122,
      "step": 154
    },
    {
      "epoch": 0.6613333333333333,
      "grad_norm": 8.223788261413574,
      "learning_rate": 6.553191489361702e-06,
      "loss": 0.124,
      "step": 155
    },
    {
      "epoch": 0.6656,
      "grad_norm": 6.739434242248535,
      "learning_rate": 6.595744680851064e-06,
      "loss": 0.123,
      "step": 156
    },
    {
      "epoch": 0.6698666666666667,
      "grad_norm": 7.93510103225708,
      "learning_rate": 6.6382978723404254e-06,
      "loss": 0.123,
      "step": 157
    },
    {
      "epoch": 0.6741333333333334,
      "grad_norm": 7.154916763305664,
      "learning_rate": 6.680851063829787e-06,
      "loss": 0.1221,
      "step": 158
    },
    {
      "epoch": 0.6784,
      "grad_norm": 6.691060543060303,
      "learning_rate": 6.723404255319149e-06,
      "loss": 0.1225,
      "step": 159
    },
    {
      "epoch": 0.6826666666666666,
      "grad_norm": 5.641987323760986,
      "learning_rate": 6.765957446808511e-06,
      "loss": 0.1208,
      "step": 160
    },
    {
      "epoch": 0.6869333333333333,
      "grad_norm": 7.909478187561035,
      "learning_rate": 6.808510638297873e-06,
      "loss": 0.1229,
      "step": 161
    },
    {
      "epoch": 0.6912,
      "grad_norm": 6.212748050689697,
      "learning_rate": 6.8510638297872344e-06,
      "loss": 0.1201,
      "step": 162
    },
    {
      "epoch": 0.6954666666666667,
      "grad_norm": 7.641393661499023,
      "learning_rate": 6.893617021276596e-06,
      "loss": 0.1215,
      "step": 163
    },
    {
      "epoch": 0.6997333333333333,
      "grad_norm": 6.818618297576904,
      "learning_rate": 6.936170212765958e-06,
      "loss": 0.1212,
      "step": 164
    },
    {
      "epoch": 0.704,
      "grad_norm": 6.080795764923096,
      "learning_rate": 6.97872340425532e-06,
      "loss": 0.1204,
      "step": 165
    },
    {
      "epoch": 0.7082666666666667,
      "grad_norm": 5.294103145599365,
      "learning_rate": 7.021276595744682e-06,
      "loss": 0.12,
      "step": 166
    },
    {
      "epoch": 0.7125333333333334,
      "grad_norm": 7.565417289733887,
      "learning_rate": 7.0638297872340434e-06,
      "loss": 0.1209,
      "step": 167
    },
    {
      "epoch": 0.7168,
      "grad_norm": 6.280045509338379,
      "learning_rate": 7.106382978723405e-06,
      "loss": 0.1212,
      "step": 168
    },
    {
      "epoch": 0.7210666666666666,
      "grad_norm": 6.898222923278809,
      "learning_rate": 7.148936170212767e-06,
      "loss": 0.1206,
      "step": 169
    },
    {
      "epoch": 0.7253333333333334,
      "grad_norm": 6.254840850830078,
      "learning_rate": 7.191489361702129e-06,
      "loss": 0.1203,
      "step": 170
    },
    {
      "epoch": 0.7296,
      "grad_norm": 6.527096748352051,
      "learning_rate": 7.234042553191491e-06,
      "loss": 0.122,
      "step": 171
    },
    {
      "epoch": 0.7338666666666667,
      "grad_norm": 5.724420070648193,
      "learning_rate": 7.2765957446808524e-06,
      "loss": 0.1207,
      "step": 172
    },
    {
      "epoch": 0.7381333333333333,
      "grad_norm": 6.684255123138428,
      "learning_rate": 7.3191489361702125e-06,
      "loss": 0.1219,
      "step": 173
    },
    {
      "epoch": 0.7424,
      "grad_norm": 6.503657341003418,
      "learning_rate": 7.361702127659574e-06,
      "loss": 0.1178,
      "step": 174
    },
    {
      "epoch": 0.7466666666666667,
      "grad_norm": 5.723449230194092,
      "learning_rate": 7.404255319148936e-06,
      "loss": 0.1199,
      "step": 175
    },
    {
      "epoch": 0.7509333333333333,
      "grad_norm": 4.989058017730713,
      "learning_rate": 7.446808510638298e-06,
      "loss": 0.1181,
      "step": 176
    },
    {
      "epoch": 0.7552,
      "grad_norm": 7.475578784942627,
      "learning_rate": 7.48936170212766e-06,
      "loss": 0.1221,
      "step": 177
    },
    {
      "epoch": 0.7594666666666666,
      "grad_norm": 6.384317398071289,
      "learning_rate": 7.5319148936170215e-06,
      "loss": 0.1193,
      "step": 178
    },
    {
      "epoch": 0.7637333333333334,
      "grad_norm": 5.993687629699707,
      "learning_rate": 7.574468085106383e-06,
      "loss": 0.1197,
      "step": 179
    },
    {
      "epoch": 0.768,
      "grad_norm": 5.651639938354492,
      "learning_rate": 7.617021276595745e-06,
      "loss": 0.118,
      "step": 180
    },
    {
      "epoch": 0.7722666666666667,
      "grad_norm": 5.343756675720215,
      "learning_rate": 7.659574468085107e-06,
      "loss": 0.1191,
      "step": 181
    },
    {
      "epoch": 0.7765333333333333,
      "grad_norm": 3.9733238220214844,
      "learning_rate": 7.702127659574469e-06,
      "loss": 0.117,
      "step": 182
    },
    {
      "epoch": 0.7808,
      "grad_norm": 8.402620315551758,
      "learning_rate": 7.74468085106383e-06,
      "loss": 0.1235,
      "step": 183
    },
    {
      "epoch": 0.7850666666666667,
      "grad_norm": 8.289787292480469,
      "learning_rate": 7.787234042553192e-06,
      "loss": 0.121,
      "step": 184
    },
    {
      "epoch": 0.7893333333333333,
      "grad_norm": 3.6568987369537354,
      "learning_rate": 7.829787234042554e-06,
      "loss": 0.1174,
      "step": 185
    },
    {
      "epoch": 0.7936,
      "grad_norm": 11.13115119934082,
      "learning_rate": 7.872340425531916e-06,
      "loss": 0.1257,
      "step": 186
    },
    {
      "epoch": 0.7978666666666666,
      "grad_norm": 5.116509914398193,
      "learning_rate": 7.914893617021278e-06,
      "loss": 0.1195,
      "step": 187
    },
    {
      "epoch": 0.8021333333333334,
      "grad_norm": 15.565638542175293,
      "learning_rate": 7.95744680851064e-06,
      "loss": 0.1417,
      "step": 188
    },
    {
      "epoch": 0.8064,
      "grad_norm": 16.17276954650879,
      "learning_rate": 8.000000000000001e-06,
      "loss": 0.152,
      "step": 189
    },
    {
      "epoch": 0.8106666666666666,
      "grad_norm": 6.167568206787109,
      "learning_rate": 8.042553191489363e-06,
      "loss": 0.1233,
      "step": 190
    },
    {
      "epoch": 0.8149333333333333,
      "grad_norm": 12.830926895141602,
      "learning_rate": 8.085106382978723e-06,
      "loss": 0.1399,
      "step": 191
    },
    {
      "epoch": 0.8192,
      "grad_norm": 12.8762845993042,
      "learning_rate": 8.127659574468085e-06,
      "loss": 0.1521,
      "step": 192
    },
    {
      "epoch": 0.8234666666666667,
      "grad_norm": 8.177667617797852,
      "learning_rate": 8.170212765957447e-06,
      "loss": 0.1298,
      "step": 193
    },
    {
      "epoch": 0.8277333333333333,
      "grad_norm": 6.849120616912842,
      "learning_rate": 8.212765957446809e-06,
      "loss": 0.1287,
      "step": 194
    },
    {
      "epoch": 0.832,
      "grad_norm": 7.727602481842041,
      "learning_rate": 8.25531914893617e-06,
      "loss": 0.1332,
      "step": 195
    },
    {
      "epoch": 0.8362666666666667,
      "grad_norm": 5.658266067504883,
      "learning_rate": 8.297872340425532e-06,
      "loss": 0.1278,
      "step": 196
    },
    {
      "epoch": 0.8405333333333334,
      "grad_norm": 5.271341800689697,
      "learning_rate": 8.340425531914894e-06,
      "loss": 0.1254,
      "step": 197
    },
    {
      "epoch": 0.8448,
      "grad_norm": 5.509979248046875,
      "learning_rate": 8.382978723404256e-06,
      "loss": 0.1283,
      "step": 198
    },
    {
      "epoch": 0.8490666666666666,
      "grad_norm": 4.625118732452393,
      "learning_rate": 8.425531914893618e-06,
      "loss": 0.1226,
      "step": 199
    },
    {
      "epoch": 0.8533333333333334,
      "grad_norm": 5.153396129608154,
      "learning_rate": 8.46808510638298e-06,
      "loss": 0.1258,
      "step": 200
    }
  ],
  "logging_steps": 1,
  "max_steps": 2350,
  "num_input_tokens_seen": 0,
  "num_train_epochs": 10,
  "save_steps": 100,
  "stateful_callbacks": {
    "TrainerControl": {
      "args": {
        "should_epoch_stop": false,
        "should_evaluate": false,
        "should_log": false,
        "should_save": true,
        "should_training_stop": false
      },
      "attributes": {}
    }
  },
  "total_flos": 5.269690929618354e+18,
  "train_batch_size": 8,
  "trial_name": null,
  "trial_params": null
}