{
  "best_global_step": null,
  "best_metric": null,
  "best_model_checkpoint": null,
  "epoch": 1.704,
  "eval_steps": 500,
  "global_step": 400,
  "is_hyper_param_search": false,
  "is_local_process_zero": true,
  "is_world_process_zero": true,
  "log_history": [
    {
      "epoch": 0.004266666666666667,
      "grad_norm": 22.56278419494629,
      "learning_rate": 0.0,
      "loss": 1.003,
      "step": 1
    },
    {
      "epoch": 0.008533333333333334,
      "grad_norm": 22.34969711303711,
      "learning_rate": 4.2553191489361707e-08,
      "loss": 1.0007,
      "step": 2
    },
    {
      "epoch": 0.0128,
      "grad_norm": 22.497220993041992,
      "learning_rate": 8.510638297872341e-08,
      "loss": 0.9989,
      "step": 3
    },
    {
      "epoch": 0.017066666666666667,
      "grad_norm": 22.301002502441406,
      "learning_rate": 1.276595744680851e-07,
      "loss": 0.9972,
      "step": 4
    },
    {
      "epoch": 0.021333333333333333,
      "grad_norm": 22.443401336669922,
      "learning_rate": 1.7021276595744683e-07,
      "loss": 0.9995,
      "step": 5
    },
    {
      "epoch": 0.0256,
      "grad_norm": 22.423526763916016,
      "learning_rate": 2.1276595744680852e-07,
      "loss": 0.9983,
      "step": 6
    },
    {
      "epoch": 0.029866666666666666,
      "grad_norm": 22.28087043762207,
      "learning_rate": 2.553191489361702e-07,
      "loss": 0.9965,
      "step": 7
    },
    {
      "epoch": 0.034133333333333335,
      "grad_norm": 22.648902893066406,
      "learning_rate": 2.9787234042553196e-07,
      "loss": 0.9996,
      "step": 8
    },
    {
      "epoch": 0.0384,
      "grad_norm": 21.830528259277344,
      "learning_rate": 3.4042553191489365e-07,
      "loss": 0.9895,
      "step": 9
    },
    {
      "epoch": 0.042666666666666665,
      "grad_norm": 22.060640335083008,
      "learning_rate": 3.8297872340425535e-07,
      "loss": 0.9927,
      "step": 10
    },
    {
      "epoch": 0.046933333333333334,
      "grad_norm": 20.831892013549805,
      "learning_rate": 4.2553191489361704e-07,
      "loss": 0.9694,
      "step": 11
    },
    {
      "epoch": 0.0512,
      "grad_norm": 20.609140396118164,
      "learning_rate": 4.6808510638297873e-07,
      "loss": 0.9665,
      "step": 12
    },
    {
      "epoch": 0.055466666666666664,
      "grad_norm": 20.27930450439453,
      "learning_rate": 5.106382978723404e-07,
      "loss": 0.9665,
      "step": 13
    },
    {
      "epoch": 0.05973333333333333,
      "grad_norm": 20.32429313659668,
      "learning_rate": 5.531914893617021e-07,
      "loss": 0.9611,
      "step": 14
    },
    {
      "epoch": 0.064,
      "grad_norm": 16.961851119995117,
      "learning_rate": 5.957446808510639e-07,
      "loss": 0.8898,
      "step": 15
    },
    {
      "epoch": 0.06826666666666667,
      "grad_norm": 16.51335906982422,
      "learning_rate": 6.382978723404255e-07,
      "loss": 0.8859,
      "step": 16
    },
    {
      "epoch": 0.07253333333333334,
      "grad_norm": 16.328777313232422,
      "learning_rate": 6.808510638297873e-07,
      "loss": 0.8805,
      "step": 17
    },
    {
      "epoch": 0.0768,
      "grad_norm": 15.942858695983887,
      "learning_rate": 7.234042553191489e-07,
      "loss": 0.8662,
      "step": 18
    },
    {
      "epoch": 0.08106666666666666,
      "grad_norm": 15.772059440612793,
      "learning_rate": 7.659574468085107e-07,
      "loss": 0.8618,
      "step": 19
    },
    {
      "epoch": 0.08533333333333333,
      "grad_norm": 15.53687858581543,
      "learning_rate": 8.085106382978725e-07,
      "loss": 0.8506,
      "step": 20
    },
    {
      "epoch": 0.0896,
      "grad_norm": 10.289249420166016,
      "learning_rate": 8.510638297872341e-07,
      "loss": 0.6896,
      "step": 21
    },
    {
      "epoch": 0.09386666666666667,
      "grad_norm": 10.452590942382812,
      "learning_rate": 8.936170212765959e-07,
      "loss": 0.6914,
      "step": 22
    },
    {
      "epoch": 0.09813333333333334,
      "grad_norm": 10.317420959472656,
      "learning_rate": 9.361702127659575e-07,
      "loss": 0.6787,
      "step": 23
    },
    {
      "epoch": 0.1024,
      "grad_norm": 9.890551567077637,
      "learning_rate": 9.787234042553193e-07,
      "loss": 0.6696,
      "step": 24
    },
    {
      "epoch": 0.10666666666666667,
      "grad_norm": 9.151979446411133,
      "learning_rate": 1.0212765957446809e-06,
      "loss": 0.6481,
      "step": 25
    },
    {
      "epoch": 0.11093333333333333,
      "grad_norm": 8.83176040649414,
      "learning_rate": 1.0638297872340427e-06,
      "loss": 0.6352,
      "step": 26
    },
    {
      "epoch": 0.1152,
      "grad_norm": 8.056096076965332,
      "learning_rate": 1.1063829787234042e-06,
      "loss": 0.6139,
      "step": 27
    },
    {
      "epoch": 0.11946666666666667,
      "grad_norm": 8.634873390197754,
      "learning_rate": 1.148936170212766e-06,
      "loss": 0.5139,
      "step": 28
    },
    {
      "epoch": 0.12373333333333333,
      "grad_norm": 6.985842704772949,
      "learning_rate": 1.1914893617021278e-06,
      "loss": 0.4903,
      "step": 29
    },
    {
      "epoch": 0.128,
      "grad_norm": 6.07671594619751,
      "learning_rate": 1.2340425531914894e-06,
      "loss": 0.4741,
      "step": 30
    },
    {
      "epoch": 0.13226666666666667,
      "grad_norm": 5.922327995300293,
      "learning_rate": 1.276595744680851e-06,
      "loss": 0.456,
      "step": 31
    },
    {
      "epoch": 0.13653333333333334,
      "grad_norm": 5.909642696380615,
      "learning_rate": 1.3191489361702128e-06,
      "loss": 0.4431,
      "step": 32
    },
    {
      "epoch": 0.1408,
      "grad_norm": 5.159115314483643,
      "learning_rate": 1.3617021276595746e-06,
      "loss": 0.4265,
      "step": 33
    },
    {
      "epoch": 0.14506666666666668,
      "grad_norm": 4.204401016235352,
      "learning_rate": 1.4042553191489364e-06,
      "loss": 0.408,
      "step": 34
    },
    {
      "epoch": 0.14933333333333335,
      "grad_norm": 3.8235232830047607,
      "learning_rate": 1.4468085106382978e-06,
      "loss": 0.3929,
      "step": 35
    },
    {
      "epoch": 0.1536,
      "grad_norm": 3.8501057624816895,
      "learning_rate": 1.4893617021276596e-06,
      "loss": 0.3837,
      "step": 36
    },
    {
      "epoch": 0.15786666666666666,
      "grad_norm": 4.0237860679626465,
      "learning_rate": 1.5319148936170214e-06,
      "loss": 0.3512,
      "step": 37
    },
    {
      "epoch": 0.16213333333333332,
      "grad_norm": 4.531589031219482,
      "learning_rate": 1.5744680851063832e-06,
      "loss": 0.3299,
      "step": 38
    },
    {
      "epoch": 0.1664,
      "grad_norm": 4.304875373840332,
      "learning_rate": 1.617021276595745e-06,
      "loss": 0.3179,
      "step": 39
    },
    {
      "epoch": 0.17066666666666666,
      "grad_norm": 3.1829235553741455,
      "learning_rate": 1.6595744680851064e-06,
      "loss": 0.3087,
      "step": 40
    },
    {
      "epoch": 0.17493333333333333,
      "grad_norm": 2.890695810317993,
      "learning_rate": 1.7021276595744682e-06,
      "loss": 0.3009,
      "step": 41
    },
    {
      "epoch": 0.1792,
      "grad_norm": 3.62577223777771,
      "learning_rate": 1.74468085106383e-06,
      "loss": 0.2926,
      "step": 42
    },
    {
      "epoch": 0.18346666666666667,
      "grad_norm": 3.2570207118988037,
      "learning_rate": 1.7872340425531918e-06,
      "loss": 0.2857,
      "step": 43
    },
    {
      "epoch": 0.18773333333333334,
      "grad_norm": 2.0917487144470215,
      "learning_rate": 1.8297872340425531e-06,
      "loss": 0.2734,
      "step": 44
    },
    {
      "epoch": 0.192,
      "grad_norm": 2.1430346965789795,
      "learning_rate": 1.872340425531915e-06,
      "loss": 0.2669,
      "step": 45
    },
    {
      "epoch": 0.19626666666666667,
      "grad_norm": 2.666980266571045,
      "learning_rate": 1.9148936170212767e-06,
      "loss": 0.2582,
      "step": 46
    },
    {
      "epoch": 0.20053333333333334,
      "grad_norm": 1.869988203048706,
      "learning_rate": 1.9574468085106385e-06,
      "loss": 0.2517,
      "step": 47
    },
    {
      "epoch": 0.2048,
      "grad_norm": 2.069547653198242,
      "learning_rate": 2.0000000000000003e-06,
      "loss": 0.2445,
      "step": 48
    },
    {
      "epoch": 0.20906666666666668,
      "grad_norm": 2.0606069564819336,
      "learning_rate": 2.0425531914893617e-06,
      "loss": 0.238,
      "step": 49
    },
    {
      "epoch": 0.21333333333333335,
      "grad_norm": 1.706727147102356,
      "learning_rate": 2.0851063829787235e-06,
      "loss": 0.2335,
      "step": 50
    },
    {
      "epoch": 0.2176,
      "grad_norm": 2.278432846069336,
      "learning_rate": 2.1276595744680853e-06,
      "loss": 0.2308,
      "step": 51
    },
    {
      "epoch": 0.22186666666666666,
      "grad_norm": 1.8908629417419434,
      "learning_rate": 2.170212765957447e-06,
      "loss": 0.2262,
      "step": 52
    },
    {
      "epoch": 0.22613333333333333,
      "grad_norm": 1.949669599533081,
      "learning_rate": 2.2127659574468085e-06,
      "loss": 0.219,
      "step": 53
    },
    {
      "epoch": 0.2304,
      "grad_norm": 1.920652151107788,
      "learning_rate": 2.2553191489361703e-06,
      "loss": 0.2162,
      "step": 54
    },
    {
      "epoch": 0.23466666666666666,
      "grad_norm": 2.028974771499634,
      "learning_rate": 2.297872340425532e-06,
      "loss": 0.2121,
      "step": 55
    },
    {
      "epoch": 0.23893333333333333,
      "grad_norm": 1.6449410915374756,
      "learning_rate": 2.340425531914894e-06,
      "loss": 0.2078,
      "step": 56
    },
    {
      "epoch": 0.2432,
      "grad_norm": 1.5636619329452515,
      "learning_rate": 2.3829787234042557e-06,
      "loss": 0.2003,
      "step": 57
    },
    {
      "epoch": 0.24746666666666667,
      "grad_norm": 1.9496514797210693,
      "learning_rate": 2.425531914893617e-06,
      "loss": 0.1962,
      "step": 58
    },
    {
      "epoch": 0.2517333333333333,
      "grad_norm": 1.6503078937530518,
      "learning_rate": 2.468085106382979e-06,
      "loss": 0.1907,
      "step": 59
    },
    {
      "epoch": 0.256,
      "grad_norm": 1.2683771848678589,
      "learning_rate": 2.5106382978723402e-06,
      "loss": 0.1878,
      "step": 60
    },
    {
      "epoch": 0.26026666666666665,
      "grad_norm": 2.003361701965332,
      "learning_rate": 2.553191489361702e-06,
      "loss": 0.1827,
      "step": 61
    },
    {
      "epoch": 0.26453333333333334,
      "grad_norm": 1.4562724828720093,
      "learning_rate": 2.595744680851064e-06,
      "loss": 0.1817,
      "step": 62
    },
    {
      "epoch": 0.2688,
      "grad_norm": 2.4795641899108887,
      "learning_rate": 2.6382978723404256e-06,
      "loss": 0.1787,
      "step": 63
    },
    {
      "epoch": 0.2730666666666667,
      "grad_norm": 2.1848199367523193,
      "learning_rate": 2.6808510638297874e-06,
      "loss": 0.1759,
      "step": 64
    },
    {
      "epoch": 0.2773333333333333,
      "grad_norm": 1.6162073612213135,
      "learning_rate": 2.7234042553191492e-06,
      "loss": 0.1725,
      "step": 65
    },
    {
      "epoch": 0.2816,
      "grad_norm": 3.0534298419952393,
      "learning_rate": 2.765957446808511e-06,
      "loss": 0.169,
      "step": 66
    },
    {
      "epoch": 0.28586666666666666,
      "grad_norm": 1.6378310918807983,
      "learning_rate": 2.808510638297873e-06,
      "loss": 0.1662,
      "step": 67
    },
    {
      "epoch": 0.29013333333333335,
      "grad_norm": 3.190389394760132,
      "learning_rate": 2.8510638297872346e-06,
      "loss": 0.1638,
      "step": 68
    },
    {
      "epoch": 0.2944,
      "grad_norm": 2.222900152206421,
      "learning_rate": 2.8936170212765956e-06,
      "loss": 0.1643,
      "step": 69
    },
    {
      "epoch": 0.2986666666666667,
      "grad_norm": 2.720613956451416,
      "learning_rate": 2.9361702127659574e-06,
      "loss": 0.16,
      "step": 70
    },
    {
      "epoch": 0.30293333333333333,
      "grad_norm": 2.4706056118011475,
      "learning_rate": 2.978723404255319e-06,
      "loss": 0.1595,
      "step": 71
    },
    {
      "epoch": 0.3072,
      "grad_norm": 1.7160310745239258,
      "learning_rate": 3.021276595744681e-06,
      "loss": 0.1579,
      "step": 72
    },
    {
      "epoch": 0.31146666666666667,
      "grad_norm": 3.9026131629943848,
      "learning_rate": 3.0638297872340428e-06,
      "loss": 0.1548,
      "step": 73
    },
    {
      "epoch": 0.3157333333333333,
      "grad_norm": 2.223243236541748,
      "learning_rate": 3.1063829787234046e-06,
      "loss": 0.1571,
      "step": 74
    },
    {
      "epoch": 0.32,
      "grad_norm": 3.901400327682495,
      "learning_rate": 3.1489361702127664e-06,
      "loss": 0.1532,
      "step": 75
    },
    {
      "epoch": 0.32426666666666665,
      "grad_norm": 3.2121057510375977,
      "learning_rate": 3.191489361702128e-06,
      "loss": 0.1535,
      "step": 76
    },
    {
      "epoch": 0.32853333333333334,
      "grad_norm": 2.6652214527130127,
      "learning_rate": 3.23404255319149e-06,
      "loss": 0.1513,
      "step": 77
    },
    {
      "epoch": 0.3328,
      "grad_norm": 5.308091640472412,
      "learning_rate": 3.276595744680851e-06,
      "loss": 0.1501,
      "step": 78
    },
    {
      "epoch": 0.3370666666666667,
      "grad_norm": 4.369630813598633,
      "learning_rate": 3.3191489361702127e-06,
      "loss": 0.1505,
      "step": 79
    },
    {
      "epoch": 0.3413333333333333,
      "grad_norm": 4.927572727203369,
      "learning_rate": 3.3617021276595745e-06,
      "loss": 0.1486,
      "step": 80
    },
    {
      "epoch": 0.3456,
      "grad_norm": 3.150054931640625,
      "learning_rate": 3.4042553191489363e-06,
      "loss": 0.1488,
      "step": 81
    },
    {
      "epoch": 0.34986666666666666,
      "grad_norm": 6.687278747558594,
      "learning_rate": 3.446808510638298e-06,
      "loss": 0.1467,
      "step": 82
    },
    {
      "epoch": 0.35413333333333336,
      "grad_norm": 5.45517635345459,
      "learning_rate": 3.48936170212766e-06,
      "loss": 0.1468,
      "step": 83
    },
    {
      "epoch": 0.3584,
      "grad_norm": 5.900143623352051,
      "learning_rate": 3.5319148936170217e-06,
      "loss": 0.1457,
      "step": 84
    },
    {
      "epoch": 0.3626666666666667,
      "grad_norm": 6.59785795211792,
      "learning_rate": 3.5744680851063835e-06,
      "loss": 0.1479,
      "step": 85
    },
    {
      "epoch": 0.36693333333333333,
      "grad_norm": 3.661660671234131,
      "learning_rate": 3.6170212765957453e-06,
      "loss": 0.1436,
      "step": 86
    },
    {
      "epoch": 0.3712,
      "grad_norm": 4.646217346191406,
      "learning_rate": 3.6595744680851063e-06,
      "loss": 0.1431,
      "step": 87
    },
    {
      "epoch": 0.37546666666666667,
      "grad_norm": 3.3780157566070557,
      "learning_rate": 3.702127659574468e-06,
      "loss": 0.1426,
      "step": 88
    },
    {
      "epoch": 0.3797333333333333,
      "grad_norm": 4.596078395843506,
      "learning_rate": 3.74468085106383e-06,
      "loss": 0.1422,
      "step": 89
    },
    {
      "epoch": 0.384,
      "grad_norm": 3.384758949279785,
      "learning_rate": 3.7872340425531917e-06,
      "loss": 0.1399,
      "step": 90
    },
    {
      "epoch": 0.38826666666666665,
      "grad_norm": 6.492227077484131,
      "learning_rate": 3.8297872340425535e-06,
      "loss": 0.1408,
      "step": 91
    },
    {
      "epoch": 0.39253333333333335,
      "grad_norm": 4.704247951507568,
      "learning_rate": 3.872340425531915e-06,
      "loss": 0.1392,
      "step": 92
    },
    {
      "epoch": 0.3968,
      "grad_norm": 7.741692543029785,
      "learning_rate": 3.914893617021277e-06,
      "loss": 0.1413,
      "step": 93
    },
    {
      "epoch": 0.4010666666666667,
      "grad_norm": 8.09485149383545,
      "learning_rate": 3.957446808510639e-06,
      "loss": 0.1433,
      "step": 94
    },
    {
      "epoch": 0.4053333333333333,
      "grad_norm": 2.9961678981781006,
      "learning_rate": 4.000000000000001e-06,
      "loss": 0.1381,
      "step": 95
    },
    {
      "epoch": 0.4096,
      "grad_norm": 4.540401935577393,
      "learning_rate": 4.042553191489362e-06,
      "loss": 0.1376,
      "step": 96
    },
    {
      "epoch": 0.41386666666666666,
      "grad_norm": 4.068235397338867,
      "learning_rate": 4.085106382978723e-06,
      "loss": 0.1369,
      "step": 97
    },
    {
      "epoch": 0.41813333333333336,
      "grad_norm": 3.181708812713623,
      "learning_rate": 4.127659574468085e-06,
      "loss": 0.1352,
      "step": 98
    },
    {
      "epoch": 0.4224,
      "grad_norm": 4.561326026916504,
      "learning_rate": 4.170212765957447e-06,
      "loss": 0.1358,
      "step": 99
    },
    {
      "epoch": 0.4266666666666667,
      "grad_norm": 3.7372615337371826,
      "learning_rate": 4.212765957446809e-06,
      "loss": 0.1338,
      "step": 100
    },
    {
      "epoch": 0.43093333333333333,
      "grad_norm": 6.206492900848389,
      "learning_rate": 4.255319148936171e-06,
      "loss": 0.1376,
      "step": 101
    },
    {
      "epoch": 0.4352,
      "grad_norm": 4.748600006103516,
      "learning_rate": 4.297872340425532e-06,
      "loss": 0.1353,
      "step": 102
    },
    {
      "epoch": 0.43946666666666667,
      "grad_norm": 8.013435363769531,
      "learning_rate": 4.340425531914894e-06,
      "loss": 0.136,
      "step": 103
    },
    {
      "epoch": 0.4437333333333333,
      "grad_norm": 7.1991190910339355,
      "learning_rate": 4.382978723404256e-06,
      "loss": 0.137,
      "step": 104
    },
    {
      "epoch": 0.448,
      "grad_norm": 4.625593185424805,
      "learning_rate": 4.425531914893617e-06,
      "loss": 0.1319,
      "step": 105
    },
    {
      "epoch": 0.45226666666666665,
      "grad_norm": 4.910801887512207,
      "learning_rate": 4.468085106382979e-06,
      "loss": 0.134,
      "step": 106
    },
    {
      "epoch": 0.45653333333333335,
      "grad_norm": 6.377923488616943,
      "learning_rate": 4.5106382978723406e-06,
      "loss": 0.1342,
      "step": 107
    },
    {
      "epoch": 0.4608,
      "grad_norm": 5.0228986740112305,
      "learning_rate": 4.553191489361702e-06,
      "loss": 0.1343,
      "step": 108
    },
    {
      "epoch": 0.4650666666666667,
      "grad_norm": 6.513828754425049,
      "learning_rate": 4.595744680851064e-06,
      "loss": 0.1308,
      "step": 109
    },
    {
      "epoch": 0.4693333333333333,
      "grad_norm": 5.182156085968018,
      "learning_rate": 4.638297872340426e-06,
      "loss": 0.1324,
      "step": 110
    },
    {
      "epoch": 0.4736,
      "grad_norm": 6.711518287658691,
      "learning_rate": 4.680851063829788e-06,
      "loss": 0.1327,
      "step": 111
    },
    {
      "epoch": 0.47786666666666666,
      "grad_norm": 5.540736198425293,
      "learning_rate": 4.7234042553191496e-06,
      "loss": 0.1316,
      "step": 112
    },
    {
      "epoch": 0.48213333333333336,
      "grad_norm": 5.925957202911377,
      "learning_rate": 4.765957446808511e-06,
      "loss": 0.1302,
      "step": 113
    },
    {
      "epoch": 0.4864,
      "grad_norm": 5.579200744628906,
      "learning_rate": 4.808510638297872e-06,
      "loss": 0.131,
      "step": 114
    },
    {
      "epoch": 0.49066666666666664,
      "grad_norm": 4.405421733856201,
      "learning_rate": 4.851063829787234e-06,
      "loss": 0.1296,
      "step": 115
    },
    {
      "epoch": 0.49493333333333334,
      "grad_norm": 5.265398025512695,
      "learning_rate": 4.893617021276596e-06,
      "loss": 0.1291,
      "step": 116
    },
    {
      "epoch": 0.4992,
      "grad_norm": 3.860846519470215,
      "learning_rate": 4.936170212765958e-06,
      "loss": 0.1303,
      "step": 117
    },
    {
      "epoch": 0.5034666666666666,
      "grad_norm": 2.226341724395752,
      "learning_rate": 4.9787234042553195e-06,
      "loss": 0.1256,
      "step": 118
    },
    {
      "epoch": 0.5077333333333334,
      "grad_norm": 8.795147895812988,
      "learning_rate": 5.0212765957446805e-06,
      "loss": 0.1305,
      "step": 119
    },
    {
      "epoch": 0.512,
      "grad_norm": 4.675596714019775,
      "learning_rate": 5.063829787234042e-06,
      "loss": 0.1295,
      "step": 120
    },
    {
      "epoch": 0.5162666666666667,
      "grad_norm": 11.608587265014648,
      "learning_rate": 5.106382978723404e-06,
      "loss": 0.1315,
      "step": 121
    },
    {
      "epoch": 0.5205333333333333,
      "grad_norm": 11.548611640930176,
      "learning_rate": 5.148936170212766e-06,
      "loss": 0.1354,
      "step": 122
    },
    {
      "epoch": 0.5248,
      "grad_norm": 4.825727462768555,
      "learning_rate": 5.191489361702128e-06,
      "loss": 0.1299,
      "step": 123
    },
    {
      "epoch": 0.5290666666666667,
      "grad_norm": 7.2229413986206055,
      "learning_rate": 5.2340425531914895e-06,
      "loss": 0.1306,
      "step": 124
    },
    {
      "epoch": 0.5333333333333333,
      "grad_norm": 6.224844932556152,
      "learning_rate": 5.276595744680851e-06,
      "loss": 0.1332,
      "step": 125
    },
    {
      "epoch": 0.5376,
      "grad_norm": 5.247742652893066,
      "learning_rate": 5.319148936170213e-06,
      "loss": 0.1277,
      "step": 126
    },
    {
      "epoch": 0.5418666666666667,
      "grad_norm": 7.463538646697998,
      "learning_rate": 5.361702127659575e-06,
      "loss": 0.1313,
      "step": 127
    },
    {
      "epoch": 0.5461333333333334,
      "grad_norm": 5.209482192993164,
      "learning_rate": 5.404255319148937e-06,
      "loss": 0.1304,
      "step": 128
    },
    {
      "epoch": 0.5504,
      "grad_norm": 7.131233215332031,
      "learning_rate": 5.4468085106382985e-06,
      "loss": 0.1283,
      "step": 129
    },
    {
      "epoch": 0.5546666666666666,
      "grad_norm": 5.096197128295898,
      "learning_rate": 5.48936170212766e-06,
      "loss": 0.1314,
      "step": 130
    },
    {
      "epoch": 0.5589333333333333,
      "grad_norm": 8.022686004638672,
      "learning_rate": 5.531914893617022e-06,
      "loss": 0.1287,
      "step": 131
    },
    {
      "epoch": 0.5632,
      "grad_norm": 5.0473175048828125,
      "learning_rate": 5.574468085106384e-06,
      "loss": 0.129,
      "step": 132
    },
    {
      "epoch": 0.5674666666666667,
      "grad_norm": 8.857738494873047,
      "learning_rate": 5.617021276595746e-06,
      "loss": 0.1288,
      "step": 133
    },
    {
      "epoch": 0.5717333333333333,
      "grad_norm": 5.748481750488281,
      "learning_rate": 5.6595744680851075e-06,
      "loss": 0.1298,
      "step": 134
    },
    {
      "epoch": 0.576,
      "grad_norm": 9.72546100616455,
      "learning_rate": 5.702127659574469e-06,
      "loss": 0.1283,
      "step": 135
    },
    {
      "epoch": 0.5802666666666667,
      "grad_norm": 7.091835975646973,
      "learning_rate": 5.744680851063831e-06,
      "loss": 0.1286,
      "step": 136
    },
    {
      "epoch": 0.5845333333333333,
      "grad_norm": 10.19481372833252,
      "learning_rate": 5.787234042553191e-06,
      "loss": 0.1311,
      "step": 137
    },
    {
      "epoch": 0.5888,
      "grad_norm": 9.936722755432129,
      "learning_rate": 5.829787234042553e-06,
      "loss": 0.1273,
      "step": 138
    },
    {
      "epoch": 0.5930666666666666,
      "grad_norm": 5.595465183258057,
      "learning_rate": 5.872340425531915e-06,
      "loss": 0.1242,
      "step": 139
    },
    {
      "epoch": 0.5973333333333334,
      "grad_norm": 5.289859771728516,
      "learning_rate": 5.9148936170212766e-06,
      "loss": 0.1242,
      "step": 140
    },
    {
      "epoch": 0.6016,
      "grad_norm": 8.406579971313477,
      "learning_rate": 5.957446808510638e-06,
      "loss": 0.1251,
      "step": 141
    },
    {
      "epoch": 0.6058666666666667,
      "grad_norm": 6.704819679260254,
      "learning_rate": 6e-06,
      "loss": 0.1255,
      "step": 142
    },
    {
      "epoch": 0.6101333333333333,
      "grad_norm": 9.0625,
      "learning_rate": 6.042553191489362e-06,
      "loss": 0.1255,
      "step": 143
    },
    {
      "epoch": 0.6144,
      "grad_norm": 8.436838150024414,
      "learning_rate": 6.085106382978724e-06,
      "loss": 0.1247,
      "step": 144
    },
    {
      "epoch": 0.6186666666666667,
      "grad_norm": 7.0138630867004395,
      "learning_rate": 6.1276595744680855e-06,
      "loss": 0.1268,
      "step": 145
    },
    {
      "epoch": 0.6229333333333333,
      "grad_norm": 6.2439117431640625,
      "learning_rate": 6.170212765957447e-06,
      "loss": 0.1231,
      "step": 146
    },
    {
      "epoch": 0.6272,
      "grad_norm": 8.84973430633545,
      "learning_rate": 6.212765957446809e-06,
      "loss": 0.1255,
      "step": 147
    },
    {
      "epoch": 0.6314666666666666,
      "grad_norm": 7.984808921813965,
      "learning_rate": 6.255319148936171e-06,
      "loss": 0.1238,
      "step": 148
    },
    {
      "epoch": 0.6357333333333334,
      "grad_norm": 6.803660869598389,
      "learning_rate": 6.297872340425533e-06,
      "loss": 0.1226,
      "step": 149
    },
    {
      "epoch": 0.64,
      "grad_norm": 5.848384380340576,
      "learning_rate": 6.3404255319148945e-06,
      "loss": 0.1224,
      "step": 150
    },
    {
      "epoch": 0.6442666666666667,
      "grad_norm": 8.635106086730957,
      "learning_rate": 6.382978723404256e-06,
      "loss": 0.1232,
      "step": 151
    },
    {
      "epoch": 0.6485333333333333,
      "grad_norm": 7.334502220153809,
      "learning_rate": 6.425531914893618e-06,
      "loss": 0.1235,
      "step": 152
    },
    {
      "epoch": 0.6528,
      "grad_norm": 7.256570816040039,
      "learning_rate": 6.46808510638298e-06,
      "loss": 0.1235,
      "step": 153
    },
    {
      "epoch": 0.6570666666666667,
      "grad_norm": 6.407953262329102,
      "learning_rate": 6.510638297872342e-06,
      "loss": 0.122,
      "step": 154
    },
    {
      "epoch": 0.6613333333333333,
      "grad_norm": 8.223788261413574,
      "learning_rate": 6.553191489361702e-06,
      "loss": 0.124,
      "step": 155
    },
    {
      "epoch": 0.6656,
      "grad_norm": 6.739434242248535,
      "learning_rate": 6.595744680851064e-06,
      "loss": 0.123,
      "step": 156
    },
    {
      "epoch": 0.6698666666666667,
      "grad_norm": 7.93510103225708,
      "learning_rate": 6.6382978723404254e-06,
      "loss": 0.123,
      "step": 157
    },
    {
      "epoch": 0.6741333333333334,
      "grad_norm": 7.154916763305664,
      "learning_rate": 6.680851063829787e-06,
      "loss": 0.1221,
      "step": 158
    },
    {
      "epoch": 0.6784,
      "grad_norm": 6.691060543060303,
      "learning_rate": 6.723404255319149e-06,
      "loss": 0.1225,
      "step": 159
    },
    {
      "epoch": 0.6826666666666666,
      "grad_norm": 5.641987323760986,
      "learning_rate": 6.765957446808511e-06,
      "loss": 0.1208,
      "step": 160
    },
    {
      "epoch": 0.6869333333333333,
      "grad_norm": 7.909478187561035,
      "learning_rate": 6.808510638297873e-06,
      "loss": 0.1229,
      "step": 161
    },
    {
      "epoch": 0.6912,
      "grad_norm": 6.212748050689697,
      "learning_rate": 6.8510638297872344e-06,
      "loss": 0.1201,
      "step": 162
    },
    {
      "epoch": 0.6954666666666667,
      "grad_norm": 7.641393661499023,
      "learning_rate": 6.893617021276596e-06,
      "loss": 0.1215,
      "step": 163
    },
    {
      "epoch": 0.6997333333333333,
      "grad_norm": 6.818618297576904,
      "learning_rate": 6.936170212765958e-06,
      "loss": 0.1212,
      "step": 164
    },
    {
      "epoch": 0.704,
      "grad_norm": 6.080795764923096,
      "learning_rate": 6.97872340425532e-06,
      "loss": 0.1204,
      "step": 165
    },
    {
      "epoch": 0.7082666666666667,
      "grad_norm": 5.294103145599365,
      "learning_rate": 7.021276595744682e-06,
      "loss": 0.12,
      "step": 166
    },
    {
      "epoch": 0.7125333333333334,
      "grad_norm": 7.565417289733887,
      "learning_rate": 7.0638297872340434e-06,
      "loss": 0.1209,
      "step": 167
    },
    {
      "epoch": 0.7168,
      "grad_norm": 6.280045509338379,
      "learning_rate": 7.106382978723405e-06,
      "loss": 0.1212,
      "step": 168
    },
    {
      "epoch": 0.7210666666666666,
      "grad_norm": 6.898222923278809,
      "learning_rate": 7.148936170212767e-06,
      "loss": 0.1206,
      "step": 169
    },
    {
      "epoch": 0.7253333333333334,
      "grad_norm": 6.254840850830078,
      "learning_rate": 7.191489361702129e-06,
      "loss": 0.1203,
      "step": 170
    },
    {
      "epoch": 0.7296,
      "grad_norm": 6.527096748352051,
      "learning_rate": 7.234042553191491e-06,
      "loss": 0.122,
      "step": 171
    },
    {
      "epoch": 0.7338666666666667,
      "grad_norm": 5.724420070648193,
      "learning_rate": 7.2765957446808524e-06,
      "loss": 0.1207,
      "step": 172
    },
    {
      "epoch": 0.7381333333333333,
      "grad_norm": 6.684255123138428,
      "learning_rate": 7.3191489361702125e-06,
      "loss": 0.1219,
      "step": 173
    },
    {
      "epoch": 0.7424,
      "grad_norm": 6.503657341003418,
      "learning_rate": 7.361702127659574e-06,
      "loss": 0.1178,
      "step": 174
    },
    {
      "epoch": 0.7466666666666667,
      "grad_norm": 5.723449230194092,
      "learning_rate": 7.404255319148936e-06,
      "loss": 0.1199,
      "step": 175
    },
    {
      "epoch": 0.7509333333333333,
      "grad_norm": 4.989058017730713,
      "learning_rate": 7.446808510638298e-06,
      "loss": 0.1181,
      "step": 176
    },
    {
      "epoch": 0.7552,
      "grad_norm": 7.475578784942627,
      "learning_rate": 7.48936170212766e-06,
      "loss": 0.1221,
      "step": 177
    },
    {
      "epoch": 0.7594666666666666,
      "grad_norm": 6.384317398071289,
      "learning_rate": 7.5319148936170215e-06,
      "loss": 0.1193,
      "step": 178
    },
    {
      "epoch": 0.7637333333333334,
      "grad_norm": 5.993687629699707,
      "learning_rate": 7.574468085106383e-06,
      "loss": 0.1197,
      "step": 179
    },
    {
      "epoch": 0.768,
      "grad_norm": 5.651639938354492,
      "learning_rate": 7.617021276595745e-06,
      "loss": 0.118,
      "step": 180
    },
    {
      "epoch": 0.7722666666666667,
      "grad_norm": 5.343756675720215,
      "learning_rate": 7.659574468085107e-06,
      "loss": 0.1191,
      "step": 181
    },
    {
      "epoch": 0.7765333333333333,
      "grad_norm": 3.9733238220214844,
      "learning_rate": 7.702127659574469e-06,
      "loss": 0.117,
      "step": 182
    },
    {
      "epoch": 0.7808,
      "grad_norm": 8.402620315551758,
      "learning_rate": 7.74468085106383e-06,
      "loss": 0.1235,
      "step": 183
    },
    {
      "epoch": 0.7850666666666667,
      "grad_norm": 8.289787292480469,
      "learning_rate": 7.787234042553192e-06,
      "loss": 0.121,
      "step": 184
    },
    {
      "epoch": 0.7893333333333333,
      "grad_norm": 3.6568987369537354,
      "learning_rate": 7.829787234042554e-06,
      "loss": 0.1174,
      "step": 185
    },
    {
      "epoch": 0.7936,
      "grad_norm": 11.13115119934082,
      "learning_rate": 7.872340425531916e-06,
      "loss": 0.1257,
      "step": 186
    },
    {
      "epoch": 0.7978666666666666,
      "grad_norm": 5.116509914398193,
      "learning_rate": 7.914893617021278e-06,
      "loss": 0.1195,
      "step": 187
    },
    {
      "epoch": 0.8021333333333334,
      "grad_norm": 15.565638542175293,
      "learning_rate": 7.95744680851064e-06,
      "loss": 0.1417,
      "step": 188
    },
    {
      "epoch": 0.8064,
      "grad_norm": 16.17276954650879,
      "learning_rate": 8.000000000000001e-06,
      "loss": 0.152,
      "step": 189
    },
    {
      "epoch": 0.8106666666666666,
      "grad_norm": 6.167568206787109,
      "learning_rate": 8.042553191489363e-06,
      "loss": 0.1233,
      "step": 190
    },
    {
      "epoch": 0.8149333333333333,
      "grad_norm": 12.830926895141602,
      "learning_rate": 8.085106382978723e-06,
      "loss": 0.1399,
      "step": 191
    },
    {
      "epoch": 0.8192,
      "grad_norm": 12.8762845993042,
      "learning_rate": 8.127659574468085e-06,
      "loss": 0.1521,
      "step": 192
    },
    {
      "epoch": 0.8234666666666667,
      "grad_norm": 8.177667617797852,
      "learning_rate": 8.170212765957447e-06,
      "loss": 0.1298,
      "step": 193
    },
    {
      "epoch": 0.8277333333333333,
      "grad_norm": 6.849120616912842,
      "learning_rate": 8.212765957446809e-06,
      "loss": 0.1287,
      "step": 194
    },
    {
      "epoch": 0.832,
      "grad_norm": 7.727602481842041,
      "learning_rate": 8.25531914893617e-06,
      "loss": 0.1332,
      "step": 195
    },
    {
      "epoch": 0.8362666666666667,
      "grad_norm": 5.658266067504883,
      "learning_rate": 8.297872340425532e-06,
      "loss": 0.1278,
      "step": 196
    },
    {
      "epoch": 0.8405333333333334,
      "grad_norm": 5.271341800689697,
      "learning_rate": 8.340425531914894e-06,
      "loss": 0.1254,
      "step": 197
    },
    {
      "epoch": 0.8448,
      "grad_norm": 5.509979248046875,
      "learning_rate": 8.382978723404256e-06,
      "loss": 0.1283,
      "step": 198
    },
    {
      "epoch": 0.8490666666666666,
      "grad_norm": 4.625118732452393,
      "learning_rate": 8.425531914893618e-06,
      "loss": 0.1226,
      "step": 199
    },
    {
      "epoch": 0.8533333333333334,
      "grad_norm": 5.153396129608154,
      "learning_rate": 8.46808510638298e-06,
      "loss": 0.1258,
      "step": 200
    },
    {
      "epoch": 0.8576,
      "grad_norm": 4.286827564239502,
      "learning_rate": 8.510638297872341e-06,
      "loss": 0.1223,
      "step": 201
    },
    {
      "epoch": 0.8618666666666667,
      "grad_norm": 5.461269855499268,
      "learning_rate": 8.553191489361703e-06,
      "loss": 0.1255,
      "step": 202
    },
    {
      "epoch": 0.8661333333333333,
      "grad_norm": 3.8906216621398926,
      "learning_rate": 8.595744680851065e-06,
      "loss": 0.1216,
      "step": 203
    },
    {
      "epoch": 0.8704,
      "grad_norm": 5.908001899719238,
      "learning_rate": 8.638297872340427e-06,
      "loss": 0.1266,
      "step": 204
    },
    {
      "epoch": 0.8746666666666667,
      "grad_norm": 3.639004945755005,
      "learning_rate": 8.680851063829788e-06,
      "loss": 0.1227,
      "step": 205
    },
    {
      "epoch": 0.8789333333333333,
      "grad_norm": 7.122750282287598,
      "learning_rate": 8.72340425531915e-06,
      "loss": 0.1322,
      "step": 206
    },
    {
      "epoch": 0.8832,
      "grad_norm": 5.722088813781738,
      "learning_rate": 8.765957446808512e-06,
      "loss": 0.1298,
      "step": 207
    },
    {
      "epoch": 0.8874666666666666,
      "grad_norm": 5.114867210388184,
      "learning_rate": 8.808510638297874e-06,
      "loss": 0.1245,
      "step": 208
    },
    {
      "epoch": 0.8917333333333334,
      "grad_norm": 5.530348300933838,
      "learning_rate": 8.851063829787234e-06,
      "loss": 0.126,
      "step": 209
    },
    {
      "epoch": 0.896,
      "grad_norm": 3.323356866836548,
      "learning_rate": 8.893617021276596e-06,
      "loss": 0.1221,
      "step": 210
    },
    {
      "epoch": 0.9002666666666667,
      "grad_norm": 5.217687606811523,
      "learning_rate": 8.936170212765958e-06,
      "loss": 0.1234,
      "step": 211
    },
    {
      "epoch": 0.9045333333333333,
      "grad_norm": 2.8208258152008057,
      "learning_rate": 8.97872340425532e-06,
      "loss": 0.1226,
      "step": 212
    },
    {
      "epoch": 0.9088,
      "grad_norm": 6.277392864227295,
      "learning_rate": 9.021276595744681e-06,
      "loss": 0.1306,
      "step": 213
    },
    {
      "epoch": 0.9130666666666667,
      "grad_norm": 4.85951042175293,
      "learning_rate": 9.063829787234043e-06,
      "loss": 0.1375,
      "step": 214
    },
    {
      "epoch": 0.9173333333333333,
      "grad_norm": 5.551103115081787,
      "learning_rate": 9.106382978723405e-06,
      "loss": 0.1224,
      "step": 215
    },
    {
      "epoch": 0.9216,
      "grad_norm": 4.771853923797607,
      "learning_rate": 9.148936170212767e-06,
      "loss": 0.1347,
      "step": 216
    },
    {
      "epoch": 0.9258666666666666,
      "grad_norm": 4.560388088226318,
      "learning_rate": 9.191489361702128e-06,
      "loss": 0.1224,
      "step": 217
    },
    {
      "epoch": 0.9301333333333334,
      "grad_norm": 3.6074557304382324,
      "learning_rate": 9.23404255319149e-06,
      "loss": 0.1249,
      "step": 218
    },
    {
      "epoch": 0.9344,
      "grad_norm": 4.925154685974121,
      "learning_rate": 9.276595744680852e-06,
      "loss": 0.1256,
      "step": 219
    },
    {
      "epoch": 0.9386666666666666,
      "grad_norm": 3.3502466678619385,
      "learning_rate": 9.319148936170214e-06,
      "loss": 0.1221,
      "step": 220
    },
    {
      "epoch": 0.9429333333333333,
      "grad_norm": 5.651970386505127,
      "learning_rate": 9.361702127659576e-06,
      "loss": 0.1258,
      "step": 221
    },
    {
      "epoch": 0.9472,
      "grad_norm": 5.056815147399902,
      "learning_rate": 9.404255319148937e-06,
      "loss": 0.1293,
      "step": 222
    },
    {
      "epoch": 0.9514666666666667,
      "grad_norm": 4.17104959487915,
      "learning_rate": 9.446808510638299e-06,
      "loss": 0.1197,
      "step": 223
    },
    {
      "epoch": 0.9557333333333333,
      "grad_norm": 4.450770378112793,
      "learning_rate": 9.489361702127661e-06,
      "loss": 0.1237,
      "step": 224
    },
    {
      "epoch": 0.96,
      "grad_norm": 4.091788291931152,
      "learning_rate": 9.531914893617023e-06,
      "loss": 0.1211,
      "step": 225
    },
    {
      "epoch": 0.9642666666666667,
      "grad_norm": 3.8398008346557617,
      "learning_rate": 9.574468085106385e-06,
      "loss": 0.1214,
      "step": 226
    },
    {
      "epoch": 0.9685333333333334,
      "grad_norm": 3.1588594913482666,
      "learning_rate": 9.617021276595745e-06,
      "loss": 0.1185,
      "step": 227
    },
    {
      "epoch": 0.9728,
      "grad_norm": 3.5648460388183594,
      "learning_rate": 9.659574468085106e-06,
      "loss": 0.1174,
      "step": 228
    },
    {
      "epoch": 0.9770666666666666,
      "grad_norm": 5.8639235496521,
      "learning_rate": 9.702127659574468e-06,
      "loss": 0.1249,
      "step": 229
    },
    {
      "epoch": 0.9813333333333333,
      "grad_norm": 2.6490297317504883,
      "learning_rate": 9.74468085106383e-06,
      "loss": 0.1178,
      "step": 230
    },
    {
      "epoch": 0.9856,
      "grad_norm": 6.386547088623047,
      "learning_rate": 9.787234042553192e-06,
      "loss": 0.1357,
      "step": 231
    },
    {
      "epoch": 0.9898666666666667,
      "grad_norm": 5.654618740081787,
      "learning_rate": 9.829787234042554e-06,
      "loss": 0.1374,
      "step": 232
    },
    {
      "epoch": 0.9941333333333333,
      "grad_norm": 4.289252758026123,
      "learning_rate": 9.872340425531915e-06,
      "loss": 0.1197,
      "step": 233
    },
    {
      "epoch": 0.9984,
      "grad_norm": 7.1161723136901855,
      "learning_rate": 9.914893617021277e-06,
      "loss": 0.1322,
      "step": 234
    },
    {
      "epoch": 1.0,
      "grad_norm": 7.1161723136901855,
      "learning_rate": 9.957446808510639e-06,
      "loss": 0.0488,
      "step": 235
    },
    {
      "epoch": 1.0042666666666666,
      "grad_norm": 5.935182571411133,
      "learning_rate": 1e-05,
      "loss": 0.1287,
      "step": 236
    },
    {
      "epoch": 1.0085333333333333,
      "grad_norm": 5.292780876159668,
      "learning_rate": 9.999994484067655e-06,
      "loss": 0.1246,
      "step": 237
    },
    {
      "epoch": 1.0128,
      "grad_norm": 5.135565757751465,
      "learning_rate": 9.999977936282789e-06,
      "loss": 0.1253,
      "step": 238
    },
    {
      "epoch": 1.0170666666666666,
      "grad_norm": 3.817563533782959,
      "learning_rate": 9.999950356681914e-06,
      "loss": 0.1245,
      "step": 239
    },
    {
      "epoch": 1.0213333333333334,
      "grad_norm": 5.6104278564453125,
      "learning_rate": 9.999911745325877e-06,
      "loss": 0.1267,
      "step": 240
    },
    {
      "epoch": 1.0256,
      "grad_norm": 3.947054624557495,
      "learning_rate": 9.999862102299874e-06,
      "loss": 0.1252,
      "step": 241
    },
    {
      "epoch": 1.0298666666666667,
      "grad_norm": 6.3606343269348145,
      "learning_rate": 9.999801427713432e-06,
      "loss": 0.1268,
      "step": 242
    },
    {
      "epoch": 1.0341333333333333,
      "grad_norm": 4.345498561859131,
      "learning_rate": 9.999729721700426e-06,
      "loss": 0.128,
      "step": 243
    },
    {
      "epoch": 1.0384,
      "grad_norm": 7.323845863342285,
      "learning_rate": 9.999646984419061e-06,
      "loss": 0.1287,
      "step": 244
    },
    {
      "epoch": 1.0426666666666666,
      "grad_norm": 5.8514814376831055,
      "learning_rate": 9.999553216051892e-06,
      "loss": 0.1331,
      "step": 245
    },
    {
      "epoch": 1.0469333333333333,
      "grad_norm": 5.87026834487915,
      "learning_rate": 9.999448416805802e-06,
      "loss": 0.125,
      "step": 246
    },
    {
      "epoch": 1.0512,
      "grad_norm": 5.522796154022217,
      "learning_rate": 9.99933258691202e-06,
      "loss": 0.1237,
      "step": 247
    },
    {
      "epoch": 1.0554666666666668,
      "grad_norm": 3.951136589050293,
      "learning_rate": 9.999205726626109e-06,
      "loss": 0.1233,
      "step": 248
    },
    {
      "epoch": 1.0597333333333334,
      "grad_norm": 4.852754592895508,
      "learning_rate": 9.99906783622797e-06,
      "loss": 0.122,
      "step": 249
    },
    {
      "epoch": 1.064,
      "grad_norm": 4.077630043029785,
      "learning_rate": 9.998918916021842e-06,
      "loss": 0.1207,
      "step": 250
    },
    {
      "epoch": 1.0682666666666667,
      "grad_norm": 4.453201770782471,
      "learning_rate": 9.998758966336296e-06,
      "loss": 0.12,
      "step": 251
    },
    {
      "epoch": 1.0725333333333333,
      "grad_norm": 2.438328504562378,
      "learning_rate": 9.998587987524243e-06,
      "loss": 0.117,
      "step": 252
    },
    {
      "epoch": 1.0768,
      "grad_norm": 3.7442538738250732,
      "learning_rate": 9.998405979962926e-06,
      "loss": 0.1187,
      "step": 253
    },
    {
      "epoch": 1.0810666666666666,
      "grad_norm": 3.887525796890259,
      "learning_rate": 9.99821294405392e-06,
      "loss": 0.1184,
      "step": 254
    },
    {
      "epoch": 1.0853333333333333,
      "grad_norm": 6.806149005889893,
      "learning_rate": 9.998008880223134e-06,
      "loss": 0.1204,
      "step": 255
    },
    {
      "epoch": 1.0896,
      "grad_norm": 3.5106143951416016,
      "learning_rate": 9.99779378892081e-06,
      "loss": 0.1215,
      "step": 256
    },
    {
      "epoch": 1.0938666666666668,
      "grad_norm": 7.366903305053711,
      "learning_rate": 9.997567670621521e-06,
      "loss": 0.1273,
      "step": 257
    },
    {
      "epoch": 1.0981333333333334,
      "grad_norm": 5.446555137634277,
      "learning_rate": 9.997330525824168e-06,
      "loss": 0.1254,
      "step": 258
    },
    {
      "epoch": 1.1024,
      "grad_norm": 5.372413158416748,
      "learning_rate": 9.997082355051976e-06,
      "loss": 0.1202,
      "step": 259
    },
    {
      "epoch": 1.1066666666666667,
      "grad_norm": 6.54384183883667,
      "learning_rate": 9.996823158852508e-06,
      "loss": 0.1248,
      "step": 260
    },
    {
      "epoch": 1.1109333333333333,
      "grad_norm": 4.519038200378418,
      "learning_rate": 9.996552937797646e-06,
      "loss": 0.1218,
      "step": 261
    },
    {
      "epoch": 1.1152,
      "grad_norm": 6.259124279022217,
      "learning_rate": 9.996271692483597e-06,
      "loss": 0.1217,
      "step": 262
    },
    {
      "epoch": 1.1194666666666666,
      "grad_norm": 4.168610572814941,
      "learning_rate": 9.995979423530893e-06,
      "loss": 0.1215,
      "step": 263
    },
    {
      "epoch": 1.1237333333333333,
      "grad_norm": 3.8914642333984375,
      "learning_rate": 9.995676131584389e-06,
      "loss": 0.1174,
      "step": 264
    },
    {
      "epoch": 1.1280000000000001,
      "grad_norm": 5.742394924163818,
      "learning_rate": 9.995361817313262e-06,
      "loss": 0.1226,
      "step": 265
    },
    {
      "epoch": 1.1322666666666668,
      "grad_norm": 4.259416580200195,
      "learning_rate": 9.995036481411005e-06,
      "loss": 0.1196,
      "step": 266
    },
    {
      "epoch": 1.1365333333333334,
      "grad_norm": 5.219086647033691,
      "learning_rate": 9.994700124595429e-06,
      "loss": 0.1192,
      "step": 267
    },
    {
      "epoch": 1.1408,
      "grad_norm": 5.503093719482422,
      "learning_rate": 9.994352747608663e-06,
      "loss": 0.1215,
      "step": 268
    },
    {
      "epoch": 1.1450666666666667,
      "grad_norm": 4.057020664215088,
      "learning_rate": 9.993994351217153e-06,
      "loss": 0.1162,
      "step": 269
    },
    {
      "epoch": 1.1493333333333333,
      "grad_norm": 6.2084269523620605,
      "learning_rate": 9.993624936211652e-06,
      "loss": 0.1181,
      "step": 270
    },
    {
      "epoch": 1.1536,
      "grad_norm": 3.86226487159729,
      "learning_rate": 9.993244503407227e-06,
      "loss": 0.1197,
      "step": 271
    },
    {
      "epoch": 1.1578666666666666,
      "grad_norm": 5.438651084899902,
      "learning_rate": 9.992853053643257e-06,
      "loss": 0.1181,
      "step": 272
    },
    {
      "epoch": 1.1621333333333332,
      "grad_norm": 3.089888095855713,
      "learning_rate": 9.992450587783426e-06,
      "loss": 0.1197,
      "step": 273
    },
    {
      "epoch": 1.1663999999999999,
      "grad_norm": 6.028289794921875,
      "learning_rate": 9.992037106715722e-06,
      "loss": 0.121,
      "step": 274
    },
    {
      "epoch": 1.1706666666666667,
      "grad_norm": 3.518129587173462,
      "learning_rate": 9.991612611352439e-06,
      "loss": 0.1209,
      "step": 275
    },
    {
      "epoch": 1.1749333333333334,
      "grad_norm": 5.490471839904785,
      "learning_rate": 9.991177102630173e-06,
      "loss": 0.122,
      "step": 276
    },
    {
      "epoch": 1.1792,
      "grad_norm": 4.619834899902344,
      "learning_rate": 9.990730581509817e-06,
      "loss": 0.1232,
      "step": 277
    },
    {
      "epoch": 1.1834666666666667,
      "grad_norm": 3.749178886413574,
      "learning_rate": 9.990273048976566e-06,
      "loss": 0.1188,
      "step": 278
    },
    {
      "epoch": 1.1877333333333333,
      "grad_norm": 5.667284965515137,
      "learning_rate": 9.989804506039905e-06,
      "loss": 0.1236,
      "step": 279
    },
    {
      "epoch": 1.192,
      "grad_norm": 3.1727864742279053,
      "learning_rate": 9.989324953733615e-06,
      "loss": 0.1229,
      "step": 280
    },
    {
      "epoch": 1.1962666666666666,
      "grad_norm": 5.744826793670654,
      "learning_rate": 9.988834393115768e-06,
      "loss": 0.1255,
      "step": 281
    },
    {
      "epoch": 1.2005333333333335,
      "grad_norm": 4.079339504241943,
      "learning_rate": 9.98833282526872e-06,
      "loss": 0.1287,
      "step": 282
    },
    {
      "epoch": 1.2048,
      "grad_norm": 5.137429237365723,
      "learning_rate": 9.987820251299121e-06,
      "loss": 0.1243,
      "step": 283
    },
    {
      "epoch": 1.2090666666666667,
      "grad_norm": 4.121692657470703,
      "learning_rate": 9.9872966723379e-06,
      "loss": 0.1231,
      "step": 284
    },
    {
      "epoch": 1.2133333333333334,
      "grad_norm": 4.33402156829834,
      "learning_rate": 9.986762089540268e-06,
      "loss": 0.1233,
      "step": 285
    },
    {
      "epoch": 1.2176,
      "grad_norm": 4.249146461486816,
      "learning_rate": 9.986216504085709e-06,
      "loss": 0.12,
      "step": 286
    },
    {
      "epoch": 1.2218666666666667,
      "grad_norm": 4.126492500305176,
      "learning_rate": 9.985659917177991e-06,
      "loss": 0.1198,
      "step": 287
    },
    {
      "epoch": 1.2261333333333333,
      "grad_norm": 4.10832405090332,
      "learning_rate": 9.985092330045156e-06,
      "loss": 0.1185,
      "step": 288
    },
    {
      "epoch": 1.2304,
      "grad_norm": 3.8791186809539795,
      "learning_rate": 9.98451374393951e-06,
      "loss": 0.1183,
      "step": 289
    },
    {
      "epoch": 1.2346666666666666,
      "grad_norm": 4.378361701965332,
      "learning_rate": 9.983924160137627e-06,
      "loss": 0.1174,
      "step": 290
    },
    {
      "epoch": 1.2389333333333332,
      "grad_norm": 2.184255361557007,
      "learning_rate": 9.983323579940351e-06,
      "loss": 0.1191,
      "step": 291
    },
    {
      "epoch": 1.2432,
      "grad_norm": 5.996938228607178,
      "learning_rate": 9.982712004672787e-06,
      "loss": 0.1297,
      "step": 292
    },
    {
      "epoch": 1.2474666666666667,
      "grad_norm": 5.170231819152832,
      "learning_rate": 9.982089435684297e-06,
      "loss": 0.1272,
      "step": 293
    },
    {
      "epoch": 1.2517333333333334,
      "grad_norm": 3.8409669399261475,
      "learning_rate": 9.9814558743485e-06,
      "loss": 0.1191,
      "step": 294
    },
    {
      "epoch": 1.256,
      "grad_norm": 4.199260234832764,
      "learning_rate": 9.980811322063268e-06,
      "loss": 0.1201,
      "step": 295
    },
    {
      "epoch": 1.2602666666666666,
      "grad_norm": 2.8783466815948486,
      "learning_rate": 9.980155780250728e-06,
      "loss": 0.1196,
      "step": 296
    },
    {
      "epoch": 1.2645333333333333,
      "grad_norm": 5.591996192932129,
      "learning_rate": 9.979489250357243e-06,
      "loss": 0.1234,
      "step": 297
    },
    {
      "epoch": 1.2688,
      "grad_norm": 3.9676425457000732,
      "learning_rate": 9.978811733853433e-06,
      "loss": 0.1242,
      "step": 298
    },
    {
      "epoch": 1.2730666666666668,
      "grad_norm": 5.0102057456970215,
      "learning_rate": 9.978123232234147e-06,
      "loss": 0.1207,
      "step": 299
    },
    {
      "epoch": 1.2773333333333334,
      "grad_norm": 4.265115737915039,
      "learning_rate": 9.97742374701848e-06,
      "loss": 0.1209,
      "step": 300
    },
    {
      "epoch": 1.2816,
      "grad_norm": 6.160897254943848,
      "learning_rate": 9.976713279749754e-06,
      "loss": 0.1254,
      "step": 301
    },
    {
      "epoch": 1.2858666666666667,
      "grad_norm": 4.771708965301514,
      "learning_rate": 9.975991831995528e-06,
      "loss": 0.1237,
      "step": 302
    },
    {
      "epoch": 1.2901333333333334,
      "grad_norm": 6.948702335357666,
      "learning_rate": 9.975259405347583e-06,
      "loss": 0.1192,
      "step": 303
    },
    {
      "epoch": 1.2944,
      "grad_norm": 5.352514743804932,
      "learning_rate": 9.974516001421926e-06,
      "loss": 0.1215,
      "step": 304
    },
    {
      "epoch": 1.2986666666666666,
      "grad_norm": 5.381694793701172,
      "learning_rate": 9.97376162185878e-06,
      "loss": 0.1187,
      "step": 305
    },
    {
      "epoch": 1.3029333333333333,
      "grad_norm": 5.543086528778076,
      "learning_rate": 9.972996268322594e-06,
      "loss": 0.1153,
      "step": 306
    },
    {
      "epoch": 1.3072,
      "grad_norm": 3.0159881114959717,
      "learning_rate": 9.972219942502017e-06,
      "loss": 0.1154,
      "step": 307
    },
    {
      "epoch": 1.3114666666666666,
      "grad_norm": 5.667745590209961,
      "learning_rate": 9.971432646109919e-06,
      "loss": 0.117,
      "step": 308
    },
    {
      "epoch": 1.3157333333333332,
      "grad_norm": 3.8900418281555176,
      "learning_rate": 9.970634380883364e-06,
      "loss": 0.1143,
      "step": 309
    },
    {
      "epoch": 1.32,
      "grad_norm": 3.812140941619873,
      "learning_rate": 9.969825148583627e-06,
      "loss": 0.1135,
      "step": 310
    },
    {
      "epoch": 1.3242666666666667,
      "grad_norm": 4.56724739074707,
      "learning_rate": 9.969004950996175e-06,
      "loss": 0.1133,
      "step": 311
    },
    {
      "epoch": 1.3285333333333333,
      "grad_norm": 5.430902481079102,
      "learning_rate": 9.968173789930668e-06,
      "loss": 0.112,
      "step": 312
    },
    {
      "epoch": 1.3328,
      "grad_norm": 3.464324712753296,
      "learning_rate": 9.96733166722096e-06,
      "loss": 0.1123,
      "step": 313
    },
    {
      "epoch": 1.3370666666666666,
      "grad_norm": 4.844167709350586,
      "learning_rate": 9.966478584725085e-06,
      "loss": 0.1125,
      "step": 314
    },
    {
      "epoch": 1.3413333333333333,
      "grad_norm": 4.899601459503174,
      "learning_rate": 9.965614544325264e-06,
      "loss": 0.1126,
      "step": 315
    },
    {
      "epoch": 1.3456000000000001,
      "grad_norm": 4.0164079666137695,
      "learning_rate": 9.964739547927892e-06,
      "loss": 0.1117,
      "step": 316
    },
    {
      "epoch": 1.3498666666666668,
      "grad_norm": 3.449429988861084,
      "learning_rate": 9.963853597463533e-06,
      "loss": 0.1101,
      "step": 317
    },
    {
      "epoch": 1.3541333333333334,
      "grad_norm": 6.577143669128418,
      "learning_rate": 9.96295669488693e-06,
      "loss": 0.1135,
      "step": 318
    },
    {
      "epoch": 1.3584,
      "grad_norm": 2.9539217948913574,
      "learning_rate": 9.96204884217698e-06,
      "loss": 0.1159,
      "step": 319
    },
    {
      "epoch": 1.3626666666666667,
      "grad_norm": 6.194974899291992,
      "learning_rate": 9.961130041336748e-06,
      "loss": 0.1212,
      "step": 320
    },
    {
      "epoch": 1.3669333333333333,
      "grad_norm": 4.237511157989502,
      "learning_rate": 9.96020029439345e-06,
      "loss": 0.1217,
      "step": 321
    },
    {
      "epoch": 1.3712,
      "grad_norm": 5.736575603485107,
      "learning_rate": 9.959259603398454e-06,
      "loss": 0.1219,
      "step": 322
    },
    {
      "epoch": 1.3754666666666666,
      "grad_norm": 4.737814426422119,
      "learning_rate": 9.958307970427276e-06,
      "loss": 0.1215,
      "step": 323
    },
    {
      "epoch": 1.3797333333333333,
      "grad_norm": 5.155465602874756,
      "learning_rate": 9.957345397579573e-06,
      "loss": 0.1186,
      "step": 324
    },
    {
      "epoch": 1.384,
      "grad_norm": 5.585412979125977,
      "learning_rate": 9.956371886979139e-06,
      "loss": 0.1217,
      "step": 325
    },
    {
      "epoch": 1.3882666666666665,
      "grad_norm": 4.1086506843566895,
      "learning_rate": 9.955387440773902e-06,
      "loss": 0.1164,
      "step": 326
    },
    {
      "epoch": 1.3925333333333334,
      "grad_norm": 3.985306978225708,
      "learning_rate": 9.954392061135916e-06,
      "loss": 0.1163,
      "step": 327
    },
    {
      "epoch": 1.3968,
      "grad_norm": 4.945534706115723,
      "learning_rate": 9.953385750261363e-06,
      "loss": 0.1151,
      "step": 328
    },
    {
      "epoch": 1.4010666666666667,
      "grad_norm": 2.9012649059295654,
      "learning_rate": 9.952368510370538e-06,
      "loss": 0.1141,
      "step": 329
    },
    {
      "epoch": 1.4053333333333333,
      "grad_norm": 7.978700160980225,
      "learning_rate": 9.951340343707852e-06,
      "loss": 0.119,
      "step": 330
    },
    {
      "epoch": 1.4096,
      "grad_norm": 5.617311954498291,
      "learning_rate": 9.950301252541824e-06,
      "loss": 0.1181,
      "step": 331
    },
    {
      "epoch": 1.4138666666666666,
      "grad_norm": 7.305325031280518,
      "learning_rate": 9.949251239165076e-06,
      "loss": 0.1164,
      "step": 332
    },
    {
      "epoch": 1.4181333333333335,
      "grad_norm": 6.810077667236328,
      "learning_rate": 9.94819030589433e-06,
      "loss": 0.1171,
      "step": 333
    },
    {
      "epoch": 1.4224,
      "grad_norm": 4.517914772033691,
      "learning_rate": 9.9471184550704e-06,
      "loss": 0.1141,
      "step": 334
    },
    {
      "epoch": 1.4266666666666667,
      "grad_norm": 7.977745056152344,
      "learning_rate": 9.946035689058189e-06,
      "loss": 0.1185,
      "step": 335
    },
    {
      "epoch": 1.4309333333333334,
      "grad_norm": 5.102802753448486,
      "learning_rate": 9.944942010246681e-06,
      "loss": 0.1179,
      "step": 336
    },
    {
      "epoch": 1.4352,
      "grad_norm": 8.595138549804688,
      "learning_rate": 9.943837421048942e-06,
      "loss": 0.1179,
      "step": 337
    },
    {
      "epoch": 1.4394666666666667,
      "grad_norm": 6.408101558685303,
      "learning_rate": 9.942721923902105e-06,
      "loss": 0.1209,
      "step": 338
    },
    {
      "epoch": 1.4437333333333333,
      "grad_norm": 7.459262847900391,
      "learning_rate": 9.941595521267377e-06,
      "loss": 0.1151,
      "step": 339
    },
    {
      "epoch": 1.448,
      "grad_norm": 4.301973819732666,
      "learning_rate": 9.940458215630017e-06,
      "loss": 0.1146,
      "step": 340
    },
    {
      "epoch": 1.4522666666666666,
      "grad_norm": 8.624367713928223,
      "learning_rate": 9.939310009499348e-06,
      "loss": 0.1188,
      "step": 341
    },
    {
      "epoch": 1.4565333333333332,
      "grad_norm": 6.233131408691406,
      "learning_rate": 9.938150905408741e-06,
      "loss": 0.1186,
      "step": 342
    },
    {
      "epoch": 1.4607999999999999,
      "grad_norm": 7.494032859802246,
      "learning_rate": 9.936980905915612e-06,
      "loss": 0.1173,
      "step": 343
    },
    {
      "epoch": 1.4650666666666667,
      "grad_norm": 7.334600925445557,
      "learning_rate": 9.935800013601415e-06,
      "loss": 0.1163,
      "step": 344
    },
    {
      "epoch": 1.4693333333333334,
      "grad_norm": 4.524255275726318,
      "learning_rate": 9.93460823107164e-06,
      "loss": 0.1134,
      "step": 345
    },
    {
      "epoch": 1.4736,
      "grad_norm": 4.376001834869385,
      "learning_rate": 9.933405560955805e-06,
      "loss": 0.1119,
      "step": 346
    },
    {
      "epoch": 1.4778666666666667,
      "grad_norm": 5.788750171661377,
      "learning_rate": 9.932192005907446e-06,
      "loss": 0.113,
      "step": 347
    },
    {
      "epoch": 1.4821333333333333,
      "grad_norm": 3.970564603805542,
      "learning_rate": 9.930967568604119e-06,
      "loss": 0.1131,
      "step": 348
    },
    {
      "epoch": 1.4864,
      "grad_norm": 7.438868045806885,
      "learning_rate": 9.929732251747389e-06,
      "loss": 0.1178,
      "step": 349
    },
    {
      "epoch": 1.4906666666666666,
      "grad_norm": 6.751838207244873,
      "learning_rate": 9.928486058062828e-06,
      "loss": 0.117,
      "step": 350
    },
    {
      "epoch": 1.4949333333333334,
      "grad_norm": 4.1995625495910645,
      "learning_rate": 9.9272289903e-06,
      "loss": 0.1124,
      "step": 351
    },
    {
      "epoch": 1.4992,
      "grad_norm": 4.800899028778076,
      "learning_rate": 9.925961051232469e-06,
      "loss": 0.1129,
      "step": 352
    },
    {
      "epoch": 1.5034666666666667,
      "grad_norm": 4.623241424560547,
      "learning_rate": 9.92468224365778e-06,
      "loss": 0.1117,
      "step": 353
    },
    {
      "epoch": 1.5077333333333334,
      "grad_norm": 3.0356364250183105,
      "learning_rate": 9.923392570397459e-06,
      "loss": 0.1117,
      "step": 354
    },
    {
      "epoch": 1.512,
      "grad_norm": 4.9218974113464355,
      "learning_rate": 9.922092034297007e-06,
      "loss": 0.1128,
      "step": 355
    },
    {
      "epoch": 1.5162666666666667,
      "grad_norm": 3.4157235622406006,
      "learning_rate": 9.92078063822589e-06,
      "loss": 0.112,
      "step": 356
    },
    {
      "epoch": 1.5205333333333333,
      "grad_norm": 5.657739162445068,
      "learning_rate": 9.91945838507754e-06,
      "loss": 0.1158,
      "step": 357
    },
    {
      "epoch": 1.5248,
      "grad_norm": 5.096992492675781,
      "learning_rate": 9.918125277769336e-06,
      "loss": 0.1151,
      "step": 358
    },
    {
      "epoch": 1.5290666666666666,
      "grad_norm": 4.734887599945068,
      "learning_rate": 9.916781319242616e-06,
      "loss": 0.1118,
      "step": 359
    },
    {
      "epoch": 1.5333333333333332,
      "grad_norm": 5.02221155166626,
      "learning_rate": 9.915426512462647e-06,
      "loss": 0.1114,
      "step": 360
    },
    {
      "epoch": 1.5375999999999999,
      "grad_norm": 4.93018913269043,
      "learning_rate": 9.914060860418644e-06,
      "loss": 0.1118,
      "step": 361
    },
    {
      "epoch": 1.5418666666666667,
      "grad_norm": 5.088624954223633,
      "learning_rate": 9.91268436612374e-06,
      "loss": 0.1105,
      "step": 362
    },
    {
      "epoch": 1.5461333333333334,
      "grad_norm": 4.798462867736816,
      "learning_rate": 9.911297032614996e-06,
      "loss": 0.1095,
      "step": 363
    },
    {
      "epoch": 1.5504,
      "grad_norm": 5.95226526260376,
      "learning_rate": 9.909898862953392e-06,
      "loss": 0.112,
      "step": 364
    },
    {
      "epoch": 1.5546666666666666,
      "grad_norm": 6.883795738220215,
      "learning_rate": 9.908489860223805e-06,
      "loss": 0.1107,
      "step": 365
    },
    {
      "epoch": 1.5589333333333333,
      "grad_norm": 3.146536111831665,
      "learning_rate": 9.907070027535022e-06,
      "loss": 0.108,
      "step": 366
    },
    {
      "epoch": 1.5632000000000001,
      "grad_norm": 4.579812526702881,
      "learning_rate": 9.905639368019724e-06,
      "loss": 0.1104,
      "step": 367
    },
    {
      "epoch": 1.5674666666666668,
      "grad_norm": 5.706833839416504,
      "learning_rate": 9.904197884834482e-06,
      "loss": 0.11,
      "step": 368
    },
    {
      "epoch": 1.5717333333333334,
      "grad_norm": 2.8592660427093506,
      "learning_rate": 9.902745581159743e-06,
      "loss": 0.1159,
      "step": 369
    },
    {
      "epoch": 1.576,
      "grad_norm": 12.39868450164795,
      "learning_rate": 9.901282460199831e-06,
      "loss": 0.1345,
      "step": 370
    },
    {
      "epoch": 1.5802666666666667,
      "grad_norm": 11.114265441894531,
      "learning_rate": 9.899808525182935e-06,
      "loss": 0.1331,
      "step": 371
    },
    {
      "epoch": 1.5845333333333333,
      "grad_norm": 9.193613052368164,
      "learning_rate": 9.898323779361108e-06,
      "loss": 0.1213,
      "step": 372
    },
    {
      "epoch": 1.5888,
      "grad_norm": 9.077799797058105,
      "learning_rate": 9.89682822601025e-06,
      "loss": 0.1196,
      "step": 373
    },
    {
      "epoch": 1.5930666666666666,
      "grad_norm": 9.783404350280762,
      "learning_rate": 9.895321868430113e-06,
      "loss": 0.1199,
      "step": 374
    },
    {
      "epoch": 1.5973333333333333,
      "grad_norm": 4.7927141189575195,
      "learning_rate": 9.893804709944281e-06,
      "loss": 0.1153,
      "step": 375
    },
    {
      "epoch": 1.6016,
      "grad_norm": 7.528342247009277,
      "learning_rate": 9.892276753900173e-06,
      "loss": 0.1193,
      "step": 376
    },
    {
      "epoch": 1.6058666666666666,
      "grad_norm": 5.356241226196289,
      "learning_rate": 9.890738003669029e-06,
      "loss": 0.118,
      "step": 377
    },
    {
      "epoch": 1.6101333333333332,
      "grad_norm": 4.04868745803833,
      "learning_rate": 9.889188462645905e-06,
      "loss": 0.116,
      "step": 378
    },
    {
      "epoch": 1.6143999999999998,
      "grad_norm": 6.1326751708984375,
      "learning_rate": 9.887628134249669e-06,
      "loss": 0.1173,
      "step": 379
    },
    {
      "epoch": 1.6186666666666667,
      "grad_norm": 4.443249702453613,
      "learning_rate": 9.886057021922984e-06,
      "loss": 0.116,
      "step": 380
    },
    {
      "epoch": 1.6229333333333333,
      "grad_norm": 3.5723698139190674,
      "learning_rate": 9.884475129132312e-06,
      "loss": 0.1128,
      "step": 381
    },
    {
      "epoch": 1.6272,
      "grad_norm": 6.835819244384766,
      "learning_rate": 9.882882459367898e-06,
      "loss": 0.1169,
      "step": 382
    },
    {
      "epoch": 1.6314666666666666,
      "grad_norm": 5.1200852394104,
      "learning_rate": 9.881279016143766e-06,
      "loss": 0.1165,
      "step": 383
    },
    {
      "epoch": 1.6357333333333335,
      "grad_norm": 4.170957565307617,
      "learning_rate": 9.879664802997708e-06,
      "loss": 0.1135,
      "step": 384
    },
    {
      "epoch": 1.6400000000000001,
      "grad_norm": 9.073988914489746,
      "learning_rate": 9.878039823491282e-06,
      "loss": 0.1207,
      "step": 385
    },
    {
      "epoch": 1.6442666666666668,
      "grad_norm": 5.946852684020996,
      "learning_rate": 9.876404081209796e-06,
      "loss": 0.1226,
      "step": 386
    },
    {
      "epoch": 1.6485333333333334,
      "grad_norm": 10.303154945373535,
      "learning_rate": 9.87475757976231e-06,
      "loss": 0.1223,
      "step": 387
    },
    {
      "epoch": 1.6528,
      "grad_norm": 9.911062240600586,
      "learning_rate": 9.873100322781622e-06,
      "loss": 0.1212,
      "step": 388
    },
    {
      "epoch": 1.6570666666666667,
      "grad_norm": 4.888733863830566,
      "learning_rate": 9.871432313924255e-06,
      "loss": 0.115,
      "step": 389
    },
    {
      "epoch": 1.6613333333333333,
      "grad_norm": 5.558224678039551,
      "learning_rate": 9.86975355687046e-06,
      "loss": 0.115,
      "step": 390
    },
    {
      "epoch": 1.6656,
      "grad_norm": 5.1496429443359375,
      "learning_rate": 9.868064055324204e-06,
      "loss": 0.1142,
      "step": 391
    },
    {
      "epoch": 1.6698666666666666,
      "grad_norm": 3.196533203125,
      "learning_rate": 9.866363813013153e-06,
      "loss": 0.1141,
      "step": 392
    },
    {
      "epoch": 1.6741333333333333,
      "grad_norm": 5.469643592834473,
      "learning_rate": 9.864652833688678e-06,
      "loss": 0.1142,
      "step": 393
    },
    {
      "epoch": 1.6784,
      "grad_norm": 3.354064702987671,
      "learning_rate": 9.862931121125837e-06,
      "loss": 0.1143,
      "step": 394
    },
    {
      "epoch": 1.6826666666666665,
      "grad_norm": 5.456864356994629,
      "learning_rate": 9.86119867912337e-06,
      "loss": 0.1163,
      "step": 395
    },
    {
      "epoch": 1.6869333333333332,
      "grad_norm": 4.276975154876709,
      "learning_rate": 9.859455511503691e-06,
      "loss": 0.1159,
      "step": 396
    },
    {
      "epoch": 1.6912,
      "grad_norm": 5.062138080596924,
      "learning_rate": 9.857701622112877e-06,
      "loss": 0.1141,
      "step": 397
    },
    {
      "epoch": 1.6954666666666667,
      "grad_norm": 4.016213417053223,
      "learning_rate": 9.85593701482066e-06,
      "loss": 0.1129,
      "step": 398
    },
    {
      "epoch": 1.6997333333333333,
      "grad_norm": 4.987476825714111,
      "learning_rate": 9.854161693520426e-06,
      "loss": 0.1142,
      "step": 399
    },
    {
      "epoch": 1.704,
      "grad_norm": 3.9129505157470703,
      "learning_rate": 9.852375662129193e-06,
      "loss": 0.1137,
      "step": 400
    }
  ],
  "logging_steps": 1,
  "max_steps": 2350,
  "num_input_tokens_seen": 0,
  "num_train_epochs": 10,
  "save_steps": 100,
  "stateful_callbacks": {
    "TrainerControl": {
      "args": {
        "should_epoch_stop": false,
        "should_evaluate": false,
        "should_log": false,
        "should_save": true,
        "should_training_stop": false
      },
      "attributes": {}
    }
  },
  "total_flos": 1.0522802641229054e+19,
  "train_batch_size": 8,
  "trial_name": null,
  "trial_params": null
}