| { |
| "best_global_step": null, |
| "best_metric": null, |
| "best_model_checkpoint": null, |
| "epoch": 1.704, |
| "eval_steps": 500, |
| "global_step": 400, |
| "is_hyper_param_search": false, |
| "is_local_process_zero": true, |
| "is_world_process_zero": true, |
| "log_history": [ |
| { |
| "epoch": 0.004266666666666667, |
| "grad_norm": 22.56278419494629, |
| "learning_rate": 0.0, |
| "loss": 1.003, |
| "step": 1 |
| }, |
| { |
| "epoch": 0.008533333333333334, |
| "grad_norm": 22.34969711303711, |
| "learning_rate": 4.2553191489361707e-08, |
| "loss": 1.0007, |
| "step": 2 |
| }, |
| { |
| "epoch": 0.0128, |
| "grad_norm": 22.497220993041992, |
| "learning_rate": 8.510638297872341e-08, |
| "loss": 0.9989, |
| "step": 3 |
| }, |
| { |
| "epoch": 0.017066666666666667, |
| "grad_norm": 22.301002502441406, |
| "learning_rate": 1.276595744680851e-07, |
| "loss": 0.9972, |
| "step": 4 |
| }, |
| { |
| "epoch": 0.021333333333333333, |
| "grad_norm": 22.443401336669922, |
| "learning_rate": 1.7021276595744683e-07, |
| "loss": 0.9995, |
| "step": 5 |
| }, |
| { |
| "epoch": 0.0256, |
| "grad_norm": 22.423526763916016, |
| "learning_rate": 2.1276595744680852e-07, |
| "loss": 0.9983, |
| "step": 6 |
| }, |
| { |
| "epoch": 0.029866666666666666, |
| "grad_norm": 22.28087043762207, |
| "learning_rate": 2.553191489361702e-07, |
| "loss": 0.9965, |
| "step": 7 |
| }, |
| { |
| "epoch": 0.034133333333333335, |
| "grad_norm": 22.648902893066406, |
| "learning_rate": 2.9787234042553196e-07, |
| "loss": 0.9996, |
| "step": 8 |
| }, |
| { |
| "epoch": 0.0384, |
| "grad_norm": 21.830528259277344, |
| "learning_rate": 3.4042553191489365e-07, |
| "loss": 0.9895, |
| "step": 9 |
| }, |
| { |
| "epoch": 0.042666666666666665, |
| "grad_norm": 22.060640335083008, |
| "learning_rate": 3.8297872340425535e-07, |
| "loss": 0.9927, |
| "step": 10 |
| }, |
| { |
| "epoch": 0.046933333333333334, |
| "grad_norm": 20.831892013549805, |
| "learning_rate": 4.2553191489361704e-07, |
| "loss": 0.9694, |
| "step": 11 |
| }, |
| { |
| "epoch": 0.0512, |
| "grad_norm": 20.609140396118164, |
| "learning_rate": 4.6808510638297873e-07, |
| "loss": 0.9665, |
| "step": 12 |
| }, |
| { |
| "epoch": 0.055466666666666664, |
| "grad_norm": 20.27930450439453, |
| "learning_rate": 5.106382978723404e-07, |
| "loss": 0.9665, |
| "step": 13 |
| }, |
| { |
| "epoch": 0.05973333333333333, |
| "grad_norm": 20.32429313659668, |
| "learning_rate": 5.531914893617021e-07, |
| "loss": 0.9611, |
| "step": 14 |
| }, |
| { |
| "epoch": 0.064, |
| "grad_norm": 16.961851119995117, |
| "learning_rate": 5.957446808510639e-07, |
| "loss": 0.8898, |
| "step": 15 |
| }, |
| { |
| "epoch": 0.06826666666666667, |
| "grad_norm": 16.51335906982422, |
| "learning_rate": 6.382978723404255e-07, |
| "loss": 0.8859, |
| "step": 16 |
| }, |
| { |
| "epoch": 0.07253333333333334, |
| "grad_norm": 16.328777313232422, |
| "learning_rate": 6.808510638297873e-07, |
| "loss": 0.8805, |
| "step": 17 |
| }, |
| { |
| "epoch": 0.0768, |
| "grad_norm": 15.942858695983887, |
| "learning_rate": 7.234042553191489e-07, |
| "loss": 0.8662, |
| "step": 18 |
| }, |
| { |
| "epoch": 0.08106666666666666, |
| "grad_norm": 15.772059440612793, |
| "learning_rate": 7.659574468085107e-07, |
| "loss": 0.8618, |
| "step": 19 |
| }, |
| { |
| "epoch": 0.08533333333333333, |
| "grad_norm": 15.53687858581543, |
| "learning_rate": 8.085106382978725e-07, |
| "loss": 0.8506, |
| "step": 20 |
| }, |
| { |
| "epoch": 0.0896, |
| "grad_norm": 10.289249420166016, |
| "learning_rate": 8.510638297872341e-07, |
| "loss": 0.6896, |
| "step": 21 |
| }, |
| { |
| "epoch": 0.09386666666666667, |
| "grad_norm": 10.452590942382812, |
| "learning_rate": 8.936170212765959e-07, |
| "loss": 0.6914, |
| "step": 22 |
| }, |
| { |
| "epoch": 0.09813333333333334, |
| "grad_norm": 10.317420959472656, |
| "learning_rate": 9.361702127659575e-07, |
| "loss": 0.6787, |
| "step": 23 |
| }, |
| { |
| "epoch": 0.1024, |
| "grad_norm": 9.890551567077637, |
| "learning_rate": 9.787234042553193e-07, |
| "loss": 0.6696, |
| "step": 24 |
| }, |
| { |
| "epoch": 0.10666666666666667, |
| "grad_norm": 9.151979446411133, |
| "learning_rate": 1.0212765957446809e-06, |
| "loss": 0.6481, |
| "step": 25 |
| }, |
| { |
| "epoch": 0.11093333333333333, |
| "grad_norm": 8.83176040649414, |
| "learning_rate": 1.0638297872340427e-06, |
| "loss": 0.6352, |
| "step": 26 |
| }, |
| { |
| "epoch": 0.1152, |
| "grad_norm": 8.056096076965332, |
| "learning_rate": 1.1063829787234042e-06, |
| "loss": 0.6139, |
| "step": 27 |
| }, |
| { |
| "epoch": 0.11946666666666667, |
| "grad_norm": 8.634873390197754, |
| "learning_rate": 1.148936170212766e-06, |
| "loss": 0.5139, |
| "step": 28 |
| }, |
| { |
| "epoch": 0.12373333333333333, |
| "grad_norm": 6.985842704772949, |
| "learning_rate": 1.1914893617021278e-06, |
| "loss": 0.4903, |
| "step": 29 |
| }, |
| { |
| "epoch": 0.128, |
| "grad_norm": 6.07671594619751, |
| "learning_rate": 1.2340425531914894e-06, |
| "loss": 0.4741, |
| "step": 30 |
| }, |
| { |
| "epoch": 0.13226666666666667, |
| "grad_norm": 5.922327995300293, |
| "learning_rate": 1.276595744680851e-06, |
| "loss": 0.456, |
| "step": 31 |
| }, |
| { |
| "epoch": 0.13653333333333334, |
| "grad_norm": 5.909642696380615, |
| "learning_rate": 1.3191489361702128e-06, |
| "loss": 0.4431, |
| "step": 32 |
| }, |
| { |
| "epoch": 0.1408, |
| "grad_norm": 5.159115314483643, |
| "learning_rate": 1.3617021276595746e-06, |
| "loss": 0.4265, |
| "step": 33 |
| }, |
| { |
| "epoch": 0.14506666666666668, |
| "grad_norm": 4.204401016235352, |
| "learning_rate": 1.4042553191489364e-06, |
| "loss": 0.408, |
| "step": 34 |
| }, |
| { |
| "epoch": 0.14933333333333335, |
| "grad_norm": 3.8235232830047607, |
| "learning_rate": 1.4468085106382978e-06, |
| "loss": 0.3929, |
| "step": 35 |
| }, |
| { |
| "epoch": 0.1536, |
| "grad_norm": 3.8501057624816895, |
| "learning_rate": 1.4893617021276596e-06, |
| "loss": 0.3837, |
| "step": 36 |
| }, |
| { |
| "epoch": 0.15786666666666666, |
| "grad_norm": 4.0237860679626465, |
| "learning_rate": 1.5319148936170214e-06, |
| "loss": 0.3512, |
| "step": 37 |
| }, |
| { |
| "epoch": 0.16213333333333332, |
| "grad_norm": 4.531589031219482, |
| "learning_rate": 1.5744680851063832e-06, |
| "loss": 0.3299, |
| "step": 38 |
| }, |
| { |
| "epoch": 0.1664, |
| "grad_norm": 4.304875373840332, |
| "learning_rate": 1.617021276595745e-06, |
| "loss": 0.3179, |
| "step": 39 |
| }, |
| { |
| "epoch": 0.17066666666666666, |
| "grad_norm": 3.1829235553741455, |
| "learning_rate": 1.6595744680851064e-06, |
| "loss": 0.3087, |
| "step": 40 |
| }, |
| { |
| "epoch": 0.17493333333333333, |
| "grad_norm": 2.890695810317993, |
| "learning_rate": 1.7021276595744682e-06, |
| "loss": 0.3009, |
| "step": 41 |
| }, |
| { |
| "epoch": 0.1792, |
| "grad_norm": 3.62577223777771, |
| "learning_rate": 1.74468085106383e-06, |
| "loss": 0.2926, |
| "step": 42 |
| }, |
| { |
| "epoch": 0.18346666666666667, |
| "grad_norm": 3.2570207118988037, |
| "learning_rate": 1.7872340425531918e-06, |
| "loss": 0.2857, |
| "step": 43 |
| }, |
| { |
| "epoch": 0.18773333333333334, |
| "grad_norm": 2.0917487144470215, |
| "learning_rate": 1.8297872340425531e-06, |
| "loss": 0.2734, |
| "step": 44 |
| }, |
| { |
| "epoch": 0.192, |
| "grad_norm": 2.1430346965789795, |
| "learning_rate": 1.872340425531915e-06, |
| "loss": 0.2669, |
| "step": 45 |
| }, |
| { |
| "epoch": 0.19626666666666667, |
| "grad_norm": 2.666980266571045, |
| "learning_rate": 1.9148936170212767e-06, |
| "loss": 0.2582, |
| "step": 46 |
| }, |
| { |
| "epoch": 0.20053333333333334, |
| "grad_norm": 1.869988203048706, |
| "learning_rate": 1.9574468085106385e-06, |
| "loss": 0.2517, |
| "step": 47 |
| }, |
| { |
| "epoch": 0.2048, |
| "grad_norm": 2.069547653198242, |
| "learning_rate": 2.0000000000000003e-06, |
| "loss": 0.2445, |
| "step": 48 |
| }, |
| { |
| "epoch": 0.20906666666666668, |
| "grad_norm": 2.0606069564819336, |
| "learning_rate": 2.0425531914893617e-06, |
| "loss": 0.238, |
| "step": 49 |
| }, |
| { |
| "epoch": 0.21333333333333335, |
| "grad_norm": 1.706727147102356, |
| "learning_rate": 2.0851063829787235e-06, |
| "loss": 0.2335, |
| "step": 50 |
| }, |
| { |
| "epoch": 0.2176, |
| "grad_norm": 2.278432846069336, |
| "learning_rate": 2.1276595744680853e-06, |
| "loss": 0.2308, |
| "step": 51 |
| }, |
| { |
| "epoch": 0.22186666666666666, |
| "grad_norm": 1.8908629417419434, |
| "learning_rate": 2.170212765957447e-06, |
| "loss": 0.2262, |
| "step": 52 |
| }, |
| { |
| "epoch": 0.22613333333333333, |
| "grad_norm": 1.949669599533081, |
| "learning_rate": 2.2127659574468085e-06, |
| "loss": 0.219, |
| "step": 53 |
| }, |
| { |
| "epoch": 0.2304, |
| "grad_norm": 1.920652151107788, |
| "learning_rate": 2.2553191489361703e-06, |
| "loss": 0.2162, |
| "step": 54 |
| }, |
| { |
| "epoch": 0.23466666666666666, |
| "grad_norm": 2.028974771499634, |
| "learning_rate": 2.297872340425532e-06, |
| "loss": 0.2121, |
| "step": 55 |
| }, |
| { |
| "epoch": 0.23893333333333333, |
| "grad_norm": 1.6449410915374756, |
| "learning_rate": 2.340425531914894e-06, |
| "loss": 0.2078, |
| "step": 56 |
| }, |
| { |
| "epoch": 0.2432, |
| "grad_norm": 1.5636619329452515, |
| "learning_rate": 2.3829787234042557e-06, |
| "loss": 0.2003, |
| "step": 57 |
| }, |
| { |
| "epoch": 0.24746666666666667, |
| "grad_norm": 1.9496514797210693, |
| "learning_rate": 2.425531914893617e-06, |
| "loss": 0.1962, |
| "step": 58 |
| }, |
| { |
| "epoch": 0.2517333333333333, |
| "grad_norm": 1.6503078937530518, |
| "learning_rate": 2.468085106382979e-06, |
| "loss": 0.1907, |
| "step": 59 |
| }, |
| { |
| "epoch": 0.256, |
| "grad_norm": 1.2683771848678589, |
| "learning_rate": 2.5106382978723402e-06, |
| "loss": 0.1878, |
| "step": 60 |
| }, |
| { |
| "epoch": 0.26026666666666665, |
| "grad_norm": 2.003361701965332, |
| "learning_rate": 2.553191489361702e-06, |
| "loss": 0.1827, |
| "step": 61 |
| }, |
| { |
| "epoch": 0.26453333333333334, |
| "grad_norm": 1.4562724828720093, |
| "learning_rate": 2.595744680851064e-06, |
| "loss": 0.1817, |
| "step": 62 |
| }, |
| { |
| "epoch": 0.2688, |
| "grad_norm": 2.4795641899108887, |
| "learning_rate": 2.6382978723404256e-06, |
| "loss": 0.1787, |
| "step": 63 |
| }, |
| { |
| "epoch": 0.2730666666666667, |
| "grad_norm": 2.1848199367523193, |
| "learning_rate": 2.6808510638297874e-06, |
| "loss": 0.1759, |
| "step": 64 |
| }, |
| { |
| "epoch": 0.2773333333333333, |
| "grad_norm": 1.6162073612213135, |
| "learning_rate": 2.7234042553191492e-06, |
| "loss": 0.1725, |
| "step": 65 |
| }, |
| { |
| "epoch": 0.2816, |
| "grad_norm": 3.0534298419952393, |
| "learning_rate": 2.765957446808511e-06, |
| "loss": 0.169, |
| "step": 66 |
| }, |
| { |
| "epoch": 0.28586666666666666, |
| "grad_norm": 1.6378310918807983, |
| "learning_rate": 2.808510638297873e-06, |
| "loss": 0.1662, |
| "step": 67 |
| }, |
| { |
| "epoch": 0.29013333333333335, |
| "grad_norm": 3.190389394760132, |
| "learning_rate": 2.8510638297872346e-06, |
| "loss": 0.1638, |
| "step": 68 |
| }, |
| { |
| "epoch": 0.2944, |
| "grad_norm": 2.222900152206421, |
| "learning_rate": 2.8936170212765956e-06, |
| "loss": 0.1643, |
| "step": 69 |
| }, |
| { |
| "epoch": 0.2986666666666667, |
| "grad_norm": 2.720613956451416, |
| "learning_rate": 2.9361702127659574e-06, |
| "loss": 0.16, |
| "step": 70 |
| }, |
| { |
| "epoch": 0.30293333333333333, |
| "grad_norm": 2.4706056118011475, |
| "learning_rate": 2.978723404255319e-06, |
| "loss": 0.1595, |
| "step": 71 |
| }, |
| { |
| "epoch": 0.3072, |
| "grad_norm": 1.7160310745239258, |
| "learning_rate": 3.021276595744681e-06, |
| "loss": 0.1579, |
| "step": 72 |
| }, |
| { |
| "epoch": 0.31146666666666667, |
| "grad_norm": 3.9026131629943848, |
| "learning_rate": 3.0638297872340428e-06, |
| "loss": 0.1548, |
| "step": 73 |
| }, |
| { |
| "epoch": 0.3157333333333333, |
| "grad_norm": 2.223243236541748, |
| "learning_rate": 3.1063829787234046e-06, |
| "loss": 0.1571, |
| "step": 74 |
| }, |
| { |
| "epoch": 0.32, |
| "grad_norm": 3.901400327682495, |
| "learning_rate": 3.1489361702127664e-06, |
| "loss": 0.1532, |
| "step": 75 |
| }, |
| { |
| "epoch": 0.32426666666666665, |
| "grad_norm": 3.2121057510375977, |
| "learning_rate": 3.191489361702128e-06, |
| "loss": 0.1535, |
| "step": 76 |
| }, |
| { |
| "epoch": 0.32853333333333334, |
| "grad_norm": 2.6652214527130127, |
| "learning_rate": 3.23404255319149e-06, |
| "loss": 0.1513, |
| "step": 77 |
| }, |
| { |
| "epoch": 0.3328, |
| "grad_norm": 5.308091640472412, |
| "learning_rate": 3.276595744680851e-06, |
| "loss": 0.1501, |
| "step": 78 |
| }, |
| { |
| "epoch": 0.3370666666666667, |
| "grad_norm": 4.369630813598633, |
| "learning_rate": 3.3191489361702127e-06, |
| "loss": 0.1505, |
| "step": 79 |
| }, |
| { |
| "epoch": 0.3413333333333333, |
| "grad_norm": 4.927572727203369, |
| "learning_rate": 3.3617021276595745e-06, |
| "loss": 0.1486, |
| "step": 80 |
| }, |
| { |
| "epoch": 0.3456, |
| "grad_norm": 3.150054931640625, |
| "learning_rate": 3.4042553191489363e-06, |
| "loss": 0.1488, |
| "step": 81 |
| }, |
| { |
| "epoch": 0.34986666666666666, |
| "grad_norm": 6.687278747558594, |
| "learning_rate": 3.446808510638298e-06, |
| "loss": 0.1467, |
| "step": 82 |
| }, |
| { |
| "epoch": 0.35413333333333336, |
| "grad_norm": 5.45517635345459, |
| "learning_rate": 3.48936170212766e-06, |
| "loss": 0.1468, |
| "step": 83 |
| }, |
| { |
| "epoch": 0.3584, |
| "grad_norm": 5.900143623352051, |
| "learning_rate": 3.5319148936170217e-06, |
| "loss": 0.1457, |
| "step": 84 |
| }, |
| { |
| "epoch": 0.3626666666666667, |
| "grad_norm": 6.59785795211792, |
| "learning_rate": 3.5744680851063835e-06, |
| "loss": 0.1479, |
| "step": 85 |
| }, |
| { |
| "epoch": 0.36693333333333333, |
| "grad_norm": 3.661660671234131, |
| "learning_rate": 3.6170212765957453e-06, |
| "loss": 0.1436, |
| "step": 86 |
| }, |
| { |
| "epoch": 0.3712, |
| "grad_norm": 4.646217346191406, |
| "learning_rate": 3.6595744680851063e-06, |
| "loss": 0.1431, |
| "step": 87 |
| }, |
| { |
| "epoch": 0.37546666666666667, |
| "grad_norm": 3.3780157566070557, |
| "learning_rate": 3.702127659574468e-06, |
| "loss": 0.1426, |
| "step": 88 |
| }, |
| { |
| "epoch": 0.3797333333333333, |
| "grad_norm": 4.596078395843506, |
| "learning_rate": 3.74468085106383e-06, |
| "loss": 0.1422, |
| "step": 89 |
| }, |
| { |
| "epoch": 0.384, |
| "grad_norm": 3.384758949279785, |
| "learning_rate": 3.7872340425531917e-06, |
| "loss": 0.1399, |
| "step": 90 |
| }, |
| { |
| "epoch": 0.38826666666666665, |
| "grad_norm": 6.492227077484131, |
| "learning_rate": 3.8297872340425535e-06, |
| "loss": 0.1408, |
| "step": 91 |
| }, |
| { |
| "epoch": 0.39253333333333335, |
| "grad_norm": 4.704247951507568, |
| "learning_rate": 3.872340425531915e-06, |
| "loss": 0.1392, |
| "step": 92 |
| }, |
| { |
| "epoch": 0.3968, |
| "grad_norm": 7.741692543029785, |
| "learning_rate": 3.914893617021277e-06, |
| "loss": 0.1413, |
| "step": 93 |
| }, |
| { |
| "epoch": 0.4010666666666667, |
| "grad_norm": 8.09485149383545, |
| "learning_rate": 3.957446808510639e-06, |
| "loss": 0.1433, |
| "step": 94 |
| }, |
| { |
| "epoch": 0.4053333333333333, |
| "grad_norm": 2.9961678981781006, |
| "learning_rate": 4.000000000000001e-06, |
| "loss": 0.1381, |
| "step": 95 |
| }, |
| { |
| "epoch": 0.4096, |
| "grad_norm": 4.540401935577393, |
| "learning_rate": 4.042553191489362e-06, |
| "loss": 0.1376, |
| "step": 96 |
| }, |
| { |
| "epoch": 0.41386666666666666, |
| "grad_norm": 4.068235397338867, |
| "learning_rate": 4.085106382978723e-06, |
| "loss": 0.1369, |
| "step": 97 |
| }, |
| { |
| "epoch": 0.41813333333333336, |
| "grad_norm": 3.181708812713623, |
| "learning_rate": 4.127659574468085e-06, |
| "loss": 0.1352, |
| "step": 98 |
| }, |
| { |
| "epoch": 0.4224, |
| "grad_norm": 4.561326026916504, |
| "learning_rate": 4.170212765957447e-06, |
| "loss": 0.1358, |
| "step": 99 |
| }, |
| { |
| "epoch": 0.4266666666666667, |
| "grad_norm": 3.7372615337371826, |
| "learning_rate": 4.212765957446809e-06, |
| "loss": 0.1338, |
| "step": 100 |
| }, |
| { |
| "epoch": 0.43093333333333333, |
| "grad_norm": 6.206492900848389, |
| "learning_rate": 4.255319148936171e-06, |
| "loss": 0.1376, |
| "step": 101 |
| }, |
| { |
| "epoch": 0.4352, |
| "grad_norm": 4.748600006103516, |
| "learning_rate": 4.297872340425532e-06, |
| "loss": 0.1353, |
| "step": 102 |
| }, |
| { |
| "epoch": 0.43946666666666667, |
| "grad_norm": 8.013435363769531, |
| "learning_rate": 4.340425531914894e-06, |
| "loss": 0.136, |
| "step": 103 |
| }, |
| { |
| "epoch": 0.4437333333333333, |
| "grad_norm": 7.1991190910339355, |
| "learning_rate": 4.382978723404256e-06, |
| "loss": 0.137, |
| "step": 104 |
| }, |
| { |
| "epoch": 0.448, |
| "grad_norm": 4.625593185424805, |
| "learning_rate": 4.425531914893617e-06, |
| "loss": 0.1319, |
| "step": 105 |
| }, |
| { |
| "epoch": 0.45226666666666665, |
| "grad_norm": 4.910801887512207, |
| "learning_rate": 4.468085106382979e-06, |
| "loss": 0.134, |
| "step": 106 |
| }, |
| { |
| "epoch": 0.45653333333333335, |
| "grad_norm": 6.377923488616943, |
| "learning_rate": 4.5106382978723406e-06, |
| "loss": 0.1342, |
| "step": 107 |
| }, |
| { |
| "epoch": 0.4608, |
| "grad_norm": 5.0228986740112305, |
| "learning_rate": 4.553191489361702e-06, |
| "loss": 0.1343, |
| "step": 108 |
| }, |
| { |
| "epoch": 0.4650666666666667, |
| "grad_norm": 6.513828754425049, |
| "learning_rate": 4.595744680851064e-06, |
| "loss": 0.1308, |
| "step": 109 |
| }, |
| { |
| "epoch": 0.4693333333333333, |
| "grad_norm": 5.182156085968018, |
| "learning_rate": 4.638297872340426e-06, |
| "loss": 0.1324, |
| "step": 110 |
| }, |
| { |
| "epoch": 0.4736, |
| "grad_norm": 6.711518287658691, |
| "learning_rate": 4.680851063829788e-06, |
| "loss": 0.1327, |
| "step": 111 |
| }, |
| { |
| "epoch": 0.47786666666666666, |
| "grad_norm": 5.540736198425293, |
| "learning_rate": 4.7234042553191496e-06, |
| "loss": 0.1316, |
| "step": 112 |
| }, |
| { |
| "epoch": 0.48213333333333336, |
| "grad_norm": 5.925957202911377, |
| "learning_rate": 4.765957446808511e-06, |
| "loss": 0.1302, |
| "step": 113 |
| }, |
| { |
| "epoch": 0.4864, |
| "grad_norm": 5.579200744628906, |
| "learning_rate": 4.808510638297872e-06, |
| "loss": 0.131, |
| "step": 114 |
| }, |
| { |
| "epoch": 0.49066666666666664, |
| "grad_norm": 4.405421733856201, |
| "learning_rate": 4.851063829787234e-06, |
| "loss": 0.1296, |
| "step": 115 |
| }, |
| { |
| "epoch": 0.49493333333333334, |
| "grad_norm": 5.265398025512695, |
| "learning_rate": 4.893617021276596e-06, |
| "loss": 0.1291, |
| "step": 116 |
| }, |
| { |
| "epoch": 0.4992, |
| "grad_norm": 3.860846519470215, |
| "learning_rate": 4.936170212765958e-06, |
| "loss": 0.1303, |
| "step": 117 |
| }, |
| { |
| "epoch": 0.5034666666666666, |
| "grad_norm": 2.226341724395752, |
| "learning_rate": 4.9787234042553195e-06, |
| "loss": 0.1256, |
| "step": 118 |
| }, |
| { |
| "epoch": 0.5077333333333334, |
| "grad_norm": 8.795147895812988, |
| "learning_rate": 5.0212765957446805e-06, |
| "loss": 0.1305, |
| "step": 119 |
| }, |
| { |
| "epoch": 0.512, |
| "grad_norm": 4.675596714019775, |
| "learning_rate": 5.063829787234042e-06, |
| "loss": 0.1295, |
| "step": 120 |
| }, |
| { |
| "epoch": 0.5162666666666667, |
| "grad_norm": 11.608587265014648, |
| "learning_rate": 5.106382978723404e-06, |
| "loss": 0.1315, |
| "step": 121 |
| }, |
| { |
| "epoch": 0.5205333333333333, |
| "grad_norm": 11.548611640930176, |
| "learning_rate": 5.148936170212766e-06, |
| "loss": 0.1354, |
| "step": 122 |
| }, |
| { |
| "epoch": 0.5248, |
| "grad_norm": 4.825727462768555, |
| "learning_rate": 5.191489361702128e-06, |
| "loss": 0.1299, |
| "step": 123 |
| }, |
| { |
| "epoch": 0.5290666666666667, |
| "grad_norm": 7.2229413986206055, |
| "learning_rate": 5.2340425531914895e-06, |
| "loss": 0.1306, |
| "step": 124 |
| }, |
| { |
| "epoch": 0.5333333333333333, |
| "grad_norm": 6.224844932556152, |
| "learning_rate": 5.276595744680851e-06, |
| "loss": 0.1332, |
| "step": 125 |
| }, |
| { |
| "epoch": 0.5376, |
| "grad_norm": 5.247742652893066, |
| "learning_rate": 5.319148936170213e-06, |
| "loss": 0.1277, |
| "step": 126 |
| }, |
| { |
| "epoch": 0.5418666666666667, |
| "grad_norm": 7.463538646697998, |
| "learning_rate": 5.361702127659575e-06, |
| "loss": 0.1313, |
| "step": 127 |
| }, |
| { |
| "epoch": 0.5461333333333334, |
| "grad_norm": 5.209482192993164, |
| "learning_rate": 5.404255319148937e-06, |
| "loss": 0.1304, |
| "step": 128 |
| }, |
| { |
| "epoch": 0.5504, |
| "grad_norm": 7.131233215332031, |
| "learning_rate": 5.4468085106382985e-06, |
| "loss": 0.1283, |
| "step": 129 |
| }, |
| { |
| "epoch": 0.5546666666666666, |
| "grad_norm": 5.096197128295898, |
| "learning_rate": 5.48936170212766e-06, |
| "loss": 0.1314, |
| "step": 130 |
| }, |
| { |
| "epoch": 0.5589333333333333, |
| "grad_norm": 8.022686004638672, |
| "learning_rate": 5.531914893617022e-06, |
| "loss": 0.1287, |
| "step": 131 |
| }, |
| { |
| "epoch": 0.5632, |
| "grad_norm": 5.0473175048828125, |
| "learning_rate": 5.574468085106384e-06, |
| "loss": 0.129, |
| "step": 132 |
| }, |
| { |
| "epoch": 0.5674666666666667, |
| "grad_norm": 8.857738494873047, |
| "learning_rate": 5.617021276595746e-06, |
| "loss": 0.1288, |
| "step": 133 |
| }, |
| { |
| "epoch": 0.5717333333333333, |
| "grad_norm": 5.748481750488281, |
| "learning_rate": 5.6595744680851075e-06, |
| "loss": 0.1298, |
| "step": 134 |
| }, |
| { |
| "epoch": 0.576, |
| "grad_norm": 9.72546100616455, |
| "learning_rate": 5.702127659574469e-06, |
| "loss": 0.1283, |
| "step": 135 |
| }, |
| { |
| "epoch": 0.5802666666666667, |
| "grad_norm": 7.091835975646973, |
| "learning_rate": 5.744680851063831e-06, |
| "loss": 0.1286, |
| "step": 136 |
| }, |
| { |
| "epoch": 0.5845333333333333, |
| "grad_norm": 10.19481372833252, |
| "learning_rate": 5.787234042553191e-06, |
| "loss": 0.1311, |
| "step": 137 |
| }, |
| { |
| "epoch": 0.5888, |
| "grad_norm": 9.936722755432129, |
| "learning_rate": 5.829787234042553e-06, |
| "loss": 0.1273, |
| "step": 138 |
| }, |
| { |
| "epoch": 0.5930666666666666, |
| "grad_norm": 5.595465183258057, |
| "learning_rate": 5.872340425531915e-06, |
| "loss": 0.1242, |
| "step": 139 |
| }, |
| { |
| "epoch": 0.5973333333333334, |
| "grad_norm": 5.289859771728516, |
| "learning_rate": 5.9148936170212766e-06, |
| "loss": 0.1242, |
| "step": 140 |
| }, |
| { |
| "epoch": 0.6016, |
| "grad_norm": 8.406579971313477, |
| "learning_rate": 5.957446808510638e-06, |
| "loss": 0.1251, |
| "step": 141 |
| }, |
| { |
| "epoch": 0.6058666666666667, |
| "grad_norm": 6.704819679260254, |
| "learning_rate": 6e-06, |
| "loss": 0.1255, |
| "step": 142 |
| }, |
| { |
| "epoch": 0.6101333333333333, |
| "grad_norm": 9.0625, |
| "learning_rate": 6.042553191489362e-06, |
| "loss": 0.1255, |
| "step": 143 |
| }, |
| { |
| "epoch": 0.6144, |
| "grad_norm": 8.436838150024414, |
| "learning_rate": 6.085106382978724e-06, |
| "loss": 0.1247, |
| "step": 144 |
| }, |
| { |
| "epoch": 0.6186666666666667, |
| "grad_norm": 7.0138630867004395, |
| "learning_rate": 6.1276595744680855e-06, |
| "loss": 0.1268, |
| "step": 145 |
| }, |
| { |
| "epoch": 0.6229333333333333, |
| "grad_norm": 6.2439117431640625, |
| "learning_rate": 6.170212765957447e-06, |
| "loss": 0.1231, |
| "step": 146 |
| }, |
| { |
| "epoch": 0.6272, |
| "grad_norm": 8.84973430633545, |
| "learning_rate": 6.212765957446809e-06, |
| "loss": 0.1255, |
| "step": 147 |
| }, |
| { |
| "epoch": 0.6314666666666666, |
| "grad_norm": 7.984808921813965, |
| "learning_rate": 6.255319148936171e-06, |
| "loss": 0.1238, |
| "step": 148 |
| }, |
| { |
| "epoch": 0.6357333333333334, |
| "grad_norm": 6.803660869598389, |
| "learning_rate": 6.297872340425533e-06, |
| "loss": 0.1226, |
| "step": 149 |
| }, |
| { |
| "epoch": 0.64, |
| "grad_norm": 5.848384380340576, |
| "learning_rate": 6.3404255319148945e-06, |
| "loss": 0.1224, |
| "step": 150 |
| }, |
| { |
| "epoch": 0.6442666666666667, |
| "grad_norm": 8.635106086730957, |
| "learning_rate": 6.382978723404256e-06, |
| "loss": 0.1232, |
| "step": 151 |
| }, |
| { |
| "epoch": 0.6485333333333333, |
| "grad_norm": 7.334502220153809, |
| "learning_rate": 6.425531914893618e-06, |
| "loss": 0.1235, |
| "step": 152 |
| }, |
| { |
| "epoch": 0.6528, |
| "grad_norm": 7.256570816040039, |
| "learning_rate": 6.46808510638298e-06, |
| "loss": 0.1235, |
| "step": 153 |
| }, |
| { |
| "epoch": 0.6570666666666667, |
| "grad_norm": 6.407953262329102, |
| "learning_rate": 6.510638297872342e-06, |
| "loss": 0.122, |
| "step": 154 |
| }, |
| { |
| "epoch": 0.6613333333333333, |
| "grad_norm": 8.223788261413574, |
| "learning_rate": 6.553191489361702e-06, |
| "loss": 0.124, |
| "step": 155 |
| }, |
| { |
| "epoch": 0.6656, |
| "grad_norm": 6.739434242248535, |
| "learning_rate": 6.595744680851064e-06, |
| "loss": 0.123, |
| "step": 156 |
| }, |
| { |
| "epoch": 0.6698666666666667, |
| "grad_norm": 7.93510103225708, |
| "learning_rate": 6.6382978723404254e-06, |
| "loss": 0.123, |
| "step": 157 |
| }, |
| { |
| "epoch": 0.6741333333333334, |
| "grad_norm": 7.154916763305664, |
| "learning_rate": 6.680851063829787e-06, |
| "loss": 0.1221, |
| "step": 158 |
| }, |
| { |
| "epoch": 0.6784, |
| "grad_norm": 6.691060543060303, |
| "learning_rate": 6.723404255319149e-06, |
| "loss": 0.1225, |
| "step": 159 |
| }, |
| { |
| "epoch": 0.6826666666666666, |
| "grad_norm": 5.641987323760986, |
| "learning_rate": 6.765957446808511e-06, |
| "loss": 0.1208, |
| "step": 160 |
| }, |
| { |
| "epoch": 0.6869333333333333, |
| "grad_norm": 7.909478187561035, |
| "learning_rate": 6.808510638297873e-06, |
| "loss": 0.1229, |
| "step": 161 |
| }, |
| { |
| "epoch": 0.6912, |
| "grad_norm": 6.212748050689697, |
| "learning_rate": 6.8510638297872344e-06, |
| "loss": 0.1201, |
| "step": 162 |
| }, |
| { |
| "epoch": 0.6954666666666667, |
| "grad_norm": 7.641393661499023, |
| "learning_rate": 6.893617021276596e-06, |
| "loss": 0.1215, |
| "step": 163 |
| }, |
| { |
| "epoch": 0.6997333333333333, |
| "grad_norm": 6.818618297576904, |
| "learning_rate": 6.936170212765958e-06, |
| "loss": 0.1212, |
| "step": 164 |
| }, |
| { |
| "epoch": 0.704, |
| "grad_norm": 6.080795764923096, |
| "learning_rate": 6.97872340425532e-06, |
| "loss": 0.1204, |
| "step": 165 |
| }, |
| { |
| "epoch": 0.7082666666666667, |
| "grad_norm": 5.294103145599365, |
| "learning_rate": 7.021276595744682e-06, |
| "loss": 0.12, |
| "step": 166 |
| }, |
| { |
| "epoch": 0.7125333333333334, |
| "grad_norm": 7.565417289733887, |
| "learning_rate": 7.0638297872340434e-06, |
| "loss": 0.1209, |
| "step": 167 |
| }, |
| { |
| "epoch": 0.7168, |
| "grad_norm": 6.280045509338379, |
| "learning_rate": 7.106382978723405e-06, |
| "loss": 0.1212, |
| "step": 168 |
| }, |
| { |
| "epoch": 0.7210666666666666, |
| "grad_norm": 6.898222923278809, |
| "learning_rate": 7.148936170212767e-06, |
| "loss": 0.1206, |
| "step": 169 |
| }, |
| { |
| "epoch": 0.7253333333333334, |
| "grad_norm": 6.254840850830078, |
| "learning_rate": 7.191489361702129e-06, |
| "loss": 0.1203, |
| "step": 170 |
| }, |
| { |
| "epoch": 0.7296, |
| "grad_norm": 6.527096748352051, |
| "learning_rate": 7.234042553191491e-06, |
| "loss": 0.122, |
| "step": 171 |
| }, |
| { |
| "epoch": 0.7338666666666667, |
| "grad_norm": 5.724420070648193, |
| "learning_rate": 7.2765957446808524e-06, |
| "loss": 0.1207, |
| "step": 172 |
| }, |
| { |
| "epoch": 0.7381333333333333, |
| "grad_norm": 6.684255123138428, |
| "learning_rate": 7.3191489361702125e-06, |
| "loss": 0.1219, |
| "step": 173 |
| }, |
| { |
| "epoch": 0.7424, |
| "grad_norm": 6.503657341003418, |
| "learning_rate": 7.361702127659574e-06, |
| "loss": 0.1178, |
| "step": 174 |
| }, |
| { |
| "epoch": 0.7466666666666667, |
| "grad_norm": 5.723449230194092, |
| "learning_rate": 7.404255319148936e-06, |
| "loss": 0.1199, |
| "step": 175 |
| }, |
| { |
| "epoch": 0.7509333333333333, |
| "grad_norm": 4.989058017730713, |
| "learning_rate": 7.446808510638298e-06, |
| "loss": 0.1181, |
| "step": 176 |
| }, |
| { |
| "epoch": 0.7552, |
| "grad_norm": 7.475578784942627, |
| "learning_rate": 7.48936170212766e-06, |
| "loss": 0.1221, |
| "step": 177 |
| }, |
| { |
| "epoch": 0.7594666666666666, |
| "grad_norm": 6.384317398071289, |
| "learning_rate": 7.5319148936170215e-06, |
| "loss": 0.1193, |
| "step": 178 |
| }, |
| { |
| "epoch": 0.7637333333333334, |
| "grad_norm": 5.993687629699707, |
| "learning_rate": 7.574468085106383e-06, |
| "loss": 0.1197, |
| "step": 179 |
| }, |
| { |
| "epoch": 0.768, |
| "grad_norm": 5.651639938354492, |
| "learning_rate": 7.617021276595745e-06, |
| "loss": 0.118, |
| "step": 180 |
| }, |
| { |
| "epoch": 0.7722666666666667, |
| "grad_norm": 5.343756675720215, |
| "learning_rate": 7.659574468085107e-06, |
| "loss": 0.1191, |
| "step": 181 |
| }, |
| { |
| "epoch": 0.7765333333333333, |
| "grad_norm": 3.9733238220214844, |
| "learning_rate": 7.702127659574469e-06, |
| "loss": 0.117, |
| "step": 182 |
| }, |
| { |
| "epoch": 0.7808, |
| "grad_norm": 8.402620315551758, |
| "learning_rate": 7.74468085106383e-06, |
| "loss": 0.1235, |
| "step": 183 |
| }, |
| { |
| "epoch": 0.7850666666666667, |
| "grad_norm": 8.289787292480469, |
| "learning_rate": 7.787234042553192e-06, |
| "loss": 0.121, |
| "step": 184 |
| }, |
| { |
| "epoch": 0.7893333333333333, |
| "grad_norm": 3.6568987369537354, |
| "learning_rate": 7.829787234042554e-06, |
| "loss": 0.1174, |
| "step": 185 |
| }, |
| { |
| "epoch": 0.7936, |
| "grad_norm": 11.13115119934082, |
| "learning_rate": 7.872340425531916e-06, |
| "loss": 0.1257, |
| "step": 186 |
| }, |
| { |
| "epoch": 0.7978666666666666, |
| "grad_norm": 5.116509914398193, |
| "learning_rate": 7.914893617021278e-06, |
| "loss": 0.1195, |
| "step": 187 |
| }, |
| { |
| "epoch": 0.8021333333333334, |
| "grad_norm": 15.565638542175293, |
| "learning_rate": 7.95744680851064e-06, |
| "loss": 0.1417, |
| "step": 188 |
| }, |
| { |
| "epoch": 0.8064, |
| "grad_norm": 16.17276954650879, |
| "learning_rate": 8.000000000000001e-06, |
| "loss": 0.152, |
| "step": 189 |
| }, |
| { |
| "epoch": 0.8106666666666666, |
| "grad_norm": 6.167568206787109, |
| "learning_rate": 8.042553191489363e-06, |
| "loss": 0.1233, |
| "step": 190 |
| }, |
| { |
| "epoch": 0.8149333333333333, |
| "grad_norm": 12.830926895141602, |
| "learning_rate": 8.085106382978723e-06, |
| "loss": 0.1399, |
| "step": 191 |
| }, |
| { |
| "epoch": 0.8192, |
| "grad_norm": 12.8762845993042, |
| "learning_rate": 8.127659574468085e-06, |
| "loss": 0.1521, |
| "step": 192 |
| }, |
| { |
| "epoch": 0.8234666666666667, |
| "grad_norm": 8.177667617797852, |
| "learning_rate": 8.170212765957447e-06, |
| "loss": 0.1298, |
| "step": 193 |
| }, |
| { |
| "epoch": 0.8277333333333333, |
| "grad_norm": 6.849120616912842, |
| "learning_rate": 8.212765957446809e-06, |
| "loss": 0.1287, |
| "step": 194 |
| }, |
| { |
| "epoch": 0.832, |
| "grad_norm": 7.727602481842041, |
| "learning_rate": 8.25531914893617e-06, |
| "loss": 0.1332, |
| "step": 195 |
| }, |
| { |
| "epoch": 0.8362666666666667, |
| "grad_norm": 5.658266067504883, |
| "learning_rate": 8.297872340425532e-06, |
| "loss": 0.1278, |
| "step": 196 |
| }, |
| { |
| "epoch": 0.8405333333333334, |
| "grad_norm": 5.271341800689697, |
| "learning_rate": 8.340425531914894e-06, |
| "loss": 0.1254, |
| "step": 197 |
| }, |
| { |
| "epoch": 0.8448, |
| "grad_norm": 5.509979248046875, |
| "learning_rate": 8.382978723404256e-06, |
| "loss": 0.1283, |
| "step": 198 |
| }, |
| { |
| "epoch": 0.8490666666666666, |
| "grad_norm": 4.625118732452393, |
| "learning_rate": 8.425531914893618e-06, |
| "loss": 0.1226, |
| "step": 199 |
| }, |
| { |
| "epoch": 0.8533333333333334, |
| "grad_norm": 5.153396129608154, |
| "learning_rate": 8.46808510638298e-06, |
| "loss": 0.1258, |
| "step": 200 |
| }, |
| { |
| "epoch": 0.8576, |
| "grad_norm": 4.286827564239502, |
| "learning_rate": 8.510638297872341e-06, |
| "loss": 0.1223, |
| "step": 201 |
| }, |
| { |
| "epoch": 0.8618666666666667, |
| "grad_norm": 5.461269855499268, |
| "learning_rate": 8.553191489361703e-06, |
| "loss": 0.1255, |
| "step": 202 |
| }, |
| { |
| "epoch": 0.8661333333333333, |
| "grad_norm": 3.8906216621398926, |
| "learning_rate": 8.595744680851065e-06, |
| "loss": 0.1216, |
| "step": 203 |
| }, |
| { |
| "epoch": 0.8704, |
| "grad_norm": 5.908001899719238, |
| "learning_rate": 8.638297872340427e-06, |
| "loss": 0.1266, |
| "step": 204 |
| }, |
| { |
| "epoch": 0.8746666666666667, |
| "grad_norm": 3.639004945755005, |
| "learning_rate": 8.680851063829788e-06, |
| "loss": 0.1227, |
| "step": 205 |
| }, |
| { |
| "epoch": 0.8789333333333333, |
| "grad_norm": 7.122750282287598, |
| "learning_rate": 8.72340425531915e-06, |
| "loss": 0.1322, |
| "step": 206 |
| }, |
| { |
| "epoch": 0.8832, |
| "grad_norm": 5.722088813781738, |
| "learning_rate": 8.765957446808512e-06, |
| "loss": 0.1298, |
| "step": 207 |
| }, |
| { |
| "epoch": 0.8874666666666666, |
| "grad_norm": 5.114867210388184, |
| "learning_rate": 8.808510638297874e-06, |
| "loss": 0.1245, |
| "step": 208 |
| }, |
| { |
| "epoch": 0.8917333333333334, |
| "grad_norm": 5.530348300933838, |
| "learning_rate": 8.851063829787234e-06, |
| "loss": 0.126, |
| "step": 209 |
| }, |
| { |
| "epoch": 0.896, |
| "grad_norm": 3.323356866836548, |
| "learning_rate": 8.893617021276596e-06, |
| "loss": 0.1221, |
| "step": 210 |
| }, |
| { |
| "epoch": 0.9002666666666667, |
| "grad_norm": 5.217687606811523, |
| "learning_rate": 8.936170212765958e-06, |
| "loss": 0.1234, |
| "step": 211 |
| }, |
| { |
| "epoch": 0.9045333333333333, |
| "grad_norm": 2.8208258152008057, |
| "learning_rate": 8.97872340425532e-06, |
| "loss": 0.1226, |
| "step": 212 |
| }, |
| { |
| "epoch": 0.9088, |
| "grad_norm": 6.277392864227295, |
| "learning_rate": 9.021276595744681e-06, |
| "loss": 0.1306, |
| "step": 213 |
| }, |
| { |
| "epoch": 0.9130666666666667, |
| "grad_norm": 4.85951042175293, |
| "learning_rate": 9.063829787234043e-06, |
| "loss": 0.1375, |
| "step": 214 |
| }, |
| { |
| "epoch": 0.9173333333333333, |
| "grad_norm": 5.551103115081787, |
| "learning_rate": 9.106382978723405e-06, |
| "loss": 0.1224, |
| "step": 215 |
| }, |
| { |
| "epoch": 0.9216, |
| "grad_norm": 4.771853923797607, |
| "learning_rate": 9.148936170212767e-06, |
| "loss": 0.1347, |
| "step": 216 |
| }, |
| { |
| "epoch": 0.9258666666666666, |
| "grad_norm": 4.560388088226318, |
| "learning_rate": 9.191489361702128e-06, |
| "loss": 0.1224, |
| "step": 217 |
| }, |
| { |
| "epoch": 0.9301333333333334, |
| "grad_norm": 3.6074557304382324, |
| "learning_rate": 9.23404255319149e-06, |
| "loss": 0.1249, |
| "step": 218 |
| }, |
| { |
| "epoch": 0.9344, |
| "grad_norm": 4.925154685974121, |
| "learning_rate": 9.276595744680852e-06, |
| "loss": 0.1256, |
| "step": 219 |
| }, |
| { |
| "epoch": 0.9386666666666666, |
| "grad_norm": 3.3502466678619385, |
| "learning_rate": 9.319148936170214e-06, |
| "loss": 0.1221, |
| "step": 220 |
| }, |
| { |
| "epoch": 0.9429333333333333, |
| "grad_norm": 5.651970386505127, |
| "learning_rate": 9.361702127659576e-06, |
| "loss": 0.1258, |
| "step": 221 |
| }, |
| { |
| "epoch": 0.9472, |
| "grad_norm": 5.056815147399902, |
| "learning_rate": 9.404255319148937e-06, |
| "loss": 0.1293, |
| "step": 222 |
| }, |
| { |
| "epoch": 0.9514666666666667, |
| "grad_norm": 4.17104959487915, |
| "learning_rate": 9.446808510638299e-06, |
| "loss": 0.1197, |
| "step": 223 |
| }, |
| { |
| "epoch": 0.9557333333333333, |
| "grad_norm": 4.450770378112793, |
| "learning_rate": 9.489361702127661e-06, |
| "loss": 0.1237, |
| "step": 224 |
| }, |
| { |
| "epoch": 0.96, |
| "grad_norm": 4.091788291931152, |
| "learning_rate": 9.531914893617023e-06, |
| "loss": 0.1211, |
| "step": 225 |
| }, |
| { |
| "epoch": 0.9642666666666667, |
| "grad_norm": 3.8398008346557617, |
| "learning_rate": 9.574468085106385e-06, |
| "loss": 0.1214, |
| "step": 226 |
| }, |
| { |
| "epoch": 0.9685333333333334, |
| "grad_norm": 3.1588594913482666, |
| "learning_rate": 9.617021276595745e-06, |
| "loss": 0.1185, |
| "step": 227 |
| }, |
| { |
| "epoch": 0.9728, |
| "grad_norm": 3.5648460388183594, |
| "learning_rate": 9.659574468085106e-06, |
| "loss": 0.1174, |
| "step": 228 |
| }, |
| { |
| "epoch": 0.9770666666666666, |
| "grad_norm": 5.8639235496521, |
| "learning_rate": 9.702127659574468e-06, |
| "loss": 0.1249, |
| "step": 229 |
| }, |
| { |
| "epoch": 0.9813333333333333, |
| "grad_norm": 2.6490297317504883, |
| "learning_rate": 9.74468085106383e-06, |
| "loss": 0.1178, |
| "step": 230 |
| }, |
| { |
| "epoch": 0.9856, |
| "grad_norm": 6.386547088623047, |
| "learning_rate": 9.787234042553192e-06, |
| "loss": 0.1357, |
| "step": 231 |
| }, |
| { |
| "epoch": 0.9898666666666667, |
| "grad_norm": 5.654618740081787, |
| "learning_rate": 9.829787234042554e-06, |
| "loss": 0.1374, |
| "step": 232 |
| }, |
| { |
| "epoch": 0.9941333333333333, |
| "grad_norm": 4.289252758026123, |
| "learning_rate": 9.872340425531915e-06, |
| "loss": 0.1197, |
| "step": 233 |
| }, |
| { |
| "epoch": 0.9984, |
| "grad_norm": 7.1161723136901855, |
| "learning_rate": 9.914893617021277e-06, |
| "loss": 0.1322, |
| "step": 234 |
| }, |
| { |
| "epoch": 1.0, |
| "grad_norm": 7.1161723136901855, |
| "learning_rate": 9.957446808510639e-06, |
| "loss": 0.0488, |
| "step": 235 |
| }, |
| { |
| "epoch": 1.0042666666666666, |
| "grad_norm": 5.935182571411133, |
| "learning_rate": 1e-05, |
| "loss": 0.1287, |
| "step": 236 |
| }, |
| { |
| "epoch": 1.0085333333333333, |
| "grad_norm": 5.292780876159668, |
| "learning_rate": 9.999994484067655e-06, |
| "loss": 0.1246, |
| "step": 237 |
| }, |
| { |
| "epoch": 1.0128, |
| "grad_norm": 5.135565757751465, |
| "learning_rate": 9.999977936282789e-06, |
| "loss": 0.1253, |
| "step": 238 |
| }, |
| { |
| "epoch": 1.0170666666666666, |
| "grad_norm": 3.817563533782959, |
| "learning_rate": 9.999950356681914e-06, |
| "loss": 0.1245, |
| "step": 239 |
| }, |
| { |
| "epoch": 1.0213333333333334, |
| "grad_norm": 5.6104278564453125, |
| "learning_rate": 9.999911745325877e-06, |
| "loss": 0.1267, |
| "step": 240 |
| }, |
| { |
| "epoch": 1.0256, |
| "grad_norm": 3.947054624557495, |
| "learning_rate": 9.999862102299874e-06, |
| "loss": 0.1252, |
| "step": 241 |
| }, |
| { |
| "epoch": 1.0298666666666667, |
| "grad_norm": 6.3606343269348145, |
| "learning_rate": 9.999801427713432e-06, |
| "loss": 0.1268, |
| "step": 242 |
| }, |
| { |
| "epoch": 1.0341333333333333, |
| "grad_norm": 4.345498561859131, |
| "learning_rate": 9.999729721700426e-06, |
| "loss": 0.128, |
| "step": 243 |
| }, |
| { |
| "epoch": 1.0384, |
| "grad_norm": 7.323845863342285, |
| "learning_rate": 9.999646984419061e-06, |
| "loss": 0.1287, |
| "step": 244 |
| }, |
| { |
| "epoch": 1.0426666666666666, |
| "grad_norm": 5.8514814376831055, |
| "learning_rate": 9.999553216051892e-06, |
| "loss": 0.1331, |
| "step": 245 |
| }, |
| { |
| "epoch": 1.0469333333333333, |
| "grad_norm": 5.87026834487915, |
| "learning_rate": 9.999448416805802e-06, |
| "loss": 0.125, |
| "step": 246 |
| }, |
| { |
| "epoch": 1.0512, |
| "grad_norm": 5.522796154022217, |
| "learning_rate": 9.99933258691202e-06, |
| "loss": 0.1237, |
| "step": 247 |
| }, |
| { |
| "epoch": 1.0554666666666668, |
| "grad_norm": 3.951136589050293, |
| "learning_rate": 9.999205726626109e-06, |
| "loss": 0.1233, |
| "step": 248 |
| }, |
| { |
| "epoch": 1.0597333333333334, |
| "grad_norm": 4.852754592895508, |
| "learning_rate": 9.99906783622797e-06, |
| "loss": 0.122, |
| "step": 249 |
| }, |
| { |
| "epoch": 1.064, |
| "grad_norm": 4.077630043029785, |
| "learning_rate": 9.998918916021842e-06, |
| "loss": 0.1207, |
| "step": 250 |
| }, |
| { |
| "epoch": 1.0682666666666667, |
| "grad_norm": 4.453201770782471, |
| "learning_rate": 9.998758966336296e-06, |
| "loss": 0.12, |
| "step": 251 |
| }, |
| { |
| "epoch": 1.0725333333333333, |
| "grad_norm": 2.438328504562378, |
| "learning_rate": 9.998587987524243e-06, |
| "loss": 0.117, |
| "step": 252 |
| }, |
| { |
| "epoch": 1.0768, |
| "grad_norm": 3.7442538738250732, |
| "learning_rate": 9.998405979962926e-06, |
| "loss": 0.1187, |
| "step": 253 |
| }, |
| { |
| "epoch": 1.0810666666666666, |
| "grad_norm": 3.887525796890259, |
| "learning_rate": 9.99821294405392e-06, |
| "loss": 0.1184, |
| "step": 254 |
| }, |
| { |
| "epoch": 1.0853333333333333, |
| "grad_norm": 6.806149005889893, |
| "learning_rate": 9.998008880223134e-06, |
| "loss": 0.1204, |
| "step": 255 |
| }, |
| { |
| "epoch": 1.0896, |
| "grad_norm": 3.5106143951416016, |
| "learning_rate": 9.99779378892081e-06, |
| "loss": 0.1215, |
| "step": 256 |
| }, |
| { |
| "epoch": 1.0938666666666668, |
| "grad_norm": 7.366903305053711, |
| "learning_rate": 9.997567670621521e-06, |
| "loss": 0.1273, |
| "step": 257 |
| }, |
| { |
| "epoch": 1.0981333333333334, |
| "grad_norm": 5.446555137634277, |
| "learning_rate": 9.997330525824168e-06, |
| "loss": 0.1254, |
| "step": 258 |
| }, |
| { |
| "epoch": 1.1024, |
| "grad_norm": 5.372413158416748, |
| "learning_rate": 9.997082355051976e-06, |
| "loss": 0.1202, |
| "step": 259 |
| }, |
| { |
| "epoch": 1.1066666666666667, |
| "grad_norm": 6.54384183883667, |
| "learning_rate": 9.996823158852508e-06, |
| "loss": 0.1248, |
| "step": 260 |
| }, |
| { |
| "epoch": 1.1109333333333333, |
| "grad_norm": 4.519038200378418, |
| "learning_rate": 9.996552937797646e-06, |
| "loss": 0.1218, |
| "step": 261 |
| }, |
| { |
| "epoch": 1.1152, |
| "grad_norm": 6.259124279022217, |
| "learning_rate": 9.996271692483597e-06, |
| "loss": 0.1217, |
| "step": 262 |
| }, |
| { |
| "epoch": 1.1194666666666666, |
| "grad_norm": 4.168610572814941, |
| "learning_rate": 9.995979423530893e-06, |
| "loss": 0.1215, |
| "step": 263 |
| }, |
| { |
| "epoch": 1.1237333333333333, |
| "grad_norm": 3.8914642333984375, |
| "learning_rate": 9.995676131584389e-06, |
| "loss": 0.1174, |
| "step": 264 |
| }, |
| { |
| "epoch": 1.1280000000000001, |
| "grad_norm": 5.742394924163818, |
| "learning_rate": 9.995361817313262e-06, |
| "loss": 0.1226, |
| "step": 265 |
| }, |
| { |
| "epoch": 1.1322666666666668, |
| "grad_norm": 4.259416580200195, |
| "learning_rate": 9.995036481411005e-06, |
| "loss": 0.1196, |
| "step": 266 |
| }, |
| { |
| "epoch": 1.1365333333333334, |
| "grad_norm": 5.219086647033691, |
| "learning_rate": 9.994700124595429e-06, |
| "loss": 0.1192, |
| "step": 267 |
| }, |
| { |
| "epoch": 1.1408, |
| "grad_norm": 5.503093719482422, |
| "learning_rate": 9.994352747608663e-06, |
| "loss": 0.1215, |
| "step": 268 |
| }, |
| { |
| "epoch": 1.1450666666666667, |
| "grad_norm": 4.057020664215088, |
| "learning_rate": 9.993994351217153e-06, |
| "loss": 0.1162, |
| "step": 269 |
| }, |
| { |
| "epoch": 1.1493333333333333, |
| "grad_norm": 6.2084269523620605, |
| "learning_rate": 9.993624936211652e-06, |
| "loss": 0.1181, |
| "step": 270 |
| }, |
| { |
| "epoch": 1.1536, |
| "grad_norm": 3.86226487159729, |
| "learning_rate": 9.993244503407227e-06, |
| "loss": 0.1197, |
| "step": 271 |
| }, |
| { |
| "epoch": 1.1578666666666666, |
| "grad_norm": 5.438651084899902, |
| "learning_rate": 9.992853053643257e-06, |
| "loss": 0.1181, |
| "step": 272 |
| }, |
| { |
| "epoch": 1.1621333333333332, |
| "grad_norm": 3.089888095855713, |
| "learning_rate": 9.992450587783426e-06, |
| "loss": 0.1197, |
| "step": 273 |
| }, |
| { |
| "epoch": 1.1663999999999999, |
| "grad_norm": 6.028289794921875, |
| "learning_rate": 9.992037106715722e-06, |
| "loss": 0.121, |
| "step": 274 |
| }, |
| { |
| "epoch": 1.1706666666666667, |
| "grad_norm": 3.518129587173462, |
| "learning_rate": 9.991612611352439e-06, |
| "loss": 0.1209, |
| "step": 275 |
| }, |
| { |
| "epoch": 1.1749333333333334, |
| "grad_norm": 5.490471839904785, |
| "learning_rate": 9.991177102630173e-06, |
| "loss": 0.122, |
| "step": 276 |
| }, |
| { |
| "epoch": 1.1792, |
| "grad_norm": 4.619834899902344, |
| "learning_rate": 9.990730581509817e-06, |
| "loss": 0.1232, |
| "step": 277 |
| }, |
| { |
| "epoch": 1.1834666666666667, |
| "grad_norm": 3.749178886413574, |
| "learning_rate": 9.990273048976566e-06, |
| "loss": 0.1188, |
| "step": 278 |
| }, |
| { |
| "epoch": 1.1877333333333333, |
| "grad_norm": 5.667284965515137, |
| "learning_rate": 9.989804506039905e-06, |
| "loss": 0.1236, |
| "step": 279 |
| }, |
| { |
| "epoch": 1.192, |
| "grad_norm": 3.1727864742279053, |
| "learning_rate": 9.989324953733615e-06, |
| "loss": 0.1229, |
| "step": 280 |
| }, |
| { |
| "epoch": 1.1962666666666666, |
| "grad_norm": 5.744826793670654, |
| "learning_rate": 9.988834393115768e-06, |
| "loss": 0.1255, |
| "step": 281 |
| }, |
| { |
| "epoch": 1.2005333333333335, |
| "grad_norm": 4.079339504241943, |
| "learning_rate": 9.98833282526872e-06, |
| "loss": 0.1287, |
| "step": 282 |
| }, |
| { |
| "epoch": 1.2048, |
| "grad_norm": 5.137429237365723, |
| "learning_rate": 9.987820251299121e-06, |
| "loss": 0.1243, |
| "step": 283 |
| }, |
| { |
| "epoch": 1.2090666666666667, |
| "grad_norm": 4.121692657470703, |
| "learning_rate": 9.9872966723379e-06, |
| "loss": 0.1231, |
| "step": 284 |
| }, |
| { |
| "epoch": 1.2133333333333334, |
| "grad_norm": 4.33402156829834, |
| "learning_rate": 9.986762089540268e-06, |
| "loss": 0.1233, |
| "step": 285 |
| }, |
| { |
| "epoch": 1.2176, |
| "grad_norm": 4.249146461486816, |
| "learning_rate": 9.986216504085709e-06, |
| "loss": 0.12, |
| "step": 286 |
| }, |
| { |
| "epoch": 1.2218666666666667, |
| "grad_norm": 4.126492500305176, |
| "learning_rate": 9.985659917177991e-06, |
| "loss": 0.1198, |
| "step": 287 |
| }, |
| { |
| "epoch": 1.2261333333333333, |
| "grad_norm": 4.10832405090332, |
| "learning_rate": 9.985092330045156e-06, |
| "loss": 0.1185, |
| "step": 288 |
| }, |
| { |
| "epoch": 1.2304, |
| "grad_norm": 3.8791186809539795, |
| "learning_rate": 9.98451374393951e-06, |
| "loss": 0.1183, |
| "step": 289 |
| }, |
| { |
| "epoch": 1.2346666666666666, |
| "grad_norm": 4.378361701965332, |
| "learning_rate": 9.983924160137627e-06, |
| "loss": 0.1174, |
| "step": 290 |
| }, |
| { |
| "epoch": 1.2389333333333332, |
| "grad_norm": 2.184255361557007, |
| "learning_rate": 9.983323579940351e-06, |
| "loss": 0.1191, |
| "step": 291 |
| }, |
| { |
| "epoch": 1.2432, |
| "grad_norm": 5.996938228607178, |
| "learning_rate": 9.982712004672787e-06, |
| "loss": 0.1297, |
| "step": 292 |
| }, |
| { |
| "epoch": 1.2474666666666667, |
| "grad_norm": 5.170231819152832, |
| "learning_rate": 9.982089435684297e-06, |
| "loss": 0.1272, |
| "step": 293 |
| }, |
| { |
| "epoch": 1.2517333333333334, |
| "grad_norm": 3.8409669399261475, |
| "learning_rate": 9.9814558743485e-06, |
| "loss": 0.1191, |
| "step": 294 |
| }, |
| { |
| "epoch": 1.256, |
| "grad_norm": 4.199260234832764, |
| "learning_rate": 9.980811322063268e-06, |
| "loss": 0.1201, |
| "step": 295 |
| }, |
| { |
| "epoch": 1.2602666666666666, |
| "grad_norm": 2.8783466815948486, |
| "learning_rate": 9.980155780250728e-06, |
| "loss": 0.1196, |
| "step": 296 |
| }, |
| { |
| "epoch": 1.2645333333333333, |
| "grad_norm": 5.591996192932129, |
| "learning_rate": 9.979489250357243e-06, |
| "loss": 0.1234, |
| "step": 297 |
| }, |
| { |
| "epoch": 1.2688, |
| "grad_norm": 3.9676425457000732, |
| "learning_rate": 9.978811733853433e-06, |
| "loss": 0.1242, |
| "step": 298 |
| }, |
| { |
| "epoch": 1.2730666666666668, |
| "grad_norm": 5.0102057456970215, |
| "learning_rate": 9.978123232234147e-06, |
| "loss": 0.1207, |
| "step": 299 |
| }, |
| { |
| "epoch": 1.2773333333333334, |
| "grad_norm": 4.265115737915039, |
| "learning_rate": 9.97742374701848e-06, |
| "loss": 0.1209, |
| "step": 300 |
| }, |
| { |
| "epoch": 1.2816, |
| "grad_norm": 6.160897254943848, |
| "learning_rate": 9.976713279749754e-06, |
| "loss": 0.1254, |
| "step": 301 |
| }, |
| { |
| "epoch": 1.2858666666666667, |
| "grad_norm": 4.771708965301514, |
| "learning_rate": 9.975991831995528e-06, |
| "loss": 0.1237, |
| "step": 302 |
| }, |
| { |
| "epoch": 1.2901333333333334, |
| "grad_norm": 6.948702335357666, |
| "learning_rate": 9.975259405347583e-06, |
| "loss": 0.1192, |
| "step": 303 |
| }, |
| { |
| "epoch": 1.2944, |
| "grad_norm": 5.352514743804932, |
| "learning_rate": 9.974516001421926e-06, |
| "loss": 0.1215, |
| "step": 304 |
| }, |
| { |
| "epoch": 1.2986666666666666, |
| "grad_norm": 5.381694793701172, |
| "learning_rate": 9.97376162185878e-06, |
| "loss": 0.1187, |
| "step": 305 |
| }, |
| { |
| "epoch": 1.3029333333333333, |
| "grad_norm": 5.543086528778076, |
| "learning_rate": 9.972996268322594e-06, |
| "loss": 0.1153, |
| "step": 306 |
| }, |
| { |
| "epoch": 1.3072, |
| "grad_norm": 3.0159881114959717, |
| "learning_rate": 9.972219942502017e-06, |
| "loss": 0.1154, |
| "step": 307 |
| }, |
| { |
| "epoch": 1.3114666666666666, |
| "grad_norm": 5.667745590209961, |
| "learning_rate": 9.971432646109919e-06, |
| "loss": 0.117, |
| "step": 308 |
| }, |
| { |
| "epoch": 1.3157333333333332, |
| "grad_norm": 3.8900418281555176, |
| "learning_rate": 9.970634380883364e-06, |
| "loss": 0.1143, |
| "step": 309 |
| }, |
| { |
| "epoch": 1.32, |
| "grad_norm": 3.812140941619873, |
| "learning_rate": 9.969825148583627e-06, |
| "loss": 0.1135, |
| "step": 310 |
| }, |
| { |
| "epoch": 1.3242666666666667, |
| "grad_norm": 4.56724739074707, |
| "learning_rate": 9.969004950996175e-06, |
| "loss": 0.1133, |
| "step": 311 |
| }, |
| { |
| "epoch": 1.3285333333333333, |
| "grad_norm": 5.430902481079102, |
| "learning_rate": 9.968173789930668e-06, |
| "loss": 0.112, |
| "step": 312 |
| }, |
| { |
| "epoch": 1.3328, |
| "grad_norm": 3.464324712753296, |
| "learning_rate": 9.96733166722096e-06, |
| "loss": 0.1123, |
| "step": 313 |
| }, |
| { |
| "epoch": 1.3370666666666666, |
| "grad_norm": 4.844167709350586, |
| "learning_rate": 9.966478584725085e-06, |
| "loss": 0.1125, |
| "step": 314 |
| }, |
| { |
| "epoch": 1.3413333333333333, |
| "grad_norm": 4.899601459503174, |
| "learning_rate": 9.965614544325264e-06, |
| "loss": 0.1126, |
| "step": 315 |
| }, |
| { |
| "epoch": 1.3456000000000001, |
| "grad_norm": 4.0164079666137695, |
| "learning_rate": 9.964739547927892e-06, |
| "loss": 0.1117, |
| "step": 316 |
| }, |
| { |
| "epoch": 1.3498666666666668, |
| "grad_norm": 3.449429988861084, |
| "learning_rate": 9.963853597463533e-06, |
| "loss": 0.1101, |
| "step": 317 |
| }, |
| { |
| "epoch": 1.3541333333333334, |
| "grad_norm": 6.577143669128418, |
| "learning_rate": 9.96295669488693e-06, |
| "loss": 0.1135, |
| "step": 318 |
| }, |
| { |
| "epoch": 1.3584, |
| "grad_norm": 2.9539217948913574, |
| "learning_rate": 9.96204884217698e-06, |
| "loss": 0.1159, |
| "step": 319 |
| }, |
| { |
| "epoch": 1.3626666666666667, |
| "grad_norm": 6.194974899291992, |
| "learning_rate": 9.961130041336748e-06, |
| "loss": 0.1212, |
| "step": 320 |
| }, |
| { |
| "epoch": 1.3669333333333333, |
| "grad_norm": 4.237511157989502, |
| "learning_rate": 9.96020029439345e-06, |
| "loss": 0.1217, |
| "step": 321 |
| }, |
| { |
| "epoch": 1.3712, |
| "grad_norm": 5.736575603485107, |
| "learning_rate": 9.959259603398454e-06, |
| "loss": 0.1219, |
| "step": 322 |
| }, |
| { |
| "epoch": 1.3754666666666666, |
| "grad_norm": 4.737814426422119, |
| "learning_rate": 9.958307970427276e-06, |
| "loss": 0.1215, |
| "step": 323 |
| }, |
| { |
| "epoch": 1.3797333333333333, |
| "grad_norm": 5.155465602874756, |
| "learning_rate": 9.957345397579573e-06, |
| "loss": 0.1186, |
| "step": 324 |
| }, |
| { |
| "epoch": 1.384, |
| "grad_norm": 5.585412979125977, |
| "learning_rate": 9.956371886979139e-06, |
| "loss": 0.1217, |
| "step": 325 |
| }, |
| { |
| "epoch": 1.3882666666666665, |
| "grad_norm": 4.1086506843566895, |
| "learning_rate": 9.955387440773902e-06, |
| "loss": 0.1164, |
| "step": 326 |
| }, |
| { |
| "epoch": 1.3925333333333334, |
| "grad_norm": 3.985306978225708, |
| "learning_rate": 9.954392061135916e-06, |
| "loss": 0.1163, |
| "step": 327 |
| }, |
| { |
| "epoch": 1.3968, |
| "grad_norm": 4.945534706115723, |
| "learning_rate": 9.953385750261363e-06, |
| "loss": 0.1151, |
| "step": 328 |
| }, |
| { |
| "epoch": 1.4010666666666667, |
| "grad_norm": 2.9012649059295654, |
| "learning_rate": 9.952368510370538e-06, |
| "loss": 0.1141, |
| "step": 329 |
| }, |
| { |
| "epoch": 1.4053333333333333, |
| "grad_norm": 7.978700160980225, |
| "learning_rate": 9.951340343707852e-06, |
| "loss": 0.119, |
| "step": 330 |
| }, |
| { |
| "epoch": 1.4096, |
| "grad_norm": 5.617311954498291, |
| "learning_rate": 9.950301252541824e-06, |
| "loss": 0.1181, |
| "step": 331 |
| }, |
| { |
| "epoch": 1.4138666666666666, |
| "grad_norm": 7.305325031280518, |
| "learning_rate": 9.949251239165076e-06, |
| "loss": 0.1164, |
| "step": 332 |
| }, |
| { |
| "epoch": 1.4181333333333335, |
| "grad_norm": 6.810077667236328, |
| "learning_rate": 9.94819030589433e-06, |
| "loss": 0.1171, |
| "step": 333 |
| }, |
| { |
| "epoch": 1.4224, |
| "grad_norm": 4.517914772033691, |
| "learning_rate": 9.9471184550704e-06, |
| "loss": 0.1141, |
| "step": 334 |
| }, |
| { |
| "epoch": 1.4266666666666667, |
| "grad_norm": 7.977745056152344, |
| "learning_rate": 9.946035689058189e-06, |
| "loss": 0.1185, |
| "step": 335 |
| }, |
| { |
| "epoch": 1.4309333333333334, |
| "grad_norm": 5.102802753448486, |
| "learning_rate": 9.944942010246681e-06, |
| "loss": 0.1179, |
| "step": 336 |
| }, |
| { |
| "epoch": 1.4352, |
| "grad_norm": 8.595138549804688, |
| "learning_rate": 9.943837421048942e-06, |
| "loss": 0.1179, |
| "step": 337 |
| }, |
| { |
| "epoch": 1.4394666666666667, |
| "grad_norm": 6.408101558685303, |
| "learning_rate": 9.942721923902105e-06, |
| "loss": 0.1209, |
| "step": 338 |
| }, |
| { |
| "epoch": 1.4437333333333333, |
| "grad_norm": 7.459262847900391, |
| "learning_rate": 9.941595521267377e-06, |
| "loss": 0.1151, |
| "step": 339 |
| }, |
| { |
| "epoch": 1.448, |
| "grad_norm": 4.301973819732666, |
| "learning_rate": 9.940458215630017e-06, |
| "loss": 0.1146, |
| "step": 340 |
| }, |
| { |
| "epoch": 1.4522666666666666, |
| "grad_norm": 8.624367713928223, |
| "learning_rate": 9.939310009499348e-06, |
| "loss": 0.1188, |
| "step": 341 |
| }, |
| { |
| "epoch": 1.4565333333333332, |
| "grad_norm": 6.233131408691406, |
| "learning_rate": 9.938150905408741e-06, |
| "loss": 0.1186, |
| "step": 342 |
| }, |
| { |
| "epoch": 1.4607999999999999, |
| "grad_norm": 7.494032859802246, |
| "learning_rate": 9.936980905915612e-06, |
| "loss": 0.1173, |
| "step": 343 |
| }, |
| { |
| "epoch": 1.4650666666666667, |
| "grad_norm": 7.334600925445557, |
| "learning_rate": 9.935800013601415e-06, |
| "loss": 0.1163, |
| "step": 344 |
| }, |
| { |
| "epoch": 1.4693333333333334, |
| "grad_norm": 4.524255275726318, |
| "learning_rate": 9.93460823107164e-06, |
| "loss": 0.1134, |
| "step": 345 |
| }, |
| { |
| "epoch": 1.4736, |
| "grad_norm": 4.376001834869385, |
| "learning_rate": 9.933405560955805e-06, |
| "loss": 0.1119, |
| "step": 346 |
| }, |
| { |
| "epoch": 1.4778666666666667, |
| "grad_norm": 5.788750171661377, |
| "learning_rate": 9.932192005907446e-06, |
| "loss": 0.113, |
| "step": 347 |
| }, |
| { |
| "epoch": 1.4821333333333333, |
| "grad_norm": 3.970564603805542, |
| "learning_rate": 9.930967568604119e-06, |
| "loss": 0.1131, |
| "step": 348 |
| }, |
| { |
| "epoch": 1.4864, |
| "grad_norm": 7.438868045806885, |
| "learning_rate": 9.929732251747389e-06, |
| "loss": 0.1178, |
| "step": 349 |
| }, |
| { |
| "epoch": 1.4906666666666666, |
| "grad_norm": 6.751838207244873, |
| "learning_rate": 9.928486058062828e-06, |
| "loss": 0.117, |
| "step": 350 |
| }, |
| { |
| "epoch": 1.4949333333333334, |
| "grad_norm": 4.1995625495910645, |
| "learning_rate": 9.9272289903e-06, |
| "loss": 0.1124, |
| "step": 351 |
| }, |
| { |
| "epoch": 1.4992, |
| "grad_norm": 4.800899028778076, |
| "learning_rate": 9.925961051232469e-06, |
| "loss": 0.1129, |
| "step": 352 |
| }, |
| { |
| "epoch": 1.5034666666666667, |
| "grad_norm": 4.623241424560547, |
| "learning_rate": 9.92468224365778e-06, |
| "loss": 0.1117, |
| "step": 353 |
| }, |
| { |
| "epoch": 1.5077333333333334, |
| "grad_norm": 3.0356364250183105, |
| "learning_rate": 9.923392570397459e-06, |
| "loss": 0.1117, |
| "step": 354 |
| }, |
| { |
| "epoch": 1.512, |
| "grad_norm": 4.9218974113464355, |
| "learning_rate": 9.922092034297007e-06, |
| "loss": 0.1128, |
| "step": 355 |
| }, |
| { |
| "epoch": 1.5162666666666667, |
| "grad_norm": 3.4157235622406006, |
| "learning_rate": 9.92078063822589e-06, |
| "loss": 0.112, |
| "step": 356 |
| }, |
| { |
| "epoch": 1.5205333333333333, |
| "grad_norm": 5.657739162445068, |
| "learning_rate": 9.91945838507754e-06, |
| "loss": 0.1158, |
| "step": 357 |
| }, |
| { |
| "epoch": 1.5248, |
| "grad_norm": 5.096992492675781, |
| "learning_rate": 9.918125277769336e-06, |
| "loss": 0.1151, |
| "step": 358 |
| }, |
| { |
| "epoch": 1.5290666666666666, |
| "grad_norm": 4.734887599945068, |
| "learning_rate": 9.916781319242616e-06, |
| "loss": 0.1118, |
| "step": 359 |
| }, |
| { |
| "epoch": 1.5333333333333332, |
| "grad_norm": 5.02221155166626, |
| "learning_rate": 9.915426512462647e-06, |
| "loss": 0.1114, |
| "step": 360 |
| }, |
| { |
| "epoch": 1.5375999999999999, |
| "grad_norm": 4.93018913269043, |
| "learning_rate": 9.914060860418644e-06, |
| "loss": 0.1118, |
| "step": 361 |
| }, |
| { |
| "epoch": 1.5418666666666667, |
| "grad_norm": 5.088624954223633, |
| "learning_rate": 9.91268436612374e-06, |
| "loss": 0.1105, |
| "step": 362 |
| }, |
| { |
| "epoch": 1.5461333333333334, |
| "grad_norm": 4.798462867736816, |
| "learning_rate": 9.911297032614996e-06, |
| "loss": 0.1095, |
| "step": 363 |
| }, |
| { |
| "epoch": 1.5504, |
| "grad_norm": 5.95226526260376, |
| "learning_rate": 9.909898862953392e-06, |
| "loss": 0.112, |
| "step": 364 |
| }, |
| { |
| "epoch": 1.5546666666666666, |
| "grad_norm": 6.883795738220215, |
| "learning_rate": 9.908489860223805e-06, |
| "loss": 0.1107, |
| "step": 365 |
| }, |
| { |
| "epoch": 1.5589333333333333, |
| "grad_norm": 3.146536111831665, |
| "learning_rate": 9.907070027535022e-06, |
| "loss": 0.108, |
| "step": 366 |
| }, |
| { |
| "epoch": 1.5632000000000001, |
| "grad_norm": 4.579812526702881, |
| "learning_rate": 9.905639368019724e-06, |
| "loss": 0.1104, |
| "step": 367 |
| }, |
| { |
| "epoch": 1.5674666666666668, |
| "grad_norm": 5.706833839416504, |
| "learning_rate": 9.904197884834482e-06, |
| "loss": 0.11, |
| "step": 368 |
| }, |
| { |
| "epoch": 1.5717333333333334, |
| "grad_norm": 2.8592660427093506, |
| "learning_rate": 9.902745581159743e-06, |
| "loss": 0.1159, |
| "step": 369 |
| }, |
| { |
| "epoch": 1.576, |
| "grad_norm": 12.39868450164795, |
| "learning_rate": 9.901282460199831e-06, |
| "loss": 0.1345, |
| "step": 370 |
| }, |
| { |
| "epoch": 1.5802666666666667, |
| "grad_norm": 11.114265441894531, |
| "learning_rate": 9.899808525182935e-06, |
| "loss": 0.1331, |
| "step": 371 |
| }, |
| { |
| "epoch": 1.5845333333333333, |
| "grad_norm": 9.193613052368164, |
| "learning_rate": 9.898323779361108e-06, |
| "loss": 0.1213, |
| "step": 372 |
| }, |
| { |
| "epoch": 1.5888, |
| "grad_norm": 9.077799797058105, |
| "learning_rate": 9.89682822601025e-06, |
| "loss": 0.1196, |
| "step": 373 |
| }, |
| { |
| "epoch": 1.5930666666666666, |
| "grad_norm": 9.783404350280762, |
| "learning_rate": 9.895321868430113e-06, |
| "loss": 0.1199, |
| "step": 374 |
| }, |
| { |
| "epoch": 1.5973333333333333, |
| "grad_norm": 4.7927141189575195, |
| "learning_rate": 9.893804709944281e-06, |
| "loss": 0.1153, |
| "step": 375 |
| }, |
| { |
| "epoch": 1.6016, |
| "grad_norm": 7.528342247009277, |
| "learning_rate": 9.892276753900173e-06, |
| "loss": 0.1193, |
| "step": 376 |
| }, |
| { |
| "epoch": 1.6058666666666666, |
| "grad_norm": 5.356241226196289, |
| "learning_rate": 9.890738003669029e-06, |
| "loss": 0.118, |
| "step": 377 |
| }, |
| { |
| "epoch": 1.6101333333333332, |
| "grad_norm": 4.04868745803833, |
| "learning_rate": 9.889188462645905e-06, |
| "loss": 0.116, |
| "step": 378 |
| }, |
| { |
| "epoch": 1.6143999999999998, |
| "grad_norm": 6.1326751708984375, |
| "learning_rate": 9.887628134249669e-06, |
| "loss": 0.1173, |
| "step": 379 |
| }, |
| { |
| "epoch": 1.6186666666666667, |
| "grad_norm": 4.443249702453613, |
| "learning_rate": 9.886057021922984e-06, |
| "loss": 0.116, |
| "step": 380 |
| }, |
| { |
| "epoch": 1.6229333333333333, |
| "grad_norm": 3.5723698139190674, |
| "learning_rate": 9.884475129132312e-06, |
| "loss": 0.1128, |
| "step": 381 |
| }, |
| { |
| "epoch": 1.6272, |
| "grad_norm": 6.835819244384766, |
| "learning_rate": 9.882882459367898e-06, |
| "loss": 0.1169, |
| "step": 382 |
| }, |
| { |
| "epoch": 1.6314666666666666, |
| "grad_norm": 5.1200852394104, |
| "learning_rate": 9.881279016143766e-06, |
| "loss": 0.1165, |
| "step": 383 |
| }, |
| { |
| "epoch": 1.6357333333333335, |
| "grad_norm": 4.170957565307617, |
| "learning_rate": 9.879664802997708e-06, |
| "loss": 0.1135, |
| "step": 384 |
| }, |
| { |
| "epoch": 1.6400000000000001, |
| "grad_norm": 9.073988914489746, |
| "learning_rate": 9.878039823491282e-06, |
| "loss": 0.1207, |
| "step": 385 |
| }, |
| { |
| "epoch": 1.6442666666666668, |
| "grad_norm": 5.946852684020996, |
| "learning_rate": 9.876404081209796e-06, |
| "loss": 0.1226, |
| "step": 386 |
| }, |
| { |
| "epoch": 1.6485333333333334, |
| "grad_norm": 10.303154945373535, |
| "learning_rate": 9.87475757976231e-06, |
| "loss": 0.1223, |
| "step": 387 |
| }, |
| { |
| "epoch": 1.6528, |
| "grad_norm": 9.911062240600586, |
| "learning_rate": 9.873100322781622e-06, |
| "loss": 0.1212, |
| "step": 388 |
| }, |
| { |
| "epoch": 1.6570666666666667, |
| "grad_norm": 4.888733863830566, |
| "learning_rate": 9.871432313924255e-06, |
| "loss": 0.115, |
| "step": 389 |
| }, |
| { |
| "epoch": 1.6613333333333333, |
| "grad_norm": 5.558224678039551, |
| "learning_rate": 9.86975355687046e-06, |
| "loss": 0.115, |
| "step": 390 |
| }, |
| { |
| "epoch": 1.6656, |
| "grad_norm": 5.1496429443359375, |
| "learning_rate": 9.868064055324204e-06, |
| "loss": 0.1142, |
| "step": 391 |
| }, |
| { |
| "epoch": 1.6698666666666666, |
| "grad_norm": 3.196533203125, |
| "learning_rate": 9.866363813013153e-06, |
| "loss": 0.1141, |
| "step": 392 |
| }, |
| { |
| "epoch": 1.6741333333333333, |
| "grad_norm": 5.469643592834473, |
| "learning_rate": 9.864652833688678e-06, |
| "loss": 0.1142, |
| "step": 393 |
| }, |
| { |
| "epoch": 1.6784, |
| "grad_norm": 3.354064702987671, |
| "learning_rate": 9.862931121125837e-06, |
| "loss": 0.1143, |
| "step": 394 |
| }, |
| { |
| "epoch": 1.6826666666666665, |
| "grad_norm": 5.456864356994629, |
| "learning_rate": 9.86119867912337e-06, |
| "loss": 0.1163, |
| "step": 395 |
| }, |
| { |
| "epoch": 1.6869333333333332, |
| "grad_norm": 4.276975154876709, |
| "learning_rate": 9.859455511503691e-06, |
| "loss": 0.1159, |
| "step": 396 |
| }, |
| { |
| "epoch": 1.6912, |
| "grad_norm": 5.062138080596924, |
| "learning_rate": 9.857701622112877e-06, |
| "loss": 0.1141, |
| "step": 397 |
| }, |
| { |
| "epoch": 1.6954666666666667, |
| "grad_norm": 4.016213417053223, |
| "learning_rate": 9.85593701482066e-06, |
| "loss": 0.1129, |
| "step": 398 |
| }, |
| { |
| "epoch": 1.6997333333333333, |
| "grad_norm": 4.987476825714111, |
| "learning_rate": 9.854161693520426e-06, |
| "loss": 0.1142, |
| "step": 399 |
| }, |
| { |
| "epoch": 1.704, |
| "grad_norm": 3.9129505157470703, |
| "learning_rate": 9.852375662129193e-06, |
| "loss": 0.1137, |
| "step": 400 |
| } |
| ], |
| "logging_steps": 1, |
| "max_steps": 2350, |
| "num_input_tokens_seen": 0, |
| "num_train_epochs": 10, |
| "save_steps": 100, |
| "stateful_callbacks": { |
| "TrainerControl": { |
| "args": { |
| "should_epoch_stop": false, |
| "should_evaluate": false, |
| "should_log": false, |
| "should_save": true, |
| "should_training_stop": false |
| }, |
| "attributes": {} |
| } |
| }, |
| "total_flos": 1.0522802641229054e+19, |
| "train_batch_size": 8, |
| "trial_name": null, |
| "trial_params": null |
| } |
|
|
