| { |
| "best_global_step": null, |
| "best_metric": null, |
| "best_model_checkpoint": null, |
| "epoch": 0.8533333333333334, |
| "eval_steps": 500, |
| "global_step": 200, |
| "is_hyper_param_search": false, |
| "is_local_process_zero": true, |
| "is_world_process_zero": true, |
| "log_history": [ |
| { |
| "epoch": 0.004266666666666667, |
| "grad_norm": 22.56278419494629, |
| "learning_rate": 0.0, |
| "loss": 1.003, |
| "step": 1 |
| }, |
| { |
| "epoch": 0.008533333333333334, |
| "grad_norm": 22.34969711303711, |
| "learning_rate": 4.2553191489361707e-08, |
| "loss": 1.0007, |
| "step": 2 |
| }, |
| { |
| "epoch": 0.0128, |
| "grad_norm": 22.497220993041992, |
| "learning_rate": 8.510638297872341e-08, |
| "loss": 0.9989, |
| "step": 3 |
| }, |
| { |
| "epoch": 0.017066666666666667, |
| "grad_norm": 22.301002502441406, |
| "learning_rate": 1.276595744680851e-07, |
| "loss": 0.9972, |
| "step": 4 |
| }, |
| { |
| "epoch": 0.021333333333333333, |
| "grad_norm": 22.443401336669922, |
| "learning_rate": 1.7021276595744683e-07, |
| "loss": 0.9995, |
| "step": 5 |
| }, |
| { |
| "epoch": 0.0256, |
| "grad_norm": 22.423526763916016, |
| "learning_rate": 2.1276595744680852e-07, |
| "loss": 0.9983, |
| "step": 6 |
| }, |
| { |
| "epoch": 0.029866666666666666, |
| "grad_norm": 22.28087043762207, |
| "learning_rate": 2.553191489361702e-07, |
| "loss": 0.9965, |
| "step": 7 |
| }, |
| { |
| "epoch": 0.034133333333333335, |
| "grad_norm": 22.648902893066406, |
| "learning_rate": 2.9787234042553196e-07, |
| "loss": 0.9996, |
| "step": 8 |
| }, |
| { |
| "epoch": 0.0384, |
| "grad_norm": 21.830528259277344, |
| "learning_rate": 3.4042553191489365e-07, |
| "loss": 0.9895, |
| "step": 9 |
| }, |
| { |
| "epoch": 0.042666666666666665, |
| "grad_norm": 22.060640335083008, |
| "learning_rate": 3.8297872340425535e-07, |
| "loss": 0.9927, |
| "step": 10 |
| }, |
| { |
| "epoch": 0.046933333333333334, |
| "grad_norm": 20.831892013549805, |
| "learning_rate": 4.2553191489361704e-07, |
| "loss": 0.9694, |
| "step": 11 |
| }, |
| { |
| "epoch": 0.0512, |
| "grad_norm": 20.609140396118164, |
| "learning_rate": 4.6808510638297873e-07, |
| "loss": 0.9665, |
| "step": 12 |
| }, |
| { |
| "epoch": 0.055466666666666664, |
| "grad_norm": 20.27930450439453, |
| "learning_rate": 5.106382978723404e-07, |
| "loss": 0.9665, |
| "step": 13 |
| }, |
| { |
| "epoch": 0.05973333333333333, |
| "grad_norm": 20.32429313659668, |
| "learning_rate": 5.531914893617021e-07, |
| "loss": 0.9611, |
| "step": 14 |
| }, |
| { |
| "epoch": 0.064, |
| "grad_norm": 16.961851119995117, |
| "learning_rate": 5.957446808510639e-07, |
| "loss": 0.8898, |
| "step": 15 |
| }, |
| { |
| "epoch": 0.06826666666666667, |
| "grad_norm": 16.51335906982422, |
| "learning_rate": 6.382978723404255e-07, |
| "loss": 0.8859, |
| "step": 16 |
| }, |
| { |
| "epoch": 0.07253333333333334, |
| "grad_norm": 16.328777313232422, |
| "learning_rate": 6.808510638297873e-07, |
| "loss": 0.8805, |
| "step": 17 |
| }, |
| { |
| "epoch": 0.0768, |
| "grad_norm": 15.942858695983887, |
| "learning_rate": 7.234042553191489e-07, |
| "loss": 0.8662, |
| "step": 18 |
| }, |
| { |
| "epoch": 0.08106666666666666, |
| "grad_norm": 15.772059440612793, |
| "learning_rate": 7.659574468085107e-07, |
| "loss": 0.8618, |
| "step": 19 |
| }, |
| { |
| "epoch": 0.08533333333333333, |
| "grad_norm": 15.53687858581543, |
| "learning_rate": 8.085106382978725e-07, |
| "loss": 0.8506, |
| "step": 20 |
| }, |
| { |
| "epoch": 0.0896, |
| "grad_norm": 10.289249420166016, |
| "learning_rate": 8.510638297872341e-07, |
| "loss": 0.6896, |
| "step": 21 |
| }, |
| { |
| "epoch": 0.09386666666666667, |
| "grad_norm": 10.452590942382812, |
| "learning_rate": 8.936170212765959e-07, |
| "loss": 0.6914, |
| "step": 22 |
| }, |
| { |
| "epoch": 0.09813333333333334, |
| "grad_norm": 10.317420959472656, |
| "learning_rate": 9.361702127659575e-07, |
| "loss": 0.6787, |
| "step": 23 |
| }, |
| { |
| "epoch": 0.1024, |
| "grad_norm": 9.890551567077637, |
| "learning_rate": 9.787234042553193e-07, |
| "loss": 0.6696, |
| "step": 24 |
| }, |
| { |
| "epoch": 0.10666666666666667, |
| "grad_norm": 9.151979446411133, |
| "learning_rate": 1.0212765957446809e-06, |
| "loss": 0.6481, |
| "step": 25 |
| }, |
| { |
| "epoch": 0.11093333333333333, |
| "grad_norm": 8.83176040649414, |
| "learning_rate": 1.0638297872340427e-06, |
| "loss": 0.6352, |
| "step": 26 |
| }, |
| { |
| "epoch": 0.1152, |
| "grad_norm": 8.056096076965332, |
| "learning_rate": 1.1063829787234042e-06, |
| "loss": 0.6139, |
| "step": 27 |
| }, |
| { |
| "epoch": 0.11946666666666667, |
| "grad_norm": 8.634873390197754, |
| "learning_rate": 1.148936170212766e-06, |
| "loss": 0.5139, |
| "step": 28 |
| }, |
| { |
| "epoch": 0.12373333333333333, |
| "grad_norm": 6.985842704772949, |
| "learning_rate": 1.1914893617021278e-06, |
| "loss": 0.4903, |
| "step": 29 |
| }, |
| { |
| "epoch": 0.128, |
| "grad_norm": 6.07671594619751, |
| "learning_rate": 1.2340425531914894e-06, |
| "loss": 0.4741, |
| "step": 30 |
| }, |
| { |
| "epoch": 0.13226666666666667, |
| "grad_norm": 5.922327995300293, |
| "learning_rate": 1.276595744680851e-06, |
| "loss": 0.456, |
| "step": 31 |
| }, |
| { |
| "epoch": 0.13653333333333334, |
| "grad_norm": 5.909642696380615, |
| "learning_rate": 1.3191489361702128e-06, |
| "loss": 0.4431, |
| "step": 32 |
| }, |
| { |
| "epoch": 0.1408, |
| "grad_norm": 5.159115314483643, |
| "learning_rate": 1.3617021276595746e-06, |
| "loss": 0.4265, |
| "step": 33 |
| }, |
| { |
| "epoch": 0.14506666666666668, |
| "grad_norm": 4.204401016235352, |
| "learning_rate": 1.4042553191489364e-06, |
| "loss": 0.408, |
| "step": 34 |
| }, |
| { |
| "epoch": 0.14933333333333335, |
| "grad_norm": 3.8235232830047607, |
| "learning_rate": 1.4468085106382978e-06, |
| "loss": 0.3929, |
| "step": 35 |
| }, |
| { |
| "epoch": 0.1536, |
| "grad_norm": 3.8501057624816895, |
| "learning_rate": 1.4893617021276596e-06, |
| "loss": 0.3837, |
| "step": 36 |
| }, |
| { |
| "epoch": 0.15786666666666666, |
| "grad_norm": 4.0237860679626465, |
| "learning_rate": 1.5319148936170214e-06, |
| "loss": 0.3512, |
| "step": 37 |
| }, |
| { |
| "epoch": 0.16213333333333332, |
| "grad_norm": 4.531589031219482, |
| "learning_rate": 1.5744680851063832e-06, |
| "loss": 0.3299, |
| "step": 38 |
| }, |
| { |
| "epoch": 0.1664, |
| "grad_norm": 4.304875373840332, |
| "learning_rate": 1.617021276595745e-06, |
| "loss": 0.3179, |
| "step": 39 |
| }, |
| { |
| "epoch": 0.17066666666666666, |
| "grad_norm": 3.1829235553741455, |
| "learning_rate": 1.6595744680851064e-06, |
| "loss": 0.3087, |
| "step": 40 |
| }, |
| { |
| "epoch": 0.17493333333333333, |
| "grad_norm": 2.890695810317993, |
| "learning_rate": 1.7021276595744682e-06, |
| "loss": 0.3009, |
| "step": 41 |
| }, |
| { |
| "epoch": 0.1792, |
| "grad_norm": 3.62577223777771, |
| "learning_rate": 1.74468085106383e-06, |
| "loss": 0.2926, |
| "step": 42 |
| }, |
| { |
| "epoch": 0.18346666666666667, |
| "grad_norm": 3.2570207118988037, |
| "learning_rate": 1.7872340425531918e-06, |
| "loss": 0.2857, |
| "step": 43 |
| }, |
| { |
| "epoch": 0.18773333333333334, |
| "grad_norm": 2.0917487144470215, |
| "learning_rate": 1.8297872340425531e-06, |
| "loss": 0.2734, |
| "step": 44 |
| }, |
| { |
| "epoch": 0.192, |
| "grad_norm": 2.1430346965789795, |
| "learning_rate": 1.872340425531915e-06, |
| "loss": 0.2669, |
| "step": 45 |
| }, |
| { |
| "epoch": 0.19626666666666667, |
| "grad_norm": 2.666980266571045, |
| "learning_rate": 1.9148936170212767e-06, |
| "loss": 0.2582, |
| "step": 46 |
| }, |
| { |
| "epoch": 0.20053333333333334, |
| "grad_norm": 1.869988203048706, |
| "learning_rate": 1.9574468085106385e-06, |
| "loss": 0.2517, |
| "step": 47 |
| }, |
| { |
| "epoch": 0.2048, |
| "grad_norm": 2.069547653198242, |
| "learning_rate": 2.0000000000000003e-06, |
| "loss": 0.2445, |
| "step": 48 |
| }, |
| { |
| "epoch": 0.20906666666666668, |
| "grad_norm": 2.0606069564819336, |
| "learning_rate": 2.0425531914893617e-06, |
| "loss": 0.238, |
| "step": 49 |
| }, |
| { |
| "epoch": 0.21333333333333335, |
| "grad_norm": 1.706727147102356, |
| "learning_rate": 2.0851063829787235e-06, |
| "loss": 0.2335, |
| "step": 50 |
| }, |
| { |
| "epoch": 0.2176, |
| "grad_norm": 2.278432846069336, |
| "learning_rate": 2.1276595744680853e-06, |
| "loss": 0.2308, |
| "step": 51 |
| }, |
| { |
| "epoch": 0.22186666666666666, |
| "grad_norm": 1.8908629417419434, |
| "learning_rate": 2.170212765957447e-06, |
| "loss": 0.2262, |
| "step": 52 |
| }, |
| { |
| "epoch": 0.22613333333333333, |
| "grad_norm": 1.949669599533081, |
| "learning_rate": 2.2127659574468085e-06, |
| "loss": 0.219, |
| "step": 53 |
| }, |
| { |
| "epoch": 0.2304, |
| "grad_norm": 1.920652151107788, |
| "learning_rate": 2.2553191489361703e-06, |
| "loss": 0.2162, |
| "step": 54 |
| }, |
| { |
| "epoch": 0.23466666666666666, |
| "grad_norm": 2.028974771499634, |
| "learning_rate": 2.297872340425532e-06, |
| "loss": 0.2121, |
| "step": 55 |
| }, |
| { |
| "epoch": 0.23893333333333333, |
| "grad_norm": 1.6449410915374756, |
| "learning_rate": 2.340425531914894e-06, |
| "loss": 0.2078, |
| "step": 56 |
| }, |
| { |
| "epoch": 0.2432, |
| "grad_norm": 1.5636619329452515, |
| "learning_rate": 2.3829787234042557e-06, |
| "loss": 0.2003, |
| "step": 57 |
| }, |
| { |
| "epoch": 0.24746666666666667, |
| "grad_norm": 1.9496514797210693, |
| "learning_rate": 2.425531914893617e-06, |
| "loss": 0.1962, |
| "step": 58 |
| }, |
| { |
| "epoch": 0.2517333333333333, |
| "grad_norm": 1.6503078937530518, |
| "learning_rate": 2.468085106382979e-06, |
| "loss": 0.1907, |
| "step": 59 |
| }, |
| { |
| "epoch": 0.256, |
| "grad_norm": 1.2683771848678589, |
| "learning_rate": 2.5106382978723402e-06, |
| "loss": 0.1878, |
| "step": 60 |
| }, |
| { |
| "epoch": 0.26026666666666665, |
| "grad_norm": 2.003361701965332, |
| "learning_rate": 2.553191489361702e-06, |
| "loss": 0.1827, |
| "step": 61 |
| }, |
| { |
| "epoch": 0.26453333333333334, |
| "grad_norm": 1.4562724828720093, |
| "learning_rate": 2.595744680851064e-06, |
| "loss": 0.1817, |
| "step": 62 |
| }, |
| { |
| "epoch": 0.2688, |
| "grad_norm": 2.4795641899108887, |
| "learning_rate": 2.6382978723404256e-06, |
| "loss": 0.1787, |
| "step": 63 |
| }, |
| { |
| "epoch": 0.2730666666666667, |
| "grad_norm": 2.1848199367523193, |
| "learning_rate": 2.6808510638297874e-06, |
| "loss": 0.1759, |
| "step": 64 |
| }, |
| { |
| "epoch": 0.2773333333333333, |
| "grad_norm": 1.6162073612213135, |
| "learning_rate": 2.7234042553191492e-06, |
| "loss": 0.1725, |
| "step": 65 |
| }, |
| { |
| "epoch": 0.2816, |
| "grad_norm": 3.0534298419952393, |
| "learning_rate": 2.765957446808511e-06, |
| "loss": 0.169, |
| "step": 66 |
| }, |
| { |
| "epoch": 0.28586666666666666, |
| "grad_norm": 1.6378310918807983, |
| "learning_rate": 2.808510638297873e-06, |
| "loss": 0.1662, |
| "step": 67 |
| }, |
| { |
| "epoch": 0.29013333333333335, |
| "grad_norm": 3.190389394760132, |
| "learning_rate": 2.8510638297872346e-06, |
| "loss": 0.1638, |
| "step": 68 |
| }, |
| { |
| "epoch": 0.2944, |
| "grad_norm": 2.222900152206421, |
| "learning_rate": 2.8936170212765956e-06, |
| "loss": 0.1643, |
| "step": 69 |
| }, |
| { |
| "epoch": 0.2986666666666667, |
| "grad_norm": 2.720613956451416, |
| "learning_rate": 2.9361702127659574e-06, |
| "loss": 0.16, |
| "step": 70 |
| }, |
| { |
| "epoch": 0.30293333333333333, |
| "grad_norm": 2.4706056118011475, |
| "learning_rate": 2.978723404255319e-06, |
| "loss": 0.1595, |
| "step": 71 |
| }, |
| { |
| "epoch": 0.3072, |
| "grad_norm": 1.7160310745239258, |
| "learning_rate": 3.021276595744681e-06, |
| "loss": 0.1579, |
| "step": 72 |
| }, |
| { |
| "epoch": 0.31146666666666667, |
| "grad_norm": 3.9026131629943848, |
| "learning_rate": 3.0638297872340428e-06, |
| "loss": 0.1548, |
| "step": 73 |
| }, |
| { |
| "epoch": 0.3157333333333333, |
| "grad_norm": 2.223243236541748, |
| "learning_rate": 3.1063829787234046e-06, |
| "loss": 0.1571, |
| "step": 74 |
| }, |
| { |
| "epoch": 0.32, |
| "grad_norm": 3.901400327682495, |
| "learning_rate": 3.1489361702127664e-06, |
| "loss": 0.1532, |
| "step": 75 |
| }, |
| { |
| "epoch": 0.32426666666666665, |
| "grad_norm": 3.2121057510375977, |
| "learning_rate": 3.191489361702128e-06, |
| "loss": 0.1535, |
| "step": 76 |
| }, |
| { |
| "epoch": 0.32853333333333334, |
| "grad_norm": 2.6652214527130127, |
| "learning_rate": 3.23404255319149e-06, |
| "loss": 0.1513, |
| "step": 77 |
| }, |
| { |
| "epoch": 0.3328, |
| "grad_norm": 5.308091640472412, |
| "learning_rate": 3.276595744680851e-06, |
| "loss": 0.1501, |
| "step": 78 |
| }, |
| { |
| "epoch": 0.3370666666666667, |
| "grad_norm": 4.369630813598633, |
| "learning_rate": 3.3191489361702127e-06, |
| "loss": 0.1505, |
| "step": 79 |
| }, |
| { |
| "epoch": 0.3413333333333333, |
| "grad_norm": 4.927572727203369, |
| "learning_rate": 3.3617021276595745e-06, |
| "loss": 0.1486, |
| "step": 80 |
| }, |
| { |
| "epoch": 0.3456, |
| "grad_norm": 3.150054931640625, |
| "learning_rate": 3.4042553191489363e-06, |
| "loss": 0.1488, |
| "step": 81 |
| }, |
| { |
| "epoch": 0.34986666666666666, |
| "grad_norm": 6.687278747558594, |
| "learning_rate": 3.446808510638298e-06, |
| "loss": 0.1467, |
| "step": 82 |
| }, |
| { |
| "epoch": 0.35413333333333336, |
| "grad_norm": 5.45517635345459, |
| "learning_rate": 3.48936170212766e-06, |
| "loss": 0.1468, |
| "step": 83 |
| }, |
| { |
| "epoch": 0.3584, |
| "grad_norm": 5.900143623352051, |
| "learning_rate": 3.5319148936170217e-06, |
| "loss": 0.1457, |
| "step": 84 |
| }, |
| { |
| "epoch": 0.3626666666666667, |
| "grad_norm": 6.59785795211792, |
| "learning_rate": 3.5744680851063835e-06, |
| "loss": 0.1479, |
| "step": 85 |
| }, |
| { |
| "epoch": 0.36693333333333333, |
| "grad_norm": 3.661660671234131, |
| "learning_rate": 3.6170212765957453e-06, |
| "loss": 0.1436, |
| "step": 86 |
| }, |
| { |
| "epoch": 0.3712, |
| "grad_norm": 4.646217346191406, |
| "learning_rate": 3.6595744680851063e-06, |
| "loss": 0.1431, |
| "step": 87 |
| }, |
| { |
| "epoch": 0.37546666666666667, |
| "grad_norm": 3.3780157566070557, |
| "learning_rate": 3.702127659574468e-06, |
| "loss": 0.1426, |
| "step": 88 |
| }, |
| { |
| "epoch": 0.3797333333333333, |
| "grad_norm": 4.596078395843506, |
| "learning_rate": 3.74468085106383e-06, |
| "loss": 0.1422, |
| "step": 89 |
| }, |
| { |
| "epoch": 0.384, |
| "grad_norm": 3.384758949279785, |
| "learning_rate": 3.7872340425531917e-06, |
| "loss": 0.1399, |
| "step": 90 |
| }, |
| { |
| "epoch": 0.38826666666666665, |
| "grad_norm": 6.492227077484131, |
| "learning_rate": 3.8297872340425535e-06, |
| "loss": 0.1408, |
| "step": 91 |
| }, |
| { |
| "epoch": 0.39253333333333335, |
| "grad_norm": 4.704247951507568, |
| "learning_rate": 3.872340425531915e-06, |
| "loss": 0.1392, |
| "step": 92 |
| }, |
| { |
| "epoch": 0.3968, |
| "grad_norm": 7.741692543029785, |
| "learning_rate": 3.914893617021277e-06, |
| "loss": 0.1413, |
| "step": 93 |
| }, |
| { |
| "epoch": 0.4010666666666667, |
| "grad_norm": 8.09485149383545, |
| "learning_rate": 3.957446808510639e-06, |
| "loss": 0.1433, |
| "step": 94 |
| }, |
| { |
| "epoch": 0.4053333333333333, |
| "grad_norm": 2.9961678981781006, |
| "learning_rate": 4.000000000000001e-06, |
| "loss": 0.1381, |
| "step": 95 |
| }, |
| { |
| "epoch": 0.4096, |
| "grad_norm": 4.540401935577393, |
| "learning_rate": 4.042553191489362e-06, |
| "loss": 0.1376, |
| "step": 96 |
| }, |
| { |
| "epoch": 0.41386666666666666, |
| "grad_norm": 4.068235397338867, |
| "learning_rate": 4.085106382978723e-06, |
| "loss": 0.1369, |
| "step": 97 |
| }, |
| { |
| "epoch": 0.41813333333333336, |
| "grad_norm": 3.181708812713623, |
| "learning_rate": 4.127659574468085e-06, |
| "loss": 0.1352, |
| "step": 98 |
| }, |
| { |
| "epoch": 0.4224, |
| "grad_norm": 4.561326026916504, |
| "learning_rate": 4.170212765957447e-06, |
| "loss": 0.1358, |
| "step": 99 |
| }, |
| { |
| "epoch": 0.4266666666666667, |
| "grad_norm": 3.7372615337371826, |
| "learning_rate": 4.212765957446809e-06, |
| "loss": 0.1338, |
| "step": 100 |
| }, |
| { |
| "epoch": 0.43093333333333333, |
| "grad_norm": 6.206492900848389, |
| "learning_rate": 4.255319148936171e-06, |
| "loss": 0.1376, |
| "step": 101 |
| }, |
| { |
| "epoch": 0.4352, |
| "grad_norm": 4.748600006103516, |
| "learning_rate": 4.297872340425532e-06, |
| "loss": 0.1353, |
| "step": 102 |
| }, |
| { |
| "epoch": 0.43946666666666667, |
| "grad_norm": 8.013435363769531, |
| "learning_rate": 4.340425531914894e-06, |
| "loss": 0.136, |
| "step": 103 |
| }, |
| { |
| "epoch": 0.4437333333333333, |
| "grad_norm": 7.1991190910339355, |
| "learning_rate": 4.382978723404256e-06, |
| "loss": 0.137, |
| "step": 104 |
| }, |
| { |
| "epoch": 0.448, |
| "grad_norm": 4.625593185424805, |
| "learning_rate": 4.425531914893617e-06, |
| "loss": 0.1319, |
| "step": 105 |
| }, |
| { |
| "epoch": 0.45226666666666665, |
| "grad_norm": 4.910801887512207, |
| "learning_rate": 4.468085106382979e-06, |
| "loss": 0.134, |
| "step": 106 |
| }, |
| { |
| "epoch": 0.45653333333333335, |
| "grad_norm": 6.377923488616943, |
| "learning_rate": 4.5106382978723406e-06, |
| "loss": 0.1342, |
| "step": 107 |
| }, |
| { |
| "epoch": 0.4608, |
| "grad_norm": 5.0228986740112305, |
| "learning_rate": 4.553191489361702e-06, |
| "loss": 0.1343, |
| "step": 108 |
| }, |
| { |
| "epoch": 0.4650666666666667, |
| "grad_norm": 6.513828754425049, |
| "learning_rate": 4.595744680851064e-06, |
| "loss": 0.1308, |
| "step": 109 |
| }, |
| { |
| "epoch": 0.4693333333333333, |
| "grad_norm": 5.182156085968018, |
| "learning_rate": 4.638297872340426e-06, |
| "loss": 0.1324, |
| "step": 110 |
| }, |
| { |
| "epoch": 0.4736, |
| "grad_norm": 6.711518287658691, |
| "learning_rate": 4.680851063829788e-06, |
| "loss": 0.1327, |
| "step": 111 |
| }, |
| { |
| "epoch": 0.47786666666666666, |
| "grad_norm": 5.540736198425293, |
| "learning_rate": 4.7234042553191496e-06, |
| "loss": 0.1316, |
| "step": 112 |
| }, |
| { |
| "epoch": 0.48213333333333336, |
| "grad_norm": 5.925957202911377, |
| "learning_rate": 4.765957446808511e-06, |
| "loss": 0.1302, |
| "step": 113 |
| }, |
| { |
| "epoch": 0.4864, |
| "grad_norm": 5.579200744628906, |
| "learning_rate": 4.808510638297872e-06, |
| "loss": 0.131, |
| "step": 114 |
| }, |
| { |
| "epoch": 0.49066666666666664, |
| "grad_norm": 4.405421733856201, |
| "learning_rate": 4.851063829787234e-06, |
| "loss": 0.1296, |
| "step": 115 |
| }, |
| { |
| "epoch": 0.49493333333333334, |
| "grad_norm": 5.265398025512695, |
| "learning_rate": 4.893617021276596e-06, |
| "loss": 0.1291, |
| "step": 116 |
| }, |
| { |
| "epoch": 0.4992, |
| "grad_norm": 3.860846519470215, |
| "learning_rate": 4.936170212765958e-06, |
| "loss": 0.1303, |
| "step": 117 |
| }, |
| { |
| "epoch": 0.5034666666666666, |
| "grad_norm": 2.226341724395752, |
| "learning_rate": 4.9787234042553195e-06, |
| "loss": 0.1256, |
| "step": 118 |
| }, |
| { |
| "epoch": 0.5077333333333334, |
| "grad_norm": 8.795147895812988, |
| "learning_rate": 5.0212765957446805e-06, |
| "loss": 0.1305, |
| "step": 119 |
| }, |
| { |
| "epoch": 0.512, |
| "grad_norm": 4.675596714019775, |
| "learning_rate": 5.063829787234042e-06, |
| "loss": 0.1295, |
| "step": 120 |
| }, |
| { |
| "epoch": 0.5162666666666667, |
| "grad_norm": 11.608587265014648, |
| "learning_rate": 5.106382978723404e-06, |
| "loss": 0.1315, |
| "step": 121 |
| }, |
| { |
| "epoch": 0.5205333333333333, |
| "grad_norm": 11.548611640930176, |
| "learning_rate": 5.148936170212766e-06, |
| "loss": 0.1354, |
| "step": 122 |
| }, |
| { |
| "epoch": 0.5248, |
| "grad_norm": 4.825727462768555, |
| "learning_rate": 5.191489361702128e-06, |
| "loss": 0.1299, |
| "step": 123 |
| }, |
| { |
| "epoch": 0.5290666666666667, |
| "grad_norm": 7.2229413986206055, |
| "learning_rate": 5.2340425531914895e-06, |
| "loss": 0.1306, |
| "step": 124 |
| }, |
| { |
| "epoch": 0.5333333333333333, |
| "grad_norm": 6.224844932556152, |
| "learning_rate": 5.276595744680851e-06, |
| "loss": 0.1332, |
| "step": 125 |
| }, |
| { |
| "epoch": 0.5376, |
| "grad_norm": 5.247742652893066, |
| "learning_rate": 5.319148936170213e-06, |
| "loss": 0.1277, |
| "step": 126 |
| }, |
| { |
| "epoch": 0.5418666666666667, |
| "grad_norm": 7.463538646697998, |
| "learning_rate": 5.361702127659575e-06, |
| "loss": 0.1313, |
| "step": 127 |
| }, |
| { |
| "epoch": 0.5461333333333334, |
| "grad_norm": 5.209482192993164, |
| "learning_rate": 5.404255319148937e-06, |
| "loss": 0.1304, |
| "step": 128 |
| }, |
| { |
| "epoch": 0.5504, |
| "grad_norm": 7.131233215332031, |
| "learning_rate": 5.4468085106382985e-06, |
| "loss": 0.1283, |
| "step": 129 |
| }, |
| { |
| "epoch": 0.5546666666666666, |
| "grad_norm": 5.096197128295898, |
| "learning_rate": 5.48936170212766e-06, |
| "loss": 0.1314, |
| "step": 130 |
| }, |
| { |
| "epoch": 0.5589333333333333, |
| "grad_norm": 8.022686004638672, |
| "learning_rate": 5.531914893617022e-06, |
| "loss": 0.1287, |
| "step": 131 |
| }, |
| { |
| "epoch": 0.5632, |
| "grad_norm": 5.0473175048828125, |
| "learning_rate": 5.574468085106384e-06, |
| "loss": 0.129, |
| "step": 132 |
| }, |
| { |
| "epoch": 0.5674666666666667, |
| "grad_norm": 8.857738494873047, |
| "learning_rate": 5.617021276595746e-06, |
| "loss": 0.1288, |
| "step": 133 |
| }, |
| { |
| "epoch": 0.5717333333333333, |
| "grad_norm": 5.748481750488281, |
| "learning_rate": 5.6595744680851075e-06, |
| "loss": 0.1298, |
| "step": 134 |
| }, |
| { |
| "epoch": 0.576, |
| "grad_norm": 9.72546100616455, |
| "learning_rate": 5.702127659574469e-06, |
| "loss": 0.1283, |
| "step": 135 |
| }, |
| { |
| "epoch": 0.5802666666666667, |
| "grad_norm": 7.091835975646973, |
| "learning_rate": 5.744680851063831e-06, |
| "loss": 0.1286, |
| "step": 136 |
| }, |
| { |
| "epoch": 0.5845333333333333, |
| "grad_norm": 10.19481372833252, |
| "learning_rate": 5.787234042553191e-06, |
| "loss": 0.1311, |
| "step": 137 |
| }, |
| { |
| "epoch": 0.5888, |
| "grad_norm": 9.936722755432129, |
| "learning_rate": 5.829787234042553e-06, |
| "loss": 0.1273, |
| "step": 138 |
| }, |
| { |
| "epoch": 0.5930666666666666, |
| "grad_norm": 5.595465183258057, |
| "learning_rate": 5.872340425531915e-06, |
| "loss": 0.1242, |
| "step": 139 |
| }, |
| { |
| "epoch": 0.5973333333333334, |
| "grad_norm": 5.289859771728516, |
| "learning_rate": 5.9148936170212766e-06, |
| "loss": 0.1242, |
| "step": 140 |
| }, |
| { |
| "epoch": 0.6016, |
| "grad_norm": 8.406579971313477, |
| "learning_rate": 5.957446808510638e-06, |
| "loss": 0.1251, |
| "step": 141 |
| }, |
| { |
| "epoch": 0.6058666666666667, |
| "grad_norm": 6.704819679260254, |
| "learning_rate": 6e-06, |
| "loss": 0.1255, |
| "step": 142 |
| }, |
| { |
| "epoch": 0.6101333333333333, |
| "grad_norm": 9.0625, |
| "learning_rate": 6.042553191489362e-06, |
| "loss": 0.1255, |
| "step": 143 |
| }, |
| { |
| "epoch": 0.6144, |
| "grad_norm": 8.436838150024414, |
| "learning_rate": 6.085106382978724e-06, |
| "loss": 0.1247, |
| "step": 144 |
| }, |
| { |
| "epoch": 0.6186666666666667, |
| "grad_norm": 7.0138630867004395, |
| "learning_rate": 6.1276595744680855e-06, |
| "loss": 0.1268, |
| "step": 145 |
| }, |
| { |
| "epoch": 0.6229333333333333, |
| "grad_norm": 6.2439117431640625, |
| "learning_rate": 6.170212765957447e-06, |
| "loss": 0.1231, |
| "step": 146 |
| }, |
| { |
| "epoch": 0.6272, |
| "grad_norm": 8.84973430633545, |
| "learning_rate": 6.212765957446809e-06, |
| "loss": 0.1255, |
| "step": 147 |
| }, |
| { |
| "epoch": 0.6314666666666666, |
| "grad_norm": 7.984808921813965, |
| "learning_rate": 6.255319148936171e-06, |
| "loss": 0.1238, |
| "step": 148 |
| }, |
| { |
| "epoch": 0.6357333333333334, |
| "grad_norm": 6.803660869598389, |
| "learning_rate": 6.297872340425533e-06, |
| "loss": 0.1226, |
| "step": 149 |
| }, |
| { |
| "epoch": 0.64, |
| "grad_norm": 5.848384380340576, |
| "learning_rate": 6.3404255319148945e-06, |
| "loss": 0.1224, |
| "step": 150 |
| }, |
| { |
| "epoch": 0.6442666666666667, |
| "grad_norm": 8.635106086730957, |
| "learning_rate": 6.382978723404256e-06, |
| "loss": 0.1232, |
| "step": 151 |
| }, |
| { |
| "epoch": 0.6485333333333333, |
| "grad_norm": 7.334502220153809, |
| "learning_rate": 6.425531914893618e-06, |
| "loss": 0.1235, |
| "step": 152 |
| }, |
| { |
| "epoch": 0.6528, |
| "grad_norm": 7.256570816040039, |
| "learning_rate": 6.46808510638298e-06, |
| "loss": 0.1235, |
| "step": 153 |
| }, |
| { |
| "epoch": 0.6570666666666667, |
| "grad_norm": 6.407953262329102, |
| "learning_rate": 6.510638297872342e-06, |
| "loss": 0.122, |
| "step": 154 |
| }, |
| { |
| "epoch": 0.6613333333333333, |
| "grad_norm": 8.223788261413574, |
| "learning_rate": 6.553191489361702e-06, |
| "loss": 0.124, |
| "step": 155 |
| }, |
| { |
| "epoch": 0.6656, |
| "grad_norm": 6.739434242248535, |
| "learning_rate": 6.595744680851064e-06, |
| "loss": 0.123, |
| "step": 156 |
| }, |
| { |
| "epoch": 0.6698666666666667, |
| "grad_norm": 7.93510103225708, |
| "learning_rate": 6.6382978723404254e-06, |
| "loss": 0.123, |
| "step": 157 |
| }, |
| { |
| "epoch": 0.6741333333333334, |
| "grad_norm": 7.154916763305664, |
| "learning_rate": 6.680851063829787e-06, |
| "loss": 0.1221, |
| "step": 158 |
| }, |
| { |
| "epoch": 0.6784, |
| "grad_norm": 6.691060543060303, |
| "learning_rate": 6.723404255319149e-06, |
| "loss": 0.1225, |
| "step": 159 |
| }, |
| { |
| "epoch": 0.6826666666666666, |
| "grad_norm": 5.641987323760986, |
| "learning_rate": 6.765957446808511e-06, |
| "loss": 0.1208, |
| "step": 160 |
| }, |
| { |
| "epoch": 0.6869333333333333, |
| "grad_norm": 7.909478187561035, |
| "learning_rate": 6.808510638297873e-06, |
| "loss": 0.1229, |
| "step": 161 |
| }, |
| { |
| "epoch": 0.6912, |
| "grad_norm": 6.212748050689697, |
| "learning_rate": 6.8510638297872344e-06, |
| "loss": 0.1201, |
| "step": 162 |
| }, |
| { |
| "epoch": 0.6954666666666667, |
| "grad_norm": 7.641393661499023, |
| "learning_rate": 6.893617021276596e-06, |
| "loss": 0.1215, |
| "step": 163 |
| }, |
| { |
| "epoch": 0.6997333333333333, |
| "grad_norm": 6.818618297576904, |
| "learning_rate": 6.936170212765958e-06, |
| "loss": 0.1212, |
| "step": 164 |
| }, |
| { |
| "epoch": 0.704, |
| "grad_norm": 6.080795764923096, |
| "learning_rate": 6.97872340425532e-06, |
| "loss": 0.1204, |
| "step": 165 |
| }, |
| { |
| "epoch": 0.7082666666666667, |
| "grad_norm": 5.294103145599365, |
| "learning_rate": 7.021276595744682e-06, |
| "loss": 0.12, |
| "step": 166 |
| }, |
| { |
| "epoch": 0.7125333333333334, |
| "grad_norm": 7.565417289733887, |
| "learning_rate": 7.0638297872340434e-06, |
| "loss": 0.1209, |
| "step": 167 |
| }, |
| { |
| "epoch": 0.7168, |
| "grad_norm": 6.280045509338379, |
| "learning_rate": 7.106382978723405e-06, |
| "loss": 0.1212, |
| "step": 168 |
| }, |
| { |
| "epoch": 0.7210666666666666, |
| "grad_norm": 6.898222923278809, |
| "learning_rate": 7.148936170212767e-06, |
| "loss": 0.1206, |
| "step": 169 |
| }, |
| { |
| "epoch": 0.7253333333333334, |
| "grad_norm": 6.254840850830078, |
| "learning_rate": 7.191489361702129e-06, |
| "loss": 0.1203, |
| "step": 170 |
| }, |
| { |
| "epoch": 0.7296, |
| "grad_norm": 6.527096748352051, |
| "learning_rate": 7.234042553191491e-06, |
| "loss": 0.122, |
| "step": 171 |
| }, |
| { |
| "epoch": 0.7338666666666667, |
| "grad_norm": 5.724420070648193, |
| "learning_rate": 7.2765957446808524e-06, |
| "loss": 0.1207, |
| "step": 172 |
| }, |
| { |
| "epoch": 0.7381333333333333, |
| "grad_norm": 6.684255123138428, |
| "learning_rate": 7.3191489361702125e-06, |
| "loss": 0.1219, |
| "step": 173 |
| }, |
| { |
| "epoch": 0.7424, |
| "grad_norm": 6.503657341003418, |
| "learning_rate": 7.361702127659574e-06, |
| "loss": 0.1178, |
| "step": 174 |
| }, |
| { |
| "epoch": 0.7466666666666667, |
| "grad_norm": 5.723449230194092, |
| "learning_rate": 7.404255319148936e-06, |
| "loss": 0.1199, |
| "step": 175 |
| }, |
| { |
| "epoch": 0.7509333333333333, |
| "grad_norm": 4.989058017730713, |
| "learning_rate": 7.446808510638298e-06, |
| "loss": 0.1181, |
| "step": 176 |
| }, |
| { |
| "epoch": 0.7552, |
| "grad_norm": 7.475578784942627, |
| "learning_rate": 7.48936170212766e-06, |
| "loss": 0.1221, |
| "step": 177 |
| }, |
| { |
| "epoch": 0.7594666666666666, |
| "grad_norm": 6.384317398071289, |
| "learning_rate": 7.5319148936170215e-06, |
| "loss": 0.1193, |
| "step": 178 |
| }, |
| { |
| "epoch": 0.7637333333333334, |
| "grad_norm": 5.993687629699707, |
| "learning_rate": 7.574468085106383e-06, |
| "loss": 0.1197, |
| "step": 179 |
| }, |
| { |
| "epoch": 0.768, |
| "grad_norm": 5.651639938354492, |
| "learning_rate": 7.617021276595745e-06, |
| "loss": 0.118, |
| "step": 180 |
| }, |
| { |
| "epoch": 0.7722666666666667, |
| "grad_norm": 5.343756675720215, |
| "learning_rate": 7.659574468085107e-06, |
| "loss": 0.1191, |
| "step": 181 |
| }, |
| { |
| "epoch": 0.7765333333333333, |
| "grad_norm": 3.9733238220214844, |
| "learning_rate": 7.702127659574469e-06, |
| "loss": 0.117, |
| "step": 182 |
| }, |
| { |
| "epoch": 0.7808, |
| "grad_norm": 8.402620315551758, |
| "learning_rate": 7.74468085106383e-06, |
| "loss": 0.1235, |
| "step": 183 |
| }, |
| { |
| "epoch": 0.7850666666666667, |
| "grad_norm": 8.289787292480469, |
| "learning_rate": 7.787234042553192e-06, |
| "loss": 0.121, |
| "step": 184 |
| }, |
| { |
| "epoch": 0.7893333333333333, |
| "grad_norm": 3.6568987369537354, |
| "learning_rate": 7.829787234042554e-06, |
| "loss": 0.1174, |
| "step": 185 |
| }, |
| { |
| "epoch": 0.7936, |
| "grad_norm": 11.13115119934082, |
| "learning_rate": 7.872340425531916e-06, |
| "loss": 0.1257, |
| "step": 186 |
| }, |
| { |
| "epoch": 0.7978666666666666, |
| "grad_norm": 5.116509914398193, |
| "learning_rate": 7.914893617021278e-06, |
| "loss": 0.1195, |
| "step": 187 |
| }, |
| { |
| "epoch": 0.8021333333333334, |
| "grad_norm": 15.565638542175293, |
| "learning_rate": 7.95744680851064e-06, |
| "loss": 0.1417, |
| "step": 188 |
| }, |
| { |
| "epoch": 0.8064, |
| "grad_norm": 16.17276954650879, |
| "learning_rate": 8.000000000000001e-06, |
| "loss": 0.152, |
| "step": 189 |
| }, |
| { |
| "epoch": 0.8106666666666666, |
| "grad_norm": 6.167568206787109, |
| "learning_rate": 8.042553191489363e-06, |
| "loss": 0.1233, |
| "step": 190 |
| }, |
| { |
| "epoch": 0.8149333333333333, |
| "grad_norm": 12.830926895141602, |
| "learning_rate": 8.085106382978723e-06, |
| "loss": 0.1399, |
| "step": 191 |
| }, |
| { |
| "epoch": 0.8192, |
| "grad_norm": 12.8762845993042, |
| "learning_rate": 8.127659574468085e-06, |
| "loss": 0.1521, |
| "step": 192 |
| }, |
| { |
| "epoch": 0.8234666666666667, |
| "grad_norm": 8.177667617797852, |
| "learning_rate": 8.170212765957447e-06, |
| "loss": 0.1298, |
| "step": 193 |
| }, |
| { |
| "epoch": 0.8277333333333333, |
| "grad_norm": 6.849120616912842, |
| "learning_rate": 8.212765957446809e-06, |
| "loss": 0.1287, |
| "step": 194 |
| }, |
| { |
| "epoch": 0.832, |
| "grad_norm": 7.727602481842041, |
| "learning_rate": 8.25531914893617e-06, |
| "loss": 0.1332, |
| "step": 195 |
| }, |
| { |
| "epoch": 0.8362666666666667, |
| "grad_norm": 5.658266067504883, |
| "learning_rate": 8.297872340425532e-06, |
| "loss": 0.1278, |
| "step": 196 |
| }, |
| { |
| "epoch": 0.8405333333333334, |
| "grad_norm": 5.271341800689697, |
| "learning_rate": 8.340425531914894e-06, |
| "loss": 0.1254, |
| "step": 197 |
| }, |
| { |
| "epoch": 0.8448, |
| "grad_norm": 5.509979248046875, |
| "learning_rate": 8.382978723404256e-06, |
| "loss": 0.1283, |
| "step": 198 |
| }, |
| { |
| "epoch": 0.8490666666666666, |
| "grad_norm": 4.625118732452393, |
| "learning_rate": 8.425531914893618e-06, |
| "loss": 0.1226, |
| "step": 199 |
| }, |
| { |
| "epoch": 0.8533333333333334, |
| "grad_norm": 5.153396129608154, |
| "learning_rate": 8.46808510638298e-06, |
| "loss": 0.1258, |
| "step": 200 |
| } |
| ], |
| "logging_steps": 1, |
| "max_steps": 2350, |
| "num_input_tokens_seen": 0, |
| "num_train_epochs": 10, |
| "save_steps": 100, |
| "stateful_callbacks": { |
| "TrainerControl": { |
| "args": { |
| "should_epoch_stop": false, |
| "should_evaluate": false, |
| "should_log": false, |
| "should_save": true, |
| "should_training_stop": false |
| }, |
| "attributes": {} |
| } |
| }, |
| "total_flos": 5.269690929618354e+18, |
| "train_batch_size": 8, |
| "trial_name": null, |
| "trial_params": null |
| } |
|
|
