Instructions to use avsolatorio/data-use-unsloth-phi-3.5-data2-100epochs-test-lora with libraries, inference providers, notebooks, and local apps. Follow these links to get started.
- Libraries
- Transformers
How to use avsolatorio/data-use-unsloth-phi-3.5-data2-100epochs-test-lora with Transformers:
# Load model directly from transformers import AutoModel model = AutoModel.from_pretrained("avsolatorio/data-use-unsloth-phi-3.5-data2-100epochs-test-lora", device_map="auto") - Notebooks
- Google Colab
- Kaggle
- Local Apps Settings
- Unsloth Studio
How to use avsolatorio/data-use-unsloth-phi-3.5-data2-100epochs-test-lora with Unsloth Studio:
Install Unsloth Studio (macOS, Linux, WSL)
curl -fsSL https://unsloth.ai/install.sh | sh # Run unsloth studio unsloth studio -H 0.0.0.0 -p 8888 # Then open http://localhost:8888 in your browser # Search for avsolatorio/data-use-unsloth-phi-3.5-data2-100epochs-test-lora to start chatting
Install Unsloth Studio (Windows)
irm https://unsloth.ai/install.ps1 | iex # Run unsloth studio unsloth studio -H 0.0.0.0 -p 8888 # Then open http://localhost:8888 in your browser # Search for avsolatorio/data-use-unsloth-phi-3.5-data2-100epochs-test-lora to start chatting
Using HuggingFace Spaces for Unsloth
# No setup required # Open https://huggingface.co/spaces/unsloth/studio in your browser # Search for avsolatorio/data-use-unsloth-phi-3.5-data2-100epochs-test-lora to start chatting
Load model with FastModel
pip install unsloth from unsloth import FastModel model, tokenizer = FastModel.from_pretrained( model_name="avsolatorio/data-use-unsloth-phi-3.5-data2-100epochs-test-lora", max_seq_length=2048, )
Ctrl+K
{"epoch": 2.0, "global_step": 768, "max_steps": 38400, "logging_steps": 1, "eval_steps": 500, "save_steps": 500, "train_batch_size": 2, "num_train_epochs": 100, "num_input_tokens_seen": 0, "total_flos": 3.3315658305997824e+17, "log_history": [{"loss": 2.652, "grad_norm": 0.24788601696491241, "learning_rate": 4e-05, "epoch": 0.0026041666666666665, "step": 1}, {"loss": 3.1359, "grad_norm": 0.34000420570373535, "learning_rate": 8e-05, "epoch": 0.005208333333333333, "step": 2}, {"loss": 1.9001, "grad_norm": 0.1266089230775833, "learning_rate": 0.00012, "epoch": 0.0078125, "step": 3}, {"loss": 2.2284, "grad_norm": 0.17432916164398193, "learning_rate": 0.00016, "epoch": 0.010416666666666666, "step": 4}, {"loss": 2.2595, "grad_norm": 0.16152024269104004, "learning_rate": 0.0002, "epoch": 0.013020833333333334, "step": 5}, {"loss": 2.563, "grad_norm": 0.1939028948545456, "learning_rate": 0.00019999479098840997, "epoch": 0.015625, "step": 6}, {"loss": 2.648, "grad_norm": 0.1667289286851883, "learning_rate": 0.00019998958197681992, "epoch": 0.018229166666666668, "step": 7}, {"loss": 2.5044, "grad_norm": 0.2032424658536911, "learning_rate": 0.00019998437296522986, "epoch": 0.020833333333333332, "step": 8}, {"loss": 2.0604, "grad_norm": 0.264525830745697, "learning_rate": 0.0001999791639536398, "epoch": 0.0234375, "step": 9}, {"loss": 3.2431, "grad_norm": 0.38463738560676575, "learning_rate": 0.00019997395494204977, "epoch": 0.026041666666666668, "step": 10}, {"loss": 2.6259, "grad_norm": 0.2464538812637329, "learning_rate": 0.0001999687459304597, "epoch": 0.028645833333333332, "step": 11}, {"loss": 1.6866, "grad_norm": 0.1391657292842865, "learning_rate": 0.00019996353691886966, "epoch": 0.03125, "step": 12}, {"loss": 1.9546, "grad_norm": 0.17759720981121063, "learning_rate": 0.0001999583279072796, "epoch": 0.033854166666666664, "step": 13}, {"loss": 2.2912, "grad_norm": 0.23645532131195068, "learning_rate": 0.00019995311889568955, "epoch": 0.036458333333333336, "step": 14}, {"loss": 1.9231, "grad_norm": 0.333185076713562, "learning_rate": 0.0001999479098840995, "epoch": 0.0390625, "step": 15}, {"loss": 2.2994, "grad_norm": 0.18830738961696625, "learning_rate": 0.00019994270087250946, "epoch": 0.041666666666666664, "step": 16}, {"loss": 1.928, "grad_norm": 0.17405590415000916, "learning_rate": 0.0001999374918609194, "epoch": 0.044270833333333336, "step": 17}, {"loss": 2.2636, "grad_norm": 0.21789467334747314, "learning_rate": 0.00019993228284932935, "epoch": 0.046875, "step": 18}, {"loss": 2.0631, "grad_norm": 0.23415839672088623, "learning_rate": 0.0001999270738377393, "epoch": 0.049479166666666664, "step": 19}, {"loss": 1.8624, "grad_norm": 0.2108680158853531, "learning_rate": 0.00019992186482614926, "epoch": 0.052083333333333336, "step": 20}, {"loss": 2.5912, "grad_norm": 0.36742931604385376, "learning_rate": 0.0001999166558145592, "epoch": 0.0546875, "step": 21}, {"loss": 1.9073, "grad_norm": 0.2259276956319809, "learning_rate": 0.00019991144680296913, "epoch": 0.057291666666666664, "step": 22}, {"loss": 2.6287, "grad_norm": 0.32164040207862854, "learning_rate": 0.00019990623779137908, "epoch": 0.059895833333333336, "step": 23}, {"loss": 2.0673, "grad_norm": 0.17037521302700043, "learning_rate": 0.00019990102877978904, "epoch": 0.0625, "step": 24}, {"loss": 2.5532, "grad_norm": 0.4341124892234802, "learning_rate": 0.000199895819768199, "epoch": 0.06510416666666667, "step": 25}, {"loss": 2.6279, "grad_norm": 0.3301939070224762, "learning_rate": 0.00019989061075660896, "epoch": 0.06770833333333333, "step": 26}, {"loss": 2.2232, "grad_norm": 0.17973142862319946, "learning_rate": 0.00019988540174501889, "epoch": 0.0703125, "step": 27}, {"loss": 2.261, "grad_norm": 0.21301774680614471, "learning_rate": 0.00019988019273342884, "epoch": 0.07291666666666667, "step": 28}, {"loss": 2.8276, "grad_norm": 0.18273869156837463, "learning_rate": 0.0001998749837218388, "epoch": 0.07552083333333333, "step": 29}, {"loss": 2.5248, "grad_norm": 0.2110610008239746, "learning_rate": 0.00019986977471024876, "epoch": 0.078125, "step": 30}, {"loss": 1.6693, "grad_norm": 0.26255133748054504, "learning_rate": 0.0001998645656986587, "epoch": 0.08072916666666667, "step": 31}, {"loss": 2.0586, "grad_norm": 0.34644800424575806, "learning_rate": 0.00019985935668706862, "epoch": 0.08333333333333333, "step": 32}, {"loss": 2.0672, "grad_norm": 0.2140042632818222, "learning_rate": 0.00019985414767547858, "epoch": 0.0859375, "step": 33}, {"loss": 1.7814, "grad_norm": 0.1978219896554947, "learning_rate": 0.00019984893866388853, "epoch": 0.08854166666666667, "step": 34}, {"loss": 2.0788, "grad_norm": 0.17734406888484955, "learning_rate": 0.0001998437296522985, "epoch": 0.09114583333333333, "step": 35}, {"loss": 1.8695, "grad_norm": 0.1939937323331833, "learning_rate": 0.00019983852064070842, "epoch": 0.09375, "step": 36}, {"loss": 2.1705, "grad_norm": 0.19472149014472961, "learning_rate": 0.00019983331162911838, "epoch": 0.09635416666666667, "step": 37}, {"loss": 2.0956, "grad_norm": 0.27360233664512634, "learning_rate": 0.00019982810261752834, "epoch": 0.09895833333333333, "step": 38}, {"loss": 1.9189, "grad_norm": 0.18276631832122803, "learning_rate": 0.0001998228936059383, "epoch": 0.1015625, "step": 39}, {"loss": 1.7976, "grad_norm": 0.20797434449195862, "learning_rate": 0.00019981768459434825, "epoch": 0.10416666666666667, "step": 40}, {"loss": 2.677, "grad_norm": 0.17887651920318604, "learning_rate": 0.00019981247558275818, "epoch": 0.10677083333333333, "step": 41}, {"loss": 1.6333, "grad_norm": 0.21745014190673828, "learning_rate": 0.00019980726657116814, "epoch": 0.109375, "step": 42}, {"loss": 1.9584, "grad_norm": 0.1970081478357315, "learning_rate": 0.00019980205755957807, "epoch": 0.11197916666666667, "step": 43}, {"loss": 1.6973, "grad_norm": 0.15750955045223236, "learning_rate": 0.00019979684854798803, "epoch": 0.11458333333333333, "step": 44}, {"loss": 2.131, "grad_norm": 0.3408476710319519, "learning_rate": 0.00019979163953639796, "epoch": 0.1171875, "step": 45}, {"loss": 1.8085, "grad_norm": 0.24672344326972961, "learning_rate": 0.00019978643052480792, "epoch": 0.11979166666666667, "step": 46}, {"loss": 2.1614, "grad_norm": 0.18542338907718658, "learning_rate": 0.00019978122151321787, "epoch": 0.12239583333333333, "step": 47}, {"loss": 2.2853, "grad_norm": 0.1898677796125412, "learning_rate": 0.00019977601250162783, "epoch": 0.125, "step": 48}, {"loss": 1.8598, "grad_norm": 0.23594807088375092, "learning_rate": 0.0001997708034900378, "epoch": 0.12760416666666666, "step": 49}, {"loss": 1.7125, "grad_norm": 0.16281020641326904, "learning_rate": 0.00019976559447844772, "epoch": 0.13020833333333334, "step": 50}, {"loss": 2.12, "grad_norm": 0.16268578171730042, "learning_rate": 0.00019976038546685768, "epoch": 0.1328125, "step": 51}, {"loss": 1.9557, "grad_norm": 0.1272406429052353, "learning_rate": 0.00019975517645526763, "epoch": 0.13541666666666666, "step": 52}, {"loss": 2.4177, "grad_norm": 0.2715491056442261, "learning_rate": 0.00019974996744367757, "epoch": 0.13802083333333334, "step": 53}, {"loss": 1.5766, "grad_norm": 0.18792803585529327, "learning_rate": 0.00019974475843208752, "epoch": 0.140625, "step": 54}, {"loss": 1.7428, "grad_norm": 0.18610648810863495, "learning_rate": 0.00019973954942049745, "epoch": 0.14322916666666666, "step": 55}, {"loss": 1.9608, "grad_norm": 0.1550748199224472, "learning_rate": 0.0001997343404089074, "epoch": 0.14583333333333334, "step": 56}, {"loss": 2.5379, "grad_norm": 0.2579845190048218, "learning_rate": 0.00019972913139731737, "epoch": 0.1484375, "step": 57}, {"loss": 1.8415, "grad_norm": 0.2996949553489685, "learning_rate": 0.00019972392238572733, "epoch": 0.15104166666666666, "step": 58}, {"loss": 1.6838, "grad_norm": 0.18122375011444092, "learning_rate": 0.00019971871337413726, "epoch": 0.15364583333333334, "step": 59}, {"loss": 1.447, "grad_norm": 0.1294804811477661, "learning_rate": 0.00019971350436254721, "epoch": 0.15625, "step": 60}, {"loss": 1.7101, "grad_norm": 0.14700637757778168, "learning_rate": 0.00019970829535095717, "epoch": 0.15885416666666666, "step": 61}, {"loss": 1.5371, "grad_norm": 0.17889969050884247, "learning_rate": 0.00019970308633936713, "epoch": 0.16145833333333334, "step": 62}, {"loss": 2.1219, "grad_norm": 0.17211025953292847, "learning_rate": 0.00019969787732777706, "epoch": 0.1640625, "step": 63}, {"loss": 2.0955, "grad_norm": 0.15781381726264954, "learning_rate": 0.00019969266831618702, "epoch": 0.16666666666666666, "step": 64}, {"loss": 1.9287, "grad_norm": 0.17606475949287415, "learning_rate": 0.00019968745930459695, "epoch": 0.16927083333333334, "step": 65}, {"loss": 1.7709, "grad_norm": 0.16221310198307037, "learning_rate": 0.0001996822502930069, "epoch": 0.171875, "step": 66}, {"loss": 1.9453, "grad_norm": 0.17456793785095215, "learning_rate": 0.00019967704128141686, "epoch": 0.17447916666666666, "step": 67}, {"loss": 1.5874, "grad_norm": 0.18762585520744324, "learning_rate": 0.00019967183226982682, "epoch": 0.17708333333333334, "step": 68}, {"loss": 1.6919, "grad_norm": 0.1754765510559082, "learning_rate": 0.00019966662325823675, "epoch": 0.1796875, "step": 69}, {"loss": 2.1788, "grad_norm": 0.2354733645915985, "learning_rate": 0.0001996614142466467, "epoch": 0.18229166666666666, "step": 70}, {"loss": 1.7937, "grad_norm": 0.12718981504440308, "learning_rate": 0.00019965620523505667, "epoch": 0.18489583333333334, "step": 71}, {"loss": 1.5862, "grad_norm": 0.16119027137756348, "learning_rate": 0.00019965099622346662, "epoch": 0.1875, "step": 72}, {"loss": 2.8015, "grad_norm": 0.21943971514701843, "learning_rate": 0.00019964578721187658, "epoch": 0.19010416666666666, "step": 73}, {"loss": 2.3754, "grad_norm": 0.1389894336462021, "learning_rate": 0.0001996405782002865, "epoch": 0.19270833333333334, "step": 74}, {"loss": 1.6937, "grad_norm": 0.6992544531822205, "learning_rate": 0.00019963536918869644, "epoch": 0.1953125, "step": 75}, {"loss": 1.6382, "grad_norm": 0.16642028093338013, "learning_rate": 0.0001996301601771064, "epoch": 0.19791666666666666, "step": 76}, {"loss": 1.6741, "grad_norm": 0.14381425082683563, "learning_rate": 0.00019962495116551636, "epoch": 0.20052083333333334, "step": 77}, {"loss": 1.6901, "grad_norm": 0.11511020362377167, "learning_rate": 0.0001996197421539263, "epoch": 0.203125, "step": 78}, {"loss": 1.731, "grad_norm": 0.15518280863761902, "learning_rate": 0.00019961453314233624, "epoch": 0.20572916666666666, "step": 79}, {"loss": 2.1099, "grad_norm": 0.20614677667617798, "learning_rate": 0.0001996093241307462, "epoch": 0.20833333333333334, "step": 80}, {"loss": 1.9131, "grad_norm": 0.2278735488653183, "learning_rate": 0.00019960411511915616, "epoch": 0.2109375, "step": 81}, {"loss": 1.5733, "grad_norm": 0.16888979077339172, "learning_rate": 0.00019959890610756612, "epoch": 0.21354166666666666, "step": 82}, {"loss": 1.873, "grad_norm": 0.3140360116958618, "learning_rate": 0.00019959369709597605, "epoch": 0.21614583333333334, "step": 83}, {"loss": 1.7251, "grad_norm": 0.17908994853496552, "learning_rate": 0.000199588488084386, "epoch": 0.21875, "step": 84}, {"loss": 2.113, "grad_norm": 0.27173087000846863, "learning_rate": 0.00019958327907279594, "epoch": 0.22135416666666666, "step": 85}, {"loss": 1.7926, "grad_norm": 0.12291889637708664, "learning_rate": 0.0001995780700612059, "epoch": 0.22395833333333334, "step": 86}, {"loss": 1.7098, "grad_norm": 0.1547650396823883, "learning_rate": 0.00019957286104961585, "epoch": 0.2265625, "step": 87}, {"loss": 1.6933, "grad_norm": 0.4612993001937866, "learning_rate": 0.00019956765203802578, "epoch": 0.22916666666666666, "step": 88}, {"loss": 1.9979, "grad_norm": 0.3881295323371887, "learning_rate": 0.00019956244302643574, "epoch": 0.23177083333333334, "step": 89}, {"loss": 1.6882, "grad_norm": 0.25412920117378235, "learning_rate": 0.0001995572340148457, "epoch": 0.234375, "step": 90}, {"loss": 1.5577, "grad_norm": 0.1360950618982315, "learning_rate": 0.00019955202500325565, "epoch": 0.23697916666666666, "step": 91}, {"loss": 2.2506, "grad_norm": 0.17260028421878815, "learning_rate": 0.00019954681599166558, "epoch": 0.23958333333333334, "step": 92}, {"loss": 1.9636, "grad_norm": 0.1499253362417221, "learning_rate": 0.00019954160698007554, "epoch": 0.2421875, "step": 93}, {"loss": 2.6281, "grad_norm": 0.14118346571922302, "learning_rate": 0.0001995363979684855, "epoch": 0.24479166666666666, "step": 94}, {"loss": 1.9148, "grad_norm": 0.16624674201011658, "learning_rate": 0.00019953118895689543, "epoch": 0.24739583333333334, "step": 95}, {"loss": 1.9805, "grad_norm": 0.1394878774881363, "learning_rate": 0.0001995259799453054, "epoch": 0.25, "step": 96}, {"loss": 1.757, "grad_norm": 0.38000279664993286, "learning_rate": 0.00019952077093371532, "epoch": 0.2526041666666667, "step": 97}, {"loss": 1.4991, "grad_norm": 0.13736438751220703, "learning_rate": 0.00019951556192212528, "epoch": 0.2552083333333333, "step": 98}, {"loss": 1.7402, "grad_norm": 0.13259880244731903, "learning_rate": 0.00019951035291053523, "epoch": 0.2578125, "step": 99}, {"loss": 1.9819, "grad_norm": 0.1347344070672989, "learning_rate": 0.0001995051438989452, "epoch": 0.2604166666666667, "step": 100}, {"loss": 2.0497, "grad_norm": 0.13735011219978333, "learning_rate": 0.00019949993488735515, "epoch": 0.2630208333333333, "step": 101}, {"loss": 1.7435, "grad_norm": 0.13166861236095428, "learning_rate": 0.00019949472587576508, "epoch": 0.265625, "step": 102}, {"loss": 1.5074, "grad_norm": 0.14948157966136932, "learning_rate": 0.00019948951686417504, "epoch": 0.2682291666666667, "step": 103}, {"loss": 1.638, "grad_norm": 0.28733471035957336, "learning_rate": 0.000199484307852585, "epoch": 0.2708333333333333, "step": 104}, {"loss": 1.9854, "grad_norm": 0.38763314485549927, "learning_rate": 0.00019947909884099495, "epoch": 0.2734375, "step": 105}, {"loss": 2.1375, "grad_norm": 0.29844900965690613, "learning_rate": 0.00019947388982940488, "epoch": 0.2760416666666667, "step": 106}, {"loss": 1.7481, "grad_norm": 0.15641503036022186, "learning_rate": 0.0001994686808178148, "epoch": 0.2786458333333333, "step": 107}, {"loss": 1.8427, "grad_norm": 0.19069840013980865, "learning_rate": 0.00019946347180622477, "epoch": 0.28125, "step": 108}, {"loss": 1.8351, "grad_norm": 0.2626696228981018, "learning_rate": 0.00019945826279463473, "epoch": 0.2838541666666667, "step": 109}, {"loss": 1.5676, "grad_norm": 0.17938993871212006, "learning_rate": 0.00019945305378304468, "epoch": 0.2864583333333333, "step": 110}, {"loss": 1.5431, "grad_norm": 0.3167632222175598, "learning_rate": 0.00019944784477145462, "epoch": 0.2890625, "step": 111}, {"loss": 2.2761, "grad_norm": 0.166547492146492, "learning_rate": 0.00019944263575986457, "epoch": 0.2916666666666667, "step": 112}, {"loss": 1.9764, "grad_norm": 0.20758523046970367, "learning_rate": 0.00019943742674827453, "epoch": 0.2942708333333333, "step": 113}, {"loss": 1.4798, "grad_norm": 0.16039681434631348, "learning_rate": 0.0001994322177366845, "epoch": 0.296875, "step": 114}, {"loss": 1.8812, "grad_norm": 0.14814870059490204, "learning_rate": 0.00019942700872509445, "epoch": 0.2994791666666667, "step": 115}, {"loss": 1.7268, "grad_norm": 0.24942798912525177, "learning_rate": 0.00019942179971350438, "epoch": 0.3020833333333333, "step": 116}, {"loss": 1.7046, "grad_norm": 0.17833249270915985, "learning_rate": 0.0001994165907019143, "epoch": 0.3046875, "step": 117}, {"loss": 1.7444, "grad_norm": 0.14938341081142426, "learning_rate": 0.00019941138169032426, "epoch": 0.3072916666666667, "step": 118}, {"loss": 1.9329, "grad_norm": 0.1826757788658142, "learning_rate": 0.00019940617267873422, "epoch": 0.3098958333333333, "step": 119}, {"loss": 1.6307, "grad_norm": 0.15257523953914642, "learning_rate": 0.00019940096366714415, "epoch": 0.3125, "step": 120}, {"loss": 2.2171, "grad_norm": 0.28836509585380554, "learning_rate": 0.0001993957546555541, "epoch": 0.3151041666666667, "step": 121}, {"loss": 1.6351, "grad_norm": 0.16161297261714935, "learning_rate": 0.00019939054564396407, "epoch": 0.3177083333333333, "step": 122}, {"loss": 1.6762, "grad_norm": 0.15808948874473572, "learning_rate": 0.00019938533663237402, "epoch": 0.3203125, "step": 123}, {"loss": 2.2103, "grad_norm": 0.46219348907470703, "learning_rate": 0.00019938012762078398, "epoch": 0.3229166666666667, "step": 124}, {"loss": 1.7202, "grad_norm": 0.21075648069381714, "learning_rate": 0.0001993749186091939, "epoch": 0.3255208333333333, "step": 125}, {"loss": 1.5016, "grad_norm": 0.23202799260616302, "learning_rate": 0.00019936970959760387, "epoch": 0.328125, "step": 126}, {"loss": 1.4731, "grad_norm": 0.16179735958576202, "learning_rate": 0.0001993645005860138, "epoch": 0.3307291666666667, "step": 127}, {"loss": 1.5852, "grad_norm": 0.14396360516548157, "learning_rate": 0.00019935929157442376, "epoch": 0.3333333333333333, "step": 128}, {"loss": 2.3768, "grad_norm": 0.26497697830200195, "learning_rate": 0.00019935408256283372, "epoch": 0.3359375, "step": 129}, {"loss": 1.8955, "grad_norm": 0.22315438091754913, "learning_rate": 0.00019934887355124365, "epoch": 0.3385416666666667, "step": 130}, {"loss": 1.4727, "grad_norm": 0.1483692079782486, "learning_rate": 0.0001993436645396536, "epoch": 0.3411458333333333, "step": 131}, {"loss": 2.0468, "grad_norm": 0.3203412890434265, "learning_rate": 0.00019933845552806356, "epoch": 0.34375, "step": 132}, {"loss": 1.596, "grad_norm": 0.15203261375427246, "learning_rate": 0.00019933324651647352, "epoch": 0.3463541666666667, "step": 133}, {"loss": 1.9762, "grad_norm": 0.19022250175476074, "learning_rate": 0.00019932803750488345, "epoch": 0.3489583333333333, "step": 134}, {"loss": 1.6219, "grad_norm": 0.1735030859708786, "learning_rate": 0.0001993228284932934, "epoch": 0.3515625, "step": 135}, {"loss": 1.5679, "grad_norm": 0.13929414749145508, "learning_rate": 0.00019931761948170336, "epoch": 0.3541666666666667, "step": 136}, {"loss": 1.5746, "grad_norm": 0.1656503826379776, "learning_rate": 0.00019931241047011332, "epoch": 0.3567708333333333, "step": 137}, {"loss": 1.6563, "grad_norm": 0.18551595509052277, "learning_rate": 0.00019930720145852325, "epoch": 0.359375, "step": 138}, {"loss": 1.73, "grad_norm": 0.30950888991355896, "learning_rate": 0.00019930199244693318, "epoch": 0.3619791666666667, "step": 139}, {"loss": 1.7657, "grad_norm": 0.14878246188163757, "learning_rate": 0.00019929678343534314, "epoch": 0.3645833333333333, "step": 140}, {"loss": 2.6496, "grad_norm": 0.26117420196533203, "learning_rate": 0.0001992915744237531, "epoch": 0.3671875, "step": 141}, {"loss": 1.8774, "grad_norm": 0.20204110443592072, "learning_rate": 0.00019928636541216306, "epoch": 0.3697916666666667, "step": 142}, {"loss": 1.6987, "grad_norm": 0.18189632892608643, "learning_rate": 0.000199281156400573, "epoch": 0.3723958333333333, "step": 143}, {"loss": 1.8215, "grad_norm": 0.2984539270401001, "learning_rate": 0.00019927594738898294, "epoch": 0.375, "step": 144}, {"loss": 1.7494, "grad_norm": 0.1676495522260666, "learning_rate": 0.0001992707383773929, "epoch": 0.3776041666666667, "step": 145}, {"loss": 1.6032, "grad_norm": 0.23656995594501495, "learning_rate": 0.00019926552936580286, "epoch": 0.3802083333333333, "step": 146}, {"loss": 1.782, "grad_norm": 0.2120102047920227, "learning_rate": 0.00019926032035421282, "epoch": 0.3828125, "step": 147}, {"loss": 1.599, "grad_norm": 0.20297187566757202, "learning_rate": 0.00019925511134262275, "epoch": 0.3854166666666667, "step": 148}, {"loss": 1.806, "grad_norm": 0.1607116162776947, "learning_rate": 0.00019924990233103268, "epoch": 0.3880208333333333, "step": 149}, {"loss": 1.5275, "grad_norm": 0.1595725119113922, "learning_rate": 0.00019924469331944263, "epoch": 0.390625, "step": 150}, {"loss": 1.8139, "grad_norm": 0.26670703291893005, "learning_rate": 0.0001992394843078526, "epoch": 0.3932291666666667, "step": 151}, {"loss": 2.0862, "grad_norm": 0.23426051437854767, "learning_rate": 0.00019923427529626255, "epoch": 0.3958333333333333, "step": 152}, {"loss": 1.929, "grad_norm": 0.17593474686145782, "learning_rate": 0.00019922906628467248, "epoch": 0.3984375, "step": 153}, {"loss": 1.6343, "grad_norm": 0.15409043431282043, "learning_rate": 0.00019922385727308244, "epoch": 0.4010416666666667, "step": 154}, {"loss": 2.2482, "grad_norm": 0.16738496720790863, "learning_rate": 0.0001992186482614924, "epoch": 0.4036458333333333, "step": 155}, {"loss": 1.5607, "grad_norm": 0.15884408354759216, "learning_rate": 0.00019921343924990235, "epoch": 0.40625, "step": 156}, {"loss": 2.1634, "grad_norm": 0.2830999195575714, "learning_rate": 0.0001992082302383123, "epoch": 0.4088541666666667, "step": 157}, {"loss": 1.7425, "grad_norm": 0.18170000612735748, "learning_rate": 0.00019920302122672224, "epoch": 0.4114583333333333, "step": 158}, {"loss": 1.6623, "grad_norm": 0.18143819272518158, "learning_rate": 0.0001991978122151322, "epoch": 0.4140625, "step": 159}, {"loss": 1.961, "grad_norm": 0.15318413078784943, "learning_rate": 0.00019919260320354213, "epoch": 0.4166666666666667, "step": 160}, {"loss": 1.7297, "grad_norm": 0.20560957491397858, "learning_rate": 0.00019918739419195209, "epoch": 0.4192708333333333, "step": 161}, {"loss": 1.4226, "grad_norm": 0.18597416579723358, "learning_rate": 0.00019918218518036204, "epoch": 0.421875, "step": 162}, {"loss": 1.9558, "grad_norm": 0.1714521050453186, "learning_rate": 0.00019917697616877197, "epoch": 0.4244791666666667, "step": 163}, {"loss": 1.9516, "grad_norm": 0.17034439742565155, "learning_rate": 0.00019917176715718193, "epoch": 0.4270833333333333, "step": 164}, {"loss": 1.7429, "grad_norm": 0.17770037055015564, "learning_rate": 0.0001991665581455919, "epoch": 0.4296875, "step": 165}, {"loss": 1.8267, "grad_norm": 0.273630827665329, "learning_rate": 0.00019916134913400185, "epoch": 0.4322916666666667, "step": 166}, {"loss": 1.668, "grad_norm": 0.15232764184474945, "learning_rate": 0.00019915614012241178, "epoch": 0.4348958333333333, "step": 167}, {"loss": 1.669, "grad_norm": 0.17462757229804993, "learning_rate": 0.00019915093111082173, "epoch": 0.4375, "step": 168}, {"loss": 2.3358, "grad_norm": 0.2030152827501297, "learning_rate": 0.0001991457220992317, "epoch": 0.4401041666666667, "step": 169}, {"loss": 2.3591, "grad_norm": 0.15602992475032806, "learning_rate": 0.00019914051308764162, "epoch": 0.4427083333333333, "step": 170}, {"loss": 1.9451, "grad_norm": 0.134451761841774, "learning_rate": 0.00019913530407605158, "epoch": 0.4453125, "step": 171}, {"loss": 1.5859, "grad_norm": 0.5024926066398621, "learning_rate": 0.0001991300950644615, "epoch": 0.4479166666666667, "step": 172}, {"loss": 1.721, "grad_norm": 0.15201961994171143, "learning_rate": 0.00019912488605287147, "epoch": 0.4505208333333333, "step": 173}, {"loss": 2.1003, "grad_norm": 0.18842385709285736, "learning_rate": 0.00019911967704128143, "epoch": 0.453125, "step": 174}, {"loss": 2.0247, "grad_norm": 0.2158442884683609, "learning_rate": 0.00019911446802969138, "epoch": 0.4557291666666667, "step": 175}, {"loss": 1.7043, "grad_norm": 0.23021073639392853, "learning_rate": 0.00019910925901810134, "epoch": 0.4583333333333333, "step": 176}, {"loss": 1.5354, "grad_norm": 0.13352370262145996, "learning_rate": 0.00019910405000651127, "epoch": 0.4609375, "step": 177}, {"loss": 1.7283, "grad_norm": 0.14544299244880676, "learning_rate": 0.00019909884099492123, "epoch": 0.4635416666666667, "step": 178}, {"loss": 2.225, "grad_norm": 0.1813192218542099, "learning_rate": 0.00019909363198333119, "epoch": 0.4661458333333333, "step": 179}, {"loss": 1.8103, "grad_norm": 0.1671997308731079, "learning_rate": 0.00019908842297174112, "epoch": 0.46875, "step": 180}, {"loss": 1.6671, "grad_norm": 0.18253891170024872, "learning_rate": 0.00019908321396015105, "epoch": 0.4713541666666667, "step": 181}, {"loss": 1.4431, "grad_norm": 0.142823725938797, "learning_rate": 0.000199078004948561, "epoch": 0.4739583333333333, "step": 182}, {"loss": 1.4624, "grad_norm": 0.2151111215353012, "learning_rate": 0.00019907279593697096, "epoch": 0.4765625, "step": 183}, {"loss": 1.7405, "grad_norm": 0.178762286901474, "learning_rate": 0.00019906758692538092, "epoch": 0.4791666666666667, "step": 184}, {"loss": 1.8895, "grad_norm": 0.20396524667739868, "learning_rate": 0.00019906237791379088, "epoch": 0.4817708333333333, "step": 185}, {"loss": 1.966, "grad_norm": 0.14270636439323425, "learning_rate": 0.0001990571689022008, "epoch": 0.484375, "step": 186}, {"loss": 1.7099, "grad_norm": 0.17403045296669006, "learning_rate": 0.00019905195989061077, "epoch": 0.4869791666666667, "step": 187}, {"loss": 1.7201, "grad_norm": 0.15161313116550446, "learning_rate": 0.00019904675087902072, "epoch": 0.4895833333333333, "step": 188}, {"loss": 2.0316, "grad_norm": 0.23035448789596558, "learning_rate": 0.00019904154186743068, "epoch": 0.4921875, "step": 189}, {"loss": 1.9511, "grad_norm": 0.33603042364120483, "learning_rate": 0.0001990363328558406, "epoch": 0.4947916666666667, "step": 190}, {"loss": 1.7916, "grad_norm": 0.16447967290878296, "learning_rate": 0.00019903112384425057, "epoch": 0.4973958333333333, "step": 191}, {"loss": 1.4954, "grad_norm": 0.18339209258556366, "learning_rate": 0.0001990259148326605, "epoch": 0.5, "step": 192}, {"loss": 2.0352, "grad_norm": 0.17997698485851288, "learning_rate": 0.00019902070582107046, "epoch": 0.5026041666666666, "step": 193}, {"loss": 2.4673, "grad_norm": 0.2957932949066162, "learning_rate": 0.00019901549680948041, "epoch": 0.5052083333333334, "step": 194}, {"loss": 1.711, "grad_norm": 0.17664436995983124, "learning_rate": 0.00019901028779789034, "epoch": 0.5078125, "step": 195}, {"loss": 1.9432, "grad_norm": 0.17323043942451477, "learning_rate": 0.0001990050787863003, "epoch": 0.5104166666666666, "step": 196}, {"loss": 1.9101, "grad_norm": 0.16637738049030304, "learning_rate": 0.00019899986977471026, "epoch": 0.5130208333333334, "step": 197}, {"loss": 2.0042, "grad_norm": 0.2432573288679123, "learning_rate": 0.00019899466076312022, "epoch": 0.515625, "step": 198}, {"loss": 2.0167, "grad_norm": 0.15578676760196686, "learning_rate": 0.00019898945175153017, "epoch": 0.5182291666666666, "step": 199}, {"loss": 1.7, "grad_norm": 0.1685664802789688, "learning_rate": 0.0001989842427399401, "epoch": 0.5208333333333334, "step": 200}, {"loss": 1.8495, "grad_norm": 0.40754228830337524, "learning_rate": 0.00019897903372835006, "epoch": 0.5234375, "step": 201}, {"loss": 1.9055, "grad_norm": 0.2584269642829895, "learning_rate": 0.00019897382471676, "epoch": 0.5260416666666666, "step": 202}, {"loss": 1.5416, "grad_norm": 0.17231044173240662, "learning_rate": 0.00019896861570516995, "epoch": 0.5286458333333334, "step": 203}, {"loss": 1.7315, "grad_norm": 0.3014589548110962, "learning_rate": 0.0001989634066935799, "epoch": 0.53125, "step": 204}, {"loss": 1.7235, "grad_norm": 0.42428991198539734, "learning_rate": 0.00019895819768198984, "epoch": 0.5338541666666666, "step": 205}, {"loss": 1.6434, "grad_norm": 0.1660148799419403, "learning_rate": 0.0001989529886703998, "epoch": 0.5364583333333334, "step": 206}, {"loss": 1.6567, "grad_norm": 0.24279923737049103, "learning_rate": 0.00019894777965880975, "epoch": 0.5390625, "step": 207}, {"loss": 1.7272, "grad_norm": 0.21736693382263184, "learning_rate": 0.0001989425706472197, "epoch": 0.5416666666666666, "step": 208}, {"loss": 1.5827, "grad_norm": 0.1874873787164688, "learning_rate": 0.00019893736163562967, "epoch": 0.5442708333333334, "step": 209}, {"loss": 2.3002, "grad_norm": 0.26250210404396057, "learning_rate": 0.0001989321526240396, "epoch": 0.546875, "step": 210}, {"loss": 2.0454, "grad_norm": 0.15941721200942993, "learning_rate": 0.00019892694361244956, "epoch": 0.5494791666666666, "step": 211}, {"loss": 1.6447, "grad_norm": 0.17587988078594208, "learning_rate": 0.0001989217346008595, "epoch": 0.5520833333333334, "step": 212}, {"loss": 1.7245, "grad_norm": 0.18821589648723602, "learning_rate": 0.00019891652558926944, "epoch": 0.5546875, "step": 213}, {"loss": 2.0201, "grad_norm": 0.17899993062019348, "learning_rate": 0.00019891131657767937, "epoch": 0.5572916666666666, "step": 214}, {"loss": 1.8042, "grad_norm": 0.1815902441740036, "learning_rate": 0.00019890610756608933, "epoch": 0.5598958333333334, "step": 215}, {"loss": 2.0751, "grad_norm": 0.16819411516189575, "learning_rate": 0.0001989008985544993, "epoch": 0.5625, "step": 216}, {"loss": 1.9241, "grad_norm": 0.20043803751468658, "learning_rate": 0.00019889568954290925, "epoch": 0.5651041666666666, "step": 217}, {"loss": 1.9073, "grad_norm": 0.40797191858291626, "learning_rate": 0.0001988904805313192, "epoch": 0.5677083333333334, "step": 218}, {"loss": 2.017, "grad_norm": 0.24687854945659637, "learning_rate": 0.00019888527151972914, "epoch": 0.5703125, "step": 219}, {"loss": 1.6051, "grad_norm": 0.15975014865398407, "learning_rate": 0.0001988800625081391, "epoch": 0.5729166666666666, "step": 220}, {"loss": 1.9883, "grad_norm": 0.1872333586215973, "learning_rate": 0.00019887485349654905, "epoch": 0.5755208333333334, "step": 221}, {"loss": 1.6071, "grad_norm": 0.17301514744758606, "learning_rate": 0.00019886964448495898, "epoch": 0.578125, "step": 222}, {"loss": 1.5438, "grad_norm": 0.16316059231758118, "learning_rate": 0.00019886443547336894, "epoch": 0.5807291666666666, "step": 223}, {"loss": 1.6866, "grad_norm": 0.1557891070842743, "learning_rate": 0.00019885922646177887, "epoch": 0.5833333333333334, "step": 224}, {"loss": 2.2865, "grad_norm": 0.31842565536499023, "learning_rate": 0.00019885401745018883, "epoch": 0.5859375, "step": 225}, {"loss": 1.7703, "grad_norm": 0.1882057785987854, "learning_rate": 0.00019884880843859878, "epoch": 0.5885416666666666, "step": 226}, {"loss": 1.313, "grad_norm": 0.159821018576622, "learning_rate": 0.00019884359942700874, "epoch": 0.5911458333333334, "step": 227}, {"loss": 1.4622, "grad_norm": 0.17263779044151306, "learning_rate": 0.00019883839041541867, "epoch": 0.59375, "step": 228}, {"loss": 1.4281, "grad_norm": 0.18075932562351227, "learning_rate": 0.00019883318140382863, "epoch": 0.5963541666666666, "step": 229}, {"loss": 1.7931, "grad_norm": 0.1789695918560028, "learning_rate": 0.0001988279723922386, "epoch": 0.5989583333333334, "step": 230}, {"loss": 2.0155, "grad_norm": 0.36502766609191895, "learning_rate": 0.00019882276338064854, "epoch": 0.6015625, "step": 231}, {"loss": 1.7018, "grad_norm": 0.15523284673690796, "learning_rate": 0.0001988175543690585, "epoch": 0.6041666666666666, "step": 232}, {"loss": 1.6541, "grad_norm": 0.1806311309337616, "learning_rate": 0.00019881234535746843, "epoch": 0.6067708333333334, "step": 233}, {"loss": 2.0068, "grad_norm": 0.17650552093982697, "learning_rate": 0.00019880713634587836, "epoch": 0.609375, "step": 234}, {"loss": 1.729, "grad_norm": 0.17082014679908752, "learning_rate": 0.00019880192733428832, "epoch": 0.6119791666666666, "step": 235}, {"loss": 1.497, "grad_norm": 0.18811678886413574, "learning_rate": 0.00019879671832269828, "epoch": 0.6145833333333334, "step": 236}, {"loss": 1.8984, "grad_norm": 0.18330323696136475, "learning_rate": 0.00019879150931110824, "epoch": 0.6171875, "step": 237}, {"loss": 1.5953, "grad_norm": 0.17235977947711945, "learning_rate": 0.00019878630029951817, "epoch": 0.6197916666666666, "step": 238}, {"loss": 1.4887, "grad_norm": 0.15841606259346008, "learning_rate": 0.00019878109128792812, "epoch": 0.6223958333333334, "step": 239}, {"loss": 1.7929, "grad_norm": 0.1658901572227478, "learning_rate": 0.00019877588227633808, "epoch": 0.625, "step": 240}, {"loss": 1.9935, "grad_norm": 0.15952624380588531, "learning_rate": 0.00019877067326474804, "epoch": 0.6276041666666666, "step": 241}, {"loss": 1.8343, "grad_norm": 0.1501069962978363, "learning_rate": 0.00019876546425315797, "epoch": 0.6302083333333334, "step": 242}, {"loss": 2.006, "grad_norm": 0.1566411703824997, "learning_rate": 0.00019876025524156793, "epoch": 0.6328125, "step": 243}, {"loss": 1.5437, "grad_norm": 0.14043132960796356, "learning_rate": 0.00019875504622997786, "epoch": 0.6354166666666666, "step": 244}, {"loss": 1.3308, "grad_norm": 0.15926943719387054, "learning_rate": 0.00019874983721838781, "epoch": 0.6380208333333334, "step": 245}, {"loss": 1.6517, "grad_norm": 0.19707539677619934, "learning_rate": 0.00019874462820679777, "epoch": 0.640625, "step": 246}, {"loss": 2.2505, "grad_norm": 0.2714860141277313, "learning_rate": 0.0001987394191952077, "epoch": 0.6432291666666666, "step": 247}, {"loss": 1.8359, "grad_norm": 0.20075547695159912, "learning_rate": 0.00019873421018361766, "epoch": 0.6458333333333334, "step": 248}, {"loss": 1.7996, "grad_norm": 0.21624572575092316, "learning_rate": 0.00019872900117202762, "epoch": 0.6484375, "step": 249}, {"loss": 1.4849, "grad_norm": 0.18454691767692566, "learning_rate": 0.00019872379216043758, "epoch": 0.6510416666666666, "step": 250}, {"loss": 1.8987, "grad_norm": 0.188501238822937, "learning_rate": 0.00019871858314884753, "epoch": 0.6536458333333334, "step": 251}, {"loss": 2.2907, "grad_norm": 0.30188801884651184, "learning_rate": 0.00019871337413725746, "epoch": 0.65625, "step": 252}, {"loss": 1.6007, "grad_norm": 0.18514923751354218, "learning_rate": 0.00019870816512566742, "epoch": 0.6588541666666666, "step": 253}, {"loss": 2.1358, "grad_norm": 0.21795040369033813, "learning_rate": 0.00019870295611407738, "epoch": 0.6614583333333334, "step": 254}, {"loss": 1.8945, "grad_norm": 0.17157141864299774, "learning_rate": 0.0001986977471024873, "epoch": 0.6640625, "step": 255}, {"loss": 1.6284, "grad_norm": 0.23314891755580902, "learning_rate": 0.00019869253809089724, "epoch": 0.6666666666666666, "step": 256}, {"loss": 1.484, "grad_norm": 0.19169111549854279, "learning_rate": 0.0001986873290793072, "epoch": 0.6692708333333334, "step": 257}, {"loss": 1.6756, "grad_norm": 0.14590699970722198, "learning_rate": 0.00019868212006771715, "epoch": 0.671875, "step": 258}, {"loss": 1.8778, "grad_norm": 0.2226470708847046, "learning_rate": 0.0001986769110561271, "epoch": 0.6744791666666666, "step": 259}, {"loss": 1.5665, "grad_norm": 0.24096080660820007, "learning_rate": 0.00019867170204453707, "epoch": 0.6770833333333334, "step": 260}, {"loss": 1.6701, "grad_norm": 0.16420495510101318, "learning_rate": 0.000198666493032947, "epoch": 0.6796875, "step": 261}, {"loss": 1.7241, "grad_norm": 0.4501114785671234, "learning_rate": 0.00019866128402135696, "epoch": 0.6822916666666666, "step": 262}, {"loss": 1.4163, "grad_norm": 0.2747783660888672, "learning_rate": 0.00019865607500976692, "epoch": 0.6848958333333334, "step": 263}, {"loss": 1.6659, "grad_norm": 1.5767518281936646, "learning_rate": 0.00019865086599817687, "epoch": 0.6875, "step": 264}, {"loss": 1.7268, "grad_norm": 0.2438383847475052, "learning_rate": 0.0001986456569865868, "epoch": 0.6901041666666666, "step": 265}, {"loss": 1.5182, "grad_norm": 0.1730681210756302, "learning_rate": 0.00019864044797499673, "epoch": 0.6927083333333334, "step": 266}, {"loss": 1.6138, "grad_norm": 0.17718742787837982, "learning_rate": 0.0001986352389634067, "epoch": 0.6953125, "step": 267}, {"loss": 1.3955, "grad_norm": 0.23193858563899994, "learning_rate": 0.00019863002995181665, "epoch": 0.6979166666666666, "step": 268}, {"loss": 1.468, "grad_norm": 0.16135071218013763, "learning_rate": 0.0001986248209402266, "epoch": 0.7005208333333334, "step": 269}, {"loss": 1.7022, "grad_norm": 0.22436940670013428, "learning_rate": 0.00019861961192863654, "epoch": 0.703125, "step": 270}, {"loss": 1.9184, "grad_norm": 0.2114836573600769, "learning_rate": 0.0001986144029170465, "epoch": 0.7057291666666666, "step": 271}, {"loss": 1.6702, "grad_norm": 0.2523229122161865, "learning_rate": 0.00019860919390545645, "epoch": 0.7083333333333334, "step": 272}, {"loss": 1.7332, "grad_norm": 0.20691610872745514, "learning_rate": 0.0001986039848938664, "epoch": 0.7109375, "step": 273}, {"loss": 1.5712, "grad_norm": 0.1839078962802887, "learning_rate": 0.00019859877588227637, "epoch": 0.7135416666666666, "step": 274}, {"loss": 1.6299, "grad_norm": 0.1499568521976471, "learning_rate": 0.0001985935668706863, "epoch": 0.7161458333333334, "step": 275}, {"loss": 1.5751, "grad_norm": 0.2080688625574112, "learning_rate": 0.00019858835785909623, "epoch": 0.71875, "step": 276}, {"loss": 1.9333, "grad_norm": 0.16272780299186707, "learning_rate": 0.00019858314884750619, "epoch": 0.7213541666666666, "step": 277}, {"loss": 1.8034, "grad_norm": 0.33269038796424866, "learning_rate": 0.00019857793983591614, "epoch": 0.7239583333333334, "step": 278}, {"loss": 1.7608, "grad_norm": 0.24818788468837738, "learning_rate": 0.0001985727308243261, "epoch": 0.7265625, "step": 279}, {"loss": 2.2039, "grad_norm": 0.17925122380256653, "learning_rate": 0.00019856752181273603, "epoch": 0.7291666666666666, "step": 280}, {"loss": 1.9653, "grad_norm": 0.21668410301208496, "learning_rate": 0.000198562312801146, "epoch": 0.7317708333333334, "step": 281}, {"loss": 1.7645, "grad_norm": 0.17679862678050995, "learning_rate": 0.00019855710378955595, "epoch": 0.734375, "step": 282}, {"loss": 1.6943, "grad_norm": 0.17260555922985077, "learning_rate": 0.0001985518947779659, "epoch": 0.7369791666666666, "step": 283}, {"loss": 1.5759, "grad_norm": 0.16903449594974518, "learning_rate": 0.00019854668576637586, "epoch": 0.7395833333333334, "step": 284}, {"loss": 1.6168, "grad_norm": 0.2379072904586792, "learning_rate": 0.0001985414767547858, "epoch": 0.7421875, "step": 285}, {"loss": 1.8787, "grad_norm": 0.16457030177116394, "learning_rate": 0.00019853626774319575, "epoch": 0.7447916666666666, "step": 286}, {"loss": 1.4878, "grad_norm": 0.20825980603694916, "learning_rate": 0.00019853105873160568, "epoch": 0.7473958333333334, "step": 287}, {"loss": 1.7664, "grad_norm": 0.23577450215816498, "learning_rate": 0.00019852584972001564, "epoch": 0.75, "step": 288}, {"loss": 1.4429, "grad_norm": 0.1757991462945938, "learning_rate": 0.00019852064070842557, "epoch": 0.7526041666666666, "step": 289}, {"loss": 1.5706, "grad_norm": 0.2728654146194458, "learning_rate": 0.00019851543169683553, "epoch": 0.7552083333333334, "step": 290}, {"loss": 1.5743, "grad_norm": 0.2770439684391022, "learning_rate": 0.00019851022268524548, "epoch": 0.7578125, "step": 291}, {"loss": 1.6064, "grad_norm": 0.23409464955329895, "learning_rate": 0.00019850501367365544, "epoch": 0.7604166666666666, "step": 292}, {"loss": 1.5392, "grad_norm": 0.17647646367549896, "learning_rate": 0.0001984998046620654, "epoch": 0.7630208333333334, "step": 293}, {"loss": 1.6523, "grad_norm": 0.16372166574001312, "learning_rate": 0.00019849459565047533, "epoch": 0.765625, "step": 294}, {"loss": 1.4448, "grad_norm": 0.2331768274307251, "learning_rate": 0.00019848938663888529, "epoch": 0.7682291666666666, "step": 295}, {"loss": 1.8791, "grad_norm": 0.18993520736694336, "learning_rate": 0.00019848417762729524, "epoch": 0.7708333333333334, "step": 296}, {"loss": 1.5671, "grad_norm": 0.1697818636894226, "learning_rate": 0.00019847896861570517, "epoch": 0.7734375, "step": 297}, {"loss": 1.5172, "grad_norm": 0.19639655947685242, "learning_rate": 0.00019847375960411513, "epoch": 0.7760416666666666, "step": 298}, {"loss": 1.8976, "grad_norm": 0.17612820863723755, "learning_rate": 0.00019846855059252506, "epoch": 0.7786458333333334, "step": 299}, {"loss": 1.8079, "grad_norm": 0.17694605886936188, "learning_rate": 0.00019846334158093502, "epoch": 0.78125, "step": 300}, {"loss": 1.5729, "grad_norm": 0.2112196981906891, "learning_rate": 0.00019845813256934498, "epoch": 0.7838541666666666, "step": 301}, {"loss": 1.4984, "grad_norm": 0.17701947689056396, "learning_rate": 0.00019845292355775493, "epoch": 0.7864583333333334, "step": 302}, {"loss": 1.5541, "grad_norm": 0.16829223930835724, "learning_rate": 0.00019844771454616486, "epoch": 0.7890625, "step": 303}, {"loss": 1.9719, "grad_norm": 0.1582597941160202, "learning_rate": 0.00019844250553457482, "epoch": 0.7916666666666666, "step": 304}, {"loss": 1.4849, "grad_norm": 0.13970047235488892, "learning_rate": 0.00019843729652298478, "epoch": 0.7942708333333334, "step": 305}, {"loss": 1.3911, "grad_norm": 0.16842052340507507, "learning_rate": 0.00019843208751139474, "epoch": 0.796875, "step": 306}, {"loss": 1.8658, "grad_norm": 0.18403419852256775, "learning_rate": 0.00019842687849980467, "epoch": 0.7994791666666666, "step": 307}, {"loss": 1.525, "grad_norm": 0.21008311212062836, "learning_rate": 0.00019842166948821463, "epoch": 0.8020833333333334, "step": 308}, {"loss": 2.0063, "grad_norm": 0.1695397049188614, "learning_rate": 0.00019841646047662456, "epoch": 0.8046875, "step": 309}, {"loss": 1.8718, "grad_norm": 0.2342233955860138, "learning_rate": 0.0001984112514650345, "epoch": 0.8072916666666666, "step": 310}, {"loss": 1.5355, "grad_norm": 2.451956033706665, "learning_rate": 0.00019840604245344447, "epoch": 0.8098958333333334, "step": 311}, {"loss": 1.8426, "grad_norm": 0.1625039130449295, "learning_rate": 0.00019840083344185443, "epoch": 0.8125, "step": 312}, {"loss": 1.9764, "grad_norm": 0.19235637784004211, "learning_rate": 0.00019839562443026436, "epoch": 0.8151041666666666, "step": 313}, {"loss": 1.3448, "grad_norm": 0.193938747048378, "learning_rate": 0.00019839041541867432, "epoch": 0.8177083333333334, "step": 314}, {"loss": 1.8061, "grad_norm": 0.2365209460258484, "learning_rate": 0.00019838520640708427, "epoch": 0.8203125, "step": 315}, {"loss": 1.5965, "grad_norm": 0.3882732093334198, "learning_rate": 0.00019837999739549423, "epoch": 0.8229166666666666, "step": 316}, {"loss": 1.8012, "grad_norm": 0.21246008574962616, "learning_rate": 0.00019837478838390416, "epoch": 0.8255208333333334, "step": 317}, {"loss": 1.8624, "grad_norm": 0.17614533007144928, "learning_rate": 0.00019836957937231412, "epoch": 0.828125, "step": 318}, {"loss": 1.5059, "grad_norm": 0.1941036432981491, "learning_rate": 0.00019836437036072405, "epoch": 0.8307291666666666, "step": 319}, {"loss": 2.1621, "grad_norm": 0.2011571228504181, "learning_rate": 0.000198359161349134, "epoch": 0.8333333333333334, "step": 320}, {"loss": 1.7195, "grad_norm": 0.2479586899280548, "learning_rate": 0.00019835395233754397, "epoch": 0.8359375, "step": 321}, {"loss": 1.9754, "grad_norm": 0.16439120471477509, "learning_rate": 0.0001983487433259539, "epoch": 0.8385416666666666, "step": 322}, {"loss": 2.0312, "grad_norm": 0.17732340097427368, "learning_rate": 0.00019834353431436385, "epoch": 0.8411458333333334, "step": 323}, {"loss": 2.1717, "grad_norm": 0.20820608735084534, "learning_rate": 0.0001983383253027738, "epoch": 0.84375, "step": 324}, {"loss": 2.01, "grad_norm": 0.21053023636341095, "learning_rate": 0.00019833311629118377, "epoch": 0.8463541666666666, "step": 325}, {"loss": 1.5318, "grad_norm": 0.18232308328151703, "learning_rate": 0.00019832790727959373, "epoch": 0.8489583333333334, "step": 326}, {"loss": 1.6143, "grad_norm": 0.21070709824562073, "learning_rate": 0.00019832269826800366, "epoch": 0.8515625, "step": 327}, {"loss": 1.7619, "grad_norm": 0.19978992640972137, "learning_rate": 0.00019831748925641361, "epoch": 0.8541666666666666, "step": 328}, {"loss": 1.88, "grad_norm": 0.1914113312959671, "learning_rate": 0.00019831228024482354, "epoch": 0.8567708333333334, "step": 329}, {"loss": 1.4765, "grad_norm": 0.17260439693927765, "learning_rate": 0.0001983070712332335, "epoch": 0.859375, "step": 330}, {"loss": 1.3357, "grad_norm": 0.14424054324626923, "learning_rate": 0.00019830186222164343, "epoch": 0.8619791666666666, "step": 331}, {"loss": 1.7257, "grad_norm": 0.1700582653284073, "learning_rate": 0.0001982966532100534, "epoch": 0.8645833333333334, "step": 332}, {"loss": 1.544, "grad_norm": 0.17794132232666016, "learning_rate": 0.00019829144419846335, "epoch": 0.8671875, "step": 333}, {"loss": 1.8235, "grad_norm": 0.23237180709838867, "learning_rate": 0.0001982862351868733, "epoch": 0.8697916666666666, "step": 334}, {"loss": 1.5249, "grad_norm": 0.2308090627193451, "learning_rate": 0.00019828102617528326, "epoch": 0.8723958333333334, "step": 335}, {"loss": 1.719, "grad_norm": 0.18447507917881012, "learning_rate": 0.0001982758171636932, "epoch": 0.875, "step": 336}, {"loss": 1.7471, "grad_norm": 0.15771359205245972, "learning_rate": 0.00019827060815210315, "epoch": 0.8776041666666666, "step": 337}, {"loss": 1.5606, "grad_norm": 0.1457524597644806, "learning_rate": 0.0001982653991405131, "epoch": 0.8802083333333334, "step": 338}, {"loss": 1.9658, "grad_norm": 0.1723167598247528, "learning_rate": 0.00019826019012892304, "epoch": 0.8828125, "step": 339}, {"loss": 1.5093, "grad_norm": 0.1846061497926712, "learning_rate": 0.000198254981117333, "epoch": 0.8854166666666666, "step": 340}, {"loss": 1.5462, "grad_norm": 0.18919461965560913, "learning_rate": 0.00019824977210574293, "epoch": 0.8880208333333334, "step": 341}, {"loss": 1.6331, "grad_norm": 0.3607290983200073, "learning_rate": 0.00019824456309415288, "epoch": 0.890625, "step": 342}, {"loss": 1.6493, "grad_norm": 0.14887075126171112, "learning_rate": 0.00019823935408256284, "epoch": 0.8932291666666666, "step": 343}, {"loss": 1.6874, "grad_norm": 0.24549193680286407, "learning_rate": 0.0001982341450709728, "epoch": 0.8958333333333334, "step": 344}, {"loss": 1.7658, "grad_norm": 0.1859651356935501, "learning_rate": 0.00019822893605938276, "epoch": 0.8984375, "step": 345}, {"loss": 1.6718, "grad_norm": 0.17492584884166718, "learning_rate": 0.0001982237270477927, "epoch": 0.9010416666666666, "step": 346}, {"loss": 1.4601, "grad_norm": 0.19812200963497162, "learning_rate": 0.00019821851803620264, "epoch": 0.9036458333333334, "step": 347}, {"loss": 1.9033, "grad_norm": 0.18973395228385925, "learning_rate": 0.0001982133090246126, "epoch": 0.90625, "step": 348}, {"loss": 1.4714, "grad_norm": 0.1705588698387146, "learning_rate": 0.00019820810001302256, "epoch": 0.9088541666666666, "step": 349}, {"loss": 1.4352, "grad_norm": 0.16624435782432556, "learning_rate": 0.0001982028910014325, "epoch": 0.9114583333333334, "step": 350}, {"loss": 1.5643, "grad_norm": 0.16717317700386047, "learning_rate": 0.00019819768198984242, "epoch": 0.9140625, "step": 351}, {"loss": 1.4003, "grad_norm": 0.15055236220359802, "learning_rate": 0.00019819247297825238, "epoch": 0.9166666666666666, "step": 352}, {"loss": 1.7156, "grad_norm": 0.1880367249250412, "learning_rate": 0.00019818726396666234, "epoch": 0.9192708333333334, "step": 353}, {"loss": 2.3225, "grad_norm": 0.3147433400154114, "learning_rate": 0.0001981820549550723, "epoch": 0.921875, "step": 354}, {"loss": 1.604, "grad_norm": 0.17802715301513672, "learning_rate": 0.00019817684594348222, "epoch": 0.9244791666666666, "step": 355}, {"loss": 1.8064, "grad_norm": 0.2037670910358429, "learning_rate": 0.00019817163693189218, "epoch": 0.9270833333333334, "step": 356}, {"loss": 2.0124, "grad_norm": 0.28521427512168884, "learning_rate": 0.00019816642792030214, "epoch": 0.9296875, "step": 357}, {"loss": 1.5868, "grad_norm": 0.18526659905910492, "learning_rate": 0.0001981612189087121, "epoch": 0.9322916666666666, "step": 358}, {"loss": 1.7755, "grad_norm": 0.18036861717700958, "learning_rate": 0.00019815600989712205, "epoch": 0.9348958333333334, "step": 359}, {"loss": 1.4222, "grad_norm": 0.18199430406093597, "learning_rate": 0.00019815080088553198, "epoch": 0.9375, "step": 360}, {"loss": 1.6817, "grad_norm": 0.17517398297786713, "learning_rate": 0.00019814559187394191, "epoch": 0.9401041666666666, "step": 361}, {"loss": 1.9959, "grad_norm": 0.1838306188583374, "learning_rate": 0.00019814038286235187, "epoch": 0.9427083333333334, "step": 362}, {"loss": 1.5771, "grad_norm": 0.19737888872623444, "learning_rate": 0.00019813517385076183, "epoch": 0.9453125, "step": 363}, {"loss": 1.426, "grad_norm": 0.1972692906856537, "learning_rate": 0.00019812996483917176, "epoch": 0.9479166666666666, "step": 364}, {"loss": 1.767, "grad_norm": 0.20426341891288757, "learning_rate": 0.00019812475582758172, "epoch": 0.9505208333333334, "step": 365}, {"loss": 1.6958, "grad_norm": 0.15892624855041504, "learning_rate": 0.00019811954681599168, "epoch": 0.953125, "step": 366}, {"loss": 1.8372, "grad_norm": 0.19248691201210022, "learning_rate": 0.00019811433780440163, "epoch": 0.9557291666666666, "step": 367}, {"loss": 1.5977, "grad_norm": 0.1701367348432541, "learning_rate": 0.0001981091287928116, "epoch": 0.9583333333333334, "step": 368}, {"loss": 1.624, "grad_norm": 0.16784264147281647, "learning_rate": 0.00019810391978122152, "epoch": 0.9609375, "step": 369}, {"loss": 1.4619, "grad_norm": 0.16413827240467072, "learning_rate": 0.00019809871076963148, "epoch": 0.9635416666666666, "step": 370}, {"loss": 1.8322, "grad_norm": 0.30069708824157715, "learning_rate": 0.0001980935017580414, "epoch": 0.9661458333333334, "step": 371}, {"loss": 2.1908, "grad_norm": 0.4103197157382965, "learning_rate": 0.00019808829274645137, "epoch": 0.96875, "step": 372}, {"loss": 1.9288, "grad_norm": 0.18728601932525635, "learning_rate": 0.00019808308373486132, "epoch": 0.9713541666666666, "step": 373}, {"loss": 2.3325, "grad_norm": 0.34209486842155457, "learning_rate": 0.00019807787472327125, "epoch": 0.9739583333333334, "step": 374}, {"loss": 1.6426, "grad_norm": 0.1939035952091217, "learning_rate": 0.0001980726657116812, "epoch": 0.9765625, "step": 375}, {"loss": 2.1469, "grad_norm": 0.3461856245994568, "learning_rate": 0.00019806745670009117, "epoch": 0.9791666666666666, "step": 376}, {"loss": 2.2071, "grad_norm": 0.28821873664855957, "learning_rate": 0.00019806224768850113, "epoch": 0.9817708333333334, "step": 377}, {"loss": 1.6279, "grad_norm": 0.18704669177532196, "learning_rate": 0.00019805703867691106, "epoch": 0.984375, "step": 378}, {"loss": 1.7271, "grad_norm": 0.25818315148353577, "learning_rate": 0.00019805182966532101, "epoch": 0.9869791666666666, "step": 379}, {"loss": 2.0992, "grad_norm": 0.4073614478111267, "learning_rate": 0.00019804662065373097, "epoch": 0.9895833333333334, "step": 380}, {"loss": 1.6913, "grad_norm": 0.2230866700410843, "learning_rate": 0.00019804141164214093, "epoch": 0.9921875, "step": 381}, {"loss": 1.6628, "grad_norm": 0.27041202783584595, "learning_rate": 0.00019803620263055086, "epoch": 0.9947916666666666, "step": 382}, {"loss": 2.1938, "grad_norm": 0.2579025626182556, "learning_rate": 0.0001980309936189608, "epoch": 0.9973958333333334, "step": 383}, {"loss": 2.2534, "grad_norm": 0.6387040019035339, "learning_rate": 0.00019802578460737075, "epoch": 1.0, "step": 384}, {"loss": 1.9628, "grad_norm": 0.17677640914916992, "learning_rate": 0.0001980205755957807, "epoch": 1.0026041666666667, "step": 385}, {"loss": 1.3933, "grad_norm": 0.18436454236507416, "learning_rate": 0.00019801536658419066, "epoch": 1.0052083333333333, "step": 386}, {"loss": 1.868, "grad_norm": 0.23510847985744476, "learning_rate": 0.00019801015757260062, "epoch": 1.0078125, "step": 387}, {"loss": 1.7161, "grad_norm": 0.16528452932834625, "learning_rate": 0.00019800494856101055, "epoch": 1.0104166666666667, "step": 388}, {"loss": 1.6443, "grad_norm": 0.24104757606983185, "learning_rate": 0.0001979997395494205, "epoch": 1.0130208333333333, "step": 389}, {"loss": 1.397, "grad_norm": 0.18231201171875, "learning_rate": 0.00019799453053783047, "epoch": 1.015625, "step": 390}, {"loss": 1.8156, "grad_norm": 0.20898869633674622, "learning_rate": 0.00019798932152624042, "epoch": 1.0182291666666667, "step": 391}, {"loss": 1.5276, "grad_norm": 0.16365838050842285, "learning_rate": 0.00019798411251465035, "epoch": 1.0208333333333333, "step": 392}, {"loss": 1.647, "grad_norm": 0.15669982135295868, "learning_rate": 0.00019797890350306028, "epoch": 1.0234375, "step": 393}, {"loss": 1.8599, "grad_norm": 0.2236388921737671, "learning_rate": 0.00019797369449147024, "epoch": 1.0260416666666667, "step": 394}, {"loss": 1.5538, "grad_norm": 0.18374812602996826, "learning_rate": 0.0001979684854798802, "epoch": 1.0286458333333333, "step": 395}, {"loss": 1.4475, "grad_norm": 0.1801915168762207, "learning_rate": 0.00019796327646829016, "epoch": 1.03125, "step": 396}, {"loss": 1.6696, "grad_norm": 0.20130252838134766, "learning_rate": 0.0001979580674567001, "epoch": 1.0338541666666667, "step": 397}, {"loss": 1.5579, "grad_norm": 0.18532609939575195, "learning_rate": 0.00019795285844511005, "epoch": 1.0364583333333333, "step": 398}, {"loss": 1.8588, "grad_norm": 0.2864433825016022, "learning_rate": 0.00019794764943352, "epoch": 1.0390625, "step": 399}, {"loss": 1.4728, "grad_norm": 0.21455471217632294, "learning_rate": 0.00019794244042192996, "epoch": 1.0416666666666667, "step": 400}, {"loss": 1.6835, "grad_norm": 0.2001861184835434, "learning_rate": 0.00019793723141033992, "epoch": 1.0442708333333333, "step": 401}, {"loss": 2.259, "grad_norm": 0.18727955222129822, "learning_rate": 0.00019793202239874985, "epoch": 1.046875, "step": 402}, {"loss": 1.9102, "grad_norm": 0.20274563133716583, "learning_rate": 0.0001979268133871598, "epoch": 1.0494791666666667, "step": 403}, {"loss": 1.5959, "grad_norm": 0.1893673539161682, "learning_rate": 0.00019792160437556974, "epoch": 1.0520833333333333, "step": 404}, {"loss": 1.4891, "grad_norm": 0.20291376113891602, "learning_rate": 0.0001979163953639797, "epoch": 1.0546875, "step": 405}, {"loss": 1.4919, "grad_norm": 0.17314869165420532, "learning_rate": 0.00019791118635238962, "epoch": 1.0572916666666667, "step": 406}, {"loss": 2.0788, "grad_norm": 0.24847052991390228, "learning_rate": 0.00019790597734079958, "epoch": 1.0598958333333333, "step": 407}, {"loss": 1.6398, "grad_norm": 0.23225918412208557, "learning_rate": 0.00019790076832920954, "epoch": 1.0625, "step": 408}, {"loss": 1.9065, "grad_norm": 0.18610940873622894, "learning_rate": 0.0001978955593176195, "epoch": 1.0651041666666667, "step": 409}, {"loss": 1.503, "grad_norm": 0.23321473598480225, "learning_rate": 0.00019789035030602945, "epoch": 1.0677083333333333, "step": 410}, {"loss": 1.513, "grad_norm": 0.1847982108592987, "learning_rate": 0.00019788514129443939, "epoch": 1.0703125, "step": 411}, {"loss": 1.7861, "grad_norm": 0.19217465817928314, "learning_rate": 0.00019787993228284934, "epoch": 1.0729166666666667, "step": 412}, {"loss": 1.5832, "grad_norm": 0.17313958704471588, "learning_rate": 0.0001978747232712593, "epoch": 1.0755208333333333, "step": 413}, {"loss": 1.1915, "grad_norm": 0.1703689694404602, "learning_rate": 0.00019786951425966923, "epoch": 1.078125, "step": 414}, {"loss": 1.7623, "grad_norm": 0.19253428280353546, "learning_rate": 0.0001978643052480792, "epoch": 1.0807291666666667, "step": 415}, {"loss": 1.4264, "grad_norm": 0.1789652407169342, "learning_rate": 0.00019785909623648912, "epoch": 1.0833333333333333, "step": 416}, {"loss": 1.4783, "grad_norm": 0.20697052776813507, "learning_rate": 0.00019785388722489908, "epoch": 1.0859375, "step": 417}, {"loss": 1.7297, "grad_norm": 0.20117251574993134, "learning_rate": 0.00019784867821330903, "epoch": 1.0885416666666667, "step": 418}, {"loss": 1.8266, "grad_norm": 0.2604065537452698, "learning_rate": 0.000197843469201719, "epoch": 1.0911458333333333, "step": 419}, {"loss": 2.0372, "grad_norm": 0.2057197093963623, "learning_rate": 0.00019783826019012895, "epoch": 1.09375, "step": 420}, {"loss": 1.4423, "grad_norm": 0.17062117159366608, "learning_rate": 0.00019783305117853888, "epoch": 1.0963541666666667, "step": 421}, {"loss": 1.5544, "grad_norm": 0.22517135739326477, "learning_rate": 0.00019782784216694884, "epoch": 1.0989583333333333, "step": 422}, {"loss": 1.8559, "grad_norm": 0.19468170404434204, "learning_rate": 0.0001978226331553588, "epoch": 1.1015625, "step": 423}, {"loss": 1.7164, "grad_norm": 0.19435736536979675, "learning_rate": 0.00019781742414376872, "epoch": 1.1041666666666667, "step": 424}, {"loss": 1.9656, "grad_norm": 0.23073868453502655, "learning_rate": 0.00019781221513217866, "epoch": 1.1067708333333333, "step": 425}, {"loss": 1.5299, "grad_norm": 0.1974986344575882, "learning_rate": 0.0001978070061205886, "epoch": 1.109375, "step": 426}, {"loss": 1.7905, "grad_norm": 0.19130419194698334, "learning_rate": 0.00019780179710899857, "epoch": 1.1119791666666667, "step": 427}, {"loss": 1.6795, "grad_norm": 0.2620265781879425, "learning_rate": 0.00019779658809740853, "epoch": 1.1145833333333333, "step": 428}, {"loss": 1.8984, "grad_norm": 0.2294587939977646, "learning_rate": 0.00019779137908581849, "epoch": 1.1171875, "step": 429}, {"loss": 1.7306, "grad_norm": 0.17683923244476318, "learning_rate": 0.00019778617007422842, "epoch": 1.1197916666666667, "step": 430}, {"loss": 1.8713, "grad_norm": 0.20987734198570251, "learning_rate": 0.00019778096106263837, "epoch": 1.1223958333333333, "step": 431}, {"loss": 1.6125, "grad_norm": 0.203195258975029, "learning_rate": 0.00019777575205104833, "epoch": 1.125, "step": 432}, {"loss": 1.8328, "grad_norm": 0.20097576081752777, "learning_rate": 0.0001977705430394583, "epoch": 1.1276041666666667, "step": 433}, {"loss": 1.9963, "grad_norm": 0.1939656138420105, "learning_rate": 0.00019776533402786822, "epoch": 1.1302083333333333, "step": 434}, {"loss": 1.3695, "grad_norm": 0.2523294687271118, "learning_rate": 0.00019776012501627818, "epoch": 1.1328125, "step": 435}, {"loss": 1.9367, "grad_norm": 0.1865067034959793, "learning_rate": 0.0001977549160046881, "epoch": 1.1354166666666667, "step": 436}, {"loss": 1.7714, "grad_norm": 0.19748955965042114, "learning_rate": 0.00019774970699309806, "epoch": 1.1380208333333333, "step": 437}, {"loss": 1.745, "grad_norm": 0.22544263303279877, "learning_rate": 0.00019774449798150802, "epoch": 1.140625, "step": 438}, {"loss": 1.7767, "grad_norm": 0.20470616221427917, "learning_rate": 0.00019773928896991795, "epoch": 1.1432291666666667, "step": 439}, {"loss": 1.5717, "grad_norm": 0.21946381032466888, "learning_rate": 0.0001977340799583279, "epoch": 1.1458333333333333, "step": 440}, {"loss": 1.6849, "grad_norm": 0.2526693046092987, "learning_rate": 0.00019772887094673787, "epoch": 1.1484375, "step": 441}, {"loss": 2.1343, "grad_norm": 0.19186516106128693, "learning_rate": 0.00019772366193514783, "epoch": 1.1510416666666667, "step": 442}, {"loss": 1.5841, "grad_norm": 0.19236162304878235, "learning_rate": 0.00019771845292355778, "epoch": 1.1536458333333333, "step": 443}, {"loss": 1.8138, "grad_norm": 0.23330843448638916, "learning_rate": 0.0001977132439119677, "epoch": 1.15625, "step": 444}, {"loss": 1.1514, "grad_norm": 0.21110448241233826, "learning_rate": 0.00019770803490037767, "epoch": 1.1588541666666667, "step": 445}, {"loss": 1.6201, "grad_norm": 0.20702168345451355, "learning_rate": 0.0001977028258887876, "epoch": 1.1614583333333333, "step": 446}, {"loss": 1.4785, "grad_norm": 0.19773812592029572, "learning_rate": 0.00019769761687719756, "epoch": 1.1640625, "step": 447}, {"loss": 1.8955, "grad_norm": 0.18718938529491425, "learning_rate": 0.00019769240786560752, "epoch": 1.1666666666666667, "step": 448}, {"loss": 1.6922, "grad_norm": 0.17770260572433472, "learning_rate": 0.00019768719885401745, "epoch": 1.1692708333333333, "step": 449}, {"loss": 1.4311, "grad_norm": 0.19876323640346527, "learning_rate": 0.0001976819898424274, "epoch": 1.171875, "step": 450}, {"loss": 1.9753, "grad_norm": 0.17595763504505157, "learning_rate": 0.00019767678083083736, "epoch": 1.1744791666666667, "step": 451}, {"loss": 1.7598, "grad_norm": 0.19406145811080933, "learning_rate": 0.00019767157181924732, "epoch": 1.1770833333333333, "step": 452}, {"loss": 1.703, "grad_norm": 0.1921912133693695, "learning_rate": 0.00019766636280765725, "epoch": 1.1796875, "step": 453}, {"loss": 1.6911, "grad_norm": 0.21572919189929962, "learning_rate": 0.0001976611537960672, "epoch": 1.1822916666666667, "step": 454}, {"loss": 1.7858, "grad_norm": 0.1813814342021942, "learning_rate": 0.00019765594478447716, "epoch": 1.1848958333333333, "step": 455}, {"loss": 2.0625, "grad_norm": 0.18311196565628052, "learning_rate": 0.0001976507357728871, "epoch": 1.1875, "step": 456}, {"loss": 1.4715, "grad_norm": 0.21529513597488403, "learning_rate": 0.00019764552676129705, "epoch": 1.1901041666666667, "step": 457}, {"loss": 1.3555, "grad_norm": 0.24650269746780396, "learning_rate": 0.00019764031774970698, "epoch": 1.1927083333333333, "step": 458}, {"loss": 1.7281, "grad_norm": 0.21076004207134247, "learning_rate": 0.00019763510873811694, "epoch": 1.1953125, "step": 459}, {"loss": 1.4908, "grad_norm": 0.20324547588825226, "learning_rate": 0.0001976298997265269, "epoch": 1.1979166666666667, "step": 460}, {"loss": 1.7832, "grad_norm": 0.22154219448566437, "learning_rate": 0.00019762469071493686, "epoch": 1.2005208333333333, "step": 461}, {"loss": 2.1436, "grad_norm": 0.18126019835472107, "learning_rate": 0.00019761948170334681, "epoch": 1.203125, "step": 462}, {"loss": 1.77, "grad_norm": 0.21713706851005554, "learning_rate": 0.00019761427269175674, "epoch": 1.2057291666666667, "step": 463}, {"loss": 1.4891, "grad_norm": 0.20310725271701813, "learning_rate": 0.0001976090636801667, "epoch": 1.2083333333333333, "step": 464}, {"loss": 1.7719, "grad_norm": 0.27376094460487366, "learning_rate": 0.00019760385466857666, "epoch": 1.2109375, "step": 465}, {"loss": 1.4215, "grad_norm": 0.19083863496780396, "learning_rate": 0.0001975986456569866, "epoch": 1.2135416666666667, "step": 466}, {"loss": 1.7329, "grad_norm": 0.21465852856636047, "learning_rate": 0.00019759343664539655, "epoch": 1.2161458333333333, "step": 467}, {"loss": 1.6748, "grad_norm": 0.19400037825107574, "learning_rate": 0.00019758822763380648, "epoch": 1.21875, "step": 468}, {"loss": 1.6665, "grad_norm": 0.23292064666748047, "learning_rate": 0.00019758301862221644, "epoch": 1.2213541666666667, "step": 469}, {"loss": 1.5362, "grad_norm": 0.20635953545570374, "learning_rate": 0.0001975778096106264, "epoch": 1.2239583333333333, "step": 470}, {"loss": 1.4084, "grad_norm": 0.2478582262992859, "learning_rate": 0.00019757260059903635, "epoch": 1.2265625, "step": 471}, {"loss": 1.9038, "grad_norm": 0.267753928899765, "learning_rate": 0.00019756739158744628, "epoch": 1.2291666666666667, "step": 472}, {"loss": 1.3942, "grad_norm": 0.262805700302124, "learning_rate": 0.00019756218257585624, "epoch": 1.2317708333333333, "step": 473}, {"loss": 1.5341, "grad_norm": 0.17973962426185608, "learning_rate": 0.0001975569735642662, "epoch": 1.234375, "step": 474}, {"loss": 1.7813, "grad_norm": 0.21089735627174377, "learning_rate": 0.00019755176455267615, "epoch": 1.2369791666666667, "step": 475}, {"loss": 1.4162, "grad_norm": 0.22050198912620544, "learning_rate": 0.0001975465555410861, "epoch": 1.2395833333333333, "step": 476}, {"loss": 1.9239, "grad_norm": 0.22612737119197845, "learning_rate": 0.00019754134652949604, "epoch": 1.2421875, "step": 477}, {"loss": 1.445, "grad_norm": 0.19783835113048553, "learning_rate": 0.00019753613751790597, "epoch": 1.2447916666666667, "step": 478}, {"loss": 1.5451, "grad_norm": 0.17997777462005615, "learning_rate": 0.00019753092850631593, "epoch": 1.2473958333333333, "step": 479}, {"loss": 1.6154, "grad_norm": 0.19832634925842285, "learning_rate": 0.0001975257194947259, "epoch": 1.25, "step": 480}, {"loss": 1.4729, "grad_norm": 0.2451292723417282, "learning_rate": 0.00019752051048313584, "epoch": 1.2526041666666667, "step": 481}, {"loss": 1.4186, "grad_norm": 0.1796855926513672, "learning_rate": 0.00019751530147154577, "epoch": 1.2552083333333333, "step": 482}, {"loss": 1.6296, "grad_norm": 0.236619770526886, "learning_rate": 0.00019751009245995573, "epoch": 1.2578125, "step": 483}, {"loss": 1.388, "grad_norm": 0.376996785402298, "learning_rate": 0.0001975048834483657, "epoch": 1.2604166666666667, "step": 484}, {"loss": 1.7212, "grad_norm": 0.2799226939678192, "learning_rate": 0.00019749967443677565, "epoch": 1.2630208333333333, "step": 485}, {"loss": 1.5877, "grad_norm": 0.2104276716709137, "learning_rate": 0.00019749446542518558, "epoch": 1.265625, "step": 486}, {"loss": 2.2369, "grad_norm": 0.19021204113960266, "learning_rate": 0.00019748925641359554, "epoch": 1.2682291666666667, "step": 487}, {"loss": 1.3273, "grad_norm": 0.18028584122657776, "learning_rate": 0.00019748404740200547, "epoch": 1.2708333333333333, "step": 488}, {"loss": 1.4303, "grad_norm": 0.18431316316127777, "learning_rate": 0.00019747883839041542, "epoch": 1.2734375, "step": 489}, {"loss": 1.669, "grad_norm": 0.2201138287782669, "learning_rate": 0.00019747362937882538, "epoch": 1.2760416666666667, "step": 490}, {"loss": 1.6129, "grad_norm": 0.2080654799938202, "learning_rate": 0.0001974684203672353, "epoch": 1.2786458333333333, "step": 491}, {"loss": 1.3568, "grad_norm": 0.17797955870628357, "learning_rate": 0.00019746321135564527, "epoch": 1.28125, "step": 492}, {"loss": 1.6558, "grad_norm": 0.2239779531955719, "learning_rate": 0.00019745800234405523, "epoch": 1.2838541666666667, "step": 493}, {"loss": 1.5382, "grad_norm": 0.2372768074274063, "learning_rate": 0.00019745279333246518, "epoch": 1.2864583333333333, "step": 494}, {"loss": 1.2798, "grad_norm": 0.2187909632921219, "learning_rate": 0.00019744758432087514, "epoch": 1.2890625, "step": 495}, {"loss": 1.8903, "grad_norm": 0.22537443041801453, "learning_rate": 0.00019744237530928507, "epoch": 1.2916666666666667, "step": 496}, {"loss": 2.1013, "grad_norm": 0.20288479328155518, "learning_rate": 0.00019743716629769503, "epoch": 1.2942708333333333, "step": 497}, {"loss": 1.3023, "grad_norm": 0.2155495285987854, "learning_rate": 0.000197431957286105, "epoch": 1.296875, "step": 498}, {"loss": 1.5272, "grad_norm": 0.2552364766597748, "learning_rate": 0.00019742674827451492, "epoch": 1.2994791666666667, "step": 499}, {"loss": 1.4313, "grad_norm": 0.2269999086856842, "learning_rate": 0.00019742153926292485, "epoch": 1.3020833333333333, "step": 500}, {"loss": 1.8484, "grad_norm": 0.24353820085525513, "learning_rate": 0.0001974163302513348, "epoch": 1.3046875, "step": 501}, {"loss": 1.6072, "grad_norm": 0.24214735627174377, "learning_rate": 0.00019741112123974476, "epoch": 1.3072916666666667, "step": 502}, {"loss": 1.9194, "grad_norm": 0.2229517102241516, "learning_rate": 0.00019740591222815472, "epoch": 1.3098958333333333, "step": 503}, {"loss": 1.4842, "grad_norm": 0.2141568511724472, "learning_rate": 0.00019740070321656468, "epoch": 1.3125, "step": 504}, {"loss": 1.588, "grad_norm": 0.21876536309719086, "learning_rate": 0.0001973954942049746, "epoch": 1.3151041666666667, "step": 505}, {"loss": 1.7201, "grad_norm": 0.20260988175868988, "learning_rate": 0.00019739028519338457, "epoch": 1.3177083333333333, "step": 506}, {"loss": 2.1306, "grad_norm": 0.4960586130619049, "learning_rate": 0.00019738507618179452, "epoch": 1.3203125, "step": 507}, {"loss": 2.1752, "grad_norm": 0.22805793583393097, "learning_rate": 0.00019737986717020448, "epoch": 1.3229166666666667, "step": 508}, {"loss": 1.5569, "grad_norm": 0.22274315357208252, "learning_rate": 0.0001973746581586144, "epoch": 1.3255208333333333, "step": 509}, {"loss": 1.5995, "grad_norm": 0.2136906385421753, "learning_rate": 0.00019736944914702434, "epoch": 1.328125, "step": 510}, {"loss": 2.0642, "grad_norm": 0.3196399211883545, "learning_rate": 0.0001973642401354343, "epoch": 1.3307291666666667, "step": 511}, {"loss": 1.5247, "grad_norm": 0.21840493381023407, "learning_rate": 0.00019735903112384426, "epoch": 1.3333333333333333, "step": 512}, {"loss": 1.8778, "grad_norm": 0.24279674887657166, "learning_rate": 0.00019735382211225421, "epoch": 1.3359375, "step": 513}, {"loss": 1.6566, "grad_norm": 0.17606733739376068, "learning_rate": 0.00019734861310066415, "epoch": 1.3385416666666667, "step": 514}, {"loss": 1.7233, "grad_norm": 0.24906879663467407, "learning_rate": 0.0001973434040890741, "epoch": 1.3411458333333333, "step": 515}, {"loss": 1.972, "grad_norm": 0.2503169775009155, "learning_rate": 0.00019733819507748406, "epoch": 1.34375, "step": 516}, {"loss": 1.4759, "grad_norm": 0.1931810826063156, "learning_rate": 0.00019733298606589402, "epoch": 1.3463541666666667, "step": 517}, {"loss": 1.6962, "grad_norm": 0.23388677835464478, "learning_rate": 0.00019732777705430398, "epoch": 1.3489583333333333, "step": 518}, {"loss": 1.7381, "grad_norm": 0.23819759488105774, "learning_rate": 0.0001973225680427139, "epoch": 1.3515625, "step": 519}, {"loss": 1.4499, "grad_norm": 0.23183628916740417, "learning_rate": 0.00019731735903112384, "epoch": 1.3541666666666667, "step": 520}, {"loss": 1.7269, "grad_norm": 0.19977021217346191, "learning_rate": 0.0001973121500195338, "epoch": 1.3567708333333333, "step": 521}, {"loss": 1.5587, "grad_norm": 0.19326472282409668, "learning_rate": 0.00019730694100794375, "epoch": 1.359375, "step": 522}, {"loss": 1.4241, "grad_norm": 0.6780625581741333, "learning_rate": 0.0001973017319963537, "epoch": 1.3619791666666667, "step": 523}, {"loss": 1.5706, "grad_norm": 0.19486574828624725, "learning_rate": 0.00019729652298476364, "epoch": 1.3645833333333333, "step": 524}, {"loss": 1.0818, "grad_norm": 0.1850827932357788, "learning_rate": 0.0001972913139731736, "epoch": 1.3671875, "step": 525}, {"loss": 1.4599, "grad_norm": 0.2669578492641449, "learning_rate": 0.00019728610496158355, "epoch": 1.3697916666666667, "step": 526}, {"loss": 1.6299, "grad_norm": 0.3402825891971588, "learning_rate": 0.0001972808959499935, "epoch": 1.3723958333333333, "step": 527}, {"loss": 1.5252, "grad_norm": 0.3285070061683655, "learning_rate": 0.00019727568693840344, "epoch": 1.375, "step": 528}, {"loss": 1.9557, "grad_norm": 0.23843829333782196, "learning_rate": 0.0001972704779268134, "epoch": 1.3776041666666667, "step": 529}, {"loss": 1.4984, "grad_norm": 0.1995997428894043, "learning_rate": 0.00019726526891522336, "epoch": 1.3802083333333333, "step": 530}, {"loss": 2.0552, "grad_norm": 0.1809753030538559, "learning_rate": 0.0001972600599036333, "epoch": 1.3828125, "step": 531}, {"loss": 1.633, "grad_norm": 0.24589568376541138, "learning_rate": 0.00019725485089204325, "epoch": 1.3854166666666667, "step": 532}, {"loss": 1.5125, "grad_norm": 0.17821519076824188, "learning_rate": 0.00019724964188045318, "epoch": 1.3880208333333333, "step": 533}, {"loss": 1.742, "grad_norm": 0.23385290801525116, "learning_rate": 0.00019724443286886313, "epoch": 1.390625, "step": 534}, {"loss": 1.7686, "grad_norm": 0.21773822605609894, "learning_rate": 0.0001972392238572731, "epoch": 1.3932291666666667, "step": 535}, {"loss": 1.5503, "grad_norm": 0.26371142268180847, "learning_rate": 0.00019723401484568305, "epoch": 1.3958333333333333, "step": 536}, {"loss": 2.0903, "grad_norm": 0.20921552181243896, "learning_rate": 0.000197228805834093, "epoch": 1.3984375, "step": 537}, {"loss": 1.5406, "grad_norm": 0.23432189226150513, "learning_rate": 0.00019722359682250294, "epoch": 1.4010416666666667, "step": 538}, {"loss": 1.8675, "grad_norm": 0.2511506676673889, "learning_rate": 0.0001972183878109129, "epoch": 1.4036458333333333, "step": 539}, {"loss": 1.2246, "grad_norm": 0.2415437400341034, "learning_rate": 0.00019721317879932285, "epoch": 1.40625, "step": 540}, {"loss": 1.7599, "grad_norm": 0.23264218866825104, "learning_rate": 0.00019720796978773278, "epoch": 1.4088541666666667, "step": 541}, {"loss": 1.911, "grad_norm": 0.19526293873786926, "learning_rate": 0.0001972027607761427, "epoch": 1.4114583333333333, "step": 542}, {"loss": 2.1572, "grad_norm": 0.2067226767539978, "learning_rate": 0.00019719755176455267, "epoch": 1.4140625, "step": 543}, {"loss": 1.8954, "grad_norm": 0.1977415531873703, "learning_rate": 0.00019719234275296263, "epoch": 1.4166666666666667, "step": 544}, {"loss": 1.8707, "grad_norm": 0.24770112335681915, "learning_rate": 0.00019718713374137259, "epoch": 1.4192708333333333, "step": 545}, {"loss": 1.5289, "grad_norm": 0.3189946711063385, "learning_rate": 0.00019718192472978254, "epoch": 1.421875, "step": 546}, {"loss": 1.4776, "grad_norm": 0.19267019629478455, "learning_rate": 0.00019717671571819247, "epoch": 1.4244791666666667, "step": 547}, {"loss": 1.8753, "grad_norm": 0.2552880644798279, "learning_rate": 0.00019717150670660243, "epoch": 1.4270833333333333, "step": 548}, {"loss": 1.3901, "grad_norm": 0.19714204967021942, "learning_rate": 0.0001971662976950124, "epoch": 1.4296875, "step": 549}, {"loss": 1.6185, "grad_norm": 0.1948261708021164, "learning_rate": 0.00019716108868342235, "epoch": 1.4322916666666667, "step": 550}, {"loss": 1.5637, "grad_norm": 0.24608395993709564, "learning_rate": 0.00019715587967183228, "epoch": 1.4348958333333333, "step": 551}, {"loss": 1.3251, "grad_norm": 0.21654589474201202, "learning_rate": 0.00019715067066024223, "epoch": 1.4375, "step": 552}, {"loss": 1.3467, "grad_norm": 0.20844890177249908, "learning_rate": 0.00019714546164865216, "epoch": 1.4401041666666667, "step": 553}, {"loss": 1.5474, "grad_norm": 0.18226145207881927, "learning_rate": 0.00019714025263706212, "epoch": 1.4427083333333333, "step": 554}, {"loss": 2.0723, "grad_norm": 0.3797951936721802, "learning_rate": 0.00019713504362547208, "epoch": 1.4453125, "step": 555}, {"loss": 1.9809, "grad_norm": 0.21812565624713898, "learning_rate": 0.00019712983461388204, "epoch": 1.4479166666666667, "step": 556}, {"loss": 2.0348, "grad_norm": 0.21037358045578003, "learning_rate": 0.00019712462560229197, "epoch": 1.4505208333333333, "step": 557}, {"loss": 1.6662, "grad_norm": 0.20565930008888245, "learning_rate": 0.00019711941659070192, "epoch": 1.453125, "step": 558}, {"loss": 1.9655, "grad_norm": 0.22551566362380981, "learning_rate": 0.00019711420757911188, "epoch": 1.4557291666666667, "step": 559}, {"loss": 1.6418, "grad_norm": 0.23158113658428192, "learning_rate": 0.00019710899856752184, "epoch": 1.4583333333333333, "step": 560}, {"loss": 1.9032, "grad_norm": 0.23884804546833038, "learning_rate": 0.00019710378955593177, "epoch": 1.4609375, "step": 561}, {"loss": 1.6388, "grad_norm": 0.5011759996414185, "learning_rate": 0.00019709858054434173, "epoch": 1.4635416666666667, "step": 562}, {"loss": 1.6246, "grad_norm": 0.19976133108139038, "learning_rate": 0.00019709337153275166, "epoch": 1.4661458333333333, "step": 563}, {"loss": 1.7082, "grad_norm": 0.19733592867851257, "learning_rate": 0.00019708816252116162, "epoch": 1.46875, "step": 564}, {"loss": 1.7897, "grad_norm": 0.19681474566459656, "learning_rate": 0.00019708295350957157, "epoch": 1.4713541666666667, "step": 565}, {"loss": 1.4743, "grad_norm": 0.24613961577415466, "learning_rate": 0.0001970777444979815, "epoch": 1.4739583333333333, "step": 566}, {"loss": 1.3742, "grad_norm": 0.21049480140209198, "learning_rate": 0.00019707253548639146, "epoch": 1.4765625, "step": 567}, {"loss": 1.4519, "grad_norm": 0.2703453004360199, "learning_rate": 0.00019706732647480142, "epoch": 1.4791666666666667, "step": 568}, {"loss": 1.8464, "grad_norm": 0.22765730321407318, "learning_rate": 0.00019706211746321138, "epoch": 1.4817708333333333, "step": 569}, {"loss": 1.6331, "grad_norm": 0.2460634559392929, "learning_rate": 0.00019705690845162133, "epoch": 1.484375, "step": 570}, {"loss": 1.489, "grad_norm": 0.2088126689195633, "learning_rate": 0.00019705169944003126, "epoch": 1.4869791666666667, "step": 571}, {"loss": 1.8873, "grad_norm": 0.2189074605703354, "learning_rate": 0.00019704649042844122, "epoch": 1.4895833333333333, "step": 572}, {"loss": 1.7506, "grad_norm": 0.20111866295337677, "learning_rate": 0.00019704128141685115, "epoch": 1.4921875, "step": 573}, {"loss": 1.5827, "grad_norm": 0.21846981346607208, "learning_rate": 0.0001970360724052611, "epoch": 1.4947916666666667, "step": 574}, {"loss": 1.3597, "grad_norm": 0.266336053609848, "learning_rate": 0.00019703086339367104, "epoch": 1.4973958333333333, "step": 575}, {"loss": 1.4569, "grad_norm": 0.19570834934711456, "learning_rate": 0.000197025654382081, "epoch": 1.5, "step": 576}, {"loss": 1.939, "grad_norm": 0.19035542011260986, "learning_rate": 0.00019702044537049096, "epoch": 1.5026041666666665, "step": 577}, {"loss": 2.0617, "grad_norm": 0.2624360918998718, "learning_rate": 0.0001970152363589009, "epoch": 1.5052083333333335, "step": 578}, {"loss": 1.8875, "grad_norm": 0.21822644770145416, "learning_rate": 0.00019701002734731087, "epoch": 1.5078125, "step": 579}, {"loss": 1.4175, "grad_norm": 0.23064903914928436, "learning_rate": 0.0001970048183357208, "epoch": 1.5104166666666665, "step": 580}, {"loss": 1.5281, "grad_norm": 0.21425417065620422, "learning_rate": 0.00019699960932413076, "epoch": 1.5130208333333335, "step": 581}, {"loss": 2.0085, "grad_norm": 0.25260278582572937, "learning_rate": 0.00019699440031254072, "epoch": 1.515625, "step": 582}, {"loss": 1.8038, "grad_norm": 0.2775271236896515, "learning_rate": 0.00019698919130095065, "epoch": 1.5182291666666665, "step": 583}, {"loss": 1.7569, "grad_norm": 0.19213491678237915, "learning_rate": 0.0001969839822893606, "epoch": 1.5208333333333335, "step": 584}, {"loss": 1.4351, "grad_norm": 0.208835631608963, "learning_rate": 0.00019697877327777053, "epoch": 1.5234375, "step": 585}, {"loss": 2.1052, "grad_norm": 0.2690599858760834, "learning_rate": 0.0001969735642661805, "epoch": 1.5260416666666665, "step": 586}, {"loss": 1.3105, "grad_norm": 0.20142139494419098, "learning_rate": 0.00019696835525459045, "epoch": 1.5286458333333335, "step": 587}, {"loss": 1.4219, "grad_norm": 0.2251177579164505, "learning_rate": 0.0001969631462430004, "epoch": 1.53125, "step": 588}, {"loss": 1.5132, "grad_norm": 0.20932990312576294, "learning_rate": 0.00019695793723141034, "epoch": 1.5338541666666665, "step": 589}, {"loss": 1.4756, "grad_norm": 0.2060340940952301, "learning_rate": 0.0001969527282198203, "epoch": 1.5364583333333335, "step": 590}, {"loss": 1.889, "grad_norm": 0.8278302550315857, "learning_rate": 0.00019694751920823025, "epoch": 1.5390625, "step": 591}, {"loss": 1.7403, "grad_norm": 0.2246895134449005, "learning_rate": 0.0001969423101966402, "epoch": 1.5416666666666665, "step": 592}, {"loss": 1.8215, "grad_norm": 0.20279091596603394, "learning_rate": 0.00019693710118505017, "epoch": 1.5442708333333335, "step": 593}, {"loss": 1.7931, "grad_norm": 0.1970899999141693, "learning_rate": 0.0001969318921734601, "epoch": 1.546875, "step": 594}, {"loss": 1.8647, "grad_norm": 0.2175721973180771, "learning_rate": 0.00019692668316187003, "epoch": 1.5494791666666665, "step": 595}, {"loss": 1.4006, "grad_norm": 0.22883036732673645, "learning_rate": 0.00019692147415027999, "epoch": 1.5520833333333335, "step": 596}, {"loss": 1.5342, "grad_norm": 0.21315501630306244, "learning_rate": 0.00019691626513868994, "epoch": 1.5546875, "step": 597}, {"loss": 1.6864, "grad_norm": 0.23541055619716644, "learning_rate": 0.0001969110561270999, "epoch": 1.5572916666666665, "step": 598}, {"loss": 1.5829, "grad_norm": 0.2333812415599823, "learning_rate": 0.00019690584711550983, "epoch": 1.5598958333333335, "step": 599}, {"loss": 1.5987, "grad_norm": 0.2840915620326996, "learning_rate": 0.0001969006381039198, "epoch": 1.5625, "step": 600}, {"loss": 1.9107, "grad_norm": 0.221592977643013, "learning_rate": 0.00019689542909232975, "epoch": 1.5651041666666665, "step": 601}, {"loss": 1.5349, "grad_norm": 0.22337530553340912, "learning_rate": 0.0001968902200807397, "epoch": 1.5677083333333335, "step": 602}, {"loss": 1.4227, "grad_norm": 0.22281286120414734, "learning_rate": 0.00019688501106914963, "epoch": 1.5703125, "step": 603}, {"loss": 2.3539, "grad_norm": 0.2255794256925583, "learning_rate": 0.0001968798020575596, "epoch": 1.5729166666666665, "step": 604}, {"loss": 1.1109, "grad_norm": 0.23270437121391296, "learning_rate": 0.00019687459304596952, "epoch": 1.5755208333333335, "step": 605}, {"loss": 1.8193, "grad_norm": 0.21492554247379303, "learning_rate": 0.00019686938403437948, "epoch": 1.578125, "step": 606}, {"loss": 1.5992, "grad_norm": 0.2322354018688202, "learning_rate": 0.00019686417502278944, "epoch": 1.5807291666666665, "step": 607}, {"loss": 1.3316, "grad_norm": 0.2073436826467514, "learning_rate": 0.00019685896601119937, "epoch": 1.5833333333333335, "step": 608}, {"loss": 1.7406, "grad_norm": 0.2825815677642822, "learning_rate": 0.00019685375699960933, "epoch": 1.5859375, "step": 609}, {"loss": 1.5273, "grad_norm": 0.1942806988954544, "learning_rate": 0.00019684854798801928, "epoch": 1.5885416666666665, "step": 610}, {"loss": 1.458, "grad_norm": 0.2088315188884735, "learning_rate": 0.00019684333897642924, "epoch": 1.5911458333333335, "step": 611}, {"loss": 1.7767, "grad_norm": 0.22962839901447296, "learning_rate": 0.0001968381299648392, "epoch": 1.59375, "step": 612}, {"loss": 1.7931, "grad_norm": 0.2507725954055786, "learning_rate": 0.00019683292095324913, "epoch": 1.5963541666666665, "step": 613}, {"loss": 1.7008, "grad_norm": 0.2381768822669983, "learning_rate": 0.0001968277119416591, "epoch": 1.5989583333333335, "step": 614}, {"loss": 1.6659, "grad_norm": 0.299838662147522, "learning_rate": 0.00019682250293006902, "epoch": 1.6015625, "step": 615}, {"loss": 1.4128, "grad_norm": 0.23821134865283966, "learning_rate": 0.00019681729391847897, "epoch": 1.6041666666666665, "step": 616}, {"loss": 1.5186, "grad_norm": 0.25275442004203796, "learning_rate": 0.00019681208490688893, "epoch": 1.6067708333333335, "step": 617}, {"loss": 1.7786, "grad_norm": 0.20934100449085236, "learning_rate": 0.00019680687589529886, "epoch": 1.609375, "step": 618}, {"loss": 1.3801, "grad_norm": 0.24132007360458374, "learning_rate": 0.00019680166688370882, "epoch": 1.6119791666666665, "step": 619}, {"loss": 1.7106, "grad_norm": 0.21554552018642426, "learning_rate": 0.00019679645787211878, "epoch": 1.6145833333333335, "step": 620}, {"loss": 1.5805, "grad_norm": 0.24645625054836273, "learning_rate": 0.00019679124886052874, "epoch": 1.6171875, "step": 621}, {"loss": 1.4099, "grad_norm": 0.2389867752790451, "learning_rate": 0.00019678603984893867, "epoch": 1.6197916666666665, "step": 622}, {"loss": 1.6608, "grad_norm": 0.2803191840648651, "learning_rate": 0.00019678083083734862, "epoch": 1.6223958333333335, "step": 623}, {"loss": 2.0211, "grad_norm": 0.2702397406101227, "learning_rate": 0.00019677562182575858, "epoch": 1.625, "step": 624}, {"loss": 1.4526, "grad_norm": 0.20949111878871918, "learning_rate": 0.00019677041281416854, "epoch": 1.6276041666666665, "step": 625}, {"loss": 1.5338, "grad_norm": 0.22012589871883392, "learning_rate": 0.00019676520380257847, "epoch": 1.6302083333333335, "step": 626}, {"loss": 1.7536, "grad_norm": 0.20756784081459045, "learning_rate": 0.0001967599947909884, "epoch": 1.6328125, "step": 627}, {"loss": 1.8268, "grad_norm": 0.20995378494262695, "learning_rate": 0.00019675478577939836, "epoch": 1.6354166666666665, "step": 628}, {"loss": 1.5345, "grad_norm": 0.22230541706085205, "learning_rate": 0.00019674957676780831, "epoch": 1.6380208333333335, "step": 629}, {"loss": 1.5542, "grad_norm": 0.3400875926017761, "learning_rate": 0.00019674436775621827, "epoch": 1.640625, "step": 630}, {"loss": 1.4543, "grad_norm": 0.19819071888923645, "learning_rate": 0.00019673915874462823, "epoch": 1.6432291666666665, "step": 631}, {"loss": 1.5453, "grad_norm": 0.22676073014736176, "learning_rate": 0.00019673394973303816, "epoch": 1.6458333333333335, "step": 632}, {"loss": 1.7034, "grad_norm": 0.2294328361749649, "learning_rate": 0.00019672874072144812, "epoch": 1.6484375, "step": 633}, {"loss": 1.4331, "grad_norm": 0.19542625546455383, "learning_rate": 0.00019672353170985807, "epoch": 1.6510416666666665, "step": 634}, {"loss": 1.8547, "grad_norm": 0.20121799409389496, "learning_rate": 0.00019671832269826803, "epoch": 1.6536458333333335, "step": 635}, {"loss": 1.752, "grad_norm": 0.21267737448215485, "learning_rate": 0.00019671311368667796, "epoch": 1.65625, "step": 636}, {"loss": 1.8618, "grad_norm": 0.3469865620136261, "learning_rate": 0.0001967079046750879, "epoch": 1.6588541666666665, "step": 637}, {"loss": 2.2594, "grad_norm": 0.2525447607040405, "learning_rate": 0.00019670269566349785, "epoch": 1.6614583333333335, "step": 638}, {"loss": 1.7024, "grad_norm": 0.2653847634792328, "learning_rate": 0.0001966974866519078, "epoch": 1.6640625, "step": 639}, {"loss": 1.5483, "grad_norm": 0.2679235637187958, "learning_rate": 0.00019669227764031777, "epoch": 1.6666666666666665, "step": 640}, {"loss": 1.5028, "grad_norm": 0.23890642821788788, "learning_rate": 0.0001966870686287277, "epoch": 1.6692708333333335, "step": 641}, {"loss": 2.3038, "grad_norm": 0.3979758024215698, "learning_rate": 0.00019668185961713765, "epoch": 1.671875, "step": 642}, {"loss": 1.9616, "grad_norm": 0.22274824976921082, "learning_rate": 0.0001966766506055476, "epoch": 1.6744791666666665, "step": 643}, {"loss": 1.8519, "grad_norm": 0.212931826710701, "learning_rate": 0.00019667144159395757, "epoch": 1.6770833333333335, "step": 644}, {"loss": 1.8013, "grad_norm": 0.27225515246391296, "learning_rate": 0.00019666623258236753, "epoch": 1.6796875, "step": 645}, {"loss": 1.343, "grad_norm": 0.2857150733470917, "learning_rate": 0.00019666102357077746, "epoch": 1.6822916666666665, "step": 646}, {"loss": 1.5128, "grad_norm": 0.21683253347873688, "learning_rate": 0.00019665581455918741, "epoch": 1.6848958333333335, "step": 647}, {"loss": 1.5701, "grad_norm": 0.23205165565013885, "learning_rate": 0.00019665060554759735, "epoch": 1.6875, "step": 648}, {"loss": 1.3752, "grad_norm": 0.2133129984140396, "learning_rate": 0.0001966453965360073, "epoch": 1.6901041666666665, "step": 649}, {"loss": 1.4721, "grad_norm": 0.22294937074184418, "learning_rate": 0.00019664018752441723, "epoch": 1.6927083333333335, "step": 650}, {"loss": 1.6439, "grad_norm": 0.23749759793281555, "learning_rate": 0.0001966349785128272, "epoch": 1.6953125, "step": 651}, {"loss": 1.5524, "grad_norm": 0.19632898271083832, "learning_rate": 0.00019662976950123715, "epoch": 1.6979166666666665, "step": 652}, {"loss": 1.8288, "grad_norm": 0.2279706746339798, "learning_rate": 0.0001966245604896471, "epoch": 1.7005208333333335, "step": 653}, {"loss": 1.7602, "grad_norm": 0.2070547342300415, "learning_rate": 0.00019661935147805706, "epoch": 1.703125, "step": 654}, {"loss": 1.8506, "grad_norm": 0.22847196459770203, "learning_rate": 0.000196614142466467, "epoch": 1.7057291666666665, "step": 655}, {"loss": 1.6879, "grad_norm": 0.2113310843706131, "learning_rate": 0.00019660893345487695, "epoch": 1.7083333333333335, "step": 656}, {"loss": 1.9291, "grad_norm": 0.25840920209884644, "learning_rate": 0.0001966037244432869, "epoch": 1.7109375, "step": 657}, {"loss": 1.4523, "grad_norm": 0.20173071324825287, "learning_rate": 0.00019659851543169684, "epoch": 1.7135416666666665, "step": 658}, {"loss": 1.9118, "grad_norm": 0.19374807178974152, "learning_rate": 0.0001965933064201068, "epoch": 1.7161458333333335, "step": 659}, {"loss": 1.6861, "grad_norm": 0.5464913249015808, "learning_rate": 0.00019658809740851673, "epoch": 1.71875, "step": 660}, {"loss": 2.3014, "grad_norm": 0.20238551497459412, "learning_rate": 0.00019658288839692668, "epoch": 1.7213541666666665, "step": 661}, {"loss": 1.8154, "grad_norm": 0.22678618133068085, "learning_rate": 0.00019657767938533664, "epoch": 1.7239583333333335, "step": 662}, {"loss": 1.4244, "grad_norm": 0.3947334885597229, "learning_rate": 0.0001965724703737466, "epoch": 1.7265625, "step": 663}, {"loss": 1.5057, "grad_norm": 0.2038583606481552, "learning_rate": 0.00019656726136215653, "epoch": 1.7291666666666665, "step": 664}, {"loss": 2.044, "grad_norm": 0.22971326112747192, "learning_rate": 0.0001965620523505665, "epoch": 1.7317708333333335, "step": 665}, {"loss": 1.4219, "grad_norm": 0.19581083953380585, "learning_rate": 0.00019655684333897645, "epoch": 1.734375, "step": 666}, {"loss": 1.8331, "grad_norm": 0.24239911139011383, "learning_rate": 0.0001965516343273864, "epoch": 1.7369791666666665, "step": 667}, {"loss": 1.6003, "grad_norm": 0.23400503396987915, "learning_rate": 0.00019654642531579633, "epoch": 1.7395833333333335, "step": 668}, {"loss": 2.3369, "grad_norm": 0.21256181597709656, "learning_rate": 0.00019654121630420626, "epoch": 1.7421875, "step": 669}, {"loss": 1.6033, "grad_norm": 0.23120957612991333, "learning_rate": 0.00019653600729261622, "epoch": 1.7447916666666665, "step": 670}, {"loss": 1.608, "grad_norm": 0.2098633050918579, "learning_rate": 0.00019653079828102618, "epoch": 1.7473958333333335, "step": 671}, {"loss": 1.8775, "grad_norm": 0.20128366351127625, "learning_rate": 0.00019652558926943614, "epoch": 1.75, "step": 672}, {"loss": 1.8585, "grad_norm": 0.20806288719177246, "learning_rate": 0.0001965203802578461, "epoch": 1.7526041666666665, "step": 673}, {"loss": 1.4756, "grad_norm": 0.2177697867155075, "learning_rate": 0.00019651517124625602, "epoch": 1.7552083333333335, "step": 674}, {"loss": 1.7236, "grad_norm": 0.1803404688835144, "learning_rate": 0.00019650996223466598, "epoch": 1.7578125, "step": 675}, {"loss": 1.3966, "grad_norm": 0.19485722482204437, "learning_rate": 0.00019650475322307594, "epoch": 1.7604166666666665, "step": 676}, {"loss": 1.4464, "grad_norm": 0.22015653550624847, "learning_rate": 0.0001964995442114859, "epoch": 1.7630208333333335, "step": 677}, {"loss": 1.3205, "grad_norm": 0.22986510396003723, "learning_rate": 0.00019649433519989583, "epoch": 1.765625, "step": 678}, {"loss": 1.5727, "grad_norm": 0.19889645278453827, "learning_rate": 0.00019648912618830579, "epoch": 1.7682291666666665, "step": 679}, {"loss": 1.8273, "grad_norm": 0.22885870933532715, "learning_rate": 0.00019648391717671572, "epoch": 1.7708333333333335, "step": 680}, {"loss": 1.8992, "grad_norm": 0.26350900530815125, "learning_rate": 0.00019647870816512567, "epoch": 1.7734375, "step": 681}, {"loss": 2.1767, "grad_norm": 0.24861447513103485, "learning_rate": 0.00019647349915353563, "epoch": 1.7760416666666665, "step": 682}, {"loss": 1.5146, "grad_norm": 0.3901791274547577, "learning_rate": 0.00019646829014194556, "epoch": 1.7786458333333335, "step": 683}, {"loss": 1.7922, "grad_norm": 0.2132345288991928, "learning_rate": 0.00019646308113035552, "epoch": 1.78125, "step": 684}, {"loss": 1.5419, "grad_norm": 0.26548731327056885, "learning_rate": 0.00019645787211876548, "epoch": 1.7838541666666665, "step": 685}, {"loss": 1.5442, "grad_norm": 0.2286853939294815, "learning_rate": 0.00019645266310717543, "epoch": 1.7864583333333335, "step": 686}, {"loss": 1.4416, "grad_norm": 0.22399252653121948, "learning_rate": 0.0001964474540955854, "epoch": 1.7890625, "step": 687}, {"loss": 1.9914, "grad_norm": 0.26035594940185547, "learning_rate": 0.00019644224508399532, "epoch": 1.7916666666666665, "step": 688}, {"loss": 1.5469, "grad_norm": 0.2729261517524719, "learning_rate": 0.00019643703607240528, "epoch": 1.7942708333333335, "step": 689}, {"loss": 1.9233, "grad_norm": 0.21279220283031464, "learning_rate": 0.0001964318270608152, "epoch": 1.796875, "step": 690}, {"loss": 1.6326, "grad_norm": 0.22670188546180725, "learning_rate": 0.00019642661804922517, "epoch": 1.7994791666666665, "step": 691}, {"loss": 1.49, "grad_norm": 0.227143332362175, "learning_rate": 0.00019642140903763512, "epoch": 1.8020833333333335, "step": 692}, {"loss": 1.5631, "grad_norm": 0.22619234025478363, "learning_rate": 0.00019641620002604506, "epoch": 1.8046875, "step": 693}, {"loss": 1.3106, "grad_norm": 0.22065314650535583, "learning_rate": 0.000196410991014455, "epoch": 1.8072916666666665, "step": 694}, {"loss": 1.6729, "grad_norm": 0.21577893197536469, "learning_rate": 0.00019640578200286497, "epoch": 1.8098958333333335, "step": 695}, {"loss": 1.464, "grad_norm": 0.21651434898376465, "learning_rate": 0.00019640057299127493, "epoch": 1.8125, "step": 696}, {"loss": 1.2489, "grad_norm": 0.15982484817504883, "learning_rate": 0.00019639536397968486, "epoch": 1.8151041666666665, "step": 697}, {"loss": 1.4939, "grad_norm": 0.3329360783100128, "learning_rate": 0.00019639015496809482, "epoch": 1.8177083333333335, "step": 698}, {"loss": 2.1839, "grad_norm": 0.27073127031326294, "learning_rate": 0.00019638494595650477, "epoch": 1.8203125, "step": 699}, {"loss": 1.4703, "grad_norm": 0.19157475233078003, "learning_rate": 0.0001963797369449147, "epoch": 1.8229166666666665, "step": 700}, {"loss": 1.8594, "grad_norm": 0.19021619856357574, "learning_rate": 0.00019637452793332466, "epoch": 1.8255208333333335, "step": 701}, {"loss": 1.5989, "grad_norm": 0.19720715284347534, "learning_rate": 0.0001963693189217346, "epoch": 1.828125, "step": 702}, {"loss": 1.4459, "grad_norm": 0.19791927933692932, "learning_rate": 0.00019636410991014455, "epoch": 1.8307291666666665, "step": 703}, {"loss": 1.7604, "grad_norm": 0.20565757155418396, "learning_rate": 0.0001963589008985545, "epoch": 1.8333333333333335, "step": 704}, {"loss": 1.6724, "grad_norm": 0.2504289150238037, "learning_rate": 0.00019635369188696446, "epoch": 1.8359375, "step": 705}, {"loss": 1.8859, "grad_norm": 0.2601977288722992, "learning_rate": 0.00019634848287537442, "epoch": 1.8385416666666665, "step": 706}, {"loss": 1.44, "grad_norm": 0.21740080416202545, "learning_rate": 0.00019634327386378435, "epoch": 1.8411458333333335, "step": 707}, {"loss": 1.7347, "grad_norm": 0.27820128202438354, "learning_rate": 0.0001963380648521943, "epoch": 1.84375, "step": 708}, {"loss": 1.6706, "grad_norm": 0.269931823015213, "learning_rate": 0.00019633285584060427, "epoch": 1.8463541666666665, "step": 709}, {"loss": 1.3709, "grad_norm": 0.31452298164367676, "learning_rate": 0.0001963276468290142, "epoch": 1.8489583333333335, "step": 710}, {"loss": 1.4486, "grad_norm": 0.4868893623352051, "learning_rate": 0.00019632243781742416, "epoch": 1.8515625, "step": 711}, {"loss": 1.2751, "grad_norm": 0.21340437233448029, "learning_rate": 0.00019631722880583409, "epoch": 1.8541666666666665, "step": 712}, {"loss": 1.9133, "grad_norm": 0.27519112825393677, "learning_rate": 0.00019631201979424404, "epoch": 1.8567708333333335, "step": 713}, {"loss": 1.588, "grad_norm": 0.21419858932495117, "learning_rate": 0.000196306810782654, "epoch": 1.859375, "step": 714}, {"loss": 1.4955, "grad_norm": 0.22292138636112213, "learning_rate": 0.00019630160177106396, "epoch": 1.8619791666666665, "step": 715}, {"loss": 1.573, "grad_norm": 0.2438986450433731, "learning_rate": 0.0001962963927594739, "epoch": 1.8645833333333335, "step": 716}, {"loss": 1.5087, "grad_norm": 0.25063180923461914, "learning_rate": 0.00019629118374788385, "epoch": 1.8671875, "step": 717}, {"loss": 1.482, "grad_norm": 0.23310697078704834, "learning_rate": 0.0001962859747362938, "epoch": 1.8697916666666665, "step": 718}, {"loss": 1.4985, "grad_norm": 0.22641561925411224, "learning_rate": 0.00019628076572470376, "epoch": 1.8723958333333335, "step": 719}, {"loss": 1.4733, "grad_norm": 0.23583893477916718, "learning_rate": 0.00019627555671311372, "epoch": 1.875, "step": 720}, {"loss": 1.5088, "grad_norm": 0.25347042083740234, "learning_rate": 0.00019627034770152365, "epoch": 1.8776041666666665, "step": 721}, {"loss": 1.9218, "grad_norm": 0.2704903483390808, "learning_rate": 0.00019626513868993358, "epoch": 1.8802083333333335, "step": 722}, {"loss": 1.4193, "grad_norm": 0.19416765868663788, "learning_rate": 0.00019625992967834354, "epoch": 1.8828125, "step": 723}, {"loss": 2.0487, "grad_norm": 0.27568548917770386, "learning_rate": 0.0001962547206667535, "epoch": 1.8854166666666665, "step": 724}, {"loss": 1.5964, "grad_norm": 0.20826086401939392, "learning_rate": 0.00019624951165516343, "epoch": 1.8880208333333335, "step": 725}, {"loss": 1.5063, "grad_norm": 0.33571600914001465, "learning_rate": 0.00019624430264357338, "epoch": 1.890625, "step": 726}, {"loss": 1.4662, "grad_norm": 0.19091379642486572, "learning_rate": 0.00019623909363198334, "epoch": 1.8932291666666665, "step": 727}, {"loss": 1.5298, "grad_norm": 0.19729681313037872, "learning_rate": 0.0001962338846203933, "epoch": 1.8958333333333335, "step": 728}, {"loss": 1.2031, "grad_norm": 0.2214406430721283, "learning_rate": 0.00019622867560880326, "epoch": 1.8984375, "step": 729}, {"loss": 1.8656, "grad_norm": 0.2826177477836609, "learning_rate": 0.00019622346659721319, "epoch": 1.9010416666666665, "step": 730}, {"loss": 1.477, "grad_norm": 0.26614031195640564, "learning_rate": 0.00019621825758562314, "epoch": 1.9036458333333335, "step": 731}, {"loss": 1.5426, "grad_norm": 0.21813973784446716, "learning_rate": 0.00019621304857403307, "epoch": 1.90625, "step": 732}, {"loss": 1.3136, "grad_norm": 0.22187015414237976, "learning_rate": 0.00019620783956244303, "epoch": 1.9088541666666665, "step": 733}, {"loss": 1.7925, "grad_norm": 0.2703000009059906, "learning_rate": 0.000196202630550853, "epoch": 1.9114583333333335, "step": 734}, {"loss": 1.6323, "grad_norm": 0.26474809646606445, "learning_rate": 0.00019619742153926292, "epoch": 1.9140625, "step": 735}, {"loss": 1.4563, "grad_norm": 0.20762373507022858, "learning_rate": 0.00019619221252767288, "epoch": 1.9166666666666665, "step": 736}, {"loss": 1.8574, "grad_norm": 0.21727018058300018, "learning_rate": 0.00019618700351608283, "epoch": 1.9192708333333335, "step": 737}, {"loss": 1.463, "grad_norm": 0.21999122202396393, "learning_rate": 0.0001961817945044928, "epoch": 1.921875, "step": 738}, {"loss": 1.8254, "grad_norm": 0.4308628439903259, "learning_rate": 0.00019617658549290272, "epoch": 1.9244791666666665, "step": 739}, {"loss": 1.7914, "grad_norm": 0.31539520621299744, "learning_rate": 0.00019617137648131268, "epoch": 1.9270833333333335, "step": 740}, {"loss": 1.54, "grad_norm": 0.21213798224925995, "learning_rate": 0.00019616616746972264, "epoch": 1.9296875, "step": 741}, {"loss": 2.0064, "grad_norm": 0.2746050953865051, "learning_rate": 0.0001961609584581326, "epoch": 1.9322916666666665, "step": 742}, {"loss": 1.5774, "grad_norm": 0.21720673143863678, "learning_rate": 0.00019615574944654253, "epoch": 1.9348958333333335, "step": 743}, {"loss": 1.6816, "grad_norm": 0.2551572620868683, "learning_rate": 0.00019615054043495246, "epoch": 1.9375, "step": 744}, {"loss": 1.4478, "grad_norm": 0.217757910490036, "learning_rate": 0.00019614533142336241, "epoch": 1.9401041666666665, "step": 745}, {"loss": 1.7602, "grad_norm": 0.28360381722450256, "learning_rate": 0.00019614012241177237, "epoch": 1.9427083333333335, "step": 746}, {"loss": 1.4358, "grad_norm": 0.28004828095436096, "learning_rate": 0.00019613491340018233, "epoch": 1.9453125, "step": 747}, {"loss": 1.5325, "grad_norm": 0.2510424852371216, "learning_rate": 0.0001961297043885923, "epoch": 1.9479166666666665, "step": 748}, {"loss": 1.6777, "grad_norm": 0.22109486162662506, "learning_rate": 0.00019612449537700222, "epoch": 1.9505208333333335, "step": 749}, {"loss": 1.5215, "grad_norm": 0.2449205368757248, "learning_rate": 0.00019611928636541217, "epoch": 1.953125, "step": 750}, {"loss": 1.6471, "grad_norm": 0.21348918974399567, "learning_rate": 0.00019611407735382213, "epoch": 1.9557291666666665, "step": 751}, {"loss": 1.5085, "grad_norm": 0.28309810161590576, "learning_rate": 0.0001961088683422321, "epoch": 1.9583333333333335, "step": 752}, {"loss": 1.5628, "grad_norm": 0.2037128210067749, "learning_rate": 0.00019610365933064202, "epoch": 1.9609375, "step": 753}, {"loss": 1.2588, "grad_norm": 0.20071348547935486, "learning_rate": 0.00019609845031905195, "epoch": 1.9635416666666665, "step": 754}, {"loss": 2.2943, "grad_norm": 0.2457573562860489, "learning_rate": 0.0001960932413074619, "epoch": 1.9661458333333335, "step": 755}, {"loss": 1.5168, "grad_norm": 0.2506321966648102, "learning_rate": 0.00019608803229587187, "epoch": 1.96875, "step": 756}, {"loss": 1.5149, "grad_norm": 0.22324231266975403, "learning_rate": 0.00019608282328428182, "epoch": 1.9713541666666665, "step": 757}, {"loss": 1.5055, "grad_norm": 0.2511994540691376, "learning_rate": 0.00019607761427269175, "epoch": 1.9739583333333335, "step": 758}, {"loss": 1.6266, "grad_norm": 0.21582479774951935, "learning_rate": 0.0001960724052611017, "epoch": 1.9765625, "step": 759}, {"loss": 1.8899, "grad_norm": 0.21706268191337585, "learning_rate": 0.00019606719624951167, "epoch": 1.9791666666666665, "step": 760}, {"loss": 1.7946, "grad_norm": 0.21249155700206757, "learning_rate": 0.00019606198723792163, "epoch": 1.9817708333333335, "step": 761}, {"loss": 1.8551, "grad_norm": 0.2287805676460266, "learning_rate": 0.00019605677822633158, "epoch": 1.984375, "step": 762}, {"loss": 1.6752, "grad_norm": 0.274666965007782, "learning_rate": 0.00019605156921474151, "epoch": 1.9869791666666665, "step": 763}, {"loss": 2.1088, "grad_norm": 0.1952797770500183, "learning_rate": 0.00019604636020315144, "epoch": 1.9895833333333335, "step": 764}, {"loss": 1.5337, "grad_norm": 0.2033766210079193, "learning_rate": 0.0001960411511915614, "epoch": 1.9921875, "step": 765}, {"loss": 1.5544, "grad_norm": 0.2289329469203949, "learning_rate": 0.00019603594217997136, "epoch": 1.9947916666666665, "step": 766}, {"loss": 1.3206, "grad_norm": 0.4432726502418518, "learning_rate": 0.00019603073316838132, "epoch": 1.9973958333333335, "step": 767}, {"loss": 1.8184, "grad_norm": 0.2502188980579376, "learning_rate": 0.00019602552415679125, "epoch": 2.0, "step": 768}], "best_metric": null, "best_model_checkpoint": null, "is_local_process_zero": true, "is_world_process_zero": true, "is_hyper_param_search": false, "trial_name": null, "trial_params": null, "stateful_callbacks": {"TrainerControl": {"args": {"should_training_stop": false, "should_epoch_stop": false, "should_save": true, "should_evaluate": false, "should_log": false}, "attributes": {}}}} (Trained with Unsloth)
7913bd7 verified