titanthree commited on
Commit
7543c99
·
verified ·
1 Parent(s): e77c443

Add checkpoint-11200

Browse files
checkpoints/checkpoint-11200/adapter_model.safetensors CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:33181192265ddb018675cce4ff0394c4745c28f62ed05859981bb2691fa55209
3
  size 4724960
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:66784a67a5984edb149f03db4ce5d207ce126c69cbc87032c24fccd8bb56563a
3
  size 4724960
checkpoints/checkpoint-11200/optimizer.pt CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:8b22cc0170067d26011169d82830aeb78faf1f63e506cee5d85c540e0f4dccda
3
  size 2578187
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:536dcda99fcf7fb164cf62fcf6aa9b683d609a71e5deaea9a88a98e100e9d705
3
  size 2578187
checkpoints/checkpoint-11200/trainer_state.json CHANGED
@@ -7431,422 +7431,422 @@
7431
  },
7432
  {
7433
  "epoch": 1.5146507726899605,
7434
- "grad_norm": 1.098069429397583,
7435
  "learning_rate": 9.913830040466556e-05,
7436
- "loss": 2.008710479736328,
7437
  "step": 10610
7438
  },
7439
  {
7440
  "epoch": 1.5160783753881295,
7441
- "grad_norm": 1.5518226623535156,
7442
  "learning_rate": 9.904308497976673e-05,
7443
- "loss": 2.1474123001098633,
7444
  "step": 10620
7445
  },
7446
  {
7447
  "epoch": 1.5175059780862985,
7448
- "grad_norm": 1.2088004350662231,
7449
  "learning_rate": 9.894786955486789e-05,
7450
- "loss": 2.0725215911865233,
7451
  "step": 10630
7452
  },
7453
  {
7454
  "epoch": 1.5189335807844677,
7455
- "grad_norm": 1.0846376419067383,
7456
  "learning_rate": 9.885265412996906e-05,
7457
- "loss": 2.015618896484375,
7458
  "step": 10640
7459
  },
7460
  {
7461
  "epoch": 1.520361183482637,
7462
- "grad_norm": 1.201206088066101,
7463
  "learning_rate": 9.875743870507023e-05,
7464
- "loss": 2.106952667236328,
7465
  "step": 10650
7466
  },
7467
  {
7468
  "epoch": 1.521788786180806,
7469
- "grad_norm": 1.0636956691741943,
7470
  "learning_rate": 9.86622232801714e-05,
7471
- "loss": 2.0599929809570314,
7472
  "step": 10660
7473
  },
7474
  {
7475
  "epoch": 1.523216388878975,
7476
- "grad_norm": 1.1827208995819092,
7477
  "learning_rate": 9.856700785527256e-05,
7478
- "loss": 2.2304359436035157,
7479
  "step": 10670
7480
  },
7481
  {
7482
  "epoch": 1.5246439915771441,
7483
- "grad_norm": 1.2152652740478516,
7484
  "learning_rate": 9.847179243037372e-05,
7485
- "loss": 2.083365631103516,
7486
  "step": 10680
7487
  },
7488
  {
7489
  "epoch": 1.5260715942753131,
7490
- "grad_norm": 1.0766453742980957,
7491
  "learning_rate": 9.837657700547489e-05,
7492
- "loss": 2.119212341308594,
7493
  "step": 10690
7494
  },
7495
  {
7496
  "epoch": 1.5274991969734821,
7497
- "grad_norm": 1.2730481624603271,
7498
  "learning_rate": 9.828136158057606e-05,
7499
- "loss": 2.1518115997314453,
7500
  "step": 10700
7501
  },
7502
  {
7503
  "epoch": 1.5289267996716513,
7504
- "grad_norm": 1.97091805934906,
7505
  "learning_rate": 9.818614615567723e-05,
7506
- "loss": 1.9795692443847657,
7507
  "step": 10710
7508
  },
7509
  {
7510
  "epoch": 1.5303544023698206,
7511
- "grad_norm": 1.3302141427993774,
7512
  "learning_rate": 9.809093073077838e-05,
7513
- "loss": 1.9785017013549804,
7514
  "step": 10720
7515
  },
7516
  {
7517
  "epoch": 1.5317820050679896,
7518
- "grad_norm": 1.2388334274291992,
7519
  "learning_rate": 9.799571530587955e-05,
7520
- "loss": 2.134817695617676,
7521
  "step": 10730
7522
  },
7523
  {
7524
  "epoch": 1.5332096077661586,
7525
- "grad_norm": 1.4161068201065063,
7526
  "learning_rate": 9.790049988098072e-05,
7527
- "loss": 1.9905515670776368,
7528
  "step": 10740
7529
  },
7530
  {
7531
  "epoch": 1.5346372104643278,
7532
- "grad_norm": 1.2048768997192383,
7533
  "learning_rate": 9.780528445608189e-05,
7534
- "loss": 2.0450416564941407,
7535
  "step": 10750
7536
  },
7537
  {
7538
  "epoch": 1.536064813162497,
7539
- "grad_norm": 1.3425582647323608,
7540
  "learning_rate": 9.771006903118306e-05,
7541
- "loss": 1.923790740966797,
7542
  "step": 10760
7543
  },
7544
  {
7545
  "epoch": 1.537492415860666,
7546
- "grad_norm": 1.2138093709945679,
7547
  "learning_rate": 9.761485360628421e-05,
7548
- "loss": 2.0516876220703124,
7549
  "step": 10770
7550
  },
7551
  {
7552
  "epoch": 1.538920018558835,
7553
- "grad_norm": 1.098336100578308,
7554
  "learning_rate": 9.751963818138538e-05,
7555
- "loss": 1.9940862655639648,
7556
  "step": 10780
7557
  },
7558
  {
7559
  "epoch": 1.5403476212570042,
7560
- "grad_norm": 1.2795876264572144,
7561
  "learning_rate": 9.742442275648655e-05,
7562
- "loss": 2.000428581237793,
7563
  "step": 10790
7564
  },
7565
  {
7566
  "epoch": 1.5417752239551734,
7567
- "grad_norm": 1.0763850212097168,
7568
  "learning_rate": 9.732920733158772e-05,
7569
- "loss": 1.9592803955078124,
7570
  "step": 10800
7571
  },
7572
  {
7573
  "epoch": 1.5432028266533424,
7574
- "grad_norm": 1.1885327100753784,
7575
  "learning_rate": 9.723399190668889e-05,
7576
- "loss": 1.9911989212036132,
7577
  "step": 10810
7578
  },
7579
  {
7580
  "epoch": 1.5446304293515114,
7581
- "grad_norm": 1.2224466800689697,
7582
  "learning_rate": 9.713877648179006e-05,
7583
- "loss": 2.0401016235351563,
7584
  "step": 10820
7585
  },
7586
  {
7587
  "epoch": 1.5460580320496806,
7588
- "grad_norm": 1.1554738283157349,
7589
  "learning_rate": 9.704356105689123e-05,
7590
- "loss": 2.036018180847168,
7591
  "step": 10830
7592
  },
7593
  {
7594
  "epoch": 1.5474856347478498,
7595
- "grad_norm": 1.1402208805084229,
7596
  "learning_rate": 9.694834563199238e-05,
7597
- "loss": 2.0756540298461914,
7598
  "step": 10840
7599
  },
7600
  {
7601
  "epoch": 1.5489132374460186,
7602
- "grad_norm": 1.1714133024215698,
7603
  "learning_rate": 9.685313020709355e-05,
7604
- "loss": 2.0774347305297853,
7605
  "step": 10850
7606
  },
7607
  {
7608
  "epoch": 1.5503408401441878,
7609
- "grad_norm": 1.3246486186981201,
7610
  "learning_rate": 9.675791478219472e-05,
7611
- "loss": 2.141210174560547,
7612
  "step": 10860
7613
  },
7614
  {
7615
  "epoch": 1.551768442842357,
7616
- "grad_norm": 1.1436152458190918,
7617
  "learning_rate": 9.666269935729589e-05,
7618
- "loss": 2.2358598709106445,
7619
  "step": 10870
7620
  },
7621
  {
7622
  "epoch": 1.553196045540526,
7623
- "grad_norm": 1.4468668699264526,
7624
  "learning_rate": 9.656748393239706e-05,
7625
- "loss": 2.168443298339844,
7626
  "step": 10880
7627
  },
7628
  {
7629
  "epoch": 1.554623648238695,
7630
- "grad_norm": 1.4564536809921265,
7631
  "learning_rate": 9.647226850749823e-05,
7632
- "loss": 2.087565612792969,
7633
  "step": 10890
7634
  },
7635
  {
7636
  "epoch": 1.5560512509368642,
7637
- "grad_norm": 1.234102487564087,
7638
  "learning_rate": 9.63770530825994e-05,
7639
- "loss": 2.0447998046875,
7640
  "step": 10900
7641
  },
7642
  {
7643
  "epoch": 1.5574788536350335,
7644
- "grad_norm": 1.1943862438201904,
7645
  "learning_rate": 9.628183765770056e-05,
7646
- "loss": 1.9503068923950195,
7647
  "step": 10910
7648
  },
7649
  {
7650
  "epoch": 1.5589064563332025,
7651
- "grad_norm": 1.2671523094177246,
7652
  "learning_rate": 9.618662223280172e-05,
7653
- "loss": 1.9227149963378907,
7654
  "step": 10920
7655
  },
7656
  {
7657
  "epoch": 1.5603340590313715,
7658
- "grad_norm": 1.057041049003601,
7659
  "learning_rate": 9.609140680790289e-05,
7660
- "loss": 2.067658233642578,
7661
  "step": 10930
7662
  },
7663
  {
7664
  "epoch": 1.5617616617295407,
7665
- "grad_norm": 1.0804142951965332,
7666
  "learning_rate": 9.599619138300406e-05,
7667
- "loss": 2.1086441040039063,
7668
  "step": 10940
7669
  },
7670
  {
7671
  "epoch": 1.56318926442771,
7672
- "grad_norm": 0.9749084115028381,
7673
  "learning_rate": 9.590097595810523e-05,
7674
- "loss": 2.0530927658081053,
7675
  "step": 10950
7676
  },
7677
  {
7678
  "epoch": 1.5646168671258789,
7679
- "grad_norm": 1.1373926401138306,
7680
  "learning_rate": 9.580576053320638e-05,
7681
- "loss": 2.195412254333496,
7682
  "step": 10960
7683
  },
7684
  {
7685
  "epoch": 1.5660444698240479,
7686
- "grad_norm": 1.4987021684646606,
7687
  "learning_rate": 9.571054510830755e-05,
7688
- "loss": 1.9444866180419922,
7689
  "step": 10970
7690
  },
7691
  {
7692
  "epoch": 1.567472072522217,
7693
- "grad_norm": 1.005608081817627,
7694
  "learning_rate": 9.561532968340872e-05,
7695
- "loss": 2.1251079559326174,
7696
  "step": 10980
7697
  },
7698
  {
7699
  "epoch": 1.5688996752203863,
7700
- "grad_norm": 1.2665334939956665,
7701
  "learning_rate": 9.552011425850989e-05,
7702
- "loss": 1.9724187850952148,
7703
  "step": 10990
7704
  },
7705
  {
7706
  "epoch": 1.5703272779185553,
7707
- "grad_norm": 1.7481650114059448,
7708
  "learning_rate": 9.542489883361106e-05,
7709
  "loss": 2.0439002990722654,
7710
  "step": 11000
7711
  },
7712
  {
7713
  "epoch": 1.5717548806167243,
7714
- "grad_norm": 1.3757065534591675,
7715
  "learning_rate": 9.532968340871221e-05,
7716
- "loss": 2.13690299987793,
7717
  "step": 11010
7718
  },
7719
  {
7720
  "epoch": 1.5731824833148935,
7721
- "grad_norm": 1.0686981678009033,
7722
  "learning_rate": 9.523446798381338e-05,
7723
- "loss": 2.0076725006103517,
7724
  "step": 11020
7725
  },
7726
  {
7727
  "epoch": 1.5746100860130625,
7728
- "grad_norm": 1.4125736951828003,
7729
  "learning_rate": 9.513925255891455e-05,
7730
- "loss": 2.0957643508911135,
7731
  "step": 11030
7732
  },
7733
  {
7734
  "epoch": 1.5760376887112315,
7735
- "grad_norm": 1.2688685655593872,
7736
  "learning_rate": 9.504403713401572e-05,
7737
- "loss": 2.185018539428711,
7738
  "step": 11040
7739
  },
7740
  {
7741
  "epoch": 1.5774652914094007,
7742
- "grad_norm": 1.1199735403060913,
7743
  "learning_rate": 9.494882170911689e-05,
7744
- "loss": 2.0660390853881836,
7745
  "step": 11050
7746
  },
7747
  {
7748
  "epoch": 1.57889289410757,
7749
- "grad_norm": 1.2410614490509033,
7750
  "learning_rate": 9.485360628421804e-05,
7751
- "loss": 1.9966764450073242,
7752
  "step": 11060
7753
  },
7754
  {
7755
  "epoch": 1.580320496805739,
7756
- "grad_norm": 1.160320520401001,
7757
  "learning_rate": 9.475839085931921e-05,
7758
- "loss": 1.9303186416625977,
7759
  "step": 11070
7760
  },
7761
  {
7762
  "epoch": 1.581748099503908,
7763
- "grad_norm": 1.2862969636917114,
7764
  "learning_rate": 9.466317543442038e-05,
7765
- "loss": 1.8376413345336915,
7766
  "step": 11080
7767
  },
7768
  {
7769
  "epoch": 1.5831757022020772,
7770
- "grad_norm": 1.3544589281082153,
7771
  "learning_rate": 9.456796000952155e-05,
7772
- "loss": 2.001028060913086,
7773
  "step": 11090
7774
  },
7775
  {
7776
  "epoch": 1.5846033049002464,
7777
- "grad_norm": 1.2006914615631104,
7778
  "learning_rate": 9.447274458462272e-05,
7779
- "loss": 2.006683921813965,
7780
  "step": 11100
7781
  },
7782
  {
7783
  "epoch": 1.5860309075984154,
7784
- "grad_norm": 1.1594748497009277,
7785
  "learning_rate": 9.437752915972387e-05,
7786
- "loss": 2.008784294128418,
7787
  "step": 11110
7788
  },
7789
  {
7790
  "epoch": 1.5874585102965844,
7791
- "grad_norm": 1.259328842163086,
7792
  "learning_rate": 9.428231373482504e-05,
7793
- "loss": 1.977517318725586,
7794
  "step": 11120
7795
  },
7796
  {
7797
  "epoch": 1.5888861129947536,
7798
- "grad_norm": 1.238774061203003,
7799
  "learning_rate": 9.418709830992621e-05,
7800
- "loss": 2.0367507934570312,
7801
  "step": 11130
7802
  },
7803
  {
7804
  "epoch": 1.5903137156929228,
7805
- "grad_norm": 1.1448348760604858,
7806
  "learning_rate": 9.409188288502738e-05,
7807
- "loss": 2.0270627975463866,
7808
  "step": 11140
7809
  },
7810
  {
7811
  "epoch": 1.5917413183910918,
7812
- "grad_norm": 1.091199278831482,
7813
  "learning_rate": 9.399666746012853e-05,
7814
- "loss": 2.1191539764404297,
7815
  "step": 11150
7816
  },
7817
  {
7818
  "epoch": 1.5931689210892608,
7819
- "grad_norm": 1.136646032333374,
7820
  "learning_rate": 9.39014520352297e-05,
7821
- "loss": 2.0415071487426757,
7822
  "step": 11160
7823
  },
7824
  {
7825
  "epoch": 1.59459652378743,
7826
- "grad_norm": 1.2094829082489014,
7827
  "learning_rate": 9.380623661033087e-05,
7828
- "loss": 1.9333257675170898,
7829
  "step": 11170
7830
  },
7831
  {
7832
  "epoch": 1.5960241264855992,
7833
- "grad_norm": 1.2323769330978394,
7834
  "learning_rate": 9.371102118543204e-05,
7835
- "loss": 2.212533950805664,
7836
  "step": 11180
7837
  },
7838
  {
7839
  "epoch": 1.5974517291837682,
7840
- "grad_norm": 1.2837002277374268,
7841
  "learning_rate": 9.361580576053321e-05,
7842
- "loss": 2.067727470397949,
7843
  "step": 11190
7844
  },
7845
  {
7846
  "epoch": 1.5988793318819372,
7847
- "grad_norm": 1.3468828201293945,
7848
  "learning_rate": 9.352059033563438e-05,
7849
- "loss": 1.9625717163085938,
7850
  "step": 11200
7851
  }
7852
  ],
 
7431
  },
7432
  {
7433
  "epoch": 1.5146507726899605,
7434
+ "grad_norm": 1.0981698036193848,
7435
  "learning_rate": 9.913830040466556e-05,
7436
+ "loss": 2.0087039947509764,
7437
  "step": 10610
7438
  },
7439
  {
7440
  "epoch": 1.5160783753881295,
7441
+ "grad_norm": 1.5510938167572021,
7442
  "learning_rate": 9.904308497976673e-05,
7443
+ "loss": 2.1474151611328125,
7444
  "step": 10620
7445
  },
7446
  {
7447
  "epoch": 1.5175059780862985,
7448
+ "grad_norm": 1.2088773250579834,
7449
  "learning_rate": 9.894786955486789e-05,
7450
+ "loss": 2.072478103637695,
7451
  "step": 10630
7452
  },
7453
  {
7454
  "epoch": 1.5189335807844677,
7455
+ "grad_norm": 1.0845247507095337,
7456
  "learning_rate": 9.885265412996906e-05,
7457
+ "loss": 2.015526008605957,
7458
  "step": 10640
7459
  },
7460
  {
7461
  "epoch": 1.520361183482637,
7462
+ "grad_norm": 1.2015031576156616,
7463
  "learning_rate": 9.875743870507023e-05,
7464
+ "loss": 2.1070165634155273,
7465
  "step": 10650
7466
  },
7467
  {
7468
  "epoch": 1.521788786180806,
7469
+ "grad_norm": 1.062964677810669,
7470
  "learning_rate": 9.86622232801714e-05,
7471
+ "loss": 2.0601083755493166,
7472
  "step": 10660
7473
  },
7474
  {
7475
  "epoch": 1.523216388878975,
7476
+ "grad_norm": 1.1827353239059448,
7477
  "learning_rate": 9.856700785527256e-05,
7478
+ "loss": 2.230342674255371,
7479
  "step": 10670
7480
  },
7481
  {
7482
  "epoch": 1.5246439915771441,
7483
+ "grad_norm": 1.2147736549377441,
7484
  "learning_rate": 9.847179243037372e-05,
7485
+ "loss": 2.083346366882324,
7486
  "step": 10680
7487
  },
7488
  {
7489
  "epoch": 1.5260715942753131,
7490
+ "grad_norm": 1.0761597156524658,
7491
  "learning_rate": 9.837657700547489e-05,
7492
+ "loss": 2.1192899703979493,
7493
  "step": 10690
7494
  },
7495
  {
7496
  "epoch": 1.5274991969734821,
7497
+ "grad_norm": 1.2726013660430908,
7498
  "learning_rate": 9.828136158057606e-05,
7499
+ "loss": 2.1517145156860353,
7500
  "step": 10700
7501
  },
7502
  {
7503
  "epoch": 1.5289267996716513,
7504
+ "grad_norm": 1.9693447351455688,
7505
  "learning_rate": 9.818614615567723e-05,
7506
+ "loss": 1.97952880859375,
7507
  "step": 10710
7508
  },
7509
  {
7510
  "epoch": 1.5303544023698206,
7511
+ "grad_norm": 1.3304651975631714,
7512
  "learning_rate": 9.809093073077838e-05,
7513
+ "loss": 1.9785858154296876,
7514
  "step": 10720
7515
  },
7516
  {
7517
  "epoch": 1.5317820050679896,
7518
+ "grad_norm": 1.2396725416183472,
7519
  "learning_rate": 9.799571530587955e-05,
7520
+ "loss": 2.1346342086791994,
7521
  "step": 10730
7522
  },
7523
  {
7524
  "epoch": 1.5332096077661586,
7525
+ "grad_norm": 1.413583517074585,
7526
  "learning_rate": 9.790049988098072e-05,
7527
+ "loss": 1.9904579162597655,
7528
  "step": 10740
7529
  },
7530
  {
7531
  "epoch": 1.5346372104643278,
7532
+ "grad_norm": 1.2050212621688843,
7533
  "learning_rate": 9.780528445608189e-05,
7534
+ "loss": 2.045025444030762,
7535
  "step": 10750
7536
  },
7537
  {
7538
  "epoch": 1.536064813162497,
7539
+ "grad_norm": 1.3423675298690796,
7540
  "learning_rate": 9.771006903118306e-05,
7541
+ "loss": 1.9239255905151367,
7542
  "step": 10760
7543
  },
7544
  {
7545
  "epoch": 1.537492415860666,
7546
+ "grad_norm": 1.2138278484344482,
7547
  "learning_rate": 9.761485360628421e-05,
7548
+ "loss": 2.0515163421630858,
7549
  "step": 10770
7550
  },
7551
  {
7552
  "epoch": 1.538920018558835,
7553
+ "grad_norm": 1.0984469652175903,
7554
  "learning_rate": 9.751963818138538e-05,
7555
+ "loss": 1.9942876815795898,
7556
  "step": 10780
7557
  },
7558
  {
7559
  "epoch": 1.5403476212570042,
7560
+ "grad_norm": 1.2791671752929688,
7561
  "learning_rate": 9.742442275648655e-05,
7562
+ "loss": 2.0003101348876955,
7563
  "step": 10790
7564
  },
7565
  {
7566
  "epoch": 1.5417752239551734,
7567
+ "grad_norm": 1.0745598077774048,
7568
  "learning_rate": 9.732920733158772e-05,
7569
+ "loss": 1.9592748641967774,
7570
  "step": 10800
7571
  },
7572
  {
7573
  "epoch": 1.5432028266533424,
7574
+ "grad_norm": 1.1889386177062988,
7575
  "learning_rate": 9.723399190668889e-05,
7576
+ "loss": 1.9912334442138673,
7577
  "step": 10810
7578
  },
7579
  {
7580
  "epoch": 1.5446304293515114,
7581
+ "grad_norm": 1.2227346897125244,
7582
  "learning_rate": 9.713877648179006e-05,
7583
+ "loss": 2.04000186920166,
7584
  "step": 10820
7585
  },
7586
  {
7587
  "epoch": 1.5460580320496806,
7588
+ "grad_norm": 1.1555755138397217,
7589
  "learning_rate": 9.704356105689123e-05,
7590
+ "loss": 2.0359256744384764,
7591
  "step": 10830
7592
  },
7593
  {
7594
  "epoch": 1.5474856347478498,
7595
+ "grad_norm": 1.141852617263794,
7596
  "learning_rate": 9.694834563199238e-05,
7597
+ "loss": 2.0757726669311523,
7598
  "step": 10840
7599
  },
7600
  {
7601
  "epoch": 1.5489132374460186,
7602
+ "grad_norm": 1.1708478927612305,
7603
  "learning_rate": 9.685313020709355e-05,
7604
+ "loss": 2.077558708190918,
7605
  "step": 10850
7606
  },
7607
  {
7608
  "epoch": 1.5503408401441878,
7609
+ "grad_norm": 1.3248668909072876,
7610
  "learning_rate": 9.675791478219472e-05,
7611
+ "loss": 2.1411231994628905,
7612
  "step": 10860
7613
  },
7614
  {
7615
  "epoch": 1.551768442842357,
7616
+ "grad_norm": 1.1437745094299316,
7617
  "learning_rate": 9.666269935729589e-05,
7618
+ "loss": 2.2358665466308594,
7619
  "step": 10870
7620
  },
7621
  {
7622
  "epoch": 1.553196045540526,
7623
+ "grad_norm": 1.4474693536758423,
7624
  "learning_rate": 9.656748393239706e-05,
7625
+ "loss": 2.1683933258056642,
7626
  "step": 10880
7627
  },
7628
  {
7629
  "epoch": 1.554623648238695,
7630
+ "grad_norm": 1.4569262266159058,
7631
  "learning_rate": 9.647226850749823e-05,
7632
+ "loss": 2.0875593185424806,
7633
  "step": 10890
7634
  },
7635
  {
7636
  "epoch": 1.5560512509368642,
7637
+ "grad_norm": 1.2359139919281006,
7638
  "learning_rate": 9.63770530825994e-05,
7639
+ "loss": 2.0447929382324217,
7640
  "step": 10900
7641
  },
7642
  {
7643
  "epoch": 1.5574788536350335,
7644
+ "grad_norm": 1.1910909414291382,
7645
  "learning_rate": 9.628183765770056e-05,
7646
+ "loss": 1.9503170013427735,
7647
  "step": 10910
7648
  },
7649
  {
7650
  "epoch": 1.5589064563332025,
7651
+ "grad_norm": 1.267309546470642,
7652
  "learning_rate": 9.618662223280172e-05,
7653
+ "loss": 1.9226907730102538,
7654
  "step": 10920
7655
  },
7656
  {
7657
  "epoch": 1.5603340590313715,
7658
+ "grad_norm": 1.0570237636566162,
7659
  "learning_rate": 9.609140680790289e-05,
7660
+ "loss": 2.0675920486450194,
7661
  "step": 10930
7662
  },
7663
  {
7664
  "epoch": 1.5617616617295407,
7665
+ "grad_norm": 1.0798622369766235,
7666
  "learning_rate": 9.599619138300406e-05,
7667
+ "loss": 2.1086353302001952,
7668
  "step": 10940
7669
  },
7670
  {
7671
  "epoch": 1.56318926442771,
7672
+ "grad_norm": 0.9747142791748047,
7673
  "learning_rate": 9.590097595810523e-05,
7674
+ "loss": 2.0529823303222656,
7675
  "step": 10950
7676
  },
7677
  {
7678
  "epoch": 1.5646168671258789,
7679
+ "grad_norm": 1.1378403902053833,
7680
  "learning_rate": 9.580576053320638e-05,
7681
+ "loss": 2.1953744888305664,
7682
  "step": 10960
7683
  },
7684
  {
7685
  "epoch": 1.5660444698240479,
7686
+ "grad_norm": 1.4991871118545532,
7687
  "learning_rate": 9.571054510830755e-05,
7688
+ "loss": 1.94462890625,
7689
  "step": 10970
7690
  },
7691
  {
7692
  "epoch": 1.567472072522217,
7693
+ "grad_norm": 1.005947232246399,
7694
  "learning_rate": 9.561532968340872e-05,
7695
+ "loss": 2.1250656127929686,
7696
  "step": 10980
7697
  },
7698
  {
7699
  "epoch": 1.5688996752203863,
7700
+ "grad_norm": 1.265784502029419,
7701
  "learning_rate": 9.552011425850989e-05,
7702
+ "loss": 1.9723976135253907,
7703
  "step": 10990
7704
  },
7705
  {
7706
  "epoch": 1.5703272779185553,
7707
+ "grad_norm": 1.7473640441894531,
7708
  "learning_rate": 9.542489883361106e-05,
7709
  "loss": 2.0439002990722654,
7710
  "step": 11000
7711
  },
7712
  {
7713
  "epoch": 1.5717548806167243,
7714
+ "grad_norm": 1.376124620437622,
7715
  "learning_rate": 9.532968340871221e-05,
7716
+ "loss": 2.1368425369262694,
7717
  "step": 11010
7718
  },
7719
  {
7720
  "epoch": 1.5731824833148935,
7721
+ "grad_norm": 1.0686304569244385,
7722
  "learning_rate": 9.523446798381338e-05,
7723
+ "loss": 2.0076366424560548,
7724
  "step": 11020
7725
  },
7726
  {
7727
  "epoch": 1.5746100860130625,
7728
+ "grad_norm": 1.4122185707092285,
7729
  "learning_rate": 9.513925255891455e-05,
7730
+ "loss": 2.095813751220703,
7731
  "step": 11030
7732
  },
7733
  {
7734
  "epoch": 1.5760376887112315,
7735
+ "grad_norm": 1.26949143409729,
7736
  "learning_rate": 9.504403713401572e-05,
7737
+ "loss": 2.1850494384765624,
7738
  "step": 11040
7739
  },
7740
  {
7741
  "epoch": 1.5774652914094007,
7742
+ "grad_norm": 1.120142936706543,
7743
  "learning_rate": 9.494882170911689e-05,
7744
+ "loss": 2.0661577224731444,
7745
  "step": 11050
7746
  },
7747
  {
7748
  "epoch": 1.57889289410757,
7749
+ "grad_norm": 1.2405672073364258,
7750
  "learning_rate": 9.485360628421804e-05,
7751
+ "loss": 1.9966974258422852,
7752
  "step": 11060
7753
  },
7754
  {
7755
  "epoch": 1.580320496805739,
7756
+ "grad_norm": 1.159519076347351,
7757
  "learning_rate": 9.475839085931921e-05,
7758
+ "loss": 1.9302923202514648,
7759
  "step": 11070
7760
  },
7761
  {
7762
  "epoch": 1.581748099503908,
7763
+ "grad_norm": 1.2723621129989624,
7764
  "learning_rate": 9.466317543442038e-05,
7765
+ "loss": 1.837651252746582,
7766
  "step": 11080
7767
  },
7768
  {
7769
  "epoch": 1.5831757022020772,
7770
+ "grad_norm": 1.354519009590149,
7771
  "learning_rate": 9.456796000952155e-05,
7772
+ "loss": 2.001264953613281,
7773
  "step": 11090
7774
  },
7775
  {
7776
  "epoch": 1.5846033049002464,
7777
+ "grad_norm": 1.2013628482818604,
7778
  "learning_rate": 9.447274458462272e-05,
7779
+ "loss": 2.0066423416137695,
7780
  "step": 11100
7781
  },
7782
  {
7783
  "epoch": 1.5860309075984154,
7784
+ "grad_norm": 1.159398078918457,
7785
  "learning_rate": 9.437752915972387e-05,
7786
+ "loss": 2.0087814331054688,
7787
  "step": 11110
7788
  },
7789
  {
7790
  "epoch": 1.5874585102965844,
7791
+ "grad_norm": 1.2587201595306396,
7792
  "learning_rate": 9.428231373482504e-05,
7793
+ "loss": 1.9774051666259767,
7794
  "step": 11120
7795
  },
7796
  {
7797
  "epoch": 1.5888861129947536,
7798
+ "grad_norm": 1.2386575937271118,
7799
  "learning_rate": 9.418709830992621e-05,
7800
+ "loss": 2.03675537109375,
7801
  "step": 11130
7802
  },
7803
  {
7804
  "epoch": 1.5903137156929228,
7805
+ "grad_norm": 1.1446408033370972,
7806
  "learning_rate": 9.409188288502738e-05,
7807
+ "loss": 2.0270097732543944,
7808
  "step": 11140
7809
  },
7810
  {
7811
  "epoch": 1.5917413183910918,
7812
+ "grad_norm": 1.090232491493225,
7813
  "learning_rate": 9.399666746012853e-05,
7814
+ "loss": 2.1192419052124025,
7815
  "step": 11150
7816
  },
7817
  {
7818
  "epoch": 1.5931689210892608,
7819
+ "grad_norm": 1.137207269668579,
7820
  "learning_rate": 9.39014520352297e-05,
7821
+ "loss": 2.041428565979004,
7822
  "step": 11160
7823
  },
7824
  {
7825
  "epoch": 1.59459652378743,
7826
+ "grad_norm": 1.2093437910079956,
7827
  "learning_rate": 9.380623661033087e-05,
7828
+ "loss": 1.9331945419311523,
7829
  "step": 11170
7830
  },
7831
  {
7832
  "epoch": 1.5960241264855992,
7833
+ "grad_norm": 1.2326594591140747,
7834
  "learning_rate": 9.371102118543204e-05,
7835
+ "loss": 2.212518882751465,
7836
  "step": 11180
7837
  },
7838
  {
7839
  "epoch": 1.5974517291837682,
7840
+ "grad_norm": 1.280666708946228,
7841
  "learning_rate": 9.361580576053321e-05,
7842
+ "loss": 2.067685127258301,
7843
  "step": 11190
7844
  },
7845
  {
7846
  "epoch": 1.5988793318819372,
7847
+ "grad_norm": 1.3486379384994507,
7848
  "learning_rate": 9.352059033563438e-05,
7849
+ "loss": 1.962606430053711,
7850
  "step": 11200
7851
  }
7852
  ],