Alphatao commited on
Commit
62e6186
·
verified ·
1 Parent(s): 56b24a9

Training in progress, step 300, checkpoint

Browse files
last-checkpoint/optimizer.pt CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:09408008d6d7b34362def16448684fbf79127a0fa07e643a0aeeaff09e28de71
3
- size 124606
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:7167716ea24b8d29d5dbe61735d7aa7044f3896076d6daa3ab9f0929b3b9a899
3
+ size 124670
last-checkpoint/rng_state.pth CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:6bca983b309063a996168bc9ba0246dee10aad731d5eafae85ac843af75455c4
3
  size 14244
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:5d34319ff3df364313deadc6fed2a87af4dbaa25121577034e823762746bfdd8
3
  size 14244
last-checkpoint/scheduler.pt CHANGED
@@ -1,3 +1,3 @@
1
  version https://git-lfs.github.com/spec/v1
2
- oid sha256:90c3f5929acf9a48d389b53b92c7c5f336a9df7831dd2eeaa4b4512eed16ec0a
3
  size 1064
 
1
  version https://git-lfs.github.com/spec/v1
2
+ oid sha256:007b96471e861c7aab51ec779dcb3b726506f4816d4cb4a61d83956481bc6738
3
  size 1064
last-checkpoint/trainer_state.json CHANGED
@@ -1,9 +1,9 @@
1
  {
2
  "best_metric": NaN,
3
  "best_model_checkpoint": "miner_id_24/checkpoint-100",
4
- "epoch": 0.6944444444444444,
5
  "eval_steps": 100,
6
- "global_step": 200,
7
  "is_hyper_param_search": false,
8
  "is_local_process_zero": true,
9
  "is_world_process_zero": true,
@@ -1431,6 +1431,714 @@
1431
  "eval_samples_per_second": 287.843,
1432
  "eval_steps_per_second": 72.406,
1433
  "step": 200
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1434
  }
1435
  ],
1436
  "logging_steps": 1,
@@ -1445,7 +2153,7 @@
1445
  "early_stopping_threshold": 0.0
1446
  },
1447
  "attributes": {
1448
- "early_stopping_patience_counter": 1
1449
  }
1450
  },
1451
  "TrainerControl": {
@@ -1454,12 +2162,12 @@
1454
  "should_evaluate": false,
1455
  "should_log": false,
1456
  "should_save": true,
1457
- "should_training_stop": false
1458
  },
1459
  "attributes": {}
1460
  }
1461
  },
1462
- "total_flos": 75463150534656.0,
1463
  "train_batch_size": 4,
1464
  "trial_name": null,
1465
  "trial_params": null
 
1
  {
2
  "best_metric": NaN,
3
  "best_model_checkpoint": "miner_id_24/checkpoint-100",
4
+ "epoch": 1.0416666666666667,
5
  "eval_steps": 100,
6
+ "global_step": 300,
7
  "is_hyper_param_search": false,
8
  "is_local_process_zero": true,
9
  "is_world_process_zero": true,
 
1431
  "eval_samples_per_second": 287.843,
1432
  "eval_steps_per_second": 72.406,
1433
  "step": 200
1434
+ },
1435
+ {
1436
+ "epoch": 0.6979166666666666,
1437
+ "grad_norm": NaN,
1438
+ "learning_rate": 0.00014887423068915388,
1439
+ "loss": 0.0,
1440
+ "step": 201
1441
+ },
1442
+ {
1443
+ "epoch": 0.7013888888888888,
1444
+ "grad_norm": NaN,
1445
+ "learning_rate": 0.00014838923755474746,
1446
+ "loss": 0.0,
1447
+ "step": 202
1448
+ },
1449
+ {
1450
+ "epoch": 0.7048611111111112,
1451
+ "grad_norm": NaN,
1452
+ "learning_rate": 0.00014790275363694446,
1453
+ "loss": 0.0,
1454
+ "step": 203
1455
+ },
1456
+ {
1457
+ "epoch": 0.7083333333333334,
1458
+ "grad_norm": NaN,
1459
+ "learning_rate": 0.00014741479392341942,
1460
+ "loss": 0.0,
1461
+ "step": 204
1462
+ },
1463
+ {
1464
+ "epoch": 0.7118055555555556,
1465
+ "grad_norm": NaN,
1466
+ "learning_rate": 0.0001469253734473135,
1467
+ "loss": 0.0,
1468
+ "step": 205
1469
+ },
1470
+ {
1471
+ "epoch": 0.7152777777777778,
1472
+ "grad_norm": NaN,
1473
+ "learning_rate": 0.0001464345072867713,
1474
+ "loss": 0.0,
1475
+ "step": 206
1476
+ },
1477
+ {
1478
+ "epoch": 0.71875,
1479
+ "grad_norm": NaN,
1480
+ "learning_rate": 0.00014594221056447632,
1481
+ "loss": 0.0,
1482
+ "step": 207
1483
+ },
1484
+ {
1485
+ "epoch": 0.7222222222222222,
1486
+ "grad_norm": NaN,
1487
+ "learning_rate": 0.0001454484984471849,
1488
+ "loss": 0.0,
1489
+ "step": 208
1490
+ },
1491
+ {
1492
+ "epoch": 0.7256944444444444,
1493
+ "grad_norm": NaN,
1494
+ "learning_rate": 0.00014495338614525926,
1495
+ "loss": 0.0,
1496
+ "step": 209
1497
+ },
1498
+ {
1499
+ "epoch": 0.7291666666666666,
1500
+ "grad_norm": NaN,
1501
+ "learning_rate": 0.00014445688891219862,
1502
+ "loss": 0.0,
1503
+ "step": 210
1504
+ },
1505
+ {
1506
+ "epoch": 0.7326388888888888,
1507
+ "grad_norm": NaN,
1508
+ "learning_rate": 0.0001439590220441694,
1509
+ "loss": 0.0,
1510
+ "step": 211
1511
+ },
1512
+ {
1513
+ "epoch": 0.7361111111111112,
1514
+ "grad_norm": NaN,
1515
+ "learning_rate": 0.00014345980087953405,
1516
+ "loss": 0.0,
1517
+ "step": 212
1518
+ },
1519
+ {
1520
+ "epoch": 0.7395833333333334,
1521
+ "grad_norm": NaN,
1522
+ "learning_rate": 0.00014295924079837826,
1523
+ "loss": 0.0,
1524
+ "step": 213
1525
+ },
1526
+ {
1527
+ "epoch": 0.7430555555555556,
1528
+ "grad_norm": NaN,
1529
+ "learning_rate": 0.00014245735722203735,
1530
+ "loss": 0.0,
1531
+ "step": 214
1532
+ },
1533
+ {
1534
+ "epoch": 0.7465277777777778,
1535
+ "grad_norm": NaN,
1536
+ "learning_rate": 0.00014195416561262113,
1537
+ "loss": 0.0,
1538
+ "step": 215
1539
+ },
1540
+ {
1541
+ "epoch": 0.75,
1542
+ "grad_norm": NaN,
1543
+ "learning_rate": 0.00014144968147253742,
1544
+ "loss": 0.0,
1545
+ "step": 216
1546
+ },
1547
+ {
1548
+ "epoch": 0.7534722222222222,
1549
+ "grad_norm": NaN,
1550
+ "learning_rate": 0.00014094392034401463,
1551
+ "loss": 0.0,
1552
+ "step": 217
1553
+ },
1554
+ {
1555
+ "epoch": 0.7569444444444444,
1556
+ "grad_norm": NaN,
1557
+ "learning_rate": 0.00014043689780862272,
1558
+ "loss": 0.0,
1559
+ "step": 218
1560
+ },
1561
+ {
1562
+ "epoch": 0.7604166666666666,
1563
+ "grad_norm": NaN,
1564
+ "learning_rate": 0.00013992862948679333,
1565
+ "loss": 0.0,
1566
+ "step": 219
1567
+ },
1568
+ {
1569
+ "epoch": 0.7638888888888888,
1570
+ "grad_norm": NaN,
1571
+ "learning_rate": 0.0001394191310373385,
1572
+ "loss": 0.0,
1573
+ "step": 220
1574
+ },
1575
+ {
1576
+ "epoch": 0.7673611111111112,
1577
+ "grad_norm": NaN,
1578
+ "learning_rate": 0.00013890841815696829,
1579
+ "loss": 0.0,
1580
+ "step": 221
1581
+ },
1582
+ {
1583
+ "epoch": 0.7708333333333334,
1584
+ "grad_norm": NaN,
1585
+ "learning_rate": 0.00013839650657980704,
1586
+ "loss": 0.0,
1587
+ "step": 222
1588
+ },
1589
+ {
1590
+ "epoch": 0.7743055555555556,
1591
+ "grad_norm": NaN,
1592
+ "learning_rate": 0.00013788341207690872,
1593
+ "loss": 0.0,
1594
+ "step": 223
1595
+ },
1596
+ {
1597
+ "epoch": 0.7777777777777778,
1598
+ "grad_norm": NaN,
1599
+ "learning_rate": 0.00013736915045577122,
1600
+ "loss": 0.0,
1601
+ "step": 224
1602
+ },
1603
+ {
1604
+ "epoch": 0.78125,
1605
+ "grad_norm": NaN,
1606
+ "learning_rate": 0.00013685373755984904,
1607
+ "loss": 0.0,
1608
+ "step": 225
1609
+ },
1610
+ {
1611
+ "epoch": 0.7847222222222222,
1612
+ "grad_norm": NaN,
1613
+ "learning_rate": 0.0001363371892680654,
1614
+ "loss": 0.0,
1615
+ "step": 226
1616
+ },
1617
+ {
1618
+ "epoch": 0.7881944444444444,
1619
+ "grad_norm": NaN,
1620
+ "learning_rate": 0.00013581952149432303,
1621
+ "loss": 0.0,
1622
+ "step": 227
1623
+ },
1624
+ {
1625
+ "epoch": 0.7916666666666666,
1626
+ "grad_norm": NaN,
1627
+ "learning_rate": 0.0001353007501870137,
1628
+ "loss": 0.0,
1629
+ "step": 228
1630
+ },
1631
+ {
1632
+ "epoch": 0.7951388888888888,
1633
+ "grad_norm": NaN,
1634
+ "learning_rate": 0.00013478089132852716,
1635
+ "loss": 0.0,
1636
+ "step": 229
1637
+ },
1638
+ {
1639
+ "epoch": 0.7986111111111112,
1640
+ "grad_norm": NaN,
1641
+ "learning_rate": 0.0001342599609347585,
1642
+ "loss": 0.0,
1643
+ "step": 230
1644
+ },
1645
+ {
1646
+ "epoch": 0.8020833333333334,
1647
+ "grad_norm": NaN,
1648
+ "learning_rate": 0.000133737975054615,
1649
+ "loss": 0.0,
1650
+ "step": 231
1651
+ },
1652
+ {
1653
+ "epoch": 0.8055555555555556,
1654
+ "grad_norm": NaN,
1655
+ "learning_rate": 0.00013321494976952132,
1656
+ "loss": 0.0,
1657
+ "step": 232
1658
+ },
1659
+ {
1660
+ "epoch": 0.8090277777777778,
1661
+ "grad_norm": NaN,
1662
+ "learning_rate": 0.00013269090119292444,
1663
+ "loss": 0.0,
1664
+ "step": 233
1665
+ },
1666
+ {
1667
+ "epoch": 0.8125,
1668
+ "grad_norm": NaN,
1669
+ "learning_rate": 0.00013216584546979702,
1670
+ "loss": 0.0,
1671
+ "step": 234
1672
+ },
1673
+ {
1674
+ "epoch": 0.8159722222222222,
1675
+ "grad_norm": NaN,
1676
+ "learning_rate": 0.00013163979877614,
1677
+ "loss": 0.0,
1678
+ "step": 235
1679
+ },
1680
+ {
1681
+ "epoch": 0.8194444444444444,
1682
+ "grad_norm": NaN,
1683
+ "learning_rate": 0.00013111277731848442,
1684
+ "loss": 0.0,
1685
+ "step": 236
1686
+ },
1687
+ {
1688
+ "epoch": 0.8229166666666666,
1689
+ "grad_norm": NaN,
1690
+ "learning_rate": 0.00013058479733339185,
1691
+ "loss": 0.0,
1692
+ "step": 237
1693
+ },
1694
+ {
1695
+ "epoch": 0.8263888888888888,
1696
+ "grad_norm": NaN,
1697
+ "learning_rate": 0.00013005587508695444,
1698
+ "loss": 0.0,
1699
+ "step": 238
1700
+ },
1701
+ {
1702
+ "epoch": 0.8298611111111112,
1703
+ "grad_norm": NaN,
1704
+ "learning_rate": 0.00012952602687429362,
1705
+ "loss": 0.0,
1706
+ "step": 239
1707
+ },
1708
+ {
1709
+ "epoch": 0.8333333333333334,
1710
+ "grad_norm": NaN,
1711
+ "learning_rate": 0.00012899526901905822,
1712
+ "loss": 0.0,
1713
+ "step": 240
1714
+ },
1715
+ {
1716
+ "epoch": 0.8368055555555556,
1717
+ "grad_norm": NaN,
1718
+ "learning_rate": 0.00012846361787292136,
1719
+ "loss": 0.0,
1720
+ "step": 241
1721
+ },
1722
+ {
1723
+ "epoch": 0.8402777777777778,
1724
+ "grad_norm": NaN,
1725
+ "learning_rate": 0.00012793108981507694,
1726
+ "loss": 0.0,
1727
+ "step": 242
1728
+ },
1729
+ {
1730
+ "epoch": 0.84375,
1731
+ "grad_norm": NaN,
1732
+ "learning_rate": 0.0001273977012517348,
1733
+ "loss": 0.0,
1734
+ "step": 243
1735
+ },
1736
+ {
1737
+ "epoch": 0.8472222222222222,
1738
+ "grad_norm": NaN,
1739
+ "learning_rate": 0.00012686346861561537,
1740
+ "loss": 0.0,
1741
+ "step": 244
1742
+ },
1743
+ {
1744
+ "epoch": 0.8506944444444444,
1745
+ "grad_norm": NaN,
1746
+ "learning_rate": 0.0001263284083654435,
1747
+ "loss": 0.0,
1748
+ "step": 245
1749
+ },
1750
+ {
1751
+ "epoch": 0.8541666666666666,
1752
+ "grad_norm": NaN,
1753
+ "learning_rate": 0.00012579253698544125,
1754
+ "loss": 0.0,
1755
+ "step": 246
1756
+ },
1757
+ {
1758
+ "epoch": 0.8576388888888888,
1759
+ "grad_norm": NaN,
1760
+ "learning_rate": 0.00012525587098482005,
1761
+ "loss": 0.0,
1762
+ "step": 247
1763
+ },
1764
+ {
1765
+ "epoch": 0.8611111111111112,
1766
+ "grad_norm": NaN,
1767
+ "learning_rate": 0.0001247184268972722,
1768
+ "loss": 0.0,
1769
+ "step": 248
1770
+ },
1771
+ {
1772
+ "epoch": 0.8645833333333334,
1773
+ "grad_norm": NaN,
1774
+ "learning_rate": 0.00012418022128046142,
1775
+ "loss": 0.0,
1776
+ "step": 249
1777
+ },
1778
+ {
1779
+ "epoch": 0.8680555555555556,
1780
+ "grad_norm": NaN,
1781
+ "learning_rate": 0.0001236412707155127,
1782
+ "loss": 0.0,
1783
+ "step": 250
1784
+ },
1785
+ {
1786
+ "epoch": 0.8715277777777778,
1787
+ "grad_norm": NaN,
1788
+ "learning_rate": 0.0001231015918065016,
1789
+ "loss": 0.0,
1790
+ "step": 251
1791
+ },
1792
+ {
1793
+ "epoch": 0.875,
1794
+ "grad_norm": NaN,
1795
+ "learning_rate": 0.00012256120117994245,
1796
+ "loss": 0.0,
1797
+ "step": 252
1798
+ },
1799
+ {
1800
+ "epoch": 0.8784722222222222,
1801
+ "grad_norm": NaN,
1802
+ "learning_rate": 0.0001220201154842765,
1803
+ "loss": 0.0,
1804
+ "step": 253
1805
+ },
1806
+ {
1807
+ "epoch": 0.8819444444444444,
1808
+ "grad_norm": NaN,
1809
+ "learning_rate": 0.00012147835138935868,
1810
+ "loss": 0.0,
1811
+ "step": 254
1812
+ },
1813
+ {
1814
+ "epoch": 0.8854166666666666,
1815
+ "grad_norm": NaN,
1816
+ "learning_rate": 0.00012093592558594416,
1817
+ "loss": 0.0,
1818
+ "step": 255
1819
+ },
1820
+ {
1821
+ "epoch": 0.8888888888888888,
1822
+ "grad_norm": NaN,
1823
+ "learning_rate": 0.00012039285478517417,
1824
+ "loss": 0.0,
1825
+ "step": 256
1826
+ },
1827
+ {
1828
+ "epoch": 0.8923611111111112,
1829
+ "grad_norm": NaN,
1830
+ "learning_rate": 0.00011984915571806108,
1831
+ "loss": 0.0,
1832
+ "step": 257
1833
+ },
1834
+ {
1835
+ "epoch": 0.8958333333333334,
1836
+ "grad_norm": NaN,
1837
+ "learning_rate": 0.000119304845134973,
1838
+ "loss": 0.0,
1839
+ "step": 258
1840
+ },
1841
+ {
1842
+ "epoch": 0.8993055555555556,
1843
+ "grad_norm": NaN,
1844
+ "learning_rate": 0.00011875993980511773,
1845
+ "loss": 0.0,
1846
+ "step": 259
1847
+ },
1848
+ {
1849
+ "epoch": 0.9027777777777778,
1850
+ "grad_norm": NaN,
1851
+ "learning_rate": 0.00011821445651602616,
1852
+ "loss": 0.0,
1853
+ "step": 260
1854
+ },
1855
+ {
1856
+ "epoch": 0.90625,
1857
+ "grad_norm": NaN,
1858
+ "learning_rate": 0.00011766841207303498,
1859
+ "loss": 0.0,
1860
+ "step": 261
1861
+ },
1862
+ {
1863
+ "epoch": 0.9097222222222222,
1864
+ "grad_norm": NaN,
1865
+ "learning_rate": 0.00011712182329876902,
1866
+ "loss": 0.0,
1867
+ "step": 262
1868
+ },
1869
+ {
1870
+ "epoch": 0.9131944444444444,
1871
+ "grad_norm": NaN,
1872
+ "learning_rate": 0.00011657470703262296,
1873
+ "loss": 0.0,
1874
+ "step": 263
1875
+ },
1876
+ {
1877
+ "epoch": 0.9166666666666666,
1878
+ "grad_norm": NaN,
1879
+ "learning_rate": 0.00011602708013024255,
1880
+ "loss": 0.0,
1881
+ "step": 264
1882
+ },
1883
+ {
1884
+ "epoch": 0.9201388888888888,
1885
+ "grad_norm": NaN,
1886
+ "learning_rate": 0.00011547895946300528,
1887
+ "loss": 0.0,
1888
+ "step": 265
1889
+ },
1890
+ {
1891
+ "epoch": 0.9236111111111112,
1892
+ "grad_norm": NaN,
1893
+ "learning_rate": 0.00011493036191750066,
1894
+ "loss": 0.0,
1895
+ "step": 266
1896
+ },
1897
+ {
1898
+ "epoch": 0.9270833333333334,
1899
+ "grad_norm": NaN,
1900
+ "learning_rate": 0.00011438130439500986,
1901
+ "loss": 0.0,
1902
+ "step": 267
1903
+ },
1904
+ {
1905
+ "epoch": 0.9305555555555556,
1906
+ "grad_norm": NaN,
1907
+ "learning_rate": 0.00011383180381098517,
1908
+ "loss": 0.0,
1909
+ "step": 268
1910
+ },
1911
+ {
1912
+ "epoch": 0.9340277777777778,
1913
+ "grad_norm": NaN,
1914
+ "learning_rate": 0.00011328187709452884,
1915
+ "loss": 0.0,
1916
+ "step": 269
1917
+ },
1918
+ {
1919
+ "epoch": 0.9375,
1920
+ "grad_norm": NaN,
1921
+ "learning_rate": 0.00011273154118787132,
1922
+ "loss": 0.0,
1923
+ "step": 270
1924
+ },
1925
+ {
1926
+ "epoch": 0.9409722222222222,
1927
+ "grad_norm": NaN,
1928
+ "learning_rate": 0.00011218081304584957,
1929
+ "loss": 0.0,
1930
+ "step": 271
1931
+ },
1932
+ {
1933
+ "epoch": 0.9444444444444444,
1934
+ "grad_norm": NaN,
1935
+ "learning_rate": 0.00011162970963538462,
1936
+ "loss": 0.0,
1937
+ "step": 272
1938
+ },
1939
+ {
1940
+ "epoch": 0.9479166666666666,
1941
+ "grad_norm": NaN,
1942
+ "learning_rate": 0.00011107824793495876,
1943
+ "loss": 0.0,
1944
+ "step": 273
1945
+ },
1946
+ {
1947
+ "epoch": 0.9513888888888888,
1948
+ "grad_norm": NaN,
1949
+ "learning_rate": 0.00011052644493409255,
1950
+ "loss": 0.0,
1951
+ "step": 274
1952
+ },
1953
+ {
1954
+ "epoch": 0.9548611111111112,
1955
+ "grad_norm": NaN,
1956
+ "learning_rate": 0.00010997431763282137,
1957
+ "loss": 0.0,
1958
+ "step": 275
1959
+ },
1960
+ {
1961
+ "epoch": 0.9583333333333334,
1962
+ "grad_norm": NaN,
1963
+ "learning_rate": 0.00010942188304117182,
1964
+ "loss": 0.0,
1965
+ "step": 276
1966
+ },
1967
+ {
1968
+ "epoch": 0.9618055555555556,
1969
+ "grad_norm": NaN,
1970
+ "learning_rate": 0.00010886915817863736,
1971
+ "loss": 0.0,
1972
+ "step": 277
1973
+ },
1974
+ {
1975
+ "epoch": 0.9652777777777778,
1976
+ "grad_norm": NaN,
1977
+ "learning_rate": 0.00010831616007365435,
1978
+ "loss": 0.0,
1979
+ "step": 278
1980
+ },
1981
+ {
1982
+ "epoch": 0.96875,
1983
+ "grad_norm": NaN,
1984
+ "learning_rate": 0.0001077629057630771,
1985
+ "loss": 0.0,
1986
+ "step": 279
1987
+ },
1988
+ {
1989
+ "epoch": 0.9722222222222222,
1990
+ "grad_norm": NaN,
1991
+ "learning_rate": 0.00010720941229165322,
1992
+ "loss": 0.0,
1993
+ "step": 280
1994
+ },
1995
+ {
1996
+ "epoch": 0.9756944444444444,
1997
+ "grad_norm": NaN,
1998
+ "learning_rate": 0.0001066556967114984,
1999
+ "loss": 0.0,
2000
+ "step": 281
2001
+ },
2002
+ {
2003
+ "epoch": 0.9791666666666666,
2004
+ "grad_norm": NaN,
2005
+ "learning_rate": 0.00010610177608157117,
2006
+ "loss": 0.0,
2007
+ "step": 282
2008
+ },
2009
+ {
2010
+ "epoch": 0.9826388888888888,
2011
+ "grad_norm": NaN,
2012
+ "learning_rate": 0.00010554766746714706,
2013
+ "loss": 0.0,
2014
+ "step": 283
2015
+ },
2016
+ {
2017
+ "epoch": 0.9861111111111112,
2018
+ "grad_norm": NaN,
2019
+ "learning_rate": 0.0001049933879392933,
2020
+ "loss": 0.0,
2021
+ "step": 284
2022
+ },
2023
+ {
2024
+ "epoch": 0.9895833333333334,
2025
+ "grad_norm": NaN,
2026
+ "learning_rate": 0.00010443895457434252,
2027
+ "loss": 0.0,
2028
+ "step": 285
2029
+ },
2030
+ {
2031
+ "epoch": 0.9930555555555556,
2032
+ "grad_norm": NaN,
2033
+ "learning_rate": 0.00010388438445336676,
2034
+ "loss": 0.0,
2035
+ "step": 286
2036
+ },
2037
+ {
2038
+ "epoch": 0.9965277777777778,
2039
+ "grad_norm": NaN,
2040
+ "learning_rate": 0.00010332969466165143,
2041
+ "loss": 0.0,
2042
+ "step": 287
2043
+ },
2044
+ {
2045
+ "epoch": 1.0,
2046
+ "grad_norm": NaN,
2047
+ "learning_rate": 0.00010277490228816853,
2048
+ "loss": 0.0,
2049
+ "step": 288
2050
+ },
2051
+ {
2052
+ "epoch": 1.0034722222222223,
2053
+ "grad_norm": NaN,
2054
+ "learning_rate": 0.00010222002442505056,
2055
+ "loss": 0.0,
2056
+ "step": 289
2057
+ },
2058
+ {
2059
+ "epoch": 1.0069444444444444,
2060
+ "grad_norm": NaN,
2061
+ "learning_rate": 0.00010166507816706386,
2062
+ "loss": 0.0,
2063
+ "step": 290
2064
+ },
2065
+ {
2066
+ "epoch": 1.0104166666666667,
2067
+ "grad_norm": NaN,
2068
+ "learning_rate": 0.00010111008061108176,
2069
+ "loss": 0.0,
2070
+ "step": 291
2071
+ },
2072
+ {
2073
+ "epoch": 1.0138888888888888,
2074
+ "grad_norm": NaN,
2075
+ "learning_rate": 0.00010055504885555797,
2076
+ "loss": 0.0,
2077
+ "step": 292
2078
+ },
2079
+ {
2080
+ "epoch": 1.0173611111111112,
2081
+ "grad_norm": NaN,
2082
+ "learning_rate": 0.0001,
2083
+ "loss": 0.0,
2084
+ "step": 293
2085
+ },
2086
+ {
2087
+ "epoch": 1.0208333333333333,
2088
+ "grad_norm": NaN,
2089
+ "learning_rate": 9.944495114444205e-05,
2090
+ "loss": 0.0,
2091
+ "step": 294
2092
+ },
2093
+ {
2094
+ "epoch": 1.0243055555555556,
2095
+ "grad_norm": NaN,
2096
+ "learning_rate": 9.888991938891828e-05,
2097
+ "loss": 0.0,
2098
+ "step": 295
2099
+ },
2100
+ {
2101
+ "epoch": 1.0277777777777777,
2102
+ "grad_norm": NaN,
2103
+ "learning_rate": 9.833492183293615e-05,
2104
+ "loss": 0.0,
2105
+ "step": 296
2106
+ },
2107
+ {
2108
+ "epoch": 1.03125,
2109
+ "grad_norm": NaN,
2110
+ "learning_rate": 9.777997557494944e-05,
2111
+ "loss": 0.0,
2112
+ "step": 297
2113
+ },
2114
+ {
2115
+ "epoch": 1.0347222222222223,
2116
+ "grad_norm": NaN,
2117
+ "learning_rate": 9.722509771183151e-05,
2118
+ "loss": 0.0,
2119
+ "step": 298
2120
+ },
2121
+ {
2122
+ "epoch": 1.0381944444444444,
2123
+ "grad_norm": NaN,
2124
+ "learning_rate": 9.667030533834862e-05,
2125
+ "loss": 0.0,
2126
+ "step": 299
2127
+ },
2128
+ {
2129
+ "epoch": 1.0416666666666667,
2130
+ "grad_norm": NaN,
2131
+ "learning_rate": 9.611561554663325e-05,
2132
+ "loss": 0.0,
2133
+ "step": 300
2134
+ },
2135
+ {
2136
+ "epoch": 1.0416666666666667,
2137
+ "eval_loss": NaN,
2138
+ "eval_runtime": 1.6994,
2139
+ "eval_samples_per_second": 285.4,
2140
+ "eval_steps_per_second": 71.791,
2141
+ "step": 300
2142
  }
2143
  ],
2144
  "logging_steps": 1,
 
2153
  "early_stopping_threshold": 0.0
2154
  },
2155
  "attributes": {
2156
+ "early_stopping_patience_counter": 2
2157
  }
2158
  },
2159
  "TrainerControl": {
 
2162
  "should_evaluate": false,
2163
  "should_log": false,
2164
  "should_save": true,
2165
+ "should_training_stop": true
2166
  },
2167
  "attributes": {}
2168
  }
2169
  },
2170
+ "total_flos": 113103460761600.0,
2171
  "train_batch_size": 4,
2172
  "trial_name": null,
2173
  "trial_params": null