File size: 1,417 Bytes
fc0f7bd
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
Optimizers
==========

.. currentmodule:: optax

.. autosummary::
    adabelief
    adadelta
    adafactor
    adagrad
    adam
    adamw
    adamax
    adamaxw
    amsgrad
    fromage
    lamb
    lars
    lion
    nadam
    nadamw
    noisy_sgd
    novograd
    optimistic_gradient_descent
    polyak_sgd
    radam
    rmsprop
    sgd
    sm3
    yogi


AdaBelief
~~~~~~~~~
.. autofunction:: adabelief

AdaDelta
~~~~~~~~~
.. autofunction:: adadelta

AdaGrad
~~~~~~~
.. autofunction:: adagrad

AdaFactor
~~~~~~~~~
.. autofunction:: adafactor

Adam
~~~~
.. autofunction:: adam

Adamax
~~~~~~
.. autofunction:: adamax

AdamaxW
~~~~~~~
.. autofunction:: adamaxw

AdamW
~~~~~
.. autofunction:: adamw

AMSGrad
~~~~~~~
.. autofunction:: amsgrad

Fromage
~~~~~~~
.. autofunction:: fromage

Lamb
~~~~
.. autofunction:: lamb

Lars
~~~~
.. autofunction:: lars

Lion
~~~~
.. autofunction:: lion

Nadam
~~~~~
.. autofunction:: nadam

NadamW
~~~~~~
.. autofunction:: nadamw

Noisy SGD
~~~~~~~~~
.. autofunction:: noisy_sgd

Novograd
~~~~~~~~
.. autofunction:: novograd

Optimistic GD
~~~~~~~~~~~~~
.. autofunction:: optimistic_gradient_descent

Polyak step-size SGD
~~~~~~~~~~~~~~~~~~~~
.. autofunction:: polyak_sgd

RAdam
~~~~~
.. autofunction:: radam

RMSProp
~~~~~~~
.. autofunction:: rmsprop

RProp
~~~~~
.. autofunction:: rprop

SGD
~~~
.. autofunction:: sgd

SM3
~~~
.. autofunction:: sm3

Yogi
~~~~
.. autofunction:: yogi