File size: 1,417 Bytes
fc0f7bd | 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119 120 121 122 123 124 125 126 127 128 129 130 131 132 | Optimizers
==========
.. currentmodule:: optax
.. autosummary::
adabelief
adadelta
adafactor
adagrad
adam
adamw
adamax
adamaxw
amsgrad
fromage
lamb
lars
lion
nadam
nadamw
noisy_sgd
novograd
optimistic_gradient_descent
polyak_sgd
radam
rmsprop
sgd
sm3
yogi
AdaBelief
~~~~~~~~~
.. autofunction:: adabelief
AdaDelta
~~~~~~~~~
.. autofunction:: adadelta
AdaGrad
~~~~~~~
.. autofunction:: adagrad
AdaFactor
~~~~~~~~~
.. autofunction:: adafactor
Adam
~~~~
.. autofunction:: adam
Adamax
~~~~~~
.. autofunction:: adamax
AdamaxW
~~~~~~~
.. autofunction:: adamaxw
AdamW
~~~~~
.. autofunction:: adamw
AMSGrad
~~~~~~~
.. autofunction:: amsgrad
Fromage
~~~~~~~
.. autofunction:: fromage
Lamb
~~~~
.. autofunction:: lamb
Lars
~~~~
.. autofunction:: lars
Lion
~~~~
.. autofunction:: lion
Nadam
~~~~~
.. autofunction:: nadam
NadamW
~~~~~~
.. autofunction:: nadamw
Noisy SGD
~~~~~~~~~
.. autofunction:: noisy_sgd
Novograd
~~~~~~~~
.. autofunction:: novograd
Optimistic GD
~~~~~~~~~~~~~
.. autofunction:: optimistic_gradient_descent
Polyak step-size SGD
~~~~~~~~~~~~~~~~~~~~
.. autofunction:: polyak_sgd
RAdam
~~~~~
.. autofunction:: radam
RMSProp
~~~~~~~
.. autofunction:: rmsprop
RProp
~~~~~
.. autofunction:: rprop
SGD
~~~
.. autofunction:: sgd
SM3
~~~
.. autofunction:: sm3
Yogi
~~~~
.. autofunction:: yogi
|