1 статья затрагивает эту идею.
Статьи
Оптимизатор, на котором учат все нейросети, никто не доказал математически
Смежные понятия
Идеи, которые идут в паре с понятием «AdamW Convergence Analysis».