SGD
-
【深度学习入门:基于Python的理论与实现】书本学习笔记 第六章 与深度学习相关的技巧
文章目录 1. 参数的更新方法 1.1 SGD函数更新 1.2 SGD 的缺点 1.3 Momentum更新方法 关于python中的 `.item` 1.4 AdaGrad 2.…
-
深度学习中的优化算法之带Momentum的SGD
之前在https://blog.csdn.net/fengbingchun/article/details/123955067介绍过SGD(Mini-Batch Gra…