关于随机梯度下降算法SGD

深度学习

8.1.3批量算法和小批量算法这一节指出:
使用单个样本的优化方法被称为随机算法。
通常也会将小批量或小批量随机方法简单的称为随机方法。

8.3.1随机梯度下降这一节指出:
抽取m个小批量样本,计算梯度均值得到梯度的无偏估计。

所以,随机梯度下降算法并不是针对一个样本进行优化,而是取了小批量进行优化。

文章出处登录后可见!

已经登录?立即刷新

共计人评分,平均

到目前为止还没有投票!成为第一位评论此文章。

(0)
上一篇 2022年6月9日 上午10:58
下一篇 2022年6月9日 上午11:00

相关推荐

本站注重文章个人版权,不会主动收集付费或者带有商业版权的文章,如果出现侵权情况只可能是作者后期更改了版权声明,如果出现这种情况请主动联系我们,我们看到会在第一时间删除!本站专注于人工智能高质量优质文章收集,方便各位学者快速找到学习资源,本站收集的文章都会附上文章出处,如果不愿意分享到本平台,我们会第一时间删除!