深度学习分类网络总结
- AlexNet
前言
一、网络结构
尺寸、参数量(parameters)、浮点运算次数(FLOPs)
二、亮点
1. ReLU激活函数
2. GPU并行训练
3. 局部响应归一化
4. 重叠池化
5. 防止过拟合
5.1 数据增强
5.2 Dropout
6. 训练策略
6.1 SGD with momentum and weight decay
6.2 权重初始化
6.3 学习率下降
总结
- 神经网络中的激活函数总结
- 深度学习中的归一化技术总结
- 过拟合解决方法总结
- 深度学习中的常用优化器
- 神经网络中的常用权重初始化方法
- 学习率衰减策略总结
文章出处登录后可见!
已经登录?立即刷新