什么是全连接神经网络?

什么是全连接神经网络?

  1. 解释全连接神经网络之前我们首先需要了解什么是神经网络?
      人工神经网络(Artificial Neural Network, ANN)简称神经网络,可以对一组输入信号和一组输出信号之间的关系进行模拟,是机器学习和认知科学领域中一种模仿生物神经网络的结构和功能的数学模型。用于对函数进行估计或近似,其灵感来源于动物的中枢神经系统,特别是大脑。神经网络由大量的人工神经元(或节点)联结进行计算,大多数情况下人工神经网络能在外界信息的基础上改变内部结构,是一种自适应系统。

  2. 那么神经网络模型中 是怎么输入和输出数据的呢?
      过程:它在具有n个输入一个输出的单一的神经元模型的结构中,神经元接受来自n个其他神经元传递过来的输入(树突)信号,这些输入信号通过带权重的连接(轴突)进行传递,神经元收到总输入值将经过激活函数f处理后产生神经元输出(轴突末梢)。
    神经元

  3. 全连接神经网络是神经网络的进一步层次叠加——多层的感知机
      全连接神经网络(Multi-Layer Perception, MLP)或者叫多层感知机,是一种连接方式较为简单的人工神经网络结构,属于前馈神经网络的一种,其主要由输入层、隐藏层和输出层构成,并且在每个隐藏层中可以有多个神经元。在这里插入图片描述   ◎输入层仅接收外界输入,不进行任何函数处理,所以输入层的神经元个数往往和输入的特征数量相同。

      ◎隐藏层和输出层神经元对信号进行加工处理,最终结果由输出层神经元输出。而根据隐藏层的数量又可以分为单隐藏层MLP和多隐藏层MLP。每个隐藏层的神经元数量是可以变化的,通常没有一个很好的标准用于确定每层神经元的数量和隐藏层的个数,这也是目前一直测试和探索的。

      随着网络的层数增加,每一层对于前一层次的抽象表示更深入。在神经网络中,每一层神经元学习到的是前一层神经元值的更抽象的表示。例如第一个隐藏层学习到的是"图标”的特征,第二个隐藏层学习到的是由"图标”组成的"图片”的特征,最后的隐藏层学习到的是由"图片"组成的“视频”的特征。当然层数增加之后,便有更多的神经元则就会有更强的表示能力,同时更容易造成网络的过拟合,所以在使用全连接神经网络时,对模型泛化能力的测试很重要,最好的方式是在训练模型时,使用验证集来验证模型的泛化能力,且尽可能地去尝试多种网络结构,以寻找更好的模型,当然这样往往需要耗费大量的时间。

      以上是对全连接神经网络的初步理论认识,对于它不同层次模型的建立您可以在本栏目查阅。

文章出处登录后可见!

已经登录?立即刷新

共计人评分,平均

到目前为止还没有投票!成为第一位评论此文章。

(0)
心中带点小风骚的头像心中带点小风骚普通用户
上一篇 2023年2月25日 下午4:01
下一篇 2023年2月25日 下午4:02

相关推荐