【摘要】 目录深度学习-神经网络摘要神经网络浅层神经网络深层神经网络激活函数反向传播损失(loss)卷积神经网络局部感受野卷积核共享权值池化迁移学习对抗网络深度学习-神经网络摘要机器学习是人工智能的核心,而深度学习又是机器学习的核心。三者关系可用如下图来表示。人工神经网络(ArtificialNeuralNetworks,简写为ANNs)也简称为神经网络(NNs)或称作连接模型
机器学习是人工智能的核心,而深度学习又是机器学习的核心。三者关系可用如下图来表示。
人工神经网络(Artificial Neural Networks,简写为ANNs)也简称为神经网络(NNs)或称作连接模型(Connection Model),它是一种模仿动物神经网络行为特征,进行分布式并行信息处理的算法数学模型。
首先认识一下人脑的神经元之间的联系
神经网络仿照人脑的神经元结构之间的联系,当某个神经元的轴突电信号强度达到一定程度时,就会触发将信号传递到下一个神经元。在传递的过程中加上一些对数据处理的操作,从而达到处理传递信息的目的。上面的信号其实就是数值或者多维矩阵。
神经网络
神经网络又分为两种,一种是浅层神经网络,另一种是深层神经网络,顾名思义可知,深层神经网络要比浅层神经网络复杂。
深层神经网络
上面两图中的圆圈则代表神经元,连线则代表上一层神经元对下一层神经元的信号传递
与浅层神经网络相比,深层神经网络具有更复杂的模型结构,并且层次结构较多,神经网络采用全连接的方式将神经元之间的信号进行传递,浅层神经网络则是非全连接,或者单层全连接。
- 全连接:是上一层的每个神经元都连接到下一层所有的神经元
- 非全连接:一个神经元连接一个或者下一层的其中几个神经元
每个神经元链接下一层多个神经元,由于不同神经元对该神经元的信号的Value不同,所以通过设置权重(Weight)的方式来降低或提高该神经元传递过来的信号。
其关系满足 y = Wx B
- w:weight权重,对该神经元的重视(需求)程度,也就是上面所说的数据处理阶段,一般总weight(w1 w2 w3)为1
- x:传递过来的信号量的值
- b:为偏移量,对于在线性分类问题,偏移量是不可或缺的。
上图如果没有偏移量的话,该直线就会过原点。
显然分类效果就不会好,通过加上一个大于0的偏移量b使得分类器往左平移。
- y:是加权后的值,激活函数的参数x就是所有y的和