机器学习之反向传播算法研究

一、付出与收获文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

诗《悯农》中有这么两句：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

春种一粒粟，秋收万颗子。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

问：如果一个农夫春天种下10粒种子，那么他秋天能收多少粮食？文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

因为一颗对一万颗，所以10颗种子收获的粮食为：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

颗。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

这是通常的做法儿，从机器学习的角度又该怎么解答呢？文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

首先建立一个模型。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

假设种下x粒种子，可以收获y颗粮食。付出与收获成正比，比例因子为ω。于是得出学习模型如下：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

于是，问题就转化为，用该模型预测当种下：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

颗种子时，可以收获的粮食数:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

问题的关键是确定参数ω。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

ω可以通过训练来确定，也就是所谓的机器学习。但要训练参数，首先要有训练数据。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

从已知条件“春种一粒粟，秋收万颗子”中，可以提炼出一组训练数据：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

有了模型，有了数据，就可以开始训练了。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

问题是训练什么？怎么训？文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

训练的目的是确定未知参数ω，依据是预测和目标趋于一致。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

预测值：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

目标值：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

我们把预测值和目标值的偏差：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

定义为损失函数。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

训练的目标就转化为：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

首先，给ω一个初值：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

偏差为：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

为了使偏差趋于0，该如何调ω呢，调大还是调小？文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

调整之前，先分析一下，ω参数对损失函数：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

的影响。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

对损失函数求导：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

也就是说，ω和损失函数E(ω)的变化趋势相反。ω增加，E(ω)减小，ω减小，E(ω)也增加。并且增加或减小的量和E'(ω)相关。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

可以看出来，导数值的符号反应了损失函数上升的方向，导数值的大小反应了上升得速率。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

例如，这里的-1。符号为负，表示ω往负方向走，损失函数增加。值为1，表示ω走1单位，损失函数也增加1个单位。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

如果将导数看成一个矢量，它反映的就是损失函数的上升速度。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

由于我们的目标是要损失函数下降，和导数正好相反，所以就可以用负导数的方向作为参数调整的方向，导数值乘以一个系数作为参数调整的大小，公式表示如下：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

由于这里讨论的是一维空间，导数和梯度相等，高于一维的空间用的实际是梯度。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

所以这种调参的策略又叫梯度下降法。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

有了梯度下降公式，设η=1，有：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

偏差为：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

继续重复以上过程，直至：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

偏差为：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

得到参数：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

训练结束。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

将训练得到的参数值：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

带入模型：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

得到确定的模型：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

将：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

带入模型，得到预测值：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

问题得解。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

二、例子总结文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

通过上面的例子，对机器学习解决问题的过程算是有一个大致的了解。无非就是：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

1. 创建模型；
2. 学习参数；
3. 预测结果；

模型的创建要视具体的问题而定，不同的问题可能需要设计不同的模型。对模型的要求是对问题有足够的描述能力，也就是说能够反应训练数据输入输出的因果关系。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

这就好比学开车，首先要确定你四肢是不是健全，眼睛是不是色盲。目的就是看你是不是具备操作方向盘、油门、离合以及分辨红绿灯的能力。只有这些能力都具备了，你才能驾驭开车这件事儿。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

但是，能力只是前提条件，要想会做，还要学习。对于模型来说，就是调整参数，使训练数据的输入和输出一一对应。对于学车来说就是根据不同的路况，执行不同的驾驶动作。其本质也是输入输出相互对应。比如，遇到红灯，要踩刹车停车等待。红灯信号就是输入，踩刹车的动作就是输出。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

所以，学习的实质就是建立因果关系。输入特定的因，输出对应的果。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

那如何学习呢？和标准因果比对。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

对于学车来说，红灯和刹车就是标准因果。看到红灯踩刹车就是正确操作。如果看到红灯你踩了油门，和标准不一致，那就错了。你需要反复比对、调整，直至正确的因果关系建立，学习也就完成了。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

对于机器学习来说，训练数据就是标准因果。输入数据是标准因，输出数据是标准果。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

学习的过程就是给模型输入标准因，拿输出跟标准果进行比对，如果不一致则调整参数，如此反复，直至和标准果相同或足够接近。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

学习结束以后，参数固定下来，模型就具备了预测能力，能够用于处理类似的问题。就好比，一旦红灯和刹车在你脑海里建立了联系，不管是在北京还是上海，广州还是深圳，只要是红灯的场景，你都会采取同样的刹车动作，因为你已经具备了处理这类问题的能力。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

学习好的机器模型也同样就具备了某种能力，可以自动的处理某一类问题。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

三、梯度下降算法文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

前面举了只有一个参数的模型，主要用于说明机器学习的过程和原理。而在实际的应用中，参数通常会有很多。ω不再是一个单纯的数，而是一个多维的向量，输入输出也是。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

此时的模型可以用：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

来表示。其中y、ω、x都是多维向量。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

但不管模型如何复杂，参数如何多，学习的方法基本一样。都是通过预测值和标准值的偏差来调整参数。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

偏差的大小跟参数ω有关，是ω的函数，如下：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

参数虽然多，但不用害怕，我们采用分而治之的策略将其简化。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

首先，假设只有一个参数​，其它的保持不变。根据我们开头付出与收获的例子，可以得到参数调整如下：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

而其它参数不变，只对其中一个求导，又叫偏导，可以用下式表示：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

依次类推可以得到所有参数的调整策略：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

所有参数的偏导数放到一块儿：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

叫梯度，它指向损失函数上升最快的方向。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

所以参数的调整策略就可以统一到一个公式表示：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

这就是梯度下降算法。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

它的效果直观看起来是这样的：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

四、反向传播算法文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

反向传播算法主要用于神经网络。神经网络没有什么神秘的，也无非就是众多学习模型中的一类。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

但这类模型有一个特点，就是傻瓜化。基本上不用费太多的神思去设计模型，只需要根据问题的规模增删网络节点和层数，总能满足你的要求。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

因为已经有人证明过，只要规模够大，神经网络基本可以拟合任何你可以想出来的函数。就像信号处理界的傅里叶变换。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

但不好的是，参数特别多，学习起来比较耗时费力。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

所以，你需要的就是大量的训练数据，加上强大的计算机处理能力。剩下的就可以交给时间。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

好在现在的计算机处理能力有了大幅度的提升，互联网上的数据也呈爆炸式的增长，这也是当前神经网络比较有效的重要原因。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

言归正传，继续反向传播算法。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

前面说过，不管再复杂的系统，再多的参数。学习的根本大法不变，比较、调参，比较、调参，直到满意的结果为止。调参的策略就是梯度下降。神经网络也不例外。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

那既然这样，反向传播算法又是个什么东东？文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

我们知道，梯度下降需要求偏导。这对简单的模型不算什么，可如果是成百上千层，有千万甚至上亿参数的神经网络呢？能计算得出来吗？即使能计算得出来，一个一个算，得算到什么时候？文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

反向传播算法算法解决的就是如何快速求偏导的问题。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

本着复杂问题简单化的指导思想，举一个简单的例子。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

有这么一个简单的神经网络：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

其中：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

偏差：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

为了训练这个神经网络，得出各个ω参数的值，需要最小化这个偏差。可以采用梯度下降算法来做，如下：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

问题的关键是求偏差函数的梯度。也就是求各个参数的偏导数。首先看第一个参数：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

一脸懵，不知道从何下手。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

没关系，先从网络结构上理一下各个量之间的关系：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

求偏导:文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

对比偏导结果和神经网络结构图，是不是发现了什么规律？文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

每个参数的偏导数只跟正向传播的输入和输出路径上的参数有关。如果由后往前看，偏导数好像是顺着路径在反向传播一样。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

这样，对于一个神经网络，只要知道每个节点的正向传播输入，以及由后到前到达该节点的路径上的参数就可以得到该节点的参数的偏导数。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

利用神经网络的这种规律计算梯度的算法就叫做反向传播算法。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

所以，反向传播算法不是独立的优化算法，它要结合着梯度下降算法来用。是计算梯度下降的算法。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

为什么参数的偏导数会有这种特点？文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

其实，结合神经网络的结构，就会发现其实不难理解。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

偏导数的含义是，单个参数的变化对整体结果的影响。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

由于整个神经网络的通路上的参数是相乘的关系。参数变化首先会作用于输入，然后沿着路径向后传播，每过一个节点都会被放大或缩小，放大或缩小的倍数是跟节点的参数有关的。所以最终反应到整体结果上就是输入和路径参数的连乘了。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

五、题外文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

知道了反向传播和偏导数的特点，一些相关的术语也就很容易理解了。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

比如，梯度消失和梯度爆炸。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

如果神经网络的层数比较多，每一层上的参数都小于1，那么由反向传播算法可知，由后向前经过一些层以后，由于偏导是连乘的结果，就会导致前面一些层的偏导趋于0，参数得不到学习，到达不了理想的目标点。这就是梯度消失。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

梯度爆炸正好相反，如果每一层的参数都大于1，连乘以后层层放大，导致偏导过大，从而跳过目标点。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

不管是梯度消失还是梯度爆炸，对机器学习都是不利的。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

这也是为什么目前的神经网络中，激活函Sigmoid被ReLU取代的原因。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

下图左侧是Sigmoid原函数，右侧是其导数。可以看出来，即使是最大值也才，所以放到神经网络路径上极易造成梯度消失。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

下图是ReLU函数，可以看出来，当函数值大于0时，其导数恒为1，连乘后也不会缩小或放大，有效的避免了梯度消失和爆炸。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

学习率。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

在我们的参数调整策略公式中：文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

参数η就叫学习率。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

学习率的大小对学习过程的影响很大。如果设的太小就会导致学习速度太慢，加长学习时间。如果设的太大，导致震荡，或发散，影响最终效果。文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html

（本文部分图片来自于网络，如有侵权请联系作者删除）文章源自菜鸟学院-https://www.cainiaoxueyuan.com/ai/13294.html