1.视频网站：mooc慕课https://mooc.study.163.com/university/deeplearning_ai#/c 2.详细笔记网站(中文)：http://www.ai-start.com/dl2017/ 3.github课件+作业+答案：https://github.com/stormstone/deeplearning.ai
上节课，我们学习了如何通过CNN实现滑动窗口对象检测算法，但效率很低。这节课我们讲讲如何在卷积层上应用这个算法。
为了构建滑动窗口的卷积应用，首先要知道如何把NN的全连接层转化成卷积层。我们先讲解这部分内容，后面我们将按照这个思路来演示卷积的应用过程。
如上图，假设
对象检测算法输入一个14×14×3的图像，图像很小，不过演示起来方便。过滤器大小为5×5，数量是16，14×14×3的图像在过滤器处理之后映射为10×10×16。然后通过参数为2×2的最大池化操作，图像减小到5×5×16。然后添加一个连接400个单元的全连接层接着再添加一个全连接层最后通过softmax单元输出 y y y。为了跟下图区分开，我先做一点改动，用4个数字来表示 y y y，它们分别对应softmax单元所输出的4个分类出现的概率。这4个分类可以是行人、汽车、摩托车和背景或其它对象。
现在我要演示的就是如何把全连接层转化为卷积层。
如上图下半部分，画一个这样的CNN，它的前几层和之前的一样，而对于第一个全连接层，我们可以用5×5的过滤器来实现，数量是400个，输入图像大小为5×5×16，用5×5的过滤器对它进行卷积操作，过滤器实际上是5×5×16，因为在卷积过程中，过滤器会遍历这16个通道，所以这两处的通道数量必须保持一致，输出结果为1×1。
假设应用400个这样的5×5×16过滤器，输出维度就是1×1×400，我们不再把它看作一个含有400个节点的集合，而是一个1×1×400的输出层。从数学角度看，它和全连接层是一样的，因为这400个节点中每个节点都有一个5×5×16维度的过滤器，所以每个值都是上一层这些5×5×16激活值经过某个任意线性函数的输出结果。
我们再添加另外一个卷积层，这里用的是1×1卷积，假设有400个1×1的过滤器，在这400个过滤器的作用下，下一层的维度是1×1×400，它其实就是上个网络中的第二个全连接层。最后经由1×1过滤器的处理，得到一个softmax激活值，通过CNN，我们最终得到1×1×4的输出层，而不是图中上半部分softmax最终输出的4个数字。
以上就是用卷积层代替全连接层的过程，结果2个全连接层单元集变成了1×1×400和1×1×4的维度。
掌握了卷积知识，我们再看看如何通过卷积实现滑动窗口对象检测算法。 本课中的内容借鉴了关于OverFeat的论文，它的作者包括Pierre Sermanet，David Eigen，张翔，Michael Mathieu，Rob Fergus，Yann LeCun。
假设向滑动窗口CNN输入14×14×3的图片，为了简化演示和计算过程，这里我们依然用14×14的小图片。和前面一样，NN最后的输出层，即softmax单元的输出是1×1×4，我画得比较简单，严格来说，14×14×3应该是一个长方体，第二个10×10×16也是一个长方体，但为了方便，我只画了正面。所以，对于1×1×400的这个输出层，我也只画了它1×1的那一面，所以这里显示的都是平面图，而不是3D图像。
假设输入给CNN的图片大小是14×14×3，测试集图片是16×16×3，现在给这个输入图片加上黄色条块，在最初的滑动窗口算法中，你会把这片蓝色区域输入CNN（红色笔标记）生成0或1分类。
接着滑动窗口，步幅为2个像素，向右滑动2个像素，将这个绿框区域输入给CNN，运行整个CNN，得到另外一个标签0或1。
继续将这个橘色区域输入给CNN，卷积后得到另一个标签。
最后对右下方的紫色区域进行最后一次卷积操作。
我们在这个16×16×3的小图像上滑动窗口，CNN运行了4次，于是输出了了4个标签。
结果发现，这4次卷积操作中很多计算都是重复的。滑动窗口的卷积应用，使得CNN在这4次操作过程中很多计算都是重复的。
尤其是在上图这一步操作中，CNN运行同样的参数，使用相同的5×5×16过滤器进行卷积操作，得到12×12×16的输出层。
然后执行同样的最大池化，输出结果6×6×16。
照旧应用400个5×5的过滤器，得到一个2×2×400的输出层。现在输出层为2×2×400，而不是1×1×400。
应用1×1过滤器得到另一个2×2×400的输出层。
再做一次全连接的操作，最终得到2×2×4的输出层，而不是1×1×4。
最终，在输出层这4个子方块中，
蓝色的是图像左上部分14×14的输出（红色箭头标识），右上角方块是图像右上部分（绿色箭头标识）的对应输出，左下角方块是输入层左下角（橘色箭头标识），也就是这个14×14区域经过CNN处理后的结果，右下角这个方块是CNN处理输入层右下角14×14区域(紫色箭头标识)的结果。如果你想了解具体的计算步骤，以上图中绿色方块为例。假设你剪切出这块区域（编号1），传递给CNN，
第一层的激活值就是这块区域
最大池化后的下一层的激活值是这块区域
这块区域对应着后面几层输出的右上角方块。
所以该卷积操作的原理是我们不需要把输入图像分割成四个子集，分别执行前向传播，而是把它们作为一张图片输入给CNN进行计算，其中的公共区域可以共享很多计算，就像这里我们看到的4个14×14的方块一样。
下面我们再看一个更大的图片样本
如上图，假如对一个28×28×3的图片应用滑动窗口操作，如果以同样的方式运行前向传播，最后得到8×8×4的结果。
跟上一个范例一样，以14×14区域滑动窗口，首先在这个区域应用滑动窗口，其结果对应输出层的左上角部分。接着以大小为2的步幅不断地向右移动窗口，直到第8个单元格，得到输出层的第一行。
然后向图片下方移动，最终输出这个8×8×4的结果。因为最大池化参数为2，相当于以大小为2的步幅在原始图片上应用NN。
总结一下滑动窗口的实现过程，在图片上剪切出一块区域，假设它的大小是14×14，把它输入到CNN。
继续输入下一块区域，大小同样是14×14，重复操作，直到某个区域识别到汽车。
但是正如前面介绍过的，我们不能依靠连续的卷积操作来识别图片中的汽车。比如，我们可以对大小为28×28的整张图片进行卷积操作，一次得到所有预测值，如果足够幸运，NN便可以识别出汽车的位置。
以上就是在卷积层上应用滑动窗口算法的内容，它提高了整个算法的效率。不过这种算法仍然存在一个缺点，就是边界框的位置可能不够准确。下节课，我们将学习如何解决这个问题。
