第一课：为什么计算机视觉能够发展迅速
大数据以及算法开发将会使智能系统的测试误差逐渐趋近于贝叶斯最优误差。这个结果将会导致人工智能的表现全方位超越人类，其中包括自然识别方面的工作。像TensorFlow这样的开源软件，就可以帮助你用迁移学习的方法迅速实现其任何物体的探测器。用迁移学习的方法你只需要大约100-500个训练实例就可以得到很好的结果。手动标记100个实例的工作量并不太，所以你可以很快得到一个最小化可用模型。
第二课：卷积是如何工作的？
吴恩达解释了如何实现卷积算符并展示了如何用它检测物体边缘。他同时还解释了其他的过滤器，比如说索贝尔过滤器(Sobel filter)，这种过滤器在图像边缘中部采用更大的比重。然后，吴恩达解释了这些过滤器的比重并不是靠人为设计的，而是依靠类似于梯度下降的这样的爬山算法由计算机自行训练出来的。
第三课：为什么要用卷积？
吴恩达透彻的解释了卷积适用于图像识别的原因。其中有两个具体的原因。第一个是参数共享。大体的想法是如果一个特征探测器对于图像的某一部分很有效，这个探测器很可能对图像的其他部分也有效。比如说，一个边缘探测器可能对图像的很多部分都有用。特征分享的方法能够降低系统参数的数量，同时能够带来稳健的平移不变性(translation invariance)。平移不变性是一个概念，意思是比如说有一张猫的图片，即使是经过了移动和旋转，依旧是一只猫的图片。
第二个原因被称作稀疏连结性，即每个输出层仅仅由很小一部分输入结点计算得到（更具体一些，输入的数量是过滤器数量的平方）。用这个方法可以极大的减少网络中参数的数量，提高训练速度。
第四课：为什么使用填充（Padding）？
填充通常用来保持输入的数量（也就是说，使得输入输出的维度相同）。用这个方法也可以保证在进行训练时，来自图片边缘的贡献和来自中心的贡献相当。
第五课：为什么使用最大池化层（Max Pooling）？
实证研究证明，最大池化层对于CNN非常有效。通过对图像向下取样，我们减少了参数数量，同时也确保图像特征在图像尺度变化或者方向变化时保持不变。
第六课：经典网络架构
吴恩达展示了3种经典的神经网络架构，包括LeNet-5, AlexNet 和VGG-16。他所展示的主要观点是一个有效的神经网络通常是通道的数目不断上升，宽度和高度不断下降。
第七课：为什么ResNets 有效？
对于一般的神经网络，由于梯度的消失和爆炸，训练误差并不会随着网络层数的增加而单调递减。然而对于ResNets而言，可以通过向前跳跃性连接，让你在训练一个很大的神经网络时，误差单调下降，性能单调递增。
第八课：使用迁移学习！
如果从头开始训练一个像inception这种结构巨大的神经网络，即使在GPU上训练也可能需要好几周的时间。你可以下载经过预训练得到的权重，然后只重新训练最后的softmax层（或者最后几个层）。这个会极大缩短训练时间。这种方法有效的原因是前几层所训练的特征很可能是诸如边界或者弯曲线条之类的所有图像的共同特征。
第九课：如何在计算机视觉竞赛中获胜
吴恩达解释说，你需要独立的训练多个神经网络然后取结果的平均值，来获得更好的结果。一些数据增强的技术，比如说随机裁剪图片，沿水平垂直轴翻转图像可以帮助提升模型表现。总之，你一开始应该使用开源软件库和预训练模型，然后根据自己要解决的问题不断细化模型，调整参数。
第十课：如何实现对象检测
首先，吴恩达解释了从图片中检测标志性物体的思路。基本上来说，这些标志性物体将成为最终输出结果的一部分。通过一些有效的卷积操作，你会得到一个输出值，表示一个物体出现在某个区域的概率和区域的位置。同时，他解释了如何通过交集并集商评估对象检测器的有效性。最后，吴恩达结合所有构成要素，解释了著名的YOLO算法。
第十一课：如何实现面部识别
面部识别是一个单样本学习(one-shot learning)问题，因为你有可能只能根据一张示例图片来辨别一个人。解决问题的方法是使用相似性函数，这个函数可以给出两个图像之间的相似程度。所以，如果两张图像是同一个人，你希望这个函数输出一个较小的数值；不同人的两张图像则输出较大的数值。
吴恩达给出的第一个解决方案被称作siamese网络。它的基本思路是将两张不同的图片输入到同一个神经网络然后比较结果。如果输出相似性很高，那么很有可能是同一个人。神经网络训练的目标就是如果两个输入的图片是同一个人，那么输出的结果距离相对很小。
对于第二种解决方案，他给出了一个三元损失方法(triplet loss method)。这个方法是，从三张图片（Anchor (A), Positive (P) and Negative (N)）训练得到一个神经网络，使得 A与P 的结果相似程度远远高于A与N的结果相似程度。
第十二课：如何用神经风格迁移(Neural Style Transfer)的方法创造艺术作品
吴恩达解释了如何结合风格和内容创造新的图画。示例如下。神经风格迁移方法的核心在于充分理解神经网络中每一个卷积层对应的具体的视觉表征。实际表明，网络当中前几层通常学习简单的特征，比如图像边缘。后几层通常学习一些复杂的对象，比如脸，脚，汽车等。
为了创建一个神经风格转移图画，你只需要定义一个结合风格和内容相似性的凸函数作为损失函数。具体而言，这个函数可以写成：
在这个方程中，G是被创造出的图像，C是图像内容，S是图像风格。简单的采用梯度下降法来对损失函数就生成图像求最小值。
基本步骤如下：
随机生成G。
使用梯度下降方法最小化J(G)，通过这个等式: G:=G-dG(J(G))
重复第二步。
结论：
完成这门课程之后，你会对大量计算机视觉方面的文献有一个直观的认识。同时课后作业让你有机会自己实现部分算法。完成这门课程后，你不会很快成为一个计算机视觉方面的专家，但是它可能会开启你计算机视觉相关的想法和事业。
