前言目录前言1998年：LeNet2012年：AlexNet2014年：VGG2014年：GoogLeNet2015年：Batch Normalization2015年：ResNet2016年：Xception2017年：MobileNet2017年：NASNet2019年：EfficientNet其他2014年：SPPNet2016年：DenseNet2017年：SENet2017年：ShuffleNet2018：Bag of Tricks结论Reference盘算机视觉是将图像和视频转换成机械可明白的信号的主题。使用这些信号，法式员可以基于这种高级明白来进一步控制机械的行为。在许多盘算机视觉任务中，图像分类是最基本的任务之一。

它不仅可以用于许多实际产物中，例如Google Photo的标签和AI内容审核，而且还为许多更高级的视觉任务（例如物体检测和视频明白）打开了一扇门。自从深度学习的突破以来，由于该领域的快速变化，初学者经常发现它太鸠拙，无法学习。与典型的软件工程学科差别，没有许多关于使用DCNN举行图像分类的书籍，而相识该领域的最佳方法是阅读学术论文。可是要读什么论文？我从哪说起呢？在本文中，我将先容10篇最佳论文供初学者阅读。

通过这些论文，我们可以看到该领域是如何生长的，以及研究人员如何凭据以前的研究结果提出新的想法。可是，纵然您已经在此领域事情了一段时间，对您举行大规模整理仍然很有资助。本文涉及论文已打包，盘算机视觉同盟 后台回复“9079”获取下载链接1998年：LeNet梯度学习在于文档识别中的应用​摘自“ 基于梯度的学习应用于文档识别”LeNet于1998年推出，为使用卷积神经网络举行未来图像分类研究奠基了基础。

许多经典的CNN技术（例如池化层，完全毗连的层，填充和激活层）用于提取特征并举行分类。借助均方误差损失功效和20个训练周期，该网络在MNIST测试集上可以到达99.05％的精度。

纵然经由20年，仍然有许多最先进的分类网络总体上遵循这种模式。2012年：AlexNet深度卷积神经网络的ImageNet分类​摘自“ 具有深度卷积神经网络的ImageNet分类”只管LeNet取得了不错的结果并显示了CNN的潜力，但由于盘算能力和数据量有限，该领域的生长停滞了十年。看起来CNN只能解决一些简朴的任务，例如数字识别，可是对于更庞大的特征（如人脸和物体），带有SVM分类器的HarrCascade或SIFT特征提取器是更可取的方法。

可是，在2012年ImageNet大规模视觉识别挑战赛中，Alex Krizhevsky提出了基于CNN的解决方案来应对这一挑战，并将ImageNet测试装置的top-5准确性从73.8％大幅提高到84.7％。他们的方法继续了LeNet的多层CNN想法，可是大大增加了CNN的巨细。从上图可以看到，与LeNet的32x32相比，现在的输入为224x224，与LeNet的6相比，许多卷积内核具有192个通道。

只管设计变化不大，但参数变化了数百次，但网络的捕捉和表现庞大特征的能力也提高了数百倍。为了举行大型模型训练，Alex使用了两个具有3GB RAM的GTX 580 GPU，这开创了GPU训练的先河。同样，使用ReLU非线性也有助于降低盘算成本。

除了为网络带来更多参数外，它还通过使用 Dropout层探讨了大型网络带来的过拟合问题。其局部响应归一化方法今后并没有获得太大的普及，可是启发了其他重要的归一化技术（例如BatchNorm）来解决梯度饱和问题。综上所述，AlexNet界说了未来十年的实际分类网络框架：卷积，ReLu非线性激活，MaxPooling和Dense层的组合。

2014年：VGG超深度卷积网络用于大规模图像识别​来自Quora“ https://www.quora.com/What-is-the-VGG-neural-network”在使用CNN举行视觉识别方面取得了庞大乐成，整个研究界都大吃一惊，所有人都开始研究为什么这种神经网络能够如此精彩地事情。例如，在2013年揭晓的“可视化和明白卷积网络”中，Matthew Zeiler讨论了CNN如何获取特征并可视化中间表现。

突然之间，每小我私家都开始意识到CNN自2014年以来就是盘算机视觉的未来。在所有直接关注者中，Visual Geometry Group的VGG网络是最吸引眼球的网络。

在ImageNet测试仪上，它的top-5准确度到达93.2％，top-1准确度到达了76.3％。遵循AlexNet的设计，VGG网络有两个主要更新：1）VGG不仅使用了像AlexNet这样的更广泛的网络，而且使用了更深的网络。VGG-19具有19个卷积层，而AlexNet中只有5个。

2）VGG还展示了一些小的3x3卷积滤波器可以取代AlexNet的单个7x7甚至11x11滤波器，在降低盘算成本的同时实现更好的性能。由于这种优雅的设计，VGG也成为了其他盘算机视觉任务中许多开拓性网络的主干网络，例如用于语义支解的FCN和用于工具检测的Faster R-CNN。随着网络的深入，从多层反向流传中梯度消失成为一个更大的问题。为相识决这个问题，VGG还讨论了预训练和权重初始化的重要性。

这个问题限制了研究人员继续添加更多的层，否则，网络将很难融合。可是两年后，我们将为此找到更好的解决方案。2014年：GoogLeNet更深卷积​摘自“ Going Deeper with Convolutions”VGG具有漂亮的外观和易于明白的结构，但在ImageNet 2014竞赛的所有决赛入围者中体现都不佳。

GoogLeNet（又名InceptionV1）获得了最终奖。就像VGG一样，GoogLeNet的主要孝敬之一就是 接纳22层结构来突破网络深度的限制。这再次证明，进一步深入确实是提高准确性的正确偏向。

与VGG差别，GoogLeNet试图直接解决盘算和梯度递减问题，而不是提出具有更好的预训练模式和权重初始化的解决方法。​Bottleneck Inception Module From “ Going Deeper with Convolutions”首先，它 使用称为Inception的模块探索了非对称网络设计的思想 （请参见上图）。理想情况下，他们希望接纳稀疏卷积或麋集层来提高特征效率，可是现代硬件设计并非针对这种情况。

因此，他们认为，网络拓扑级此外稀疏性还可以在使用现有硬件功效的同时，资助融合功效。其次，它通过借鉴论文“网络中的网络”来解决高盘算成本的问题。基本上， 引入1x1卷积滤波器以在举行繁重的盘算操作（如5x5卷积内核）之前减小特征的尺寸。

以后将该结构称为“ Bottleneck ”，并在许多后续网络中广泛使用。类似于“网络中的网络”，它还使用平均池层取代最终的完全毗连层，以进一步降低成本。第三，为了资助梯度流向更深的条理，GoogLeNet还对某些中间层输出或辅助输出使用了监视。

由于其庞大性，该设计厥后在图像分类网络中并不十分盛行，可是在盘算机视觉的其他领域（如Hourglass网络）的姿势预计中越来越盛行。作为后续行动，这个Google团队为此Inception系列写了更多论文。

“批处置惩罚规范化：通过淘汰内部协变量偏移来加速深度网络训练”代表 InceptionV2。2015年的“重新思考盘算机视觉的Inception架构”代表 InceptionV3。2015年的“ Inception-v4，Inception-ResNet和残余毗连对学习的影响”代表 InceptionV4。每篇论文都对原始的Inception网络举行了更多革新，并取得了更好的效果。

2015年：Batch Normalization批处置惩罚规范化：通过淘汰内部协变量偏移来加速深度网络训练初始网络资助研究人员在ImageNet数据集上到达了超人的准确性。可是，作为一种统计学习方法， CNN很是受特定训练数据集的统计性质的限制。因此，为了获得更高的准确性，我们通常需要预先盘算整个数据集的平均值和尺度偏差，并使用它们首先对我们的输入举行归一化，以确保网络中的大多数层输入都精密，从而转化为更好的激活响应能力。

这种近似方法很是贫苦，有时对于新的网络结构或新的数据集基础不起作用，因此深度学习模型仍然被认为很难训练。为相识决这个问题，建立GoogLeNet的人Sergey Ioffe和Chritian Szegedy决议发现一种更智慧的工具，称为“ 批量尺度化 ”。​摘自“ 批量尺度化：通过淘汰内部协变量偏移来加速深度网络训练”批量规范化的想法并不难：只要训练足够长的时间，我们就可以使用一系列小批量的统计数据来近似整个数据集的统计数据。而且，取代手动盘算统计信息，我们可以引入两个更多可学习的参数 “缩放” 和 “移位” ，以使网络学习如何单独对每一层举行规范化。

上图显示了盘算批次归一化值的历程。如我们所见，我们取整个小批量的平均值，并盘算方差。

接下来，我们可以使用此最小批量均值和方差对输入举行归一化。最后，通过比例尺和位移参数，网络将学会调整批尺度化效果以最适合下一层，通常是ReLU。一个警告是我们在推理期间没有小批量信息，因此一种解决方法是在训练期间盘算移动平均值和方差，然后在推理路径中使用这些移动平均值。

这项小小的创新是如此具有影响力，所有厥后的网络都立刻开始使用它。2015年：ResNet深度残差学习用于图像识别2015年可能是十年来盘算机视觉最好的一年，我们已经看到许多伟大的想法不仅泛起在图像分类中，而且还泛起了种种各样的盘算机视觉任务，例如工具检测，语义支解等。2015年属于一个名为ResNet或残差网络的新网络，该网络由Microsoft Research Asia的一组中国研究人员提出。​摘自“ 用于图像识此外深度残差学习”正如我们之前在VGG网络中所讨论的，要变得更深，最大的障碍是梯度消失问题，即，当通过更深的层向后流传时，导数会越来越小，最终到达现代盘算机体系结构无法真正代表的田地有意义地。

GoogLeNet实验通过使用辅助羁系和非对称启动模块来对此举行攻击，但只能在较小水平上缓解该问题。如果我们要使用50甚至100层，是否会有更好的方法让渐变流过网络？ResNet的谜底是使用残差模块。

剩余的模块从“ 深残余学习图像识别”ResNet在输出中添加了身份标识快捷方式，因此每个残差模块至少都不能预测输入是什么，而不会迷失偏向。更为重要的是，残差模块不是希望每个图层都直接适合所需的特征映射，而是实验相识输出和输入之间的差异，这使任务变得越发容易，因为所需的信息增益较小。

想象一下，您正在学习数学，对于每个新问题，都将获得一个类似问题的解决方案，因此您所要做的就是扩展此解决方案并使其起作用。这比为您遇到的每个问题想出一个全新的解决方案要容易得多。或者像牛顿所说，我们可以站在巨人的肩膀上，身份输入就是剩余模块的谁人巨人。除了身份映射，ResNet还从Inception网络借用了瓶颈和批处置惩罚规范化。

最终，它乐成构建了具有152个卷积层的网络，并在ImageNet上实现了80.72％的top-1准确性。剩余方法也成为厥后的许多其他网络（例如Xception，Darknet等）的默认选项。

此外，由于其简朴雅观的设计，如今它仍广泛用于许多生产视觉识别系统中。通过追踪残差网络的炒作，另有更多稳定式泛起。在“深层残差网络中的身份映射”中，ResNet的原始作者试图将激活放在残差模块之前，并获得了更好的效果，此设计今后称为ResNetV2。同样，在2016年的论文《深度神经网络的聚合残差变换》中，研究人员提出了ResNeXt，该模型为残差模块添加了并行分支，以汇总差别变换的输出。

2016年：XceptionXception：深度学习与深度可分卷积摘自“ Xception：深度学习与深度可分卷积”随着ResNet的公布，图像分类器中大多数低挂的水果看起来已经被抢走了。研究人员开始思量CNN魔术的内部机制是什么。由于跨通道卷积通常会引入大量参数，因此Xception网络选择观察此操作以相识其效果的全貌。就像它的名字一样，Xception源自Inception网络。

在Inception模块中，将差别转换的多个分支聚合在一起以实现拓扑稀疏性。可是为什么这种稀疏起作用了？Xception的作者，也是Keras框架的作者，将此想法扩展到了一种极端情况，在这种情况下，一个3x3卷积文件对应于最后一个串联之前的一个输出通道。

在这种情况下，这些并行卷积内核实际上形成了一个称为深度卷积的新操作。摘自“ 深度卷积和深度可分散卷积”如上图所示，与传统卷积差别，传统卷积包罗所有通道以举行一次盘算，深度卷积仅划分盘算每个通道的卷积，然后将输出串联在一起。这淘汰了通道之间的特征交流，但也淘汰了许多毗连，因此导致具有较少参数的层。

可是，此操作将输出与输入相同数量的通道（如果将两个或多个通道组合在一起，则输出的通道数量将淘汰）。因此，一旦合并了通道输出，就需要另一个通例1x1滤波器或逐点卷积，以增加或淘汰通道数，就像通例卷积一样。这个想法最初不是来自Xception。在名为“大规模学习视觉表现”的论文中对此举行了形貌，而且在InceptionV2中偶然使用。

Xception进一步迈出了一步，并用这种新型卷积取代了险些所有的卷积。实验效果很是好。

它逾越了ResNet和InceptionV3，成为用于图像分类的新SOTA方法。这也证明晰CNN中跨通道相关性和空间相关性的映射可以完全解耦。此外，由于与ResNet具有相同的优点，Xception也具有简朴雅观的设计，因此其思想还用于随后的许多其他研究中，例如MobileNet，DeepLabV3等。

2017年：MobileNetMobileNets：用于移动视觉应用的高效卷积神经网络Xception在ImageNet上实现了79％的top-1准确性和94.5％的top-5准确性，可是与以前的SOTA InceptionV3相比划分仅提高了0.8％和0.4％。新图像分类网络的边际收益越来越小，因此研究人员开始将注意力转移到其他领域。在资源受限的情况中，MobileNet推动了图像分类的重大生长。

“ MobileNets：针对移动视觉应用的高效卷积神经网络”中的MobileNet模块与Xception相似，MobileNet使用与上面所示相同的深度可分散卷积模块，并着重于高效和较少参数。“ MobileNets：用于移动视觉应用的高效卷积神经网络”中的参数比率上式中的分子是深度可分散卷积所需的参数总数。分母是相似的规则卷积的参数总数。

这里D [K]是卷积核的巨细，D [F]是特征图的巨细，M是输入通道数，N是输出通道数。由于我们将通道和空间特征的盘算离开了，因此我们可以将乘法转换为相加，其量级较小。从该比率可以看出，更好的是，输出通道数越多，使用该新卷积节约的盘算量就越多。MobileNet的另一个孝敬是宽度和分辨率乘数。

MobileNet团队希望找到一种规范的方法来缩小移动设备的模型巨细，而最直观的方法是淘汰输入和输出通道的数量以及输入图像的分辨率。为了控制此行为，比率alpha乘以通道，比率rho乘以输入分辨率（这也会影响要素图的巨细）。

因此，参数总数可以用以下公式表现：“ MobileNets：用于移动视觉应用的高效卷积神经网络”只管这种变化在创新方面看似天真，但它具有庞大的工程价值，因为这是研究人员首次得出结论，可以针对差别的资源约束调整网络的规范方法。此外，它还总结了革新神经网络的最终解决方案：更大和更高的分辨率输入会导致更高的精度，更薄和更低的分辨率输入会导致更差的精度。在2018年和2019年晚些时候，MobiletNet团队还公布了“ MobileNetV2：残差和线性瓶颈”和“搜索MobileNetV3”。在MobileNetV2中，使用了倒置的残留瓶颈结构。

在MobileNetV3中，它开始使用神经体系结构搜索技术来搜索最佳体系结构组合，我们将在后面先容。2017年：NASNet学习可扩展的体系结构以实现可扩展的图像识别就像针对资源受限情况的图像分类一样，神经体系结构搜索是在2017年左右泛起的另一个领域。借助ResNet，Inception和Xception，似乎我们已经到达了人类可以明白和设计的最佳网络拓扑，可是如果有的话一个更好，更庞大的组合，远远超出了人类的想象力？2016年的一篇论文《带有强化学习的神经体系结构搜索》提出了一种通过强化学习在预定搜索空间内搜索最佳组合的想法。

众所周知，强化学习是一种以目的明确，奖励搜索署理商的最佳解决方案的方法。可是，受盘算能力的限制，本文仅讨论了在小型CIFAR数据集中的应用。NASNet搜索空间。

“ 学习可扩展的体系结构以实现可扩展的图像识别”为了找到像ImageNet这样的大型数据集的最佳结构，NASNet建立了针对ImageNet量身定制的搜索空间。它希望设计一个特殊的搜索空间，以便CIFAR上的搜索效果也可以在ImageNet上正常事情。首先，NASNet假设在良好的网络（如ResNet和Xception）中常用的手工模块在搜索时仍然有用。

因此，NASNet不再搜索随机毗连和操作，而是搜索这些模块的组合，这些模块已被证明在ImageNet上已经有用。其次，实际搜索仍在32x32分辨率的CIFAR数据集上执行，因此NASNet仅搜索不受输入巨细影响的模块。为了使第二点起作用，NASNet预界说了两种类型的模块模板：Reduction和Normal。

​摘自“ 学习可扩展的体系结构以实现可伸缩的图像识别”只管NASNet具有比手动设计网络更好的怀抱尺度，可是它也有一些缺点。寻找最佳结构的成本很是高，只有像Google和Facebook这样的大公司才气肩负得起。而且，最终结构对人类来说并没有太大意义，因此在生产情况中难以维护和革新。

在2018年晚些时候，“ MnasNet：针对移动平台的神经结构搜索”通过使用预界说的链块结构限制搜索步骤，进一步扩展了NASNet的想法。此外，通过界说权重因子，mNASNet提供了一种更系统的方法来搜索给定特定资源限制的模型，而不仅仅是基于FLOP举行评估。

2019年：EfficientNetEfficientNet：卷积神经网络模型缩放的反思在2019年，对于CNN举行监视图像分类似乎不再有令人兴奋的想法。网络结构的急剧变化通常只会带来少许的精度提高。更糟的是，当同一网络应用于差别的数据集和任务时，以前声称的技巧似乎不起作用，这引发了人们的品评，即这些革新是否仅适合ImageNet数据集。

另一方面，有一个技巧绝不会辜负我们的期望：使用更高分辨率的输入，为卷积层添加更多通道以及添加更多层。只管气力很是残酷，但似乎存在一种按需扩展网络的原则方法。MobileNetV1在2017年提出了这种建议，但厥后重点转移到了更好的网络设计上。​摘自“ EfficientNet：卷积神经网络的模型缩放思考”继NASNet和mNASNet之后，研究人员意识到，纵然在盘算机的资助下，架构的改变也不会带来太多利益。

因此，他们开始回落到扩展网络规模。EfficientNet只是建设在此假设之上的。

一方面，它使用了mNASNet的最杰作建基块，以确保有良好的基础。另一方面，它界说了三个参数alpha，beta和rho来划分控制网络的深度，宽度和分辨率。

这样，纵然没有大型GPU池来搜索最佳结构，工程师仍可以依靠这些原则性参数凭据他们的差别要求来调整网络。最后，EfficientNet提供了8种差别的变体，它们具有差别的宽度，深度和分辨率，而且无论巨细模型都具有良好的性能。

换句话说，如果要获得较高的精度，请使用600x600和66M参数的EfficientNet-B7。如果您想要低延迟和更小的模型，请使用224x224和5.3M参数EfficientNet-B0。

问题解决了。其他如果您完成了10篇以上的论文的阅读，您应该对CNN的图像分类历史有了很好的相识。如果您想继续学习这一领域，我还列出了一些其他有趣的论文供您阅读，这些论文在各自领域都很有名，并启发了世界上许多其他研究人员。

2014年：SPPNet深度卷积网络中的空间金字塔池用于视觉识别SPPNet从传统的盘算机视觉特征提取中借鉴了特征金字塔的思想。该金字塔形成了一个具有差别比例的要素词袋，因此它可以适应差别的输入巨细并挣脱牢固巨细的全毗连层。这个想法还进一步启发了DeepLab的ASPP模块以及用于工具检测的FPN。

2016年：DenseNet精密毗连的卷积网络康奈尔大学的DenseNet进一步扩展了ResNet的想法。它不仅提供各层之间的跳过毗连，而且还具有来自所有先前各层的跳过毗连。2017年：SENet挤压和激励网络Xception网络证明，跨渠道关联与空间关联关系不大。

可是，作为上届ImageNet竞赛的冠军，SENet设计了一个“挤压和引发”区并讲述了一个差别的故事。SE块首先使用全局池将所有通道压缩为较少的通道，然后应用完全毗连的变换，然后使用另一个完全毗连的层将其“引发”回原来的通道数量。

因此，实质上，FC层资助网络相识输入要素图上的注意力。2017年：ShuffleNetShuffleNet：一种用于移动设备的极其高效的卷积神经网络ShuffleNet构建在MobileNetV2的倒置瓶颈模块之上，他认为深度可分散卷积中的点式卷积会牺牲准确性，以换取更少的盘算量。为了弥补这一点，ShuffleNet增加了一个分外的通道改组操作，以确保逐点卷积不会始终应用于相同的“点”。在ShuffleNetV2中，此通道重排机制也进一步扩展到ResNet身份映射分支，因此身份功效的一部门也将用于重排。

2018：Bag of Tricks使用卷积神经网络举行图像分类的技巧“技巧包”重点先容在图像分类区域中使用的常见技巧。当工程师需要提高基准性能时，它可以作为很好的参考。有趣的是，诸如混淆增强和余弦学习速率之类的这些技巧有时可以比新的网络体系结构实现更好的革新。

结论随着EfficientNet的公布，ImageNet分类基准似乎即将竣事。使用现有的深度学习方法，除非发生另一种模式转变，否则我们永远不会有一天可以在ImageNet上到达99.999％的准确性。

因此，研究人员正在努力研究一些新颖的领域，例如用于大规模视觉识此外自我监视或半监视学习。同时，使用现有方法，对于工程师和企业家来说，找到这种不完美技术的实际应用已经成为一个问题。ReferenceY. Lecun, L. Bottou, Y. Bengio, P. Haffner, Gradient-based Learning Applied to Document RecognitionAlex Krizhevsky, Ilya Sutskever, Geoffrey E. Hinton, ImageNet Classification with Deep Convolutional Neural NetworksKaren Simonyan, Andrew Zisserman, Very Deep Convolutional Networks for Large-Scale Image RecognitionChristian Szegedy, Wei Liu, Yangqing Jia, Pierre Sermanet, Scott Reed, Dragomir Anguelov, Dumitru Erhan, Vincent Vanhoucke, Andrew Rabinovich, Going Deeper with ConvolutionsSergey Ioffe, Christian Szegedy, Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate ShiftKaiming He, Xiangyu Zhang, Shaoqing Ren, Jian Sun, Deep Residual Learning for Image RecognitionFrançois Chollet, Xception: Deep Learning with Depthwise Separable ConvolutionsAndrew G. Howard, Menglong Zhu, Bo Chen, Dmitry Kalenichenko, Weijun Wang, Tobias Weyand, Marco Andreetto, Hartwig Adam, MobileNets: Efficient Convolutional Neural Networks for Mobile Vision ApplicationBarret Zoph, Vijay Vasudevan, Jonathon Shlens, Quoc V. Le, Learning Transferable Architectures for Scalable Image RecognitionMingxing Tan, Quoc V. Le, EfficientNet: Rethinking Model Scaling for Convolutional Neural NetworksKaiming He, Xiangyu Zhang, Shaoqing Ren, Jian Sun, Spatial Pyramid Pooling in Deep Convolutional Networks for Visual RecognitionGao Huang, Zhuang Liu, Laurens van der Maaten, Kilian Q. Weinberger, Densely Connected Convolutional NetworksJie Hu, Li Shen, Samuel Albanie, Gang Sun, Enhua Wu, Squeeze-and-Excitation NetworksXiangyu Zhang, Xinyu Zhou, Mengxiao Lin, Jian Sun, ShuffleNet: An Extremely Efficient Convolutional Neural Network for Mobile DevicesTong He, Zhi Zhang, Hang Zhang, Zhongyue Zhang, Junyuan Xie, Mu Li, Bag of Tricks for Image Classification with Convolutional Neural Networkshttps://towardsdatascience.com/10-papers-you-should-read-to-understand-image-classification-in-the-deep-learning-era-4b9d792f45a7。

本文来源：leyu乐鱼app官方网站首页-www.hailingd.com