论文图解 01 / 视觉理解
AlexNet
ImageNet Classification with Deep Convolutional Neural Networks
2012 年，这篇论文让深层卷积网络在大规模图像分类任务上取得突破。沿着一张图片的处理路径，看看它如何把局部视觉信息逐层转成分类结果。
论文中的关键结果
ILSVRC 2012 测试集 · 参赛成绩来自多个网络的预测组合
小学生也能看懂的解释
你可以把一张图片想成由很多小格子拼起来的画。电脑看到图片时，并不知道里面是猫、狗还是汽车，它一开始只能看到这些小格子的颜色。
AlexNet 会拿一个小方框，在图片上从左到右、从上到下慢慢移动。每到一个地方，它就看看这里有没有一些特别的样子，比如一条边、一块颜色，或者一个拐角。这个“小方框到处找特征”的过程，就叫卷积。
第一层找到的东西通常很简单，比如横线、竖线和颜色变化。到了后面的层，网络会把前面找到的小线索组合起来：几条线可能组成一个圆，一些圆和边可能组成一只眼睛，再往后，眼睛、耳朵和毛发这些线索组合起来，网络就越来越容易认出“这可能是一只猫”。
图片里的信息很多，没必要把每个细节都一直记着。所以中间还会做几次“精简”：保留比较重要的线索，把重复和不重要的信息丢掉。最后，AlexNet 把找到的所有线索放在一起，分别判断它有多像猫、多像狗、多像汽车……一共要在 1000 个类别里做选择，得分最高的就是它认为的答案。
当然，它一开始也不会认。训练时，人们会给它看大量已经写好答案的图片。它猜错了，就根据正确答案调整自己；再看下一张，再猜，再调整。看得足够多以后，它就慢慢学会了：看到什么样的线索，通常代表什么东西。
点开每一层，看图片怎样变成判断
下面根据论文中的网络结构画出简化流程。先看每一步在做什么，再看具体数字。
示例图像架构示意 · 点击任意层
从图片细节，一步步做出分类
AlexNet 先用 5 层卷积寻找并组合局部线索，再用 3 层全连接汇总线索并分类。选择下方任意一步，看看它在整条处理链中的位置。
卷积 1 96 个 11 × 11 核
像拿着小窗口在图片上移动，寻找颜色变化、边缘等局部线索，并把结果记录成新的数字表。
这是一张结构教学图；上方照片没有经过 AlexNet 实时推理。
让模型从大量图片中识别物体
同一个物体在照片里可能有不同的角度、大小和光线。网络能不能只看像素数字，通过大量图片学会辨认它？
移动观察窗口，理解一次卷积计算
这里把图片简化成数字方格。点击结果中的格子，看左侧哪 9 个数字参与计算；再切换上方的计算规则，对比结果。
输入中高亮的 3 × 3 区域与卷积核逐格相乘，再求和，最后由 ReLU 将负数变为 0。周围像素与中心差得越多，输出越明显。
此处使用手工设定的小矩阵解释计算方式；它不是论文模型的真实输入、权重或特征图。
真正改变了什么？
AlexNet 的意义不只是把 ImageNet 的错误率降了下来。更重要的是，它证明了一条新的技术路线确实可行，并改变了此后计算机视觉研究和工程实践的方向。
从“人工设计特征”转向“让网络自己学习特征”
在 AlexNet 之前，图像识别通常需要工程师先设计规则，告诉计算机应该关注边缘、纹理、形状等特征，再把这些特征交给分类器判断。AlexNet 展示了另一条路线：直接把图片交给深层神经网络，让网络在训练过程中自己学会应该关注什么。前面的层学习简单的边缘和颜色，后面的层逐渐组合出眼睛、轮廓甚至完整物体。从此，图像识别的核心开始从“人怎么设计特征”转向“网络怎么学习特征”。
大数据 + GPU + 深度网络成为一套可行的方法
深层神经网络并不是 AlexNet 才出现，但过去一直很难在大规模图像任务上真正跑起来。AlexNet 把大规模标注数据、GPU 计算和深层卷积网络结合起来，同时使用 ReLU、数据增强、dropout 等方法解决训练速度和过拟合问题。它证明了一件很重要的事：只要有足够的数据、计算能力和合适的训练方法，更大的神经网络可以获得明显更好的效果。这种“数据 + 算力 + 模型”的思路，后来也成为深度学习发展的重要路线。
计算机视觉进入深度学习时代
AlexNet 在 ImageNet 上取得的结果，让整个计算机视觉领域开始快速转向深度神经网络。随后几年，VGG、GoogLeNet、ResNet 等模型不断出现，图像分类、目标检测、人脸识别、图像分割等任务也陆续采用深度学习方法。它影响的不只是一个比赛。从研究论文到真实产品，深度神经网络逐渐成为计算机视觉的主流技术基础。
继续阅读
回到论文，看作者如何描述实验
ImageNet Classification with Deep Convolutional Neural Networks · NeurIPS 2012