卷积神经网络深度探索：LeNet5卷积神经网络基础与实践

卷积神经网络（LeNet）

学习目标

本课程将以LeNet5为例，介绍卷积神经网络（CNN）的基本构成，包括卷积层等的组合运用，通过本课程，理解其构造原理与传统处理方式，了解 LeNet 网络。

相关知识点

• LeNet-5模型从理论到训练评估

学习内容

1 LeNet-5模型从理论到训练评估

通过之前几个实验，我们学习了构建一个完整卷积神经网络的所需组件。
将softmax回归模型和多层感知机模型应用于Fashion-MNIST数据集中的服装图片上时，
为了能够应用softmax回归和多层感知机，我们首先将每个大小为28×2828\times2828×28的图像展平为一个784维的固定长度的一维向量，然后用全连接层对其进行处理。
而现在，我们已经掌握了卷积层的处理方法，我们可以在图像中保留空间结构。
同时，用卷积层代替全连接层的另一个好处是：模型更简洁、所需的参数更少。

本课程将介绍LeNet，它是最早发布的卷积神经网络之一，因其在计算机视觉任务中的高效性能而受到广泛关注。
这个模型是由AT&T贝尔实验室的研究员Yann LeCun在1989年提出的（并以其命名），目的是识别图像中的手写数字。
当时，Yann LeCun发表了第一篇通过反向传播成功训练卷积神经网络的研究，这项工作代表了十多年来神经网络研究开发的成果。

当时，LeNet取得了与支持向量机（support vector machines）性能相媲美的成果，成为监督学习的主流方法。
LeNet被广泛用于自动取款机（ATM）机中，帮助识别处理支票的数字。
时至今日，一些自动取款机仍在运行Yann LeCun和他的同事Leon Bottou在上世纪90年代写的代码呢！

1.1 LeNet

总体来看，LeNet（LeNet-5）由两个部分组成：

• 卷积编码器：由两个卷积层组成;
• 全连接层密集块：由三个全连接层组成。

该架构如图1所示。

图1：LeNet中的数据流

每个卷积块中的基本单元是一个卷积层、一个sigmoid激活函数和平均汇聚层。请注意，虽然ReLU和最大汇聚层更有效，但它们在20世纪90年代还没有出现。每个卷积层使用5×55\times 55×5卷积核和一个sigmoid激活函数。这些层将输入映射到多个二维特征输出，通常同时增加通道的数量。第一卷积层有6个输出通道，而第二个卷积层有16个输出通道。每个2×22\times22×2池操作（步幅2）通过空间下采样将维数减少4倍。卷积的输出形状由批量大小、通道数、高度、宽度决定。

为了将卷积块的输出传递给稠密块，我们必须在小批量中展平每个样本。换言之，我们将这个四维输入转换成全连接层所期望的二维输入。这里的二维表示的第一个维度索引小批量中的样本，第二个维度给出每个样本的平面向量表示。LeNet的稠密块有三个全连接层，分别有120、84和10个输出。因为我们在执行分类任务，所以输出层的10维对应于最后输出结果的数量。

通过下面的LeNet代码，可以看出用深度学习框架实现此类模型非常简单。我们只需要实例化一个Sequential块并将需要的层连接在一起。

#安装依赖%pip install d2l

importtorchimporttorch_npufromtorch_npu.contribimporttransfer_to_npufromtorchimportnnfromd2limporttorchasd2l net=nn.Sequential(nn.Conv2d(1,6,kernel_size=5,padding=2),nn.Sigmoid(),nn.AvgPool2d(kernel_size=2,stride=2),nn.Conv2d(6,16,kernel_size=5),nn.Sigmoid(),nn.AvgPool2d(kernel_size=2,stride=2),nn.Flatten(),nn.Linear(16*5*5,120),nn.Sigmoid(),nn.Linear(120,84),nn.Sigmoid(),nn.Linear(84,10))

我们对原始模型做了一点小改动，去掉了最后一层的高斯激活。除此之外，这个网络与最初的LeNet-5一致。

下面，我们将一个大小为28×2828 \times 2828×28的单通道（黑白）图像通过LeNet。通过在每一层打印输出的形状，我们可以检查模型，以确保其操作与我们期望的图2一致。

图2：LeNet 的简化版

X=torch.rand(size=(1,1,28,28),dtype=torch.float32)forlayerinnet:X=layer(X)print(layer.__class__.__name__,'output shape: \t',X.shape)

out：

Conv2d output shape: torch.Size([1, 6, 28, 28]) Sigmoid output shape: torch.Size([1, 6, 28, 28]) AvgPool2d output shape: torch.Size([1, 6, 14, 14]) Conv2d output shape: torch.Size([1, 16, 10, 10]) Sigmoid output shape: torch.Size([1, 16, 10, 10]) AvgPool2d output shape: torch.Size([1, 16, 5, 5]) Flatten output shape: torch.Size([1, 400]) Linear output shape: torch.Size([1, 120]) Sigmoid output shape: torch.Size([1, 120]) Linear output shape: torch.Size([1, 84]) Sigmoid output shape: torch.Size([1, 84]) Linear output shape: torch.Size([1, 10])

请注意，在整个卷积块中，与上一层相比，每一层特征的高度和宽度都减小了。
第一个卷积层使用2个像素的填充，来补偿5×55 \times 55×5卷积核导致的特征减少。
相反，第二个卷积层没有填充，因此高度和宽度都减少了4个像素。
随着层叠的上升，通道的数量从输入时的1个，增加到第一个卷积层之后的6个，再到第二个卷积层之后的16个。
同时，每个汇聚层的高度和宽度都减半。最后，每个全连接层减少维数，最终输出一个维数与结果分类数相匹配的输出。

1.2 模型训练

现在我们已经实现了LeNet，让我们看看LeNet在Fashion-MNIST数据集上的表现。

!wget https://model-community-picture.obs.cn-north-4.myhuaweicloud.com/ascend-zone/notebook_datasets/7c75d56a14ef11f0a4a6fa163edcddae/FashionMNIST.zip

!unzip FashionMNIST.zip

defevaluate_accuracy_gpu(net,data_iter,device=None):#@save"计算模型在数据集上的精度"""ifisinstance(net,nn.Module):net.eval()# 设置为评估模式ifnotdevice:device=next(iter(net.parameters())).device# 正确预测的数量，总预测的数量metric=d2l.Accumulator(2)withtorch.no_grad():forX,yindata_iter:ifisinstance(X,list):# BERT微调所需的（之后将介绍）X=[x.to(device)forxinX]else:X=X.to(device)y=y.to(device)metric.add(d2l.accuracy(net(X),y),y.numel())returnmetric[0]/metric[1]

如下所示，由于我们将实现多层神经网络，因此我们将主要使用高级API。
以下训练函数假定从高级API创建的模型作为输入，并进行相应的优化。
我们使用Xavier随机初始化模型参数。
与全连接层一样，我们使用交叉熵损失函数和小批量随机梯度下降。

#@savedeftrain_ch6(net,train_iter,test_iter,num_epochs,lr,device):"""训练模型"""definit_weights(m):iftype(m)==nn.Linearortype(m)==nn.Conv2d:nn.init.xavier_uniform_(m.weight)net.apply(init_weights)print('training on',device)net.to(device)optimizer=torch.optim.SGD(net.parameters(),lr=lr)loss=nn.CrossEntropyLoss()animator=d2l.Animator(xlabel='epoch',xlim=[1,num_epochs],legend=['train loss','train acc','test acc'])timer,num_batches=d2l.Timer(),len(train_iter)forepochinrange(num_epochs):# 训练损失之和，训练准确率之和，样本数metric=d2l.Accumulator(3)net.train()fori,(X,y)inenumerate(train_iter):timer.start()optimizer.zero_grad()X,y=X.to(device),y.to(device)y_hat=net(X)l=loss(y_hat,y)l.backward()optimizer.step()withtorch.no_grad():metric.add(l*X.shape[0],d2l.accuracy(y_hat,y),X.shape[0])timer.stop()train_l=metric[0]/metric[2]train_acc=metric[1]/metric[2]if(i+1)%(num_batches//5)==0ori==num_batches-1:animator.add(epoch+(i+1)/num_batches,(train_l,train_acc,None))test_acc=evaluate_accuracy_gpu(net,test_iter)animator.add(epoch+1,(None,None,test_acc))print(f'loss{train_l:.3f}, train acc{train_acc:.3f}, 'f'test acc{test_acc:.3f}')print(f'{metric[2]*num_epochs/timer.sum():.1f}examples/sec 'f'on{str(device)}')

现在，我们训练和评估LeNet-5模型。

lr,num_epochs=0.9,10train_ch6(net,train_iter,test_iter,num_epochs,lr,d2l.try_gpu())