用MATLAB手写CNN：从零实现卷积神经网络与反向传播

简介：一套基于MATLAB的卷积神经网络模拟程序，压缩包共包含30个m文件，整体大小仅16KB。程序中覆盖CNN训练全流程：从数据预处理、网络权值初始化、卷积层与池化层的前向传播、误差反向传播、梯度更新到数值梯度检查均有实现，并配有可直接运行的示例脚本，便于初学者直接运行体验。代码不依赖外部大数据集，结构清晰、注释规范，可在个人电脑上快速跑通；通过调整网络层数、卷积核大小、学习率等参数，还能直观观察不同设置对训练过程的影响，帮助理解卷积、池化、全连接等核心概念，掌握搭建、训练和评估CNN的基本方法。资源已有216人浏览学习，适合深度学习入门者作为第一份CNN实战参考。

1. 为什么有人还在找 cnn.zip 这类老包

如果你搜过cnn.zip、CNN 网络 matlab 模拟或者fcnn 程序下载，大概率是在 GitHub 或 CSDN 上翻到了某个十年前的压缩包。那些包里装着用纯 MATLAB 手写的卷积神经网络，没有deepLearningToolbox，没有 GPU 加速，连conv2都要自己掂量一下边界填充。现在 MATLAB 已经走到 R2025b / R2026b，trainNetwork一行命令就能训 ResNet，为什么还有人翻这些老古董？

因为理解一个东西最快的方式，是亲手把它从零写一遍。MATLAB 的神经网络工具箱封装得太好，好到你很难看清反向传播的梯度到底在哪个维度上流动。而 cnn.zip 这类历史包，恰好把卷积、池化、全连接、BP 四件事摊在.m文件里。本文就顺着这个标题，用 MATLAB 把 CNN 的前向传播和反向传播拆开讲清楚，再对比它和 FC-NN 的根本区别，最后给出在 2026 年依然能跑的调参与验证方法。无论你是做深度学习课程作业，还是想把科研代码从 Python 迁移到 MATLAB，这篇文章都适用。

2. CNN 网络的核心机制：卷积、池化与特征图

2.1 CNN 为什么比普通全连接网络更适合图像

图像有一个特点：局部相关、平移不变。一张猫脸照片，眼睛和胡须在空间上是相邻的像素群，如果把整张图拉成一个 100x100x3 = 30000 维的向量丢进全连接网络，第一层就要 30000 x N 个权重。这不仅参数爆炸，还丢掉了像素之间的空间结构。

CNN 的解法是权重共享 + 局部连接。一个 3x3 的卷积核在整张图上滑动，不管图像是 64x64 还是 256x256，这个核的参数只有 9 个（再加 1 个偏置）。多个核堆叠成多个特征图，网络就能在不同抽象层级上提取边缘、纹理、部件。

MATLAB 中实现卷积操作的核心是conv2或imfilter。conv2做的是严格数学卷积（核会翻转），而深度学习里的“卷积”实际上是互相关（核不翻转）。训练时网络会自动学出合适的核权重，所以翻转不翻转对最终结果没有本质影响，但代码里习惯用conv2(x, w, 'valid')或conv2(x, rot90(w,2), 'valid')两种写法。我建议统一写成conv2(x, w, 'valid')，正向和反向都保持一致，推导梯度时更不容易乱。

2.2 卷积层的 MATLAB 实现：手写一个 forward

假设输入是单通道灰度图x，大小为H x W，卷积核w大小为k x k，步长为 1，无填充。前向输出的尺寸为：

H_out = H - k + 1，W_out = W - k + 1

下面给出最直白的 MATLAB 实现：

function y = conv_forward(x, w, b) % x: H x W 单通道输入 % w: k x k 卷积核 % b: 标量偏置 [H, W] = size(x); [k, ~] = size(w); H_out = H - k + 1; W_out = W - k + 1; y = zeros(H_out, W_out); for i = 1:H_out for j = 1:W_out patch = x(i:i+k-1, j:j+k-1); y(i,j) = sum(sum(patch .* w)) + b; end end end

这段代码是“教学级”的，不使用conv2是为了让循环逻辑和反向传播的索引一一对应。实际训练时可以换成conv2(x, w, 'valid')提高速度。注意patch .* w是逐元素相乘再求和，这就是卷积核与局部区域的点积，等价于一个线性变换。

参数解读：k通常取 3 或 5，k=3是目前的主流选择，因为两层 3x3 卷积的感受野等于一层 5x5，参数更少且非线性更强。如果你输入的图像是 RGB 三通道，那么x变成了H x W x 3，核也变成k x k x 3，上述循环需要加一层通道循环，或者把三维张量 reshape 成二维矩阵批量处理。

2.3 池化层：下采样的作用与实现

池化的目的是降维和增强平移鲁棒性。最大池化取局部区域的最大值，均值池化取平均。最大池化在梯度反传时只需要把梯度传给前向时最大值所在的位置，其他位置梯度为 0，这个特性让它成为图像分类任务的首选。

function y = maxpool_forward(x, pool_size) % x: H x W 输入特征图 % pool_size: 池化窗口大小，如 2 [H, W] = size(x); H_out = floor(H / pool_size); W_out = floor(W / pool_size); y = zeros(H_out, W_out); for i = 1:H_out for j = 1:W_out patch = x((i-1)*pool_size+1 : i*pool_size, ... (j-1)*pool_size+1 : j*pool_size); y(i,j) = max(patch(:)); end end end

池化层没有需要学习的参数，但它在反向传播时扮演“路由”角色。回传梯度时，需要记住每个池化窗口里最大值的位置，这个信息可以存储为一个 mask 矩阵。MATLAB 中可以用max函数的第二个返回值获取索引：[val, idx] = max(patch(:))，然后通过ind2sub还原坐标。

pool_size=2配合步长 2 是经典配置，特征图尺寸迅速减半。过大的池化窗口（如 4）会丢失太多空间信息，在小数据集上容易欠拟合。如果任务对位置敏感（如目标检测），可以考虑用步长为 2 的卷积替代池化，这个技巧在现代网络结构（如 ResNet 的降采样）中很常见。

3. 用 MATLAB 从零训练一个 CNN：手写 BP 全流程

3.1 网络结构定义与参数初始化

要搭建一个能跑通 MNIST 手写数字识别的 CNN，常见做法是：卷积层 C1（6 个 5x5 核）→ 池化层 S2（2x2）→ 卷积层 C3（16 个 5x5 核）→ 池化层 S4（2x2）→ 全连接层 F5（120 节点）→ 输出层 F6（10 节点，对应 0~9）。这个结构参考了 LeNet-5，足够展示 CNN 的完整数据流。

在 MATLAB 中初始化权重，核心原则是打破对称性。如果所有核初始化为 0，那么每个特征图会学到完全相同的特征，梯度更新也完全一致，网络退化成一个线性分类器。常用初始化方法是 Xavier 或 He 初始化。对于 ReLU 激活函数，XN 风格的初始化是：

% 卷积核初始化 fan_in = k * k * input_channels; % 输入通道数乘核面积 w_scale = sqrt(2 / fan_in); W1 = randn(k, k, input_channels, num_filters) * w_scale; b1 = zeros(num_filters, 1); % 偏置初始化为 0 % 全连接层初始化 fan_fc = prev_layer_size; W_fc = randn(prev_layer_size, 120) * sqrt(2 / fan_fc);

参数说明：sqrt(2/fan_in)是 He 初始化，专门适配 ReLU。如果激活函数是 tanh，改用 Xavier 的sqrt(1/fan_in)。b1初始化为 0 没问题，因为偏置的梯度不会被对称性问题影响，但如果你发现训练初期 loss 下降太慢，可以把全连接层的偏置初始化为 0.1，让 ReLU 提前激活。

3.2 前向传播完整链：卷积 → 激活 → 池化 → 全连接

前向传播是数据的流动，也是反向传播的“录像带”。每一层不仅要计算输出，还要缓存中间结果（如卷积输入、激活前 logits、池化索引），这些缓存用于反向传播时计算梯度。下面是前向链的核心代码：

function [cache, y] = cnn_forward(x, W1, b1, W2, b2, W3, b3) % x: 28x28 单通道输入，MNIST 大小为 28x28 % 第一层：卷积 + ReLU conv1 = conv2(x, W1, 'valid'); % W1 为 5x5 conv1 = conv1 + b1; relu1 = max(0, conv1); % ReLU 激活 % 第一层池化 [pool1, mask1] = maxpool_with_mask(relu1, 2); % 第二层：卷积 + ReLU + 池化 % 注意：这里 W2 是 6 通道输入，实际需要循环处理每个输入通道 conv2 = zeros(8, 8, 16); % 占位，具体尺寸由输入决定 for c = 1:16 conv2(:,:,c) = conv2(pool1(:,:,c), W2(:,:,c), 'valid'); end conv2 = conv2 + b2; relu2 = max(0, conv2); [pool2, mask2] = maxpool_with_mask(relu2, 2); % 展平并进入全连接层 flatten = pool2(:); fc1 = W3 * flatten; % W3: 120 x 256（假设展平后 256 维） fc1 = max(0, fc1); % ReLU % 输出层 logits = W_out * fc1; y = softmax(logits); % 缓存所有中间变量 cache = struct('x',x,'conv1',conv1,'relu1',relu1,'pool1',pool1,'mask1',mask1, ... 'conv2',conv2,'relu2',relu2,'pool2',pool2,'mask2',mask2, ... 'flatten',flatten,'fc1',fc1,'logits',logits); end

这里有三个关键点要注意。第一，代码中省略了多通道卷积的完整实现，实际conv2不支持三维核，需要写一个for循环分别对每个输入通道做 2D 卷积再求和，这是一个常见的 MATLAB 坑。第二，maxpool_with_mask返回池化结果和最大值位置掩码，掩码是反向传播的必需品。第三，输出层使用 softmax，它把 logits 转换为概率分布，交叉熵损失对 softmax 的梯度有一个非常简洁的形式，后面会用到。

3.3 反向传播：梯度如何在每一层间流动

反向传播是 CNN 训练的引擎。以交叉熵损失为例，softmax 输出的梯度是(y - label)，其中y是预测概率，label是 one-hot 编码。这个简洁形式从输出层一路回传。下面给出反向传播的关键代码：

function grads = cnn_backward(cache, label, W3, W_out) % 输出层梯度：softmax 交叉熵的简化形式 dy = cache.logits_softmax - label; % 这一步直接得到 loss 对 logits 的梯度 % 全连接层 W_out 的梯度 grad_W_out = dy * cache.fc1'; % 外积 grad_fc1 = W_out' * dy; % 梯度继续回传到 fc1 % ReLU 的梯度：把负值区域的梯度置零 grad_fc1(cache.fc1 <= 0) = 0; % 展平层的梯度重塑为 pool2 的形状 grad_pool2 = reshape(W3' * grad_fc1, size(cache.pool2)); % 池化层反向：把梯度放回最大值位置 grad_relu2 = zeros(size(cache.relu2)); for c = 1:16 for i = 1:size(grad_pool2,1) for j = 1:size(grad_pool2,2) idx = cache.mask2(i,j,c); % 根据 idx 在 2x2 窗口内还原位置 [di, dj] = ind2sub([2 2], idx); grad_relu2((i-1)*2+di, (j-1)*2+dj, c) = grad_pool2(i,j,c); end end end % ReLU 第二次反向 grad_relu2(cache.relu2 <= 0) = 0; % 卷积层反向：这部分最复杂，需要使用全卷积（full 模式）操作 % 核心公式：grad_W = conv2(input, rot90(delta, 2), 'valid') % grad_input = conv2(delta, rot90(W, 2), 'full') end

这段代码展示了反向传播的骨架。池化层的反向传播是一个“上采样”操作：下游传过来的梯度被分散到池化窗口内最大值的位置，其他位置填 0。如果前向用的是均值池化，反向就是每个位置均分梯度。

卷积层的反向传播公式是整个手写 CNN 中最容易写错的部分。梯度对权重的计算是：输入特征图与误差图做相关运算；梯度对输入的计算是：误差图与翻转后的卷积核做全卷积。我用一句话总结记忆方式：前向是 valid 卷积，权重梯度是 valid 相关，输入梯度是 full 卷积。这三个匹配关系必须一致，否则梯度形状对不上，训练直接发散。

4. FCNN 到 CNN：全连接神经网络的局限与结构演化

4.1 FC-NN 为什么训练不动大尺寸图像

标题里的fcnn指的是 Fully Connected Neural Network，即全连接神经网络。一个直观的对比：MNIST 图像 28x28=784 像素，第一层隐藏层 100 个节点，参数量是 784x100 = 78400。如果是 CIFAR-10 的 32x32x3=3072 像素，同样 100 个节点，参数量超过 30 万。到了 224x224 的 ImageNet，单层全连接的参数就上亿，训练和存储都不可接受。

FC-NN 的第二个致命问题是网格化打乱了空间结构。图像中相邻像素的强相关性被彻底拆散，网络需要从零学习“像素 (0,0) 和像素 (0,1) 是邻居”这个事实。CNN 通过共享权重天然内置了空间先验，不用学就知道局部区域相关，数据效率高一个数量级。

4.2 CNN 的三个关键演化：局部感受野、权重共享、空间下采样

以 LeNet-5 为起点到 ResNet 为止，CNN 的结构演化始终围绕三个轴：通道数变深、卷积核变小、步长和池化综合控制分辨率。用 MATLAB 的 Deep Learning Toolbox 做题时，可以很直观地把这三者映射到代码上：

% 用 MATLAB 内置工具箱定义现代 CNN layers = [ imageInputLayer([224 224 3], 'Name', 'input') convolution2dLayer(3, 64, 'Padding', 'same', 'Name', 'conv1') batchNormalizationLayer('Name', 'bn1') reluLayer('Name', 'relu1') maxPooling2dLayer(2, 'Stride', 2, 'Name', 'pool1') convolution2dLayer(3, 128, 'Padding', 'same', 'Name', 'conv2') batchNormalizationLayer('Name', 'bn2') reluLayer('Name', 'relu2') fullyConnectedLayer(10, 'Name', 'fc') softmaxLayer('Name', 'softmax') classificationLayer('Name', 'output') ]; options = trainingOptions('adam', ... 'MaxEpochs', 10, ... 'MiniBatchSize', 32, ... 'InitialLearnRate', 1e-3, ... 'Plots', 'training-progress');

参数说明：convolution2dLayer(3, 64)表示 64 个 3x3 滤波器；Padding='same'保持输出尺寸不变；batchNormalizationLayer是深度网络必需的，它缓解了梯度消失并且允许更高的学习率；trainingOptions中Plots参数在本地交互环境实时显示 loss 曲线，这个功能对手动调参非常友好。注意augmentedImageDatastore也是绕不开的，它负责在数据读取阶段完成 resize 和随机增强，避免手动编写数据加载循环。

4.3 手写网络和工具箱怎么选

我的建议是：课程作业、面试准备、论文画结构图，手写 2~3 层足以；真要处理实际数据、做实验对比，直接用工具箱。最忌的是手写 10+ 层网络还指望它收敛，那会浪费大量时间在数值稳定性上。

5. 训练技巧与 MATLAB 踩坑集锦

5.1 数据预处理与增强：从 MNIST 到自定义数据集的迁移

MNIST 数据集自带归一化，但换到真实项目时，数据的读取、归一化、增强是逃不掉的三板斧。常见做法是用imageDatastore管理图片文件夹，配合augmentedImageDatastore做随机裁剪、旋转、翻转。这里有一个值得记住的细节：图像归一化要使用训练集的均值和标准差，而不是每张图单独归一化，否则会改变特征的相对尺度，导致训练集和测试集分布不一致。

imds = imageDatastore('path/to/images', ... 'IncludeSubfolders', true, ... 'LabelSource', 'foldernames'); % 划分训练与验证集 [imdsTrain, imdsValid] = splitEachLabel(imds, 0.8, 'randomized'); % 数据增强 + 归一化 augTrain = augmentedImageDatastore([28 28], imdsTrain, ... 'DataAugmentation', imageDataAugmenter(... 'RandRotation', [-10 10], ... 'RandXTranslation', [-2 2], ... 'RandYTranslation', [-2 2]));

imageDataAugmenter的参数按需开启，MNIST 这种小图建议只做轻微平移和旋转，过强的增强（如随机缩放）会让数字的形状变化超出人类辨识范围，相当于引入噪声标签。而真实工业场景的高清图片，裁剪到 224x224 本身就是一种有效的正则化。

5.2 训练不收敛的 5 个排查点：学习率、权重初始化、数据分布

训练 CNN 遇到 loss 不降或者直接 NaN，优先级最高的几个排查点如下：

第一，学习率过大。Adam 的默认学习率 0.001 在大多数场景合适，但手写网络如果使用 SGD，0.01 就可能让 loss 爆炸。出现 NaN 时先把学习率除以 10 试一次。第二，权重初始化范围过大。He 初始化里的sqrt(2/fan_in)如果写成了sqrt(1/fan_in)，深层网络的方差会衰减，收敛变慢但不会爆；如果随机数范围是[-1, 1]而不是[-0.1, 0.1]，则大概率发散。第三，标签索引从 0 还是 1 开始。MATLAB 数组索引从 1 开始，如果代码沿用了 Python 从 0 开始的习惯，交叉熵损失会选错类别，loss 永远降不下去。第四，输入范围不一致。一个通道在 [0,255]，另一个在 [0,1]，卷积输出范围混乱，BN 层能缓解但不会根治。第五，梯度爆炸，尤其深层的全连接层容易出现，可在损失函数处加梯度裁剪：if norm(grad) > 5, grad = grad * 5 / norm(grad); end。

5.3 用 MATLAB 验证梯度正确性的数值检查法

手写反向传播极易出错，尤其是卷积层。有一个公认的验证方法：数值梯度检查。原理是利用导数的定义，给权重加一个小扰动eps，计算损失差值除以eps，和反向传播计算的梯度对比。如果相对误差小于1e-6量级，说明反向传播正确。

function check_gradient(cnn_forward, cnn_backward, W, x, label) eps = 1e-6; % 用反向传播求梯度 grads = cnn_backward(cache, label, W); % 数值梯度 num_grad = zeros(size(W)); for i = 1:numel(W) W_plus = W; W_minus = W; W_plus(i) = W_plus(i) + eps; W_minus(i) = W_minus(i) - eps; loss_plus = compute_loss(cnn_forward(x, W_plus), label); loss_minus = compute_loss(cnn_forward(x, W_minus), label); num_grad(i) = (loss_plus - loss_minus) / (2 * eps); end % 对比相对误差 rel_error = norm(num_grad - grads) / (norm(num_grad) + norm(grads)); fprintf('Relative error: %e\n', rel_error); assert(rel_error < 1e-6, 'Gradient check failed!'); end

细节提醒：数值检查时eps不能太小（避免浮点误差），也太大（截断误差）；每个权重循环一次计算量大，所以只对每层抽几个权重做检查即可，不用全量检查。推荐在训练前对单样本、单 batch 跑一次梯度检查。全连接层线性映射的梯度通常一次就过，卷积层往往需要用这种方法抓到维数不匹配或翻转方向错误，这一步值得耐心做。

5.4 特征图可视化：判断网络到底学到了什么

训练稳定后，把第一层卷积核和若干特征图画出来，是判断网络健康程度最快的方式。MATLAB 里做法很简单：

% 假设 conv1_weights 是 5x5x1x6 的四维数组 figure; for i = 1:6 subplot(2,3,i); imagesc(conv1_weights(:,:,1,i)); colormap gray; axis off; end % 输出一张测试图的中间特征图 alex_activations = activations(net, img, 'conv1'); montage(mat2gray(alex_activations(:,:,:,1)));

第一层卷积核应该呈现出边缘检测器或颜色斑块的模式。如果所有核都是噪声状或全零，说明网络训练失败或没有收敛。如果特征图很稀疏（大量暗色），可能输入归一化有问题。特征图可视化在人脸识别、医学影像分类项目中尤为重要，它决定了你敢不敢把模型结果交给业务方。

本文还有配套的精品资源，点击获取