MATLAB在线字典学习代码：稀疏表示与图像去噪实战

简介：这份资源面向具备一定MATLAB基础、希望入门在线字典学习与在线机器学习的读者，提供一套可直接运行的实践代码。资源包共5个文件，以4个.m脚本与函数文件为主，辅以1个.mat数据文件，压缩包约1.11MB，涵盖字典更新、损失计算与演示入口等模块，便于按流程阅读与调试。已有693人学习，说明其在同类小众方向中具备一定参考价值。读者可从中理解cost函数如何衡量预测序列与真实序列的差异并驱动参数调整，分析字典更新所采用的优化思路，并借助示例数据完成序列数据的格式转换与在线迭代训练。整体结构紧凑，适合作为掌握字典学习原理、熟悉MATLAB矩阵运算与模型调参的练手项目。

1. 在线字典学习代码：一份能跑通的 MATLAB 稀疏表示工具箱

如果你做过稀疏表示或字典学习相关的课题，大概率遇到过这样的局面：论文里的公式推导看懂了，但真要复现一个「在线」版本的字典训练流程，却发现大部分开源代码要么是离线批处理版本，要么依赖一堆编译工具链，跑起来第一步就卡在环境配置上。这份在线字典学习代码就是冲着这个痛点来的——它用 MATLAB 实现了一套完整的在线字典学习流程，核心是在线交替优化：每次只喂一小批样本，增量式更新字典和稀疏系数，而不是把所有数据攒在一起做一次大矩阵分解。适合正在做图像去噪、超分辨率、压缩感知或者稀疏编码方向的研究生和算法工程师，拿来当基线、改损失函数、换更新策略都行。关键词就一个：matlab，意味着你不需要折腾 Python 环境，装好 MATLAB 就能上手。

2. 项目定位与技术选型：为什么是 MATLAB 加在线优化

2.1 这个项目到底解决什么问题

字典学习的本质是找一组基（字典），让每个样本都能用这组基的稀疏线性组合来近似表示。离线做法是把整个训练集堆成一个矩阵，反复做「稀疏编码 + 字典更新」直到收敛，数据量一大内存就吃不消。在线字典学习把这件事拆成流式处理：维护一个当前字典，每来一批新样本，先对这批样本求稀疏系数，再用这些系数和样本去修正字典，同时用一个累积的统计量来平衡历史信息和当前批次的影响。这份代码实现的就是这条主线，输入是一批批的样本矩阵，输出是一个训练好的字典矩阵和对应的稀疏编码结果。

从适用场景看，它最典型的用法是图像块级别的字典训练：把图像切成重叠小块，拉成列向量，喂给在线字典学习流程，学出来的字典可以直接用于去噪（稀疏编码后重建）或者作为特征提取的前置步骤。代码本身不绑定具体应用，样本矩阵怎么构造由使用者决定，这也是它适合二次开发的原因——你只需要替换数据加载部分，核心优化逻辑不用动。

2.2 技术选型背后的取舍

选 MATLAB 而不是 Python，在这个方向上有现实原因。稀疏表示领域的经典算法和参考实现大量以 MATLAB 形式存在，矩阵运算写起来接近数学公式，调试时能直接在命令行看中间变量，对于算法验证阶段效率很高。在线字典学习的核心操作是矩阵乘法和逐列稀疏求解，MATLAB 在这两件事上的写法非常紧凑，一段几十行的循环就能把整个更新流程表达清楚。

在线优化的选型则对应了数据规模的问题。离线字典学习需要对整个稀疏系数矩阵做操作，样本数上万时内存占用和单次迭代时间都会明显上升；在线版本每次只处理一个批次，内存占用和批大小挂钩，和总样本数解耦。代价是收敛行为对批大小、学习率调度更敏感，这部分参数调不好就容易出现字典震荡，后面避坑章节会具体讲。

常见做法是把在线字典学习拆成两个交替的子问题：固定字典求稀疏系数，固定系数更新字典。这份代码的结构也遵循这个划分，主循环里先调稀疏编码，再调字典更新，两个函数各自独立，方便单独替换。

2.3 目录结构与模块划分

代码的组织方式比较朴素，按功能分文件，没有复杂的包管理。典型结构如下：

这种划分的好处是每个文件职责单一，改稀疏求解器只动sparse_code.m，换字典更新规则只动update_dict.m，主循环不用碰。对于想快速做消融实验的人来说，这个粒度刚好。

3. 核心模块拆解：从稀疏编码到字典更新的完整链路

3.1 主训练循环的调度逻辑

在线训练的核心是一个按批次推进的外层循环，内部交替执行稀疏编码和字典更新。下面这段是主循环的骨架，参数含义在代码后说明：

function [D, X] = train_online(data, D0, opts) % data: 样本矩阵，每列一个样本，尺寸 d x N % D0: 初始字典，尺寸 d x K % opts: 参数字段，含 batch_size、max_iter、lambda 等 D = D0; N = size(data, 2); bs = opts.batch_size; num_batch = ceil(N / bs); for it = 1:opts.max_iter idx = randperm(N); % 每轮打乱样本顺序 for b = 1:num_batch range = (b-1)*bs + 1 : min(b*bs, N); Xb = data(:, idx(range)); % 取当前批次 alpha = sparse_code(D, Xb, opts.lambda); % 稀疏编码 D = update_dict(D, Xb, alpha, opts); % 字典更新 end if mod(it, opts.verbose) == 0 err = compute_recon_error(D, data, opts.lambda); fprintf('iter %d, recon error %.6f\n', it, err); end end end

这段代码里几个点值得注意。randperm每轮重新打乱样本顺序，是为了避免批次顺序固定导致的字典偏向，这是在线学习里很常见的做法。range用min兜底，处理最后一个不满批的批次。sparse_code和update_dict的接口设计成「字典 + 数据 + 参数」的形式，返回值直接覆盖，调用方不需要关心内部状态。verbose控制打印频率，训练时建议设成 1 或 5，太频繁会拖慢速度。

参数上，batch_size决定每次更新看到多少样本，太小则梯度噪声大、字典震荡，太大则退化成近似离线、失去在线优势，常见取值在 64 到 512 之间，具体看样本维度和总样本量。max_iter是外层轮数，在线算法通常不需要太多轮，5 到 20 轮往往就能收敛到可用水平。

3.2 稀疏编码：给定字典求系数

稀疏编码这一步要在固定字典下，为每个样本求一个稀疏系数向量。最直接的做法是逐列做 L1 正则的最小二乘，用特征符号搜索或坐标下降求解。下面是一个简化版的实现，用迭代软阈值近似：

function alpha = sparse_code(D, X, lambda) % D: 字典 d x K，X: 样本 d x B % lambda: L1 正则强度，越大系数越稀疏 K = size(D, 2); B = size(X, 2); alpha = zeros(K, B); G = D' * D; % Gram 矩阵，预计算加速 for j = 1:B x = X(:, j); a = zeros(K, 1); for iter = 1:50 grad = G * a - D' * x; % 最小二乘梯度 a_new = soft_threshold(a - 0.1 * grad, lambda * 0.1); if norm(a_new - a) < 1e-6 break; end a = a_new; end alpha(:, j) = a; end end function y = soft_threshold(x, t) y = sign(x) .* max(abs(x) - t, 0); end

这里用梯度下降加软阈值来近似求解 L1 问题，优点是实现简单、不依赖额外工具箱，缺点是收敛速度不如专门的 LARS 或坐标下降。G = D' * D预计算一次，避免每列重复算矩阵乘法，这是个小优化但批次大时效果明显。步长0.1是硬编码的，实际使用时应该根据G的最大特征值来定，否则可能不收敛——这也是后面避坑里要提的一点。lambda控制稀疏度，值越大系数越稀疏，重建误差也越大，需要在验证集上调。

如果对精度要求高，可以把内层换成坐标下降，每次只更新一个系数分量，收敛更快但代码稍长。这份代码选择软阈值版本，我理解是为了保持可读性，二次开发时替换掉这个函数即可。

3.3 字典更新：在线累积统计量

字典更新是在线算法的关键。离线版本直接用所有样本的系数做最小二乘，在线版本则要维护一个累积的矩阵，把历史批次的信息压缩进去。常见做法是维护A和B两个累积量：

function D = update_dict(D, X, alpha, opts) % X: 当前批次样本 d x B，alpha: 对应系数 K x B persistent A B; if isempty(A) K = size(D, 2); A = opts.rho * eye(K); B = zeros(size(D)); end A = opts.rho * A + alpha * alpha'; B = opts.rho * B + X * alpha'; % 逐列更新字典，保持每列单位范数 for k = 1:size(D, 2) if A(k, k) > 1e-8 u = (B(:, k) - D * A(:, k)) / A(k, k) + D(:, k); D(:, k) = u / max(norm(u), 1e-8); end end end

A累积的是系数的二阶统计量，B累积的是样本与系数的互相关，rho是遗忘因子，控制历史信息的衰减速度，取值接近 1 表示保留更多历史，接近 0 表示更看重当前批次。逐列更新时用A(k,k)做归一化，并强制每列单位范数，防止字典列范数发散——这是在线字典学习里必须做的一步，不做的话几轮之后字典数值就会爆炸。

persistent变量在这里用来跨调用保存累积量，好处是接口干净，坏处是多次训练之间状态会残留，需要在训练开始前清空。实际工程里更稳妥的做法是把A、B作为参数显式传入传出，避免隐式状态带来的调试困难。这一点在二次开发时值得改掉。

4. 跑起来：环境准备与最小可运行示例

4.1 环境与依赖检查

这份代码对 MATLAB 版本要求不高，R2016b 之后的版本基本都能跑，因为用到的都是基础矩阵运算和randperm、norm这类老函数。不需要额外工具箱，这一点很重要——很多稀疏表示代码依赖优化工具箱或信号处理工具箱，换台机器就跑不了，这份代码避开了这个坑。

跑之前确认两件事：当前目录切到代码根目录，保证utils/在路径里；样本矩阵的维度约定是「每列一个样本」，如果你的数据是每行一个样本，记得转置。这两点看起来琐碎，但新手翻车大多翻在这里。

4.2 构造样本并启动训练

下面是一个最小可运行脚本，用随机数据验证流程是否通：

% 构造 64 维、500 个样本的随机数据 d = 64; N = 500; K = 128; data = randn(d, N); D0 = randn(d, K); D0 = D0 ./ vecnorm(D0); % 初始字典列归一化 opts.batch_size = 64; opts.max_iter = 10; opts.lambda = 0.1; opts.rho = 0.95; opts.verbose = 1; [D, X] = train_online(data, D0, opts);

vecnorm在 R2017b 之后才有，老版本用sqrt(sum(D0.^2))替代。初始字典列归一化不能省，否则第一步稀疏编码的数值范围就不对。lambda从 0.1 起步是个经验值，样本维度高时可以适当调大。跑通之后看打印的重建误差是否随轮数下降，如果一直不降或者震荡，先检查rho和步长。

4.3 用图像块做一次真实场景验证

随机数据只能验证流程，要确认效果得用真实图像。常见做法是把图像切成 8x8 的块，拉成 64 维列向量：

img = im2double(imread('test.png')); if size(img, 3) == 3 img = rgb2gray(img); end patch_size = 8; patches = im2col(img, [patch_size patch_size], 'sliding'); patches = patches - mean(patches, 1); % 去均值 data = patches(:, 1:min(5000, end));

im2col的sliding模式生成重叠块，数量会很大，取前几千个做训练即可。去均值这一步对字典学习影响很大，不去的话字典第一列会退化成常数向量，学不到结构信息。训练完可以用学到的字典对含噪图像块做稀疏编码再重建，肉眼对比去噪前后，这是最直观的验证方式。

5. 避坑与排查：在线字典学习最容易翻车的几个点

5.1 字典列范数发散，数值越来越大

现象是训练几轮后字典元素值涨到几百甚至上千，重建误差不降反升。原因是在线更新里没有做列归一化，或者归一化写在了更新之前而不是之后。解决方法是每次更新完字典后强制每列单位范数，代码里D(:, k) = u / max(norm(u), 1e-8)这一行不能省，max兜底防止除零。另外检查rho是否设得太小，历史信息衰减太快也会导致更新步长失控。

5.2 稀疏编码不收敛，系数全是零或全是大幅值

现象是sparse_code内层循环跑满 50 次还没退出，或者输出的系数要么全零要么数值很大。原因通常是步长硬编码不合适：G的最大特征值大时，固定步长 0.1 会震荡；lambda设得过大则系数被压成全零。解决办法是把步长改成1 / max(eig(G))的动态值，lambda从 0.01 开始往上试，观察非零系数比例，一般希望每个样本有 5 到 20 个非零系数。

5.3 persistent 变量残留导致第二次训练结果异常

现象是第一次训练正常，同一 MATLAB 会话里再跑一次，误差曲线完全不对。原因是update_dict里的persistent A B在两次调用之间没有清空，累积量带着上次的状态。解决办法是在训练开始前执行clear update_dict，或者更彻底地把A、B改成显式参数传入传出。我一般倾向后者，隐式状态在调试时是黑匣子，出了问题很难定位。

5.4 批次顺序固定导致字典偏向

现象是重建误差下降但学出的字典原子明显偏向某几类样本，换一批数据泛化很差。原因是没有每轮打乱样本顺序，批次顺序固定让更新过程对数据排列敏感。解决办法就是主循环里的randperm，每轮重新洗牌。这个改动只有一行，但对结果稳定性影响不小，属于典型的血泪经验。

5.5 样本未归一化导致 lambda 失效

现象是同样的lambda在不同数据集上表现差异巨大，一个稀疏一个不稀疏。原因是 L1 正则的强度和样本幅值直接相关，样本没归一化时lambda的绝对意义就变了。解决办法是在构造样本时统一做去均值和幅值归一化，让每个样本的范数接近 1，这样lambda才有可比性。图像块场景下尤其要注意，不同图像的亮度范围差别很大。

6. 二次开发：换损失函数与接入自己的数据管线

拿到这份代码之后，最常做的改造有两个方向：换稀疏求解器和接自己的数据。换求解器的入口很明确，把sparse_code.m里的软阈值迭代替换成坐标下降或正交匹配追踪即可，接口保持「字典 + 样本 + lambda 进，系数出」，主循环不用动。接数据则要保证输出矩阵每列一个样本、已去均值、幅值大致归一，这三点做到了，后面的流程就是通用的。

如果要做有监督的字典学习（比如判别式字典），改动点在update_dict：在B的累积里加入标签相关的项，让字典原子朝类判别方向偏移。这类改造建议先在小数据集上验证收敛性，再放大规模，因为在线更新的稳定性对有监督项很敏感。验证方法我习惯用「固定随机种子 + 记录每轮重建误差 + 可视化字典原子」三件套，任何一项异常就回退到上一个能跑通的版本对比。

还有一个容易被忽略的技巧：把batch_size设成随轮数递增。前期小批次快速探索，后期大批次稳定收敛，这个调度在在线学习里很常见，改起来就是在主循环里根据it动态算bs，几行代码的事，但收敛曲线会平滑不少。从那以后我每次改在线学习类代码，都强制先跑一遍随机数据的最小示例确认流程通，再上真实数据，这个习惯帮我省了很多排查环境问题的时间。希望帮到你。

本文还有配套的精品资源，点击获取