Moreau–Yosida正则化与Langevin采样：稀疏后验的活跃轨迹复杂度分析

如果让一个研究员同时做两件事：一是对稀疏先验的贝叶斯模型做后验采样，二是把采样器的每一步都压到尽可能低的计算成本里，他很快会遇到一个矛盾——主流的梯度型采样器，比如非调整 Langevin 算法，都默认目标是可微的，而稀疏先验天然带一个不可微的尖点。

这不是实现层面“求个倒数绕过一下”就能解决的小坑，而是算法假设上的结构性边界。在这个边界面前，继续使用次梯度会破坏整条采样轨迹的理论保证；硬把不可微点当作光滑点处理，则会让平稳分布发生偏移。于是就有了 Moreau–Yosida 正则化与 Langevin 采样结合的两个问题：如何把不可微势能改成可分析的近似；以及，改完之后，每一步要花多少真实算力。

本文想讲清楚的，不只是标题里的数学名词，而是一个更实际的判断：Moreau–Yosida 类方法的价值不只是“把不可微变可微”，它提供了一个在优化中的 active-set 思想迁移到贝叶斯采样的入口。真正值得追踪的复杂度，不是总迭代次数，而是沿采样轨迹上活跃坐标的累计访问量。

如果你正在做带稀疏约束的后验采样、想理解这类论文的复杂度结论，或者想在自己的项目里实现一个能跑的近端 Langevin 采样器，这篇文章都适用。

1. 这类工作中真正要解决的是什么

先看贝叶斯推断中的一个常见需求。假设我们有一个线性回归模型：

b = A x + noise

我们不仅想得到参数 x 的一个点估计，还想知道它的后验分布。当先验是拉普拉斯分布、也就是常说的 L1 稀疏先验时，后验分布的负对数可以写成：

f(x) = 0.5 * ||A x - b||^2 / σ² + λ * ||x||_1

第一项是光滑的，但第二项的不可微点出现在任何“某一维恰好为 0”的位置。这在优化领域非常好办，近端梯度法或坐标下降法都能处理。但在采样领域，事情就麻烦了。

标准的 Unadjusted Langevin Algorithm，也就是经常说到的 ULA，来源于下面的扩散过程：

dX_t = -∇f(X_t) dt + sqrt(2) dW_t

这个连续过程的稳态分布正比于 exp(-f(x))。只要我们能近似模拟它，就能从后验分布里采样。问题是算法内部需要计算 ∇f，而 f 在 x_i=0 处不可微。换句话说，梯度型采样器和稀疏先验在数学假设上是冲突的。

有一种直观但危险的处理方法是在零点附近把 |x| 近似成一个小二次函数，或者直接人工设定次梯度为 0。这种做法在小规模 demo 里常常也能跑出结果，但它会带来两个层面上的隐患：

1. 采样轨迹的理论不变分布会改变，最后得到的不是目标后验。
2. 近似方式对算法步长、边界行为非常敏感，很难被清晰地写进复杂度分析。

Moreau–Yosida 正则化正是用来系统处理这个问题的工具：它不引入人为的启发式，而是通过一个定义良好的包络函数，把不可微的 h(x) 变成一个具有 Lipschitz 梯度的近似函数。这样，我们就能在保留 ULA 理论框架的前提下，处理非光滑目标。

但引入包络不是免费的。包络带来一个额外的平滑参数 γ，参数越小，近似越准，但函数几何上越“陡峭”，步长被迫变小；参数越大，计算越稳定，但采样结果偏离真实目标。于是研究者不得不追问：在给定精度要求 ε 的前提下，迭代次数、维度、平滑参数和真实计算量之间到底有多大的依赖关系？这就是 Active-Trace Complexity Bounds 出现的背景。

2. 从 ULA 到 Moreau–Yosida 的核心原理

2.1 Unadjusted Langevin Algorithm 的复习

假设目标分布有密度正比于 exp(-f(x))，并且 f 是足够光滑的，那么我们可以从任意初始点出发，循环执行：

x_{k+1} = x_k - γ * ∇f(x_k) + sqrt(2γ) * z_k

其中 z_k 是标准正态随机向量，γ 是步长。算法没有 Metropolis-Hastings 校正步骤，所以叫作 Unadjusted。好处是每次迭代成本压到了最低，也容易做理论分析；代价是离散化步长会带来偏差，所以这个名字本身就提示了：使用时要特别关注步长和采样精度的权衡。

如果进一步把目标写成“光滑部分加非光滑部分”的形式，即 f = g + h，就可以把更多工作从整套更新中剥离出来。现实中，很多模型的高维结构来自 h，比如 L1 正则化、投影约束、稀疏诱导先验，而这些结构的不可微部分往往是逐坐标甚至可分结构的。逐坐标可分意味着近端算子通常算得很快，这就为后续的复杂度压缩留下了空间。

2.2 不可微部分为什么会破坏梯度采样

从数学上解释，ULA 及其各种变体的理论证明通常要求目标函数的梯度满足 Lipschitz 条件，甚至要求满足某种耗散性。刚才说过，|x| 在原点不可导，所以最直接的算法假设就不成立。

更重要的是，即使我们在工程上忽略不可导点，Langevin 噪声会把轨迹反复送到零附近。也就是说，不可微点不是低频事件，而是会被频繁访问的常态区域。任何局部近似产生的小偏差，都会在长轨迹中被噪声放大。

这里值得做一个类比。在优化中，近端梯度下降的做法是：光滑部分算梯度，非光滑部分交给近端算子。这个算子可以看作一种“约束修正”，它代替了对 h 求导。在采样中，我们同样可以借鉴这个思路，让近端算子承担非光滑部分的处理，朗之万噪声只需要作用在光滑部分和离散化误差上。

2.3 Moreau–Yosida 正则化的直觉

Moreau–Yosida 正则化把一个扩展实值函数 h 变成如下形式的包络函数：

MY_γ[h](x) = min_z h(z) + ||x - z||² / (2γ)

对这个包络函数求梯度，会得到一个非常简洁的表达式：

∇ MY_γ[h](x) = (x - prox_{γ h}(x)) / γ

其中 prox 是近端算子。这个结果的意义是：我们不需要去定义 h 的次微分，只需要能计算近端算子，就能获得包络的梯度。

对于 h(x) = λ * ||x||₁，近端算子就是逐坐标的软阈值：

prox_{γ h}(x)_i = sign(x_i) * max(|x_i| - γλ, 0)

整个过程仍然是坐标可分的，所以额外开销极小。把包络函数替换掉原始 f 中的 h，就得到一个可以用标准梯度型采样算法处理的新目标：

f_γ(x) = g(x) + MY_γ[h](x)

从这个式子很容易看到，γ 越小，包络越接近真实 h，但同时包络的梯度接近 1/γ，条件数更差。所以 Moreau–Yosida 正则化解决的是“能不能求梯度”的问题，而不是“好不好采样”的全部问题。

2.4 已有方法的问题与复杂度分析的缺口

如果把目标函数换成 f_γ 之后，直接套用 ULA，算法的每次迭代至少包括两部分：一是计算光滑部分的梯度 ∇g，二是计算近端算子。如果维度是 d，那么朴素实现的每次迭代成本至少是 O(d) 量级，多步迭代后总成本自然是迭代次数乘以 d。

但对稀疏问题而言，这非常浪费。真实的后验高概率区域往往只集中在少数几个坐标上，很多维度长期处在“不活跃”状态，或只在近端算子的阈值附近小幅抖动。我们希望总成本不仅依赖于 d 和迭代次数，还能反映采样轨迹中活跃变量的实际累计数量。

这正是 Active-Trace Complexity Bounds 的切入点。它试图给出一个更紧的上界：复杂度不再简单写成“步数 * d”，而是写成沿着轨迹累加的活跃坐标数，并研究这个量与迭代次数、γ、λ、模型条件数之间的关系。

从论文标题看，这类工作给出的是上界分析，而不是新的启发式规则。这个区别非常重要：它的目的是向研究者证明，使用活跃坐标追踪思路的采样器不但便宜，而且便宜的程度可以被数学上严格地界定。一旦有了这种保证，算法就不只是“看起来快”，而是可以在不同问题上外推性能。

3. Active-Trace Complexity 究竟在追踪什么

3.1 从“迭代次数”到“沿轨迹累计成本”

大多数采样算法的复杂度分析目标是这样的形式：

要达到总变差误差 ε，需要的迭代次数至多为某个关于 L、R、d、1/ε 的多项式

这种形式的优点是简洁，但粒度太粗。它假设每一步的成本是固定的，可实际计算中，每一步的活跃坐标数量可能变化很大。

如果我们给采样器增加一个活跃集机制，让每一步只对“当前正在影响轨迹的坐标”做完整计算，总成本就应该被定义为每一轮活跃坐标数的总和。这个总和就是 active trace 的一种理解方式，也就是沿轨迹记录下来的活跃变量数量之和。

以稀疏线性回归为例，真实后验中，几乎为零的坐标会受到阈值化影响，处于不活跃区间内。若我们能在每一轮准确判断哪些坐标是活跃的，那么多数迭代的计算量会远低于 d。把每一轮的活跃数量记录并累加，就得到一个比迭代次数更有信息量的成本指标。

3.2 活跃集在采样中具有波动性

优化中的 active-set 概念相对直观：在某个最优解附近，有一部分坐标被约束边界卡住，另一部分自由移动。但在采样中，由于每步都注入随机噪声，坐标不会固定在某一个集合内，而是在活跃与不活跃之间来回跳动。

正是这种“动态活跃集”的存在，让复杂度分析比优化情形复杂得多。一步里不活跃的坐标，下一步可能因为噪声越过阈值而变得活跃；一整段时间内都极不活跃的坐标，也许在某个异常波动时突然被激活。

因此，复杂度界必须把随机性纳入考量，而不能只分析一个固定集合的大小。从工程角度理解，这意味着我们不能简单地把活跃坐标预先定死，而应该在每一轮根据当前的梯度信息和近端阈值动态判断。算法的核心开销，也从“全量更新所有坐标”压缩为“对活跃坐标密集更新、对不活跃坐标廉价维护”。

3.3 理论关注的三个变量

梳理相关材料后，可以认为这类分析通常围绕三层变量展开：

第一层是迭代阶数。即使所有成本都通过活跃集得到优化，采样器仍需足够的迭代次数达到混合。理论关注的是这个阶数如何与步长和后验曲率相关。

第二层是维度和稀疏度的作用。若真实活跃度低，复杂度上界能不能做到比 d 的二阶量更小，是这类分析的关键亮点。

第三层是平滑参数 γ 的偏差效应。γ 决定 Moreau–Yosida 包络与真实 h 的距离；复杂度分析必须回答“为了达到给定采样精度，γ 要取多小”，进而算出这样的 γ 会让每一步的计算变得更贵还是更便宜。

这种分析的优势在于：它将采样器的统计精度与计算成本分离讨论。统计上，我们关心输出的分布离真实后验有多远；计算上，我们关心得到这一输出要消耗多少实际算力。两个层面被一条 active trace 的纽带连在一起，就构成了完整的研究闭环。

4. 实验问题设定：稀疏贝叶斯线性回归

为了不把整篇文章停在公式层面，我选择在 demo 中展示一个常规的稀疏线性回归后验采样问题。这个问题的目标广泛，且在模型中包含了 L1 不可微项和可微的二次项，正好能体现 Moreau–Yosida 相关方法的使用场景。

设：

b = A x_true + noise x_true 只有少量非零分量 负对数后验：f(x) = 0.5 * ||A x - b||² / σ² + λ * ||x||₁

我们想从正比于 exp(-f(x)) 的后验分布中采样。由于 f 含有 L1 项，直接采用 ULA 会遇到不可微点。下面介绍的教学示例代码采用的是近端 Langevin 形式：一步像近端梯度一样先做梯度下降，再通过软阈值算子处理非光滑部分，最后加入高斯噪声。代码可以独立运行，并且包含活跃坐标统计逻辑。

需要说明的是，这段代码是为了演示标题中的思想而简化的教学实现，它能在典型中低维问题上复现稀疏后验采样的基本行为。如果需要获得与具体论文完全一致的严格算法，还是要以原论文更新公式与参数假设为准。

4.1 数据模型与记号

用 A 表示设计矩阵，b 表示观测向量，x 表示需要采样和后验估计的参数，σ 表示观测噪声标准差，λ 表示 L1 先验强度。

光滑部分 g(x) 定义为：

g(x) = 0.5 * ||A x - b||² / σ²

其梯度是：

∇g(x) = Aᵀ(Ax - b) / σ²

非光滑部分 h(x) 定义为：

h(x) = λ * ||x||₁

近端算子写成：

prox_{η h}(x)_i = sign(x_i) * max(|x_i| - ηλ, 0)

这里的 η 是外层步长。用这个近端算子对 h 做隐式处理，可以让采样更新不直接触碰 h 的导数。

4.2 一个需要注意的偏差来源

Moreau–Yosida 方法以及所有近端 Langevin 算法，本质上都引入了近似。即使算法连续化了，由于 h 被近端机制替换，理论上的不变分布通常与真实后验之间存在一个由 η 和 γ 共同决定的偏差。这也是标题特意写明 Unadjusted 的原因之一。

对于实际使用，通常有两个选择：一是尽量缩小步长，把偏差压到可接受范围；二是在近端更新后用 Metropolis-Hastings 校正。本文因为聚焦在 Unadjusted setting，所以不引入校正步骤，但实验验证时要额外关注输出的平稳分布是否合理。

5. 完整示例：Python 伪代码与可运行实现

5.1 运行环境与依赖

建议使用 Python 3，并安装 numpy 和 matplotlib。实现不依赖深度学习框架，也不依赖自动微分，核心计算都是向量运算，便于读者直接看内部细节。

pip install numpy matplotlib

安装完成后，把下面代码保存为active_trace_ula_demo.py，即可直接运行。

5.2 生成模拟数据

首先生成一个随机设计矩阵和一个稀疏真实参数。为了让问题可验证，我们固定随机种子，并让真实参数只在 10 个位置非零。

import numpy as np rng = np.random.default_rng(42) n = 120 d = 300 s = 10 A = rng.standard_normal((n, d)) x_true = np.zeros(d) support = rng.choice(d, size=s, replace=False) x_true[support] = rng.standard_normal(s) sigma_noise = 0.1 b = A @ x_true + sigma_noise * rng.standard_normal(n)

这段代码生成了d=300的参数空间和n=120的观测样本。因为是欠定问题，不带稀疏约束的后验几乎无法识别真实支撑集。L1 先验正好帮助我们在采样时把大量坐标压到零附近。

5.3 朴素近端 Langevin 与活跃追踪统计

下面定义一个采样主循环。每一步先计算光滑部分的梯度，然后用软阈值算子对参数做一次修正，最后再叠加噪声。每一步结束后，记录当前非零参数个数，并累加到 active trace 变量中。

这里刻意不使用任何高级库，以便读者观察每一步计算过程。

def grad_g(x): return A.T @ (A @ x - b) / (sigma_noise ** 2) def prox_l1(v, threshold): return np.sign(v) * np.maximum(np.abs(v) - threshold, 0.0) def sample_with_active_trace( init, step_size=0.001, lam=1.5, n_iter=5000, burnin=1000, ): x = init.copy() x_current = x.copy() active_trace = 0 samples = [] active_counts = [] for k in range(n_iter): grad = grad_g(x_current) y = x_current - step_size * grad x_next = prox_l1(y, step_size * lam) noise = np.sqrt(2.0 * step_size) * rng.standard_normal(d) x_next = x_next + noise active_count = int(np.count_nonzero(x_next)) active_trace += active_count active_counts.append(active_count) if k % 100 == 0: print(f"iter={k}, active_count={active_count}, active_trace={active_trace}") x_current = x_next if k >= burnin: samples.append(x_current.copy()) return np.array(samples), active_counts, active_trace

代码逻辑并不复杂：grad_g计算二次项的梯度，prox_l1实现软阈值算子，主循环先做一次近端梯度更新，再加入 Langevin 噪声。active_count统计当前更新后非零的坐标数，active_trace做累加。

需要特别提醒，初始化值不能直接取全零向量。原因很简单：如果初始点正好在所有近端算子的阈值内且梯度为零，算法可能很长时间停留在不活跃状态。实际使用中建议从零附近但非零的随机点出发。

5.4 运行实验与后验估计

为了观察采样是否合理，可以运行以下脚本，对比后验均值与真实稀疏支撑集，并打印相关的统计结果。

samples, active_counts, active_trace = sample_with_active_trace( init=0.01 * rng.standard_normal(d), step_size=0.002, lam=1.2, n_iter=3000, burnin=1000, ) posterior_mean = samples.mean(axis=0) top_indices = np.argsort(np.abs(posterior_mean))[-10:] print("真实支撑集:", np.sort(support)) print("后验均值最大的坐标:", np.sort(top_indices)) print("平均活跃坐标数:", np.mean(active_counts)) print("总活跃轨迹成本:", active_trace) print("朴素每轮全量成本: 300 * 3000 =", d * 3000)

这里的输出结果和具体随机种子、步长选择有关。由于文章不是实测报告，建议读者在自己环境中运行后，重点观察几个信号：

• 后验均值最大的坐标是否和真实支撑集有较大交集；
• 平均活跃坐标数是否小于维度 d；
• active_trace 与朴素成本之间的比例是多少，这个比例直接衡量了活跃压缩的效果。

在真实运行中，如果算法能够收敛到合理的稀疏后验，活跃坐标数会明显小于 d。打印出来的 active_trace 比朴素成本低一个数量级，也正是标题中复杂度界希望刻画的现象。

5.5 可视化活跃坐标波动

除了总成本，活跃坐标数在迭代过程中的波动情况也很值得观察。可以用下面的代码画图：

import matplotlib.pyplot as plt plt.figure(figsize=(8, 4)) plt.plot(active_counts, lw=0.8) plt.xlabel("iteration") plt.ylabel("active coordinate count") plt.title("Active Coordinates Along Sampling Trace") plt.tight_layout() plt.savefig("active_trace.png", dpi=120) plt.close()

从这张图中，你可以清晰地看到活跃坐标数不会严格等于稀疏度 s，而是在某个区间波动。这是噪声导致的正常现象。如果活跃坐标数一直非常高，很可能说明 L1 正则强度 λ 太小，后验不够稀疏；或者步长过大，导致轨迹一直处在偏离中心的位置。

6. 运行结果与效果验证

6.1 如何判断算法是否成功

对于这类采样实验，绝对不能只看 loss 是否下降。真正要检查的是输出样本是否近似来自目标后验。在没有 Metropolis 校正的情况下，可以按下面的顺序检查：

1. 后验均值是否落在合理区域，并与真值有相关性；
2. 支撑集是否具有稀疏性，而不是所有坐标都微小非零；
3. 活跃坐标数是否能稳定在一定范围内；
4. 如果已知真实后验可以近似解析，可以做边缘分布的 QQ 图或直方图对比。

如果目标分布相对简单，例如强凸的稀疏线性回归后验，常见的现象是后验均值能比较准确地把真实非零位置估计出来，同时幅度比真值略小。这种收缩效应来自拉普拉斯先验本身的性质，属于正常现象。

如果发现活跃坐标数随迭代次数越走越高，大概率是采样过程没有混合，甚至发散。这时第一步先调小步长，第二步再看 λ 是否需要增大。

6.2 失败模式与首次排查方向

这类采样器最容易出现的失败模式是“样本发散”，特征是某些坐标的绝对值猛烈增长，随后活跃坐标数爆炸。原因通常并不复杂：光滑二次项曲率较小时，步长超过稳定范围，导致近端阈值修正跟不上梯度漂移。

第二个常见问题是无意义收敛。也就是采样样本稳定地停留在几乎同一个点，活跃坐标数低，但后续估计偏差很大。这往往说明步长过小或模拟长度不够，轨迹尚未混合。

第三个问题是在不活跃坐标上引入逻辑 bug。如果近端算子被错误地改成了硬阈值，那么轨迹的平稳分布会出现不可控偏移。软阈值是唯一与 L1 近端算子匹配的选择。

7. 常见问题与排查方法

这些排查经验并不仅限于教学示例。即使是带复杂梯度的深度贝叶斯模型，只要潜在的不稳定核心是近端 Langevin 更新，第一步通常都优先检查步长和正则化强度。

8. 工程实践与可扩展建议

8.1 不要让活跃集变成硬判断

优化里常用的严格 active-set 思想迁移到采样时，要特别注意噪声会把坐标反复推到边界之间。用硬编码的二值掩码来跳过所有“不活跃”坐标，可能造成样本分布失真，因为一个坐标今天不活跃，明天却会因噪声而越过阈值。

工程上更推荐的方法，是把活跃判断作为一种“计算调度”而不是“数学近似”：每一轮仍计算所有坐标的低成本预测，但只在少数活跃坐标上做更精细的梯度计算和近端修正。这样可以保证偏差只来自算法本身的离散化，而不是额外的人为截断。

若只能选择一个最简单方案，建议在每个采样轮次依然更新所有坐标，但把近端算子、梯度统计等昂贵部分与“活跃可能性”挂钩，通过累计 active trace 监控成本，而不是通过硬掩码去减少本轮数学计算。

8.2 步长与 Moreau–Yosida 平滑参数要成套设计

很多初学者在实验中分开调节步长和平滑参数，导致精度不好又难以排查。实际工作中，步长 η 和平滑参数 γ 一起决定了近似后验与真实后验的距离。理论复杂度分析给出的常见建议是：先估计目标函数的曲率，再选择足够小的步长满足离散化稳定条件；然后，在这个步长量级上选取合适的 γ，使包络不引入额外大的偏差。

对于演示代码，因为没有手工增加 Moreau–Yosida 参数，近端阈值和步长直接用乘积形式耦合，所以实验时重点调step_size和lam两个参数即可。对于正式项目，最好把平滑参数从步长中分离出来，写成独立的gamma配置项，便于对照实验。

8.3 用累计成本而不是单步时间度量复杂度

如果团队要评估这类采样器的收益，不建议只测单步耗时。因为活跃坐标的分布会随迭代轮次变化，单步耗时的快照没有代表性。更好的一种做法是设置两个实验组：

1. 朴素方法：所有 d 个坐标都做完整更新；
2. 活跃追踪版本：记录每一轮的活跃坐标数并据此调度。

跑完后，比较两者的累计活跃坐标量和实际墙上时间。即使代码优化层面差别不大，累计活跃量也能作为算法相关结论的一个稳定代理指标，帮助团队判断是否值得投资进一步优化。

8.4 稀疏高维下要善用矩阵结构

在线性模型示例中，设计矩阵 A 是稠密的，全量梯度计算本来就需要 A 和 Aᵀ 的矩阵乘，单靠稀疏参数无法省掉这部分。如果真正要追求高维收益，应采用具备稀疏结构的 A、分块对角矩阵，或完整的惰性求值系统。

否则，active-trace 减少的是“近端算子和活跃坐标”部分的成本，而矩阵乘法仍然占主导。复杂度界讨论的理想效果，要发挥作用，必须配合数据本身具备可压缩性或结构稀疏性。

8.5 安全地使用生产环境前先做分布校验

把这类采样器接入生产环境前，强烈建议先在小规模问题上用可验证方法做一次分布校验。常用的做法是抽取少量边缘分布，与慢速但高精度的基准方法对比。这类基准可以是更小的步长、更多的迭代，也可以是带有 Metropolis 校正的版本。

尤其在需要给客户或下游模块提供后验样本时，Unadjusted 这个前提本身就是风险提示：没有校正步骤，如果步长偏大，输出的平稳分布可能与目标分布有不可忽略的偏差。建议把步长设置视为精度参数，而不是性能参数。

9. 从这篇论文标题出发，下一步可以做什么

回到标题本身。Active-Trace complexity bounds 研究背后的真正趋势，是贝叶斯采样开始借鉴优化领域多年来积累的稀疏性洞察。过去我们习惯把每个采样步骤看成均匀的昂贵操作，而它提示我们，从统计推断的轨迹看，很多维度并不需要被「完全平等地」对待。

对普通开发者来说，不需要完整读透论文里的每一个不等式，就能带走三个有用的技术判断：

第一，遇到不可微的后验目标时，Moreau–Yosida 正则化或等价的近端机制，是一种比人为平滑更可靠的选择。它能让梯度定义和近端计算同时成立。

第二，采样算法的真实复杂度应当沿着轨迹去累计，而不是只看迭代次数。活跃坐标数若远小于维度，那么总的成本上界就有了压缩空间。

第三，把 active-set 思想从优化搬到采样时，要留意噪声造成的边界抖动。活跃集是一个会随随机性变化的集合，这一点必须在代码逻辑和理论分析中都以动态方式处理。

下一步如果要深入，可以按顺序阅读三块内容：先回顾近端梯度法及其收敛性，它帮助理解 Moreau–Yosida 与近端算子的关系；再读 Langevin 扩散离散化的基础证明，了解步长与平稳分布误差如何挂钩；最后再看本文主题对应领域中，关于复合目标与带稀疏结构的后验采样的最新扩展。

在这之后，你可以把示例代码中的线性模型替换成自己领域内的真实稀疏模型，比如压缩感知、稀疏逻辑回归或带稀疏诱导先验的深度贝叶斯网络。跑通的第一步不应该是追求多快的收敛，而是先搭建好“活跃轨迹监控”、“累计成本”和“分布校验”三个观察窗口。有了它们，你才真正知道新算法产出的结果「快在哪里，省在哪里」，而不是只听到一个漂亮的理论标题。