文章目录
- 01 基础信息
- 02 背景
- 03 方法
- 04 结果
- 05 思考
- 06 新掌握的表达
01 基础信息
- 标题:Self-supervised learning of physics-guided reconstruction neural networks without fully sampled reference data。
- 作者:Burhaneddin Yaman、Seyed Amir Hossein Hosseini、Steen Moeller、Jutta Ellermann、Kâmil Uğurbil、Mehmet Akçakaya。
- 期刊:Magnetic Resonance in Medicine,84:3172–3191,2020。
- 关键词:自监督学习,SSDU,物理引导重建,算法展开,多线圈 MRI。
- 论文:DOI:10.1002/mrm.28378。
- 总结:SSDU 将已经采集的欠采样 k-space 分成互不重叠的两部分,一部分用于网络中的数据一致性,另一部分用于计算测量域训练损失,从而不依赖全采样参考训练重建网络。
前面的 MoDL 解决了网络如何结合物理模型的问题。这篇文章继续追问:如果无法采集全采样标签,能否利用现有欠采样数据本身构造训练信号?
02 背景
为什么全采样标签难以获得?
对于心脏、动态增强和高分辨率脑 MRI,采集受到运动、信号衰减或时间限制。全采样扫描可能过慢,甚至无法满足相同的时空分辨率要求。
因此,先要求获得大量高质量全采样训练数据,再训练加速模型,可能与实际成像条件矛盾。
物理引导重建模型:
y Ω = E Ω x + n y_\Omega=E_\Omega x+nyΩ=EΩx+n
Ω \OmegaΩ是实际采集的位置集合,E Ω E_\OmegaEΩ包含线圈灵敏度、傅里叶变换和采样操作。传统物理引导网络在 CNN 正则化与 DC 更新之间交替,训练时通常用完整参考计算误差。
重新整理的一些背景知识:
什么是自监督?
从已有观测中构造监督信号。它不意味着没有损失,也不意味着没有数据或没有训练,而是不再需要额外的全采样真值作为训练目标。
它与 DIP 有什么不同?
DIP 主要对当前图像重新优化网络;本文使用一批欠采样扫描训练共享的重建网络,再用于未见过的受试者。二者不需要相同类型的标签,但学习与使用方式不同。
为什么不能仅检查网络是否符合输入测量?
DC 本身就会使输出接近已输入的测量。若再只在同一批位置上计算训练损失,网络可能缺少学习预测未见位置的有效约束。SSDU 因此将用于 DC 与用于损失的数据分开。
03 方法
(1)只拆分已经采集的位置
Ω = Θ ∪ Λ , Θ ∩ Λ = ∅ \boxed{\Omega=\Theta\cup\Lambda,\qquad\Theta\cap\Lambda=\varnothing}Ω=Θ∪Λ,Θ∩Λ=∅
- Θ \ThetaΘ:训练时提供给网络,用于初始化和各个 DC 单元。
- Λ \LambdaΛ:从 DC 输入中留出,只用于评价网络预测并更新参数。
- Ω c \Omega^cΩc:没有实际测量的位置,不能直接拿来构造真值损失。
这里不是把完整 k-space 分成训练与标签,而是把原本已经欠采样的观测再做内部划分。
图 1:来源于原文 Figure 2。两个集合对应同一次扫描中的不同测量位置。
(2)在留出位置上计算测量域损失
令f θ ( y Θ , E Θ ) f_\theta(y_\Theta,E_\Theta)fθ(yΘ,EΘ)为重建网络的输出,训练目标为:
min θ 1 N ∑ i = 1 N L ( y Λ i ( i ) , E Λ i ( i ) f θ ( y Θ i ( i ) , E Θ i ( i ) ) ) \boxed{ \min_\theta\frac1N\sum_{i=1}^N \mathcal L\left(y_{\Lambda_i}^{(i)}, E_{\Lambda_i}^{(i)}f_\theta(y_{\Theta_i}^{(i)},E_{\Theta_i}^{(i)})\right) }θminN1i=1∑NL(yΛi(i),EΛi(i)fθ(yΘi(i),EΘi(i)))
先将输出图像通过编码算子映射到各线圈 k-space,再仅在Λ i \Lambda_iΛi对应位置与真实采集值比较。损失衡量的是:网络能否预测没有进入当前 DC 的那部分已知测量。
原文使用归一化混合范数损失:
L ( u , v ) = ∥ u − v ∥ 2 ∥ u ∥ 2 + ∥ u − v ∥ 1 ∥ u ∥ 1 \mathcal L(u,v)=\frac{\|u-v\|_2}{\|u\|_2}+\frac{\|u-v\|_1}{\|u\|_1}L(u,v)=∥u∥2∥u−v∥2+∥u∥1∥u−v∥1
为使监督基线可比,主要实验中的监督版本也使用 k-space 损失,比较的核心是训练监督来源。
(3)保留物理引导重建主干
主干通过变量分裂,将 CNN 正则化与 DC 分开。若z ( k ) z^{(k)}z(k)是 CNN 给出的中间结果,DC 形式为:
x ( k + 1 ) = ( E Θ H E Θ + μ I ) − 1 ( E Θ H y Θ + μ z ( k ) ) x^{(k+1)}=(E_\Theta^HE_\Theta+\mu I)^{-1} (E_\Theta^Hy_\Theta+\mu z^{(k)})x(k+1)=(EΘHEΘ+μI)−1(EΘHyΘ+μz(k))
通过 CG 求解对应线性系统,不显式计算大矩阵逆。训练时这里使用Θ \ThetaΘ,而不是全部Ω \OmegaΩ。
网络展开 10 次,每个 DC 中 CG 展开 10 步;正则化 CNN 为 ResNet,包含 15 个残差块及输入/输出卷积,采用3 × 3 3\times33×3卷积、中间 64 通道和 0.1 倍残差缩放。论文报告 592,129 个可训练参数,跨外层迭代共享。
(4)划分的比例和分布很重要
定义:
ρ = ∣ Λ ∣ ∣ Ω ∣ \rho=\frac{|\Lambda|}{|\Omega|}ρ=∣Ω∣∣Λ∣
ρ \rhoρ太小,损失覆盖的留出测量不足;太大,则网络 DC 可用信息减少。作者比较均匀随机和 Gaussian 变密度选择,并比较不同ρ \rhoρ与重叠程度。
最终采用 Gaussian 选择、ρ = 0.4 \rho=0.4ρ=0.4和互不重叠集合,每张训练切片可以使用不同的划分。实现中还保留中心4 × 4 4\times44×4区域在Θ \ThetaΘ,以维持重要低频成分。
注意:0.4 是已采集位置中的留出比例,不是完整 k-space 的 40%,也不能直接等价为某个真实扫描加速倍数,因为这种离线选点不必组成完整的读出线。
(5)推理使用所有已采集数据
训练完成后,对新扫描重建时输入:
x ^ = f θ ∗ ( y Ω , E Ω ) \widehat x=f_{\theta^*}(y_\Omega,E_\Omega)x=fθ∗(yΩ,EΩ)
没有必要继续扣留Λ \LambdaΛ。训练期间的内部划分不会使推理永久丢掉 40% 的有效测量。
作者用 Adam、batch size 1 训练 100 个 epoch,膝关节主要学习率为10 − 3 10^{-3}10−3。线圈灵敏度由已采集中心校准区使用 ESPIRiT 估计;缺少全采样真值不等于不需要物理编码信息。
04 结果
(1)损失掩膜选择:
五折交叉验证中,Gaussian 选择优于均匀随机。ρ = 0.1 \rho=0.1ρ=0.1时,SSIM 中位数分别为 0.9457 和 0.9380,NMSE 中位数分别为 0.0019 和 0.0021。
下表为 Gaussian 选择时不同留出比例的结果中位数,来自原文第 4.1 节;不将中位数写作均值:
| ρ \rhoρ | SSIM | NMSE |
|---|---|---|
| 0.1 | 0.9457 | 0.0019 |
| 0.2 | 0.9477 | 0.0018 |
| 0.3 | 0.9488 | 0.0018 |
| 0.4 | 0.9507 | 0.0017 |
| 0.5 | 0.9450 | 0.0020 |
| 0.6 | 0.9391 | 0.0022 |
作者还增加Θ \ThetaΘ与Λ \LambdaΛ的重叠,观察到性能下降。当全部测量同时用于 DC 与损失时,出现明显噪声放大。这支持了互斥划分的设计,但 0.4 不能直接作为所有数据集的普适最优值。
(2)膝关节数据:
使用 fastMRI 多线圈原始数据,考察冠状 PD、冠状 PD-FS、矢状 PD、矢状 T2 和轴位 T2 五类序列,采用回顾性 4 倍等间隔欠采样,并保留中心 24 条校准线。
每类序列使用 300 张训练切片:冠状两类来自 15 名受试者,其余三类来自 10 人;每类测试使用另外 10 名受试者的全部切片。
Figure 8 的总体分布显示,SSDU 与相同主干的监督训练在 SSIM 和 NMSE 上接近,均优于 CG-SENSE。部分图像还展示了 TGV 对比,但 TGV 没有覆盖全部测试数据,因此不能虚构一个完整 TGV 总体排名表。
(3)没有全采样参考的脑 MRI:
使用 19 名健康受试者的 0.7 mm 各向同性 3D-MPRAGE:先以真实前瞻性R = 2 R=2R=2采集,再进一步回顾性抽样到总目标加速率R = 4 , 6 , 8 R=4,6,8R=4,6,8。训练为 10 人的 300 张切片,测试为另外 9 人。
图 2:来源于 Figure 9。基础采集是前瞻性 2 倍,更高目标加速率通过后续抽样获得,不能将所有列都描述成独立前瞻性 4、6、8 倍扫描。
在这些设置下,SSDU 高加速重建减少了噪声与伪影。由于没有全采样参考,不能用这一组数据证明它比全监督训练更好,也不能报告相对于不存在真值的 PSNR。
阅片评价:
一名有经验的放射科医师对 SNR、模糊、混叠和整体质量评分。膝关节中监督与自监督结果整体接近,但冠状 PD-FS 的模糊评价存在例外。脑 MRI 中 SSDU 的较高加速率结果在混叠与整体质量上优于R = 2 R=2R=2的 CG-SENSE;随着 SSDU 加速率提高,整体质量仍下降。
这些是特定样本与阅片设置下的证据,统计上未发现差异也不能直接等同于严格证明两种方法等效。
05 思考
这篇文章的创新主要是网络结构吗?
关键在于监督信号的构造。作者固定同一主干比较监督与自监督,使结果更能回答“没有全采样标签还能否训练”,而不是被不同模型容量混淆。
它是不是只把交叉验证搬到了 k-space?
两者都有留出信息的思想,但 SSDU 在每个训练样本内部划分测量,并用留出误差更新模型。它不是仅在训练结束后评价一个独立验证集。受试者层面的训练/测试划分仍需要另外保留。
自监督目标是否等于干净图像误差?
损失目标来自真实采集的测量,其中也有噪声。它提供了不依赖全采样参考的训练方式,但并没有自动保证所有噪声分布下都与干净图像监督完全等价。编码误差、掩膜分布和校准质量仍会影响结果。
可以学习的点?
将“网络见到的数据”与“用于评价预测的数据”区分;从测量空间设计训练信号;用相同主干控制实验变量,并明确区分无全采样标签、无外部训练集和无需逐例优化这几种不同概念。
06 新掌握的表达
通过数据欠采样实现自监督:self-supervised learning via data undersampling
互不重叠的集合:disjoint sets
物理引导重建:physics-guided reconstruction
损失掩膜:loss mask
全采样参考数据:fully sampled reference data
前瞻性加速采集:prospectively accelerated acquisition
归一化混合范数损失:normalized mixed-norm loss