无监督谱回归（USR）模型测试阶段实现详解

无监督谱回归（USR）模型测试阶段实现详解

在无监督降维任务中，训练阶段完成了投影矩阵的学习，而测试阶段则负责将新数据高效映射到学到的低维子空间。无监督谱回归（Unsupervised Spectral Regression, USR）作为一种高效的线性降维方法，其测试过程非常简洁直接。本文将详细解析USR模型的测试实现，帮助你理解如何利用训练好的模型对新样本进行降维投影。

USR测试阶段的核心思想

USR的训练阶段通过谱回归框架求得了一组投影向量（即投影矩阵的列），这些向量对应于图拉普拉斯矩阵的最小特征值方向，能够最大程度保留数据的局部流形结构。

在测试阶段，我们只需要：

1. 验证模型类型是否匹配（确保使用的是USR训练得到的模型）。

2. 检查请求的降维维度d是否超出训练时设定的最大维度。

3. 用新样本的特征直接与投影矩阵相乘，得到低维表示。

整个过程完全是线性运算，无需重新构建图或计算核矩阵，效率极高，适合处理大规模新数据。

特殊情况：Lasso正则化的稀疏投影

USR支持两种正则化方式：

• Ridge（L2正则）：得到稠密的投影矩阵。

• Lasso（L1正则）：得到稀疏的投影系数，通常使用LARs算法在不同稀疏度（基数）下求得多组投影。

当训练时采用了Lasso + L