MATLAB 中计算归一化互信息的实用函数详解

在聚类分析、无监督特征选择、标签对齐等任务中，我们经常需要量化两个标签向量（或聚类结果）之间的相关性。互信息（Mutual Information, MI）是一个非常强大的度量，它来源于信息论，能有效捕捉两个变量间的依赖关系，包括非线性关系。相比调整兰德指数（ARI）或纯准确率，互信息对标签的排列顺序不敏感，更适合评估聚类质量。

然而，原始互信息的值受类别数量影响较大，不同数据集间的互信息值难以直接比较。为此，人们常用归一化互信息（Normalized Mutual Information, NMI）将值映射到 [0,1] 区间，1 表示完全一致，0 表示独立。

今天要介绍的这个 MATLAB 函数MutualInfo就是一个简洁高效的归一化互信息计算实现。它接受两个标签向量 L1 和 L2，直接返回 NMI 值，并在计算过程中加入了平滑处理，避免零概率导致的对数计算问题，非常适合在聚类评估流水线中使用。

函数接口与用法

函数签名：

MIhat=MutualInfo(L1,L2)

• L1, L2：列向量或行向量，表