Hook与Grad-CAM：深度学习模型可解释性实战

搞了半年的深度学习训练，模型在测试集上的指标很好看，可一旦遇到真实场景里的奇葩输入，它翻车的样子简直让人血压拉满。最憋屈的是，你根本说不清楚它到底“看”了图像的哪个部分才给出这样的判断——这就是经典的黑箱困境。今天Python学习打卡第42天，我想正经聊聊这个问题的解法：用Hook回调机制拆出模型的中间状态，再配合Grad-CAM可视化，把黑箱里最关键的“注意力证据”直接画成热力图。这篇文章适合已经跑通过训练流程、但还没深入碰过模型内部机制的读者，看完之后，你会掌握两把钥匙——一把打开中间层的大门，一把点亮分类决策的偏好区域。

先说个我自己的感受：之前有个二分类项目，模型准确率有96%，但把错误样本拿出来看，我发现它对背景环境的敏感度明显高于对目标物体本身。后来用Grad-CAM一画热力图，真相直接摊在眼前——模型根本不是去学目标特征，而是在利用图片角落的固定色块做捷径判断。从那以后，可解释性工具就成了我调试流程里的固定环节。这篇文章就从这个需求出发，把Hook和Grad-CAM从头到尾拆一遍。

1. 为什么深度学习需要解释权：任务边界与解题路径

1.1 黑箱问题的本质

深度学习模型说白了就是一套极大规模的参数化函数。拿图像分类来说，一张图经过卷积、池化、激活函数的交替堆叠，最后接全连接层和Softmax，输出一组概率分布。这个过程在数学上是明确可计算的，但在工程上是“不可读”的——你能看到每一层的输出张量，却没法直观理解这些数字对应什么语义。这种“可计算但不可读”的状态，就是黑箱感的来源。

黑箱问题不只在图像领域存在。推荐系统里，模型判断用户可能点击某个商品，背后的因子是什么；自然语言处理中，模型把某句话分类为正面评价，靠的是哪些词、哪些上下文。这些问题本质上都指向同一个诉求：我们需要的不仅是一个预测结果，还需要一个可以解释的判断依据。

这里要特别区分一下“参数可访问”和“行为可解释”。用PyTorch训练完模型后，每个卷积核的权重你都可以打印出来，但这没有意义——单个卷积核的权重数值本身不携带语义信息。解释性的关键，在于找到模型内部哪些表征被激活了，以及哪些区域对最终决策贡献最大。这正是Hook和Grad-CAM要解决的两层问题。

1.2 解题路径：Hook负责拆，Grad-CAM负责看

整个解法可以拆成两个环节：

第一层是“拆”。模型在推理过程中，中间层的激活值（特征图）和反向传播过程中的梯度都属于临时中间状态，正常情况下模型跑完就释放了。Hook机制就是在这些临时状态上安装一个“数据采集器”，让我们在不修改模型源码的情况下截获它们。

第二层是“看”。截获了特征图和梯度之后，怎么把它们转化成人类能理解的呈现方式？Grad-CAM提供了一套完整的算法，把高维的卷积特征压缩成一张和原图尺寸对应的热力图，告诉你看左上角的纹理特征是“狗的耳朵”、左下角那块区域是“背景草地”，模型做判断时到底重点参考了哪一块。

这两个环节缺一不可：没有Hook，Grad-CAM拿不到它需要的中间数据；没有Grad-CAM的算法加工，Hook截获的也只是没头没脑的数字张量。整个技术链路的巧妙之处就在这里——用最小的侵入性拿到最充分的信息，再用优雅的可视化算法把信息变成洞察。

1.3 适学人群与前置知识

这个专题适合三种人。第一种是刚跑通模型训练、想深入理解模型内部行为的开发者，钩子机制能帮你快速建立“中间状态”的直观印象；第二种是做模型上线前的bad case分析、需要给领导或客户一个直观解释的算法工程师，Grad-CAM热力图简直是汇报神器；第三种是对可解释性方向感兴趣、准备做相关研究的学生，Hook是很多高级可视化方法（比如Ablation-CAM、Smooth-Grad）的基础设施，这一篇学完，后续看论文代码会顺畅很多。

前置知识方面，你需要会用PyTorch加载模型、做一次正向传播和反向传播，理解梯度的大致含义。不要求精通，因为这篇文章里的代码会一行行拆开讲。真正重要的是一种拆解问题的思维习惯：当模型行为反常时，先别急着调参，先检查它到底在看什么。

2. 核心机制拆解：Hook回调到底是怎么“窃听”模型的

2.1 从回调概念认识Hook

在PyTorch的语境里，Hook本质上是一种回调函数。你可以把它想象成在一条生产线旁边安装的监控摄像头——生产线本身照常运转，摄像头不动生产线上的任何设备，只是在特定位置把经过的物料拍下来供你事后检查。

具体到模型执行流程上，就是这样一个场景：正常情况下，一个nn.Module执行完forward()后，输入和输出都直接传给下一层，中间没人记录。但如果你在这个模块上注册了一个forward hook，那么在模块的forward()执行完毕之后、返回值被继续传递之前，PyTorch会额外调用一次你预设的函数，把该模块接收到的输入和产出的输出一并交给你来处理。整个过程对模型的正常计算路径零干扰。

Hook机制还有一个重要特性，它不仅能监控前向传播，还能监控反向传播。训练过程中梯度是沿着计算图逆方向传递的，同样也有一个对应的回调时机。这意味着你可以拿到每一层计算出的梯度值，进而分析哪些层的梯度对最终的损失贡献最大，这对于诊断梯度消失、梯度爆炸问题非常有用。

2.2 前向钩子与反向钩子的分工

PyTorch中常用的Hook接口主要有下面几类：

前向Hook拿到的输出，就是那一层的特征图，形状通常是[batch, channel, height, width]，其中channel维度对应卷积核数量。以图像模型为例，越靠近输入层的特征图，通道数越少、空间分辨率越大，保留的是边缘、颜色块等低级特征；越靠近输出层的特征图，通道数越来越多、空间分辨率越来越小，编码的是语义信息。研究模型行为时，我们通常关心最后一两层卷积层的输出，因为这些特征图已具备完整的语义抽象能力。

反向Hook拿到的梯度则代表了“如果这一层的某个数值稍微变大一点，最终损失会怎么变化”。注意，梯度数值的大小和方向不直接等于特征的“重要性”，它只是描述了敏感度。Grad-CAM的关键创意，恰恰是把这两者结合起来：既看特征本身的激活强度，又看该特征对决策方向的敏感度，从而得到更可靠的归因结果。

2.3 钩子的执行时机与生命周期

理解Hook的执行顺序，有一个很关键的点：如果模型里有嵌套的模块结构（比如一个nn.Sequential内部包含多个卷积层），hook的顺序会遵循“子模块先执行，父模块后执行”的规律。这是因为PyTorch在构造计算图的时候，是先递归执行子模块的forward，等子模块全部完成之后再执行父模块的收尾逻辑。这种顺序在某些场景下会带来微妙的差异，比如你在父模块上挂了pre-hook，但实际生效时，它的子模块已经跑了一部分了。尽量避免依赖这种顺序。

Hook的注册是一次性的，但触发是永久性的。只要你不主动移除它，每次模型前向或反向都会调用你注册的回调函数。这引出一个非常现实的问题：内存累积。如果回调函数里做了大量对象的保存（比如把每次推理的特征图都append到一个全局列表里），前几次推理可能还好，跑个几十个batch之后内存就直线飙升。最佳实践是，在不需要Hook的时候立刻用handle.remove()移除，或者使用局部变量保存中间结果，避免全局引用。

我在实际项目中，习惯把Hook注册和特征提取封装成一个上下文管理器，利用__enter__和__exit__自动实现挂载和卸载，这样既能保证数据能取到，又不会因为忘记移除而导致内存泄漏。后面的代码示例会展示这个写法。

3. Grad-CAM核心算法拆解：梯度加权如何定位决策区域

3.1 从CAM到Grad-CAM的演进思路

在Grad-CAM出现之前，学界已经有人提出过CAM（Class Activation Mapping）方法。CAM的思路非常直接：把网络最后的全连接层替换成全局平均池化层（GAP），这样每个特征图通道都有了一个全局平均值，再通过一层线性分类器输出各类别的分数。由于GAP本身是可微的，你在GAP的输出和分类器的接合处，可以直接读出“每个特征图通道对某个类别的投票权重”。把这些权重和对应的特征图做加权求和，再上采样回原图尺寸，就是一张类激活热力图。

CAM的思路清晰，但它有一个致命缺陷：模型结构必须修改，而且必须用GAP替代全连接层，约束了适用范围。实际训练中，很多预训练模型用的是全局最大池化或者直接Flatten接全连接层，强行改结构会破坏预训练权重，重新训练成本很高。

Grad-CAM的聪明之处在于，它用反向传播中的梯度来“代理”CAM里那个线性分类器的权重。具体来说，它不再要求你修改模型结构，而是让你正常跑一次前向得到某个类别的置信度分数，再对这个分数做反向传播，计算出目标卷积层的梯度。梯度在这里扮演的角色，就是“该层每个通道对最终决策的敏感度”。这个改进让适用场景瞬间变得非常广：不管模型结构是什么，只要你能做一次反向传播，就能生成热力图。

3.2 权重计算与热力图公式的直觉理解

Grad-CAM的计算过程可以浓缩为三步：

第一步，对于目标卷积层的输出特征图(A^k)（下标k表示第k个通道），计算类别(c)的置信度分数(y^c)对该特征图的梯度。注意，这里(y^c)是Softmax之前的logits，不是Softmax之后的概率，原因后面讲。

第二步，对每个通道的梯度做空间维度的全局平均池化，得到一个标量权重(\alpha_k^c)。这个权重衡量的是“第k个通道对类别c的整体重要性”。直觉上，如果某个通道的梯度很大且都是正的，说明增大这个通道的激活值会明显提高该类别的置信度，那么这个通道就应该获得较大的权重。

第三步，把每个通道的特征图(A^k)乘以对应权重后做逐元素加和，再通过ReLU函数过滤掉负值，得到最终的类激活图。ReLU的作用在这里非常关键：我们希望保留的是“对类别c有正贡献”的区域，那些会让类别c得分下降的特征区域应该被抑制，归零处理。

整个过程的公式表达很简洁：

[ L_{Grad-CAM}^c = ReLU\left(\sum_k \alpha_k^c A^k\right), \quad \alpha_k^c = \frac{1}{Z} \sum_i \sum_j \frac{\partial y^c}{\partial A^k_{ij}} ]

其中(Z)是特征图的像素总数，相当于做了个平均。这段公式看起来抽象，但代码实现其实只有十几行，后面会完整展示。

3.3 为什么用logits而不是概率做反向传播

很多人刚接触Grad-CAM时都会有一个疑问：计算梯度用的(y^c)，到底应该是Softmax之前的原始得分，还是Softmax之后的概率？答案是原始得分。原因在于Softmax函数有一个缩放效应，它会将多个类别的得分差值压缩到0到1之间，同时引入类间竞争的耦合关系。直接用Softmax后的概率做反向传播，梯度会被Softmax的分母项干扰，导致某些原本重要的通道因为“其他类别也在响应”而被稀释，热力图会变得模糊不清、归因不够精准。在我自己的实现中，取logits[0, target_class]然后做backward()，效果一直很稳定。

3.4 与其它可视化方法对比

Grad-CAM在通用性和解释粒度之间取得了一个很好的平衡。对于需要像素级细节的场景，可以对Heatmap做逐元素乘法叠加（Guided Grad-CAM），得到更锐利的归因，但核心算法仍是Grad-CAM的框架。对于绝大多数调试与分析任务，标准版Grad-CAM已经足够用了。

4. 完整实操：从模型加载到热力图生成的一路实测

4.1 环境准备与模型选择

实操部分我会用一个常见的预训练图像分类模型做演示。基础环境是Python 3.8+、PyTorch 1.10以上的任意版本，配合torchvision加载预训练权重。

选模型有个小讲究：尽量选结构清晰、有明确卷积模块的模型，比如ResNet系列或者VGG系列。ResNet的layer4是一个很自然的切分点，最后一层卷积的特征图空间分辨率是7x7（输入224x224时），语义信息充足，很适合做可视化的目标层。VGG的features模块则更扁平化，可以做逐层对比，看不同深度特征的变化趋势。

模型的加载代码很简单：

import torch import torch.nn as nn import torchvision.models as models device = torch.device("cuda" if torch.cuda.is_available() else "cpu") model = models.resnet50(weights=models.ResNet50_Weights.IMAGENET1K_V2) model.to(device).eval()

这里我把模型设置为eval()模式，原因是BatchNorm层在训练和推理时的行为差异很大：训练模式下，BatchNorm使用当前Batch的统计量；推理模式下使用滑动平均的统计量。如果我们想做梯度回传（Grad-CAM需要反向传播），使用训练模式会因为BatchNorm统计量的剧烈波动引发梯度异常。保持eval()模型可靠稳定。

4.2 画像预处理与目标类别确定

选一张测试图像，可以是自己拍的猫、狗、汽车等常见物体。预处理要保证和预训练权重对齐：ResNet系列预训练权重默认接受224x224输入，每个通道的均值和标准差分别是[0.485, 0.456, 0.406]和[0.229, 0.224, 0.225]。这一步不做对，模型输出会完全不可解释，所以不能马虎。

from PIL import Image import torchvision.transforms as transforms transform = transforms.Compose([ transforms.Resize((224, 224)), transforms.ToTensor(), transforms.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225]) ]) image = Image.open("test.jpg").convert("RGB") img_tensor = transform(image).unsqueeze(0).to(device)

关于unsqueeze(0)：图像预处理后是[3, 224, 224]，但模型要求输入带batch维度，所以补了一个维度变成[1, 3, 224, 224]。很多新手漏掉这一步，直接报维度错误。当年我在这上面栽过一次，排查了半天才反应过来。

接下来确定目标类别。可以直接取模型预测的类别做可视化，也可以指定一个我们自己关心的类别。比如图片实际是猫，但模型预测成了狗，这时候你可以分别可视化猫和狗两个类别对应的热力图，对比模型在“回答不同问题时到底看了哪里”，这个对比分析的价值非常大。

with torch.no_grad(): logits = model(img_tensor) pred_class = logits.argmax(dim=1).item() print("预测类别索引:", pred_class)

4.3 注册Hook并完成前向与反向

这里开始进入核心环节。首先选定目标层，我拿ResNet50的话，就是model.layer4[-1]——也就是最后一个残差块里的最后一个卷积层。你看模型结构就知道，这层的输出特征图携带了丰富的语义信息，通道数2048，空间尺寸7x7。

为了让代码整洁，我用一个类来同时保存特征图和梯度：

class FeatureExtractor: def __init__(self, module): self.features = None self.gradients = None self._fh = module.register_forward_hook(self._save_feature) self._bh = module.register_full_backward_hook(self._save_gradient) def _save_feature(self, module, input, output): self.features = output def _save_gradient(self, module, grad_input, grad_output): self.gradients = grad_output[0] def remove(self): self._fh.remove() self._bh.remove()

注意到一个细节，我在_save_feature里直接保存了output本身，没有做detach()。这是个有意的选择。前向特征图是参与计算图构建的，不detach时我们可以把特征图和梯度建立关联。当然后面提取数值做可视化，我会手动detach()，避免张量带着计算图占用内存。反向Hook的参数grad_output是一个元组，一般取第一个元素，对应模块输出的梯度。

接着跑一次完整的前向和反向：

extractor = FeatureExtractor(model.layer4[-1]) image_tensor = img_tensor # 已经加过batch维度了，requires_grad需要设为True image_tensor.requires_grad_(True) # 前向 output = model(image_tensor) # 目标类别选预测类别 target = output.argmax(dim=1).item() output[0, target].backward() # 收集数据 feat = extractor.features.detach() # [1, 2048, 7, 7] grad = extractor.gradients.detach() # [1, 2048, 7, 7] extractor.remove()

有人会问，为什么给image_tensor设置了requires_grad=True？虽然Grad-CAM最终用的是目标卷积层的梯度，不直接需要输入层的梯度，但反向传播是从损失一路传回输入端的，中间每一层都会算梯度。如果不允许输入张量接收梯度，PyTorch可能会在反向传播时优化计算路径，导致某些中间层梯度不被保留。手动开启输入张量的requires_grad能确保反向传播完整走到目标层。

如果看了代码感到顺畅，就说明你已经get到了。剩下的就是把收益落地。

4.4 Grad-CAM核心计算与热力图生成

这部分代码量非常少，逻辑却很集中：

import torch.nn.functional as F # 通道权重的计算：对梯度做全局平均 weights = grad.mean(dim=(2, 3), keepdim=True) # [1, 2048, 1, 1] # 加权融合与ReLU过滤 cam = (weights * feat).sum(dim=1, keepdim=True) # [1, 1, 7, 7] cam = F.relu(cam) # 归一化到0-1区间 cam = (cam - cam.min()) / (cam.max() - cam.min() + 1e-8) # 上采样到原图尺寸 cam = F.interpolate(cam, size=(224, 224), mode="bilinear", align_corners=False) cam = cam.squeeze().cpu().numpy()

这里的逐行逻辑是这样的：grad.mean(dim=(2,3), keepdim=True)把每个通道的梯度做空间平均，得到形状[1, 2048, 1, 1]的张量；(weights * feat).sum(dim=1)实现加权求和，得到单通道类激活图；ReLU把负值置零，只保留正向贡献区域；归一化是方便和原图叠加时做透明度调节；最后F.interpolate把7x7的热力图放大到224x224，和原图的尺寸对齐。

叠加显示的时候，常用的做法是采用jet颜色映射，把冷色到暖色的渐变映射到热力图数值上。暖红色表示高贡献区域，冷蓝色表示低贡献区域。这一步不是算法的一部分，但视觉表达很关键，处理得好坏直接影响信息传达效果。

import matplotlib.pyplot as plt import numpy as np # heatmap: [224, 224] numpy array heatmap = np.uint8(255 * cam) heatmap_img = Image.fromarray(heatmap).convert("RGB") heatmap_img = heatmap_img.resize((224, 224)) # 使用jet colormap heatmap_color = plt.cm.jet(np.array(heatmap_img)[..., 0])[:, :, :3]

叠加时，我习惯用0.5左右的透明度做初步观察，再微调。如果热力图区域和物体轮廓完全重合，说明模型关注的是目标本身；如果热力图集中在上图背景区域比如天空、水面、桌面纹理，那就要警惕模型在学习环境捷径。

4.5 一次真实案例：推理错误时的热力图分析

我拿了一张常见的宠物猫照片做实验。模型预测为“埃及猫”，置信度0.83，看起来是对的。但当我指定目标类别为“金毛犬”并生成热力图时，发现模型给出的高贡献区域也集中在猫的脸部中央。这说明模型对不同类别的响应存在一定重叠，但这个重叠区域恰好是区分猫和狗的关键特征区（耳朵轮廓和脸型）。用这种对比法分析错误样本，能很直观地看出模型是否学到了“真正的类间差异特征”。

另外一个更有意思的案例是这样的：一个二分类广告检测模型，训练集里负样本的背景墙面大多偏红棕色，正样本的背景大多是浅蓝色。模型在测试集上表现很好，但换了一批背景颜色后准确率骤降。用Grad-CAM画热力图，所有错误的样本中，模型关注的区域都不在主体目标上，全部集中在背景色块上。这就是典型的“数据集泄漏”现象，如果只盯准确率指标，这个问题可能上线很久都发现不了。热力图可视化直接把这层窗户纸捅破了。

5. 常见问题排查与避坑技巧实录

5.1 Hook不生效

Hook不生效最常见的三个原因是：目标模块从未被调用、注册后模型被重新定义、模块处于某些特殊执行模式。比如你在model.layer4[-1]上挂了hook，但实际推理走的是另一个分支结构，hook自然不会被触发。排查手法很简单：在hook回调函数里打印一行日志，看模型跑完一遍后日志是否出现；没有出现，就要确认是不是注册了错误的模块，或者模型被torch.jit.script之类的机制重新编译了。

还有一种隐蔽情况：有些模型在forward里对子模块做了eval()切换，如果你注册hook的模块恰好在eval()和train()切换时不走正常的forward路径，hook也会失效。

5.2 梯度为全零或NaN

梯度全零的典型诱因是反向传播路径中断。比如你在模型内部用了detach()，或者自己实现了某一层从而阻断了梯度传递。目标层的梯度接收不到，载入后自然全是零。梯度NaN则多发生在输入数据包含NaN值，或者该层梯度出现数值溢出。解决办法：先打印目标层梯度的统计信息（均值、标准差、是否有NaN），再逐步剔除干扰因素。

另外，torch.no_grad()上下文中执行反向传播，梯度是完全不会计算的。有些初学者在生成CAM的时候，习惯性地把所有代码包在no_grad()里，最后一查梯度全是None，调了半天才发现是这个低级错误。

5.3 特征图尺寸与上采样方式的选择

特征图尺寸直接影响热力图的平滑度。ResNet50最后一层是7x7，上采样到224x224会有一定的马赛克感，但总体轮廓清晰。有人为了更精细的归因，选择更浅层的特征图（比如layer3的14x14或layer2的28x28），但代价是语义信息不够抽象，热力图会比较碎片化。实践下来，我建议优先用最后一层，特殊情况再做对比试验。

F.interpolate的插值方式我推荐bilinear，因为梯度加权后的热力图本质上是连续信号，双线性插值能保持平滑过渡。nearest会产生锯齿状边缘，影响视觉判断。

5.4 内存泄漏与Hook清理

内存泄漏是Hook机制的暗坑。写一个for循环遍历一堆测试图片时，如果hook回调把每次推理的中间量都保存在全局列表里，内存会持续增长。每次都调用remove()是一个好习惯。理论上，反向hook在backward()执行完毕后，计算图会释放，但每次推理都会产生新的临时张量，频繁创建和释放也会触发显存碎片化。把hook相关的操作封装成上下文管理器，用with块结束自动清理，是既优雅又稳的写法。

from contextlib import contextmanager @contextmanager def cam_hook_manager(module): extractor = FeatureExtractor(module) try: yield extractor finally: extractor.remove()

5.5 与模型部署环境的兼容性

如果你打算在推理服务器上集成Grad-CAM逻辑，需要注意三点：一是确保eval()模式下运行，否则BatchNorm统计量会产生不可控扰动；二是批量推理时对每个样本单独做反向传播，批量反向传播的梯度会和模型本身“竞争”，生成的热力图含义会模糊；三是ONNX导出不支持Hook，需要把可视化逻辑放在导出前的Python环境内完成，导出后的模型再做推理解释是做不到的。

部署到生产环境做实时可视化还有一个隐性风险：反向传播要求开启梯度计算，这会增加显存占用，通常比纯推理多30%到50%。如果线上显存很紧张，需要做权衡，或者只对抽样请求执行可视化，而不是全量处理。

5.6 一个实用的进阶方向

掌握了基础Grad-CAM后，我曾经做过一个它的升级版本：多层级联的注意力可视化。简单来说，把layer2、layer3、layer4各层的热力图都算出来，然后做一个加权叠加。这样既能观察低级边缘特征在分类中的作用，又能看到高级语义特征的响应区域。叠加的时候，我通常会查看权重分配，用浅层特征图对照深层特征图做一致性验证。当两张热力图高度一致，说明模型各层学到的特征方向是统一的；若出现明显分歧（浅层关注A区域、深层关注B区域），往往意味着模型内部存在某些不协调的信息处理。

这个扩展思路不仅能提升你对模型的理解，也能在写论文、写技术报告时提供更丰富的可视化材料。

结尾：说点实际操作之外的东西

搞清楚了Hook和Grad-CAM之后，我最大的感触是：很多模型问题根本不需要动用复杂的架构改造，有时候一张热力图就能直指病灶。以前我调模型，思路基本是“指标不行就加数据、加深网络、调学习率”，像是在黑屋子里修一台不知道哪里漏电的设备。现在学会了可视化，相当于在配电箱里装上了仪表盘——哪里电流异常一眼就能看出来，维修效率直线提升。

还有一个点值得强调，就是这种“不修改模型就能观察中间状态”的思维模式，远比某一套API的使用方法更值钱。Hook机制在PyTorch里不仅用于可视化，还可以做梯度修改、模型剪枝、神经风格迁移中的特征重建，本质都是同一把钥匙：在计算图的特定节点上挂载用户自定义逻辑。搞懂了这个抽象模型，你会发现自己开始能用“系统工程师”而不是“调参侠”的视角去思考深度学习问题。

最后分享一个我在实际项目中常用的操作习惯：每轮训练完，我都会用验证集里挑选几类典型样本（预测正确的、预测错误的、置信度高的、置信度处于边界区的），批量生成热力图拼成大图，直接存到训练日志目录里。等到几个版本的实验跑完，对比这些热力图的变化趋势，你能非常清晰地看到模型注意力的演化过程——这是指标曲线完全无法提供的信息。这个习惯帮我在很多次报告和评审会上救急，也是我认为Grad-CAM最有价值的用法。