EfficientNet训练后模型测试实战：从权重加载到指标评估

开头一段： 最近帮别人看一个图像分类项目，中途接手时模型已经训练完了，剩下要做的事情非常明确：把训练好的 EfficientNet 模型加载起来，在测试集上完整跑一遍，输出准确率、混淆矩阵这些指标，顺便排查一下单张图片推理表现不对的几处坑。听起来很简单，实际做下来发现“测试”这个环节其实藏了很多细节，稍不注意就得出错误结论。这篇文章就把整个过程从头到尾拆开讲一遍，包括模型架构的基本逻辑、加载训练好权重的正确姿势、图像预处理的隐藏细节、评估指标的真正含义，以及我在实际测试中遇到的典型问题和解决方法。

如果你手里刚好也有训练好的 EfficientNet 模型，或者正准备拿预训练权重做迁移学习测试，这篇文章可以当作一份可以直接上手的操作手册。我会尽量用从业者之间交流的口吻来写，不绕弯子，也不堆理论。

1. 测试前的思路拆解：EfficientNet 为什么值得单独讲“测试”这件事

1.1 EfficientNet 核心设计思路回顾

在进入测试环节之前，我还是把 EfficientNet 的来龙去脉简单梳理一遍，因为理解它的设计逻辑会直接影响你测试时的许多选择。

EfficientNet 的核心是“复合缩放”（compound scaling）。过去的网络设计，通常是在深度、宽度、输入分辨率这三个维度上单独做调整：加层数、加通道数、提高图片分辨率。但 EfficientNet 的工作指出，这三个维度并不是独立的，它们之间互相影响，应该用一个统一的系数同时缩放。

具体来说，深度按 $\alpha^\phi$、宽度按 $\beta^\phi$、分辨率按 $\gamma^\phi$ 缩放，其中 $\alpha \cdot \beta^2 \cdot \gamma^2 \approx 2$ 是一个约束条件，用来保证缩放后网络的计算量大致可控。这样做的好处是：给你一个 baseline 网络，你通过一个系数 $\phi$ 就能得到从 B0 到 B7 这一系列模型。

这个设计带来的直接结果是 EfficientNet 系列在相同计算量下，准确率往往优于很多手工设计的网络。比如 B0 的参数量和 FLOPs 都不大，但精度能和不少更大的模型抗衡。也正因为这个“轻量但高效”的特点，EfficientNet 在教育、医疗、工业视觉等对部署成本敏感的场景里用得非常多。

当然，EfficientNet 也有自己的短板，比如在不同框架间转换权重时相对容易踩坑，对输入预处理的敏感度也偏高。这两点恰好都会在“测试”环节暴露出来。

1.2 “测试”不是训练的反向操作

很多人觉得训练模型很难，测试很容易：加载权重，喂图片，拿输出就行。但实际经验告诉我，测试阶段踩的坑往往比训练阶段更隐蔽，因为测试涉及几个训练时不会注意到的关键点：

• 训练时模型处于 training 模式，BatchNorm 会实时计算 batch 统计量；测试时必须切换成 eval 模式，否则单张图片推理结果会异常。
• 训练时常会用随机裁剪、翻转等数据增强；测试时如果沿用训练增强，相当于每次评测都在给模型加扰动，结果自然不会稳定。
• 图像预处理的归一化参数、输入尺寸、通道顺序，如果和模型训练时不一致，再好的模型也会被“测崩”。

所以我认为，测试训练好的模型这件事，本质上是对一条完整推理链路正确性的验证。要做的不只是调用model.predict()或者model(img)这么简单，而是要把整个数据从磁盘到张量的流动过程都纳入检查范围。

1.3 测试目标分层：单图验证、批量评测、部署回归

我一般会把模型测试拆成三个层次来做，按顺序推进，任何一个环节没通过都不会往后走：

1. 单图验证：确认加载的模型能对一张已知图片给出符合预期的结果，重点排查预处理和加载链路。
2. 批量评测：在完整测试集上统计准确率、Top-5、混淆矩阵等指标，评估模型实际能力。
3. 部署回归：在真实业务场景里验证模型表现，必要时导出到推理框架做性能和稳定性压测。

这篇文章的标题是“利用训练好的模型测试”，所以我重点讲前两层，部署回归稍微带一点思路。

2. 模型加载与权重文件处理的几个关键点

2.1 弄清楚你手里的模型是哪种形态

测试一个训练好的模型之前，先得搞清楚你的模型“长什么样”。按来源可以大致分成三类：

• 自己训练的完整模型文件：比如 TensorFlow 的.h5、PyTorch 的.pth，里面既有网络结构也有权重，加载后可以直接推理。
• 官方或开源社区发布的预训练权重：通常只有权重没有结构，需要配合对应的模型定义代码一起加载。
• 中间产物、检查点文件：比如 TensorFlow 的 checkpoint 或 PyTorch 的.pth.tar，这类文件往往还包含优化器状态、epoch 信息，需要抽取其中的model或state_dict字段。

我在早期的项目里就吃过这个亏：直接用torch.load把整个检查点文件当成权重塞进模型，结果 key 对不上，报了一堆错。后来我习惯先打印一下文件的键名，再做针对性加载，基本上就没有再出过类似问题。

如果是 Keras 生态，加载会稍微省心一点：只要保存时用的是model.save()而不是model.save_weights()，加载时tf.keras.models.load_model()就能一次性把结构和权重都恢复出来。但这里也有个版本兼容性问题，Keras 2.x 和 Keras 3 之间的 h5 文件有时会互相不认，实测下来比较稳妥的做法是保存时把自定义层和损失函数都注册好，加载时显式传入custom_objects。

2.2 官方权重加载与严格模式陷阱

用timm（一个非常常用的图像模型库）加载 EfficientNet 预训练权重时，代码很简单：

import timm model = timm.create_model("tf_efficientnet_b0", pretrained=True) model.eval()

但如果你是自己定义模型结构，再手动加载官方权重，就会遇到strict=True的问题。默认情况下 PyTorch 的load_state_dict是严格模式，只要 key 对不上就直接报错。出现这种情况常见原因有几个：

• 分类头（classifier）的维度与预训练模型不一致，比如 ImageNet 上是 1000 类，而你的项目可能只有 10 类或 5 类。
• 输入层的通道数被改过，比如你要做单通道灰度图分类。
• 模型定义里的层名与官方层名不一致，常见于手敲结构时命名不规范。

解决方案也很常规：把分类头的维度对齐，或者加载时跳过最后一层：

state_dict = torch.load("efficientnet_b0.pth") state_dict.pop("classifier.weight") state_dict.pop("classifier.bias") model.load_state_dict(state_dict, strict=False)

不过strict=False不是万能的。它会让你错过其他层因为命名不一致而产生的问题。建议加载后打印一下“未匹配的 key”，确认主要特征的权重都加载进去了，再放心测试。

2.3 推理模式：train/eval 千万别搞混

加载完模型以后，第一件事是设置成推理模式。PyTorch 里一行model.eval()，TensorFlow 里通常不需要显式设置，但涉及 BatchNorm、Dropout 时，训练和推理行为是不同的。EfficientNet 里大量使用了 BatchNorm，如果不切到 eval 模式，批归一化会继续用当前 batch 的统计量做归一化，单张或多张图片测试时结果会非常不稳定。

我见过不少人在实盘测试的时候，明明训练准确率 90% 多，一测单张图效果差得离谱，最后发现就是忘了model.eval()。这个“坑”看起来简单，但排查起来往往会浪费不少时间。

2.4 关于“训练好的模型”的边界问题

很多时候我们说的“测试”，其实不只是把图片喂进去看输出，而是要评估这个模型在目标业务场景下的真实表现。如果数据分布发生了明显变化，比如训练时用的是公开数据集、上线时用的是项目组自己拍的图，那么迁移过来的预训练模型的所谓“高准确率”并不代表实际效果好。这一点我留在后面的评估部分细说，但加载模型之前先确认这个边界，能省下后面很多无效工作。

3. 图像预处理与单图推理链路搭建

3.1 不同型号的输入尺寸

EfficientNet 从 B0 到 B7，输入分辨率是递增的：B0 是 224，B1 是 240，B2 是 260，B3 是 300，B4 是 380，B5 是 456，B6 是 528，B7 是 600。加载模型前务必确认对应型号的输入尺寸，否则测试时图像缩放不对，模型输入维度不对，结果必然出错。

注意：这里的“输入尺寸”是官方训练时的分辨率，测试时如果随意改成其他尺寸，虽然多数网络可以通过全局池化接上全连接层而不至于报错，但效果会打折扣，因为模型的感受野和特征尺度是针对原始分辨率设计的。

我在项目里习惯把尺寸配置写成字典，方便切换不同型号：

input_sizes = { "efficientnet_b0": 224, "efficientnet_b1": 240, "efficientnet_b2": 260, "efficientnet_b3": 300, }

虽然使用 timm 时可以通过model.default_cfg["input_size"]直接拿到默认尺寸，但自己维护一个映射表，在写预处理工具时会直观很多。

3.2 归一化：不是所有模型都用同一组 mean/std

EfficientNet 的预训练归一化方式和 ResNet 不一样。ResNet 系列通常用mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225]，而 EfficientNet 官方实现和部分第三方权重对归一化的处理是有差异的。有些实现会额外做一次0-1 归一化后再减均值除标准差，有些则直接使用 ImageNet 的 mean/std。如果你用的是 timm，它会自动从模型配置里读归一化参数，不需要手写。但如果你是从其他渠道拿到的权重，就一定要确认归一化方式是否一致。

另外一个容易忽略的点是：EfficientNet 官方实现和 timm 实现的数据增强策略不同，会导致微调后的模型行为有细微差异。你用 timm 的推理管线测别人用官方实现训出来的模型时，可能效果比预期略低，这大概率不是模型的问题，而是预处理差异。这种情况下，优先按照对方训练时的预处理来测。

3.3 单张图片推理的完整示例

下面给出一段基于 PyTorch + timm 的单图推理代码，这里我以一张本地图片为例：

import torch import timm from PIL import Image from timm.data import resolve_data_config, create_transform model = timm.create_model("tf_efficientnet_b0", pretrained=True) model.eval() config = resolve_data_config({}, model=model) print("Config:", config) transform = create_transform(**config) img = Image.open("test_001.jpg").convert("RGB") input_tensor = transform(img).unsqueeze(0) with torch.no_grad(): output = model(input_tensor) probs = torch.nn.functional.softmax(output[0], dim=0) top5 = torch.topk(probs, 5) print(top5)

这段代码里有几个设计意图：

• model.eval()：关闭 Dropout 和 BatchNorm 的 batch 统计更新。
• resolve_data_config：从模型配置里自动读取输入尺寸、归一化参数，避免手写出错。
• torch.no_grad()：推理阶段不需要计算梯度，节省显存和耗时。
• softmax + topk：得到各类别的概率和 Top-5 结果，这是图像分类任务最常用的输出形式。

如果不想用 timm 的封装，自己写预处理也完全可以，核心流程是：Resize(256) -> CenterCrop(224) -> ToTensor -> Normalize。这套流程和传统 CNN 的测试预处理一致，效果也稳定。

3.4 批量测试与数据加载

单图测试打通以后，接下来就是批量测试。批量测试的常见诉求是：看整体准确率、看单类效果，顺带输出预测结果方便后续分析。批量推理的数据加载方式可以直接复用 PyTorch 的ImageFolder，不需要自己造轮子：

from torch.utils.data import DataLoader from torchvision.datasets import ImageFolder dataset = ImageFolder("test_data", transform=transform) loader = DataLoader(dataset, batch_size=32, shuffle=False, num_workers=4) correct = 0 total = 0 with torch.no_grad(): for images, labels in loader: outputs = model(images) _, predicted = torch.max(outputs, 1) correct += (predicted == labels).sum().item() total += labels.size(0) print(f"Top-1 Accuracy: {correct / total:.4f}")

这里有个经验：批量推理时batch_size的选择要结合显存来定。EfficientNet-B0 在 224 分辨率下显存占用不大，但换到 B4、B5，输入分辨率和通道数都上去了，显存占用会成倍上涨，这时候要适当减小 batch。

3.5 推理性能与实际部署中的注意点

模型测试不仅是看准确率，也要看推理速度是否能满足业务需求。如果你的场景是离线批量测试，那对速度的要求不高；但如果模型要上线做实时推理，性能就是硬指标。我在实测中发现以下几个优化点非常有效：

• 图片解码是隐藏瓶颈。大量小图用 Pillow 逐张读取非常慢，可以试试turbojpeg或cv2解码，速度有显著提升。
• 半精度推理：将模型和输入都转成 FP16，显存占用减半，推理速度更快，但要注意归一化操作也要在相同的精度下进行。
• 导出 ONNX 后用onnxruntime或 TensorRT 推理，这在端侧和服务端部署时都很常用。

4. 测试指标评估：别只盯着准确率

4.1 从 Top-1 到 Top-5 的视角差异

分类任务里最常见的指标是 Top-1 准确率：预测概率最高的类别是否和标签一致。但很多实际业务问题里，Top-1 并不够用。比如做细粒度分类，两个亚类之间存在很强的视觉混淆，用户可能只需要“大类正确”；这时 Top-5 能给你更多信息。

我举一个实际例子：某个项目做零件表面缺陷分类，模型把“划痕”判成了“轻微压痕”，Top-1 是错的，但 Top-5 里真正的类别排第二位。这时候如果你只看 Top-1，会低估模型的实际可用性；但如果结合 Top-5 看，就能知道模型其实已经学到了足够的信息，只是类别之间的决策边界还需要调优。

评估时建议同时输出：

• Top-1 准确率
• Top-5 准确率
• 各类别的 Precision 和 Recall
• 混淆矩阵

4.2 混淆矩阵与误判分析

混淆矩阵不能只用来“看”，更重要的是从里面找规律。我通常会把矩阵行归一化，这样每一行代表“该类别的样本被分到了哪些类”，能直观看到哪些类别互相混淆、哪些类别几乎是随机猜。

有一次我在项目里发现两个类别混淆率特别高，打开图片一看发现标签本身就有问题：标注员把“背景干净”和“背景轻微反光”混在一起标。纠正标签后，模型准确率直接提升了 3 个百分点。这类问题不在模型本身，而在数据质量，而测试评估恰恰能帮你发现这个层面的问题。

4.3 不同测试集的泛化评估

训练时大家习惯把数据集随机划分成 train/val/test，但这个划分方式有一个隐含假设：测试集和训练集来自同一个分布。真实业务场景里，模型上线后面对的数据往往和训练集有偏差。比如训练集是白天拍摄的照片，夜间场景的图片效果就会差很多。

所以在测试阶段，我强烈建议准备至少两个维度的测试集：

• 随机划分的测试集：评估模型在“同分布”数据上的表现。
• 额外采集的业务真实数据：评估模型在“目标分布”上的表现。

如果业务数据量很小，哪怕先拿 100 张真实场景图跑一轮，得到的高低落差也能让你心里有数。模型在随机测试集上 95%，在真实场景 70%，那说明模型没有真正学到你要的规律，后面要做的不是调测试管线，而是回头补数据或做迁移学习。

4.4 置信度校准问题

很多测试报告只给准确率，但实际业务往往还要看置信度。有些模型对陌生样本会输出很高的概率，比如一张完全模糊的图也被给了 0.99 的置信度，这在上线做自动决策时是非常危险的信号。

测试阶段可以统计一下“正确分类样本的平均置信度”和“错误分类样本的平均置信度”。如果两者差距不大，说明模型对错误结果过于自信，需要考虑温度缩放（temperature scaling）等校准手段。这个指标虽然不常出现在入门教程里，但对真正上线的系统很有价值。

5. 常见的坑与排查思路

这一节我把自己实际遇到过的问题整理成一个速查表，再针对其中几个典型的做点说明。

5.1 加载权重时报 size mismatch

这个报错出现频率最高。原因通常是分类头维度不一致。比如预训练模型是 1000 类，你的模型最后一层是 10 类。解决方法是加载时去掉最后一层的 key，或者初始化后只加载除分类头外的权重，再接一个自定义分类头。

5.2 输入图尺寸不对导致的中途报错

如果你的模型对输入有固定尺寸要求但图片没有缩放到对应尺寸，就会在全连接层的地方报维度错误。解决方法是检查预处理后的张量维度，和模型输入要求对齐。

5.3 效果差但不清楚是模型问题还是预处理问题

这种问题最隐蔽。通常的做法是做一个 sanity check：拿一张训练集中表现很好的图片，走完整测试流程，看输出概率是否和训练时接近。如果训练时 0.99、测试时只有 0.5，基本可以断定是预处理或模型模式的问题，而不是模型本身的问题。

6. 从“测试”到“部署”的后续思路

如果测试结果达到预期，下一步大概率是部署。这里我只说几个和“测试训练好的模型”直接相关的点。

6.1 模型导出时的注意事项

把 PyTorch 模型转成 ONNX 时，最常遇到的问题就是动态输入尺寸和 op 集版本。我的习惯是固定输入尺寸导出，例如[1, 3, 224, 224]，这样后续用 onnxruntime 或 TensorRT 推理时兼容性更好。

dummy_input = torch.randn(1, 3, 224, 224) torch.onnx.export( model, dummy_input, "efficientnet_b0.onnx", opset_version=11, input_names=["input"], output_names=["output"], )

如果你打算用 TensorRT，尤其要注意模型里有些 op 在转换时会被替换或合并，建议转换后跑一遍校验，确保精度没有明显掉点。

6.2 用回归测试集守住迭代质量

模型迭代是常态，不是一次性的。我的习惯是维护一个回归测试集，里面包含过去犯过错的失败样本、容易混淆的边界样本，以及新增业务场景的真实样本。每次换新模型，都拿这套样本集跑一遍，确保新模型没有在修复旧问题的同时引入新的退化。

这个小习惯对长期维护一个图像分类系统非常有用，尤其是当模型更新频率高的时候。

7. 最后想说的话

回到标题：EfficientNet 利用训练好的模型测试。我自己的实践经验是，模型本身很少成为瓶颈，真正的瓶颈往往在“数据怎么喂进去”和“结果怎么解读”。只要你把预处理、加载、推理模式和评估指标这四件事对齐，测试环节基本就能顺利走完。

最后再分享两个小技巧。

第一，无论用什么加载方式，都要准备一张“已知结果”的图片做冒烟测试，比如拿一张训练集里准确率最高的图走一遍完整流程。如果这张图都测不对，那一定是流程有问题。这个技巧帮我排查过很多“怎么调都不对”的情况。

第二，尽量把测试脚本参数化，模型名称、权重路径、图片目录、输入尺寸都放到配置文件里。因为 EfficientNet 有 B0 到 B7 一大堆变体，参数化之后切换模型测试只需要改一行配置，不需要动处理逻辑，能省下不少时间。

如果你正准备拿训练好的 EfficientNet 做模型测试，照着上面的流程走一遍，应该能很快得到一份可靠、可解释的测试结果。测试顺利的话，再考虑后面的优化和部署也不迟。