ResNet18模型集成实战：投票法提升精度，云端轻松实现

ResNet18模型集成实战：投票法提升精度，云端轻松实现

引言

在图像分类任务中，ResNet18作为经典的轻量级卷积神经网络，因其优秀的性能和适中的计算复杂度而广受欢迎。但单个模型在面对复杂场景时，分类精度可能遇到瓶颈。这时，模型集成技术就能派上用场——通过组合多个模型的预测结果，往往能获得比单个模型更稳定、更准确的分类效果。

想象一下，就像考试时遇到难题，找几个学霸一起讨论答案，最终投票决定的正确率通常比单独问一个人更高。模型集成中的投票法也是类似的原理。不过在实际操作中，本地电脑同时运行多个模型实例可能会遇到显存不足、计算速度慢等问题。这正是云端GPU资源的用武之地——借助云平台强大的并行计算能力，我们可以轻松部署多个ResNet18模型实例，快速完成集成训练和预测。

本文将带你一步步实现：

1. 用PyTorch快速构建多个ResNet18模型
2. 使用投票法集成多个模型的预测结果
3. 在云端GPU环境高效运行整套流程
4. 对比集成前后的分类精度提升效果

即使你是深度学习新手，跟着本文操作也能在30分钟内完成全部实践。我们使用的CIFAR-10数据集包含10类常见物体（如飞机、汽车、鸟类等），是验证图像分类模型的经典基准。

1. 环境准备与数据加载

1.1 云端GPU环境配置

首先我们需要一个支持PyTorch和CUDA的GPU环境。这里推荐使用预装了PyTorch的云端镜像，可以省去繁琐的环境配置步骤。以CSDN星图镜像为例：

# 选择预装环境（示例） 镜像名称：PyTorch 2.0 + CUDA 11.8 Python版本：3.9 预装库：torch, torchvision, numpy等

启动环境后，建议先检查GPU是否可用：

import torch print(torch.cuda.is_available()) # 应输出True print(torch.cuda.device_count()) # 查看可用GPU数量

1.2 加载CIFAR-10数据集

CIFAR-10包含60,000张32x32彩色图像，分为10个类别，每个类别6,000张。PyTorch的torchvision库提供了便捷的加载接口：

import torchvision import torchvision.transforms as transforms # 数据预处理 transform = transforms.Compose([ transforms.ToTensor(), transforms.Normalize((0.5, 0.5, 0.5), (0.5, 0.5, 0.5)) ]) # 加载训练集和测试集 trainset = torchvision.datasets.CIFAR10(root='./data', train=True, download=True, transform=transform) testset = torchvision.datasets.CIFAR10(root='./data', train=False, download=True, transform=transform) # 创建数据加载器 trainloader = torch.utils.data.DataLoader(trainset, batch_size=128, shuffle=True) testloader = torch.utils.data.DataLoader(testset, batch_size=128, shuffle=False) # 类别名称 classes = ('plane', 'car', 'bird', 'cat', 'deer', 'dog', 'frog', 'horse', 'ship', 'truck')

2. 构建多个ResNet18模型

2.1 基础模型定义

我们将创建3个结构相同但初始化不同的ResNet18模型。PyTorch的torchvision.models已经提供了现成的实现：

import torchvision.models as models import torch.nn as nn def create_resnet18(): model = models.resnet18(pretrained=False) # 修改最后一层适配CIFAR-10的10分类 model.fc = nn.Linear(512, 10) return model # 创建3个模型实例 model1 = create_resnet18() model2 = create_resnet18() model3 = create_resnet18() # 将模型移到GPU device = torch.device("cuda:0" if torch.cuda.is_available() else "cpu") model1 = model1.to(device) model2 = model2.to(device) model3 = model3.to(device)

💡 提示

虽然我们使用了相同的网络结构，但随机初始化会导致三个模型学习到不同的特征表示，这正是集成能提升效果的关键。

2.2 独立训练多个模型

为了让集成更有效，我们需要分别训练这三个模型。这里给出第一个模型的训练代码，其他两个模型只需重复相同流程：

import torch.optim as optim # 定义损失函数和优化器 criterion = nn.CrossEntropyLoss() optimizer1 = optim.SGD(model1.parameters(), lr=0.1, momentum=0.9, weight_decay=5e-4) # 训练第一个模型 for epoch in range(10): # 训练10个epoch running_loss = 0.0 for i, data in enumerate(trainloader, 0): inputs, labels = data inputs, labels = inputs.to(device), labels.to(device) optimizer1.zero_grad() outputs = model1(inputs) loss = criterion(outputs, labels) loss.backward() optimizer1.step() running_loss += loss.item() if i % 100 == 99: # 每100个batch打印一次 print(f'Model1 Epoch {epoch+1}, Batch {i+1}: loss {running_loss/100:.3f}') running_loss = 0.0

训练完成后，记得保存模型权重：

torch.save(model1.state_dict(), 'resnet18_model1.pth') torch.save(model2.state_dict(), 'resnet18_model2.pth') torch.save(model3.state_dict(), 'resnet18_model3.pth')

3. 实现投票法集成

3.1 加载预训练模型

如果重启了环境，可以先加载之前保存的权重：

model1.load_state_dict(torch.load('resnet18_model1.pth')) model2.load_state_dict(torch.load('resnet18_model2.pth')) model3.load_state_dict(torch.load('resnet18_model3.pth')) # 设置为评估模式 model1.eval() model2.eval() model3.eval()

3.2 投票法实现

投票法的核心思想是：让多个模型对同一张图片进行预测，然后选择得票最多的类别作为最终结果。具体实现如下：

def ensemble_vote(models, testloader): correct = 0 total = 0 with torch.no_grad(): for data in testloader: images, labels = data images, labels = images.to(device), labels.to(device) # 获取所有模型的预测 outputs = [model(images) for model in models] _, predicted = torch.max(sum(outputs), 1) # 求和后取最大 total += labels.size(0) correct += (predicted == labels).sum().item() accuracy = 100 * correct / total print(f'Ensemble Accuracy: {accuracy:.2f}%') return accuracy # 测试集成效果 ensemble_vote([model1, model2, model3], testloader)

3.3 性能对比

为了展示集成的优势，我们可以对比单个模型和集成模型的准确率：

def evaluate_single(model, testloader): correct = 0 total = 0 with torch.no_grad(): for data in testloader: images, labels = data images, labels = images.to(device), labels.to(device) outputs = model(images) _, predicted = torch.max(outputs.data, 1) total += labels.size(0) correct += (predicted == labels).sum().item() return 100 * correct / total # 评估各个模型 acc1 = evaluate_single(model1, testloader) acc2 = evaluate_single(model2, testloader) acc3 = evaluate_single(model3, testloader) acc_ensemble = ensemble_vote([model1, model2, model3], testloader) print(f'Model1 Accuracy: {acc1:.2f}%') print(f'Model2 Accuracy: {acc2:.2f}%') print(f'Model3 Accuracy: {acc3:.2f}%') print(f'Ensemble Accuracy: {acc_ensemble:.2f}%')

典型输出可能如下（具体数值会因随机性有所不同）：

Model1 Accuracy: 82.34% Model2 Accuracy: 81.97% Model3 Accuracy: 83.12% Ensemble Accuracy: 85.26%

可以看到，集成后的准确率通常比单个模型的最佳表现还要高出1-3个百分点。

4. 高级技巧与优化建议

4.1 多样性增强策略

要使集成效果更好，关键是增加模型之间的"多样性"。除了随机初始化，还可以尝试：

1. 不同的数据子集：每个模型使用不同的数据子集训练
2. 不同的超参数：调整学习率、批量大小等
3. 不同的数据增强：对每个模型应用不同的增强策略

# 示例：为不同模型定义不同的数据增强 transform1 = transforms.Compose([...]) # 增强组合1 transform2 = transforms.Compose([...]) # 增强组合2 transform3 = transforms.Compose([...]) # 增强组合3

4.2 云端并行计算优化

当模型较多时，可以利用云GPU的并行计算能力加速预测：

from concurrent.futures import ThreadPoolExecutor def parallel_predict(models, inputs): with ThreadPoolExecutor() as executor: results = list(executor.map(lambda m: m(inputs), models)) return torch.stack(results)

4.3 其他集成方法

除了简单的投票法，还可以尝试：

1. 加权投票：根据模型表现分配不同权重
2. Stacking：用另一个模型学习如何组合基础模型的预测
3. Bagging：通过自助采样创建更多样化的训练集

# 加权投票示例 weights = torch.tensor([0.4, 0.3, 0.3]).to(device) # 根据验证集表现分配 weighted_output = sum(w * model(inputs) for w, model in zip(weights, models))

5. 常见问题与解决方案

5.1 模型预测不一致

问题：不同模型对同一图像的预测结果差异很大
原因：可能模型没有充分训练，或者数据预处理不一致
解决： - 检查每个模型的单独准确率是否合理 - 确保所有模型使用相同的数据预处理流程 - 增加训练epoch或调整学习率

5.2 显存不足

问题：同时加载多个模型时出现CUDA out of memory
解决： - 减少同时运行的模型数量 - 使用更小的批量大小 - 考虑模型并行：将不同模型放在不同GPU上

# 将模型分散到不同GPU model1 = model1.to('cuda:0') model2 = model2.to('cuda:1')

5.3 集成效果不显著

问题：集成后的准确率提升不明显
原因：模型之间可能过于相似
解决： - 增加模型架构差异（如混合ResNet18和ResNet34） - 使用更激进的数据增强策略 - 尝试不同的损失函数或优化器

6. 总结

通过本文的实践，我们成功实现了：

• 多模型协同工作：通过创建和训练多个ResNet18实例，构建了一个强大的集成分类系统
• 精度显著提升：投票法集成通常能带来1-3%的准确率提升，在关键应用中这可能是质的飞跃
• 云端高效运行：借助GPU的并行计算能力，轻松克服了本地硬件限制

核心要点：

• 模型集成是提升分类性能的有效手段，特别适合对精度要求高的场景
• 投票法实现简单但效果显著，是入门集成的首选方法
• 云端GPU资源让多模型并行训练和预测变得轻松可行
• 增加模型多样性是提升集成效果的关键

现在你就可以尝试调整模型数量或训练策略，观察集成效果的变化。实践中，3-5个模型的集成通常能在计算成本和性能提升之间取得良好平衡。

💡获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。