news 2026/10/2 18:40:00

11类食物分类数据集实战:从数据划分到迁移学习模型选型

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
11类食物分类数据集实战:从数据划分到迁移学习模型选型

简介:这是一份面向图像分类初学者与算法实践者的常见食物图像数据集,覆盖粥、甜点、牛排、pie等11个类别,适合用于课程作业、模型训练入门与分类算法对比实验。数据已按文件夹完成训练集与测试集划分,可直接通过ImageFolder加载,无需额外清洗或重组。资源包共2000个文件,以1999张jpg图像为主,另附1个可视化py脚本,压缩包约239.88MB;其中train目录含9866张图片,test目录含3430张图片,类别结构清晰,便于快速构建数据管道。附带的py脚本可随机读取一张图片并展示,结果保存在当前目录,无需修改即可运行,方便检查数据质量与类别分布。目前已有585人学习,适合希望跳过数据整理、直接投入建模与调参的读者使用。

1. 食物分类数据集怎么选:11 类已划分图像集的真实落地价值

拿到一个「11 种常见食物分类图像数据集(已做数据集划分)」的标题,很多人第一反应是去找下载链接,但真正决定这个数据集能不能用的,是划分方式、类别均衡度和图像来源。食物分类是图片分类里最容易被低估的方向——它不像 CIFAR-10 那样干净,也不像 ImageNet 那样庞大,但它的类间相似度极高:包子、饺子、烧麦在低分辨率下几乎是一个东西,蛋糕和面包在颜色直方图上高度重叠。这意味着你拿这个数据集跑一个 ResNet-18,准确率可能停在 85% 上不去,不是模型不行,是数据本身的类间边界模糊。

这个数据集的核心价值在于「已做数据集划分」这五个字。做过图片分类的人都知道,自己切分训练集/验证集/测试集时最容易翻车的地方是数据泄漏——同一张图的不同增强版本被分到训练和验证两边,验证准确率虚高,上线就崩。一个已经划分好的食物分类图像数据集,省掉的不只是写train_test_split的时间,更是帮你避开了按文件名随机切分时同源图片跨集分布的坑。它适合三类人:想快速验证迁移学习效果的算法工程师、需要做菜品识别原型的移动端开发者、以及拿食物分类当教学案例的高校教师。

11 个类别这个数字也值得说一句。少于 10 类,分类任务的决策边界太简单,模型学不到细粒度特征;多于 20 类,在中小规模数据集上每类样本数会被摊薄,长尾问题立刻暴露。11 类是一个刚好能体现细粒度分类难度、又不至于让数据量失控的区间。常见做法是每类 500 到 1500 张,总量在 6000 到 15000 张之间,配合 7:1.5:1.5 或 8:1:1 的划分比例。如果你拿到的数据集每类只有一两百张,那就要认真考虑数据增强和冻结层策略了,否则过拟合是必然的。

2. 从目录结构到 DataLoader:把已划分数据集接进训练管线

2.1 先看清目录长什么样,再决定用 ImageFolder 还是自定义 Dataset

已划分的数据集通常有两种组织方式。第一种是按 split 分目录,每个 split 下再按类别分子目录:

food11/ ├── train/ │ ├── baozi/ │ ├── dumpling/ │ ├── ... ├── val/ │ ├── baozi/ │ ├── ... └── test/ ├── baozi/ └── ...

第二种是每个类别一个目录,划分信息放在单独的 CSV 或 JSON 里。第一种直接用torchvision.datasets.ImageFolder就能读,第二种必须写自定义 Dataset。我一般会先跑一段脚本确认结构,别凭感觉写路径:

import os from pathlib import Path root = Path("food11") for split in ["train", "val", "test"]: split_dir = root / split if not split_dir.exists(): print(f"[跳过] {split} 不存在") continue classes = sorted([d.name for d in split_dir.iterdir() if d.is_dir()]) counts = {c: len(list((split_dir / c).glob("*"))) for c in classes} total = sum(counts.values()) print(f"{split}: {len(classes)} 类, {total} 张") for c, n in counts.items(): print(f" {c}: {n}")

这段脚本做三件事:确认 split 目录是否存在、列出类别名并排序、统计每类图片数。排序很重要,因为ImageFolder按字母序分配标签索引,如果你自己写 Dataset 时用了不同的顺序,训练和推理的类别映射就会错位,这种 bug 不会报错,只会让模型输出看起来「还行但总差一点」。统计每类数量是为了检查类别均衡度,如果某一类只有其他类的三分之一,后面采样策略就要调整。

2.2 用 ImageFolder 三行接进训练,但变换参数别照抄

确认结构后,接进 PyTorch 训练管线是最短路径:

from torchvision import datasets, transforms from torch.utils.data import DataLoader train_tf = transforms.Compose([ transforms.RandomResizedCrop(224, scale=(0.7, 1.0)), transforms.RandomHorizontalFlip(p=0.5), transforms.ColorJitter(brightness=0.2, contrast=0.2, saturation=0.2), transforms.ToTensor(), transforms.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225]), ]) eval_tf = transforms.Compose([ transforms.Resize(256), transforms.CenterCrop(224), transforms.ToTensor(), transforms.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225]), ]) train_ds = datasets.ImageFolder("food11/train", transform=train_tf) val_ds = datasets.ImageFolder("food11/val", transform=eval_tf) test_ds = datasets.ImageFolder("food11/test", transform=eval_tf) train_loader = DataLoader(train_ds, batch_size=32, shuffle=True, num_workers=4, pin_memory=True) val_loader = DataLoader(val_ds, batch_size=32, shuffle=False, num_workers=4, pin_memory=True)

RandomResizedCrop的scale=(0.7, 1.0)是食物分类的关键参数。默认的(0.08, 1.0)会把图片裁得太狠,食物图像的主体通常占据画面中央大部分区域,裁到 8% 面积时可能只剩一块桌布或盘子边缘,模型学到的是背景噪声。0.7 的下限保证每次裁剪至少保留七成画面,食物主体不会丢。ColorJitter的强度也别开太大,食物分类里颜色是重要判别特征——把红烧肉调成灰色,模型就分不清它和酱牛肉了。Normalize用的 ImageNet 均值方差是迁移学习的标准做法,如果你从零训练,可以换成这个数据集自己的统计值,但用预训练权重时不要改。

2.3 类别不均衡时用 WeightedRandomSampler,别硬调 loss 权重

如果统计发现某类样本明显偏少,有两种处理方式:调 loss 的 class weight,或者用 WeightedRandomSampler 过采样。我一般优先用采样器,因为它直接改变每个 batch 的类别分布,效果比在 loss 上乘系数更直观:

import numpy as np from torch.utils.data import WeightedRandomSampler targets = [s[1] for s in train_ds.samples] class_count = np.bincount(targets) class_weight = 1.0 / class_count sample_weight = [class_weight[t] for t in targets] sampler = WeightedRandomSampler( weights=sample_weight, num_samples=len(sample_weight), replacement=True ) train_loader = DataLoader(train_ds, batch_size=32, sampler=sampler, num_workers=4, pin_memory=True)

class_weight = 1.0 / class_count给少数类更高的采样概率,replacement=True允许同一张图在一个 epoch 内被抽到多次。注意用了 sampler 之后shuffle必须去掉,两者互斥,同时设会直接报错。num_samples设成总样本数,保证每个 epoch 的迭代次数和原来一致。这个方案在类别比例不超过 1:5 时效果很好,如果差距到 1:20 以上,光靠过采样会导致少数类严重过拟合,那就得配合数据增强或考虑收集更多数据了。

3. 迁移学习选型:ResNet、EfficientNet 还是 ViT,食物分类上谁更稳

3.1 小数据集上 ResNet-18 仍然是最不容易翻车的基线

食物分类数据集通常在一万张量级,这个规模下 ResNet-18 配合 ImageNet 预训练权重,微调 20 到 30 个 epoch 就能到 85% 以上的准确率。它的优势不是精度上限高,而是训练稳定、显存占用低、调参经验成熟。我一般会先跑一个 ResNet-18 基线,确认数据管线没问题、准确率在合理区间,再换更大的模型做对比。

import torch.nn as nn from torchvision import models model = models.resnet18(weights=models.ResNet18_Weights.IMAGENET1K_V1) num_features = model.fc.in_features model.fc = nn.Linear(num_features, 11) # 11 类输出 # 先冻结 backbone,只训分类头 for name, param in model.named_parameters(): if "fc" not in name: param.requires_grad = False optimizer = torch.optim.AdamW( filter(lambda p: p.requires_grad, model.parameters()), lr=1e-3, weight_decay=1e-4 )

冻结 backbone 先训 5 个 epoch 分类头,再解冻全部参数用 1e-4 的学习率微调,这个两阶段策略在小数据集上比直接全量微调更稳。直接全量微调时,预训练权重的特征提取能力容易被随机初始化的分类头产生的大梯度破坏,尤其是 batch size 较小时。AdamW的weight_decay=1e-4是 Transformer 时代之后被验证过的默认值,比 SGD 的 5e-4 更不容易过拟合。

3.2 EfficientNet-B0 在食物细粒度上通常比 ResNet 高 2 到 4 个点

EfficientNet 的复合缩放策略让它在同等参数量下感受野和通道数更均衡,食物分类这种需要同时关注纹理(米饭的颗粒感)和形状(披萨的圆形)的任务,EfficientNet-B0 的表现一般比 ResNet-18 好。代价是训练更慢,输入分辨率通常要上到 224 或 256,显存占用也更高。

model = models.efficientnet_b0( weights=models.EfficientNet_B0_Weights.IMAGENET1K_V1 ) model.classifier[1] = nn.Linear(model.classifier[1].in_features, 11)

EfficientNet 的classifier是一个 Sequential,索引 1 才是 Linear 层,直接替换model.classifier会报错。这个细节在 torchvision 不同版本间有差异,写之前先print(model)看一眼结构,比查文档快。

3.3 ViT 不是不能用,但你的数据量可能撑不住

Vision Transformer 在 ImageNet 级别数据上碾压 CNN,但在万张量级的数据集上,从预训练权重微调 ViT-B/16 的效果往往不如 EfficientNet。原因是 ViT 缺少 CNN 的归纳偏置(平移不变性、局部性),小数据下更容易过拟合。如果你一定要用,建议用 DeiT 的蒸馏版本或者把 patch size 调大、层数减少。我试过在 8000 张食物图上微调 ViT-B/16,验证准确率比 EfficientNet-B0 低了 3 个点,训练时间翻了三倍,显存占用多了四倍。除非你有十万张以上的食物图像,否则这个方向性价比不高。

模型参数量输入尺寸预期准确率训练时间(单卡)
ResNet-1811M22485-88%15 min
EfficientNet-B05.3M22488-91%25 min
ViT-B/1686M22484-87%60 min

提示:上表的准确率区间基于每类 800 张左右的均衡数据集,实际值受图像质量、类别相似度影响很大,仅作选型参考。

4. 训练中必调的 4 个参数与验证集上的三个危险信号

4.1 学习率、batch size、weight decay、warmup 的联动关系

这四个参数不是独立的。学习率跟 batch size 大致成正比,batch size 翻倍时学习率可以乘 1.5 到 2,但不要线性放大。weight decay 跟学习率也有关联,学习率调小时 weight decay 要相应减小,否则正则化过强会导致欠拟合。warmup 在微调预训练模型时几乎是必须的,前 500 到 1000 步线性升温,避免初始大梯度破坏预训练权重。

from torch.optim.lr_scheduler import CosineAnnealingLR, LinearLR, SequentialLR warmup = LinearLR(optimizer, start_factor=0.1, total_iters=500) cosine = CosineAnnealingLR(optimizer, T_max=5000, eta_min=1e-6) scheduler = SequentialLR(optimizer, schedulers=[warmup, cosine], milestones=[500])

start_factor=0.1表示 warmup 开始时学习率是设定值的 10%,线性升到 100% 后切换余弦退火。eta_min=1e-6是退火下限,别设成 0,否则最后阶段模型几乎不更新。这个组合在食物分类微调任务上基本不需要再调,直接抄。

4.2 验证 loss 不降反升、准确率震荡、类别预测坍缩

训练过程中盯着验证集看三个信号。第一,验证 loss 在训练 loss 还在降的时候开始上升,这是过拟合的典型标志,解决办法是加数据增强、加 dropout、或者早停。第二,验证准确率在两个值之间反复跳,比如 0.82 和 0.86 来回震荡,通常是学习率太大或者 batch size 太小导致梯度噪声过大,把学习率降一半试试。第三,混淆矩阵里某一类的预测数量远低于真实数量,比如「饺子」类几乎全被预测成「包子」,这是类别坍缩,说明模型没有学到区分这两类的特征,需要检查这两类的图像在视觉上是否真的可区分,或者用 focal loss 加大难分样本的权重。

from sklearn.metrics import confusion_matrix import seaborn as sns import matplotlib.pyplot as plt model.eval() all_preds, all_labels = [], [] with torch.no_grad(): for imgs, labels in val_loader: imgs = imgs.cuda() preds = model(imgs).argmax(dim=1).cpu().numpy() all_preds.extend(preds) all_labels.extend(labels.numpy()) cm = confusion_matrix(all_labels, all_preds) sns.heatmap(cm, annot=True, fmt="d", xticklabels=val_ds.classes, yticklabels=val_ds.classes) plt.show()

混淆矩阵是食物分类最有用的诊断工具,没有之一。准确率只告诉你「错了多少」,混淆矩阵告诉你「错在哪两类之间」。如果错误集中在少数几对类别上,针对性补充这些类别的训练数据比盲目加数据更有效。

4.3 测试集只在最后跑一次,别拿它调参

这是血泪经验。很多人习惯每个 epoch 都跑一遍测试集看准确率,然后根据测试集表现调超参,这等于把测试集当验证集用,最终报告的指标没有意义。正确做法是训练和调参只看验证集,测试集在模型完全确定后跑一次,那个数字才是你能对外说的。如果验证集和测试集准确率差距超过 3 个点,说明验证集划分可能有问题,或者数据分布不一致,需要回头检查划分脚本。

5. 避坑与排查:食物分类数据集上最容易翻车的 5 个地方

5.1 验证准确率 95% 但测试只有 70%:数据泄漏

现象:训练时验证集准确率一路涨到 95% 以上,测试集一跑只有 70% 出头。原因:同一张原始图片经过不同增强后分别进入了训练集和验证集,或者同一道菜的多张连拍被随机分到了不同 split。解决:按图片的原始来源(比如同一家餐厅、同一次拍摄)做分组划分,而不是按单张图片随机划分。如果数据集已经划分好了,检查一下 train 和 val 里有没有文件名高度相似的图片。

5.2 训练 loss 正常下降但准确率不动:标签映射错位

现象:loss 从 2.3 降到 0.5,但准确率始终在 9% 左右(11 类随机猜的水平)。原因:自定义 Dataset 返回的标签索引和模型输出层的类别顺序不一致,或者ImageFolder的类别排序和你以为的不一样。解决:打印train_ds.class_to_idx确认映射关系,用train_ds.classes检查排序,确保推理时用同一套映射。

5.3 显存溢出但 batch size 已经调到 1:输入分辨率没对齐

现象:batch size 降到 1 还是 OOM。原因:EfficientNet 或 ViT 的默认输入分辨率可能不是 224,或者RandomResizedCrop的输出尺寸设成了 512 而模型期望 224。解决:在transforms里显式指定Resize和CenterCrop的尺寸,训练和验证用同一套空间尺寸。用torch.cuda.memory_summary()看显存分配在哪一层。

5.4 模型把所有图都预测成同一类:学习率太大导致坍缩

现象:混淆矩阵里某一列全是预测值,其他列全为零。原因:初始学习率太大,分类头的随机权重产生巨大梯度,把 backbone 的特征提取能力直接打崩。解决:先冻结 backbone 用 1e-3 训分类头,再解冻用 1e-4 微调。如果已经坍缩了,重新加载预训练权重从头来,别在坍缩的模型上继续训。

5.5 推理时单张图片预测结果和验证集不一致:预处理没对齐

现象:验证集准确率 88%,但拿单张图片推理时结果乱七八糟。原因:推理时的预处理和验证集不一致,常见的是忘了Normalize、用了不同的Resize尺寸、或者 PIL 读图和 OpenCV 读图的通道顺序不同。解决:把验证集的eval_tf单独保存成一个函数,推理时直接调用同一个函数,不要重新写一遍。

注意:以上五个坑里,数据泄漏和标签映射错位是最隐蔽的,因为它们不会报错,只会让指标看起来「还行但不够好」,很容易被误判成模型能力问题。

6. 把 11 类食物分类推到 93% 的三个进阶技巧

第一个技巧是测试时增强(TTA)。对同一张验证图片做多次不同的裁剪和翻转,把多次预测的概率平均后取 argmax。这个操作不需要重新训练,推理时间乘以增强次数,通常能涨 1 到 2 个点。我一般用中心裁剪加四个角裁剪共 5 次,水平翻转再翻倍到 10 次,再多了收益递减。

def tta_predict(model, img_path, n_crops=5): img = Image.open(img_path).convert("RGB") w, h = img.size crops = [] # 中心 + 四角 positions = [(0, 0), (w//4, h//4), (w//2, h//2), (w//4, h//4), (w//4, h//4)] # 实际实现用 transforms 组合更简洁 tf = transforms.Compose([ transforms.Resize(256), transforms.FiveCrop(224), transforms.Lambda(lambda crops: torch.stack( [eval_tf(c) for c in crops])), ]) ...

第二个技巧是标签平滑(label smoothing)。把硬标签 0/1 换成 0.1/0.9,让模型不要对某一类过度自信。食物分类里类间相似度高,标签平滑能显著改善模型的泛化能力,通常涨 0.5 到 1.5 个点。在CrossEntropyLoss里直接设label_smoothing=0.1就行,一行代码的事。

第三个技巧是模型集成。把 ResNet-18 和 EfficientNet-B0 的预测概率平均,两个模型架构差异越大,集成收益越明显。我试过在食物数据集上集成这两个模型,比单模型最好的结果高了 2.3 个点。代价是推理时要同时跑两个模型,移动端部署可能吃不消,服务端就没问题。

最后一个习惯:每次跑完实验,把配置文件、随机种子、验证集准确率、测试集准确率记到一个 CSV 里。食物分类这种任务,你会在不同 backbone、不同增强策略、不同学习率之间反复横跳,没有记录的话,两周后你根本想不起来哪个组合是最好的。我吃过这个亏,现在每次实验完第一件事就是写日志,后悔药没地方买。希望帮到你。

本文还有配套的精品资源,点击获取

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/10/2 18:39:53

NetworkX实战指南:从建图到社区发现的Python网络分析全解析

做了这么多年网络分析和图计算相关的项目,说句实在话,NetworkX 是我在 Python 里用得最顺手、也最离不开的一个开源库。早期我自己用 Python 处理交通网络、社交关系、知识图谱这些数据的时候,最头疼的就是数据结构——今天用字典存邻接表&am…

作者头像 李华
网站建设 2026/10/2 18:39:34

从Docker到Kubernetes的企业级容器化部署与迁移实战

最近有好几个读者问我同一个问题:项目要上 Kubernetes,但团队里只有几个会写 Dockerfile 的人,之前所有的服务都是用 docker run 或者 docker compose 在单机上面跑的,现在要往集群迁移,从哪儿起步?这就是我…

作者头像 李华
网站建设 2026/10/2 18:35:04

跨节点容器网络通信指南:从静态路由到VXLAN Overlay

跨节点的容器间网络通信,这标题光看可能觉得没什么,但真上手做容器集群的时候,它往往是第一个让你半夜爬起来抓包的东西。单机环境下跑几个 Docker 容器,网络折腾起来几乎是无感的——你只需要知道-p 8080:80这种端口映射就能干活…

作者头像 李华
网站建设 2026/10/2 18:34:07

Java课程设计图书管理系统:从源码识别到部署答辩全攻略

简介:这是一份面向Java学习者和高校学生的课程设计图书管理系统源码包,以JavaFX构建图形界面,整合Druid连接池与MySQL数据库,覆盖图书信息管理、借还流程、多角色登录等典型业务场景,适合完成课程设计、期末项目或练习…

作者头像 李华
网站建设 2026/10/2 18:31:42

微信小程序+Java后端:个性化推荐点餐平台设计与实现全解析

这套题目我一看就很有共鸣——每年毕业设计季,总有大量同学在“微信小程序 Java后端”这个组合上反复纠结:题目看着热闹,落地时却处处是坑。这个标题把三个关键词串起来了:个性化推荐、点餐平台、微信小程序,背后本质…

作者头像 李华
网站建设 2026/10/2 18:30:02

本地部署抠图工具BiRefNet:环境配置、参数调优与避坑实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

作者头像 李华