去年秋天，我帮一家安防公司优化他们的边缘端人脸检测模型。
客户的原话是：“我们的摄像头只有2GB内存，YOLOv8n跑起来卡得要死，能不能把模型压缩到5MB以内？”
我打开他们的推理代码一看，好家伙——模型的权重文件12.3MB，推理一张640x640的图要45ms，客户要求是15ms以内。传统的剪枝和蒸馏太慢，客户等不起。那怎么办？量化，而且是INT8量化。
量化就像给模型“减肥”——把32位浮点数（FP32）的权重和激活值，换成8位整数（INT8）。但减肥有风险：精度下降、推理崩坏、甚至模型直接“变傻”。
本篇，我就带你用YOLOv8n走一遍INT8量化全流程，把12MB的模型压到3MB，速度翻倍，精度损失控制在1%以内。
痛点拆解：量化不是“无脑压缩”
很多初学者一听到量化，就以为直接调用torch.quantization.quantize_dynamic就完事了。但YOLO这种目标检测模型，动态量化对卷积层的效果极差——因为卷积的权重分布不均匀，动态量化只对线性层和LSTM有效。
更坑的是，有人直接用Pytorch官方的静态量化教程，结果模型推理时输出一堆NaN，或者检测框全部消失。
反例代码：
importtorchimporttorchvision
