1. 模型总是「翻车」在新缺陷上
在软件缺陷预测、代码审查、工业质检等场景中，我们常常训练一个分类模型来识别已知的缺陷类别。但现实世界是开放的——新的缺陷类型层出不穷。当模型遇到一个从未见过的缺陷类别时，它的表现往往惨不忍睹：要么把它误判为「正常」，要么硬塞进某个最相近的已知类别。
这种「闭集假设」下的模型，一旦面对「开集」的真实世界，就会暴露出两个核心痛点：
- 新类别样本极少：新缺陷刚被发现时，往往只有几个甚至一两个标注样本，不足以从头训练一个分类器。
- 旧知识灾难性遗忘：如果为了拟合新类别而继续微调，模型很容易在旧类别上性能骤降，这就是著名的Catastrophic Forgetting（灾难性遗忘）问题。
本文要解决的，正是这两个痛点。我们会讲清楚三件事：
- 如何用少样本学习（Few-shot Learning）让模型快速学会新类别；
- 如何用知识蒸馏（Knowledge Distillation）在微调时「稳住」旧知识；
- 如何用回放（Replay）机制进一步防止遗忘，让模型「学新不忘旧」。
2. 痛点拆解
在动手之前，我们先把这个问题的本质拆开看。它其实由三个子问题叠加而成：
2.1 新类别样本稀缺
新缺陷类别出现时，标注数据通常只有个位数。传统监督学习需要大量标注，这里直接失效。少样本学习的核心思路是：不靠「量」，靠「先验」——利用模型在大量基类（base classes）上学到的通用特征，去适配新类别。
2.2 微调导致灾难性遗忘
假设你有一个在 50 类缺陷上训练好的模型。现在来了第 51 类，你拿 5 个样本去微调。如果只用新样本做交叉熵损失，模型参数会剧烈偏向新类别，导致旧 50 类的判别能力被「冲掉」。这不是玄学，而是有理论解释的：新任务的梯度方向与旧任务的最优解方向冲突，参数更新把旧决策边界破坏了。
2.3 数据分布漂移
新缺陷类别往往伴随着新的数据分布（比如新的代码模式、新的图像噪声）。模型不仅要「认识新类」，还要在「新旧分布混杂」的情况下保持稳定。这进一步加剧了遗忘。
3. 方案总览
我们的整体策略是「少样本学新 + 蒸馏保旧 + 回放防忘」，三者协同，而不是各自为战：
下面我们逐一展开。
4. 少样本学习（Few-shot Learning）
少样本学习的目的是：用极少量新类别样本，让模型学会区分新类。这里介绍三种主流做法，按落地难度从低到高排列。
4.1 原型网络（Prototypical Networks）
这是最经典、也最容易落地的方法。核心思想是：为每个类别计算一个「原型」（即该类样本特征的平均向量），然后让新样本离哪个原型近，就归为哪类。
具体来说，原型网络的工作流程可以这样理解：首先，模型利用一个预训练好的特征提取器（backbone），把支持集中每个类别的样本映射到特征空间；然后，对每个类别内的所有样本特征求平均，得到该类的「原型」向量；最后，对于每一个待分类的查询样本，计算其特征与各个类别原型之间的欧氏距离，距离最近的那个类别即为预测结果。在实现层面，这一过程通常借助深度学习框架完成：先通过特征提取器得到支持集和查询集的特征张量，再对支持集特征按类别维度求均值得到原型，接着利用张量广播机制计算查询特征与每个原型之间的差值并求范数得到距离，最后对距离取负并经过对数 Softmax 归一化，即可得到每个查询样本属于各个类别的概率分布。
优点：实现简单，不需要为每个新类重新训练分类头；缺点：依赖特征质量，如果 backbone 特征对新类区分度不够，效果会打折扣。
4.2 度量学习 + 余弦相似度
另一种常见做法是：不直接微调 backbone，而是把新类样本的特征与已知类别的「类中心」做余弦相似度匹配。这样新类只需要几个样本就能建立自己的类中心，且不会破坏原有类中心。
这一方法的实现思路是：先将查询样本的特征向量与所有类别的中心向量分别做 L2 归一化处理，使它们都落在单位超球面上；然后通过矩阵乘法计算查询特征与各个类别中心之间的点积，得到的值即为余弦相似度分数；分数越高，表示该查询样本与对应类别的相似度越大，最终取分数最高的类别作为预测结果。整个过程不涉及对 backbone 的微调，只需维护好各类别的中心向量即可。
4.3 元学习（Meta-learning）
如果新类别会频繁、持续地出现，可以考虑元学习。它在「任务分布」上训练，让模型学会「如何快速适应新任务」。代表方法有 MAML（Model-Agnostic Meta-Learning）。
MAML 的核心思想是「学习如何学习」。其内循环更新过程可以这样描述：首先，对当前模型的参数做一次深拷贝，得到一份临时参数副本；然后，在支持集上按批次进行前向传播，计算交叉熵损失，并利用自动求导机制求出损失对临时参数副本中每个参数的梯度；接着，按照设定的内循环学习率，用梯度下降法更新这份临时参数副本；如此反复迭代若干步后，得到的临时参数即为「快速适应新任务」后的参数。值得注意的是，整个内循环过程只更新临时副本，而不会直接改动原始模型参数，原始参数的更新需要在外循环中基于内循环的最终表现来计算。
落地建议：如果你的场景是「偶尔冒出一个新类」，用原型网络或余弦相似度就够了；如果是「新类持续不断涌现」，再上元学习。
5. 知识蒸馏（Knowledge Distillation）
少样本学习解决了「怎么学新类」，但还没解决「怎么不忘旧类」。知识蒸馏就是用来「保旧」的。
5.1 核心思想
在微调新类别时，我们同时让模型模仿自己旧版本的输出分布。旧模型（Teacher）在旧类别上的预测分布，包含了「类别之间的相似关系」这种宝贵知识。我们要求新模型（Student）在旧类别上的输出，尽量接近 Teacher 的输出。
5.2 损失函数设计
总损失 = 新类别的交叉熵损失 + 蒸馏损失（旧类别分布一致性）。
蒸馏损失的计算过程如下：首先，将学生模型和教师模型的原始输出 logits 分别除以一个温度系数（通常取 4.0），以软化概率分布；然后，对学生模型的软化输出取对数 Softmax，对教师模型的软化输出取 Softmax，得到两个软化后的概率分布；接着，计算这两个分布之间的 KL 散度，作为两者差异的度量；最后，将 KL 散度结果乘以温度系数的平方，以补偿温度软化带来的梯度缩放效应，得到最终的蒸馏损失值。
5.3 完整训练循环
完整的蒸馏训练循环可以这样组织：首先，初始化一个优化器（如 Adam），并设定较小的学习率；然后，按轮次遍历数据，每一轮中同时从新类别数据加载器和旧类别数据加载器中各取一个批次。对于新类别批次，模型前向传播后计算交叉熵损失作为监督损失；对于旧类别批次，先冻结教师模型（不计算梯度）得到其输出作为软标签，再让学生模型前向传播得到输出，并计算两者之间的蒸馏损失。最后，将监督损失与蒸馏损失按权重系数加权合并为总损失，执行反向传播并更新模型参数。如此反复迭代，直到训练轮次结束。
关键点：alpha控制「学新」和「保旧」的平衡。新类别样本越少，alpha应该越大，因为此时新类别的监督信号很弱，更要靠蒸馏来稳住旧知识。
6. 回放机制（Replay）
知识蒸馏已经能缓解遗忘，但还不够彻底。回放机制是更直接的手段：在训练新类别时，把旧类别的样本（或其特征）也拿出来一起训练。
6.1 样本回放（Experience Replay）
最朴素的做法：维护一个「旧样本缓冲区」，每次微调新类别时，从缓冲区里抽样旧样本一起参与训练。
样本回放缓冲区的实现思路是：首先定义一个缓冲区对象，并设定一个容量上限（例如 2000）。当需要存入旧类别样本时，将新样本追加到缓冲区末尾；如果缓冲区长度超过容量上限，则通过随机抽样淘汰部分旧样本，使缓冲区始终保持在容量范围内。当训练需要回放旧样本时，从缓冲区中随机抽取指定数量的样本即可。整个过程维护了一个「先进先出 + 随机淘汰」的旧样本池，供训练时随时取用。
训练时，每个 batch 由「新样本 + 回放旧样本」混合组成：
带回放的训练循环可以这样组织：首先初始化一个优化器（如 Adam），并设定较小的学习率。然后遍历新类别数据加载器中的每个批次，对于每个新样本批次，先从回放缓冲区中按比例（例如 0.5）抽样出对应数量的旧样本；接着将新旧样本在特征维度上拼接合并为一个批次，统一送入模型前向传播，计算交叉熵损失；最后执行反向传播并更新模型参数。如此反复迭代，直到所有新类别批次处理完毕。这样每个训练批次都同时包含新样本和旧样本，让模型在学新的同时不断回顾旧知识。
6.2 特征回放（Feature Replay）
如果旧样本涉及隐私、或存储成本太高，可以退而求其次：只存旧样本的特征向量和类别中心，而不是原始数据。训练时用这些特征做蒸馏或分类约束。
特征回放损失的计算思路是：首先，将存储的旧样本特征向量送入当前模型的分类器，得到模型在这些旧特征上的输出 logits；然后，利用旧类别中心向量与旧特征向量之间的相似度矩阵，经过 Softmax 归一化构造出软标签，作为「理想输出」的参考；最后，计算模型实际输出与软标签之间的 KL 散度，作为特征回放损失。这个损失约束模型在旧特征上的输出尽量接近旧类别中心所指示的分布，从而在不依赖原始旧样本的情况下维持旧类别的判别能力。
6.3 生成式回放（Generative Replay）
更高级的做法是用一个生成模型（如 GAN 或 VAE）来「回忆」旧样本的分布，训练时生成旧样本参与训练。适合旧数据完全不可得、只能靠生成模型的场景。这里不展开代码，但思路是：用生成器模拟旧分布，替代真实旧样本。
7. 完整训练流程
把三板斧合在一起，一个完整的「新缺陷类别快速适配」训练流程如下：
把三板斧整合起来的完整训练流程可以这样描述：首先初始化优化器，并设定较小的学习率。然后按轮次遍历数据，每一轮中遍历新类别数据加载器的每个批次，执行以下步骤：第一步，从回放缓冲区中按比例抽样旧样本，与新样本拼接合并；第二步，将合并后的批次送入模型前向传播，得到预测 logits；第三步，计算合并批次的交叉熵损失作为分类损失，同时冻结教师模型得到旧样本上的输出作为软标签，计算学生模型在旧样本上的输出与软标签之间的蒸馏损失，并将分类损失与蒸馏损失按权重系数加权合并为总损失；第四步，执行反向传播并更新模型参数。每一轮训练结束后，将本轮的新类别样本也存入回放缓冲区，为未来可能出现的「更新的类别」做准备。如此反复迭代，直到训练轮次结束。
流程要点：
- 新类别样本进入训练；
- 回放缓冲区提供旧样本，维持旧类判别能力；
- 蒸馏损失约束旧类别输出分布，双保险防遗忘；
- 每轮结束后，新类别样本也存入缓冲区，为未来可能出现的「更新的类别」做准备。
8. 工程落地建议
8.1 超参数怎么调
| 超参数 | 作用 | 建议初始值 |
|---|---|---|
alpha（蒸馏权重） | 新旧知识平衡 | 新样本少时取 0.7~0.9，多时取 0.3~0.5 |
temperature（蒸馏温度） | 软化分布程度 | 3~5 |
replay_ratio | 回放旧样本占比 | 0.3~0.5 |
| 回放缓冲区大小 | 旧样本容量 | 视内存而定，2000~10000 |
8.2 常见坑
- 回放缓冲区类别失衡：如果旧类别样本量差异大，回放时要按类别均衡采样，否则模型会偏向样本多的旧类。
- 蒸馏温度过高：温度太高会让分布过于平滑，丢失类别区分信息；太低则退化成硬标签，失去蒸馏意义。
- 新类别样本过少时不要微调 backbone：如果只有 1~5 个新样本，建议冻结 backbone，只训练分类头或直接用原型网络，避免过拟合。
- 评估要「新旧一起测」：不要只测新类别的准确率，一定要同时测旧类别的准确率，才能发现遗忘问题。
8.3 评估指标
建议同时报告三个指标：
- 新类别准确率（学新能力）
- 旧类别准确率（防遗忘能力）
- 平均准确率（综合能力）
评估过程的实现思路是：首先将模型切换到评估模式（关闭 dropout 等训练专用机制）；然后分别在新类别测试集和旧类别测试集上计算模型的准确率，得到新类别准确率和旧类别准确率两个指标；最后将两者取平均，得到综合的平均准确率。最终返回一个包含新类别准确率、旧类别准确率和平均准确率三个指标的评估结果，用于全面衡量模型「学新」与「不忘旧」的综合能力。
9. 总结
面对「模型遇到没见过的缺陷类别」这个真实痛点，我们给出了一个三管齐下的解决方案：
| 痛点 | 对策 | 核心机制 |
|---|---|---|
| 新类别样本极少 | 少样本学习 | 原型网络 / 度量学习 / 元学习 |
| 微调导致旧知识遗忘 | 知识蒸馏 | 用旧模型输出分布约束新模型 |
| 遗忘仍不彻底 | 回放机制 | 样本回放 / 特征回放 / 生成式回放 |
核心心法：学新类别时，永远不要「只盯着新样本」。要让模型在「学新」的同时，不断「回顾旧知识」——要么通过蒸馏模仿旧行为，要么通过回放重看旧样本。这样模型才能做到真正的「增量学习」，而不是「学了新的、忘了旧
