从转导学习到归纳学习：AI范式转变如何影响模型设计与部署

上周一个朋友抱着图模型来找我排查线上指标：训练的时候 F1 有 0.92，一上线遇到新注册的用户节点和新产生的交易边，分数直接掉到 0.74。他问我需不需要继续调参，我翻了一下任务定义，发现他把整张图的节点都当成训练对象，模型天然处在转导学习（transductive learning）的射程里。测试时出现训练期间从未见过的节点，模型手里根本没有一套可以迁移的归纳（inductive）规则，它只是在"记住"旧图上做过的事情。这个案例让我意识到，很多从业者其实没有意识到自己正在跨范式使用模型，而 AI 从转导向归纳范式的转变，恰恰是这几年模型设计、评估方式和工程架构调整背后一条非常重要但常被忽略的主线。

这篇文章想把这个转变讲透：转导和归纳到底是什么、为什么行业在集体转向归纳范式、转导式思维又在哪些角落继续发挥着价值。无论你是在做图模型、做检索增强系统、做半监督学习，还是只是在调一个普通分类器，这篇文章的判断框架都能帮你避开我踩过的那些坑。

1. 一次线上事故让我重新审视"学习范式"

先说回到那个朋友的项目。他用的是一个典型的图神经网络做用户兴趣预测，训练时把全网用户和商品的交互关系都喂进去了，每个用户节点都分配了一个可学习的向量表示，走的是半监督节点分类的流程。离线验证的时候，随机抽取了一部分边作为测试集，指标非常漂亮。

问题出在哪？随机切边并不等于随机切节点。

他随机切掉的那 10% 的测试边，节点本身还在训练阶段的全图里出现过。GNN 在训练时借着全图结构做消息传递，测试边的两个端点已经被模型"见过"了，模型的卷积层和节点表示都针对这些节点的位置做了适配。这种设置本质上是转导式的：训练时看到了全部输入实例的结构，只是不知道部分标签，预测时利用的是目标节点在已知结构中的局部位置。这是半监督学习中非常经典的设定，学术上称为 transductive setting。

等系统上线，用户是全新注册的，他们的节点 ID 在训练阶段完全不存在。模型里没有这些新节点的向量，消息传递也无从谈起——因为新用户的邻接关系从未被编码进任何一层聚合里。结果就是 F1 崩盘，模型面对新数据毫无招架之力。

我后来帮他把模型改成归纳式：不直接为每个节点配一个可学习向量，而是让节点表示变成"特征输入 + 邻域聚合"的函数输出。输入新用户时，只要把他的特征喂进那个聚合函数，就可以滚动地构造出他的表示。改动并不复杂，但背后是一种学习范式的切换：从"记住图上每个点的位置再推断"，变成"学会一套规则，无论谁来了都按这套规则去算"。

这件事给我的启发是：转导与归纳的分野不只是论文里的术语，它直接决定了你的系统能不能面对真实世界。真实世界不会提前把所有输入实例摆在你的训练集里。

2. 转导与归纳的分水岭：从特例跳到特例，还是先建立普适规则

2.1 两个概念的原点：一个来自统计学习理论，一个来自更朴素的直觉

"转导"这个词在机器学习里被广泛讨论，最早要追溯到统计学习理论奠基人 Vapnik 的工作。他在支持向量机的研究里提出过一种思路：如果我们关心的是某一组特定未标记样本的预测结果，那为什么非要去先学一个覆盖整个样本空间的决策函数？直接从已知样本和这组特定未标记样本之间的关系出发，可能更高效。这就是转导学习的原始含义——训练过程只面向那一组给定的待预测样本，不试图产出任何适用于全体样本的通用规则。

"归纳"概念更古老也很朴素：从观察到的例子中提炼一般性规律，然后把这个规律推广到没见过的例子上。绝大多数监督学习框架，比如我们天天用的交叉熵训练、随机梯度下降、正则化，本质上都是归纳式的思路——我们希望学习到一个函数 f(x)，它不只在训练集上表现好，也能正确预测未来任意 x 的结果。

两者的关键差异，不在于数据的多少，而在于推理路径的不同。转导式推理是从"具体到具体"：已知样本 A、B、C 和待预测样本 X，直接利用它们在某个结构上的邻近关系来推断 X。归纳式推理是从"具体到抽象再到具体"：从 A、B、C 中总结出规则 g，然后对任何新的 X 都通过 g(X) 来得到结果，哪怕 X 和 A、B、C 所在的局部区域完全不同。

2.2 同一份数据，两种完全不同的使用方式

为了说清楚，我用一个非常简化的公式来对比。归纳式学习希望找到一个假设函数 h，使得在训练集 D 上损失很小，同时期望 h 在所有未知数据上都成立：

h = argmin L(h, D) + 正则项 预测时： y_new = h(x_new)

转导式学习则不是去找一个全局 h，而是直接针对某一个未标注样本集合 U 求解。典型的做法是，让已知标签样本和 U 中样本在某种图结构上尽量平滑，从而直接导出 U 的标签：

y_U = 直接在 D ∪ U 的结构上求解

所以你会看到一个很有意思的现象：转导式方法通常在"一次性推理"场景里表现惊人，因为它在推理时刻利用了目标样本自身的结构信息；但它不具备跨样本的复用能力，换一个新样本进来，整个推断过程得重来。归纳式方法一开始可能显得笨，必须在训练阶段"浪费"大量算力去搜索一个通用函数，但这个函数一旦学完，面对任意新样本就几乎零成本。

2.3 一个更直观的类比

如果把学习比作备考，转导式学习像什么？像"背题海"。考试前把历年真题和答案背得滚瓜烂熟，考试时看到类似的题目直接默写答案。如果考卷上的题全是题库里的变体，这种方法稳得可怕。可一旦题目出得超出题库范围，就彻底懵了。

归纳式学习更像"学解题思路"。你得花大量时间反复推导、总结方法，刷题是为了提炼规律而不是记住答案。考试时哪怕遇到完全没见过的新题，也能根据已知的定理和条件推导出答案。这种方式在准备阶段效率不高，但应对未知场景的能力强得多。

这个类比放在工程里非常准确。不少系统做得好，靠的是"题库覆盖得好"——数据版本里见过类似的样本。一旦真实的流量分布发生偏移，系统就失效。而真正经得起时间考验的模型，往往是那些学出了因果规律或稳定模式，而不是背下了数据分布的模型。

3. 行业从转导转向归纳的三个底层驱动力

3.1 开放世界的必然：你无法预先枚举所有未来的输入

为什么十年前转导式思想在学术界还有相当的声量，而如今工业界几乎一边倒地押注归纳式方法？第一个原因是：真实业务面对的是开放世界。

一个内容推荐系统，每天都会有新用户注册、新的商品上架、新的视频发布。一个反欺诈模型，每天都会碰到新的攻击手法。一个自然语言处理系统，每天都会出现新的句式和新的概念表达。你无法在训练阶段把这些未来的输入结构都"看到"。转导学习有一个隐含前提——待预测样本在训练阶段是已知的，哪怕没有标签。这在实验室里成立，在实际业务中完全不成立。

所以，工业系统必须构建能应对"未见实例"的模型。这意味着模型不能只存储实例级别的信息，必须学习特征到输出的映射规则。这也是为什么深度学习中"表示学习"如此强调泛化：我们希望网络学到的是数据的生成机制和因果结构，而不是数据集中实例的索引。

3.2 智能复用：一次学习之后可以无限次推理

第二个驱动力是经济学上的。转导式方法在每次预测时都需要重新处理一遍全量数据。标签传播要对整张图做多次迭代；图神经网络如果采用转导式设定，每来一个新节点就要把全局邻接矩阵和相关节点的表示重新计算一遍；基于记忆的方法在推理时要检索整个存储库来寻找相似实例。

归纳式方法把绝大多数计算成本集中在训练阶段，推理时只是一个简单的前向传播。这让它可以大规模部署。你训练好一个模型，可以放在服务器上接受每秒上万次请求，完全不需要针对每个新输入重新计算全局结构。训练成本高、推理成本低，这是工业系统最喜欢的成本结构。

想想大型语言模型的前向推理：预训练吸收了海量文本，归纳出了大量的语法、知识和推理模式，用户调用时只做一次前向传播，就能输出从未见过的组合结果。如果用转导式思路做同样的事，每次问一个问题都要到训练集全文里检索比对，效率和效果都不可同日而语。

3.3 从"预测特定样本"到"解决一类问题"

第三点其实是认知层面的变化。早期机器学习研究比较像"解一道给定作业题"：给你一个固定的数据集，你有固定的特征、固定的标签，你的任务是尽量把这组样本预测准。这种思维是任务指向样本的，转导式方法非常契合。今天的主流机器学习研究更强调"解决一类问题"的能力：同样是图像分类，换一个数据集、换一种影像来源，模型仍然要能工作；同样是对话系统，换一个用户、换一种问法，模型仍然要能应答。

这种从"预测特定样本"到"求解问题类别"的迁移，本质上是把模型从"数据集拟合器"变成了"问题求解器"。问题求解器必须是一个函数、一套规则，而不是一个索引结构。这也是预训练-微调范式大行其道的内在逻辑：预训练阶段学习到的是可以迁移的通用规律，微调阶段只是把规律适配到具体任务上，而不是针对特定输入建立索引。

4. 别急着抛弃转导式思维：四个仍然活跃的角落

尽管行业主流在转向归纳式范式，转导式思维并没有消失。它反而在以不同形态存在于不少场景之中。理解这些角落的存在，能让你在设计系统时做出更合适的取舍。

4.1 半监督学习中的标签传播

标签传播算法（Label Propagation）至今在不少低标注场景里非常实用。它的工作方式就是典型的转导式：把少量有标签样本作为种子标签，让标签沿着样本之间的相似度图进行扩散，从而给无标签样本打上标签。你训练时已经看到了整个图的节点和边，目标就是推断这些特定节点的标签。

这个方法的优点是极端高效、无需训练复杂模型，缺点是当新样本出现时，你必须重新运行一次传播过程。如果你有一个业务场景，样本集相对稳定、新样本进入不频繁，半监督标签传播完全够用且非常划算。很多风控冷启动场景里，团队就是用 KNN 图上的标签扩散给新用户做初始画像，等积累到一定量再切换成归纳式模型。

判断标准很简单：新数据进入系统后，你是愿意重新跑一次全局推断，还是希望模型能即时对新数据给出结果？前者是转导式的适用范围，后者需要归纳式。

4.2 检索增强生成中的"按需取材"

检索增强生成（RAG）这几年非常火，它在一定程度上也是转导式思维的回潮。系统先在知识库里检索与当前提问相关的片段，再把这些片段作为上下文拼给模型生成答案。预测时直接利用了最新的、输入实例相关的具体资料，而不是把知识全部压缩进模型参数里。

这种做法有两个明显的转导式特征：第一，推理效果依赖检索到的片段是否覆盖了当前问题所属的局部区域；第二，当知识库内容发生变化时，不需要重新训练模型，只需要更新检索库——像极了转导式学习"在已知样本结构中重新推断"的做法。

但千万别把 RAG 和归纳式对立起来。实际生产中，RAG 中的底层生成模型仍然是归纳式训练的，它能泛化到从未见过的检索片段上；检索器检索到的是"特例"，生成器执行的是"规则"。这类架构的好处在于，既借力了归纳式模型的泛化能力，又用转导式的按需检索解决了知识实时更新的问题。关键在于你要能分清：哪一部分在背题目，哪一部分在解题方法，出了问题才好定位。

4.3 图学习里的转导式任务划分

图神经网络领域里，"转导式/归纳式"是一个非常明确的任务划分方式。转导式设定下，训练时模型可以看到整个图，包括测试节点的结构信息，只是不知道测试节点的标签。很多学术基准是在这个设定下评测的，比如节点分类任务。这时候模型确实可以借力测试节点的位置信息——邻接矩阵里有无它的行和列、它连接了哪些邻居，都参与到了表示学习当中。

归纳式设定下，训练图和测试图严格分开，测试节点在训练阶段完全不可见，模型必须学到能泛化到任意新图结构上的聚合规则。比如你用一堆分子图训练一个预测性质的模型，预测一个全新的分子，那就是归纳式。

很多实际的图业务都处在"归纳式需求 + 转导式实现"的错位当中。一个社交网络的好友推荐系统，从训练数据里学到的用户表示，如何推广到每天新注册的用户上？如果只在全图上做节点嵌入，新用户天然拿不到向量。正确的做法是用 GraphSAGE 这类归纳式架构，学习一个聚合邻居特征的函数，新用户进来之后直接做一次局部聚合就能得到表示。

4.4 测试时训练：推理时刻的局部适应

测试时训练（Test-Time Training）是一种很有意思的方法：在推理阶段，对每个测试样本做几步额外的梯度更新，让模型适应当前样本的模式。它和转导式学习有异曲同工之妙——推理机会利用了目标样本自身的信息，让输出更加精确。

这招在很多分布偏移的场景里非常有效。比如图像分类模型遇到分布外图片，先让模型预测一个辅助任务，用这个样本自身的特征做几轮自监督更新，再预测主任务。这相当于在推理时刻悄悄地把当前的"具体样本"纳入了模型，利用的是局部信息，非常符合转导式思想。

但是要小心它的代价：每个测试样本都要做额外的反向传播，推理延迟和算力消耗会显著增加。它适合对延迟不敏感、且分布偏移严重的场景，不适合高并发在线推理系统。我见过有些团队把测试时训练用在离线批量打分场景，效果确实稳定提升了，换到在线实时接口就不可行。

5. 范式切换的工程落点：建模、评估与数据策略

5.1 建模端：别把命运交给记忆表

如果你的业务需要面对新实例，建模的时候要有意识地避开"实例记忆"型组件。

最容易踩的坑就是我开头说的那种：给每个实体分配一个可学习向量。很多老式协同过滤就是这么做的，用户用一个 user embedding，物品用一个 item embedding，训练时它们被更新、存储、查表。问题在于，新用户、新物品没有训练过的表项，模型无法泛化。后来演化出的 NGCF、LightGCN 等模型虽然带上了图结构，但如果你保留了一部分"按 ID 查表"的结构，就仍然是在做转导式学习。

要把一个模型改成归纳式，原则很简单：所有表示都应该是输入特征的函数。用户表示 = f(用户特征)，商品表示 = g(商品特征)，图节点表示 = aggregate(自身特征, 邻居特征)，而不是"给每个 ID 分配一个向量"。你可以用一个共享参数的编码器，或者用邻域聚合的 GNN 层。这样新的实体进来只需要喂特征，就能直接算出表示。

我给出一个非常小的对比框架：

5.2 评估端：用分布外测试戳穿转导幻觉

比建模更容易犯错的，是评估设计。绝大多数团队的离线验证集是随机切分的，这个操作本身就在无意中制造了转导式评估窗口。为什么？因为随机切分测试集，训练集和测试集里的样本往往来自同一个分布区域，甚至测试样本的一部分邻居、一部分结构信息在训练时已经可见了。在你用全图数据训练 GNN 的时候尤其致命——测试节点的向量已经被训练过程间接影响过了。

我建议至少设计三套评估集：

1. 随机切分测试集：衡量模型在同分布下的基础性能，但这个指标偏乐观。
2. 时间切分测试集：用前几个月的数据训练，用后面月份的数据测试。这最接近真实业务中新数据出现的形态。
3. 分布外测试集：比如换一个数据源采集的负样本、换一套特征口径。如果模型在这个测试集上还能保持稳定性，才说明它真的学到了归纳规则，而不是记住了特定样本之间的关系。

我做项目时还有一个习惯：推理一个新样本时，人工检查一下这个样本对应的局部邻域在前一阶段是不是被训练"加热"过。如果所有高分类别都是因为局部邻域里碰巧有大量相似训练样本，那模型离转导式就不远了。

5.3 数据端：主动制造分布位移

想要训练出真正归纳式思维的模型，数据策略上也要配套。一个比较有效的方法是"主动制造分布位移"：在训练过程中故意让模型看到各种采样策略下的数据，不要把数据总是按照同一种方式组织。

具体一点。构造成对样本时，可以随机遮挡一部分特征、随机丢弃一部分邻居节点，模拟新样本的不完整性；训练时用多组不同分布的 mini-batch，通过域随机化迫使模型学习到不变的特征结构。这种做法在迁移学习里叫域随机化，在因果推断里叫干预，本质上都是为了让模型不再依赖训练环境中那些偶然的局部结构。

我做过一个实验：在同样的图数据上，A 组模型只按随机采样顺序训练，B 组模型在此基础上额外加入了邻居节点随机掉边的增强策略。结果表明，在随机切分测试集上两者差异不大，但在新的独立测试集上，B 组的 F1 显著高于 A 组。这就是一个很典型的：数据端主动制造扰动，倒逼模型走向归纳式。

6. 踩坑复盘与自查清单

6.1 我踩过的两个坑

第一个坑是我在做一个二分图推荐项目时踩的。当时为了追求离线指标，在训练数据里引入了全图结构信息，包括测试边的两端节点。整个模型在离线测试集上提升了 1.8 个点，我一度以为找到了一个有效的优化方向。后来上线前突然意识到，这个离线提升有很大一部分来自"模型已经见过测试节点"的虚假信息。重新按照时间切分独立评估后，那 1.8 个点直接缩水到 0.3。那段时间我学到的最重要一句话：离线指标好，不一定是你的模型懂了，可能是你的评估体系在作弊。

第二个坑在检索增强系统上。我帮一个问答场景搭建知识库检索生成管线时，头三个月效果非常好。后来知识库更新了版本，一些旧概念被新概念替代，但检索器因为基于向量相似度，仍倾向把提问映射到旧的文档片段上。模型本身确实具备归纳能力，但检索环节把结果牢牢绑定在了"旧结构"上。这个问题的本质在于：我把生成模型当成了归纳式的，却在检索环节偷偷塞进了一个转导式组件，让它依赖存量样例的局部相似性。当存量结构变化时，局部相似性的地基就塌了。

这两个坑让我形成了一个习惯：每次设计系统时，先问自己一个问题——"当新的未知样本出现时，系统的哪一部分会产生反应能力？"如果答案是"没有专门处理新样本的机制、只能靠旧样本的相似度硬撑"，那么这个系统本质上就是转导式的，随时可能在新数据面前失灵。

6.2 十分钟自查清单

现在给出一份可以直接照做的自查清单，按照顺序过一遍，基本能判断自己的项目是否处于范式错位当中。

• 第一步，确认任务是否需要面对新实例。如果你的任务天然在一个封闭样本集里做预测，比如某个静态数据集的分类、某些医学影像片库的筛查，使用转导式方法没有任何问题，效率反而更高。
• 第二步，如果业务有新增样本，检查模型是否包含"按 ID 查表"或"训练时全量结构可见"的组件。有的话，要么把它们改成特征函数，要么明确接受自己正在做转导式系统。
• 第三步，检查验证集划分方式。随机边划分、随机切分节点集合、时间划分、在全新图上的测试，这四种划分暴露能力的方式完全不同，不要只看第一种。
• 第四步，做一次"新样本穿越测试"。手动构造一个从未见过的样本，走一遍推理流程，看看模型输出是否仍然合理。这一步成本低，效果立竿见影。
• 第五步，如果系统里用了检索组件，每隔一段时间用新出现的概念测试一下检索器能不能召回新文档。如果召不回，说明检索器在局部结构上产生了过拟合，需要做定期更新或者倒排索引重建。

这套清单看起来简单，但真正做到位并不容易。我见过不少团队因为"离线指标漂亮"而忽略了第一到第三步，上线后一塌糊涂；也见过团队因为"这是新样本"而直接把模型推倒重来，其实只是被转导式组件卡住了。

回过头来看，AI 从转导向归纳范式的转变，不是要把转导式方法彻底扫进历史垃圾桶，而是要建立一种清醒的框架感：知道自己在用什么范式，知道每种范式适用什么场景，知道范式错位的代价有多大。这个问题的核心，不是谁比谁高级，而是你的系统到底在背答案，还是真的掌握了做题的方法。

我个人的体会是，在绝大多数需要长期运行的业务系统里，归纳式模型都是主线；但如果你想快速解决一个局部的小问题，转导式思路反而能给你省下大量成本。关键是别混淆，别让一个转导式的组件隐藏在归纳式系统的"暗处"发酵，等它爆炸的时候，你花费的排查成本会远远超过一开始就把边界划清楚的时间。