假设面试官问我:“客服知识库换了一个 embedding 模型,接口不报错,回答却开始跑偏。你先查什么?”
我可能先想,调提示词,增加召回条数,再换个重排模型。
他补了一句:“文档还是旧模型生成的向量,只把用户提问换成了新模型。两个模型输出维度一样。”
那我得先把提示词放下。书没搬,找书用的地图换了。
一、长度相同,不代表坐标能对上
用户问:“这双鞋买大了,还能退吗?”
系统应该从店铺知识库里找出退货条件,再根据原文回答。它只负责解释规则,不能顺手替用户申请退款。
向量检索里,embedding 模型会把问题和文档片段转成一串数字。检索服务比较这些数字,找出与问题接近的片段。
旧模型给“尺码不合适的退货规则”安排了一个位置。新模型可能把同一意思安排到别处。两串数字都有相同数量的元素,只说明长度一致,没有证明它们采用同一套语义坐标。
就像两张商场平面图都用横纵坐标表示位置,坐标写法一样,不代表二楼的鞋店和一楼的咖啡店可以直接对照。
这只是帮助理解的比喻,真实向量不是每一维对应一个店铺。但问题相同:拿新地图上的位置,去旧地图上找最近的点,算得出来,结果未必有意义。
“所以一定会报错?”
恰恰不一定。维度不同,接口可能直接拒绝;维度相同,更可能一路算下去。模型还会认真总结检索回来的材料,回答读着很顺,只是材料已经偏了。
二、同一个模型名字,也得看怎么调用
“那我保证两边用同一个模型,就行了?”
这是常见起点,但还要检查使用方式。
有些模型明确区分“编码用户问题”和“编码待检索文档”。例如接口让你分别填写search_query和search_document。两边任务角色不同,却是为了进入可以比较的语义空间。
所以要求不是所有参数机械地完全相同,而是按模型要求使用配套的查询端和文档端配置。模型版本、输出维度、必要的前缀或任务类型,都值得记录。
“只把旧向量补几个零,能省下重算的钱吗?”
不能把这个当成通用迁移办法。补零只是改变形状,不会把旧模型理解文本的方式转换成新模型的理解。除非模型方案明确提供兼容保证,并且经过验证,否则应当从原始文本重新生成向量。
还要分清:重新生成向量,与给现有向量重建搜索结构,是两件事。只重建索引里的搜索结构,内容仍是旧向量,问题照旧。
三、线上迁移,我会先保留两条完整的路
面试官继续问:“文档很多,总不能停掉客服,等你全部算完?”
我会保留旧链路继续服务,旁边准备新向量字段或新集合。用新模型重新编码原来的文档片段,并保留片段编号、原文和权限等信息。
迁移期间新来的文档,要进入两套链路;修改和删除也要同步处理。尤其不能让后台回填的旧文本,把刚更新的退货规则覆盖回去。这里需要按文档版本处理增量,而不是只盯着进度条走到百分之百。
切换前,我会拿一批有正确依据的问题分别跑两条路。像“鞋买大了”和“穿过还能退吗”,需要命中的规则不同。看该出现的依据有没有进入候选结果,再看最终回答有没有忠于原文。
我不会仅凭“新模型的相似度分数更高”宣布升级成功。不同模型的分数分布可能不同,旧阈值也得重新评估。
这些检查通过,再把“问题编码配置”和“要查询的向量字段或集合”作为一套配置切换。只改其中一项,就又回到了开头的混搭。
旧链路先保留一段观察期。需要回滚时,两项一起退回;如果承诺能回滚,观察期内旧链路的数据更新也不能停,否则退回去的只是一个过期知识库。
面试时,我会这样回答
“我会先核对问题和文档向量是否来自兼容的编码方案。维度相同不代表语义空间相同,换模型通常需要从原文重新编码。线上迁移可以并行维护新旧向量,处理好回填与增量更新,用有依据的问题集验证召回和回答,再把查询编码配置与对应索引成套切换。回滚也要成套进行。先确认检索坐标一致,再去调提示词。”
学AI大模型的正确顺序,千万不要搞错了
🤔2026年AI风口已来!各行各业的AI渗透肉眼可见,超多公司要么转型做AI相关产品,要么高薪挖AI技术人才,机遇直接摆在眼前!
有往AI方向发展,或者本身有后端编程基础的朋友,直接冲AI大模型应用开发转岗超合适!
就算暂时不打算转岗,了解大模型、RAG、Prompt、Agent这些热门概念,能上手做简单项目,也绝对是求职加分王🔋
📝给大家整理了超全最新的AI大模型应用开发学习清单和资料,手把手帮你快速入门!👇👇
学习路线:
✅大模型基础认知—大模型核心原理、发展历程、主流模型(GPT、文心一言等)特点解析
✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑
✅开发基础能力—Python进阶、API接口调用、大模型开发框架(LangChain等)实操
✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用
✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代
✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经
以上6大模块,看似清晰好上手,实则每个部分都有扎实的核心内容需要吃透!
我把大模型的学习全流程已经整理📚好了!抓住AI时代风口,轻松解锁职业新可能,希望大家都能把握机遇,实现薪资/职业跃迁~