版权与内容来源声明
本文为原创整理。文中涉及官方文档、开源仓库、论文与公开报道的内容,均在附表 A 中标注来源;引用官方原文保持原样,不作改写。文中命令、版本号与界面截图以本文成文时的实测/核验结果为准,标注「待验证」的部分请以你本地环境实际输出为判断依据。本文不推荐任何不合规的软件获取方式,也不对任何收益结果作承诺。转载请注明出处。
1. 现场:问到一个你真没做过的点
1.1 一段构造出来的对话
先把场景摆出来。对方问:「你们的检索效果是怎么评的?」你真正做过的是提示词调整和接口联调,检索评测这块没有负责过。
说明:下面这段对话是本文构造的示例,不是任何一家公司的真实面试题,也不来自任何一篇面经。它只用来演示「不会的时候」回答是怎么一步步展开的。
三种答法:
- 答法一:「我们用了检索增强,效果挺好的,召回有明显提升。」——听起来很懂,但一句「召回的衡量口径是什么」就能问穿。
- 答法二:「这个我没做过,当时是别的同事在做。」——诚实,但把一个展示自己的机会直接关掉了。
- 答法三:「您说的『效果』我理解分两层:一层是检索本身找得准不准,一层是最终答案对不对。检索评测我没做过,我做过的是提示词这一层。如果是我来做,我会先固定一批带标准答案的问题,把『答案对不对』当主指标,再看检索条数变化对它有没有影响——这样三天内能拿到一个方向性结论。检索内部的排序质量我确实没碰过,这块我需要补。」
第三种答法之所以有效,不是因为说得漂亮,而是因为对方听完能判断出你哪些是真的、哪些是猜的。
1.2 「不知道」是信息,「假装知道」是成本
对方问一个你没做过的点,通常不是在考「你会不会」,而是在看你对自己边界的判断准不准。原因很实际:AI 应用岗的日常工作里,大量时间都花在「这个结论能不能信」上。
Anthropic 官方文档《Reduce hallucinations》给出的第一条建议就是:明确允许模型说「我不知道」,原文称这个简单做法能大幅减少虚假信息;同一页还建议让模型为每条论断给出出处,找不到出处的论断必须撤回。这条工程经验换到面试场景同样成立:一个能说清自己边界的人,比一个什么都能答的人更省对方的验证成本。
反过来,「假装知道」的代价在于:你会在追问的第一层或第二层露馅,而露馅之后,对方会开始怀疑你前面说过的所有内容。这才是不划算的地方。
1.3 四步法总览
「不会的时候怎么答」可以固定成四步。顺序不能换,原因在最后一列。
| 步骤 | 一句话要做什么 | 常见错误 | 为什么放在这个位置 |
|---|---|---|---|
| 第一步 · 界定边界 | 复述问题并划出范围:问的是效果、成本还是工程实现 | 直接开始答,答完才发现答偏了 | 不先划范围,后面三步都可能答在别的问题上 |
| 第二步 · 说出已知事实 | 只讲自己真做过、能复现的部分 | 把「读过」说成「做过」 | 这是唯一不需要验证就能立住的部分,必须先立起来 |
| 第三步 · 给出假设与验证方式 | 不确定就说清你会怎么验证:用什么数据、看什么指标、多久出结论 | 只给结论不给验证路径 | 对方其实在看你有没有「能被检验」的工作习惯 |
| 第四步 · 明确未知 | 主动说清不知道什么,以及打算怎么补 | 含糊带过,等对方来问 | 主动划边界,比被追问出来体面得多 |
四步加起来,正常不超过一分钟。
2. 前两步:先划范围,再立事实
2.1 第一步·界定边界:把问题复述一遍
界定边界的动作只有一个:用你自己的话把问题复述一遍,并给出你打算回答的范围。
一个 AI 应用岗的「效果」至少有三种问法,对应的答案完全不同:
- 问「效果怎么样」,实际在问输出质量是否达标,你要准备的是评测方式、样本量、判定口径;
- 问「贵不贵」,实际在问单次调用成本与总量,你要准备的是请求量、单价口径、缓存与降级策略;
- 问「怎么做的」,实际在问工程实现路径,你要准备的是链路结构、失败处理、迭代方式。
复述的作用是把「一道开放题」变成「一道有边界的题」。可以这样说:「我理解您问的是输出质量这一层,如果您其实更关心成本,我换个方向讲。」这句话本身就在展示你能把模糊需求拆成可回答的问题——而这正是 AI 应用岗每天在做的事。
2.2 第二步·说出已知事实:区分「做过」和「读过」
第二步最容易翻车。很多人会把「看过一篇讲这个的文档」自动升级成「做过这个」。
一个简单的自检动作:你能不能在不看任何材料的情况下,把这件事的关键动作和数字口径讲出来?讲得出,算「做过」;只能讲出名词,算「了解」。
- 能说「我把候选条数从 5 调到 12,答非所问的比例下降了」——这是做过。
- 只能说「这要用到重排序」——这是了解。
「了解」不是不能说,而是必须标出来。标准句式是:「这块我读过资料,但没有在生产里做过,所以下面说的偏原理,不偏踩坑经验。」这句话说出来不掉分,因为它显示你知道自己的知识属于哪一类。
2.3 一张事实分级表
把上一条固化成一张表,开口前先在心里给每句话定级。
| 级别 | 判据 | 可以怎么讲 | 绝对不能怎么讲 |
|---|---|---|---|
| 我做过 | 能复现动作与数字口径 | 直接讲做法、结果、边界和失败 | 不必谦虚,这是你的底牌 |
| 我参与过 | 知道整体,但没独立负责 | 讲清自己负责的那一段,其余标出来 | 只说「我们做了什么」而不说自己做了哪一段 |
| 我读过 | 只掌握原理和名词 | 明确说「我读过,没实操」 | 用执行者口吻描述细节 |
| 我听说过 | 只有印象 | 可以承认,并说清打算怎么补 | 展开成一个完整答案 |
第三、四行是关键。面试里最贵的一句话不是「我不会」,而是「我们当时是这样做的」,而那个「我们」其实不含你。
3. 后两步:验证方式要能落地,未知要主动说
3.1 第三步·验证方式落到四个要素
当你说「如果不确定,我会这样验证」,对方在听的不是方案有多聪明,而是这个方案能不能被检验。一个能落地的验证方式,至少要写清四件事:
- 数据:用哪一批样本,多少条,有没有留出集——只写「跑一些真实数据看看」,等于没写;
- 指标:主指标是什么,用什么口径判定——只写「看效果有没有变好」,等于没写;
- 时间:多久能出第一轮结论——只写「长期观察」,等于没写;
- 停止条件:什么情况下直接否决这个方向——只写成功标准、不写失败标准,是最常见的缺口。
最后一条最容易被忽略,却最能加分。AI 应用的实验成本不低,一个愿意提前说「什么情况下我就放弃」的人,比一个只会往前冲的人更让人放心。
这套思路在官方文档里有对应表述。Anthropic 的提示工程总览在动手之前就列出两条前置条件:有明确的成功标准,以及有办法对这些标准做实证测试。Claude Academy 的《A typical eval workflow》则把它拆成五步:写初版提示、建评测数据集、逐条跑、用评分器打分、改完再跑一遍对比;其中打分通常是 1 到 10 分,取平均分作为基线。
Anthropic 面向企业的材料里还有一句更实用的建议:更理想的评测用例是「非常具体、可完全自动化、体量更大」的;不理想的是「开放式、需要人工判断」的。把这句话记进脑子,你说验证方式时会下意识说得更具体。
OpenAI 官方评测框架仓库 openai/evals 的自我描述是「评估大模型与大模型系统的框架,以及一个开源基准注册表」——它想解决的就是同一件事:把「好不好」变成一个别人也能复算的东西。
3.2 第四步·明确未知:说清不知道什么、打算怎么补
第四步只有两句话,但必须都说全:
- 「我不知道的是……」
- 「我打算用……补,大概需要……」
只说第一句,听起来像放弃;两句都说,听起来像排期。注意第二句一定要落到具体动作,不要说「我会学习一下」。可以说:「我会为一个功能手写二十条带标准答案的样本,跑一遍,看哪一类问题最容易出错。」
3.3 一张验证计划模板
下面这张模板是把第三步的四要素写成可填的结构,它只是一个记录格式,没有在真实服务上跑过。
⚠️代码待验证
claim:"把检索条数从 5 提到 10,最终答案的准确度会上升"# 待验证的假设data:source:"自己整理的 50 条带标准答案的问答对"split:"留出 15 条只用于最终验证,不参与调参"metric:primary:"答案要点命中条数(人工逐条打标签)"guard:"答案长度与引用数量(防止为了多命中而堆字)"time_budget:"3 天内跑完首轮"stop_condition:"留出集命中数没有上升,或引用数量明显变多 → 否决这个假设"最后一行停手条件,是这张表里唯一不能省的一行。
4. 一分钟怎么排:四段时间切片
4.1 60 秒切成四段
限时是把四步法变成可执行动作的关键。第一次练的时候,按秒表走下面这张分配:
| 时间段 | 这一段要完成什么 | 大约说几句 | 用错时间的样子 |
|---|---|---|---|
| 0–10 秒 | 界定边界,复述问题 | 1–2 句 | 直接开讲方案 |
| 10–35 秒 | 说出已知事实,标明「做过 / 读过」 | 3–4 句 | 讲了三分钟背景 |
| 35–55 秒 | 给出假设与验证方式 | 3–4 句 | 只给结论,不给验证路径 |
| 55–60 秒 | 明确未知与补齐计划 | 1–2 句 | 用「大概就是这样」收尾 |
如果一分钟内说不完,砍掉的是第三步的细节,不是第四步。因为「我明确知道我不知道什么」这句话,本身就是信息量最大的一句。这条时间分配与公开的 STAR 结构思路一致:Northwestern Career Advancement 的说明里给出过各段占比建议,其中「行动」应始终是回答里最长的部分。四步法里的「已知事实」加「验证方式」,对应的就是这段最长的部分。
4.2 一段可以直接套的骨架
⚠️代码待验证
【0–10 秒 · 界定边界】 您问的是「……」这件事——您更关心效果、成本,还是工程实现? 我按「效果」来答,如果理解偏了,您随时打断我。 【10–35 秒 · 已知事实】 我做过的是……和……。能复现的部分是:…… 我没有做过的是…… 【35–55 秒 · 假设与验证方式】 如果落到……,我的假设是……; 验证方式:用……样本,看……指标,……天内能出一个方向性结论; 如果……没有变化,我会直接放弃这条思路。 【55–60 秒 · 明确未知】 我不确定的是……,我打算用……补上。这套骨架的好处是:即使你对题目本身一无所知,四段里前三段仍然讲得出东西——第一段是你的理解力,第二段是你的经历,第三段是你的工作方法。
4.3 三种最浪费时间的答法
- 先铺垫背景。花三十秒说项目背景,一分钟因此不够用,最后一步全被挤掉。
- 一次给三个方案。方案越多,越像没做过取舍;给一个主方案加一个备选就够。
- 把边界和结论混在一起说。「这个我做过一点,效果还行,不过……」——对方听完不知道你到底做过没有。
5. 被追问到细节,怎么稳住
5.1 追问大致只有三种
追问听起来五花八门,归到底就三类。识别出是哪一类,回答就不会乱。
- 要口径:对方问「这个数字是怎么算的」,其实在核对数据是不是你自己跑的;应对是先讲口径,再讲动作,最后讲这个口径的适用范围。
- 要依据:对方问「为什么这么定,不是反着来」,其实在核对你有没有做过取舍;应对是讲当时的约束条件,以及你放弃了什么。
- 要反例:对方问「什么情况下会失灵」,其实在核对你是真懂还是背的;应对是给一个具体的失败场景,讲你是怎么发现的。
很多人怕第三类,其实第三类最容易拿分:能说出「什么情况下我这套办法不成立」的人,通常是真的动过手。
5.2 回到自己做过的部分:动作加数字口径
细节追问最容易把人带到没做过的地方。稳住的方法只有一个:把话题拉回你真正做过的那一段,用「动作 + 数字口径」回答。
⚠️代码待验证
对方:这个数字是怎么来的? 你:先说口径——它是在【哪一批数据、什么范围、什么时间段】上算的; 再说动作——我做的是【一个具体动作】,比如把候选条数从 5 调到 12; 最后说边界——这个口径不能用来回答【另一个问题】。注意最后一行的作用:主动缩小自己结论的适用范围,会让前面两行更可信。反过来,用一个口径去回答所有问题,才是最快的露馅方式。
如果追问落到了你确实没做过的地方,不要硬接。标准句式是:「这一层我没有直接做过,我知道的是……」然后回到 5.1 的第一类应对——讲口径,不讲细节。
5.3 哪些话可以说,哪些不能说
| 情形 | 可以说 | 不要说 |
|---|---|---|
| 没做过 | 「这一层我没负责过,我做过的是那一层」 | 「我们当时都做过」 |
| 数字不确定 | 「这个数我记不准,能确定的是它明显下降了」 | 编一个精确的小数 |
| 只用过一次 | 「我跑通过一次,没有长期用过」 | 「我很熟」 |
| 团队成果 | 「我负责的是其中一段」 | 整段用「我」来讲 |
| 网上看来的 | 「这是社区讨论里看到的,我自己没验证」 | 「我了解到业内都是这么做的」 |
最后一行特别提醒:社区帖、论坛帖永远不能说成「官方说明」。如果要用,就老实说「这是社区讨论帖,不是官方文档,我自己也没有验证过」——这句话说出来不减分,被拆穿才减分。
这份资料是什么:「AI 大模型知识库」里有一份 Claude Skills 完全指南,讲的是怎么给一件事写清输入、输出和边界——和本章「对外说话要划清适用边界」是同一种思路。放在资料包里,扫码即可获取:
6. 两张清单:答完自己过一遍
6.1 可验证回答自检清单
每次模拟练习或真实交流之后,按这张表逐条打钩。任何一条打不上钩,问题都出在四步法的某一步上。
| 序号 | 自检项 | 对应步骤 | 打不上钩说明什么 |
|---|---|---|---|
| 1 | 我用一句话复述了问题,并说明了我要答的层面 | 第一步 | 你可能答在了另一个问题上 |
| 2 | 我明确说了哪部分是我做过的、哪部分没有 | 第二步 | 你在用模糊换取安全感 |
| 3 | 我说出了至少一个具体动作和一个数字口径 | 第二步 | 你的经历还停在名词层 |
| 4 | 我给出了验证方式,含数据、指标、时间三样 | 第三步 | 你只给了结论,没给检验路径 |
| 5 | 我说清了什么情况下会否决这个方向 | 第三步 | 你缺少取舍意识 |
| 6 | 我主动说了自己不知道什么 | 第四步 | 你在等对方来问 |
| 7 | 我说了打算怎么补,动作是具体的 | 第四步 | 你在用一个态度词代替计划 |
| 8 | 全程没有把「我们」的成果说成「我」的 | 全流程 | 这条一旦踩中,前面全废 |
6.2 反面清单:哪些答法会立刻降分
| 反面答法 | 对方听到的是什么 | 代价 |
|---|---|---|
| 硬编概念 | 这个人把名词当经历 | 一句追问就穿帮 |
| 堆术语 | 想用密度盖住不会 | 追问到第二层就停住 |
| 把不确定说成确定 | 不可信 | 你前面所有结论都要被打折 |
| 把别人的项目说成自己的 | 不诚实 | 唯一一条无法用「补课」挽回 |
| 用「大方向都对」收尾 | 没有边界感 | 等于承认自己没做过判断 |
第二行值得单独说:术语的密度和可信度没有关系。你可以说一个词然后停下,说「这个词我知道定义,但没实操过」;也可以说三个词一个都没用对。前者安全,后者危险。
关于最后两行,公开的职业指导材料写得比本文更直接:University of Colorado Boulder 的 STAR 说明里,既要求多用「我」而不是「我们」,也明确写着「不要把它人的功劳算成自己的」。这不是道德说教,而是这类信息一旦被发现是假的,对方会连带怀疑你说过的全部内容。
6.3 为什么「不确定」比「确定」更可信
这一节解释一个反直觉的点:为什么坦白不确定性反而更容易被信任。
有一条公开研究支持这个方向。Lin、Hilton 与 Evans 在 2022 年的论文《Teaching Models to Express Their Uncertainty in Words》里发现:模型可以学会用自然语言表达对自己答案的置信度(例如「我有 90% 把握」),而这些表达出来的置信度校准良好,并且在数据分布发生变化时仍保持一定的校准水平。
「校准」第一次出现,需要一句人话解释:你说自己「有八成把握」,那么在你说了八成把握的那一批问题里,大致真有八成是对的。一个校准良好的人,比一个永远说「我能行」的人更有价值,因为听的人能根据你给出的置信度,决定要不要再复核一遍。
所以那句「这块我不确定」,不是示弱,而是把你自己的置信度告诉对方。Anthropic 官方文档把它写成了工程建议:让模型为每条论断给出出处,找不到出处的必须撤回。一个人愿意撤回自己说不清的论断,本身就是能力的一部分。
7. 面试后复盘:把「不会」变成补课清单
7.1 复盘要记四个字段
结束后趁记忆还热,只记四件事就够,多记反而坚持不下去。
- 问题原话:尽量按原话记,不要改写成你更会答的版本——写成「问了个关于评测的问题」就等于没记;
- 卡在第几步:界定 / 已知 / 验证 / 未知 四步里哪一步没走稳——写成「答得不太好」等于没记;
- 卡壳的层次:被追问到第几层开始含糊——写成「有点紧张」等于没记;
- 补课动作:一条具体动作——写成「多看看评测」等于没记。
第三条是分水岭。如果每次都在第一层就被问住,那问题是经历不够;如果每次都在第三层才含糊,那问题是口径没想清楚。两种问题的补法完全不同。
7.2 一份复盘记录模板
⚠️代码待验证
{"问题原话":"尽量按原话记,不要改写成你更会答的版本","我的回答落点":"四步里哪一步没走稳:界定 / 已知 / 验证 / 未知","卡住的层次":"被追问到哪一层开始含糊","补课动作":"一条具体动作,例如为某个功能手写 20 条带标准答案的样本","下次的口径":"一个能在一分钟内讲完的答案骨架"}最后一行是关键:复盘的产出应该是「一段更短的答案」,而不是一条更长的待办。
7.3 把复盘变成补课清单
三到五次复盘之后,把「卡壳的层次」那一列横向看一遍,规律会自己浮出来。
- 总在第一层就卡:说明缺的是可复现的经历——补法是做一个能跑通的小闭环,哪怕很小。
- 卡在第二层:说明经历有,但没算过数——补法是为自己的项目补一次量化:多少条样本、什么口径。
- 卡在第三层:说明会做,但不会设计验证——补法是为一个假设写一份含停手条件的验证计划。
- 卡在第四层:说明不敢承认不会——补法是刻意练习「我明确不知道的是……」这句话。
第四条听起来最容易,其实最难,因为它和「答得多显得更专业」的直觉相反。但从被信任的角度看,一个能主动划出边界的人,反而更容易让人愿意把活交给他。
到这里,四步法闭环了:界定边界 → 说出已知事实 → 给出假设与验证方式 → 明确未知;答完用自检清单过一遍,事后按四个字段复盘。
这份资料是什么:「大模型学习路线图」把从零基础到能自己动手做 Agent 的路径按阶段拆开了,正好可以对照本章「卡在哪一层就补哪一块」的思路挑起点。放在资料包里,扫码即可获取:
附表 A:本文引用事实与出处对照表
| 序号 | 事实 | 出处(文档名 + 发布方 + 链接) | 本文位置 |
|---|---|---|---|
| 1 | 官方建议「明确允许模型说『我不知道』」,原文称该做法能大幅减少虚假信息;并建议让模型为每条论断给出出处,找不到出处必须撤回 | 《Reduce hallucinations》,Anthropic 官方文档,https://docs.anthropic.com/en/docs/test-and-evaluate/strengthen-guardrails/reduce-hallucinations | 第 1.2、6.3 节 |
| 2 | 动手写提示前应满足两个前提:有明确的成功标准;有办法对这些标准做实证测试 | 《Prompt engineering overview》,Anthropic 官方文档,https://platform.claude.com/docs/claude/docs/prompt-engineering | 第 3.1 节 |
| 3 | 提示评估的典型工作流为五步:写初版提示 → 建评测数据集 → 逐条运行 → 用评分器打分 → 修改后重跑对比;打分通常为 1 到 10 分,取平均作为基线 | 《A typical eval workflow》,Claude Academy(Anthropic),https://academy.claude.com/courses/building-with-the-claude-api/a-typical-eval-workflow | 第 3.1 节 |
| 4 | 更理想的评测用例是「非常具体、可完全自动化、体量更大」;不理想的是「开放式、需要人工判断」 | 《Building Trusted AI in the Enterprise》,Anthropic,https://assets.anthropic.com/m/66daaa23018ab0fd/original/Anthropic-enterprise-ebook-digital.pdf | 第 3.1 节 |
| 5 | 官方自我描述为「评估大模型与大模型系统的框架,以及一个开源基准注册表」 | openai/evals 仓库,OpenAI,https://github.com/openai/evals | 第 3.1 节 |
| 6 | STAR 回答结构为情境、任务、行动、结果,并给出各段占比建议,强调「行动」应始终是回答里最长的部分 | 《Behavioral Interviewing & The STAR Approach》,Northwestern Career Advancement(美国西北大学),https://www.northwestern.edu/careers/jobs-internships/interviewing/the-star-approach.html | 第 4.1 节 |
| 7 | 描述经历时应多用「我」而不是「我们」,且「不要把它人的功劳算成自己的」 | 《The STAR Interview Method》,University of Colorado Boulder,https://www.colorado.edu/jobs/2020/12/02/star-interview-method | 第 2.3、6.2 节 |
| 8 | 模型可学会用自然语言表达对自己答案的置信度,这些置信度校准良好,并在数据分布变化时保持一定校准水平 | 《Teaching Models to Express Their Uncertainty in Words》,Stephanie Lin、Jacob Hilton、Owain Evans,arXiv:2205.14334,https://arxiv.org/abs/2205.14334 | 第 6.3 节 |
| 9 | 本文构造的对话示例、四步法、时间切片、自检清单、反面清单、验证计划与复盘模板 | 均为本文整理的方法论示例,不是真实交流记录,也未在真实场景中做过对照实验,待验证 | 第 1、2、3、4、5、6、7 节 |
附表 B:术语速查表
| 术语 | 一句话解释 | 在本文哪里用到 |
|---|---|---|
| 界定边界 | 用自己的话复述问题,并说明只回答其中哪一层 | 第 1.3、2.1 节 |
| 事实分级 | 把要说的话分成「做过 / 参与过 / 读过 / 听说过」四类 | 第 2.3 节 |
| 数字口径 | 一个数字是在哪批数据、什么范围、什么时间段上算出来的 | 第 5.1、5.2 节 |
| 留出集 | 只用于最终验证、不参与调参的那部分样本 | 第 3.3 节 |
| 停手条件 | 什么情况下直接否决这个方向,不再继续投入 | 第 3.1、3.3 节 |
| 校准 | 你说自己「有八成把握」,那么在这一批问题里大致真有八成是对的 | 第 6.3 节 |
| 自检清单 | 答完之后逐条打钩的检查表,每条对应四步法的一步 | 第 6.1 节 |
| 反面清单 | 会立刻降分的回答方式列表,用来提醒自己不要踩 | 第 6.2 节 |
写在最后:这篇用到的资料
写这篇文章时,把相关的官方文档和源码又翻了一遍,顺手也整理了几份配套的东西:
- 大模型学习路线图:从零基础到能自己动手做 Agent,按阶段说明每一步该学什么、哪些可以先跳过
- 《LangChain + LangGraph + MCP 智能体开发实战》视频课:7 个模块,从私有化部署、Embedding+RAG 到 MCP+Agent 全流程
- AI 大模型知识库(在线可查):Agent Skills 从入门到落地、Claude Skills 完全指南等专题,按目录浏览即可
- 640 套 AI 大模型行业报告 + 经典 PDF 书籍:看行业落地案例和别人怎么做的时候用得上
- 大模型零基础到精通教学视频:跟着敲一遍,比只读文档快得多
资料是我自己整理的,放在下面这个码上,扫码即可获取:
添加时备注「AI」,优先通过。
资料按「先路线、再动手、最后查漏」的顺序整理好了,建议先看学习路线那一份,照着它挑一条适合自己当前基础的路径再往下看。