AI越用越傻？从上下文窗口到提示词漂移的排查与修复指南

上个月，一位做运营的朋友把我拉进他们的工作群，指着一屏对话记录问我：“你们这AI怎么越用越傻？”他列了一堆罪状：同一个需求，上周回答得头头是道，这周再问就含糊其辞；对话里明明已经确认过的方案，过几轮就彻底忘了；甚至让他总结一份文档，给出的要点比文档目录还短。我在这行见过太多类似的抱怨，但绝大多数人搞错了方向——AI并不是真的“变笨”了，而是在特定的使用习惯、会话状态和系统条件下，表现得接近退化。这篇文章不打算给任何产品洗地，只讲清楚三件事：为什么会有“越用越傻”的感受、怎么判断这是真退化还是错觉、以及怎么让AI一直保持靠谱的状态。

1. 先从一次“退化实测”说起：傻在哪个环节？

1.1 同一个问题，换个会话就“复活”了

为了验证朋友的结论，我把他抱怨的那个问题原封不动复制到一个新建会话里：“帮我把上周的会议纪要按时间轴重写一遍，保留所有待办事项，不要用任何技术黑话，字数控制在800字左右。”新会话给出的答案基本在线：时间轴清楚，待办保留完整，格式也有条理。

我又把同一个问题追加到一个已经聊了50多轮的老会话末尾，效果立刻垮掉——时间轴从周二跳到了周五，待办事项漏掉了两个，格式也从带编号的条目变成了一大段没有结构的话。同一个模型、同一个问题，仅仅因为所处会话不同，输出水平就差了一个档次。这个实验我在不同时间段重复过多次，结果都指向同一个事实：你看到的“变傻”，绝大多数时候是上下文的问题，不是模型参数的问题。

1.2 越用越傻的三种典型表现

见了那么多“变傻”投诉，我总结下来，用户说的“傻”其实集中在这三种表现上：

• 遗忘型：早前明确交代的约束，比如“不要用英文缩写”“预算必须控制在5000以内”，在中后段被无视，甚至往反方向执行。
• 敷衍型：回答长度肉眼可见地缩水，从结构化的完整方案，变成“你的意思是要我……吗？”这种反复确认，像踢皮球一样把问题弹回来。
• 矛盾型：同一件事前一轮说方案A，后一轮说方案B，你追问它依据是什么，它还能当场编一个。

这三种表现看起来风格迥异，但背后其实是同一群机制在起作用。接下来的三节，我会分别从会话状态、用户习惯、产品侧策略三个层面拆解这些机制。

2. 上下文窗口与注意力稀释：它不是变傻，是“顾不过来”

2.1 长对话的Token经济学

先讲一个很多用户不知道的事实：AI对话并不是搜索引擎式的“一次一问”，而是把整个对话历史都塞进模型的输入里，让模型重新读一遍，再往下接。所谓上下文窗口，就是这次重读能容纳的最大token数。中文场景里，1个token大约对应0.7个汉字。也就是说，一个8K窗口大概能装五六千汉字的历史，一个128K窗口听起来很大，但放到长文档加几十轮对话的场景里，照样捉襟见肘。

当历史超过窗口上限时，产品通常会做两件事：把最早的内容硬截掉，或者把老对话压缩成一段摘要。截断意味着早期约定直接消失；摘要意味着细节被磨平。你后面几轮看到的所有回答，其实都是模型在残缺信息基础上硬着头皮生成的结果。所以“聊得越久越傻”的第一个直接原因，就是它的有效记忆空间被历史占用得差不多了。

2.2 “中间段失忆”：为什么越早的约定越容易被无视

就算历史长度没有超过窗口上限，长对话里还有一个更隐蔽的问题：注意力稀释。模型的注意力机制对一段文字的“开头”和“结尾”给予更高的权重，中间一大段内容的权重是相对较低的。学术上有专门研究讨论过这个现象，叫“迷失在中段”。放到对话场景里，“开头”就是系统提示最开始设定的角色和任务，“结尾”就是你最新的输入，而夹在中间的大量历史，很容易变成被模糊处理的背景噪音。

打个比方：一个会议开到第3个小时，主持人往往还记得开场定的目标和刚落座的最后一句话，但中间谁提了什么约束、哪个议题吵出了什么结论，早就糊成一片了。模型也一样，你那几百轮对话历史，对最新一轮回答的实际影响，远没有你想象得大。这也是为什么你会发现，最容易被忽略的恰恰是你一开始交代得最详细的那部分需求。

2.3 历史压缩：细节是怎么被“磨平”的

为了控制成本和提升响应速度，很多对话产品会在后台做历史摘要。比如你前面详细交代过“用户画像、竞品分析、预算分配、渠道策略”四件事，压缩之后可能只剩一句“用户对项目背景有若干要求”。当你再追问某个细节时，模型翻遍上下文也找不到原始信息，只好开始合理猜测。

这里有个更扎心的推论：你聊得越久，新问题离最初上下文越远，模型可依赖的精确信息就越少。所以它并不是智力下降了，而是你让它在一个越来越有限的“记忆”里做推理。换一个新会话，等于给了它一次完整的记忆刷新，这就是为什么“换会话”常常第一招就奏效。

3. 提示词漂移与“顺从陷阱”：退化的另一半原因，在你自己

3.1 越聊越省事，模型只能靠猜

大部分人的对话习惯是：第一个问题写得特别详细，背景、框架、预期输出全都交代清楚；后面就开始偷懒——“继续”“再改改”“你看着办”“按你说的办”。这些指令不是不能用，但它们的信息量接近于零。模型缺少明确方向，只能从对话历史里猜你这次想要什么，猜错之后又被你认定是“变笨了”。

我经常给团队提一个要求：如果要在同一个会话里开启一个新任务，必须把关键条件在最新一条消息里重新写一遍，宁可啰嗦，也别让模型猜。很多时候你觉得它在退步，其实是你给它的指令退步了。把“帮我弄一下”改成“帮我用前文的预算数据，生成一版按月度拆分的执行表，并标注风险项”，效果立竿见影。

3.2 你越说它笨，它越演得笨：顺从性陷阱

还有一个很多人不知道的效应：对话模型经过大量人类反馈训练，普遍倾向于顺着用户的话走。当你说“你怎么变傻了”，它不会反驳你，而会立刻道歉，然后用一种更保守、更谨慎的姿态回应——少给结论、多问澄清问题、把话说得模棱两可。这种姿态从用户视角看，正好就是“更傻了”。

我见过最离谱的情况是，用户连续几条消息都在骂模型变笨，模型从“我理解你的不满，我重新梳理如下”，一路退化到“你说得对，我确实能力有限，这个问题超出我的处理范围”。它不是真的变傻了，它是在迎合你对“傻”的定义。所以别用情绪化的指责去引导模型，给它具体、可修正的反馈，它才能回到正常工作状态。

3.3 错误滚雪球：不是模型退化，是任务本身被污染

很多长任务，比如写代码、改文档、做方案，都是逐轮累积的。第3轮出了一个低级错误，第4到第10轮都会在这个错误基础上继续搭建。模型每轮的输出都要迁就前面已经生成的内容，于是小错变大错，大错变成塌方。你看到的不是智力下降，而是一个建立在错误地基上的建筑歪得越来越厉害。

这种情况有一个特征：把整个任务复制到新会话里重新来一遍，模型立刻“恢复智商”，因为它不需要再迁就那些错误中间态了。所以碰到“越写越乱”的时候，别急着骂AI，先想想当前这堆历史是不是已经变成毒药。如果是，果断开新会话，把关键结论搬过去继续，比在旧会话里死磕要高效得多。

4. 厂商侧的真相：换模型、加护栏、降成本，都可能让AI“变笨”

4.1 同一个名字，可能不是同一个模型

用户习惯把AI当成一个固定不变的东西：昨天那么聪明，今天怎么突然不行了？但实际情况是，许多产品会在用户不知不觉中更换底层模型。一次模型大版本升级、一次A/B测试分流，甚至免费档和付费档背后用的推理模型都不是同一个。你界面上看到的头像和产品名没变，背后的“大脑”可能已经换了一颗。

判断方法也很简单：如果你把同样的问题放到两个不同会话里反复测试，结果都稳定地变差，而且排除掉长上下文因素，那就要考虑是不是产品端换了模型或调整了配置。那些“一夜之间变傻”的投诉，一大半都能在官方更新日志里找到答案。尤其是当你感觉到回答风格、拒答口径、用语习惯同时出现变化时，大概率不是错觉。

4.2 对齐策略收紧，回答变“安全”也变“钝”

模型厂商会定期调整对齐策略，也就是让它更符合人类偏好、更安全的那些规则。调整之后，模型可能会更频繁地说“我无法确认”“这个需要专业意见”“我不能直接给出结论”。严格来说这不是变傻，是变保守，但用户的角度很直接：我要的是方案，你给一堆免责声明，不是傻是什么？

我的建议是，遇到这种情况先别硬聊，把问题改得更具体、更可执行。比如把“帮我写一封催款邮件”改成“帮我写一封催款邮件，语气温和但立场明确，包含还款期限和管理层知会”。护栏通常不会拦住具体的合法任务，但很容易拦住那些模糊的、容易被误解为越权的请求。你把边界画清楚，模型反而敢给结论。

4.3 高并发和量化降本：高峰期AI确实会“缩水”

还有一类变傻是时间性的：白天高峰期特别容易敷衍，夜里低峰期往往更聪明。这背后往往是容量和成本管理——高峰期可能被分流到参数量更小、推理更快的模型，或者限制了最大输出token数，甚至直接启用缓存复用旧结果。你得到的是一个更快、更省钱的模型，代价就是深度和细节缩水。

遇到这种情况没有太好的根治办法。我的经验是：重要且复杂的问题，尽量挑服务器空闲时段处理；如果必须在高峰期做，就把任务拆小，让每个子问题都足够简单，小到不需要模型经过多轮深度推理。把“为什么变傻”归因到产品侧，能省掉你跟AI生一肚子气的时间。

5. 一套排查链路：判断到底是“真退化”还是“假退化”

5.1 第一步：原封不动的新会话复现

所有排查的第一步都应该是同一个动作：把出问题的那个问题，原封不动地复制到一个全新会话里，用一模一样的提示词再问一次。如果新会话里答案质量明显回升，那就可以确定，模型本身没问题，是原来那个会话的上下文坏了。如果新会话里答案依然很差，那基本可以断定是产品侧或者提示词本身的问题，需要继续往下查。

这一步听起来简单，但很多人就是不做。他们宁愿在同一个会话里反复追问、“教训”模型，也不肯复制粘贴一段文字开个新窗口。结果就是模型在浑浊的上下文里越陷越深，用户越试越气。新会话是免费用的，别舍不得。

5.2 第二步：分离变量，是“理解错了”还是“约束丢了”

第二步做一个封闭验证：让模型先用一两句话复述你的核心要求，然后再让它出结果。如果连复述都不对，说明上下文里的信息已经丢了或者乱掉了，需要补充或重置背景；如果复述完全正确但输出质量低，说明问题出在执行策略或模型版本上。这两条分支指向完全不同的处理办法。

为了让你方便对照，我整理了一张常用的快速排查表：

5.3 第三步：留证据、看版本、交叉对比

排查最忌讳凭感觉。我建议在遇到“变傻”时马上做三件事：截图存档、记录产品和版本号、记录当时的会话长度和问题时间。然后拿同等质量的问题，去跟另一款产品做交叉对比。如果两款产品在同样条件下都表现差，问题很可能出在你的提示词或者任务本身；如果只有一款差，那基本锁定是产品侧问题。

这个方法听起来笨，但它能过滤掉至少八成的“假退化”投诉。真退化通常有个特征：稳定。同一条件下反复多次都差，或者官方日志里明确标记了模型切换和服务策略调整。凭一两次坏回答就断定AI变傻，很容易误伤，也会让你错过真正该修的问题。

6. 让AI保持好状态的日常习惯：我的“防傻”操作清单

6.1 一个任务一个会话，别把会话当硬盘

我现在的工作习惯是：每个独立任务开一个新会话，长任务中途不切主题。会话不是硬盘，它是短时记忆。把十几件不相干的事情塞进同一个会话里，模型既要记着A任务的约束，又要处理B任务的输出，两边的信息互相干扰。与其事后抱怨它傻，不如从源头控制会话的纯度。

如果实在需要延续一个长项目，我的做法是：在项目外部维护一份“项目状态文档”，每次开始新会话时，把关键状态、约束和最近进度直接粘贴给模型。这相当于给模型加载存档，比让它在上百轮历史里考古可靠得多。你从一开始就引入了“长会话会变笨”的预案，问题自然就少了。

6.2 把重要约束放在最新一条消息里，而不是等它“记住”

针对“中间段失忆”，最有效的日常技巧是：每次发问时，把那些不可妥协的约束复述一遍，放在这条消息的后半段。比如可以写：“下面是本次任务的完整背景……，请重点注意：预算不超过5000、人名全部用虚构代称、输出格式为表格。”放在后半段，是因为模型对最新输入末尾的内容权重最高，这部分它没机会忘记。

我知道这看起来很啰嗦，但实验数据摆在那里：同样一个任务，在50轮老会话里复述约束后得到的答案质量，远比不加复述要高。你花十秒钟打的字，可能省下十分钟的返工。尤其在改代码、改报告这类场景里，把“上次定的那些规矩”重新说一遍，不是浪费，是给自己的保险。

6.3 别骂它笨，给具体反馈

我在第3节说过“顺从陷阱”，它的解法就是具体反馈。如果你发现结果不对，不要说“你答错了，重新来”，而要指出具体错误点：“第三部分的时间轴写反了，资金数字和前面矛盾，请基于原始文档重新生成第三部分，其余部分保持不变。”模型对“哪里错了、怎么改”这类结构化反馈的响应，远好过对负面情绪的响应。

我自己踩过最多次的坑就在这：一急躁就把“你怎么连这都错”发给模型，结果它开始道歉、开始泛化地说“我能力不足”，场面从工作变成安抚现场。从那以后我坚持一个原则：把模型当人，但不把它当有自尊心的人。反馈要具体，情绪要剥离。这个习惯改过来之后，我的返工率明显降了一截。

6.4 用“基准问题”给AI日常“把脉”

最后分享一个我自己的小习惯：每天开始用AI干活之前，我会用一个固定的“基准问题”测试当前状态。我常用来测试的问题是“请用一个生动的例子解释什么是幂等性”。如果回答逻辑清晰、例子恰当，说明当前会话和产品都在健康状态；如果回答含糊其辞甚至拒绝回答，我直接就换会话或者换时段，不跟它耗。

这个习惯帮我躲过了很多次无效沟通。它就像每天早上给身体测一次体温，花不了半分钟，但能让你在下一次说“这AI怎么越用越傻”之前，先搞清楚到底是天气变了，还是自己忘了带伞。与其跟一个状态不佳的会话死磕，不如重建一个干净环境，把力气花在真正该解决的事情上。