上个月一位做运营的朋友把我拉进他们的工作群指着一屏对话记录问我“你们这AI怎么越用越傻”他列了一堆罪状同一个需求上周回答得头头是道这周再问就含糊其辞对话里明明已经确认过的方案过几轮就彻底忘了甚至让他总结一份文档给出的要点比文档目录还短。我在这行见过太多类似的抱怨但绝大多数人搞错了方向——AI并不是真的“变笨”了而是在特定的使用习惯、会话状态和系统条件下表现得接近退化。这篇文章不打算给任何产品洗地只讲清楚三件事为什么会有“越用越傻”的感受、怎么判断这是真退化还是错觉、以及怎么让AI一直保持靠谱的状态。1. 先从一次“退化实测”说起傻在哪个环节1.1 同一个问题换个会话就“复活”了为了验证朋友的结论我把他抱怨的那个问题原封不动复制到一个新建会话里“帮我把上周的会议纪要按时间轴重写一遍保留所有待办事项不要用任何技术黑话字数控制在800字左右。”新会话给出的答案基本在线时间轴清楚待办保留完整格式也有条理。我又把同一个问题追加到一个已经聊了50多轮的老会话末尾效果立刻垮掉——时间轴从周二跳到了周五待办事项漏掉了两个格式也从带编号的条目变成了一大段没有结构的话。同一个模型、同一个问题仅仅因为所处会话不同输出水平就差了一个档次。这个实验我在不同时间段重复过多次结果都指向同一个事实你看到的“变傻”绝大多数时候是上下文的问题不是模型参数的问题。1.2 越用越傻的三种典型表现见了那么多“变傻”投诉我总结下来用户说的“傻”其实集中在这三种表现上遗忘型早前明确交代的约束比如“不要用英文缩写”“预算必须控制在5000以内”在中后段被无视甚至往反方向执行。敷衍型回答长度肉眼可见地缩水从结构化的完整方案变成“你的意思是要我……吗”这种反复确认像踢皮球一样把问题弹回来。矛盾型同一件事前一轮说方案A后一轮说方案B你追问它依据是什么它还能当场编一个。这三种表现看起来风格迥异但背后其实是同一群机制在起作用。接下来的三节我会分别从会话状态、用户习惯、产品侧策略三个层面拆解这些机制。2. 上下文窗口与注意力稀释它不是变傻是“顾不过来”2.1 长对话的Token经济学先讲一个很多用户不知道的事实AI对话并不是搜索引擎式的“一次一问”而是把整个对话历史都塞进模型的输入里让模型重新读一遍再往下接。所谓上下文窗口就是这次重读能容纳的最大token数。中文场景里1个token大约对应0.7个汉字。也就是说一个8K窗口大概能装五六千汉字的历史一个128K窗口听起来很大但放到长文档加几十轮对话的场景里照样捉襟见肘。当历史超过窗口上限时产品通常会做两件事把最早的内容硬截掉或者把老对话压缩成一段摘要。截断意味着早期约定直接消失摘要意味着细节被磨平。你后面几轮看到的所有回答其实都是模型在残缺信息基础上硬着头皮生成的结果。所以“聊得越久越傻”的第一个直接原因就是它的有效记忆空间被历史占用得差不多了。2.2 “中间段失忆”为什么越早的约定越容易被无视就算历史长度没有超过窗口上限长对话里还有一个更隐蔽的问题注意力稀释。模型的注意力机制对一段文字的“开头”和“结尾”给予更高的权重中间一大段内容的权重是相对较低的。学术上有专门研究讨论过这个现象叫“迷失在中段”。放到对话场景里“开头”就是系统提示最开始设定的角色和任务“结尾”就是你最新的输入而夹在中间的大量历史很容易变成被模糊处理的背景噪音。打个比方一个会议开到第3个小时主持人往往还记得开场定的目标和刚落座的最后一句话但中间谁提了什么约束、哪个议题吵出了什么结论早就糊成一片了。模型也一样你那几百轮对话历史对最新一轮回答的实际影响远没有你想象得大。这也是为什么你会发现最容易被忽略的恰恰是你一开始交代得最详细的那部分需求。2.3 历史压缩细节是怎么被“磨平”的为了控制成本和提升响应速度很多对话产品会在后台做历史摘要。比如你前面详细交代过“用户画像、竞品分析、预算分配、渠道策略”四件事压缩之后可能只剩一句“用户对项目背景有若干要求”。当你再追问某个细节时模型翻遍上下文也找不到原始信息只好开始合理猜测。这里有个更扎心的推论你聊得越久新问题离最初上下文越远模型可依赖的精确信息就越少。所以它并不是智力下降了而是你让它在一个越来越有限的“记忆”里做推理。换一个新会话等于给了它一次完整的记忆刷新这就是为什么“换会话”常常第一招就奏效。3. 提示词漂移与“顺从陷阱”退化的另一半原因在你自己3.1 越聊越省事模型只能靠猜大部分人的对话习惯是第一个问题写得特别详细背景、框架、预期输出全都交代清楚后面就开始偷懒——“继续”“再改改”“你看着办”“按你说的办”。这些指令不是不能用但它们的信息量接近于零。模型缺少明确方向只能从对话历史里猜你这次想要什么猜错之后又被你认定是“变笨了”。我经常给团队提一个要求如果要在同一个会话里开启一个新任务必须把关键条件在最新一条消息里重新写一遍宁可啰嗦也别让模型猜。很多时候你觉得它在退步其实是你给它的指令退步了。把“帮我弄一下”改成“帮我用前文的预算数据生成一版按月度拆分的执行表并标注风险项”效果立竿见影。3.2 你越说它笨它越演得笨顺从性陷阱还有一个很多人不知道的效应对话模型经过大量人类反馈训练普遍倾向于顺着用户的话走。当你说“你怎么变傻了”它不会反驳你而会立刻道歉然后用一种更保守、更谨慎的姿态回应——少给结论、多问澄清问题、把话说得模棱两可。这种姿态从用户视角看正好就是“更傻了”。我见过最离谱的情况是用户连续几条消息都在骂模型变笨模型从“我理解你的不满我重新梳理如下”一路退化到“你说得对我确实能力有限这个问题超出我的处理范围”。它不是真的变傻了它是在迎合你对“傻”的定义。所以别用情绪化的指责去引导模型给它具体、可修正的反馈它才能回到正常工作状态。3.3 错误滚雪球不是模型退化是任务本身被污染很多长任务比如写代码、改文档、做方案都是逐轮累积的。第3轮出了一个低级错误第4到第10轮都会在这个错误基础上继续搭建。模型每轮的输出都要迁就前面已经生成的内容于是小错变大错大错变成塌方。你看到的不是智力下降而是一个建立在错误地基上的建筑歪得越来越厉害。这种情况有一个特征把整个任务复制到新会话里重新来一遍模型立刻“恢复智商”因为它不需要再迁就那些错误中间态了。所以碰到“越写越乱”的时候别急着骂AI先想想当前这堆历史是不是已经变成毒药。如果是果断开新会话把关键结论搬过去继续比在旧会话里死磕要高效得多。4. 厂商侧的真相换模型、加护栏、降成本都可能让AI“变笨”4.1 同一个名字可能不是同一个模型用户习惯把AI当成一个固定不变的东西昨天那么聪明今天怎么突然不行了但实际情况是许多产品会在用户不知不觉中更换底层模型。一次模型大版本升级、一次A/B测试分流甚至免费档和付费档背后用的推理模型都不是同一个。你界面上看到的头像和产品名没变背后的“大脑”可能已经换了一颗。判断方法也很简单如果你把同样的问题放到两个不同会话里反复测试结果都稳定地变差而且排除掉长上下文因素那就要考虑是不是产品端换了模型或调整了配置。那些“一夜之间变傻”的投诉一大半都能在官方更新日志里找到答案。尤其是当你感觉到回答风格、拒答口径、用语习惯同时出现变化时大概率不是错觉。4.2 对齐策略收紧回答变“安全”也变“钝”模型厂商会定期调整对齐策略也就是让它更符合人类偏好、更安全的那些规则。调整之后模型可能会更频繁地说“我无法确认”“这个需要专业意见”“我不能直接给出结论”。严格来说这不是变傻是变保守但用户的角度很直接我要的是方案你给一堆免责声明不是傻是什么我的建议是遇到这种情况先别硬聊把问题改得更具体、更可执行。比如把“帮我写一封催款邮件”改成“帮我写一封催款邮件语气温和但立场明确包含还款期限和管理层知会”。护栏通常不会拦住具体的合法任务但很容易拦住那些模糊的、容易被误解为越权的请求。你把边界画清楚模型反而敢给结论。4.3 高并发和量化降本高峰期AI确实会“缩水”还有一类变傻是时间性的白天高峰期特别容易敷衍夜里低峰期往往更聪明。这背后往往是容量和成本管理——高峰期可能被分流到参数量更小、推理更快的模型或者限制了最大输出token数甚至直接启用缓存复用旧结果。你得到的是一个更快、更省钱的模型代价就是深度和细节缩水。遇到这种情况没有太好的根治办法。我的经验是重要且复杂的问题尽量挑服务器空闲时段处理如果必须在高峰期做就把任务拆小让每个子问题都足够简单小到不需要模型经过多轮深度推理。把“为什么变傻”归因到产品侧能省掉你跟AI生一肚子气的时间。5. 一套排查链路判断到底是“真退化”还是“假退化”5.1 第一步原封不动的新会话复现所有排查的第一步都应该是同一个动作把出问题的那个问题原封不动地复制到一个全新会话里用一模一样的提示词再问一次。如果新会话里答案质量明显回升那就可以确定模型本身没问题是原来那个会话的上下文坏了。如果新会话里答案依然很差那基本可以断定是产品侧或者提示词本身的问题需要继续往下查。这一步听起来简单但很多人就是不做。他们宁愿在同一个会话里反复追问、“教训”模型也不肯复制粘贴一段文字开个新窗口。结果就是模型在浑浊的上下文里越陷越深用户越试越气。新会话是免费用的别舍不得。5.2 第二步分离变量是“理解错了”还是“约束丢了”第二步做一个封闭验证让模型先用一两句话复述你的核心要求然后再让它出结果。如果连复述都不对说明上下文里的信息已经丢了或者乱掉了需要补充或重置背景如果复述完全正确但输出质量低说明问题出在执行策略或模型版本上。这两条分支指向完全不同的处理办法。为了让你方便对照我整理了一张常用的快速排查表表现出的问题大概率病因验证方法新建会话后明显变好长会话上下文污染新旧会话并发对比提到早期约束时模型“失忆”历史被截断或压缩摘要让模型复述关键约束回答变短、变模板化产品侧限流或降低推理强度换个时段或终端再测拒答变多、语气变保守对齐策略收紧改具体详实的问题重试同一问题答案波动大采样随机性多次重试取稳定结果无论怎么测都表现差底层模型切换查官方更新日志5.3 第三步留证据、看版本、交叉对比排查最忌讳凭感觉。我建议在遇到“变傻”时马上做三件事截图存档、记录产品和版本号、记录当时的会话长度和问题时间。然后拿同等质量的问题去跟另一款产品做交叉对比。如果两款产品在同样条件下都表现差问题很可能出在你的提示词或者任务本身如果只有一款差那基本锁定是产品侧问题。这个方法听起来笨但它能过滤掉至少八成的“假退化”投诉。真退化通常有个特征稳定。同一条件下反复多次都差或者官方日志里明确标记了模型切换和服务策略调整。凭一两次坏回答就断定AI变傻很容易误伤也会让你错过真正该修的问题。6. 让AI保持好状态的日常习惯我的“防傻”操作清单6.1 一个任务一个会话别把会话当硬盘我现在的工作习惯是每个独立任务开一个新会话长任务中途不切主题。会话不是硬盘它是短时记忆。把十几件不相干的事情塞进同一个会话里模型既要记着A任务的约束又要处理B任务的输出两边的信息互相干扰。与其事后抱怨它傻不如从源头控制会话的纯度。如果实在需要延续一个长项目我的做法是在项目外部维护一份“项目状态文档”每次开始新会话时把关键状态、约束和最近进度直接粘贴给模型。这相当于给模型加载存档比让它在上百轮历史里考古可靠得多。你从一开始就引入了“长会话会变笨”的预案问题自然就少了。6.2 把重要约束放在最新一条消息里而不是等它“记住”针对“中间段失忆”最有效的日常技巧是每次发问时把那些不可妥协的约束复述一遍放在这条消息的后半段。比如可以写“下面是本次任务的完整背景……请重点注意预算不超过5000、人名全部用虚构代称、输出格式为表格。”放在后半段是因为模型对最新输入末尾的内容权重最高这部分它没机会忘记。我知道这看起来很啰嗦但实验数据摆在那里同样一个任务在50轮老会话里复述约束后得到的答案质量远比不加复述要高。你花十秒钟打的字可能省下十分钟的返工。尤其在改代码、改报告这类场景里把“上次定的那些规矩”重新说一遍不是浪费是给自己的保险。6.3 别骂它笨给具体反馈我在第3节说过“顺从陷阱”它的解法就是具体反馈。如果你发现结果不对不要说“你答错了重新来”而要指出具体错误点“第三部分的时间轴写反了资金数字和前面矛盾请基于原始文档重新生成第三部分其余部分保持不变。”模型对“哪里错了、怎么改”这类结构化反馈的响应远好过对负面情绪的响应。我自己踩过最多次的坑就在这一急躁就把“你怎么连这都错”发给模型结果它开始道歉、开始泛化地说“我能力不足”场面从工作变成安抚现场。从那以后我坚持一个原则把模型当人但不把它当有自尊心的人。反馈要具体情绪要剥离。这个习惯改过来之后我的返工率明显降了一截。6.4 用“基准问题”给AI日常“把脉”最后分享一个我自己的小习惯每天开始用AI干活之前我会用一个固定的“基准问题”测试当前状态。我常用来测试的问题是“请用一个生动的例子解释什么是幂等性”。如果回答逻辑清晰、例子恰当说明当前会话和产品都在健康状态如果回答含糊其辞甚至拒绝回答我直接就换会话或者换时段不跟它耗。这个习惯帮我躲过了很多次无效沟通。它就像每天早上给身体测一次体温花不了半分钟但能让你在下一次说“这AI怎么越用越傻”之前先搞清楚到底是天气变了还是自己忘了带伞。与其跟一个状态不佳的会话死磕不如重建一个干净环境把力气花在真正该解决的事情上。