1. 从一只松鼠说起这句话到底在质疑什么这几年我一直在跟大模型打交道身边越来越多同行开始用一个词形容自己的焦虑瓶颈。不是没有进展而是那种“只要把参数加到万亿一切难题都会自动消失”的乐观肉眼可见地在降温。上周有人问我一个问题——一只松鼠为什么比万亿参数更聪明我第一反应是标题党第二反应是这其实问到了根子上。我们当然知道松鼠不会写诗不会写代码不会在一秒内检索一万篇文档但如果我们把“聪明”拆开来看不只看语言能力还看学习效率、能耗、适应性和对自身无知的感知那松鼠确实有不少地方值得万亿参数模型低头。这句话真正质疑的不是“大模型没用”而是“大模型方向是否正确”。过去十几年业界的主流做法特别像一种赌注把网络做得更大、喂更多数据、堆更多算力然后期待智能“涌现”出来。这条路径确实带来了很多惊艳结果但同时也带来了三个越来越难回避的成本数据墙、算力墙、评估墙。数据墙是指高质量人类文本快被模型读完了网上能挖的干净数据越来越少算力墙是指再往上升级电力消耗和硬件投入已经让绝大多数团队望而却步评估墙则更致命——现有测试集越来越饱和模型得分越来越高但你放到真实场景里它照样会犯低级错误。所以当有人拿松鼠来对比时真正戳中的是我们做了一个计算量惊人、资源消耗巨大的系统可它连“知道哪些话是自己编的”这种最基本的安全感都给不了用户。这不是某一个模型的缺陷而是整条技术路线的结构性短板。我接下来想用几段自己的观察和踩坑经历聊一聊大模型为什么会被质疑成“死胡同”以及松鼠式的智能又能给我们什么参考答案。1.1 松鼠的“聪明”不是修辞而是四项硬指标先别急着反驳让我们把松鼠和万亿参数模型放到同一张表里用具体指标说话。这里不是为了证明松鼠比大模型强而是为了看清两者的本质差异。维度松鼠万亿参数大模型学会一个复杂行为所需的尝试次数几次到几十次需要海量文本反复训练运行功耗大脑只有数瓦量级训练动辄数千千瓦时在动态环境中的适应能力强能应对天气、天敌、地形突变弱输入分布一变就出错面对不确定信息的态度先观察、试探、规避风险高置信度地生成流畅但错误的内容这张表看起来有点不公平但它的价值恰恰在于戳破一个幻觉我们常常把“能做复杂语言任务”等同于“智能更高级”却忽略了智能是一个多维概念。松鼠要完成的任务其实也很难在复杂森林里记住上百个藏食点判断哪个区域有捕食者根据不同季节调整觅食策略还要提防同类偷窃。这种能力不是靠背诵训练集得来的而是靠真实世界的持续反馈一点点打磨出来的。更让我在意的是“不确定感”。松鼠遇到一个从没见过的果子会先闻一闻、咬一小口发现不对就立刻放弃绝不会继续把整个果子吞下去。而大模型面对一个它根本不了解的问题却会因为概率统计上的“流畅性”而编出一整段貌似专业的回答。这种差异的本质是系统是否拥有“自我监控”和“风险规避”机制。可惜的是当前的大模型架构在设计之初并没有把这件事放到核心位置。1.2 万亿参数不是终点而是开始撞墙“撞墙”这个说法听起来有点悲观但它是技术人最熟悉的日常。我接触过不止一个项目最初大家都以为“只要模型尺寸翻一倍问题就自动解决”结果翻完以后确实变强了但更强的是“看起来更有说服力”而不是“更可靠”。逻辑推理还是偶尔出错事实核查还是需要外部工具兜底复杂多步任务还是会在中间某一步跑偏。为什么会这样第一是数据问题。我们能够获得的高质量文本语料是有限的互联网上的内容大量重复、低质、互相矛盾甚至充满偏见。为了维持训练量很多团队开始用大模型自己生成数据来训练下一代模型这就带来一个隐患模型学到的不是世界本身而是前一个模型的“平均意见”。错误会在迭代中被放大多样性会收窄最后形成一个自说自话的回音室。松鼠不需要这种操作它从环境里直接采样错了就是错了反馈是实时的。第二是算力和能耗问题。训练一个万亿参数模型已经不是普通机构能做的事情了涉及上千张加速卡、数月时间、巨额电费。即便是推理阶段每次生成一个 token 也要消耗可观的算力。这样一套系统如果只是用来回答知识类问题那成本是极度不划算的。我见过一些内部项目最后把大模型降级成小模型加检索方案成本下降了几个数量级效果反而更稳。这说明大模型的规模红利已经被推到边际收益很低的区间。第三是评估问题。大多数公开评测集的分数已经非常高高到大家开始怀疑它没有区分度。一个模型在评测集上拿了高分但在实际使用中仍然需要人工反复校验这种“高分低能”是我们这一行心照不宣的痛。松鼠没有名校试卷它的考试是生存本身作弊和刷分对它毫无意义。我们如果继续用越来越复杂的测试集来证明大模型很聪明那就有点像在运动场上反复打破自己一个人刷出来的纪录观众其实不关心。2. 大模型看起来聪明、其实很蠢的时刻与其抽象地争论“大模型是否聪明”不如直接看几个真实时刻。我这些年做了不少模拟项目也在内部系统里反复测试过不同的模型方案积累了一些特别能说明问题的案例。这些案例不是我临时编的而是大量工程师都遇到过的共同经验。2.1 “它只是概率组合不是理解”幻觉从哪来先讲一个模拟项目X里的小故事。某开发者想让模型解释一个内部使用的 API 协议这个协议在公开资料里几乎找不到。模型的说明书生成得非常有模有样包含参数列表、调用示例、返回结构甚至还有错误码说明。开发者很高兴直接拿去接入测试结果一调就崩。摆在眼前的不是细节问题而是整个调用方式都是错的。当他质问模型时模型又改口说“可能我记错了正确的是另一种”然后编出第二套完全不同的说法。这就是典型的幻觉场景。幻觉的根源不在于模型“故意撒谎”而在于它本质上是在做“下一个词”的概率预测。它从来没有真正理解那句话代表什么它只知道在训练数据里类似问题后面通常接着什么样的词序列。当你问到一个训练数据覆盖不足的领域它会启动“语言模式生成器”用最像样、最流畅的结构把内容填充出来。对用户来说这比“不知道”可怕得多因为它的输出看起来太确定了。很多人问有没有办法根治幻觉我的答案是在现有架构下很难根治只能缓解。缓解方式包括外挂知识库、让模型先检索再回答、加入事实核查模块或者用提示词强迫它“不确定时就说不知道”。但这些都是打补丁不是底层修复。底层问题是一个只见过文字、从未和世界交互过的系统怎么可能真正判断一句话的真假松鼠至少咬过果子、摔过跟头、挨过饿它知道“苦”和“有毒”意味着真实世界的代价大模型却连“代价”是什么都不知道。2.2 十万次犯错缺乏真正的持续学习另一个让我印象深刻的场景是对话系统里的“重复纠正”。我们在某智能客服项目里测试一个基于大模型的问答模块用户因为收货地址填错连续在对话中说“我改地址”“改成上海”“不是北京”“你到底懂没懂”。模型每次都礼貌地回答“好的您希望把地址改成上海”但下一轮一开始它又把地址恢复到北京。为什么会这样因为模型没有真正形成“当前用户状态”的概念它只是在上下文窗口里复制信息一旦上下文被截断或话题转移它就丢掉了。动物世界里的松鼠完全不是这样。科学家观察过松鼠的藏食行为一只松鼠如果发现自己的某个藏食点被其他松鼠偷过它会在未来避开这个区域或者换更隐蔽的位置。这种调整不需要反复教育它几百遍一次糟糕的体验就够了。对比之下大模型是离线训练的产物训练完之后参数是冻结的。你要让它记住某个用户的一次纠错就得靠外部记忆和工程系统而不是它自身的学习能力。“持续学习”这个词在学术界已经说了很多年但在工业落地中一直没有被认真对待。我们太习惯“训练-评估-上线-再训练”这个四步曲而忽略了真实世界是动态的用户习惯在变环境在变知识的有效期很短。一个不能从自身错误中学习的系统就像一台永远只能按照出厂地图导航的汽车地图更新得再快它依旧无法感知眼前突然出现的路障。这才是“死胡同”感最强烈的地方模型的参数规模解决不了“记忆与适应的闭环”。2.3 换个环境就失效泛化只是分布内插值再讲一个更让人无语的小实验。我问一个模型如果松鼠把三颗坚果分别藏在三个洞里冬天被另一只松鼠偷走了一颗春天还剩几颗它一般能答对因为这种题类似小学数学。但如果问它松鼠把自己的藏食点藏在了河边冬天河水上涨冲走了一部分另一只松鼠在河水退后又把它剩下的一颗换成了石头春天松鼠发现自己的坚果变成了石头它会认为是谁干的这种问题包含因果推理、心理推断和常识判断模型经常给出一个逻辑上清奇但实际完全不可用的回答。这不是因为题目“太难”而是因为题目超出了它的训练分布。所谓“泛化”在大多数情况下不过是对训练数据中见过的模式做插值拟合。只要新的问题在词向量空间里离训练样本足够远模型就会原形毕露。松鼠则相反它依靠的是物理世界的一致性重力不会变坚果不会凭空消失同伴的行为规律可以从日常互动中推断出来。这些规则是跨场景稳定存在的所以松鼠能把从一个情景学到的经验迁移到另一个情景里。大模型当然也在试图学习这些“常识”但它的常识来自文本描述而不是亲身体验。文本是稀疏的很多常识过于基础反而没有人会在文档里写“物体不会凭空消失”这句话。结果就是模型在统计意义上知道“一般来说”该怎么做却无法像松鼠那样在异常情况下迅速启动“这不合理”的直觉。换句话说模板和记忆可以应付很多事但真正的智能需要一种和世界同步更新的模型而不是只对语料分布负责。3. 松鼠大脑的工作方式为什么和大模型正相反如果你只看参数规模会觉得大模型和松鼠完全不是一个量级的东西没法比。但生物学在智能方面给了我们很多教科书级别的启示低功耗、小样本、强反馈、高风险规避。这些东西恰恰是当前深度学习范式最不擅长的部分所以我愿意花一整节来讲清楚松鼠式智能到底好在哪。3.1 一个低功耗引擎却完成了高难度决策人脑大约有 860 亿个神经元功耗只有 20 瓦左右。松鼠的脑子小得多功耗自然更低。它要完成的空间导航、食物储存、社会博弈和运动控制如果用一个假想的“嵌入式模型”去实现需要的计算量和能耗会高得惊人。但我们自然界里有很多例子说明小体积、低功耗的系统可以通过精巧的结构和算法完成非常复杂的任务。对比之下一个现代大模型的单次推理就可能消耗几十上百焦耳甚至更多训练阶段则是把几千张加速卡连续开着跑几十天。有人算过训练一个顶配模型的碳排放量相当于普通汽车跑几十万公里。如果说我们能接受这种代价是因为它带来了人类级别的认知能力那至少还有讨论空间。但现实是它给出的很多答案仍然是“看着像实则错”。用如此高昂的能耗做一个不可靠的系统这本身就是行业需要认真反思的问题。当然有人会说“松鼠不懂写诗是事实”但我想提醒的是我们不是在拿松鼠跟大模型比文采而是在比“单位能耗下的智能产出”。你让松鼠完成它生态位上的任务它效率极高你让大模型完成语言任务它效率也不差但代价是背后的数据中心。问题在于万亿参数路线如果不收敛未来每个普通用户每次对话都要消耗惊人的电力这无论如何都算不上可持续。3.2 小样本学习与试错的闭环松鼠学一样东西很快。幼年松鼠不止一次尝试从树上跳到更远的枝头几次失败之后它会调整起跳角度、速度和落点。这种调整不是靠人类手把手标注正确答案而是靠环境反馈成功就获得“通向下一个食物源”的奖赏失败就面临坠落的风险。整个学习过程是一个连续的动作-感知-反馈-修正闭环不需要大规模数据集不需要算力集群更不需要在训练完之后冻结参数。大模型的学习过程完全相反。它通过在海量文本中统计“哪个词更常出现在哪个词后面”来获得知识学习是离线的、单向的、静态的。你可以用强化学习来让它在环境中做一点调整但强化学习真正用得好还需要设计巧妙的奖励函数和大量采样。对于一个语言模型来说它没有“身体”没有“行动”所以它永远无法亲身体验“我这句话导致客户订单丢失”的后果。缺少这种闭环它就很难真正学会为自己的行为负责。我在这几年的工程实践中有一个朴素体会凡是能在系统里加入“真实反馈回路”的应用效果都比单纯变大模型好。比如给一个文档问答系统加上用户点赞、纠错、自动回流到知识库的机制一段时间后它的准确率就会有明显提升。这不是什么高深算法而是把松鼠式学习的思想搬到了工程里——错了就改改了就记住记住了下次就用上。大模型本身做不到这一点但我们的系统可以帮它做到。3.3 身体是智能的边界也是智能的起点一个很容易被忽视的点是松鼠的智能不是在一个“空壳”里运行的它有一个能够运动、感觉、疼痛、饥饿的身体。身体的每一次反馈都在塑造它的决策方式。比如它知道从十米高的树枝上跳下去会疼所以对危险高度有本能的评估。这种“身体经验”在语言模型里是完全缺失的。“具身认知”是认知科学里一个挺有意思的视角智能不是纯粹的逻辑符号计算而是依赖于与环境的交互。当松鼠看到一条蛇时它判断“这是危险”并迅速逃离这个过程不只是在抽象知识库中检索“蛇-危险”这样的词对而是综合了视觉、运动、内脏反应和情境记忆。相比之下大模型只能在文本关联中推断“蛇可能危险”它不知道“恐惧”是什么感觉。这不是诗意的浪漫而是务实的提醒。如果我们希望AI能处理真实世界问题比如操作机器人、驾驶车辆、管理仓库那就不能只给它文本而必须让它进入一个有物理规律的环境里碰撞和试错。松鼠天生就是这样的“具身智能体”这也是它在灵活性上碾压纯语言模型的关键。语言是为行动服务的路标而不是行动本身把路标当成整个地图自然会走进死胡同。4. 如果大模型不是答案什么才是我们该走的路写到这里可能会有人觉得我是在全盘否定大模型甚至怀疑“死胡同”是不是意味着大家该转行。其实不是。我更想做的是一件更实际的事把“大模型”从一个神话还原成一种工具然后讨论工具应该放在什么位置。大模型很强但它只是智能拼图里的一个组件而不是全部答案。4.1 把“死胡同”翻译成可解决的问题“它是死胡同”这种说法虽然解气但不准确。更准确的说法是继续沿着“堆参数、堆数据、堆算力”这条路走正在进入一个边际收益极低的区间。走廊还没有封死但路越来越窄。我更愿意把问题翻译成三个需要逐个击破的工程难题。第一个是样本效率问题。能不能让模型用更少的任务示例学会新任务而不是每次升级都要把整个互联网重新读一遍。第二个是可靠性问题。能不能让模型知道自己不知道能不能在事实性很强的场景下给出可验证的回答而不是靠语言流畅性蒙混过关。第三个是适应性问题。模型在上线之后能不能持续从反馈中学习能不能适应个体用户、特定环境和动态变化而不是永远停在训练时的旧状态。这三个问题的答案很可能都不在“更大模型”里面而在于设计一套新的系统架构让大模型负责语言理解和内容生成让外部知识库负责事实让检索器负责时效让验证器负责纠错让记忆模块负责用户上下文让环境反馈负责持续学习。这听起来没那么酷但它才是真正能让AI落地的方案。松鼠不是只有一个超大的大脑它有一个完整的身心系统我们也需要给大模型装上“身体”和“回路”。4.2 从“文本预测”到“世界模型”我在和一些团队交流时发现大家越来越认同一个方向从语言模型走向世界模型。语言模型看到的只是文字文字是真实世界的投影而且是极度压缩、有损、片面的投影。世界模型则试图让系统直接学习到状态、动作、因果关系和变化规律然后通过观察和行动来更新自己对世界的理解。举个例子松鼠不需要知道“水流”这个词它看到河面变宽、听到水声变大就能推断出洪水风险。这种推断不需要处理海量文本只需要把视觉、听觉、位置、时间等信息整合到一个连续的时空模型中。如果我们能把这种思路移植到AI系统里让模型不再只预测下一个词而是预测“世界的下一个状态”那它就有可能真正理解因果而不是停留在相关性的表层。当然世界模型很难做目前还处在探索阶段而且不同场景可能需要不同的方案。但至少它给出了一个不同于“暴力缩放”的方向。我比较看好的是把语言模型和物理引擎、仿真环境、结构化知识结合起来让模型在虚拟世界里做实验、接受反馈、再回到语言任务中应用这些经验。这条路走得慢但每一步都更接近松鼠式智能的本质不断用世界本身来验证自己的认知。4.3 让AI学会“不确定”而不是永远“自信”另一个被低估的问题是置信度校准。人类专家在被问到拿不准的问题时会说“这个我不确定需要查一下”。松鼠在面对看不清的东西时也会停下来先观察不会贸然扑过去。但大模型很少说“不确定”它总是倾向于生成一个最像样的答案哪怕这个答案是从错误的假设里推出来的。这有多严重我在实际项目中遇到过不止一次模型用自己的想象填补了某个字段导致下游流程走了大半天才发现错误最后损失比不回答问题还大。后来我们专门加了一层逻辑凡是模型置信度低于阈值的问题必须走人工确认或者返回“需要更多信息”。这个简单的规则大大提高了系统的可靠性比再换一个更大的模型有用得多。所以我在给团队做技术分享时最喜欢提的建议是不要只看模型的准确率还要看它的错误分布。一个会说“我不确定”的模型远比一个永远自信满满但悄悄编造事实的模型可爱。松鼠永远不会假装自己是一棵树的专家它只在真正有把握时才表现得果断。这种“知道边界”的能力是我们要努力教给AI的下一门必修课。5. 面对这场争论实际操作中我的一些判断说了一堆理论和方向的探讨最后想落回到普通开发者、使用者、技术决策者最关心的问题那我该怎么办我不打算给出“全都不要用大模型”这种斩钉截铁的结论只想说一些真实经验帮大家在信息噪音里找到一个稍微稳当的坐标。5.1 别被“规模叙事”绑架产品场景决定模型选择我参与过好几个内部项目最初的方案都是“先上一个最大的模型再说”理由是大模型能处理各种奇怪问题。但真正用起来之后我们慢慢发现很多场景根本不需要万亿参数。比如一个内部知识问答系统问题集中在某个垂直领域语料有限且规范用中等规模的模型配合精准检索和规则校验效果就很好而且推理速度快、成本低、出了问题好排查。这不是因为大模型不好而是因为它被用在了错误的场景。松鼠不会因为自己是松鼠就试图去跑步机上一口气跑马拉松它只在适合自己生态位的场景里发挥最大价值。我们选择模型时也应该先想清楚这个任务需要的是开放生成还是封闭抽取是常识推理还是文档检索不同任务对模型尺寸要求完全不同。用“最大”来替代“合适”是一种偷懒也是一种不负责任。在实际选型时我一般会关注三个指标事实性错误率、延迟预算、单次调用成本。先把这三个指标测出来再反推需要多大模型。很多次测试结果都让我惊讶一个小模型加上精心构造的提示词在垂直任务上能做到大模型95%以上的效果成本却只有五分之一。这种“过剩产能”的问题大家可能都遇到过只是被规模叙事洗脑后不愿意承认罢了。5.2 评估比训练更难也更值得投入如果说我这几年工作中学到了什么那一定是评估体系决定了一个AI项目能走多远。我们总习惯追问“训练收敛了吗”“分数多少”却很少认真设计“这个系统在实际使用中会怎么犯错”的评估集。一个在公开榜单上很漂亮的模型拿到真实用户对话流里可能一天下来就被发现几十种诡异行为。我建议每个团队都建一个“错误博物馆”记录模型每次离谱回答分类整理原因是知识缺失、上下文误读、指令跟随失败还是单纯的幻觉。然后针对这些错误设计回归测试每轮迭代后都跑一遍。这种做法就像松鼠会在危险区域留下记忆信号一样让系统对已知问题保持警戒。评估不是一次性的它是持续的行动是系统成长的一部分。投入在评测上的精力往往比投入在模型规模上更有杠杆效应。因为模型再大如果连“我知道自己不知道”都做不到那它的强大只是幻觉。反过来一个不算大的模型配上细致的评测、及时的错误反馈和灵活的外部工具反而能在长久的运行中变得越来越靠谱。松鼠也是因为一年又一年踩过很多坑才成为森林里最会过日子的小动物之一。5.3 向松鼠学习把目标定在“解决真问题”上最后说一点不那么技术的感想。写这篇文章之前我刚结束一个会议讨论的是下一阶段要不要花大价钱继续升级模型。会议室里每个人都很疲惫因为大家心里都清楚升级之后用户感知到的提升可能非常有限。反而是那些最细枝末节的错误比如回答不够稳定、偶尔引用错数据、不能记住用户偏好才是口碑崩塌的源头。松鼠不会写诗不会解利方程但它会在秋天认真藏好每一颗坚果会在冬天准确找到储粮的位置会在危险来临时做出最不坏的选择。如果AI的目标不是成为一个无所不知但时而胡说八道的“百科全书”而是成为一个能可靠地解决具体问题的伙伴那我们真的应该多学习松鼠低功耗、高效率、善于反馈、知道边界。我个人现在做项目时会先问一句这个系统将来要在什么环境里运行它会被谁使用它会面临哪些预料之外的输入如果这些问题回答不清那不管模型多大我都会犹豫。技术方向的争论持续不了多久只有解决真问题的系统能活下来。希望我们都能在“更大”之外找到那条更接近生物智能本质的路。