为什么大语言模型根本无法实现通用智能过去两年我一直在做各种大语言模型项目的落地从对话机器人到文档审核从代码助手到数据分析。每次给客户演示完总有人问我同一个问题这玩意儿什么时候能变成真正的通用智能每次我都要泼一盆冷水大语言模型跟通用智能之间差的不是一两个模型版本而是整整一个范式的距离。今天我打算把这个问题彻底讲透。为什么说大语言模型根本无法实现通用智能——这不是能力不够的问题而是路线本身就走错了。我会结合最近DeepMind那篇关于大语言模型跳过视觉靠语言蒙的论文以及我日常调试模型时遇到的实测案例把LLM在智能这条路上的结构性缺陷一层层剥开。这篇文章适合三类人看一是被各种AI觉醒论调搞到焦虑的产品经理和创业者二是在做Agent、RAG、模型微调等应用但总觉得哪里不对劲的技术人三是想搞清楚大语言模型和通用智能关系的好奇读者。我不打算堆术语但该深入的地方我会尽量往根上挖。1. 先搞清楚大语言模型到底在做什么1.1 语言模型的核心机制下一个词预测很多人对大语言模型的理解停留在它很聪明像人一样思考。但如果你拆开看所有大语言模型——不管叫GPT、Claude、LLaMA还是Gemini——核心任务只有一个给定前面的文本预测下一个最可能的词。就这么简单。Transformer架构本质上是一个概率分布计算器它根据海量训练文本中单词共现的统计规律输出下一个词的概率分布。所谓生成就是从分布里采样所谓对话就是一轮又一轮地重复这个预测过程。这个机制决定了模型学到的东西是文本序列之间的统计相关性而不是文本所指代的客观世界。我打个比方一个人靠背了十万道小学数学题的答案你问他3加5等于几他大概率能答对。但你要是问他为什么3加5等于8他只能把答案再背一遍。大语言模型就是这样它的记忆里装满了358这种映射但没有任何关于加法是什么的内在理解。1.2 为什么会说话不等于懂我见过太多人因为对话流畅度而高估模型的能力。一个模型能写出逻辑严密的论文不代表它在思考——它只是在组织语言符号的方式上无限逼近人类写作者。有一个非常反直觉的实验可以说明这点你让大语言模型解一道鸡兔同笼问题它能正确算出答案你把题目中的鸡换成四个腿的飞行生物兔换成两个腿的爬行生物模型的准确率立刻暴跌。真正的理解应该是不依赖表面词汇的但统计语言模型恰好在表面词汇上极度敏感在底层逻辑上极度迟钝。所以第一步我们要建立一个共识大语言模型是一个文本统计引擎不是认知引擎。它擅长的是语言的形不是语言的义。通用智能要求对世界有抽象的、可迁移的理解而语言模型从诞生那一秒开始就被锁死在文本到文本的映射空间里。这是结构性缺陷不是参数规模能解决的。2. 没有世界模型语言蒙答案的本质问题2.1 DeepMind那篇论文跳过视觉靠语言蒙最近DeepMind有一篇论文被讨论得很凶大意是说大语言模型在某些视觉推理任务上根本不依赖视觉信息而是纯粹靠语言线索在蒙。研究人员把图像里的关键信息用文字描述给模型甚至直接给一段与图像无关但统计上相关的文本模型照样能猜对大部分答案。这个结果让很多人震惊但我看了只觉得是意料之中。语言模型根本没有视觉通路它的视觉能力是训练文本里那些图文描述给它打的底子。比如训练数据里可能有大量猫有四条腿天空是蓝色的这类描述模型不需要看见猫也能根据语言统计规律输出合理答案。问题在于这种语言蒙答案的方式在真实世界里会精准崩溃。我实测过一个场景——让模型判断一张物流包裹照片里的破损程度。照片本身有大量视觉细节但模型只能依赖图片的文字标签和上下文提示来瞎猜遇到标签缺失或者模糊的情况它就完全失去判断力。原因很简单它脑子里没有包裹破损的视觉原型只有这个短语在文本里的邻居词。2.2 符号接地问题的死结哲学里有一个经典的中文房间思想实验一个人关在房间里靠一本规则手册把输入的中文符号对应成输出的中文符号。房间外面的人觉得他懂中文但他其实一个汉字都不认识。大语言模型就是这个房间只是把规则手册换成了神经网络参数。更致命的是符号接地问题语言符号必须跟真实世界的感知经验绑定才能真正有意义。人类小孩学会苹果这个词是因为摸过、看过、咬过苹果大语言模型学会苹果是因为互联网文本里有几百万次苹果跟红色水果手机品牌出现在一起。没有感知经验做锚点模型对世界的理解永远是悬空的。你说桌子模型知道这个词经常跟木头四条腿共现但它不知道桌子的承重、触感、空间关系。这意味着它所有关于物理世界的推理本质上都是语言层面的坊间传闻不是经验层面的亲身知识。2.3 语言相关性不等于因果关系大模型最让人误以为它有智能的一点是它生成的内容极其因果连贯。你问它下雨后为什么路滑它能给出雨水使路面摩擦力降低这样的解释逻辑上无懈可击。但这不是因果关系这是共现关系。训练数据里下雨和路滑频繁出现在相邻语境中模型学会了把两者串起来还顺便串上了摩擦力降低这个常见的解释短语。模型的内部表征里下雨导致路滑和路滑导致下雨在统计强度上可能几乎一样。我自己做过一个测试让模型解释为什么房价高导致出生率下降它能编出五条理由每条都像模像样。我再问它为什么出生率下降导致房价高它同样能编出五条理由。这就是没有因果关系建模的典型症状——只要统计上相关正反都能圆。通用智能必须对因果有方向性的判断而语言模型根本没有因果方向的约束机制。3. 学习机制的硬天花板统计学习的天花板3.1 训练分布决定能力边界大语言模型的能力上限理论上被训练数据全覆盖。它不能回答训练数据里完全不存在的模式更糟糕的是它对训练数据里的错误和偏见照单全收。举个例子如果训练语料里医生这个职业90%的情况下搭配男性代词模型生成的故事里医生就会自动带他。这不是模型有什么性别偏见而是它的世界里只有统计学没有价值观判断。你觉得让一个只会做统计拟合的系统具备通用智能就像指望一个只背过地图的人成为探险家——地图之外全是盲区。实操中更麻烦的是训练分布是静态的世界是动态的。2023年训练的模型不知道2024年发生了什么事。你可以通过联网检索或者微调补充新知识但这只是往旧引擎里灌新燃料没有解决引擎本身理解不了新情况的结构问题。通用智能要求面对从未见过的新情境也能推理适应而统计模型面对分布外数据时能力直接跌回随机水平。3.2 推理是真的还是检索出来的大语言模型在数学、编程、逻辑推理上的惊艳表现让很多人觉得它具备推理能力。但越来越多的研究证明所谓推理很大程度是训练数据里见过的解法被组合复用。GSM8K这类数学基准测试早年模型得分很低后来的模型得分飙升不是因为推理能力进化了而是因为真实解法被写进了预训练数据。模型不是解出了题是记熟了题。换一道训练分布外的变式题哪怕只是改了数字、换了实体名准确率立刻掉一半以上。推理的本质是在未知约束下进行多步操作而语言模型做的是在已知文本模式中检索最相似的路径。这两者的区别在遇到真正新颖的问题时暴露无遗。我做RAG检索增强生成落地时有一个感受模型把检索到的文档缝合得像模像样但一旦文档信息之间出现冲突或者需要多步推断它只能用语言技巧掩盖逻辑断层而不是真正推演出正确结论。3.3 规模法则的边际效应OpenAI和Anthropic一直在宣传Scaling Law模型越大数据越多能力越强。前几年这条曲线确实漂亮但最近的研究和业界观察都指向一个事实收益递减已经明显出现。把模型从70B扩到700B在常规任务上提升显著但那些真正考验智能的任务——因果推断、反事实推理、抽象类比、跨域迁移——的提升幅度很小。曲线平滑了不是因为工程不够努力而是因为统计拟合的天花板就快摸到了。这个道理其实很简单统计模型的能力来自记忆更多模式而通用智能需要的是生成新模式。记忆的边际收益会递减但生成新模式的机制语言模型从头到尾都没有建立过。你花再多算力把记忆库做得更大也只会得到一个记性更好的汉字的房间不会迎来一个真正理解语义的人。4. 从工程角度看评测体系如何欺骗我们4.1 基准测试的污染与过拟合我们在社区里吹一个模型多厉害通常拿一堆Benchmark说事MMLU分数多少、HumanEval通过率多少、GSM8K准确率多少。但从事过评测工作的人都知道这些数字的水分有多大。基准测试题集一旦公开就会以各种方式进入模型的训练语料——论文里引用了、GitHub仓库里包含、讨论帖里转载。模型预训练时见过了题目和答案测评时自然高分。这就是为什么你拿第三方新出的逻辑题去测ChatGPT它的表现远不如在标准基准上那么亮眼。我实际拿刚发布的算力约束提升大语言模型资源配置任务去测试让模型做资源调度优化它的表现明显低于在老旧基准上的分数——因为这是它没见过的数据分布。评测体系的第二重欺骗是过拟合于评测量表。模型的训练目标里有RLHF人类反馈强化学习人类标注者偏好流畅的、看起来自信的回答模型就学会了用自信的语气包装不确定的答案。这导致评测员打分偏高但实际任务中的可靠性并没有提升。4.2 涌现能力的真相涌现能力曾经是LLM研究里最浪漫的词模型规模超过某个阈值后突然表现出小模型完全没有的能力让人联想到智能的诞生。但2023年后有研究指出很多所谓涌现其实是评测指标的测量方式造成的假象。比如你用准确率作为指标小模型输出50分以下大模型输出60分以上在图上就会出现一个突变拐点看起来很涌现。但如果你改用连续指标或对数尺度这个拐点就消失了能力只是平滑上升。也就是说涌现更像是测量噪声不是性质突变。这个认知很重要因为它打破了再大一点就通用的幻想。能力是连续增加的但通用智能不是某个规模阈值上的奇点它是机制的变革。统计拟合的曲线再平滑上升也到达不了机制变革的彼岸。4.3 失败场景实录我自己做过的Agent项目里有几个经典的失败场景值得分享。第一个是工具调用场景让Agent帮用户订机票用户说我明天上午到帮我订下午的航班。模型把明天上午到理解为出发时间是上午订了上午起飞的航班。它没有常识去理解人不可能在同一时间到达又起飞因为语言模型学到的只是词串共现不是时间和空间的一致性约束。第二个是多轮一致性场景模型在对话前几轮说我推荐你选择方案A用户质疑后它继续说我推荐方案B并且如果你问它之前说过什么它会一脸无辜。单轮对话流畅掩盖不了多轮事实的崩塌因为模型没有持久的世界状态每个回复都是重新预测。第三个是长尾常识场景这个最致命我问模型一个成年人从2米高的地方跳下来会发生什么它能给出受伤、骨折等合理回答。我问这个成年人穿着纸箱子跳下来呢它开始胡编。再问成年人跳进棉花堆呢它说有可能会弹起来完全无视碰地的物理逻辑。真实物理过程它从未经历语言覆盖密度一低它就露馅了。这些失败不是bug是统计模型的结构性症状。它们统一指向一个结论※语言模型对真实世界的一致性知识没有建模※它只是在文字表层维持着看起来合理的幻觉。5. 通用智能需要什么LLM缺失的核心拼图5.1 具身交互与世界模型通用智能的第一块缺失拼图是具身性。人类智能不是凭空长出来的是在跟物理世界相互作用中塑造出来的——你把杯子碰倒了水洒了这个因果链条被你亲身经历你才真正理解洒的含义。DeepMind等机构已经开始做具身智能方向让AI在仿真环境里操作物体、通过传感器获取反馈。但这些东西跟大语言模型是两套系统目前还没有真正意义上的融合。语言模型仍然像那个背了地图的探险家——它知道每个地名的发音但没有踩过一寸土地。世界模型是第二块拼图。真正的通用智能需要一个关于世界运转规律的内部模型知道物体有惯性、生物需要呼吸、时间不可逆。这个模型必须在训练阶段就内化为系统的一部分而不是靠文本语料间接携带的碎片。大语言模型的训练目标里没有任何维度是专门建模物理因果的它的内部表征归根到底是词与词的关联矩阵。5.2 持续学习与自主目标设定人类智能的另一个核心能力是终身学习你每学会一个新技能它会跟旧知识重新整合推理能力随之增强。大语言模型做不到这点——它的知识在训练完成那一刻就冻结了。后续微调、RAG都只是外部补丁不能改变模型的内部认知结构。更关键的是人类会自发设定目标。今天我想优化这段代码——目标来自内在动机。大语言模型没有内在动机它的一切行为都由用户Prompt驱动。你让它写诗歌它写诗歌让它算数学它算数学它没有任何自己想做的事。通用智能的定义里必须包含自主性能感知环境、设定目标、规划路径、根据反馈调整策略。而现在的大语言模型本质上是一个被动的概率发生器它没有目标函数之外的任何自我驱动力。你可以给Agent系统套一层目标规划框架让它看起来有目标但那不过是脚本不是动机。5.3 认知架构的整合哪怕把多模态、工具调用、记忆模块、规划框架都接上去大语言模型仍然缺一个东西统一的认知架构。人类大脑是感知、运动、语言、记忆、情感、推理高度整合的系统语言只是这个系统的一个输出模态。现在的大模型体系里语言模型是核心其他模块都是插件。这种语言中心主义架构天生就有问题——它能用语言描述任何事但无法用语言做任何事。它描述拿杯子跟真正拿杯子之间隔着整个物理世界。业界兴起的智能融合终端通用技术规范本质上就是想解决多传感器、多模态、多执行器融合到统一终端的问题。这个方向是对的但老实说目前的技术方案还停留在把不同模块接在一起的集成层面离模块融合成单一智能体还有很远的距离。真正的认知架构需要语言模型降级为一个子组件由更高层级的控制器来协调感知、规划、行动而不是让语言模型扮演全知全能的中心大脑。6. 实用视角在受限场景中正确使用大语言模型6.1 哪些场景能放心用讲了这么多限制我得强调一句大语言模型虽然实现不了通用智能但在很多窄场景里依然非常有用。关键是你要知道它的能力边界把它放在语言处理专家的位置上而不是全能认知引擎。我总结了三类放心用的场景文本生成与改写摘要、扩写、润色、翻译、标题生成这类任务的核心就是语言组织正是模型的看家本领。检索增强的知识问答文档库内的精确检索用它做语义匹配再把命中文档输给模型做归纳整合。注意验证它的输出凡是涉及数字、日期、规格的都必须回原始文档核对。代码片段生成与解释让模型写独立的小函数、解释一段代码逻辑、生成单元测试骨架这些都是它训练数据里的高频模式整体可用度高。这三类场景有一个共同点任务的输入和输出都在语言符号域内不涉及其对物理世界的真实理解。一旦任务需要跟外部世界发生实打实的交互——控制硬件、判断物理状态、协调物理资源——你就得慎重了。6.2 评估输出质量的实用方法与其问这个模型强不强不如问这个模型的回答在这个场景下可不可靠。我自己有三个实用评估方法第一反事实测试。把问题里的实体、数量、条件做随机替换看输出是否保持一致逻辑。如果换了数字答案就崩说明模型没有真理解只是在背诵原题模式。第二连环追问。问完一个答案后连续追问为什么如果反过来呢这跟之前你说的话矛盾吗看模型能否自洽。统计模型通常会在第三轮追问后露馅因为你把它推离了训练数据里的高频路径。第三交叉验证。同一个问题换五种问法看答案的核心信息是否一致。语言模型对句式极敏感换种问法答案就飘的情况在二级以下能力项上非常常见。6.3 本地部署与实际落地建议关于本地部署大语言模型我也多说几句。很多人被部署一个模型到本地的愿望驱动但本地部署解决的是数据隐私和离线可用问题不是能力问题。你在本地跑一个7B模型它的智能上限远低于云端的大参数模型——那些能力差距不会因为部署方式而消失。我的实际建议是如果数据敏感、必须本地优先选量化后的13B30B档位模型用vLLM或llama.cpp做推理加速。这个档位在文本分类、摘要、改写等场景可用但不要指望它做复杂推理。如果允许混合架构把本地小模型用于敏感数据的预处理和过滤把脱敏后的复杂推理任务交给云端大模型这是目前性价比最高的方案。无论哪种方案都要给自己的系统加一道确认机制模型的核心输出必须有人工复核或者规则校验因为你面对的是一个概率系统它给出的永远是最可能的文本不是正确的结论。说实话大语言模型是我见过的最出色的语言模仿器。它让机器第一次在文字表面上通过了图灵测试般的对话考验。但随着我从AI热潮的兴奋中冷静下来越来越确认一个判断大语言模型这条路可以作为通用智能的一个组件但它本身无法成为通用智能。我个人在实际项目中的体会是当你把大语言模型当成造句很强的同事它的价值非常可观当你把它当成什么都会的专家每次都会翻车。构建下一代通用智能大概率需要一条完全不同的技术路线——不是把下一词预测做得更好而是让机器拥有与真实世界交互、建模、推理和自主决策的能力。在这些能力实现之前所有关于AI统治世界的讨论都只是语言模型自己生成的一篇漂亮的文本而已。