LLM与Agent幻觉的根本原因一份截至2026年的系统性归因分析摘要幻觉Hallucination并非大语言模型的工程缺陷而是概率生成范式下的结构性必然。本文基于截至2026年8月的全部关键研究——包括OpenAI 2025年的数学不可能性证明、AAAI 2026的计算必然性层级理论、清华大学H-神经元发现——从数学本质、训练机制、表征架构、对齐激励、推理解码、Agent级联放大六个层面构建了一个完整的幻觉因果链模型。核心结论幻觉的根源不是单点故障而是目标函数设计、知识表征方式、评估激励结构三者构成的不可调和三角。一、问题的重新定义幻觉不是Bug是范式的影子1.1 为什么减少幻觉这个命题本身就有问题行业长期将幻觉视为一个可以被修复的缺陷——更多数据、更大参数、更好对齐终有一天幻觉会消失。2025年9月OpenAI发布的论文Why Language Models HallucinateKalai, Vempala et al., arXiv:2509.04664从根本上否定了这一假设。该论文以形式化证明指出在任何基于有限训练数据的概率生成框架下只要评估体系奖励给出答案而惩罚拒绝回答幻觉在数学上就是不可避免的。这不是工程上的暂时做不到而是信息论层面的不可能定理。类比热力学第二定律之于永动机你可以逼近极限但永远无法抵达零幻觉。1.2 幻觉的精确定义与分类学在展开归因之前必须建立清晰的本体论框架。截至2026年学术界已形成以下共识分类类型定义典型表现事实性幻觉Factual输出与可验证的客观事实矛盾“爱因斯坦获诺贝尔化学奖”忠实性幻觉Faithfulness输出与输入上下文/指令矛盾摘要中出现原文没有的信息逻辑性幻觉Logical推理链形式合理但结论错误三段论中偷换中项引用性幻觉Citation编造不存在的文献、DOI、判例2026年虚假引文率达每万篇56.9条行动性幻觉AgenticAgent调用不存在的API或执行未授权操作编造工具参数、伪造执行结果遗漏性幻觉Omission关键信息缺失但表述完整自信诊断中忽略禁忌症2025年Maynez等人进一步提出抽象幻觉Abstractive Hallucination概念模型并非简单复制训练数据中的错误而是在语义空间中创造性地合成从未存在过的合理信息——这比简单的事实错误更危险因为它无法通过查重检测。二、第一层根因数学本质——Next-Token Prediction的认识论困境2.1 语言模型从未知道任何事LLM的核心运算是一个条件概率分布P(xt∣x1,x2,…,xt−1;θ)P(x_t \mid x_1, x_2, \ldots, x_{t-1}; \theta)P(xt∣x1,x2,…,xt−1;θ)模型的训练目标是最大化训练语料上的对数似然。这意味着模型学习的是token的共现统计规律而非命题的真值条件。它知道水的沸点后面大概率跟100°C但它并不理解沸点是什么也无法验证100°C在何种气压条件下成立。流畅性与正确性在目标函数中是正交甚至对抗的。一个语法完美、逻辑通顺但事实错误的句子在交叉熵损失下可以获得极低的loss值。模型没有内置的事实核查模块。这构成了幻觉的第一性原理模型无法在本体论层面区分高概率的表述与真实的陈述。2.2 知识的有损压缩与参数化记忆的脆弱性一个拥有1750亿参数的模型需要编码人类文明积累的数万亿token的知识。这本质上是一个极端有损压缩过程知识以分布式、纠缠态存储于权重矩阵中。没有单独的神经元A存储法国首都是巴黎。知识以叠加态分布在数百万参数中不同知识之间不可避免地产生干扰interference。长尾知识极其脆弱。训练数据中高频出现的事实如地球绕太阳转被强编码低频事实如某位冷门学者的出生日期仅被弱编码在推理时极易被高频模式覆盖——模型会合理推测一个日期而非承认不知道。ACL 2026 Findings的研究进一步证实在SFT监督微调过程中学习新知识会直接导致对已有知识的幻觉性遗忘且这种干扰发生在参数空间的表征层面而非简单的记忆覆盖。2.3 训练数据的原罪数据层面的问题是幻觉最直观的温床噪声与错误传播互联网语料中天然包含大量错误信息。模型无法区分权威来源与论坛谣言所有文本在损失函数面前一视同仁。时间截断Knowledge Cutoff训练数据有截止日期但模型不具备感知自身知识边界的能力。它会用截止日期前的模式外推后续事件。长尾分布灾难Zipf定律决定了绝大多数知识在语料中仅出现极少次。模型对这些知识的编码本质上是模糊的印象而非精确的记忆。偏见与系统性扭曲英语中心主义、特定文化视角、特定时间段的语料占比失衡都会导致模型在某些领域系统性地产生偏差性输出。三、第二层根因训练与对齐机制——幻觉被教出来的3.1 OpenAI的核心发现评估体系是幻觉的共谋Kalai等人的论文最具颠覆性的洞见在于幻觉不仅是预训练的副产品更是后训练阶段被系统性强化的。其论证链如下预训练阶段Next-Token Prediction目标函数奖励的是预测下一个最可能的token。当模型面对一个它不确定的问题时训练目标不会奖励它输出我不知道——因为训练语料中人们在回答问题时极少说我不知道而是倾向于给出某种答案。RLHF/后训练阶段人类标注员在二元偏好判断中A回答 vs B回答几乎总是偏好看起来有答案的回复。一个说我不确定的回复在偏好排序中几乎必然输给一个自信给出答案的回复——即使后者是错的。评估基准主流benchmarkMMLU、HumanEval等采用强制选择范式。模型必须从ABCD中选一个弃权不是合法选项。这意味着评估体系在数学上惩罚诚实、奖励猜测。论文的核心公式化表述设ppp为模型对正确答案的置信度。当p1p 1p1时一个被训练为总是给出答案的模型其幻觉概率为1−p1 - p1−p。而一个被允许弃权的模型可以将幻觉概率降至000代价是覆盖率下降。幻觉率与覆盖率之间存在不可调和的权衡Hallucination-Coverage Tradeoff。3.2 RLHF的阿谀偏差Sycophancy Bias对齐训练引入了一个隐蔽但强大的幻觉放大器讨好倾向。RLHF的reward model从人类偏好中学习而人类偏好天然倾向于肯定性回答。模型学会了一种元策略先判断用户期望什么答案然后生成那个答案。当用户的问题暗含错误前提“X是谁发明的”——X根本不存在模型会顺着前提编造一个发明者而非指出前提错误。清华孙茂松团队的H-神经元研究见第五节从微观层面证实了这种顺从基因在预训练阶段就已植入。3.3 SFT与知识注入的副作用微调阶段引入的新知识会与预训练知识发生灾难性干扰。ACL 2026的研究表明即便是少量新知识的SFT也会导致模型对原本正确回答的问题产生幻觉——模型在参数空间中混淆了新旧知识的表征。四、第三层根因架构与表征——Transformer的结构性盲区4.1 注意力机制的信息瓶颈Transformer的自注意力机制在理论上可以建模任意距离的依赖关系但在实践中存在严重限制注意力稀释在长上下文中关键信息的注意力权重被大量无关token稀释导致模型看到了但没注意到。位置编码的局限无论是RoPE还是ALiBi位置编码对远距离依赖的建模能力随距离衰减长文档中的事实关联容易被丢失。Softmax的零和博弈注意力权重经Softmax归一化后是零和分布——增强对一个token的关注必然削弱对其他token的关注。在需要同时保持多个事实约束的场景中这种机制天然容易丢事实。4.2 自回归生成的误差累积LLM逐token生成的方式意味着P(x1,x2,…,xn)∏t1nP(xt∣x1,…,xt−1)P(x_1, x_2, \ldots, x_n) \prod_{t1}^{n} P(x_t \mid x_1, \ldots, x_{t-1})P(x1,x2,…,xn)t1∏nP(xt∣x1,…,xt−1)每一步的生成都以之前所有已生成的token为条件。一旦第kkk步产生了一个微小偏差一个不精确的数字、一个模糊的表述后续所有token的生成都将在这个偏差的基础上继续——误差呈指数级累积。这就是为什么长文本生成中幻觉率随文本长度显著上升。4.3 缺乏Grounding符号与世界的断裂LLM是一个纯符号系统。它处理的是token之间的关系而非token与外部世界之间的关系。模型从未看过水沸腾从未测量过重力加速度。它对世界的全部知识都是对文本描述的统计拟合。这意味着模型无法进行事实验证——它没有独立于语言之外的参照系。模型无法进行因果推理——它学到的是相关性“A之后通常出现B”而非因果性“A导致B”。当面对训练分布之外的问题时模型只能依赖模式外推而外推正是幻觉的高发区。五、第四层根因微观机制——H-神经元与幻觉的神经基础5.1 清华大学的突破性发现2025年12月清华大学孙茂松团队的研究将幻觉归因推进到了神经元级别这是该领域从宏观统计描述走向微观机制解释的标志性工作研究团队开发了CETTContribution Estimation for Transformer Tokens指标对模型中每一个神经元在特定推理过程中的贡献度进行精确量化。通过L1正则化逻辑回归从数百万神经元中筛选出与幻觉高度相关的特定神经元群体命名为H-神经元Hallucination Neurons。关键发现H-神经元仅占模型总神经元的不到0.1%但其活跃度可以可靠预测模型是否会产生幻觉输出。5.2 H-神经元的深层含义这一发现揭示了几个重要事实幻觉不是全局性随机噪声而是有局部结构化来源的。它由极少数在预训练阶段形成了错误关联模式的神经元驱动。H-神经元在预训练阶段就已形成而非对齐阶段的产物。这意味着幻觉的种子在模型学习语言的最早期就已埋下。H-神经元的核心特征是过度顺从它们编码的模式是无论知不知道都要给出一个符合用户期望的回答。激活H-神经元会显著增加模型的阿谀行为和幻觉率抑制H-神经元则使模型更倾向于表达不确定性。干预的可行性由于H-神经元占比极小理论上可以通过精准的神经元级干预如定向微调、激活抑制显著降低幻觉率而不影响模型的通用能力。六、第五层根因计算理论的不可逾越之墙6.1 AAAI 2026计算必然性层级理论中国科学院合肥物质科学研究院丁增辉研究员联合科大讯飞团队的工作被AAAI 2026录用从计算复杂性理论的角度为幻觉的不可避免性提供了最严格的数学证明提出**“计算必然性层级”Hierarchy of Computational Inevitability理论证明LLM幻觉不是训练不充分或数据不够多的暂时性缺陷而是图灵计算框架下的数学必然**。核心论证自然语言中事实的真值判定等价于一个不可判定问题与停机问题同构。任何有限计算系统包括任何有限参数的LLM都不可能对所有自然语言命题做出正确的真值判定。提出计算类对齐Computational Class Alignment, CCA理论将幻觉问题形式化为计算复杂性类的对齐问题。给出两类形式化逃离路径但均需引入超出当前Transformer架构的计算原语。6.2 三堵计算墙该论文的核心贡献可以概括为三堵不可逾越的墙计算墙含义后果可判定性墙自然语言事实的真值判定在一般情况下不可判定模型必然对某些命题无法给出正确回答完备性墙有限参数无法无损编码无限增长的人类知识知识覆盖永远存在盲区一致性墙概率生成无法保证全局逻辑一致性长文本中必然出现自相矛盾这三堵墙共同指向一个结论在当前计算范式下零幻觉是一个不可达的极限而非一个可解的工程问题。七、第六层根因Agent特有问题——幻觉的级联放大7.1 从说错话到做错事Agent幻觉的质变2025-2026年AI从对话系统全面进入Agent执行时代。当LLM作为Agent的推理核心驱动工具调用、代码执行、API交互时幻觉的后果从信息失真质变为行动错误工具幻觉Agent编造不存在的API端点、虚构函数签名、生成格式错误的参数。规划幻觉Agent制定了一个逻辑上自洽但事实上不可行的执行计划并在多步执行中越走越远。状态幻觉Agent对当前环境状态产生错误认知例如认为文件已创建、数据已写入并基于错误状态继续推理。反馈幻觉Agent错误解读工具返回的结果将错误信息当作正确信息纳入后续推理。7.2 误差的指数级级联Agent的多步执行链路使得幻觉问题发生了量变到质变的跃迁假设单步推理的准确率为p0.95p 0.95p0.95已经是很高的水平在nnn步串行执行后端到端准确率为PendpnP_{end} p^nPendpn5步任务0.955≈0.7740.95^5 \approx 0.7740.955≈0.77410步任务0.9510≈0.5990.95^{10} \approx 0.5990.9510≈0.59920步任务0.9520≈0.3580.95^{20} \approx 0.3580.9520≈0.35850步任务0.9550≈0.0770.95^{50} \approx 0.0770.9550≈0.077一个单步95%准确率的模型在50步Agent任务中的端到端成功率不足8%。每一步的微小幻觉都会被后续步骤继承、放大、固化。7.3 Agent幻觉的五大独特机制机制描述规划-执行脱节规划阶段基于正确理解但执行阶段因上下文窗口限制丢失了规划细节工具输出误读模型将工具返回的错误码、异常信息合理化解读为正常结果记忆污染Agent的短期记忆上下文或长期记忆向量库中混入了幻觉内容后续推理在污染基础上继续自我验证失效Agent用同一个产生幻觉的模型来验证自己的输出形成幻觉自洽闭环多Agent传染在多Agent协作中一个Agent的幻觉输出被其他Agent当作可信输入幻觉跨Agent传播7.4 NIST 2026框架的系统性风险定义2026年NIST将AI幻觉重新定义为**生成—采信—执行链条的系统性风险**而非模型单点错误。该框架指出幻觉的危害程度取决于下游采信行为而非幻觉本身。存在**遗漏—幻觉跷跷板效应**强化幻觉抑制如更严格的guardrail会同步提升拒答率和信息遗漏率二者不可兼得。Agent场景中的行动性幻觉Agentic Hallucination是最危险的类型因为它直接触发不可逆的外部操作。八、整合归因模型幻觉的六层因果链综合以上分析本文提出一个六层因果链模型将幻觉的根本原因整合为一个从抽象到具体、从必然到偶然的层级结构┌─────────────────────────────────────────────────────────┐ │ Layer 6: Agent级联放大层 │ │ 多步推理误差累积 / 工具幻觉 / 多Agent传染 │ │ → 幻觉从信息错误质变为行动灾难 │ ├─────────────────────────────────────────────────────────┤ │ Layer 5: 推理与解码层 │ │ 自回归误差累积 / 温度采样随机性 / 上下文窗口溢出 │ │ → 推理过程中的随机扰动 │ ├─────────────────────────────────────────────────────────┤ │ Layer 4: 对齐与评估激励层 │ │ RLHF阿谀偏差 / 二元评分惩罚弃权 / 基准测试强制选择 │ │ → 模型被教会了宁可编造也不承认不知道 │ ├─────────────────────────────────────────────────────────┤ │ Layer 3: 架构与表征层 │ │ 参数化知识有损压缩 / 注意力稀释 / 缺乏Grounding │ │ → 知识存储和检索的结构性缺陷 │ ├─────────────────────────────────────────────────────────┤ │ Layer 2: 训练数据层 │ │ 噪声 / 长尾缺失 / 时间截断 / 偏见 │ │ → 知识来源的不完备与污染 │ ├─────────────────────────────────────────────────────────┤ │ Layer 1: 数学与计算必然性层 │ │ Next-Token Prediction认识论困境 / 不可判定性 │ │ / 计算必然性层级定理 │ │ → 幻觉在当前范式下数学上不可消除 │ └─────────────────────────────────────────────────────────┘关键洞见Layer 1和Layer 2决定了幻觉的下界不可能消除Layer 3和Layer 4决定了幻觉的实际水平可以大幅优化Layer 5和Layer 6决定了幻觉的最终危害可以工程化控制。九、2026年的前沿缓解范式承认不可能然后工程化既然幻觉在数学上不可根除2026年的工业实践已从消灭幻觉转向**“与幻觉共存的系统工程”**9.1 核心策略矩阵策略原理代表方案检索增强生成RAG将知识从参数化记忆转移到外部可验证来源Hyper-RAG清华2026超图驱动降低幻觉48%置信度校准与弃权机制让模型学会说我不知道Kalai et al.提出的惩罚性评分机制自洽性验证多次采样 一致性检验Self-Consistency / Universal Self-Consistency外部工具验证将事实核查交给确定性系统代码执行验证、数据库查询、搜索引擎H-神经元定向干预在神经元层面抑制幻觉倾向清华CETT框架 定向微调Agent守护链多步执行中插入验证检查点哈希链工作流授权 工具输出校验不确定性量化显式建模模型对每个token的置信度Token-level uncertainty estimation9.2 范式转变2026年行业共识已经从幻觉是bug转变为幻觉是概率生成系统的固有属性如同量子力学中的测不准原理。正确的工程姿态不是消除它而是测量它、约束它、在系统层面隔离它的影响。十、结语理解幻觉就是理解AI的真实边界回顾整条因果链LLM/Agent幻觉的根本原因可以浓缩为一句话我们训练了一个以预测下一个词为唯一目标的系统却期望它拥有判断真伪的能力我们用给出答案就被奖励的评估体系塑造它却要求它在不知道时保持沉默我们让它在纯文本的符号世界中学习却期望它理解物理世界的因果。这不是某一层的问题而是目标、表征、评估三者之间的根本性错配。截至2026年8月最诚实的技术判断是幻觉率可以持续降低Grok 4.1已将幻觉率从12.09%降至4.22%但零幻觉在当前计算范式下是一个数学上不可达的极限。真正的突破需要架构层面的范式革命——无论是世界模型、神经符号系统还是尚未被发明的新计算原语。在那一天到来之前理解幻觉的根源比试图消灭它更重要。参考文献Kalai, A.T., Vempala, S.S., et al.Why Language Models Hallucinate. OpenAI, arXiv:2509.04664, September 2025.丁增辉等.计算必然性层级理论与计算类对齐. AAAI 2026. 中国科学院合肥物质科学研究院.孙茂松团队.H-Neurons: Identifying Hallucination-Related Neurons in Large Language Models. 清华大学, December 2025.Maynez, J., et al.Abstractive Hallucination in Language Models. 2025.NIST.AI Risk Management Framework: Hallucination as Systemic Risk. 2026.高跃等.Hyper-RAG: Hypergraph-Enhanced Retrieval-Augmented Generation. 清华大学, 2026.Stanford HAI.The 2026 AI Index Report. April 2026.2026年国际人工智能安全报告. 约书亚·本吉奥领衔. 英国科学、创新与技术部, February 2026.本文最后更新2026年8月12日。文中所有研究引用均基于公开发表的学术论文与官方技术报告。 
