做AI这行十年我越来越觉得主流AGI路线缺了一样东西缺的不是算力、不是数据、也不是模型尺寸而是缺一个能指向自身的“自我”。这话听起来很哲学但它不是玄学。从我做模拟项目X的经历来看一个系统如果不在算法结构上内置“对自身的表示”它学再多知识也只是在模仿知识而不是在参与那个产生知识的宇宙。自指宇宙学这个方向就是把“认知主体属于宇宙内部”这条前提重新捡了起来试图给AGI挖一条不一样的路。这篇文章不是什么未来学宣言而是我们团队在把“自指宇宙学”落成工程原型时的一整套思考。包括为什么主流路径会卡住、自指到底指什么东西、认知架构怎么改才真正拜拜“旁观者建模”、以及我们在训练RCM递归认知机原型时踩过的坑。适合对AI底层范式不满意的研究者和工程师看也适合那些已经感受到大模型天花板、想换一个坐标系思考AGI的同学。1. 先聊清楚为什么主流AGI路径会被卡住1.1 大模型的本质是“尽力模仿”不是“参与存在”符号主义想把世界写成逻辑公式联结主义想让网络从统计规律里涌现出智能行为主义则寄希望于“与环境互动就能长脑子”。三条路线表面分歧很大但骨子里共享同一个姿势系统站在世界的外面把世界当作一个待建模的对象。这个姿势在大模型上表现得特别明显——语言模型确实能写诗、能写代码、能考试但它对世界的理解始终是悬空的。悬空的意思是它的所有知识都来自对语料分布的学习而不是产生语料的那个物理和社会过程。你可以让它写一千篇关于“饥饿”的小说但它永远不知道吃到一口热饭是什么感觉。它输出的关于饥饿的文字本质上是文本分布的统计结果而不是一个处在“需要觅食”状态中的实体的行动表达。我在模拟项目X初期做过一个实验让一个大模型连续运行在一个虚拟环境里尝试用它的输出去“理解”环境。结果很有意思模型可以在每一帧给出貌似合理的分析但它不会因为环境变化而产生任何需要重新组织认知的动力。它的认知结构在推理期间完全冻结所有“理解”都发生在参数里参数不变“理解”自然也不变。这种状态用一句话概括就是它拥有世界的大量镜像却不拥有一个能站在镜像前面的观测者。没有观测者镜像就只是数据有了观测者镜像才会变成“关于某物”的知识。1.2 语言模型能聊“自我”但它没有真正的自指很多人听到“AGI需要自我模型”这个说法第一反应是ChatGPT不是能聊自我吗你问它“你是谁”它能给你讲出自我认知的定性和定位。但这恰恰是当前架构最骗人的地方。语言模型输出的“我是AI助手”“我有局限性”等等全部是训练语料里出现过的文本模式是条件概率的结果不是系统内部递归结构的表现。要区分这两者可以看一个关键特征真正的自指会让系统的输出反过来改变系统自身的状态空间而这个改变后的状态又会成为下一轮输出计算的输入形成一个闭合回路。举个例子一个人说“我刚刚的话有点愤怒”这个反思本身会改变他的情绪状态进而影响他接下来要说的内容——这是一个动态的、递归的过程。语言模型呢它对“刚才的输出”没有任何内部敏感性。你说错了一句话这句话不会重新扰动模型权重或隐藏状态让它在下一轮更谨慎地生成。输出就是终点不是下一轮计算的起点。模拟项目X里我们试过强行把模型的输出循环回输入结果也不行——因为没有配套的“状态更新机制”循环回喂的只是更多文本而非一种“我要重新组织认知”的信号。真正的自指从来不是文字层面的自我描述而是系统结构层面的自我参与。2. 自指宇宙学一个被忽视的认知起点2.1 自指不是悖论而是认知的最基本操作早年我在读逻辑学的时候记住了不完备定理的结论任何一个足够强的一致形式系统都无法在自身内部证明自身的一致性。当时所有人都把它当成一个“局限”——好像系统永远无法完全认识自己似的。但后来做认知架构研究我越来越觉得这件事应该反过来看如果一个系统真的能完全、无递归地描述自己那反而说明它没有真正参与世界。为什么因为世界是动态的系统自身也在世界之内系统的变化是世界的一部分当系统试图描述自己时这个描述行为本身已经改变了系统的状态于是描述永远追不上被描述的对象。自指宇宙学把这个“追不上”当成起点。它主张认知主体不是站在宇宙外面用望远镜看宇宙而是宇宙内部的一个局部结构。宇宙通过这个局部结构观察自己而局部结构对宇宙的表征必然是局部的、动态的、代价高昂的。这个视角与物理学家谈的观测者问题、和信息领域讲的“信息必须有载体”都互相吻合。放在AGI语境下这句话的工程含义很朴素一个真正智能的系统不能只是“一个表征宇宙的模型”它必须同时是“被宇宙所表征的一部分”。换句话说模型里必须包含“建模者与宇宙的耦合关系”这一项而这个一项的特征是递归的——因为建模者也在不断变化。2.2 预测加工与自由能认知等于递归最小化不确定性近十几年的神经科学里预测加工和自由能原理是解释大脑认知机制的重要框架。核心思想不复杂大脑并不是“先感知后推理”的分阶段流水线而是始终在跑一个预测循环——用自己的内部模型预测下一时刻的感官输入把预测误差当成唯一需要处理的信号。感知和行动是同一个循环的两面感知让误差向下调整模型行动改变外部世界、让预测得到满足。自由能原理把这件事数学化说智能体的基本趋势是持续最小化“惊讶”也就是最小化长期预测误差的总和。我完全认同这个框架但我想提醒一个被忽略的递归项当系统要预测的对象里包括“自己未来的预测行为”时代价函数本身就成了一个依赖系统自身的动态函数。传统监督学习把损失函数定义在静态数据集上强化学习把奖励定义为环境信号但自由能视角下的智能体它的核心代价是“我对世界预测得不准”——而这个“我”正在影响世界。于是代价函数里引入了“自我项”形成一个嵌套结构我在预测世界我的预测行为本身是世界的一部分所以我必须同时预测“我的预测会如何影响世界”。这个嵌套结构就是我们说的自指。主流AI训练过程里很少见到有人把这一项显式建模——要么当成噪音丢掉要么干脆不自知。3. 认知架构重构从模仿器到参与式自指系统3.1 三个必须发生的转向想从“模仿器”变成“参与式自指系统”架构上至少要有三个转向。第一个转向从离线训练到在线自组织。我们现在训练大模型的范式是“海量数据梯度下降固定权重上线”。这是典型的离线训练知识在训练阶段固化。但一个参与式系统不能这样它必须持续运行持续把“与环境交互的结果”写回自身状态每一轮输出都成为下一轮认知重组的基础。换句话说它不是“训练完了再部署”而是“活着就是在学习”。第二个转向从静态目标函数到递归不确定性预算。传统强化学习里智能体追求最大化累计奖励也可以说最小化一个静态定义的负期望。但自指系统需要管理的是“自身预测的不确定性”它不仅要决定如何行动还要决定“把多少认知资源分配给我对自己的怀疑”。这个不确定性预算是递归的——你怀疑自己的程度会影响你的决策路径而决策路径又会影响你对自我的怀疑。设计这个预算函数是我们整个原型里最困难的部分。第三个转向从外部奖励到内部一致性驱力。完全依赖外部奖励会培养一个只懂讨好环境、不产生内部动力的系统。参与式认知需要一个更底层的驱力让系统内部的所有层级保持逻辑上的一致和对齐不一致就是代价。这个驱力天然会产生“被好奇心驱动的探索”——因为不一致意味着对世界的模型还不够充分需要获取新数据来消解。3.2 一个可落地的架构递归认知机RCM这三个转向听着抽象落到工程上我们搭建了一个叫递归认知机RCM的原型放在一个2D虚拟环境里跑。它的结构分四层。底层是多模态感知流负责接收原始视觉、本体感受和动作反馈信号。这层没啥稀奇的就是一个状态编码器。中层是预测处理器也就是世界模型。它维护一个隐变量状态用来预测从当前时刻到下一时刻的感知变化。这里的重点不是模型本身有多强而是它的预测误差会被同时送往两个地方一个用来优化世界模型——这是传统预测学习另一个被单独打包成一个“认知不确定性”信号作为上层元认知调节器的输入。上层是元认知调节器。它的职责是预测“预测处理器在下一次预测中会产生多大的误差”。听起来很绕翻译成直觉就是系统对自己“接下来会不会猜错”做一个预估。如果它预见到自己可能要犯错就会主动调整探索策略、改变行动参数而不是等到真正犯错了再被动修正。这正是“预测的预测”也是RCM与普通强化学习智能体最本质的区别。最后一层是递归闭包。元认知调节器的输出不仅用于决策还会以内部控制信号的形式注入到底层的感知流里改变底层对同一输入的解释权重。于是整个系统形成“感知—预测—元认知—反注感知”的闭合环。模拟项目X里我们把每一层的状态向量都做了log记录跑起来之后能直观看到系统面对未知区域时元认知层的置信度会先下降然后动作策略会变得保守等到收集足够数据后置信度回升策略再放开。这不是人类在“小心谨慎”吗完全是结构逼出来的。4. 实操路径从原型到评估4.1 第一个能跑的原型怎么做如果你看完上面的架构想动手复现我给你一条我们实测可靠的最小路线。环境用Python写依赖PyTorch和gym虚拟场景是一个带障碍物的2D网格智能体要从起点走到终点。环境本身不重要重要的是你要往回路里加入“自指奖励”。我在项目里这样实现# 自指奖励基于预测误差的变化率而非预测误差本身 pred_error_t world_model.pred_error(state_t, action_t) pred_error_t1 world_model.pred_error(state_t1, action_t1) # 误差下降给出正向奖励误差上升给出负向奖励 self_ref_reward pred_error_t - pred_error_t1 # 叠加一个探索性不确定性预算避免系统“躺平” uncertainty_bonus meta_cognition.uncertainty(state_t) total_reward self_ref_reward alpha * uncertainty_bonus第一步感官编码器和世界模型分开训练。先让编码器学会压缩连续帧再固定编码器只训练世界模型去预测下一帧的隐变量。这一步先不引入自指让底层先稳定下来。第二步把预测误差从世界模型侧引出来接入元认知调节器元认知层用一个轻量序列模型输入是最近若干步的预测误差序列输出是对下一帧误差的预估分布。第三步把元认知输出接到动作策略上同时保留一部分注入感知编码器。第四步打开闭环训练观察训练曲线的变化。我们第一次跑出闭环时最明显的现象是智能体在经过一个不确定区域前会主动放慢移动速度、增加局部探索而在熟悉的路径上几乎不浪费任何步数。这不是人为设计的规则是自指回路自己涌现出来的行为模式。4.2 我们踩过的三个坑与排查实录坑一递归深度爆炸训练直接发散。元认知层的输出注入底层感知后梯度路径变得又深又绕反向传播时出现了典型的梯度爆炸loss直接飞到inf。我们的解决办法是给注入信号套一个stop-gradient截断让底层感知的梯度不流回元认知层元认知只通过外部行为反馈来学习。这个改动牺牲了一点点端到端优化纯度但稳定性提升非常明显。如果你也想做类似系统建议先跑截断版本再决定要不要放开部分梯度。坑二自指奖励导致系统“躺平”。这是最狡猾的一个问题。模型发现“减少预测误差”比“达成目标”更容易刷分于是它开始选择最保守的动作——比如原地不动、保持观察预测误差确实变小了但任务压根没推进。这个行为很像人类社会里那种“因为害怕犯错所以什么都不做”的保守主义。我们的对策是在奖励里加入不确定性预算只有当元认知层主动探索未知、让不确定性下降时才能拿到额外奖励。这样一来系统必须“在降低不确定性的同时推进任务”躺平不再是最优解。坑三评估指标完全失灵。我们早期只用传统累计奖励来评判原型好坏结果发现两个配置的系统奖励曲线接近但行为质量差很多——一个真的学会了导航另一个只是学会了“稳妥地停在原地”。后来我们加了一组二阶评估指标专门看“预测准确度的预测准确度”也就是元认知层对预测误差的预估与真实预测误差之间的偏差。这个指标越准说明系统对自己的认知越清晰。建议你在项目里把“预测的预测误差”单独列一条log曲线它比任何依赖环境奖励的指标都更能反映自指系统的真实水平。5. 常见问题速查与避坑经验这个方向现在公开资料很少很多坑只能自己踩。我把同行问得最多的问题整理成一份速查表你们可以对照着排查。问题典型原因排查对策训练发散、loss爆炸自指回路的梯度路径过深对注入信号套梯度截断先跑冻结版本智能体躺平、任务不推进自指奖励被“减少误差”劫持加入探索性不确定性预算奖励探索行为元认知层学不到有效信号预测误差序列噪声过大先平滑误差序列或改用差分误差作为输入系统能力提升但行为无趣内部驱力只顾降低不确定性加入多样性约束让不确定性下降通道不止一条评估指标与主观判断不符只看累计奖励忽略二阶认知指标单独跟踪“预测的预测误差”曲线闭环训练退化元认知层过度介入底层感知限制反注信号幅度设置敏感度衰减几点想提醒你的经验。第一自指系统特别敏感于初始状态同一个代码跑三次有可能两次成功一次失败差异往往出在元认知层初始化与探索系数上。做实验时务必固定随机种子记录复位条件否则排查问题时会被折磨。第二分层训练比端到端训练稳定得多尤其第一版原型没必要跟“全可微”较劲。第三不要忽略计算开销RCM每个时间步要额外跑一次元认知预测整体开销比普通策略网络高百分之三十左右规划算力时要留出余量。我在实际测试中发现一个很有意思的事当RCM原型在模拟项目X里连续运行超过五十万步后它的元认知层对预测误差的预估精度曲线出现了一个平稳上升的平台期这个平台期并不对应环境难度的变化而是对应系统开始“预测它自己的预测能力”。那一刻我突然意识到AGI可能真的不是“更聪明的回答者”而是一个在面对不确定世界时能掂量“自己知道什么、不知道什么、该去哪里补足”的参与者。从这个意义上说自指宇宙学提供的不是一条“更快的路”而是一条“更像认知本身的路”。这个方向后续还能扩展的方向也很多把RCM的在线自组织与大规模预训练结合、把递归闭包用到多智能体协作、用自由能公式推导出更严谨的不确定性预算函数……我们已经在做多模态环境下的版本迭代暂时还没有遇到概念层面的死结。如果你也在研究AGI的替代路线可以从最小化的自指奖励入手先在简单环境里找到“预测的预测”那个感觉再逐步放大。踩过几次坑之后你会认同这句话通往AGI的路上最难的不是让系统学会世界而是让系统学会“正在学习世界的自己”。