资讯动态

OpenAI新Transformer火了,Astra架构首次曝光

发布时间:2026/9/7 20:44:42 来源:尧图企业网站定制
OpenAI Astra采用循环Transformer性能提升但思考难监控网传将发GPT-6家人们听说了么OpenAI下一代Astra采用了一种「循环深度」recurrent depth全新推理方法。思考Token大幅减少性能反而直线拉爆怪不得灰测的Astra实力那么强原来OpenAI手握了一张真正的技术王牌。但是代价是Astra的思考过程完全「隐身」了。就连OpenAI自己都难以看清AI大脑监控更是「南上加南」。消息一爆出来全网都陷入了恐慌。OpenAI首席科学家Jakub Pachocki第一时间做出了回应——内部目前最前沿的模型包括Astra它的计算图深度顶多也就GPT-4的两倍没外界传的那么玄乎。几乎同一时间有大V爆料称gpt-6-astra的名字已在OpenAI API上现身了。看这架势GPT-6预计明天就会上线。它背后的新架构究竟是什么来头「循环Transformer」火遍全网「循环深度」还有另外一个名字叫「循环Transformer」Looped Transformer。实际上这一概念并不是由OpenAI首次提出。在此之前整个业界都在「循环Transformer」上做过不少研究。要看懂Astra变在哪得先看传统大模型是怎么干活的。传统的Transformer像一栋只能走一遍的高楼数据从第一层一路爬到最后一层做完固定次数的运算吐出下一个Token。你想让它推理得更深那就只能把楼盖得更高、参数堆得更大。代价就是极其高昂的算力和显存开销。循环Transformer换了个极其暴力的思路让它转起来。信息不再是单向穿过网络一次而是把同一组Transformer层反复循环使用。第一圈算出的隐藏状态Hidden States直接送回起点继续加工转上好几轮最后才吐出结果。它就像一段盘旋向上的楼梯——还是那几级台阶但只要多绕几圈照样能到达顶层。这条路学界早就走通了。谷歌在2025年发表的一篇论文Reasoning with Latent Thoughts给出了一个非常直观的结果——一个包含k层、循环L次的Transformer在不少推理任务上可以接近拥有k×L层的普通模型。参数量没有同步扩大有效计算深度却被拉长了。今年2月一篇关于「潜在推理」latent reasoning的论文也完美展示了这种架构的杀伤力。研究人员拿一个35亿参数的小模型中间的核心块反复循环跑。当转的圈数足够多时这个3.5B的小身板竟然打出了相当于500亿大模型的成绩。这相当于给「测试时算力」开了一个超频开关。不加参数不占额外显存光靠在原有的权重里多跑几圈拿时间换空间能力就能越级狂飙。对于刚被Anthropic在营收上反超、急需一个断层式大跃进的OpenAI来说这种技术的诱惑力根本无法拒绝。思考是怎么「隐身」的在此前爆火的「AI 2027」一文中曾将这一方向称之为「神经语循环」。Astra仍会通过语言来思考问题但那些言语之间的更多思考现在可能是无声的。Astra的进化直接打破了AI 2027的预言「循环深度」的危险就在于它把思考逼进了盲区。在此之前业界必须接受一个反直觉的现实对于现在的推理模型来说CoT是模型真正用来打草稿的工作记忆。过去模型想得再深也必须从「输出下一个Token」这个狭窄的漏斗里挤出来。正是这一挤把抽象的计算逼成了人类能读懂的文字。这也是过去两年人们唯一能「看透」AI脑子里在想什么的底气。但另一方面「循环深度」拓宽了内部的计算管道。固定层数的模型每吐一个Token前能做的串行推理是有限的。而现在模型在中间的循环块里转了r圈每个Token背后就塞进了r倍的串行计算。原本必须挤在字面上的长链条推理现在能在向量世界里默默转完全程不吐一个字。省下的Token恰好省在了那些没写出来的思考上。更麻烦的是它在潜空间里「想」的未必是人话。正如Meta早前在「连续思维链」Coconut研究中指出的模型用数字、用向量去推理可能比被逼着用人类语言更准、更省。这背后的逻辑很简单大模型理解概念的方式本来就是数学向量强迫它每一步都翻译成人话只会损失信息。Coconut和CoT对比这项技术的杀伤力在于可以让一个小体积的模型发挥出超大模型的实力成本骤降还能省下内存、带宽。不过它在省下了算力成本的同时也彻底关上了人类的视线。Astra真正王牌就是新Transformer对于数学和编程来说「循环Transformer」架构极有吸引力。许多真实任务本就依赖「多次迭代」先提出方案再检查错误更新中间状态继续求解。「循环Transformer」天然适合执行这种算法。它也给模型带来了一种全新的「推理时Scaling」方式。过去让模型多想一会儿通常意味着让它生成更多思维链Token。现在一部分计算可以在输出Token之前完成。模型表面上可能只停顿片刻内部状态却已经迭代了很多轮。Astra的实力大家是有目共睹虽还未正式发布一些demo验证了其在前端领域的统治力。而且在计算机使用方面奥特曼也承认Astra实力直接媲美人类水平。正是基于这一架构的创新Astra还打通了「持续性智能体」只要不喊停能连轴转数周。如今全网都在屏息以待Astra/GPT-6总算要来了。OpenAI多位研究员包括「赛博义父」也在疯狂暗示强大的Astra。就坐等GPT-6的发布了。原文链接刚刚OpenAI新Transformer火了Astra架构首次曝光-36氪

读完文章,也想定制专属网站?

尧图设计师 24 小时内与您沟通定制方案

免费获取报价