资讯动态

把八千亿大模型塞进办公桌,昔日互撕的两家巨头这次玩得有多绝

发布时间:2026/10/18 13:38:31 来源:尧图企业网站定制
把八千亿大模型塞进办公桌昔日互撕的两家巨头这次玩得有多绝在硅谷如果有人说苹果和Meta会并肩站在一起推销同一款产品多数人第一反应大概是翻出五年前的旧账2021年苹果修改了隐私政策限制广告精准投放Meta曾估计那一年自家收入直接蒸发了100亿美元两家关系一度降到冰点。然而在2026年10月15日马克·扎克伯格在社交平台上晒出一张工作截图公开感谢苹果的合作。更让人意外的是这场合作的内容他们要把一个拥有8160亿参数的庞大人工智能模型硬生生塞进摆在办公桌上的两台苹果电脑里。一、为什么非要让两个老对头走到一张桌子前这个引发破冰的模型叫作Muse Spark Open是Meta发布的开源权重模型。所谓开源权重说得通俗一点就是Meta把模型在海量训练中摸索出来的内部结构和数据配置原原本本打包放上网任何人都能去免费下载。但这个模型实在太庞大了。它的总参数量高达8160亿即便经过4比特压缩光是把这堆参数文件存在硬盘里就有整整493个千兆字节。如果算上模型运转时临时存放的中间数据想要把它完全跑起来至少需要大约700个千兆字节的显存空间传统的单台个人电脑根本吃不消。以往想跑这种大家伙唯一的办法是去租用云端昂贵的专业机房。然而数据一上云不仅按调用次数收费很多涉及到商业核心机密的代码和视频内容也得传出办公室。Meta的人工智能负责人直言强大的开源模型因为体型太大以前几乎没办法在个人电脑上存活。苹果正是在这个死结前递出了一条绳子。苹果电脑采用的是一种统一内存的构造处理器和图形芯片抢着用同一池子内存而不用像传统电脑那样在显卡与内存条之间来回搬运数据。在两家公司看来把超大模型拽下云端、塞进桌边主机的时机刚好凑齐了。二、两台巴掌大的小主机怎么吞下千亿大模型要想在桌面上容纳这尊庞然大物两家公司拿出的方案听起来甚至有点像拼积木一台机器装不下就拿两台或者四台连在一起把它当成一台拥有1024千兆字节统一内存的超级电脑来用。这里面藏着两个关键的技术底牌。首先是苹果自家的M5 Ultra芯片它的内存带宽达到了每秒1.2千兆字节每台主机最高能选配512个千兆字节的内存。这个速度有多快模型在推导下一个字词时需要快速翻阅对应的那一小块数据而这种带宽刚好能保证数据调取不卡壳。另一个秘密是名叫混合专家的结构设计。这个模型虽然总参数高达8160亿但它并不是每次干活都全员出动而是像一个拥有256名专家的智囊团。面对具体任务时它只会挑出其中8个最懂行的专家每次实际被激活参与运算的参数只有420亿。为了让多台电脑协同作战苹果在自家的机器学习框架里做了深度优化。他们利用雷电5数据线把机器两两串联让带宽直接翻倍再配合远程直接内存访问技术让电脑之间交换数据时几乎不需要中央处理器插手。测试数据显示在四台机器联动的状态下它能以每秒超过36个基本单元的速度向外吐出文字日常使用已经相当流畅。纯本地跑起来之后它展现出了一些云端工具很难做到的连续作业能力。Meta在内部测试中展示了两个场景一个是让它配合专门的代码工具一口气为一个开源客户端修复程序漏洞、增加新功能并完成完整编译另一个则是直接操控高端视频剪辑软件一帧一帧地审阅视频素材并把原本横屏的画面自动裁剪成竖屏。三、一台顶配能买一辆车谁会真的搬回家两家联手的消息虽然热闹但摆在普通开发者面前的现实门槛依然高得有些吓人。问题首先出在钱包上。虽然搭载基础芯片的Mac Studio起售价是5499美元但要跑这个模型配置必须顶到头。配齐256个千兆字节内存的机器单台起步价就超过了10799美元要想凑齐运行所需的总容量用户必须买两到四台。据华尔街日报报道搭齐一套能流畅跑完这套模型的硬件总花费会超过4万美元。即便真有人咬牙准备了预算在发布当天依然买不到最理想的硬件。两台就能跑通模型的512个千兆字节版本在10月15日模型放出的当天根本还没发货要等到10月下旬才正式出厂。换句话说在刚发布的那几天大家只能先用四台256千兆字节的机器凑合拼着用。除此之外Meta在这款开源工具上也加了一道商业绳索。虽然个人和很多开发者可以免费从各大开源平台下载权重但根据它的专属授权条款产品界面必须老老实实写上模型的出处如果有人拿它做模型托管服务且一年内的相关累计收入超过了2000万美元就必须掉头去找Meta另签商业合同。更耐人寻味的是性能层面的坦诚。Meta在公开测试对比中承认面对一些现有的开源模型这款产品在部分编程跑分上依然落后并没有在所有指标上全盘占优。对于广大没有几万美元预算的普通研究者而言大家最终可能还是会老老实实回到每百万输出计费几美元的云端调用接口上去。但这次握手的意义从来不在于让每个人都去买四台主机而在于让行业看到了另一种活法原来前沿级的人工智能不再非得被死死锁在大公司的云端机房里一张足够结实的办公桌终于也能稳稳接住它了。

读完文章,也想定制专属网站?

尧图设计师 24 小时内与您沟通定制方案

免费获取报价 →
↑