这两年只要参与AI项目落地就绕不开一个话题大模型成本到底由谁来付。表面看训练一个千亿参数模型要烧掉数亿美元这笔钱是云厂商和软件供应商在掏但真正决定全局的是另一条暗线——投资早晚要回收而回收的对象只能是用户。我之所以想把这个话题拿出来拆开聊是因为最近半年陆续帮几个团队做过AI成本评估发现很多人对“云厂商和软件供应商在承担万亿美元AI投资”这件事的理解还停留在新闻层面。大家普遍觉得既然供应商们敢投说明他们有自己的算账方式作为用户我先用上再说。这个思路本身没问题但容易忽略一个关键点供应商的算账方式恰恰是把成本从自己的资产负债表慢慢挪到用户的采购预算里。这篇文章适合三类人看正在评估AI产品预算的企业采购、把大模型接进自家业务的开发者、以及关注算力产业走势的人。我会把成本转嫁的路径拆开讲清楚供应商为什么愿意先掏钱也讲清楚企业用户现在能做哪些事来压低未来的账单。1. 万亿美元级投资比想象中更早出现在资产负债表上先说一个经常被误解的事实所谓“承担万亿美元AI投资”并不是哪家公司真的掏了一万亿美元现金放在那里。它指的是全球主要云厂商和头部软件供应商在过去几年里围绕AI算力基础设施、模型研发、数据生态签下的大量资本开支和运营投入。这些投入以数据中心建设、专用芯片采购、网络带宽扩容、模型训练集群运维等形式真实地计入了各家公司的资产负债和现金流表。1.1 烧钱结构训练、推理与基础设施三头烧如果把AI投资拆开看钱主要烧在三个方向。第一是训练成本。训练一个大尺寸语言模型需要数千张高性能计算卡同时工作数周甚至数月电费、散热、网络同步、故障重启都要算进成本。业界有一个流传很广的经验数字单次大模型训练的成本在数千万美元量级。这个数字随着模型规模波动很大但方向是确定的——训练是典型的“一次性重投入”。第二是推理成本。模型训练完之后的每一次调用都要消耗算力去生成结果。这部分是持续性的、和用户量直接挂钩的支出。很多团队早期只盯着训练成本上线后才发现推理账单才是真正吃掉利润的地方。一个日活百万的AI应用如果每天每个用户产生十次调用推理费用按当前主流定价算月账单轻松到几十万美元量级。第三是基础设施的沉没成本。数据中心从选址到交付通常需要两到三年一旦动工就不能轻易停下。芯片采购、机柜租赁、电力合约都是长期的刚性承诺。哪怕未来模型效率翻倍这些已经签约的固定支出也仍然在账面上一笔笔地折旧。所以“万亿美元”不是一种修辞而是实实在在地变成了服务器、电力和带宽。问题在于这些资产的折旧周期很长供应商不可能靠捐赠心态长期扛下去。1.2 为什么供应商愿意先垫钱既然成本这么高云厂商和软件供应商为什么还抢着投资我看下来主要有三个理由。第一是卡位。AI基础设施是典型的高门槛、高锁定赛道。用户一旦在某个云平台上训练模型、存储数据、跑通推理链路未来几年都不太容易迁移。供应商宁愿前期亏本把生态做起来也不愿意把这个入口让给对手。第二是数据飞轮。软件供应商把AI功能集成到现有产品里用户的使用行为会变成高质量反馈数据用来迭代模型效果。做得越早、用的人越多产品竞争力越强。这个逻辑在办公协作、客服、代码工具里都成立。第三是预期管理。资本市场给AI故事极高的估值溢价供应商的投入可以转化为更高的市值和融资能力。只要增长叙事保持前期亏损是可以被容忍的。但这里有一个所有人都心知肚明的潜台词垫钱不是目的回收才是目的。免费永远只是获客手段不是商业模式本身。2. 成本转向用户的三种典型路径从用户视角看成本转嫁不会在某一天突然发生。它更像水温慢慢升高的过程等大多数用户意识到的时候账单结构已经和早期完全不一样了。我观察下来转嫁主要通过三种路径完成。2.1 免费试用期缩短隐性额度收紧AI产品上线初期供应商普遍提供慷慨的免费额度和限时试用。这是最自然的获客方式但也最容易让用户形成误判。比如某云平台的AI服务早期给每个新账号每月几百万token的免费调用额度很多开发者用这些额度做了原型验证跑通了业务逻辑产生了依赖。几个月后免费额度悄悄下调同时新用户的限期试用从九十天缩短到三十天。原型还在账单却突然出现了。这类调整通常不会发公告只在控制台的计费页面上默默变化不常看账单的团队很容易中招。免费额度本质上和超市试吃一样目的永远是让你买正装。而AI服务的特殊之处在于开发者一旦围绕某个API写完代码替换成本就不只是重新对接一个接口那么简单还要迁移数据、重写提示词、重新测试效果。那时候再想走已经不是一道选择题了。2.2 订阅涨价与功能分层第二类转嫁路径是所有企业软件用户都非常熟悉的功能分层和订阅调价。软件供应商的做法通常是逐步把AI能力从基础版本中剥离单独做成付费增值包。我见过一个办公套件的实际案例第一年AI助手以“免费体验”的形式打包在原有订阅里第二年变成了按用户数叠加的附加选项每个用户每月加收约10美元第三年合同续签时单价调整到18美元涨幅接近80%。与此同时基础版里原本包含的高级数据分析功能被移到了更高档位的套餐里。用户如果还想保持两年前的同等使用体验实际支出的增加幅度往往比标价涨幅更大。这类涨价之所以容易被接受是因为AI功能看起来确实“多出来了”。但采购负责人需要算清楚的是同等功能体验下的总价变化而不是新增功能有没有价值。很多团队只对比了“基础版加AI包”和原基础版的价格差没有意识到原套餐里的一部分能力已经被抽走了。2.3 按量计费账单随调用量放大第三种路径是算力行业最核心的模式按量计费。按理说按量计费按使用量付费听起来很公平用得少付得少用得多付得多。问题在于AI应用的调用量和传统软件的并发数不同它增长得太快了。传统软件用户数翻倍你至少能感知到而AI的调用量可以隐藏在业务流程里后台程序自动重试、定时任务批量调用、测试环境反复请求都会在不知不觉间推高账单。更要紧的是按量计费的单价虽然一直在降但用量增长的速度往往跑赢单价下降的速度。我见过一个真实案例某平台的推理单价一年内下降了约四成但客户的月度调用量增长了五倍。单价降了总账单却变成原来的三倍。供应商乐于宣传“算力成本每年下降XX%”却很少主动提醒客户总账单会随用量加速上涨。3. 企业和开发者现在就该动手的三件事既然成本转嫁是必然的最理性的应对不是拒绝AI而是从现在开始把AI当成一个需要管理的成本科目而不是一个一接了之的功能插件。以下几件事是我在实际项目中验证过、确实能压低长期账单的做法。3.1 把AI成本拆到单次调用上算账很多团队做AI预算时只算“一大笔钱”没有拆到一个具体业务动作的成本。这种粗粒度算法会让成本失控时连原因都找不到。我给团队讲过一个简单的拆算法。假设一个智能客服机器人每轮问答的输入约1500个token输出约300个token单次调用合计1800个token。某云平台当前的推理计费大约是每百万token 4美元折合单次成本约0.0072美元。算到这里你会觉得不贵但真正要命的隐性开销在别处上下文缓存、向量检索、API网关调用以及失败重试的额外消耗。把这些都加上单次交互的真实成本通常在0.015到0.03美元之间。如果产品做到日均10万次调用月度账单就是10万次乘以0.02美元再乘以30天也就是6万美元。这个数字还没包括开发环境和测试调用的消耗。听到这里很多团队才第一次明白为什么说AI产品上线前必须先做成本建模。我建议每个项目都建一张简单的成本台账至少包含四个参数预估日调用量、单次平均token数、实际单价、缓存命中率。这组数字每周更新一次比任何财务报告都更能反映AI成本趋势。3.2 模型分级与路由让简单任务花小钱一个最常见的成本浪费是让所有请求都使用最强的模型。我见过一个内容审核项目最初所有文本统一调用某旗舰大模型单月推理成本8万元左右。后来团队加了一层意图路由先用轻量分类器判断请求复杂度90%的简单规则请求交给小规格模型处理只有10%的复杂案例才进入旗舰模型。同等业务量下月度成本被压到2万元以内。这个思路在业内常被称为模型路由。你不用在代码里做复杂的判断可以把路由逻辑做成一个独立的服务根据关键词、长度、置信度阈值来决定走哪条模型链路。关键是先做效果回归确保每个池子的质量指标都能达标再逐步把更简单的任务从大模型上挪走。模型分级还有一个附带好处响应速度提升。小模型延迟更低用户体验反而更流畅。省钱和提效在这件事上不是对立的而是同向的。3.3 缓存、压缩与样本选择把有效成本打下来模型路由解决的是任务分级问题缓存和压缩解决的是重复计算问题。AI场景里的缓存策略比传统后端缓存更讲究。常见做法有两层第一层是精确缓存同一个问题在同一会话里重复出现时直接返回历史结果第二层是语义缓存意思相近的问题也可以命中需要靠向量相似度计算来实现。配置得当的语义缓存能把真实调用量砍掉三成以上尤其适合客服、问答、内容生成这类高频重复场景。压缩则是从输入侧做减负。很多人调用大模型时习惯把完整资料一股脑塞进上下文不仅是prompt越长费用越高输出质量还可能被无关信息干扰。我常用的做法是先做文档切片和关键信息抽取只把问题相关的片段送进模型。一个能省钱的提示词工程不只是写得更清楚而是写得更短。4. 推演未来议价权在谁手里结局有几种理解了成本转嫁的大方向再往远看一步这场博弈最终会收敛到什么样的格局。我看好从产业链的议价权分布来推演因为定价从来不是由成本决定的而是由供需双方的谈判地位决定的。4.1 产业链条上的定价权分布算力产业链从上到下大概可以分成四层芯片与硬件层、云计算基础设施层、模型与算法层、应用与软件层。最上游的芯片层目前是高度集中的市场。高性能算力芯片的供给被极少数几家公司卡住任何云厂商想要扩张算力池都得按上游的定价来采购。这一层的议价权最强因为它握着整个生态的物理底座。云计算基础设施层是第二道关卡。它向下采购芯片、向上提供算力服务两头都有话语权。由于数据中心投入巨大、地域网络效应强头部云厂商对中小用户有很强的锁定能力。你在某个云上跑通应用之后迁移要付出的不仅是工程时间还有数据出口流量费、网络配置重构、安全策略合规等一连串隐性成本。模型层是目前竞争最激烈的环节。开源模型和商用模型同时存在价格战打得很凶单次推理单价一降再降。这层看起来对用户有利但要注意一点模型层的价格战最终会压缩模型公司的利润空间逼着它们更依赖云厂商的分发渠道。软件层是最接近用户的环节也是成本转嫁的最后一环订阅涨价和功能分层几乎都发生在这里。整体看议价权的排序是芯片层大于云厂商层云厂商层大于模型层模型层大于软件层。用户则处在链条的最末端对价格几乎没有直接影响力能做的就是提前识别转嫁信号。4.2 三种可能的长期格局基于现有的定价结构和博弈关系我推演了三种很可能出现的长期格局它们不会只存在一种更可能在不同细分市场里同时发生。第一种是算力成本持续下探单位价格下降消化投资压力。如果制程工艺和推理优化持续进步单次智能调用的真实成本会低到几乎可以忽略。这种情况下转嫁给用户的压力会被技术进步抵消掉一部分AI功能会像带宽和存储一样变成基础设施的水电煤。第二种是供应商完成市场教育后逐步把价格上调。免费试用和低价补贴的目的从来都是培养使用习惯一旦企业的业务流深度依赖某个AI服务替换成本就会成为供应商涨价的底气。云厂商年度合同里越来越常见的“承诺消费性折扣”就是前奏——用优惠换承诺用承诺锁预算。第三种是开源与自托管生态崛起企业选择把成本锁死在硬件折旧里。随着开源模型的能力逼近商用模型有一定技术储备的企业会倾向于在私有云上自建推理服务。这条路的前期投入不低但长期边际成本可控尤其适合调用量已经稳定的大中型业务。我在几个客户那里看到的情况是大型公司往往选择混合路线核心业务自建算力长尾场景继续用云服务。两边同时跑用真实数据对比谁的单位调用成本更低。这个策略短期内看起来很折腾但长远来看是最稳的。5. 真实项目里最常见的成本陷阱最后这部分没有理论全是我从项目现场踩出来的教训。AI成本失控很少是单一原因造成的通常是几个小坑叠在一起等账单出来才反射过来。5.1 容易被忽视的四个计费盲区第一个盲区是只算推理单价不算网络与存储。很多云平台的计费里模型调用只是其中一项数据存储、读请求次数、出口带宽、日志持久化都会独立计费。一个每天处理百万级文本的应用光存储历史会话记录这一项就可能占掉总账单的一两成。第二个盲区是重试请求。大模型偶尔会超时或返回异常格式很多工程师的第一反应是写个自动重试逻辑。遇到超时重试没问题但如果把重试次数设成三次每次重试都会真实计费一次。业务高峰期的一次系统抖动可能让当天调用量瞬间膨胀好几倍。我见过一个团队因为粗暴的重试策略一个下午多烧了半个月预算。第三个盲区是上下文累积。多轮对话场景里每轮请求都会把前面对话追加进上下文token数量随轮数增长。用户聊了二十轮之后一次请求消耗的token可能是第一轮的十几倍。界面端用户觉得只是多说了几句话账单端成本却是指数级的。第四个盲区是开发测试环境。生产环境的成本容易引起注意测试环境往往被忽略。模型调参、回归测试、压测演练每次调用都在真实计费。尤其是有多个开发分支并行的时候测试账单的累积速度比想象中快很多。5.2 建立AI成本的复盘机制控制AI成本不是一次性动作而是一个持续循环。我自己的习惯是每季度把账单按业务模块拆一遍分模块查看五个指标调用量变化、平均单次token数、模型单价变化、缓存命中率、异常调用占比。这套复盘看起来简单却总能提前发现问题。有一次我们在复盘时发现某条业务线的调用量没怎么涨但token数翻了三倍追查下去原来是产品经理为了提升回答质量把系统提示词从几十字扩到了上千字。提示词变长每次调用成本同步上涨。发现问题后只花了半天改提示词账单立刻降了四成。还有一个值得推荐的机制预算熔断。在云平台控制台设置每日消费上限或者用第三方成本监控工具做告警。当单日消费超过正常值一点五倍时系统自动暂停非核心链路的调用。宁可短时间内损失少量可用性也绝对不要让一次配置失误变成整个月的成本灾难。根据我自己的经验AI成本管理最核心的原则是AI功能必须有一个成本红线。没有成本红线的功能本质上是在用供应商的免费期做自己的业务假设而免费期必然有结束的一天。提前想清楚单次调用成本能接受的上限把它写进产品需求里比事后优化账单要省心得多。