1. 一笔3亿美元的账单全员AI从效率神话到成本失控先看一笔让人后背发凉的账Salesforce在公司里全员推广Claude之后半年时间光是API调用就烧掉了3亿美元。这不是哪个创业公司被薅了羊毛是一家老牌软件巨头的真实账目。按这个规模折算平均每个月模型支出在5000万美元量级每天折合上百万美元粗略平摊到员工头上等于每人每天光在AI上就要花掉二十几美元。这个数字放在IT预算里已经不是“创新投入”而是可以直接把CFO请出来开会的那种。很多团队引入生成式AI的路径其实是一模一样的先让小团队试用发现效率确实高于是快速放开给全员一开始没人关注成本直到某个月的账单从天而降才发现所谓“提效工具”已经变成了“现金粉碎机”。Salesforce不是第一家也绝不会是最后一家。我写这篇内容就是想把“Token到底是怎么烧掉的”这件事讲透顺便给准备大规模上AI的团队一份可以照着做的成本治理清单。1.1 从“体验不错”到“全员推送”门口只差一次POC我接触过的企业里AI铺开速度往往比想象中快得多。原因很简单试用的人在周报里写“帮我省了半天时间”管理者听到立刻就想要全公司都用上。Salesforce这个案例基本也是这个节奏员工用Claude写代码、整理销售邮件、做知识库问答甚至内部运营文档也丢进去生成摘要。每一件事单看都不贵但几万人每天在反复使用用量曲线就不是线性上涨而是越跑越陡的指数曲线。等到账单汇总出来3亿美元的成本已经烧完了。这条路径里最危险的不是某个人滥用而是“全员都在正常使用”。正常使用的规模一旦放大成本就会失控。这也是为什么我一直主张企业引入AI时要先把“观测”和“配额”做在前面而不是等出了账单再做。POC阶段一定要顺便验收集成方式和计费模式不要只盯着“能不能用起来”还要问一句“用起来之后谁来买单”。1.2 真正烧钱的大头Agent类应用而不是普通问答很多管理者会把“AI很贵”等同于“聊天工具用多了”。实际上普通Chat模式的消耗并不大一次问答从输入到输出通常只是几千到几万个Token。真正让人预算爆掉的是Agent类应用Claude Code就是最典型的代表。Agent的任务逻辑是循环式的读文件、搜代码、执行测试、看到报错、再读文件、再改代码每一步都是一次模型调用而且前一步产生的工具结果、日志、中间思考都会累积进上下文。等于原本一次聊天能说清楚的事情Agent会反复做十几轮“自言自语”每一轮都在计费。这个放大效应非常恐怖一个不复杂的Bug定位任务都可能跑出几十万Token。可以打一个比方普通AI问答像在餐厅点一份套餐菜单和价格都写在明面上Agent更像包下后厨让厨师自由创作他每试一次菜、每换一种搭配费用都在往上加。你最后得到的可能是一道好菜但整个过程的成本完全取决于厨师折腾了多少次。1.3 订阅制给了你“随便用”的错觉API账单会教你做人还有一个心理陷阱值得单独说很多个人开发者已经习惯了“包月随便用”于是默认企业内部也会是这种模式。但实际上企业大规模接入时走的是API按量计费每一百万个输入Token、每一百万个输出Token都在账单上写得清清楚楚。订阅制给人的错觉是额度内免费API模式则完全不同它没有“免费”的感觉只有“用量乘单价”这个冷酷的公式。这也是为什么不少团队在初期完全感知不到成本因为日报周报不会显示Token消耗只有财务月报会。所以Salesforce开始给AI“算账”、想办法“抠Token”本质上不是AI不行了而是成熟企业从“尝鲜期”进入“经营期”的标志。接下来我要聊的就是这笔账到底怎么算以及怎么才能把成本实实在在地抠下来。2. 把Token账算明白输入、输出、缓存和那条上下文长线很多人一听到Token就头大因为这个词在前后端开发里也常见什么JWT Token、Access Token、refresh token两边同名含义完全不同。这里先把口径统一我在本文里说的Token是大模型计费的基本单元而不是登录鉴权时的身份凭证。理解了这一点后面聊成本才不会有偏差。2.1 Token是什么模型不是按“词”收钱而是按“原材料片段”收钱Token可以理解为模型处理文本的最小单位。它既不是严格意义上的“单词”也不是“汉字”而是模型把一个句子拆成的若干片段。经验上一个英文单词大约等于1到1.5个Token一个汉字大概在1到2个Token之间。模型做推理时就是把这些Token喂进神经网络进行计算。生活化的理解是你在裁缝店做衣服商家不是按“几件衣服”收费而是按“用了多少布料”收费不同款式布料用量差别巨大。Token就是那块布料的尺一段话越长、越绕、夹带的文件越多被拆出来的Token就越多账单自然越贵。这里也顺便说一个常见误区不要单纯用字数来判断成本。同样一万字的项目文档英文和中文的Token数可能不同同一段代码是否压缩格式也影响Token切分。真正严谨的口径只有一个去看API调用记录里返回的usage字段。2.2 为什么输入便宜、输出贵缓存又能便宜这么多要“抠Token”你得先知道一次API请求里到底有哪几笔钱。下面这张表是一个简化参考价格以模型官方定价页为准各家厂商会调整计费项大致价格每百万Token说明普通输入3美元左右Sonnet级别模型“读”你的文本缓存命中读取0.3美元左右相同前缀已被计算过直接复用结果缓存写入3.75美元左右第一次把某段内容写进缓存时计费输出15美元左右Sonnet级别模型“写”出新的内容成本最高输出比输入贵原因在于生成是模型一层层“猜下一个Token”的过程推理算力消耗明显更大。而缓存命中之所以便宜是因为同样的文本模型已经计算过一次不需要重新跑一遍。这个机制是整个成本优化的关键。这里也解释了一个反直觉现象为什么有人只是把一段很长的项目背景贴进去就花了不少钱因为第一次贴进去的是普通输入还要额外产生缓存写入费用第二次如果能在同一会话或同一前缀下复用才可能享受到低价。完全不利用缓存等于每顿都从买菜洗菜开始做成本自然高。2.3 一次真实Agent任务拆解几十万Token是怎么花掉的拿一个很常见的场景举例让Claude Code修复某个接口的Bug。第一轮AI读入任务描述、项目说明、目标文件和相关模块假设输入了1万个Token然后给出了一个初步修改输出700个Token这一轮成本非常低。但Agent不会就此结束它会继续执行测试命令测试失败后把几千行报错日志和堆栈读进来再分析、再修改、再跑测试。这样循环五六次一次任务累计消耗二三十万Token是常态。如果任务更复杂需要同时理解前端、后端、数据库三块代码AI会反复引用大文件甚至把仓库里十几个文件都拖进上下文。这时候单次任务成本还会进一步上升。我按上面的价格粗略算过一笔账假设一个会话累计30万Token其中20万是缓存命中读取10万是普通新输入输出5万Token总成本约1.1美元。费用项Token量单价每百万Token小计普通输入10万3美元0.3美元缓存命中读取20万0.3美元0.06美元输出5万15美元0.75美元合计——1.1美元一次任务1美元出头听起来是不是还行但一个重度开发者一天可能要跑20个类似任务那就是20多美元如果一个千人规模的研发团队都这么用一天就是2万美元一个月就是60万美元。再往上推到Salesforce的体量半年3亿美元就不难理解了。2.4 Credits、订阅额度与Token的换算陷阱网上经常有人问“2500 credits相当于多少Token”我劝大家不要把精力花在这个换算上。Credits是订阅套餐里的额度包装它按标准价格折算不同模型消耗Credits的速度完全不同用Opus级别模型跑任务消耗速度远快于Haiku级别所以并不存在“多少Credits等于多少Token”的固定公式。对个人用户真正该看的是客户端里的用量统计对企业用户API后台的usage字段才是最准确的依据。你只需要关注四个数字input_tokens、output_tokens、cache_creation、cache_read把这几项拉出来乘上单价就是一笔清清楚楚的账。3. Token失控的第一现场Claude Code进企业时的三个闸门Claude Code是目前把Token消耗放大得最明显的工具之一它也确实好用。但正因为好用它进入团队时最容易踩到成本坑。我在多个项目里测试过也帮朋友团队排查过相关问题这里把最值得注意的三道闸门列出来。3.1 装好、登好先把“登录反复失败”的隐性浪费堵上安装本身不复杂通过npm全局安装即可npm install -g anthropic-ai/claude-code然后在VSCode扩展市场搜索Claude Code安装官方扩展在终端里运行claude进入交互界面按提示登录账号或配置API Key。桌面端Claude的登录逻辑也类似关键是保证登录态稳定。登录环节是我见过翻车最多的地方。不少同学会碰到类似sign-in could not be completed token exchange failed的报错甚至看到token endpoint返回403。这里要提醒一句这个Token是身份鉴权用的OAuth令牌跟计费Token没关系。出现这类报错通常需要排查的方向是网络策略是否拦截了登录请求、本机系统时间是否同步、凭证是否过期或存在并发登录冲突。如果是自建统一网关接入建议把令牌续签机制做好比如用JWT加refresh token的常规思路目的只有一个让登录状态足够稳定。为什么我把这一步归到“省Token”里因为登录失败看似不产生模型费用但会反复打断Agent会话。一旦会话中断前面加载的上下文很可能作废重新登录后又要重新读取项目信息这部分重复消耗完全是冤枉钱。所以先把身份链路理顺是在给后面真正的Token成本把关。3.2 在VSCode里启用“经济模式”权限、轮次与文件范围Claude Code默认是很有“主动性”的配置不好容易失控。我建议在项目的.claude/settings.json里做一套“经济模式”配置核心是控制它能碰什么、跑多久、读多少。{ permissions: { allow: [ Read, Glob, Grep ], deny: [ Bash(rm -rf), Bash(git push) ] }, max_turns: 15, model: sonnet, include: [ src/**/*, tests/**/* ] }这个配置的含义是默认只允许读文件、搜索文件、正则匹配内容这三类相对安全的操作不允许执行删除命令或推送Git限制一次任务最多15轮交互默认使用Sonnet级别模型只让AI读取src和tests目录避免它把整个仓库都扫描一遍。很多人忽略include这一项结果AI为了找一个函数把node_modules、构建产物、历史文档全读进去了一次请求的输入Token直接翻了几倍。限范围不是限制能力而是让AI把注意力放在真正相关的文件上。另外建议定期检查客户端里自动启用的MCP服务。每挂一个MCP工具系统提示词里都要写入工具说明这些说明本身也是Token。只保留项目真正用到的工具其余关掉长期能省下不少输入成本。3.3 权限、审计、预算一起上别让成本变成糊涂账如果团队规模超过十个人靠“自觉”是不现实的。我在给企业做建议时通常会要求把成本治理拆成三件事。第一给不同团队配置不同的API Key或项目标识这样每一笔Token消耗都能归属到具体团队。第二在模型网关或统一入口做日志采集至少要记录以下字段字段说明session_id会话唯一标识user_id / team使用人或团队model使用的模型input_tokens普通输入Token数output_tokens输出Token数cache_read_tokens缓存命中读取Token数cache_creation_tokens缓存写入Token数cost_estimate本次调用的估算成本task_type任务类型方便后续路由优化第三设配额。比如单个会话超过一定金额直接切断新请求单个团队日消耗超过预设值自动将模型降级。这个逻辑就跟云资源的成本告警一样宁可先保守也不要账单爆炸后再拉闸。把这三件事做完才算是给AI上了“仪表盘”。没有仪表盘谈“抠Token”只能是靠感觉省钱。4. 成本治理实操我整理过的Token治理清单接下来是全文最核心的部分。我把自己在实际项目里验证过、确实能降成本的做法整理成了一份清单按优先级排序每一条都说明原理和操作方式。4.1 缓存命中率比压缩Prompt更便宜的省钱方式先说结论提高缓存命中率往往是见效最快的省钱手段比逐字压缩Prompt更划算。大模型在处理一模一样的开头文本时会把已计算过的结果缓存下来后续相同前缀的读取价格只有原始输入的十分之一左右。这意味着只要把“每次会话都会用到”的固定内容放在最前面并且保持稳定这部分Token就能反复以低价读取。实际操作时有三个要点。第一把系统提示词、工具定义、产品背景说明统一放在会话开头并确保它们不会每次动态变化。第二避免在固定文本中间插入时间戳、随机编号或实时数据否则缓存前缀会被打断。第三在Claude Code这类工具中一个会话内部的重复读取会自动命中缓存所以连续任务尽量在一个会话内完成但也不要无限拉长等一个任务告一段落就开新会话。我见过不少团队把动态内容写在提示词最前面导致整段缓存全部失效缓存命中率长期在10%以下。把这个问题修正后只调整顺序成本就能大幅下降。4.2 上下文减肥让AI吃到的信息又少又精很长一段时间里大家喂给AI的信息都是“宁可多给不可漏掉”。但在按Token计费的世界里多给的信息全是要付费的。而且更大的问题是上下文过长还会稀释模型注意力反而影响回答质量。我的做法是三步走。第一步让AI自己找文件而不是人肉把大文件整段贴进去。先用Grep定位关键字再让AI针对性地打开相关代码片段输入量会少很多。第二步日志只给异常片段。不要把几千行控制台输出全部丢给模型截取报错关键字附近几十行就够用模型需要的是“哪里不对”不是“整个运行过程”。第三步任务切换时果断开新会话。旧会话里的历史对话会一直占着上下文方向一变这些历史不仅浪费Token还会干扰新任务。开新会话时用一段简单清晰的任务描述把目标讲清楚比在旧会话里反复纠错更便宜、更准。可以做一个简单对比。同样是“修复一个接口超时问题”传统做法是直接把整个项目的说明文档、接口代码、日志全丢进对话最后它改错了一个无关文件你又追加纠错单次会话可能烧掉上百万Token省Token做法是先让AI用工具搜索定位到超时相关代码只给它看关键文件和异常日志一次任务控制在二十万Token以内。成本差距可以达到数倍。4.3 模型分级Haiku干杂活Sonnet干主活Opus只压轴很多团队为了体验把所有请求都用最贵的模型跑。这个做法其实不划算。不同模型的定位本来就是不同的合理做法是按任务难度分级路由。我通常这样规划日志分类、内容摘要、信息抽取、语法检查这类任务用Haiku级别模型跑单次成本低速度也快日常开发、代码评审、测试用例生成用Sonnet级别性价比最高只有架构重构、跨模块迁移、极其复杂的Bug排查才用Opus级别模型而且要把这类请求限制在少数核心人员手里。用生活里的例子类比你不可能让米其林大厨包办一日三餐的洗菜切菜。模型分级就是让便宜模型承担八成常规工作把昂贵模型用在真正值得的地方。企业侧可以通过网关配置实现自动路由根据任务类型判断用哪个模型并对高级模型设置配额用完自动降级。个人用户也要在自己习惯的客户端设置默认模型不要把“更贵”等同于“更好用”。4.4 配额与告警在账单爆炸前三天发现问题成本治理最忌讳事后追认。等到月度账单出来才发现超标已经晚了。正确的做法是给Token消耗设置多层告警。我给团队常用的阈值方案是这样的单次会话成本超过10美元触发提示单个用户日成本超过50美元触发提醒并限制继续使用高级模型单团队日成本超过500美元立即通知负责人全项目缓存命中率低于40%检查提示词结构。有了这些阈值问题大概率会在发生当天暴露而不是月底。Salesforce那种半年3亿美元的教训本质上就是没有在早期建立任何“刹车机制”。具体落地时可以通过模型网关统一采集usage数据再对接日志或简单看板。不需要一开始就上很复杂的平台先能“看到”才有资格谈“优化”。5. 个人开发者怎么抠Token我实测有效的几件事前面聊了很多企业视角的内容最后这部分我想回到个人开发者。我自己是重型用户几乎每天都在用Claude Code写代码、整理技术方案。攒了一些实测经验分享出来。5.1 让模型“少说多做”的提示词模板一个很常见的浪费是模型回答里夹着大量解释、铺垫、总结。对写代码而言这些内容很多都不需要。我现在的任务描述里通常会加这样一句话请直接输出可用的代码和必要的简短说明不需要解释思路 如果要修改文件请直接调用工具完成修改 不要输出总结性内容。加了一段话之后每轮输出Token能减少30%到50%尤其在“话痨模式”下效果格外明显。对个人订阅额度来说这就是实打实拉长可用时间。但这里要提醒一句压缩输出不是把任务描述写得更简短。任务描述写得含糊AI会猜错方向来回修正的成本远高于一开始多写几个字。省Token的正确姿势是“需求描述精确输出格式紧凑”而不是一句话都不愿多写。5.2 /compact、/cost、/usage会话本身也是一种资源Claude Code里有几个内置命令我几乎每天都会用。/cost可以查看当前会话累计消耗的Token和估算成本任务做到一半我会扫一眼如果成本涨得太快说明方向可能偏了及时止损。/usage可以查看整体配额使用情况适合订阅用户规划当天还能跑多少任务。/compact可以把当前会话的历史压缩成摘要适合长会话继续深入时用能在一定程度上控制上下文增长。我自己的习惯是一个任务一个会话任务结束就开新的。虽然连续调试时旧上下文有缓存优势但上下文过长的副作用也很明显速度变慢、注意力分散。与其在一个超长会话里“硬扛”不如定期清理。这里也可以顺带说一句如果经常碰到登录报错导致的会话中断那才是最大的浪费源先把登录凭证和网络策略问题处理掉再来心疼Token。5.3 把AI当“第二双眼睛”而不是“第一双手”用了半年Claude Code之后我最深的体会是真正省钱的方式不是把提示词压缩到什么程度而是减少无效循环。所谓无效循环就是让AI凭印象生成一大段代码跑起来报错再让它继续改改完再报错这个过程会消耗海量Token。我的调整是让AI先做“侦查”工作读代码、定位问题、给出改法思路我再人工确认方向然后再让它动手。这样看起来多了一个来回实际上总Token消耗反而大幅下降因为错误方向上的返工被掐掉了。这个思路同样适用于非编程任务。无论是写文档还是做分析先让模型列大纲、给观点人看一眼觉得对路再让它展开详细内容。AI是第二双眼睛人仍然是第一双手分工明确了Token自然省下来了。6. 算完账之后我更想聊的其实是这三件事文章写到这里价格表和命令都讲得差不多了。最后我想跳出操作层面聊聊成本治理背后真正值得想清楚的几件事。6.1 别把“省Token”理解成“不让用AI”Salesforce烧掉3亿美元这个案例很容易让企业走向另一个极端限制权限、关闭入口、把AI重新关回笼子。这不是我想推荐的做法。成本问题的本质不是“用得太多”而是“不知道谁在用、为什么用、用出了什么价值”。真正该做的是给每一次调用建立可见性。省Token不是目的让Token都花在有效的地方才是目的。就像云服务费用一样你不会因为云账单高就关掉所有服务器而是会优化实例规格、削掉闲置资源。6.2 三件今天就能着手做的事如果看完文章你想立刻行动我建议只做三件事。第一在模型网关或API配置里打开usage日志先搞清楚当前的Token消耗基线没有基线任何优化都说不清楚有没有效果。第二给高频任务配好默认模型别再所有人共用同一个最贵模型模型分级这件事启动成本不高收益却立竿见影。第三为团队设置简单配额和告警先按“单会话成本”和“单人日成本”两个阈值来等数据积累多了再细化到团队和任务维度。把这三件事做完你已经比大多数团队领先一步了。6.3 一个朴素的收尾让AI只做有价值的事我自己在带项目时的经验是AI引入的第一周先不限制让大家充分感受效率第二周马上上观测把用量数据铺开第三周再上配额和告警。这样既不会挫伤积极性也能在账单炸掉之前把闸门关上。“抠Token”是一场长期的精细化管理不是一次性的省吃俭用。能走通这条路的人通常不是最抠门的人而是最清楚每一笔Token换回了什么的人。希望这篇总结能帮你少走一些弯路。