资讯动态

Token 成本优化实战:省钱的六个抓手

发布时间:2026/10/21 6:46:26 来源:尧图企业网站定制
Token 成本优化实战省钱的六个抓手前言Agent 基座系列番外第四篇。用 AI 写一个小工具同样的活花三块还是花三毛差别不在模型选得多贵在用法。上一篇讲怎么看清成本可观测这篇讲怎么把成本降下来——六个抓手按杠杆从大到小排前三个决定数量级后三个决定零头。一、先看懂账单钱花在哪优化前先有直觉。一次典型会话的成本结构构成占比直觉说明输入 token大头常占 80%每轮都重发整个上下文输出 token小头生成的代码和回复缓存命中决定输入的单价命中部分便宜数倍两个推论直接从这张表出来省输入比省输出值钱——少生成一百行代码省的是小钱少带一万个 token 的无关文件省的是每轮都重复交的大钱输入是「每轮重交」的——会话第十轮还在带着第一轮塞进来的无关文件付费。一个 token 的垃圾进了上下文成本要乘以剩余轮数。所以下文所有抓手的本质就一句话让每一轮发出去的上下文里只有该在的东西。二、冷启动上下文里不该有什么新会话的第一轮就把成本定调了。三个纪律全局配置文件要精简CLI Agent 的全局指令文件CLAUDE.md 之类每轮常驻上下文。写进去的每一条都要过一道筛这条规则本任务用得上吗用不上的挪到按需加载的 skill 里——机制第八篇讲过description 常驻、正文按需成本视角再看一遍常驻内容是按轮数付费的订阅按需内容是一次性开销别把整个目录喂进去「帮我看看这个项目」然后把几万字源码全贴进对话——冷启动最贵的错误。让 Agent 自己用搜索工具找它扫的是关键词命中的几个文件不是全库任务开始前清场拿一个干净的工作区开新任务别在上一轮任务的长会话里续。旧任务的上下文对新任务几乎全是垃圾且每轮都在付费。三、会话内缓存友好的结构提示词缓存prompt caching是省钱杠杆里最被低估的一个前缀完全一致的部分走缓存价便宜数倍。它的规则是「从头开始逐字比对第一个不一致的字之后全部全价」。由此推出摆放纪律稳定的在前多变的在后系统指令、工具定义、参考资料放前面且保持字面稳定用户的最新指令、易变的数据放后面。顺序一反每轮缓存全部失效别手贱改前文会话中途「优化」一下前面贴过的材料改个格式、调个措辞一次看似无害的改动让整段前缀缓存作废后面每一轮都全价重交参考文档一次性给全分三次挤文档等于把文档内容交了三遍且打断了缓存前缀。要么一次给全要么走第五篇的按需检索。四、任务级模型分级路由不是每一段活都值得用最强的模型。一个开发小任务的真实分布大量试探性操作看文件、跑命令、改格式 少数关键决策架构取舍、疑难 bug。分级策略段特征用什么探测读文件、试结构、跑通最小链路快模型便宜、够用收尾关键逻辑、难调的 bug、最终审查强模型贵、值总结整理结论、写文档快模型落地方式就是第三篇的网关路由虚拟 key 上配模型映射客户端无感切换。判断标准很简单这段活的错误成本高不高——试错段错了重来就是用快模型收尾段错了整个任务翻车用强模型。全任务顶配模型是为 10% 的关键段给 90% 的廉价段交奢侈品税。五、读多写少的活隔离与瘦身大量阅读扔给子代理「看十篇文档总结要点」这类活阅读过程会产生海量输入 token。丢给 subagent第八篇在它自己的上下文里读只把结论带回主对话——主会话为这个任务付的输入从十万级降到千级。判别式过程 token 远大于结论 token 的活都该隔离工具返回值瘦身Agent 的上下文大头常常是工具返回浏览器扫描做简化第九篇、日志只给摘要、数仓大结果分批拉第四篇。这些机制当时是稳定性设计成本视角是同一件事——工具返回多少上下文就重交多少轮中间产物落盘会话里生成的大块内容报告、数据写文件对话里只留路径和摘要。留在对话里 每轮重交落了盘 只在需要时读回。六、最贵的一件事挤牙膏式对话所有抓手里杠杆最大的一个也最不技术把需求一次说清。挤牙膏式的典型过程先说「写个脚本处理数据」→ 跑了不对补一句「哦要过滤掉测试数据」→ 又不对「日期格式是字符串」→ 再不对「输出要按店排」……每一轮返工都带着全量上下文重交一次十轮下来 token 是一次说清的十倍还不算走岔路的废动作。一次说清的模板开发小工具场景五件套目标干什么、给谁用 输入数据样例真实格式别口述 输出长什么样、写到哪 约束语言/依赖/命名已有的类似脚本可参考 边界什么情况该报错而不是硬跑写这五行花两分钟省的是后面八轮。多数人省 token 先想着换便宜模型其实最大的浪费一直发生在需求侧。踩坑清单只盯单价不盯总量换了个便宜一半的模型就觉得省了上下文里带着三万字垃圾——单价乘以浪费的量还是贵缓存悄悄失效不知道某轮成本突然翻倍大概率是前文被改动导致缓存击穿。排查方法对比相邻两轮的输入 token突增点就是失效点为省 token 牺牲正确性该给的数据样例不给、该给的上下文砍掉Agent 猜错了返工一轮比省下的贵。瘦身的对象是「无关」不是「必要」长会话里做新任务第 N 轮的新任务带着前 N-1 轮的全部包袱。任务边界处开新会话 落盘交接第五篇的记忆设计是成本和质量的双赢。参考资料AnthropicPrompt Caching 文档本系列第三篇《企业级 AI 底层搭建详解》—— 网关路由与虚拟 key本系列第五篇《Agent 上下文管理详解Prompt Caching、压缩与记忆》—— 缓存机制与记忆设计的原理篇本系列第八篇《Claude Code 效率倍增Skills、Hooks 与定制化详解》—— skill 渐进披露、subagent 隔离本系列番外二《Agent 可观测性》—— 成本看板省钱先看清单

读完文章,也想定制专属网站?

尧图设计师 24 小时内与您沟通定制方案

免费获取报价 →
↑