怎么省 token:以 Claude Code 为例(上)


周一刚重置的周额度,周三下午就用完了。

那天我做的事很普通:周二有个项目没聊完,周三下午打开同一个会话接着聊。中途想起部署的事,顺手问了几句;有个报错看不懂,就把整份日志贴了进去。聊着聊着,额度提示弹了出来。

我第一反应是不是哪里出 bug 了。查下来才发现,问题不在我问了什么,而在我每问一句,它都要把周二到周三的全部内容从头读一遍。而且隔了一晚,缓存早就过期了,第一句话就是全价重读。

后来我花了点时间把这件事搞清楚,总结出五个习惯。下面以 Claude Code 为例讲讲,换成 Codex、Cursor 也基本成立,只是命令不太一样。

顺便说一句,省 token 不等于抠门、少问几句。上下文越长越杂,AI 越容易分心:忘掉你定好的规矩,被一份无关的日志带偏,在过时的信息里抓错重点。所以管好上下文,省下的不只是钱,活也干得更好。

先认识四个后面会反复出现的词:

  • token:AI 读写文字的最小单位,也是计费单位。粗略地说,一个汉字大约是一到两个 token。
  • 上下文:模型这一次能“看见”的全部内容,包括你说的话、它读过的文件、它跑过的命令的输出。
  • 缓存:如果这次发的内容开头和上次一模一样,服务端可以不重新处理那一部分,收费也便宜得多。
  • 子代理:主对话派出去干活的帮手。它有自己独立的上下文,干完只带一份摘要回来。

钱到底花在哪儿

大部分 token 不是花在你打的字上,而是花在一遍又一遍地重读上下文上。想明白这一点,后面的技巧你基本能自己推出来。

大模型在两次请求之间什么都不记得。你每发一条消息,Claude Code 都要把系统提示、项目说明、之前的全部对话和工具结果打包重发一遍,你的新消息只是贴在最后(官方文档)。

这就像每次找同事问问题,都得先把你们之前所有的聊天记录从头念给他听,念完了再问新问题。聊得越久,要念的越长。

还有一层更容易被忽略:agent 每用一次工具(读文件、跑命令),就要再发一次带着全部历史的请求。你以为自己只发了一条消息,背后可能是十几次完整的请求。

举个例子:会话开始时上下文是 2 万 token,之后每一轮增加 2 千。下面这张图画的是 50 轮里每一轮实际发出去的量。

每轮实际发送 token 的堆叠柱状图:灰色是重读之前的上下文,蓝色是本轮新增

灰色那一大片是为重读旧内容付的量,顶上那条细细的蓝色才是每一轮真正新增的。到了最后几轮,你哪怕只问一句“这个变量叫什么”,也得背着十几万 token 一起发出去。一个随口的问题,就可能烧掉好几美金。

那长会话岂不是贵得离谱?其实没那么夸张,因为有缓存:和上一次一样的开头部分,服务端会按便宜得多的价格重读。

但便宜不等于免费,上下文越长,每一轮的“底价”就越高。账单里还有两样更贵的:

  • 输出:模型写出来的内容,单价比输入高。
  • 思考:模型回答之前的“想一想”也按输出计费,默认预算每次请求可能就有好几万 token(来源)。思考强度开得越高,花得越多。

所以一张账单大致是三块:普通输入、缓存读取、输出(含思考)。

上下文里到底塞了什么

对话只是一部分。还有系统提示和工具定义、CLAUDE.md 这类项目说明书、它读过的每个文件,以及它跑过的每条命令的输出。

最后两项往往是大头,也最容易失控。让它读一个两千行的文件,或者贴进一份一万行的日志,这些内容会一直留在上下文里,之后每一轮都带上,直到你清空会话。

先看看你自己的数字

在 Claude Code 里输入 /usage,能看到当前会话用了多少 token、缓存命中率是多少;/context 能看到上下文被哪些东西占着。订阅用户的 /usage 还会按占比列出优化建议,比如提醒你某个 CLAUDE.md 太长、每次请求都要带上一大截。

下面进入正题。

习惯一:开工前选对档位

第一个能动的是模型本身。

大模型更聪明也更贵,小模型便宜、快,简单的活绰绰有余。思考强度同理,想得越深,输出的 token 越多。大部分日常任务用不到最高档。

Claude Code 官方的建议是:Sonnet 能应付绝大多数编码任务,Opus 留给复杂的架构决策和需要多步推理的问题(来源)。用 /model 换模型,用 /effort 调思考强度。我自己的用法是日常用 Opus,真遇到难题要攻坚,再换 Fable 模型。

这里有个坑。你在一个很长的会话里用 Opus 干活,突然冒出个简单问题,心想切到便宜的模型问一下就好。结果反而更贵:每个模型的缓存是分开的,中途一换,下一次请求就得把整段历史不走缓存地重读一遍(来源)。会话越长,这一下越疼。

所以档位开工时就选好,中途别动。真有简单问题,另开一个新会话去问最划算。

Codex 也一样,按任务难度选推理档位:范围明确的小任务用低档,复杂的改动和调试用中高档。

习惯二:让上下文保持小

五个习惯里,我觉得这一节最重要。

回想前面那张图:上下文里每多一样东西,之后每一轮都要为它再付一次钱。与其琢磨怎么让每一轮便宜一点,不如从源头别让上下文长那么大。我常用的有下面几招。

一件事,一个会话

最简单也最有效:换了话题,就开新会话。

开头那件事里,我在那个项目的会话里顺手问了部署的事。那几句讨论对项目本身毫无用处,却跟着之后的每一条消息一起发了出去。当时要是另开一个会话问,这笔钱根本不用花。

/clear 就能开一个干净的新会话。舍不得旧会话,清空前先用 /rename 起个名字,以后用 /resume 还能找回来。

清空和压缩,别搞混

另一个选项是 /compact:把之前的对话总结成一段摘要,替换掉原来的长历史。

区别在于,/clear 是直接扔掉,不花钱;/compact 得先把整段对话读一遍才写得出摘要,它本身就是一次大请求(来源)。

后面还用得上前面的结论,就压缩;用不上,就清空。压缩最好挑任务之间的自然停顿来做,别拖到上下文快满了、在任务做到一半时自动触发。压缩时还能指定重点,比如 /compact 保留测试结果和改过的文件。

用一份交接文档代替整段历史

长任务很少能在一个会话里干完,会话拖得越久,上下文越重。我的做法是:干到一个段落,让 AI 把当前状态写进一个文件,然后开新会话,第一句话就是“先读这个文件”。

下一班的人不需要知道上一班聊了什么,只需要知道现在什么情况、接下来干什么。一份够用的交接文档包括:

  • 目标:这件事最终要做成什么样
  • 已完成:做了哪些,改了哪些文件
  • 当前状态:卡在哪儿,哪些测试还没过
  • 下一步:接下来按什么顺序做
  • 踩过的坑:试过但行不通的方案

最后一项一定要写。不写的话,新会话很可能兴冲冲地把你否掉的方案又提一遍,你还得再花一轮去拦它。

这样一份文档通常只有几百 token,却能顶替几万 token 的历史。隔天你自己回来,也能一眼看懂做到哪儿了。

别把大块头喂进去

很多时候上下文是被一次操作撑大的,最常见的三种:

  • 需求太模糊。“帮我改进一下这个项目”会让它满仓库地扫;“给 auth.ts 的登录函数加上输入校验”只需要读一两个文件。
  • 整份日志直接贴。一万行日志里有用的往往就那几行报错,先自己筛一遍再贴。
  • 测试输出太长。进阶一点,可以写一个 hook,测试跑完只把失败的部分交给 AI,能把几万 token 的输出压到几百(来源)。

给说明书减肥

CLAUDE.md 每个会话一开始就加载,之后每一轮都带着,所以它的长度会被放大成每一轮的固定成本。

常见问题是什么都往里写:代码规范、目录结构,再加上“怎么做代码审查”“怎么做数据库迁移”这类只在特定时候用得上的流程。做无关任务时,这些也一直白占地方。

官方建议把 CLAUDE.md 控制在 200 行以内,只留每次都需要的东西,特定流程挪到按需加载的 skill 里(来源)。

工具也会占地方

最后是工具。现在的 MCP 工具默认延迟加载,一开始只有工具名进入上下文,已经比以前省多了。不过 gh、aws 这类命令行工具还是更省,连工具列表都不占。用不到的 MCP 服务器,可以在 /mcp 里关掉。

这几招放到 Codex 上几乎原样成立。OpenAI 的建议同样是一个会话对应一个完整的工作单元,AGENTS.md 要短而准、太大就拆开,长任务用 PLANS.md 这样的执行计划来接力,工具只接真正用得上的。

下篇预告

上篇说的都是上下文里该放什么、不该放什么。

下篇讲怎么让同样的上下文花得更值:怎么别把缓存打断,怎么少走弯路、少返工,什么时候该把脏活派给子代理。最后还有一张覆盖全部五个习惯的检查清单。

继续阅读:下篇

参考