很多人最近有个直觉:AI 回得越来越快,那它应该越来越省才对。但一份近日公开的机构统计给出的答案正好相反——真正吃掉算力的,已经不是你亲手打出来的那行字。
七倍是从哪冒出来的
据中财网援引的机构研报数据,2026年9月,AI 智能体(Agent)每周消耗的 Token 量已经达到人工交互的 7 倍,而且其中近九成属于缓存输入。
这两个数字值得拆开看。所谓缓存输入,可以这样理解:你把一份材料丢给 AI,让它去查、去改、去跑工具。它每往前走一步,都要把此前的对话、工具返回的结果、你给的背景重新"读"一遍。你看到的是屏幕上回了一句话,后台走的却是几十次上下文重放。执行轮次越多,重复读取越重。
这也解释了为什么有些任务"看着简单、跑起来很贵":一句"帮我把这份表整理成报告",背后可能是检索、比对、改写、复核几十个来回。
收费方式也在跟着改
同一份统计还提到几个变化:微软 Copilot 付费席位已超过 3000 万,ServiceNow 的 AI 年合同金额突破 10 亿美元,69% 的标普 500 公司已上线 AI,其中 29% 给出了量化成效。
更值得注意的是付费逻辑本身。研报的判断是,收费模式正从按 API 调用、按 Token 计费,转向按席位、按动作、按结果付费。翻译过来就是:以后你可能不是为"它说了多少字"付钱,而是为"它办成了几件事"付钱。
这跟普通人有什么关系
至少有两条很实在。
第一条是比价方式要变。摩根大通资产管理在近期观点中提出,智能体应用增加 Token 消耗,使推理成本成为模型选择中更重要的变量;比较模型应着眼于完成任务的整体成本,因为不同模型为获得结果所消耗的 Token 数量存在差异。换句话说,"这个模型每百万 Token 便宜三成"不等于"办完这件事便宜三成"——绕远路的模型,单价再低也白搭。
第二条是快慢的秘密。你感觉到的"第二次问更快",很大程度上来自缓存命中:同一件事重复问,系统不必从头读一遍上下文,于是又快又便宜。这也是为什么断点重问、开新会话重问,价格体验会不一样。
记分牌正在换
把这三件事串起来看,模型竞赛的记分牌正在悄悄更换:从"谁更聪明"换成"办完一件事要烧多少算力"。榜单分数是给开发者看的,单任务成本才是给掏钱的人看的。
对个人用户来说,这是一个很实用的提醒:以后判断一个 AI 工具值不值,不要只看它回答得多漂亮,要看它把一件事从头办完,到底绕了多少圈。绕圈少的那个,才是真省。