给团队上的 Agent 跑了两个月,账单出来就是一个总数:这个月四千七百多。你想知道是哪几个任务烧的,后台只能按天拉曲线,往下再拆就拆不动了。
这不是你一个人的问题。Agent 和聊天框不一样,一次任务背后是几十次调用:把邮件分个类、从文档里抠一个日期、决定下一步走哪个分支。这些步骤一点都不难,却全都跑在你当初写代码时定的那个模型上——通常是当时最稳的那个,也就是最贵的那个。上线之后没人回去改,改了怕出错,不改又看不出钱花在哪,于是就这么一直跑着。
今天在 Product Hunt 排到第二的 Navige,做的就是这件没人回头的活。它把自己放在 Agent 和模型之间,改一行 base URL 就能接上,然后在每次调用真正发生之前做判断:这一步够不够简单,够简单就挪到小模型上;工具返回的一大坨结果,塞进上下文之前先裁一刀;同一个文件刚读过,这次直接复用;某个步骤连着失败,先掐掉,不再烧下一次调用。它有个规矩我很认同——只往下走不往上走,拿不准就保留你原来那个模型;省下来多少和估算能省多少,两个数分开写,不混在一起报。
真正值钱的其实不是路由,是它点出来的那几处浪费:模型错配、工具输出膨胀、失败之后的循环、重复读取。这四样在账单上全都看不见,只会变成月末那个变大的总数。
入口也做得克制:免费那档只观察不改动,出周报告诉你哪些钱可以不花——它给的样例是一周 242 美元里能省 41 美元,来源就是重复的工具调用和一个被提前掐掉的循环。等你看清楚数字再决定开不开控制。收费也不按调用量,而是从实际证明省下的钱里抽成。
话说回来,省多少是它自己算的,得把你真实账单并排放在旁边对;只降不升也挡不住便宜模型给出似是而非的答案,这类偏差它标不出来。多一层代理,也就多一处可能出问题的地方。
模型和线路一轮轮换,账得自己看得懂。把这些收在一处管,交给EasyAPI就够了。