值得学什么
这是一份具体的成本排查记录:对话历史怎样变化、截图何时移除,都会影响缓存。适合正在做多轮 Agent 的人对照自己的请求日志阅读。
准备
了解模型 API、多轮对话和 prompt caching;不要求有浏览器自动化项目。
动手试试
固定模型和任务,每轮记录输入 token、缓存命中量、延迟和费用。只改变截图清理频率,比较逐轮与分批清理;把命中和未命中的请求分开,并核对任务完成率。
阅读依据
已读 Asana 工程博客。文章介绍扩大历史预算、缓存工具结果和分批移除截图;其中 76 倍成本差异还包括更换模型。
Agent 系统 · 系统与效率 · 评测与基准 · Browser Agent · Prompt Caching · Context Management · Inference Cost