Posts for: #Prompt Cache

一个 web_search 开关,账单涨了四五倍:复盘 Codex 在 Bedrock 上的提示词缓存事故

一个 web_search 开关,账单涨了四五倍:复盘 Codex 在 Bedrock 上的提示词缓存事故

有人把 Codex 挂到 AWS Bedrock 上跑 GPT-5.6 Sol,账单凭空多出上千美元。追根溯源,85% 的钱花在了 cache-write 上,而根因只是一个刚打开的 web_search 开关。本文复盘这起提示词缓存事故的完整链路,以及它对 agentic 工作流成本管控的启示。

[阅读更多]

我们搞定了 Prompt Cache,流水线反而更慢了:Codex App-Server 的四个反直觉真相

我们搞定了 Prompt Cache,流水线反而更慢了:Codex App-Server 的四个反直觉真相

很多人想当然地认为用 Codex App-Server 复用线程一定比每次 codex exec 更快更省,但真实基准测试显示:最快的那一轮 cache 命中率是 0%,最便宜的是最朴素的基线方法。本文拆解了四轮对照实验的完整数据,揭示 schema 如何暗中吃掉你的 cache、线程历史如何成为双刃剑,以及 app-server 真正的设计意图。

[阅读更多]