缓存留到十二小时,写入价先翻倍

OpenAI 把缓存留到了半天。

10 月 21 日,负责人 Tibo 在社交平台上公布了这件事。

API 一侧可以选 12 小时缓存。

Codex 和 Work 的登录用户,缓存永久保留。

话说得轻。

落下来不轻。

这是他那份 28 天计划的第 16 天。

前半个月,多半是重置和小修补。

AI工具的账,常常就记在缓存这一行。

Tibo 推文截图

Tibo 的 Day 16 更新,写着 API 可缓存 12h

更新之前,他先认了一件事。

周末有一批用户的额度掉得比预想快。

查下来,问题出在套餐额度限制的判定上。

约 4 万个账户受影响。

他们正在逐个联系,信用点会补回去。

他写了句 sorry,说自己搞错了。

Tibo 说明截图

Tibo 说明额度异常,约 4 万个 accounts 受影响

文档里写得很细。

API 的缓存选项对 GPT-5.6 及以上版本生效。

默认留 30 分钟。

想留久一点,勾 12 小时。

但价格不是白给的。

选了 12 小时,缓存写入价从 1.25 倍涨到 2.5 倍。

读的时候还是原价。

换句话说,省钱的门票先涨价了。

AI编程里最费的,是反复读同一段代码。

换算一遍,长上下文的账会更明显。

命中一次省下的,正是写入时多付的那部分。

缓存计费表

官方文档的对照表,GPT-5.6 and later 单列一档

真正含糊的是另一句。

这两个登录端的永久缓存,官方还没发公告。

到底永久到什么程度,现在说不清。

是缓存状态一直留着。

还是命中之后按什么价算。

或者干脆算一种用户权益。

这几种解释差得很远。

从机理上猜,真留着不太现实。

每天产生的键值缓存是海量数据。

没人会为不回来的对话一直付存储。

更可能是重算的时候不计费。

文档里还有一段,专门讲这个边界。

12 小时说的是缓存读取计费资格的最短生命周期。

它不保证每次请求都能复用已经存下的键值张量。

也不保证延迟会降。

这三件事,很多人混着说。

12 小时说明

文档里 30-minute 与 12-hour 覆盖期的换算说明

缓存能留多久,命中率高不高,请求快不快,是三件事。

12 小时这条线,只决定按不按缓存命中计费。

把它当成速度承诺,就会失望。

AI对话聊到一半走开,回来还能接着算,这是另一回事。

这次更新的味道,更像补贴。

不是把缓存变便宜,是先给你一个更长的窗口。

时间点也很巧。

就在昨天,DeepSeek 开源了推理框架。

里面有一项设计目标,缓存保留到 3 天。

对比它原来默认的 30 分钟,差得不是一点。

缓存这条线,开始有人抢了。

Codex安装汉化 中转站 微信:douhanq