← 返回 Blog

隐式缓存默认开启却没人用:企业 Gemini 用户错过的 90% 折扣到底是什么

Google 官方文档写得明明白白:自 2025 年 5 月 8 日起,Gemini 2.5 及更新模型默认开启隐式缓存(implicit caching)。当多条请求拥有相同的前缀内容(例如超长系统提示词、固定背景文档),Gemini 后端会自动缓存这些公共部分。缓存命中后,这部分输入 token 费用直接降为标准价格的十分之一——即 90% 的折扣。隐式缓存完全免收存储费,且节省的费用会自动返还给用户。

GeminiGoogle Cloud 暗藏的90%折扣

Google Cloud 暗藏的90%折扣:看得见却拿不到的Gemini隐式缓存

所有 Google Cloud 项目都默认启用了一项可立即生效的折扣机制。无需签署合同,不用申请配额,甚至不需要手动开启。它就静默存在,等待你的请求触发。

但真正从中受益的企业寥寥无几。

这并非功能缺陷,而是认知错位问题。

折扣早已开启,却无人察觉

Google 官方文档写得明明白白:自 2025 年 5 月 8 日起,Gemini 2.5 及更新模型默认开启隐式缓存(implicit caching)。当多条请求拥有相同的前缀内容(例如超长系统提示词、固定背景文档),Gemini 后端会自动缓存这些公共部分。缓存命中后,这部分输入 token 费用直接降为标准价格的十分之一——即 90% 的折扣。隐式缓存完全免收存储费,且节省的费用会自动返还给用户。

更关键的是,这项能力支持的模型范围已经覆盖 Gemini 3 与 2.5 系列的主力型号:Gemini 3.1 Pro Preview、Gemini 3 Flash Preview、Gemini 2.5 Pro、Gemini 2.5 Flash 等全部在列。

无需额外调用 API,无需复杂配置,全自动生效。

听上去是一套完美的省钱利器。但现实是,绝大多数企业的 Gemini 账单上,cachedContentTokenCount 那一栏永远显示为 0。

为什么拿不到这份 90% 折扣?

问题不在于功能藏得太深——Google 文档写得清清楚楚。根源在于:隐式缓存的工作逻辑,和绝大多数工程师的直觉相悖。

第一个认知陷阱:"API 转发不会影响缓存"。这是最隐蔽、也最致命的误解。

隐式缓存的触发条件极为严苛——它要求同一 API 密钥 + 字节完全一致的前缀内容。社区开发者在实测中反复验证:只要中间层对请求做任何改写(改动 HTTP 请求头、重新封装系统提示词与用户消息、在不同区域节点间分发),前缀的字节序列就会改变,缓存直接失效。

你的架构中只要存在做请求改写的 API 网关或代理层,90% 的折扣就被无声无息地挡在门外。

第二个认知陷阱:"我的提示词足够长,缓存理应自动生效"。

Google 官方给出的硬性门槛是:2.5 Flash 最低触发阈值为 1024 token,2.5 Pro 为 4096 token;而开放模型(MaaS)的隐式缓存最低要求为 4096 token。低于这个阈值的重复内容,不会被纳入缓存。

此外,隐式缓存的命中没有"概率"一说——Google 明确提示"cache hits aren't guaranteed"(缓存命中无法保证)。开发者在 GitHub 社区的反馈也证实:cachedContentTokenCount 字段仅报告完整缓存命中,部分前缀复用并不会在该字段中体现。换句话说,你的请求可能在某种程度上被"部分复用"了,但账单上看不到、也无法验证。

第三个认知陷阱:"短时间多发请求就足够触发缓存"。

隐式缓存的生命周期由后端动态管控。Google 官方建议"在较短时间内发送带有相似前缀的请求"以提高命中率;而显式缓存的 TTL 默认仅为 60 分钟,超过时限缓存即被清除。请求间隔太久,或分发到不同区域节点,缓存早已过期或根本不会同步。缓存命中的有效时间窗口远比想象中更窄。

让缓存真正生效的实操方案

隐式缓存并非不可用,只是必须遵循它的规则。

第一,移除或绕过中间代理层。

如果架构里存在做请求改写的 API 网关,尽可能直接向 Gemini 原生接口发起请求。任何一层代理都有可能破坏前缀的字节级匹配。这不是"建议",而是硬性必要条件。

第二,把固定不变的大块内容放在提示词最前面。

系统提示词、固定知识库、工具定义,这些是缓存的最佳对象。用户问题、会话 ID、时间戳等动态内容放到末尾。缓存做的是前缀匹配,前缀一变,缓存直接失效。

第三,校验响应元数据。

每次请求后,查看 usageMetadata 中的 cachedContentTokenCount 字段。数值为 0 代表没有完整命中。用数据说话,不要凭直觉判断。

第四,高确定性场景考虑显式缓存。

隐式缓存属于"尽力而为",不保证一定命中。显式缓存允许手动声明待缓存内容,通过资源名称反复引用,可以确保命中——代价是需要支付存储费用(Gemini 3.1 Pro 为每百万 token 每小时 4.5 美元,Flash 系列约 1 美元)。在高频业务场景下,这笔账算下来是划算的:据测算,一个复用 10 万 token 系统提示词、调用 1000 次的场景,显式缓存后总成本可降至原来的约 10%。

折扣一直都在,关键是你的架构配不配得上

隐式缓存不需要申请开通,默认开启,适用于所有 Gemini 2.5 及以上版本模型。90% 输入费用减免一直摆在那里。

问题从来不是有没有折扣,而是你的请求格式是否满足享受折扣的条件。

下次打开 Gemini 账单,留意 cached_tokens 一栏。如果数值是 0,不是你调用量不够,而是你的架构正在以一种你察觉不到的方式,挡住这份 90% 的折扣。

企业如何把"看得见的折扣"变成"拿得到的成本下降"

Gemini 隐式缓存的故事,折射出整个大模型时代的一个普遍困境:官方给了极好的价格机制,但企业受限于账号地域、网络架构、合规要求与技术适配能力,往往无法真正享受到这些原生红利。

对于国内企业而言,如何便捷、稳定、经济地接入 Gemini 3.6 Flash、3.5 Flash、3.1 Pro 等最新模型,并让缓存、Batch 等原生降本机制真正发挥作用,成为把握这一轮技术红利的关键。

UseAIAPI​ 一站式聚合 Gemini(含 3.6 Flash、3.5 Flash、3.1 Pro 等最新模型)、Claude、ChatGPT、DeepSeek 等全球主流大模型,并提供企业级定制化部署服务,海外账号注册、信用卡绑卡、汇损折算、合规账务这些琐事可以一并省掉。平台支持企业按业务场景灵活选用模型,优惠折扣最低可达官方价格的 50%

这意味着在代码生成、长文本处理、批量内容产出、多智能体并行等高频企业场景中,通过 UseAIAPI 接入 Gemini,叠加谷歌原生的上下文缓存机制(缓存输入价为标准输入的十分之一)与 Batch 异步批处理机制(成本再降 50%),长上下文、高并发、持续运行的智能体工作流单位成本可进一步压低,真正实现"无忧接入、按需扩展"。

💡 对于研发团队而言,可参考"三层成本优化框架":第一层,用 Flash 系列承接约 95% 的常规任务,以缓存命中降低重复输入开销,结合 UseAIAPI 的 5 折优惠,;第二层,用 Batch/Flex 档覆盖非实时负载,享受 50% 折扣;第三层,当遇到复杂架构设计、跨库推理等攻坚任务时,再切换至 Pro 或 Claude Opus 级别模型。在这套框架中,企业侧综合成本可进一步下探,让高强度内容生成不再成为预算负担。

人工智能正在变得像自来水一样唾手可及——而让这股水源稳定、经济地流入企业生产线,让每一家企业都能把"看得见的 90% 折扣"真正转化为"拿得到的成本下降",正是新一代接入服务的核心价值所在。