
文章摘要GPT-5.6在API中引入更可预测的Prompt缓存机制,包括显式缓存断点和至少30分钟的缓存生命周期。对于RAG、Agent和企业知识助手,这意味着稳定的System Prompt、工具定义、输出Schema和公共知识上下文可以复用,从而减少重复计算和输入成本。但缓存并不是把整个请求永久保存,动态用户问题、权限上下文和检索结果仍需合理排列。本文给出缓存前缀设计、失效规则、成本计算、隐私边界和工程落地方法。一、为什么RAG应用特别适合Prompt缓存一次企业RAG请求通常包含:System Prompt 业务规则 安全规则 输出格式 工具Schema 知识库回答规范 检索证据 用户问题其中有一部分长期稳定:System Prompt;工具定义;输出JSON Schema;品牌和语气要求;固定安全规则;公共业务说明。另一部分每次变化:用户问题;用户身份;租户权限;检索片段;当前时间;会话状态。如果每个请求都重新处理全部前缀,会产生重复输入成本。缓存的核心价值是:稳定前缀只计算一次 +动态后缀按请求继续计算二、显式缓存断点是什么可以把Prompt想象为:[稳定前缀 A] [稳定前缀 B] [动态内容 C]显式缓存断点用于告诉平台:A和B结束的位置可以作为缓存边界后续请求只要前缀完全匹配,就可以复用已缓存计算。适合放在断点之前的内容:System Prompt 通用工具定义 固定输出Schema 不随用户变化的政策不适合放在断点之前的内容:用户ID 租户ID 检索结果 当前日期 随机Request ID 动态工具列表任何微小变化都可能导致前缀不再匹配。三、RAG Prompt应该如何排序错误顺序:用户ID 当前时间 System Prompt 检索证据 工具Schema 用户问题因为最前面的字段每次变化,后面稳定内容也无法复用。推荐顺序:System Prompt 固定安全规则 输出Schema 固定工具定义 ——缓存断点—— 租户权限摘要 检索证据 会话摘要 用户问题原则是:越稳定的内容越靠前,越动态的内容越靠后。四、30分钟缓存生命周期意味着什么GPT-5.6官方说明中,Prompt缓存支持至少30分钟的缓存生命周期。这特别适合: