Skip to main content
POST
GPT-5.6(Prompt Caching)
通用多模型 Chat Completions 说明见 原生 OpenAI 格式(ChatCompletions),Responses API 用法见 原生 OpenAI 格式(Responses)。本文聚焦 GPT-5.6 系列模型及其 Prompt Caching 缓存机制。

简介

GPT-5.6 是 OpenAI 于 2026 年 7 月 GA 的最新旗舰模型系列,上下文长度 1M。它是首个把「隐式缓存」与「显式缓存」统一成一套机制的模型,也是第一个「缓存写入收费」的系列:缓存读取按输入价的 10% 计费,缓存写入按输入价的 1.25 倍计费 合理使用缓存可以显著降低长前缀场景(系统提示词、RAG、知识库、多轮对话)的调用成本——这也是 GPT-5.6 官方推荐的降本手段。

模型系列

认证

string
必填
Bearer Token,如 Bearer sk-xxxxxxxxxx

请求参数

string
必填
模型标识,支持:
  • gpt-5.6-solgpt-5.6-terragpt-5.6-luna
array
必填
对话消息列表,每个元素包含 role(user/system/assistant)和 contentcontent 支持 OpenAI v2 多模态数组,显式缓存断点就打在 content 数组的某个元素上
string
GPT-5.6 系列专属参数。用于精确匹配可复用的缓存前缀,建议按「租户:场景:版本」组织(如 tenant:acme:support-v1)。不传时缓存匹配精度会下降,命中率不可控
object
缓存模式配置(GPT-5.6 系列专属):
  • mode"implicit"(默认,隐式缓存)或 "explicit"(显式缓存,禁用自动断点)
  • ttl:固定 "30m",表示缓存「至少存活 30 分钟」(可带可不带)
prompt_cache_breakpoint(object,非顶层请求体字段) 显式缓存断点,嵌套在 messages 里某条消息的 content 数组的块上text / image_url / input_audio / file / refusal),取值 {"mode": "explicit"},表示「该块之前的内容都要缓存」。mode 只接受 "explicit",其它取值或打在不可缓存的块上会返回 400 invalid_request_error
string
默认值:"medium"
推理强度(GPT-5.6 系列专属,替代传统采样参数),取值:none / low / medium(默认)/ high / xhigh / maxnone 关闭思考;maxgpt-5.6-sol 深度推理档位
boolean
默认值:"false"
是否启用流式输出,返回 SSE 格式的分片数据
number
最大生成 token 数,控制回复长度
string
默认值:"medium"
输出详细程度(GPT-5.6 系列专属),取值:low / medium / high。控制回答长短;注意不要用提高 verbosity 代替推理

基础示例

高级功能

Prompt Caching(缓存机制)

隐式缓存 vs 显式缓存

两种模式计费相同,只是命中率的可控程度不同。平台会原样透传这些字段给上游(OpenAI 官方原生 API)。

没有独立的「创建缓存」接口

OpenAI 不像 Gemini 那样提供单独的缓存创建接口(cachedContents.create)。「创建缓存」和「正常对话请求」是同一个 API 调用:打 prompt_cache_breakpoint 只是告诉 OpenAI「断点之前的内容值得缓存」,写入动作是本次请求的副作用——
  1. 正常调用 /v1/chat/completions,在某个内容块上加 prompt_cache_breakpoint
  2. 服务端检查断点之前的内容是否命中:
    • 未命中(首次 / 已过期)→ 正常推理 + 把断点前内容写入缓存 → cache_write_tokens > 0cached_tokens = 0
    • 命中prompt_cache_key 一致、前缀逐字节一致、TTL 内)→ 直接复用 → cached_tokens > 0cache_write_tokens = 0
  3. 写入成功后 30 分钟 TTL 内,后续调用只「读」不「重写」;超过 30 分钟无访问,下一次调用退回「cache miss → 重新写入」。

限制

计费

gpt-5.6-luna(输入 1.00/1Mtokens)为例:写入缓存1.00/1M tokens)为例:写入缓存 1.25/1M、读取缓存 $0.10/1M。前缀越稳定、请求次数越多,节省越明显。

工具调用(Functions / Tools)

GPT-5.6 支持标准 OpenAI 工具调用格式,用法与 原生 OpenAI 格式(ChatCompletions) 中的工具调用章节一致:

结构化输出(JSON Schema)

GPT-5.6 支持通过 response_format 参数控制输出格式:
严格的结构化输出建议使用较低推理强度(如 reasoning_effort: "low""none"),并设置合适的 max_tokens 以提升一致性。

思考能力(Reasoning)

GPT-5.6 三款均为推理模型,思考深度由 reasoning_effort 控制(取值见 请求参数):
推理模型不开放传统采样参数:temperature / top_p 自定义值不生效(会被忽略或回退默认值)。控制输出请用 reasoning_effort(思考深度)与 verbosity(回答详细程度);gpt-5.6-sol 使用函数工具时,请留意官方对推理强度取值的限制。
思考过程消耗的 token 会体现在 usage.completion_tokens_details.reasoning_tokens 中,详见下方 usage 字段说明

usage 字段说明

调用 /v1/chat/completions 时,响应中的 usage 对象包含 token 用量统计。GPT-5.6 的核心是 prompt_tokens_details 下新增的缓存字段:
  • cached_tokenscache_write_tokens 不会同时非零:一段内容不可能同时是「新写入」又「命中」。
  • 若始终看不到 cache_write_tokens 非零,请确认:① 请求带上了 prompt_cache_options / prompt_cache_breakpoint;② 前缀超过 1024 tokens;③ 请求没有走 Azure 渠道(cache_write_tokens 为 OpenAI 官方原生 API 专属字段,Azure 渠道不返回,见上方字段说明表)。

响应格式

usage 各字段的完整说明见上方 usage 字段说明

错误处理

支持的模型系列

gpt-5.6-sol / gpt-5.6-terra / gpt-5.6-luna 三款模型的定位与推荐场景见上方 模型系列。完整模型列表请查看 模型信息页面

注意事项

  • 使用显式缓存时务必带上 prompt_cache_key,否则匹配精度下降、命中率不可控
  • 缓存前缀要求逐字节一致:前缀内任意字节变化(包括格式、空白、图片编码)都会导致 cache miss 重新写入
  • 长前缀(>1024 tokens)是缓存生效的前提;前缀太短不会产生任何缓存写入

相关资源

ChatCompletions 通用接口

查看通用多模型对话接口说明

模型列表

查看所有支持的模型信息