原生 OpenAI 格式(ChatCompletions)
对话与文本
原生 OpenAI 格式(ChatCompletions)
POST
原生 OpenAI 格式(ChatCompletions)
简介
通用文本对话接口,支持 OpenAI 兼容的大语言模型生成对话回答。通过统一的 API 接口,您可以调用 OpenAI、Claude、DeepSeek、Grok、通义千问等多个主流大模型。认证
string
必填
Bearer Token,如
Bearer sk-xxxxxxxxxx请求参数
string
必填
模型标识,支持的模型包括:
- OpenAI 系列:
gpt-5.5、gpt-5.4、gpt-5.4-pro、gpt-5.4-mini、gpt-5.4-nano、gpt-4o等 - Claude 系列:
claude-opus-4-8、claude-opus-4-7、claude-opus-4-6、claude-sonnet-4-5-20250929、claude-haiku-4-5-20251001等 - DeepSeek 系列:
deepseek-v4-pro、deepseek-v4-flash、deepseek-v3-1-250821、deepseek-v3、deepseek-r1等 - Grok 系列:
grok-4、grok-4-fast-reasoning、grok-3等 - Gemini 系列:
gemini-3.1-pro-preview、gemini-3-pro-preview、gemini-3-flash-preview、nano-banana-pro及其-thinking/-nothinking/-thinking-<预算>/-thinking-low/-thinking-high后缀变体 - 国产模型系列:
glm-5、glm-4.7、doubao-seed-1-8-251228(豆包 Seed 系列)、qwen3-coder-plus、kimi-k2.5等
array
必填
对话消息列表,每个元素包含
role(user/system/assistant)和 contentnumber
默认值:"0.7"
随机性控制,0-2,值越高回复越随机
boolean
默认值:"false"
是否启用流式输出,返回 SSE 格式的分片数据
number
最大生成 token 数,控制回复长度
number
核采样参数,0-1,控制生成的多样性
基础示例
非流式请求
流式请求(SSE)
Python 示例
高级功能
工具调用(Functions / Tools)
支持 OpenAI 兼容的工具调用格式,适用于 GPT、Claude、DeepSeek、Grok、通义千问等模型。- 第一阶段:模型返回工具调用
- 第二阶段:返回工具执行结果
结构化输出(JSON Schema)
支持通过response_format 参数控制输出格式,适用于 GPT、Claude、Grok 等模型。
思考能力
部分模型支持思考能力(Thinking/Reasoning),可以在生成回复时展示推理过程。不同模型的实现方式不同:- DeepSeek
- 通义千问
- Gemini
DeepSeek 模型支持通过
thinking 字段开启思考能力:- 默认
thinking.type为"disabled",需要显式设置为"enabled"开启 - 思考能力的输出形态可能因模型版本而异
- 建议配合
stream: true以获得更好的交互体验
通义千问扩展功能
通义千问模型支持搜索、语音识别等扩展功能,所有扩展参数需放入parameters 对象中。
- 搜索功能
- 语音识别
通义千问的所有扩展参数(如
enable_search、search_options、asr_options、temperature、top_p 等)都需要放在 parameters 对象中,而不是请求体的顶层。联网搜索功能
部分模型支持实时联网搜索,可以获取最新信息并在响应中包含引用来源。- Claude 搜索
- Grok 搜索
Claude 模型不支持通过 带位置信息的示例(展示工具调用流程):
web_search_options 参数开启网络搜索功能,所以使用只能通过tool工具调用实现,且可能因为网络和提示词等原因不稳定,详细看上面工具调用(Functions / Tools)。基础示例(展示工具调用流程):- 搜索功能会增加响应时间和 token 消耗(包含搜索结果内容)
- 搜索结果会在响应中自动包含引用来源
- 支持的模型包括 Claude Sonnet 4、Claude 3 Opus 等
- 在多轮对话中,工具调用和结果会在消息历史中可见,模型可以基于之前的搜索结果继续对话
稳定性说明:
- 联网搜索功能依赖上游代理服务和外部搜索服务,可能存在以下不稳定性:
- 网络波动:网络连接问题可能导致搜索请求超时或失败
- 服务限制:搜索服务可能有频率限制、超时限制或临时不可用
- 搜索结果质量:某些查询可能无法找到相关信息,或搜索结果质量不佳
- 模型判断:模型会根据问题自动判断是否需要搜索,某些情况下可能不会触发搜索
GPT 文件输入(Responses API)
GPT-5 等模型支持文件输入功能,需要通过/v1/responses 接口调用,而不是 /v1/chat/completions。
- 通过文件 URL 上传
- 通过 Base64 编码上传
您可以通过链接外部网址上传 PDF 文件:
- 文件大小限制:单个文件不超过 50 MB,单个请求中所有文件总大小不超过 50 MB
- 支持的模型:
gpt-4o、gpt-4o-mini、gpt-5-chat等支持文本和图像输入的模型
Grok 推理能力
Grok 模型(特别是grok-4-fast-reasoning)支持推理能力。启用后,usage.completion_tokens_details.reasoning_tokens 会显示推理过程消耗的 token 数。详见下方 usage 字段说明。
usage 字段说明
调用/v1/chat/completions 时,响应中的 usage 对象包含 token 用量统计。以下先介绍通用字段(普通对话模型场景),再说明仅在特定场景下才会出现非零值的专属字段。
通用字段
适用范围:GPT 系列、Claude 对话/思考模型、Gemini、DeepSeek 等经由/v1/chat/completions 走文本对话场景。不包含仅在底层实际调用 Claude Messages 协议或图片生成模型时才出现的字段——那些见 特殊场景专属字段。
prompt_tokens_details/completion_tokens_details这两个对象在响应里始终存在,即使内部子字段全是0也不会被省略;0不代表「不支持」,只代表「这次请求没用到」。completion_tokens_details.image_tokens(以及prompt_tokens_details.image_tokens)留在通用文档里是因为字段结构固定存在,但真正被赋非零值只发生在特殊场景(Claude/图片生成模型),详见 特殊场景专属字段。reasoning_tokens是跨模型通用概念:无论底层是 OpenAI 推理模型、Claude 扩展思考还是 Gemini thinking,只要该次调用启用了「思考」能力,都会体现在这一个字段里。
特殊场景专属字段
以下字段只在特定情况下才会出现非零值:请求走的是/v1/chat/completions,但网关内部实际把请求转换成了别的协议去调用上游(Claude Messages 协议 / 图片生成模型),转换回来的 usage 里就会带上这些「原生协议专属」的字段。
场景一:底层实际调用 Claude(/v1/chat/completions → /v1/messages)
用 OpenAI 格式请求一个 Claude 模型时,网关会把请求转成 Anthropic Messages 协议发给上游,再把 Claude 返回的 usage 转换回 OpenAI 格式。Claude 的缓存机制比 OpenAI 更细(按 5 分钟 / 1 小时两档 TTL 计费),这部分信息用下面几个专属字段承载:
prompt_tokens_details.cached_tokens、completion_tokens_details.reasoning_tokens 在调用 Claude 模型时也会有值(分别对应 Claude 的缓存读取 token 数、扩展思考 token 数),但这两个字段是跨模型通用字段,已在 通用字段 中说明。
场景二:底层实际调用图片生成模型(/v1/chat/completions → /v1/images/generations 语义)
某些图片生成模型(如 Gemini 原生图片输出、gpt-image 系列)本来是走官方 /v1/images/generations 接口的 usage 结构(input_tokens/output_tokens + 按模态拆分),但当用户改用 /v1/chat/completions 直接对话式调用这些模型生成图片时,网关会把这部分信息映射进 chat 格式的 usage 里:
场景三:渠道协议差异导致的字段
这两个字段不是「转换」出来的,而是特定渠道原样透传上游响应字段,正常使用主流模型基本不会遇到:响应格式
- 非流式响应
- 流式响应
usage 各字段的完整说明见上方 usage 字段说明。错误处理
支持的模型系列
OpenAI 系列
- GPT-5.5、GPT-5.4 系列(5.4 / Pro / Mini / Nano)、GPT-4o、GPT-4o Mini
Claude 系列(Anthropic)
- Claude Sonnet 4、Claude 3 Opus、Claude 3 Haiku
DeepSeek 系列
- DeepSeek V3、DeepSeek R1
Grok 系列(xAI)
- Grok-4、Grok-3、Grok-3-fast、Grok-4-fast-reasoning
通义千问系列(Qwen)
- Qwen3-omni-flash 等
豆包 Seed 系列(Doubao)
- doubao-seed-1-8-251228 等
其他模型
- Gemini 系列、GLM 系列(含 glm-5)、Kimi 系列等
注意事项
messages列表中system角色用于设定模型行为,user角色为用户提问- 多轮对话需追加历史记录(包含
assistant角色的回复) - 依赖
openai库:pip install openai - 不同模型对某些功能的支持程度可能不同,建议在使用前查看具体模型的文档
相关资源
常见问题
查看对话接口的常见问题解答
模型列表
查看所有支持的模型信息
