Skip to main content
POST
原生 OpenAI 格式(ChatCompletions)

简介

通用文本对话接口,支持 OpenAI 兼容的大语言模型生成对话回答。通过统一的 API 接口,您可以调用 OpenAI、Claude、DeepSeek、Grok、通义千问等多个主流大模型。

认证

string
必填
Bearer Token,如 Bearer sk-xxxxxxxxxx

请求参数

string
必填
模型标识,支持的模型包括:
  • OpenAI 系列:gpt-5.5gpt-5.4gpt-5.4-progpt-5.4-minigpt-5.4-nanogpt-4o
  • Claude 系列:claude-opus-4-8claude-opus-4-7claude-opus-4-6claude-sonnet-4-5-20250929claude-haiku-4-5-20251001
  • DeepSeek 系列:deepseek-v4-prodeepseek-v4-flashdeepseek-v3-1-250821deepseek-v3deepseek-r1
  • Grok 系列:grok-4grok-4-fast-reasoninggrok-3
  • Gemini 系列:gemini-3.1-pro-previewgemini-3-pro-previewgemini-3-flash-previewnano-banana-pro 及其 -thinking/-nothinking / -thinking-<预算> / -thinking-low/-thinking-high 后缀变体
  • 国产模型系列:glm-5glm-4.7doubao-seed-1-8-251228(豆包 Seed 系列)、qwen3-coder-pluskimi-k2.5
array
必填
对话消息列表,每个元素包含 role(user/system/assistant)和 content
number
默认值:"0.7"
随机性控制,0-2,值越高回复越随机
boolean
默认值:"false"
是否启用流式输出,返回 SSE 格式的分片数据
number
最大生成 token 数,控制回复长度
number
核采样参数,0-1,控制生成的多样性

基础示例

非流式请求
流式请求(SSE)
Python 示例

高级功能

工具调用(Functions / Tools)

支持 OpenAI 兼容的工具调用格式,适用于 GPT、Claude、DeepSeek、Grok、通义千问等模型。

结构化输出(JSON Schema)

支持通过 response_format 参数控制输出格式,适用于 GPT、Claude、Grok 等模型。
严格的结构化输出建议降低 temperature 值(如 0.1-0.3),并设置合适的 max_tokens 以提升一致性。

思考能力

部分模型支持思考能力(Thinking/Reasoning),可以在生成回复时展示推理过程。不同模型的实现方式不同:
DeepSeek 模型支持通过 thinking 字段开启思考能力:
  • 默认 thinking.type"disabled",需要显式设置为 "enabled" 开启
  • 思考能力的输出形态可能因模型版本而异
  • 建议配合 stream: true 以获得更好的交互体验

通义千问扩展功能

通义千问模型支持搜索、语音识别等扩展功能,所有扩展参数需放入 parameters 对象中。
通义千问的所有扩展参数(如 enable_searchsearch_optionsasr_optionstemperaturetop_p 等)都需要放在 parameters 对象中,而不是请求体的顶层。

联网搜索功能

部分模型支持实时联网搜索,可以获取最新信息并在响应中包含引用来源。
Claude 模型不支持通过 web_search_options 参数开启网络搜索功能,所以使用只能通过tool工具调用实现,且可能因为网络和提示词等原因不稳定,详细看上面工具调用(Functions / Tools)。基础示例(展示工具调用流程):
带位置信息的示例(展示工具调用流程):
  • 搜索功能会增加响应时间和 token 消耗(包含搜索结果内容)
  • 搜索结果会在响应中自动包含引用来源
  • 支持的模型包括 Claude Sonnet 4、Claude 3 Opus 等
  • 在多轮对话中,工具调用和结果会在消息历史中可见,模型可以基于之前的搜索结果继续对话
稳定性说明
  • 联网搜索功能依赖上游代理服务和外部搜索服务,可能存在以下不稳定性:
    • 网络波动:网络连接问题可能导致搜索请求超时或失败
    • 服务限制:搜索服务可能有频率限制、超时限制或临时不可用
    • 搜索结果质量:某些查询可能无法找到相关信息,或搜索结果质量不佳
    • 模型判断:模型会根据问题自动判断是否需要搜索,某些情况下可能不会触发搜索

GPT 文件输入(Responses API)

GPT-5 等模型支持文件输入功能,需要通过 /v1/responses 接口调用,而不是 /v1/chat/completions
您可以通过链接外部网址上传 PDF 文件:
  • 文件大小限制:单个文件不超过 50 MB,单个请求中所有文件总大小不超过 50 MB
  • 支持的模型:gpt-4ogpt-4o-minigpt-5-chat 等支持文本和图像输入的模型

Grok 推理能力

Grok 模型(特别是 grok-4-fast-reasoning)支持推理能力。启用后,usage.completion_tokens_details.reasoning_tokens 会显示推理过程消耗的 token 数。详见下方 usage 字段说明

usage 字段说明

调用 /v1/chat/completions 时,响应中的 usage 对象包含 token 用量统计。以下先介绍通用字段(普通对话模型场景),再说明仅在特定场景下才会出现非零值的专属字段

通用字段

适用范围:GPT 系列、Claude 对话/思考模型、Gemini、DeepSeek 等经由 /v1/chat/completions 走文本对话场景。不包含仅在底层实际调用 Claude Messages 协议或图片生成模型时才出现的字段——那些见 特殊场景专属字段
  • prompt_tokens_details / completion_tokens_details 这两个对象在响应里始终存在,即使内部子字段全是 0 也不会被省略;0 不代表「不支持」,只代表「这次请求没用到」。
  • completion_tokens_details.image_tokens(以及 prompt_tokens_details.image_tokens)留在通用文档里是因为字段结构固定存在,但真正被赋非零值只发生在特殊场景(Claude/图片生成模型),详见 特殊场景专属字段
  • reasoning_tokens 是跨模型通用概念:无论底层是 OpenAI 推理模型、Claude 扩展思考还是 Gemini thinking,只要该次调用启用了「思考」能力,都会体现在这一个字段里。

特殊场景专属字段

以下字段只在特定情况下才会出现非零值:请求走的是 /v1/chat/completions,但网关内部实际把请求转换成了别的协议去调用上游(Claude Messages 协议 / 图片生成模型),转换回来的 usage 里就会带上这些「原生协议专属」的字段。

场景一:底层实际调用 Claude(/v1/chat/completions/v1/messages

用 OpenAI 格式请求一个 Claude 模型时,网关会把请求转成 Anthropic Messages 协议发给上游,再把 Claude 返回的 usage 转换回 OpenAI 格式。Claude 的缓存机制比 OpenAI 更细(按 5 分钟 / 1 小时两档 TTL 计费),这部分信息用下面几个专属字段承载:
prompt_tokens_details.cached_tokenscompletion_tokens_details.reasoning_tokens 在调用 Claude 模型时也会有值(分别对应 Claude 的缓存读取 token 数、扩展思考 token 数),但这两个字段是跨模型通用字段,已在 通用字段 中说明。

场景二:底层实际调用图片生成模型(/v1/chat/completions/v1/images/generations 语义)

某些图片生成模型(如 Gemini 原生图片输出、gpt-image 系列)本来是走官方 /v1/images/generations 接口的 usage 结构(input_tokens/output_tokens + 按模态拆分),但当用户改用 /v1/chat/completions 直接对话式调用这些模型生成图片时,网关会把这部分信息映射进 chat 格式的 usage 里:

场景三:渠道协议差异导致的字段

这两个字段不是「转换」出来的,而是特定渠道原样透传上游响应字段,正常使用主流模型基本不会遇到:

响应格式

usage 各字段的完整说明见上方 usage 字段说明

错误处理

支持的模型系列

OpenAI 系列

  • GPT-5.5、GPT-5.4 系列(5.4 / Pro / Mini / Nano)、GPT-4o、GPT-4o Mini

Claude 系列(Anthropic)

  • Claude Sonnet 4、Claude 3 Opus、Claude 3 Haiku

DeepSeek 系列

  • DeepSeek V3、DeepSeek R1

Grok 系列(xAI)

  • Grok-4、Grok-3、Grok-3-fast、Grok-4-fast-reasoning

通义千问系列(Qwen)

  • Qwen3-omni-flash 等

豆包 Seed 系列(Doubao)

  • doubao-seed-1-8-251228 等

其他模型

  • Gemini 系列、GLM 系列(含 glm-5)、Kimi 系列等
完整模型列表请查看 模型信息页面

注意事项

  • messages 列表中 system 角色用于设定模型行为,user 角色为用户提问
  • 多轮对话需追加历史记录(包含 assistant 角色的回复)
  • 依赖 openai 库:pip install openai
  • 不同模型对某些功能的支持程度可能不同,建议在使用前查看具体模型的文档
  • 使用流式输出可以提升首字响应时间和交互体验
  • 工具调用需要做好超时与重试机制,避免阻塞模型响应
  • 通义千问的扩展参数必须放在 parameters 对象中

相关资源

常见问题

查看对话接口的常见问题解答

模型列表

查看所有支持的模型信息