跳到正文

OpenAI 兼容 API

OpenAI-Compatible API

中级通用

OpenAI 兼容 API(OpenAI-Compatible API)是让模型服务按 OpenAI API 的部分请求与响应格式提供接口的做法。它让你有机会用同一套调用代码接入不同模型服务,例如更换聊天工具的模型提供方时,主要调整地址、密钥和模型名。

你可能会说:「我想给聊天工具换一家模型服务,但尽量别把整套调用代码重写一遍。」

读之前建议先了解

动手看看

聊天请求聊天调用代码使用甲配置兼容服务甲处理请求兼容服务乙未参与响应处理
1

聊天助手先接入服务甲,配置它的地址、密钥和模型名,再用双方共同支持的消息格式发送用户问题。

要点

  1. 1

    先看调用代码能否复用

    你通常可以沿用现有的客户端调用方式,再配置服务基准地址、API 密钥和模型名。这样做的好处是换模型服务时改动较少;但能否直接跑通,还要看对方支持哪些接口。

  2. 2

    兼容不等于功能全相同

    一家服务可能支持普通对话,却不支持你正在用的工具调用、图片输入或流式响应。我们要按产品实际用到的功能逐项验证,而不是看到“兼容”两个字就认为请求参数和返回内容完全一致。

  3. 3

    用真实请求检查返回结果

    比如你在做客服聊天页,可以拿一轮普通对话和一轮流式输出做测试,检查错误处理与界面解析是否正常。因为接口能连通只说明请求到达了服务,不代表现有产品逻辑都能照常工作。

容易混淆的地方

它描述的是接口调用方式的兼容性,不代表服务由 OpenAI 提供,也不代表不同模型回答的质量、价格或能力相同。它也不同于 API 代理:代理负责转发请求,背后可以接兼容接口,也可以做格式转换;兼容 API 说的是你面对的接口长什么样。

什么时候用

适合用

  • 你做的 AI 写作工具已经接入一种模型服务,想评估另一家服务能否沿用现有调用代码。
  • 你给后台做模型切换功能,希望把地址、密钥和模型名做成可配置项。
  • 你要把聊天功能接到本地模型服务,且该服务明确提供与你现有调用方式兼容的接口。

不适合用

  • 你只是给网站加一个普通搜索框,不会调用模型服务;用站内搜索或数据库查询更直接。
  • 你的产品依赖某家服务独有的接口能力,而兼容接口没有提供;这时直接接入它的原生 API 更合适。

练一练

你做的客服工具目前使用流式回答和工具调用。新模型服务宣称提供 OpenAI 兼容 API,你准备怎么判断能否接入?

让 AI 帮你做

请把当前聊天功能改为可接入 OpenAI 兼容 API:让服务基准地址、API 密钥和模型名可配置,保留现有默认服务;先确认项目用到了哪些接口,再验证普通对话、流式响应和工具调用是否能在目标服务上正常工作,并说明未兼容的部分。

接下来学什么