跳到正文

API 代理 / 中转站

API Proxy

高级通用

API 代理 / 中转站(API Proxy)是接在应用与目标 API 之间的服务:应用先请求它,再由它转发并返回结果。它能把密钥保管、调用记录或多个提供方的接入集中到一处,例如让 AI 网站通过自己的后端调用模型。

你可能会说:「我想让网站统一从一个地址调用模型,密钥别放在浏览器里,以后换提供方也方便。」

读之前建议先了解(这是一个高级概念)

动手看看

提问AI网页API代理模型API
1

用户在 AI 网页输入问题。网页先把问题发给自己的 API 代理,而不是直接请求模型 API。

要点

  1. 1

    请求先到代理,再去目标服务

    你在应用里配置的是代理地址。代理收到请求后,按配置找到目标 API,把请求转过去,再把响应交还给应用。因为中间多了一站,所以排查报错时,我们要看清问题发生在应用、代理还是目标服务。

  2. 2

    密钥由哪一侧保管很关键

    做网页时,浏览器里的代码和请求都能被用户查看。如果代理由你控制,可以让浏览器只访问自己的后端,由后端保管目标服务的密钥并发起调用。单纯把密钥换成代理密钥放进浏览器,并没有解决泄露问题。

  3. 3

    集中接入不等于自动兼容

    代理可以集中记录调用、限制用量,或按配置选择目标服务。但它能否转换请求格式、支持流式响应,取决于具体实现。你让 AI Agent 接入中转站时,要给出接口格式、认证方式和所需功能,不能只替换请求地址。

容易混淆的地方

API 代理负责接收并转发 API 请求;普通后端则可能同时处理业务规则、数据库和用户权限。一个后端接口也可以承担代理工作。服务基准地址只是客户端请求的起点,改了地址不代表背后一定有代理;OpenAI 兼容 API 说的是接口格式相近,也不保证服务具有中转或密钥管理能力。

什么时候用

适合用

  • 你做一个 AI 网站,要让浏览器通过自己的服务调用模型,同时把提供方密钥留在服务端。
  • 团队的多个应用都要调用同一批外部 API,想集中记录调用情况并控制各应用的用量。
  • 产品需要切换模型提供方,想让应用先对接一个入口,再由代理按已验证的接口能力转发。

不适合用

  • 只有一个可信的服务端程序调用固定 API,也没有统一管理需求时,直接在服务端调用更简单。
  • 你只是想让用户从一个网页跳到另一个网页;这属于页面导航,用链接或重定向即可。
  • 你需要处理订单、用户资料等完整业务流程时,先设计后端业务接口;代理不能替代这些逻辑。

练一练

你做了一个聊天网站,浏览器需要调用模型 API。你既想保管提供方密钥,又想以后换模型。哪种方案更贴合 API 代理的作用?

让 AI 帮你做

请为这个聊天网站设计一个由我们控制的服务端 API 代理:浏览器只请求本站接口,模型提供方密钥从服务端环境变量读取。先核对目标接口的认证、请求格式和流式响应能力,再实现转发,并说明如何区分代理与上游的报错。

接下来学什么