七月.
背景声音A Kind Of Hope
EN
回到作品
UA

统一 AI 模型网关

持续生长APIAIInfrastructure

UniAPI

一个自建的统一 AI 网关:把手上各家的官方订阅收敛成一套 OpenAI 兼容接口,配一个能发密钥、看用量、排问题的控制台。

查看项目
UniAPI

UniAPI 一开始是个很朴素的东西:给我自己的项目提供几个常用能力的公共接口,不用注册就能调。那一版跑了两年,后来我把它整个换掉了。

换掉的原因很直接。这两年真正稀缺的不再是「有没有一个接口」,而是手上那些顶尖模型的官方订阅,没法用 API 的方式接进项目里。订阅是给人用的,项目要的是接口,中间隔着一层。

现在它是什么

现在的 UniAPI 是一层网关,把各家账号统一收敛成一套 OpenAI 兼容的接口:

  • 上游是我自己的官方订阅与各家 API,下游只暴露 /v1/chat/completions 这类标准路径。
  • 换模型、换供应方,业务侧只改一个模型名,不改调用代码。
  • 密钥、额度、调用日志与用量统计都在控制台里,出了问题能查到是哪一条请求。
  • 跑在自己的机器上,账号和数据都不经第三方中转。

底层用的是开源的 New API,前面接 CLIProxyAPI 做订阅侧的桥接——这套怎么搭起来,我单独写过一篇笔记

为什么还叫 UniAPI

域名没换,名字也没换,因为要解决的事其实没变:让「调用一个能力」重新变回一件简单的事。变的只是这句话在 2023 年和现在指的不是同一件东西。

只不过这次我更清楚它的边界——它是我自己的基础设施,不是一个面向所有人的公共服务。

交流

留下你的想法

评论由 GitHub Issues 托管,中英文页面共享同一段讨论。

正在载入评论…