New API:管理多模型调用的开源网关

📅 2026/7/1 4:19:58
New API:管理多模型调用的开源网关
文章目录New API管理多模型调用的开源网关它解决什么问题部署方式接口兼容性认证与权限适用场景New API管理多模型调用的开源网关企业在接入大模型时面临一个现实问题不同厂商的 API 格式各异计费方式不同权限管理分散。OpenAI 用一种格式Claude 用另一种Google Gemini 又是一套。如果团队内部有多个项目同时调用这些模型光是管理 API Key 和统计用量就够头疼的。New API 就是为了解决这个问题而生的。它是一个开源的 LLM 网关定位是下一代 AI 资产管理系统。截至目前这个项目在 GitHub 上获得了超过 4 万颗星标基于早期的 One API 项目开发而来。它解决什么问题简单来说New API 做了三件事统一接口、集中管理、用量计费。统一接口方面它把 OpenAI、Claude、Gemini 等不同格式的 API 统一成 OpenAI 兼容格式。你的代码只需要对接一种接口网关负责把请求转换成各家模型能识别的格式。这包括 Chat 对话、图片生成、音频处理、Embedding 向量化等常见接口类型。集中管理方面所有 API Key 都收归到网关后台。管理员可以在一个界面里配置多个渠道设置每个渠道的权重和优先级。当某个渠道出问题时系统会自动重试其他渠道。用户权限可以按组划分限制不同用户能调用的模型范围。用量计费方面系统支持按组织维度统计每次请求的 Token 消耗和费用。对于 OpenAI、Azure、DeepSeek、Claude、Qwen 等模型还能统计缓存命中情况。后台支持 EPay 和 Stripe 两种充值方式适合内部结算或对外提供服务的场景。部署方式New API 提供 Docker 镜像部署过程比较直接。最简单的做法是用 Docker Compose克隆仓库后编辑 docker-compose.yml 配置文件然后一条命令启动。数据库方面本地环境默认用 SQLite远程环境可以选 MySQL5.7.8 以上或 PostgreSQL9.6 以上。如果需要缓存可以接入 Redis。对于不想折腾命令行的用户宝塔面板也支持一键安装版本要求 9.2.0 以上。多机部署时需要注意两个环境变量SESSION_SECRET 用于保持登录状态一致性CRYPTO_SECRET 用于 Redis 场景下的数据加密。这两个不设置的话多实例之间会出现数据不同步的问题。接口兼容性New API 支持的接口类型比较全面。对话类接口覆盖了 OpenAI Chat Completions、OpenAI Responses、Claude Messages、Google Gemini 四种格式。此外还支持图片生成、音频转写、语音合成、Embedding 向量化、Rerank 重排序等。实时对话方面支持 OpenAI Realtime API包括 Azure 版本。格式转换是这个项目的一个亮点功能。它能在 OpenAI 兼容格式和 Claude Messages 格式之间双向转换也能把 OpenAI 格式转成 Gemini 格式或者反过来。这意味着你用一套代码就能同时调用多家模型不用为每家写适配逻辑。推理强度控制也做了适配。OpenAI 的 o3-mini 和 gpt-5 系列可以通过后缀指定 high、medium、low 三档推理强度。Claude 的 thinking 模型和 Gemini 的 thinking 模式同样支持开关控制。认证与权限系统支持多种第三方登录方式包括 Discord、Telegram、LinuxDO 以及 OIDC 统一认证。Token 可以按组管理设置不同的模型访问权限和调用限额。对于需要对外提供服务的场景系统内置了渠道分组和用户级别的速率限制功能。管理员可以按用户维度控制调用频率防止单个用户占用过多资源。适用场景这个项目适合几类用户一是团队内部有多个项目需要调用不同模型想统一管理入口和用量二是需要对外提供 AI 服务要求有计费和权限控制能力三是想在本地部署一套网关避免直接把各家 API Key 散落在各个项目里。项目采用 AGPLv3 协议开源商用需要注意协议要求。如果组织政策不允许使用 AGPLv3 软件可以联系官方获取商业授权。协议开源商用需要注意协议要求。如果组织政策不允许使用 AGPLv3 软件可以联系官方获取商业授权。