魔芋AI 旗下 · 企业级 AI API 网关 当大模型 API 成为企业的“水和电”，企业真正缺的不是模型，而是一扇统一管理、智能调度、安全合规的 API 网关。
|
|
|
|
产品全称
|
MAIGateway（魔芋企业 AI 网关）
|
|
产品定位
|
企业大模型 API 的统一入口与治理层
|
|
开发主体
|
武汉市魔芋数字有限公司 · 奇墨科技有限公司
|
|
官方网站
|
https://mai.moyu.cn/
|
|
客服热线
|
4008-233-655
|
|
核心特性
|
私有化部署 · OpenAI 兼容 · 多模型纳管 · 令牌治理 · 智能路由 · 成本分账 · 等保三级
|
大模型规模化落地的今天，企业面对的早已不是“能不能接入 AI”，而是“API 调用如何被统一管理”。MAIGateway 是魔芋AI推出的企业级 AI API 网关——它把分散在各团队、各应用、各供应商的大模型 API 调用收口到统一入口，让每一次 API 请求都可鉴权、可路由、可计量、可审计、可追溯。
一、为什么企业需要 AI API 网关
企业早期使用大模型时，API Key 往往散落在个人电脑、业务代码和不同供应商平台里。随着接入模型和使用部门增加，传统的“直连模型 + 各自管理 Key”模式会迅速暴露四类问题：
-
接口分散，难以统一——应用需分别适配不同供应商接口，模型更换或密钥轮换时业务系统要逐个调整。
-
密钥裸奔，风险敞口大——API Key 直接保存在应用代码或员工本地，离职、泄露难以追溯和回收。
-
调用失控，成本黑盒——管理层只能看到供应商 Token 总额，无法判断费用由哪个部门、项目或智能体产生。
-
流量无序，安全无门——高并发时缺少限流熔断，敏感数据可能未经脱敏就被发往外部模型，缺少审计留痕。
AI API 网关要解决的，正是把“调一次 API”这件事变成一条可治理的流水线。
二、它是什么：企业大模型 API 的统一入口
MAIGateway 是企业大模型 API 的统一入口与治理层。应用只需连接企业分配的网关地址和受控令牌，不直接保存外部模型供应商的密钥。管理员在网关侧维护模型、价格、链路、权限和策略，应用侧可在接口兼容的前提下随时切换或新增模型。
网关把一次 API 调用拆分为完整的处理流水线：
企业在任意环节都可以配置控制规则，并把每一次调用归属到组织、项目、用户或令牌。对于兼容 OpenAI 接口规范的应用，常见接入方式是替换 Base URL 和 API Key——业务代码几乎零改动即可接入网关。
它不是通用 API 网关。 通用 API 网关（如 Kong、WSO2、Azure APIM）侧重通用的 API 转发、鉴权与计费，要支持 AI 场景需叠加插件或二次开发；MAIGateway 是为大模型 API 调用治理而生——模型纳管、令牌生命周期、Token 计量、成本分账、内容安全、GPU 算力视图，开箱即用。
三、API 网关八大核心能力
1. 模型与供应商管理
纳管魔芋AI 模型服务、第三方大模型 API、企业私有模型与开源自建模型，集中维护模型名称、版本、供应商、接口参数、启停状态与价格。模型目录可按组织、项目或角色设置可见范围，新增或停用模型时主要在网关侧修改配置，减少应用逐个调整连接信息。
2. 令牌全生命周期管理
企业应用和用户通过受控令牌调用模型，而非直接持有供应商密钥。网关记录令牌的创建、绑定、授权、使用、轮换、撤销和失效状态，可设置有效期、模型范围、调用频率及 IP 黑白名单，并与责任人、部门、项目和预算关联。人员离职、项目结束或检测到异常地点及高频调用时，可一键撤销令牌。
3. 路由与高可用
支持同一模型的多链路分发，以及不同模型之间的路由选择：默认路由按权重分配供应商流量；主备路由在主链路异常时切换备用服务；成本路由把符合条件的任务分配给费用较低的模型。系统定期检查链路状态，超时、连续报错或不可用时临时下线，恢复后重新加入路由，毫秒级故障转移，可用性超 99.9%。
4. 配额与流量控制
配额可按企业、组织、部门、项目、用户、令牌或模型设置，周期可按日/周/月，控制指标可为金额、Token 数、请求频率或并发数。额度接近阈值时告警，超限后按规则采取限速、阻断、临时扩容或模型降级。自动化智能体可单独配置 RPM、TPM 与最大费用，避免循环调用持续消耗资源。
5. FinAPI 成本治理
FinAPI 是 MAIGateway 中的 AI 费用管理框架，管理对象是以 API 和 Token 形式持续发生的模型调用成本。系统记录输入/输出 Token、模型单价、责任主体与调用时间，并按供应商、模型、部门、项目、用户或令牌形成费用明细。成本管理分三阶段：统一管理 → 成本审计 → 成本优化，形成预算—告警—归集—优化的持续闭环。
6. 安全防护
-
AI 数据防泄漏：请求进入模型前检测提示词注入与手机号、身份证号、银行卡号等敏感信息，按策略脱敏、阻断或放行；模型返回内容经内容检测，对命中规则的结果过滤或替换。
-
访问控制：令牌鉴权、IP 黑白名单、频率限制、强制轮换；传输链路 TLS 加密，外部模型密钥由网关集中保管，内部应用只用企业令牌。
7. 日志、审计与告警
记录 API 请求、响应状态、调用模型、路由链路、Token 消耗、处理时间、错误信息、责任主体与追踪标识，同时保留管理员配置及操作记录。告警可由模型不可用、调用量突增、预算超限、令牌异常或内容安全事件触发，通过邮件、钉钉、飞书等渠道即时通知。
8. GPU 与 AI 资产管理
查看云上或本地 GPU 节点的在线状态、利用率、显存、温度、归属与负载，帮助企业识别闲置及高负荷资源。AI 资产记录能力可关联员工生成的文本、图片或视频任务及其使用模型、费用与操作日志。
四、四层架构体系
|
层级
|
名称
|
职责
|
|
4
|
模型与算力接入层
|
连接公共大模型 API、企业私有模型、云端算力与本地 GPU 推理服务，集中维护供应商、模型、接口协议、计费单价与启用状态。
|
|
3
|
智能调度层
|
处理协议转换、链路选择、负载分配、限流、缓存与故障切换，依据权重、价格、响应时间与可用状态选择上游链路。
|
|
2
|
分发与管理层
|
负责组织、用户、角色、项目、令牌、配额与预算，成员与费用归属可绑定到具体项目，组织变化时同步调整。
|
|
1
|
应用层
|
智能体、AI 编程平台、知识库与 RAG、智能客服、办公助手与内容生成工具，通过统一接口携带企业令牌向网关发送请求。
|
五、与传统方案对比
|
维度
|
MAIGateway
|
通用 API 网关（Kong/WSO2/Azure APIM）
|
自建 / 普通代理
|
|
设计目标
|
大模型 API 调用治理
|
通用 API 转发与计费
|
简单转发
|
|
模型纳管
|
自研+开源+第三方全纳管
|
需插件/二次开发
|
需自行适配
|
|
令牌生命周期
|
全生命周期+轮换+撤销
|
仅鉴权
|
仅鉴权
|
|
Token 计量分账
|
FinAPI 多维分账
|
不支持
|
仅总额
|
|
智能路由降级
|
多链路+自动熔断+故障转移
|
需自研路由策略
|
需自研
|
|
内容安全
|
输入脱敏+输出过滤
|
需插件
|
无
|
|
GPU 资产视图
|
支持
|
无
|
无
|
|
部署合规
|
私有化 / 混合 / 等保三级
|
私有化/云
|
可私有化
|
六、典型应用场景
-
多团队、多模型统一接入：不同团队分别采购模型时，将接口和密钥收口到统一网关，应用使用稳定的企业地址和令牌，供应商变更在网关侧处理。
-
自动化智能体异常消耗治理：为智能体单独建立项目，设置 RPM、TPM、预算与熔断策略，调用突增或费用接近阈值时通知责任人。
-
财务分账与月度对账：费用按部门、项目、人员和令牌归集，财务从费用中心查看明细并与供应商账单核对。
-
敏感数据调用外部模型：请求发往外部模型前识别个人信息或内部敏感字段，按规则脱敏、阻断或转向本地模型。
-
公共模型与本地算力混合使用：同时管理公共模型 API、私有模型与本地 GPU，按数据等级、成本、延迟与模型能力选择链路。
-
AI 编程与研发平台：编码助手用项目令牌访问指定模型，限制可用模型和费用，供应商切换时减少研发工具侧改动。
七、部署与安全合规
MAIGateway 支持私有化与混合部署：在企业数据中心、私有云或指定云环境部署，应用访问网关地址，网关再连接公共模型、私有模型或本地推理服务。
-
单机部署：网关、MySQL、Redis 同机，适合调用规模小、运维简单的场景。
-
集群部署：负载均衡后多无状态实例，共享数据库/缓存/日志，以峰值在途请求数为容量规划主指标。
-
混合部署：普通任务走公共模型，敏感数据/本地能力任务路由到私有模型。
平台基于等保三级完成信息安全建设并通过评测，全程 TLS 加密传输，留存全链路请求与响应日志，满足《数据安全法》等监管要求。
注：等保、数据安全、认证与行业合规结论，以具体产品版本、部署环境及正式证明文件为准。
联系方式
让企业的每一次 API 调用，都可见、可控、可计量、可优化。