自建 One API / New API 还是用托管中转站:算完隐性成本再说

selection2026-11-09·自建One-API还是中转站

技术上,自建的门槛已经低到几乎没有。One API 是这一系的源头,Go 写的单可执行文件,Docker 一行命令;New API 是最活跃的分支,补了多协议、支付、路由和更细的计费;Sub2API 偏向订阅额度分发;再往上还有 LiteLLM 这类企业网关。半小时能起一套,界面、渠道管理、令牌管理、用量统计全都有。

但「能部署」和「能长期跑」是两回事。我见过不少团队为了省一笔接口差价自建,三个月后默默迁回托管。

显性成本 vs 隐性成本

显性的那部分很好算:一台云主机、一个域名、证书、上游 API 的成本。看起来确实比托管便宜。

隐性成本在项目跑起来之后才浮现:

项目具体要做什么频率
上游资源找渠道、采购、轮换、被封后补号持续
风控并发特征、请求指纹、异常调用监控持续
网关维护版本升级、数据库迁移、兼容新模型协议每月
计费正确性usage 解析、流式断连、缓存口径、对账每次上游变动
可用性多节点、健康检查、故障切换、告警持续
安全管理面板暴露面、弱口令、Key 泄露、日志脱敏持续
账务充值对账、退款、发票、子账号权限每笔

最后两行最容易被低估。有安全团队做过全网测绘,One API / New API / LiteLLM 这类后台暴露在公网的资产量非常大,其中大量是默认端口、默认配置、没改过的管理面板。上游 Key 存在后台里,一旦被打穿,官方账单几分钟就能跑出一大笔。这不是吓唬人,是「拉起即用」这种部署方式的自然结果。

还有计费。流式请求在 message_delta 之前断开、客户端断连导致 scanner 提前停止读取上游、缓存字段口径不一致 —— 这些 bug 在开源网关的 issue 区里都能翻到。自建意味着这些账要自己核,自己修。

什么时候自建是对的

不是不能自建,是得满足条件:

  • 有明确的合规或数据边界要求,请求不能出自己的网络;
  • 有专职运维,能扛升级、监控、告警、故障切换;
  • 上游资源稳定,是正规采购而不是靠不断换号续命;
  • 调用量足够大,摊得平人力成本;
  • 需要定制计费、路由、审计逻辑,托管产品满足不了。

符合三条以上,自建才划算。只符合「想省点接口费」这一条,多半会在第二个月开始后悔。

还有个折中方案挺实用:核心敏感业务走自建或专线,一般性的内容生成、内部工具、原型验证走托管聚合。两套并存,按数据敏感度分流,比二选一现实。

什么时候托管更合适

小团队、需求变化快、要频繁试新模型、没有专人运维 —— 这几种情况托管优势明显。模型上新不用自己适配协议,通道挂了有人切,账单和日志现成,出问题至少有个能问的地方。

代价也说清楚:请求经过第三方,数据边界不在自己手里;上游供给依赖平台,稳定性是阶段性的;价格和倍率会调;平台本身有经营风险。这些不会因为「选了一家口碑好的」就消失。

我现在大部分项目走的是托管。选型时把「能不能导出请求级 usage」「能不能按项目建 Key 设额度」「限流是不是返回明确错误码」放在价格前面 —— 这几样恰好是自建时最费人力去维护的部分。手上这轮跑的是 token173.net,主要图的是文本、图像、视频型号在一个 Key 下,账单和调用日志归在一处,不用自己再搭一层代理去收日志。真遇到敏感数据的链路,另走别的方案,不混在一起。

一张可以直接填的决策表

判断项自建托管
数据必须不出内网✔✘
有专职运维需要不需要
上游渠道稳定可采购需要平台负责
需要定制计费 / 路由✔有限
快速试新模型要自己适配✔
初始投入低(部署)/高(长期)几乎为零
故障责任自己扛平台承担一部分
业务量小、需求常变不划算✔

别忽略第三条路

BYOK 调度网关:上游密钥是你自己以真实身份注册的,网关只做统一协议、路由和用量统计,不做额度转售。数据链路相对可控,责任边界比公共托管清楚,运维量又比完整自建小。对企业里「不能用公共中转、又不想从零造轮子」的场景,这条往往比前两条都合适。

最后

自建省下的是明面上的差价,多出来的是长期的人力、风险和责任。2026 年开源网关已经足够成熟,成熟到「部署」这件事不再构成门槛 —— 真正的门槛在部署之后那半年。把那半年的账算进去,再决定要不要自己搭。

一份半年期的实际开销对照

抽象说「人力成本」没感觉,把去年一个小项目的账摊开更直观。团队三个人,日均调用量不算大,自建那套跑在一台 4C8G 云主机上。

项目自建(半年)托管(半年)
云主机 + 域名 + 证书固定支出0
部署与初始化约 2 人日约 0.5 人日
上游渠道维护每月若干次,含两次补号0
版本升级 / 迁移3 次,其中 1 次数据库结构变更0
计费口径排查2 次,各约半天1 次,靠后台明细
故障响应自己值班平台侧承担一部分
接口差价省下一笔支出

真正让天平倒向托管的不是最后那行差价,是中间那几行:版本升级时数据库结构变更,得找停机窗口;上游一批号被封,凌晨起来补;流式断连导致账目少记,花半天核对 issue 和日志。这些事单次都不大,但它们是持续的,而且永远发生在你正赶项目的时候。

后来我们把这套网关留作 BYOK 调度层,只接自己实名注册的官方 Key,对外分发的那部分流量挪到了托管聚合。运维量降了大半,责任边界也清楚:核心链路自己管,一般流量交给平台。

什么信号出现时,说明该重新算这笔账

  • 月调用量大到接口差价能覆盖一个专人的人力成本;
  • 业务要求请求不出内网,或者要接内部鉴权、审计系统;
  • 需要定制计费规则、路由策略,托管产品的配置项不够用;
  • 上游已经能签正规采购协议,不再靠换号维持供给;
  • 团队里有人愿意长期认领这套系统,而不是「谁有空谁看一下」。

五条里中三条以上,自建就值得重新评估。只中第一条,多半还是会走回托管 —— 因为省下的钱是线性的,操心是指数的。