自建 One API / New API 还是用托管中转站:算完隐性成本再说
技术上,自建的门槛已经低到几乎没有。One API 是这一系的源头,Go 写的单可执行文件,Docker 一行命令;New API 是最活跃的分支,补了多协议、支付、路由和更细的计费;Sub2API 偏向订阅额度分发;再往上还有 LiteLLM 这类企业网关。半小时能起一套,界面、渠道管理、令牌管理、用量统计全都有。
但「能部署」和「能长期跑」是两回事。我见过不少团队为了省一笔接口差价自建,三个月后默默迁回托管。
显性成本 vs 隐性成本
显性的那部分很好算:一台云主机、一个域名、证书、上游 API 的成本。看起来确实比托管便宜。
隐性成本在项目跑起来之后才浮现:
| 项目 | 具体要做什么 | 频率 |
|---|---|---|
| 上游资源 | 找渠道、采购、轮换、被封后补号 | 持续 |
| 风控 | 并发特征、请求指纹、异常调用监控 | 持续 |
| 网关维护 | 版本升级、数据库迁移、兼容新模型协议 | 每月 |
| 计费正确性 | usage 解析、流式断连、缓存口径、对账 | 每次上游变动 |
| 可用性 | 多节点、健康检查、故障切换、告警 | 持续 |
| 安全 | 管理面板暴露面、弱口令、Key 泄露、日志脱敏 | 持续 |
| 账务 | 充值对账、退款、发票、子账号权限 | 每笔 |
最后两行最容易被低估。有安全团队做过全网测绘,One API / New API / LiteLLM 这类后台暴露在公网的资产量非常大,其中大量是默认端口、默认配置、没改过的管理面板。上游 Key 存在后台里,一旦被打穿,官方账单几分钟就能跑出一大笔。这不是吓唬人,是「拉起即用」这种部署方式的自然结果。
还有计费。流式请求在 message_delta 之前断开、客户端断连导致 scanner 提前停止读取上游、缓存字段口径不一致 —— 这些 bug 在开源网关的 issue 区里都能翻到。自建意味着这些账要自己核,自己修。
什么时候自建是对的
不是不能自建,是得满足条件:
- 有明确的合规或数据边界要求,请求不能出自己的网络;
- 有专职运维,能扛升级、监控、告警、故障切换;
- 上游资源稳定,是正规采购而不是靠不断换号续命;
- 调用量足够大,摊得平人力成本;
- 需要定制计费、路由、审计逻辑,托管产品满足不了。
符合三条以上,自建才划算。只符合「想省点接口费」这一条,多半会在第二个月开始后悔。
还有个折中方案挺实用:核心敏感业务走自建或专线,一般性的内容生成、内部工具、原型验证走托管聚合。两套并存,按数据敏感度分流,比二选一现实。
什么时候托管更合适
小团队、需求变化快、要频繁试新模型、没有专人运维 —— 这几种情况托管优势明显。模型上新不用自己适配协议,通道挂了有人切,账单和日志现成,出问题至少有个能问的地方。
代价也说清楚:请求经过第三方,数据边界不在自己手里;上游供给依赖平台,稳定性是阶段性的;价格和倍率会调;平台本身有经营风险。这些不会因为「选了一家口碑好的」就消失。
我现在大部分项目走的是托管。选型时把「能不能导出请求级 usage」「能不能按项目建 Key 设额度」「限流是不是返回明确错误码」放在价格前面 —— 这几样恰好是自建时最费人力去维护的部分。手上这轮跑的是 token173.net,主要图的是文本、图像、视频型号在一个 Key 下,账单和调用日志归在一处,不用自己再搭一层代理去收日志。真遇到敏感数据的链路,另走别的方案,不混在一起。
一张可以直接填的决策表
| 判断项 | 自建 | 托管 |
|---|---|---|
| 数据必须不出内网 | ✔ | ✘ |
| 有专职运维 | 需要 | 不需要 |
| 上游渠道稳定可采购 | 需要 | 平台负责 |
| 需要定制计费 / 路由 | ✔ | 有限 |
| 快速试新模型 | 要自己适配 | ✔ |
| 初始投入 | 低(部署)/高(长期) | 几乎为零 |
| 故障责任 | 自己扛 | 平台承担一部分 |
| 业务量小、需求常变 | 不划算 | ✔ |
别忽略第三条路
BYOK 调度网关:上游密钥是你自己以真实身份注册的,网关只做统一协议、路由和用量统计,不做额度转售。数据链路相对可控,责任边界比公共托管清楚,运维量又比完整自建小。对企业里「不能用公共中转、又不想从零造轮子」的场景,这条往往比前两条都合适。
最后
自建省下的是明面上的差价,多出来的是长期的人力、风险和责任。2026 年开源网关已经足够成熟,成熟到「部署」这件事不再构成门槛 —— 真正的门槛在部署之后那半年。把那半年的账算进去,再决定要不要自己搭。
一份半年期的实际开销对照
抽象说「人力成本」没感觉,把去年一个小项目的账摊开更直观。团队三个人,日均调用量不算大,自建那套跑在一台 4C8G 云主机上。
| 项目 | 自建(半年) | 托管(半年) |
|---|---|---|
| 云主机 + 域名 + 证书 | 固定支出 | 0 |
| 部署与初始化 | 约 2 人日 | 约 0.5 人日 |
| 上游渠道维护 | 每月若干次,含两次补号 | 0 |
| 版本升级 / 迁移 | 3 次,其中 1 次数据库结构变更 | 0 |
| 计费口径排查 | 2 次,各约半天 | 1 次,靠后台明细 |
| 故障响应 | 自己值班 | 平台侧承担一部分 |
| 接口差价 | 省下一笔 | 支出 |
真正让天平倒向托管的不是最后那行差价,是中间那几行:版本升级时数据库结构变更,得找停机窗口;上游一批号被封,凌晨起来补;流式断连导致账目少记,花半天核对 issue 和日志。这些事单次都不大,但它们是持续的,而且永远发生在你正赶项目的时候。
后来我们把这套网关留作 BYOK 调度层,只接自己实名注册的官方 Key,对外分发的那部分流量挪到了托管聚合。运维量降了大半,责任边界也清楚:核心链路自己管,一般流量交给平台。
什么信号出现时,说明该重新算这笔账
- 月调用量大到接口差价能覆盖一个专人的人力成本;
- 业务要求请求不出内网,或者要接内部鉴权、审计系统;
- 需要定制计费规则、路由策略,托管产品的配置项不够用;
- 上游已经能签正规采购协议,不再靠换号维持供给;
- 团队里有人愿意长期认领这套系统,而不是「谁有空谁看一下」。
五条里中三条以上,自建就值得重新评估。只中第一条,多半还是会走回托管 —— 因为省下的钱是线性的,操心是指数的。