聚合层实际做的四件事——鉴权、协议适配、调度、计量;附多模态流水线配置示例与调度、计费两道工序的拆解。
工程实践 · 3 篇
面向真实项目的工程笔记:聚合层四道工序、降级链与路由策略、视频任务状态机、多模态流水线、调用链排查。
统一 API 网关一个 Key 多模型Agent 多模型调度流式输出异步任务压测
网关层四件事、成本 / 性能 / 稳定三种路由策略、分层结构图、按步骤打标签的记账方式与兜底清单。
按现象组织的速查:认证失败、model not found、模型列表为空、Base URL、断流、超时重试、402、429、账单差异。