GPT 中转平台:型号这么多,先别问哪个最强

models2026-11-09·GPT中转平台

后台列表一拉开,gpt-6.2-astra、gpt-6.2-sol、gpt-6.1-sol、gpt-6.1-terra、gpt-6-sol、gpt-6-astra、gpt-5.6-sol、gpt-5.6-terra、gpt-5.5、gpt-5.4 一排摆着,第一反应往往是挑名字最靠后的那个。跑了一阵业务之后我的做法反过来:先把任务分档,再回头配型号。

四个新型号各自的定位、价格和官方评测口径,单独整理在 GPT-6.1 到 GPT-6.2:Astra、Sol、Terra 怎么放进同一张表;这篇只讲分档方法本身。

同一个模型,用来改写一句商品标题和用来啃一份 80 页合同,成本能差出几十倍,而效果差别几乎看不出来。

我自己分的三档

轻档:分类、抽取、格式化、批量改写。 请求量大、单次要得短、错了能重跑。这档唯一该在意的是单价和吞吐,用最便宜的型号就行。这部分的钱最容易被「默认用旗舰」浪费掉。

中档:日常对话、代码补全、客服工单、常规文案。 要一点推理能力,但不需要长链条思考。这档挑的是稳定性和首字响应,不是榜单分数。

重档:架构决策、复杂调试、多步 Agent 规划、长文推理。 这档才会考虑推理型号和更长思考时间,也才值得付溢价。注意推理产生的内部思考 token 一样计费,前端不显示但账单上有。

分完档再看型号列表,事情就简单了:给每档绑一个默认 ID,代码里做成配置项,别硬编码在业务里。

一个不依赖价格的判断办法

各家价格页口径不统一,我不在这儿抄具体倍率。给一个自己能算的框架:

某型号单次综合成本
  = 输入单价 × 输入倍率 × 输入 token 占比
  + 输出单价 × 输出倍率 × 输出 token 占比
  + 缓存命中部分(按平台规则单列)

关键是「输入/输出占比」要用你自己业务的真实分布,不是拍脑袋。对话类产品历史上下文越滚越长,输入占比能到七八成;生成类产品反过来,输出是大头。同一家平台,两类业务算出来的最优型号可能完全不同。

再补三项容易漏的:失败请求计不计费、重试算不算一次、缓存命中有没有按折扣价结算。这三项在批量任务里能把预估账单拉偏一大截。

迁移和 A/B 都别改代码

OpenAI 兼容接口的好处在这儿体现得最明显。把地址、Key、模型名放进环境变量,换型号只改一个字符串:

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["RELAY_API_KEY"],
    base_url=os.environ["RELAY_BASE_URL"],
)

def ask(prompt, tier="mid"):
    model = {
        "light": os.environ.get("MODEL_LIGHT"),
        "mid":   os.environ.get("MODEL_MID"),
        "heavy": os.environ.get("MODEL_HEAVY"),
    }[tier]
    return client.chat.completions.create(
        model=model,
        messages=[{"role": "user", "content": prompt}],
    ).choices[0].message.content

跑 A/B 时,固定一批真实样本,两个型号各过一遍,把结果质量、耗时、每条消耗记在同一张表里。别用「问一句你好」判断模型好坏,也别只看榜单分数。

平台怎么挑

GPT 线我主要看四件事:型号更新快不快、同一型号有没有多通道、长上下文会不会被截断、后台能不能拆出输入 / 输出 / 缓存的明细。

前三件在压测里能验,第四件只有在账单出问题时才知道值钱。有个月底发现成本比预估高四成,我从 token173.net 后台按 request_id 导了几十条 usage,拆完发现三件事各占一块:system prompt 开头有个时间戳导致缓存全失效、读超时 30 秒把长任务判失败后自动重试、后台小任务没指定轻量型号。三处都改完,第二周账单回到预估区间,全程没换平台也没谈折扣。

所以现在分档测试都收在同一个入口:https://token173.net/v1 一对 Key,gpt-6-sol、gpt-5.6-terra、gpt-5.5 和 gpt-image-2 那些图像型号在同一个控制台列表里,换 ID 不动其他变量。做完 A/B 直接导账单,轻中重三档的单条成本一比就出来。国内直连,老项目改 base_url 和密钥就能接。

型号上下架很频繁,别把任何教程里的字符串写死进生产配置,包括这篇;部署前拉一次 /v1/models 做存在性校验更稳。价格口径同理,以价格页当前公示为准。

把「默认旗舰」这个习惯改掉

真正把成本降下来的,通常不是换到更便宜的平台,是把「默认旗舰」这个习惯改掉。我上一个项目只做了任务分档这一件事,账单少了六成,输出质量几乎没变。平台选型排在后面。

2026 年型号命名为什么越来越乱

一个容易被忽略的事实:聚合平台控制台里的模型 ID 是平台自己维护的别名,不必然等于厂商官方文档里的版本号。-sol、-terra、-astra、-0813 这类后缀,可能代表档位、渠道、日期或者内部分组,不同站命名习惯还不一样。

带来的实际后果有三个:

  • 换平台不能只做字符串替换,得重新跑一遍最小验证组;
  • 同一个名字在两家平台可能对应不同档位和倍率,价格没法直接比;
  • 型号下架不会有通知,硬编码的业务会在某天突然开始报 model not found。

应对办法很朴素:把 ID 集中放在一份配置或环境变量里,部署脚本加一次 /v1/models 校验,模型能力用固定样本定期复测。别凭后缀猜强弱,也别把这串字符散落到十几个文件里。

一份 A/B 记录模板

日期任务档型号 A型号 B样本数质量判定P95 耗时单条消耗结论
轻档30格式校验通过率
中档30人工盲评
重档20复杂任务完成率

质量判定要事先定死,别跑完再改标准。固定样本、固定参数、同一条链路,三个条件齐了,A/B 的结论才有意义 —— 否则测出来的差异,很可能只是当晚国际出口抖了一下。