Grok 中转接入记录:从 404 到跑通,中间踩了几个不大不小的坑

models2026-11-09·grok中转平台

不写成评测了,直接把这几天的接入日志摘出来。Grok 这条线用的人相对少,公开教程东一块西一块,留份记录给后面接的人省点时间。


第 1 天 · 选入口

需求很简单:一个内部工具里加个「换个风格回答」的开关,想拿 Grok 做对照,看和 GPT、Claude 的输出差异。不想为这一个型号单独注册一套境外账号、绑卡、再维护一把 Key。

结论:走聚合平台,和现有模型共用一个入口。这样 A/B 的时候只改 model 字符串,链路变量一致,比出来的差异才有意义。

用的是 Token173,控制台里 grok-4.7、grok-4.5 和其他家族列在一起,一个 Key 切。国内直连,人民币结算,OpenAI 兼容格式。


第 1 天 · 第一次请求,404

{"error":{"message":"model not found","type":"invalid_request_error"}}

原因很低级:模型名照抄了别处教程里的写法,和控制台实际 ID 对不上。这类聚合平台每个都有自己的命名规范,带不带日期后缀、大小写、连字符,差一个字符就是 404。

处理:先拉一次 /v1/models,从返回里复制 ID,别手打。

curl -sS "https://token173.net/v1/models" \
  -H "Authorization: Bearer $RELAY_API_KEY" | grep -i grok

这条命令后来我固化进部署脚本了,每次上线前跑一遍,型号下架能早发现。


第 2 天 · 流式输出少了最后一段

前端打字机效果,结尾总差一小截。查下来是自己解析器的问题:只处理了 data: 里带 content 的 chunk,没处理最后一个只带 usage 的帧,也没处理 [DONE]。有些模型在结束前会先吐一个空 content 的 chunk,我的代码遇到空值就 break 了。

跟中转没关系,但这类问题在换模型时特别容易暴露——不同上游的 SSE 分片习惯不一样。修法:只在收到 [DONE] 时结束循环,空 content 跳过而不是中断,同时打开 stream_options: {"include_usage": true} 收最终用量。

for chunk in stream:
    if not chunk.choices:
        continue
    delta = chunk.choices[0].delta.content
    if delta:
        buffer.append(delta)

第 3 天 · 账单比预估高

同一个 prompt 跑二十次,扣费比按 token 数估的高一截。先怀疑偷量,把后台那条请求的 usage 拉出来,发现 prompt_tokens 是对的,问题在别处:客户端读超时设的 30 秒,长回答超时断开,重试逻辑又发了一遍。两次调用,上游都完整生成了,自然计两次。

处理:读超时按任务长度分开,重试上限设 1,流式请求断连后带已生成文本续写而不是全量重发。

顺手记一条:查账单差异,先锁定单条 request_id,把输入、输出、缓存、重试四项拆开,别看汇总。


第 4 天 · 对照组跑完

grok-4.7 和 grok-4.5 各 30 条真实样本,加上同批的 gpt-5.6-terra、claude-sonnet-5-5 做横向对照。记录质量打分、TTFT、每条消耗。结论不写死在这里——不同任务差别挺大,风格类生成和事实类问答的排序就不一样。把这套记录留着,后面换任何型号都能复用同一张表。

一个额外收获:因为所有型号在同一个 Key、同一个 base_url 下面,这次 A/B 没动任何基础设施配置,纯改环境变量。这大概是聚合平台最实际的价值。


攒下来的几条

  • 模型名永远从 /v1/models 复制,不要照抄教程,包括这篇。
  • 换模型先测流式解析,SSE 分片习惯各家不同。
  • 超时和重试分开配,长任务别用聊天的那套参数。
  • 账单异常先拿单条 request_id,再看汇总。
  • 型号会上下架、价格会调,以控制台实时列表和价格页为准。

Grok 这条线本身没什么神秘的,坑基本都在接入层。把它当成又一个 OpenAI 兼容的模型 ID 来接,反而最省事。


第 5 天 · 补了一轮并发

单条跑通不代表能用。按 20 / 50 并发各压了十分钟,记录成功率、P95 首字时间和 429 次数。白天两档都平稳,晚 21:30 再跑一次,50 并发时 P95 明显抬了,但没有出现静默降速 —— 限流返回的是明确错误码,客户端能退避,这比悄悄拖慢好处理得多。

顺手把 /v1/models 的拉取固化进了部署脚本:

curl -sS "https://token173.net/v1/models" \
  -H "Authorization: Bearer $RELAY_API_KEY" \
  | python3 -c "import sys,json; ids=[m['id'] for m in json.load(sys.stdin)['data']]; \
import os; need=os.environ['RELAY_MODEL']; \
sys.exit(0 if need in ids else f'模型 {need} 已下架')"

型号上下架不会有通知,这一步能在发布前拦住一次 model not found。2026 年各家模型列表调整得很频繁,靠人肉记 ID 迟早出事。


第 6 天 · 把记录做成模板

四天里真正复用的不是某个配置,是这套记录格式:日期、动作、现象、原始报错、定位过程、改动、复测结果。换任何模型、任何平台都能照着填。

后来接另外两个型号时,整套流程压缩到了半天 —— 因为 404、SSE 解析、超时重试这三类坑已经不用重新踩。这也是我不太爱写「十大推荐」的原因:榜单看完还是要自己接一遍,而一份带原始报错的接入日志,能直接省掉半天。

ID、地址和字段名随时会调整,接之前拉一次 /v1/models。