同款AI模型换家接口就变笨,是模型被换了吗?
同一款开源模型在不同服务商手里的表现差出一截,问题往往出在服务商给它留了多少作答空间、传对参数没有,单看模型名字和低价算不出真实花费。
我以前图便宜买过中转 Key,用了两周才发现回答我的根本不是 Claude。从那以后,看到谁家挂着同款模型、单价还低一截,我第一反应都是先怀疑对面的模型不对。但 Artificial Analysis(简称 AA)在 11 月 6 日更新的接口准确率指数 v1.1 给出了另一种账本:哪怕大家跑的真是同一个模型,交到你手里的效果也能差出大半。AA 测了 100 多个按用量计费的模型接口,拿去跟他们自己按官方权重搭的参考版本比,结果有近四分之一的接口表现低于参考标准。
答题纸只给一半,再聪明的模型也交不出卷
AA 的测法是拿同一套难题推理、长文档查找和工具调用去考各家接口,答对率跟参考版本一样就记 100 分(意思是和参考表现相当,不是把题全答对了),而且每次结果都带着测量日期。
分数掉得狠的,死法相当朴素。拿 GLM-5.3 Flash 来说,有两条接口把单次输出长度限制在了约 32K Token(Token 是模型处理文字的计量单位,这个上限同时管着模型能想多长、能写多长)。考到 250 道高难题组成的 HLE-250 时,模型在算题过程中要把推理步骤写出来,结果大约一半的回答在给出最终答案前,就因为撞上字数上限,写到一半被掐断了。参考版本在这套题上能答对 55%,那两条被限长的接口只拿到 22% 和 29%。另外两条同款接口虽然没被掐断,但思考内容比参考版少了约三成,难题答对率也掉到了 48%。
请了同一个会计,一家给配了十页草稿纸,另一家只给半张便签,算出来的账自然不一样。如果你买接口是为了让 AI 一步步推导复杂逻辑,或者生成长篇内容,单价再便宜,被掐掉的那半截回答也是白掏钱。
脑子没坏,但递过去的单子填错了格式
除了把话掐断,另一个让同款模型显得变笨的地方在交接环节。AA 测 Muse Spark Open 时发现,有两条接口在难题和长文档上跟参考版差不多,唯独在调用外部工具时栽了跟头。
原因让人哭笑不得:模型会想答案,但在把预订编号这类参数交给外部软件时,接口把原本要求文字类型的参数变成了纯数字格式,这项工具调用测试因此丢分。平时只是聊聊天看不出毛病,一旦用它自动查单,编号的格式就成了能否完成任务的一环。另一家独立机构 Openbenchmarks 拿 600 条会议记录查找、工单分类和合同提取去测 10 家同款 GLM 5.3 Flash 接口,同样看到了实际任务成功率的参差。
当然,第三方接口也完全能把活干好。AA 同一天公布的数据里,DeepSeek V4.1 Flash 1017 的 22 条被测接口得分都在 97.5 到 101.4 之间,和参考版本在统计上相当。
换接口前,拿自己的活去验两件事
看这类测试分数时,得先看清测量日期和测试口径。比如服务商 CoralBricks 自己公开做过一版复现测试,但只测了工具调用和长文档两项,参考来源也跟 AA 不同,直接拿不同口径的分数拼在一起比高低并没有意义。
打算换一家更便宜的接口跑业务时,光核对模型名字不够用。直接拿自己手头常跑的两类任务去试:一是需要长篇思考或长文输出的任务,检查返回结果有没有写到一半戛然而止,或者思考过程明显缩水;二是让它调用一次你常用的内部工具,专门看编号、日期这类参数的格式有没有被擅自改掉。这两关过了,省下来的单价才真能装进兜里。
出处(5)
- 接口准确率指数v1.1发布 · Artificial Analysis
- Endpoint Accuracy Index v1.1 Methodology · Artificial Analysis
- DeepSeek V4.1 Flash 1017接口测量结果 · Artificial Analysis
- 自行复现的接口准确率测量 · CoralBricks
- Same model, different accuracy · Openbenchmarks
内容有误?告诉我们,核实后会更正,并在这里写明改了什么。
评论
还没有人评论,来写第一条。
发表评论