脑机网 脑机网LOGIC.WANG
脑机网 · 一线 AI 与脑机接口观察
每天更新,只讲能落地的技术、机器人与商业化进展。
看今日文章
ESC

9B 的模型,追上了 27B 的分数

10GB 的显存,减去 4.9GB 的权重,还剩 5.1GB。

2026-11-21 · 2659 字 · 脑机网信息截止 2026-11-21

本文为脑机网原创内容,基于公开信息与公开数据分析,不构成任何投资建议。

10GB 的显存,减去 4.9GB 的权重,还剩 5.1GB。

这 5.1GB 要装下 512K 上下文的缓存,和推理框架本身。

商汤给 Loop-9B 正式版的硬件要求,就写在显存这一栏。

低于 10GB。

一张卡装得下

9B 参数,Loop 结构,上下文最高 512K;4bit 量化之后,权重文件 4.9GB。

这四个数字拼起来是一台什么机器:一张 10GB 显存的卡,一份能拷进移动硬盘的权重,一个不用机房的部署位置。过去几年,模型能力的讨论都在参数表上进行;这张表上 9B 不占优势,可它跑得起来的地方,比 27B 多得多。参数表算的是上限,显存算的是下限,下限才决定谁能用。

512K 的上下文是另一个门槛。一份几百页的合同、一整个中型仓库的代码,都能一次放进去,不用先切片再检索。切片检索是把文档拆开,各段分别算,最后拼起来;长上下文是把整份东西放在同一张桌子上看。两种做法对显存的要求不一样,后者更吃缓存,前者更吃工程。

跑得起来,才有后面的比较。

两项分数一输一赢

Agent 与数据分析两项评测,商汤把对手的分数一起写了出来:NL2Repo 41.36 对 44.60,AIDABench 65.31 对 65.01。

一项差 3.24 分,一项高 0.30 分。

标题里的追上,指后一项。

这两个分数怎么来的,公开信息里没有写全:用什么提示词、跑几遍、取平均还是取最好一次、对手分是自己跑的还是引用公开结果,都没有说。评测口径不写清楚,分数就只能当参考,不能当排名。这一点对赢的那一项和输的那一项同样成立。

所以两个数要分开读。

前一项没追上。41.36 对 44.60,差 7.3%,不是误差范围内的事。NL2Repo 考的是仓库级代码任务,输入长、依赖多、要改的地方散在多个文件里;这一项落后,说明 9B 在长链条的代码操作上还差一截。这个差距和参数量差着同一个方向:9B 是 27B 的三分之一。参数少三分之二,分数少 7.3%,这两件事放在一起,才看得出这一项上参数还在起作用。

3.24 分放在 44.60 的基数上是 7.3%。同一个模型换个提示词,分数能浮动一两分;3.24 分是提示词解释不了的距离。

商汤把两个数一起放出来,等于承认了这一项的落后。发布会只报赢的那一项,是更常见的做法;报出输的那一项,反而更好读,因为它把“追上了”限定在了一项上,没有扩成整体结论。一家公司愿意把 7.3% 的差距写在评测表里,比只写 0.30 分的领先,更接近真实的使用位置。

零点三分不算赢

65.31 对 65.01,差 0.46%。

小数点后第二位上的差距,换个随机种子就可能翻过去。

所以这一项叫贴线。

贴线的意思是:在这项任务上,9B 和 27B 分不出高下。分不出高下本身就是结论——三倍参数换不来一项可测量的优势,那参数在这一项上就不是决定因素。0.30 分不能证明 9B 更强,只能证明 27B 的优势在这里消失了。消失和反超,是两件事,标题取的是后者。真要分高下,得看第三项、第四项,而公开的只有这两项。

Loop 复用同一组层

商汤给的说明只有一句:通过 Loop 结构复用模型层参数。复用几层,循环几次,没有披露。

能确认的是结果:9B 的体量,跑进了 27B 的分数段。Loop 这个名字的字面意思,是同一组层参数被反复用;深度靠重复堆出来,宽度不用加。这笔账省在参数上,不省在计算上——循环几轮,就要算几轮。参数表上的数字因此变小了,账单上的数字不一定。

省参数,不省算力。

这也是它和蒸馏、量化不同的地方:后两者是把已经训练好的大模型压小,Loop 是从结构上少放参数,再把它练出来。压小的模型,能力上限跟着原模型走;少放参数的模型,上限由自己的训练决定。前者省的是部署,后者从训练到部署都省一点。

门槛掉了一档

部署一个模型,第一道关不是分数,是显存。

4bit 的 9B 是 4.9GB;同样 4bit,27B 的权重按参数量折算约 13.5GB,是 2.75 倍。

这还没算上下文缓存。上下文拉到 512K,缓存会跟着涨;权重占得少,留给缓存的空间就多。一台机器能不能同时装下模型和长文档,取决于这个减法,不取决于跑分。9B 在这道减法上,先天比 27B 宽裕,宽裕出来的部分,正好用来装那份长文档。同样一张卡,装 27B 的人要算能开多长的上下文,装 9B 的人先算能开几个实例。

门槛掉一档,用的人多一批。

官方给的显存数字是“低于 10GB”,没有说这个数是在多长上下文下测的。512K 拉满时显存会涨,涨多少没有披露。这一点没披露,就不能替它算。

商汤的营收在旁边

商汤前三季度营收 37.9 亿元,同比增 30.4%;9B 模型能带来多少收入,没有单独披露。

能看出来的是方向:把模型做小,做到一张卡能跑,卖的是交付,不是调用。政企客户买不动一整个机房,买得起一台工作站;模型小到能进工作站,才谈得上按项目卖。这条路和按 token 计费的路,收款方式不一样:一个按次收,一个按台收,前者的规模看调用量,后者的规模看装机量。

两种生意,两本账。

按次卖的模型,收入随调用量涨,成本也随调用量涨;按台卖的模型,收入在签合同那天定了,之后每多一台机器,多一份部署的人力。

小模型不是缩水版,是另一种交付。

范式智能 11 月 18 日发布的 Phai-A1,也把“个人电脑本地部署”列为一项。官方口径称,RTX3090 单卡跑代码 Agent,响应比 Qwen27B 快 8 到 10 倍。这是厂商口径,没有第三方复现。厂商口径的数字,缺的从来不是倍数,是复现条件:什么精度、什么批量、什么输入长度。8 到 10 倍这个区间本身也宽,宽到两种测试方法都能落进去。

分数之外的时间

两项分数之外,还有一项没法测。

一个团队愿意为部署花多少时间:4.9GB 的文件拷过去,装推理框架,改几行配置,出第一个 token。

27B 的模型走同样流程,多出来的每一步都要人盯。这些时间不进跑分表,但进采购决策。能不能跑通,比跑得快不快更早决定买不买。

跑分表上没有这一栏。

厂商能给的是权重体积和显存下限,剩下的要靠用的人自己试。部署时间这种事,一份评测报告写不进去,一份采购申请里却要写;写的是能不能在我们现有的机器上跑起来,不是跑分比谁高几分。这句话听起来像常识,落到采购单上,往往被跑分挤到最后一栏。

最后看的是减法

官方给的硬件数字只有一个:显存低于 10GB。

权重 4.9GB,上下文 512K,NL2Repo 41.36,AIDABench 65.31。四个数字摆在一起,9B 和 27B 的距离,短到要用小数点后第二位来量;而它俩在显存上的距离,是 8.6GB。

剩下的 5GB 留给上下文。

这条路上,参数表已经不是最先看的那一页了。

免责声明:本文基于公开信息撰写,仅供读者参考,不构成任何投资建议。

数据与信源

信息截止 2026-11-21。文中数据以该日期前已公开的信息为准。

本文引用 公开报道与公司公告(未逐条列示)。

本站历史文章在正文中标注了来源机构与时间,但未逐条附原始链接。如需核验文中任一具体数字,请在评论区注明段落与数据,我们会在 2 个工作日内补出处。

本文为脑机网原创内容,基于公开信息与公开数据分析,不构成任何投资建议。

查看「企业动态」更多内容 → · 返回首页

引用本文

欢迎媒体、智库与研究机构引用。引用时请注明来源「脑机网」并保留原文链接,同时保留文章页标注的「信息截止」日期。转载规则见 引用与转载规范。

GB/T 7714脑机网编辑部. 9B 的模型,追上了 27B 的分数[EB/OL]. (脑机网)[2026-11-21]. 北京: 脑机网, https://aiai.cafe/a/njw-sensenova-loop-9b-1121. 2026-11-22.
APA脑机网编辑部. (2026, November 21). 9B 的模型,追上了 27B 的分数. 脑机网. https://aiai.cafe/a/njw-sensenova-loop-9b-1121
脑机网 · 一线 AI 与脑机接口观察
每天更新,只讲能落地的技术、机器人与商业化进展。
看今日文章