1.6 万亿除以 480 亿,得 33.3。
这是美团 LongCat-2.5 的两个参数口径。总参 1.6 万亿,每生成一个 token 激活约 480 亿,两者相除是 33.3。换句话说,一个 token 只走全部权重的三十分之一,剩下三十分之二十九不动。模型越大越省着用,这是过去两年参数扩张的共同做法;差别在于,这一次的权重是在国产加速卡上训出来的。原生多模态,文本、图像、视频都能输入,上下文开到 100 万 token。
大头是闲着的。
省下来的只是算力,不是显存。稀疏激活让每个 token 少算很多乘加,但 1.6 万亿个参数仍然要放在某处,一个都不能少。这就是第一道题:单卡显存不足 80GB,厂商工程文档把这句写在最前面,等于先交了底。装不下的部分只能切开,切开之后卡与卡之间要通信,通信要时间,时间就是延迟。
80GB 装不下 1.6 万亿。
于是有了一张清单。
194 张卡分工
厂商工程文档给的自托管参考配置是 194 张华为昇腾 Atlas A2。分工写得很细:2 张做图像处理,64 张做提示词摄入,128 张做回复生成。2 加 64 加 128,正好 194,没有余量,也没有一张留给别的用途。整份指南里没有英伟达选项。这不是一句口号,是一张能照着买的清单:型号、张数、每一段干什么,都写在上面。
输入与输出,一比二。
64 张管读,128 张管写,写的那一头是读的两倍。一次提问只读一遍,一段回复要一个字一个字往外吐,吐字的阶段更吃卡。上下文开到 100 万 token,读的那一段就更长:64 张卡要先把它读完,读完之后的中间结果还要留在显存里占地方。读得越长,后面写得越贵。
1.6 万亿除以 194,得 82.5 亿。
平均一张卡上站着 82 亿参数,差不多是总参的194 分之一。这个除法没有考虑激活,也没有考虑并行切分的方式,它只说明一件事:所谓“一张卡都没用”,不是一张卡干完了所有活,是 194 张卡各干一段,这 194 张里没有一张英伟达。
一张都没有。
194 张卡也划出了自托管的门槛。这不是一台机器,是一个机柜级的部署:卡要互联,显存要池化,任务要按输入和输出分开排队。权重公开,不等于人人跑得动;能下载和能上线之间,隔着一间机房。开源把模型给出去,没有把机房一起给出去。
能下载,不等于能上线。
100 万 token 的上下文是另一道账。窗口开得越长,中间结果占的显存越厚,194 张卡里留给生成的那 128 张,被上下文吃掉的余量就越多。上限是海报上的数,账单在机房里。
差的是0.7分
跑分先摆出来,全部是厂商自报。Terminal Bench v2.1 拿到 88.4;Claude Opus 5 是 89.1,GPT-5.6 Sol 是 88.8。两个对手分别高 0.7 分和 0.4 分。BrowseComp 是 91.9,这个数单独看,只能说明它被跑过。三个同榜的数放在一起,能说的话题只有一个:它进了第一梯队,但没进第一名。
0.7 分,不是 7 分。
这个差距放在一张榜上,是第一梯队内部的差距,不是代际差距。但榜是厂商自己选的,题目也是厂商自己报的,名次怎么排,发布方有主动权。自报的意思是,没有第三方复跑;复跑之前,88.4 只是一个待核的数。待核不等于假,只等于还没有别人替它作证。
更能说明问题的是另一组数:W4A4 量化相比 8 位基线,prefill 吞吐提升 43.3%,decode 吞吐提升 42.77%。两个数字差 0.53 个百分点,几乎对称。读入和生成两个阶段同步受益,说明这次压缩没有明显偏科。4 位是 8 位的一半,权重体积减半,一张卡装得下的参数翻倍,卡与卡之间要搬的数据也少了一半。
带宽也是成本。
权重可以拿走
许可证是 MIT。权重可以下载、可以改、可以商用。对美团来说,这件事的收益不在授权费,在别人能不能拿它去改。改的人多了,模型会长出原厂没想到的用法;改的人少了,权重就只是一份存档。公开的应用只有妙手工作台和一家门店,剩下的用法,得看拿走权重的人怎么写。
权重出去了,用法就分散了。
这也是开源模型和闭源接口的分岔。接口的用法由厂商定义,权重的用法由拿走的人定义。前者改一次要发公告,后者改一次只要提交一个分支。
上一代5 万张卡
上一代 LongCat-2.0 是 2026 年 6 月底训的,集群规模 5 万多张国产芯片。从 6 月底到 11 月,不到 5 个月。两个数字不能相减:5 万多张是训练集群,194 张是推理参考配置,一个是把模型造出来,一个是把模型开起来。拿 5 万减 194,得出“卡数少了 99%”,是把两本账合成了一本。训练要的是并行和容错,推理要的是延迟和吞吐,尺子不一样。
两本账。
训练侧的成本结构和推理侧不是一回事。前者是几万张卡同时跑,空转一分钟就是钱;后者是常年开着,忙的时候满、闲的时候空。5 万多张的集群适合前者,194 张的清单适合后者。把两份配置放在一张表上比大小,比出来的不是进步,是两种活。
能比的只有时间。不到 5 个月,从 5 万多张的集群,走到一份 194 张的部署清单。
清单比集群好复制。
一家门店的七个百分点
应用侧给了一个很小的数。美团“妙手”商家 AI 经营工作台以 LongCat 系列为底座;杜尚发型的一家门店 8 月试用,9 月 GTV 环比增长 7%。一家门店,一个月,一个个案。它证明不了模型强弱,只证明这套东西已经接进了真实的门店经营,并且留下了一个可以复算的月度数字。榜单上的 0.7 分相对对手,门店里的 7% 相对上月,两个数不该放在一起比。
一个个案,7%。
7% 是环比,不是同比;是一个月,不是一年;是一家店,不是全平台。三个限定词缺一个,这个数就会被读大。
可复制比可训练难
蔡勋梁是美团龙猫大模型负责人。他的说法是:“逐步攻克了神经网络处理器确定性计算、算力利用率提升等难题,验证了大规模国产训练的可行性。”注意最后三个字:可行性。可行性是一道证明题,做完一次就成立;可复制性是一道工程题,别人照着做还得成。
确定性计算这一条尤其具体:同一批数据、同样的并行切分,换一次运行要能得到同样的结果,否则大集群上的问题无法复现,调优也无从谈起。194 张卡的清单,就是那道工程题的第一页。
第一页,不是最后一页。
训练侧依然是 5 万张级别的集群,那套东西没有变成清单。可复制的是部署,不是训练。这两件事之间,差着一整个集群的规模。
差着一整个集群。
所以结论不落在 88.4 上。88.4 会挂在榜上,等别人来复跑。194 张卡的分工表不用等:2 张图像、64 张输入、128 张输出,谁想复现,就按这个数去买卡。
2 张,64 张,128 张。
三个数加起来是 194。指南翻到最后,也没有英伟达那一栏。
免责声明:本文基于公开信息撰写,仅供读者参考,不构成任何投资建议。