美团那篇开源公告里,硬件只有一句话:单卡显存不足 80GB 的国产 AI 加速器。
没有型号,没有厂商,没有卡数。
5 天后,The Decoder 把这句补成了另一句话:训练全程用国产芯片,演示部署跑在 194 张昇腾上。中文媒体再转一手,就成了“全程国产芯片训练,194 张卡”。
这两件事在美团自己的材料里是分开的。
194 这个数怎么来的
它出自随模型放出的部署说明,不是训练日志。
The Decoder 11 月 15 日的报道写得很清楚:自托管示例是一个 194 张昇腾 Atlas A2 的集群,2 张管图像处理,64 张管提示词摄取,128 张管响应生成。3 个数字加起来正好 194,分工是流水线,不是堆料。
这是推理的切法,不是训练的切法。
先算显存,再算训练
1.6 万亿参数按 4bit 存,是 0.5 字节一个,合计约 800GB。摊到 128 张做生成的卡上,每张 6.25GB。Atlas A2 的单卡显存按 64GB 算,放完权重还剩九成以上给 KV cache 和中间激活。
这就是 194 张能跑起来的原因——不是因为模型小,是因为量化把权重压到了原来的八分之一。反过来说,按 16bit 存是 3.2TB,摊到 128 张卡上每张 25GB,留给 KV cache 的空间从 58GB 掉到 39GB,能扛的并发少三分之一。
KV cache 才是长上下文真正的开销。100 万 token 的窗口,每多一个并发会话就多一份缓存。生成阶段要一直占着这块缓存,所以 128 张卡单独拎出来做这件事。
前代 LongCat-2.0 是 2026 年 6 月 30 日发布的,美团当时披露的训练底座是超过 5 万张国产 AI 芯片。
5 万除以 194,是 258 倍。
同一个团队,同一条路线,训练规模和推理示例差了两个数量级。把 194 这个数安到训练上,等于说 258 张卡干的活一张就干完了。所以准确的说法只有一句:美团说训练用的是国产 AI 加速器,没说型号;部署示例用的是 194 张昇腾 Atlas A2,没说是训练。至于“全程没有英伟达”,那是 The Decoder 的表述,美团官方材料里没有这句确认。
80GB 那道墙
官方博客第 5 节的标题就叫“国产算力”,里面写了一段具体的难处:单卡显存不足 80GB,长序列训练和微调都会被卡住。
解法是分片。FSDP 双重分片把参数和梯度切开,扁平化缓冲区压低峰值显存,混合词表并行再压一道。跨卡通信用拓扑感知的并行策略,参数 AllGather、专家 token AllToAll、KV AllGather 尽量留在超节点内。MoonEP 只在负载不均超过阈值时才复制专家,避免通信开销大过收益。效果是一个数:长序列 SFT 的单卡吞吐,比 DDP 基线高 86%。
这句话的分量在于,它证明的不是“能训”,是“训得动”。
4bit 不是压缩包
W4A4 的意思是权重和激活都量化到 4bit,并且用芯片原生的 INT4 矩阵乘单元来算。这一点决定它和“先训完再压”不是一回事:压缩包解开还要还原,W4A4 是直接在 4bit 上算,省的是带宽和算力,不是硬盘。官方压测的数字是:预填充吞吐提升 43.3%,解码吞吐提升 42.77%,首 token 延迟降 15.91%,每 token 输出时间降 19.72%。精度上,官方口径是“与量化前相当”。
这组数字是自报的,第三方还没复现。
视觉,与断掉的网
LongCat-2.5 的原生多模态不是外挂一个视觉编码器。
做法是把原生分辨率的视觉特征做残差向量量化,拆成多层级离散 token,逐级补细节,再和文本 token 一起喂进同一个主干。视觉码本和主干联合训练,两套信号共享同一套参数。官方给的好处有两条:视觉 token 可以离线预计算并缓存,在线算得少;分布式训练时负载更均衡。
外挂编码器的模型,图文是两套表征;这一版把它们压进同一个语义空间。
代价是图也占上下文。
长程智能体最容易学会的不是解决问题,是钻空子。
官方列了 3 条约束:任务环境断网;清除 git 历史和文件缓存;用另一个模型当裁判逐条看轨迹。另外对重复思考、重复工具调用、过度思考单独加了惩罚。训练数据里还放了真实 Agent 的失败轨迹,转成可复现、可验证的任务。这几条合起来,考的不是模型会不会写代码,是它肯不肯按题目要求写。
这 3 条对应的是一种很具体的失败:模型不去修 bug,而是去翻 git log 找答案。
断网和清缓存,是把捷径一条条堵上。
分数要横着看
官方评测表里,LongCat-2.5 的 Terminal Bench v2.1 是 88.4,DeepSeek-V4.1-Flash 是 90.6,Claude Opus 5 是 89.1。差 2.2 分,排第 3。
换到更难的 v4.0,它是 38.5,DeepSeek 是 31.2,GLM-5.3 是 41.8,Claude Opus 5 是 53.9。这一档它比 DeepSeek 高 23.4%,比 Opus 5 低 28.6%。
还有一组更刺眼的:修真实仓库 bug 的 DeepSWE,它从上一代的 9.7 涨到 64.6,DeepSeek 是 74.2,GPT-5.6 Sol 是 72.7。涨了 5.7 倍,还是差 13%。
表下还有一行小字:带星号的分数来自别家公开报告或榜单,没星号的是美团自己跑的,仅供参考。也就是说,这张表里,别家的分数大多来自各家自己的报告,能直接横向比的没有几个。评测口径不统一,是这一轮所有国产模型的共同问题。
有中文稿写它在 Terminal Bench v4.0 上“仅次于 Claude Opus 5”。
官方表里,GLM-5.3 是 41.8,比它的 38.5 高。第二名轮不到它。
这类错误不难查,官方表就在博客里,一行一行列着。
传错的原因也简单:只看了两行。
MIT 到底给了什么
给了 3 样:能商用、能二次训练、能再分发。
没给的是另外几样:训练数据、训练卡时、完整的评测方法、独立技术报告。官方放出来的是一篇博客,加上 Hugging Face 上的权重。所以“开源”在这里的准确含义是:权重和部署路径可用,复现路径不完整。对大多数团队,这已经够了——能下载、能微调、能商用,是过去只有少数模型才给的自由度。对想做同等规模预训练的人,这远远不够。
开源放出来的是两个仓库:主仓库,和专家层 4bit 量化的版本。后者才是能直接跑的,1.6 万亿按 16bit 放,没有几个团队能随便下载。许可证是 MIT,不是带附加条款的“仅研究用途”。主仓库给研究者,量化仓库给要部署的人,两条路同一天放出来,没有先社区后企业的次序。
一家外卖公司为什么做这个
理由不复杂:美团每天跑的是全世界最大规模的调度系统之一,骑手、商家、路线、定价,全是长程决策。这类负载和编程智能体是同一种形状——多步、有工具、要落地。
模型对它是成本项,不是收入项。
成本项的逻辑是:能自己训就自己训,能开源就开源。开源能换来社区帮你改算子、适配芯片、找 bug,这 3 件事恰好是国产硬件最缺的。
收入项的逻辑正相反。
同一周,阿里把 2.4 万亿关在 API 里,美团把 1.6 万亿放了出来。两家都没错,只是账本不同。
回到那句“国产 AI 加速器”。它是一句诚实的话,也是一句留了余地的话。诚实在于它承认了约束——显存不足 80GB;留余地在于它没说芯片是谁的,也没说训练用了多少张。这两个空,可能永远不会补。能补上的只有 194 这个数,而它说的是推理。把推理的数字当成训练的战果,是这轮传播里最容易被忽略的一次偷换。以后看到“国产芯片训练”这 5 个字,先问一句:说的是训练,还是推理。
免责声明:本文基于公开信息撰写,仅供读者参考,不构成任何投资建议。