一个外卖应用,是诞生旗舰级大模型(Large model)的奇怪地方。美团做的是订单,不是论文。但在 2025 年 9 月 1 日,公司发布并开源了 LongCat-Flash-Chat,而它的核心想法,通常是研究实验室而非本地生活平台才会下的那种架构赌注。
它的主张说起来简单、做起来很难:把一个巨型模型放在预备队里,但只为每个 token 真正需要的部分点亮开关。美团声称,结果在又长又乱的智能体任务上,比那些每次都点亮同等参数数量的模型更快、更便宜。
关键要点
- LongCat-Flash 采用混合专家(MoE)架构,总参数 5600 亿,但每个 token 只激活 186 亿至 313 亿,平均约 270 亿。
- 「零计算专家(Zero-Computation Experts)」机制让许多专家对某个 token 完全不贡献,于是算力按需分配,而非均匀分配。
- 一个 PID 控制器实时微调专家偏置,把每 token 平均激活量压在 270 亿附近,并让总训练成本有界。
- 美团称模型在 30 天内训完,单张 H800 上单用户可达每秒 100+ token;它被定位为一个非思考型基础模型,却拥有异常强的智能体能力。
- 权重已放在 GitHub 和 Hugging Face,官方对话站点为 longcat.ai。
反对均匀算力的理由
多数稠密模型为每个 token 支付同样的算力账单,无论任务是「2+2 等于几」还是「规划一条三城物流路线」。混合专家(MoE)模型把网络拆成专家、把每个 token 路由给其中少数几个,从而打破这种对称。LongCat-Flash 用零计算专家把想法推得更远:整组专家被明确允许对某个 token 什么都不做,于是活跃参数数量在 186 亿到 313 亿之间随上下文需求滑动。
美团反复回到的一个数字是平均值:5600 亿总参数里约 270 亿活跃。为了防止这个平均值随训练推进悄悄上移——那会无声地抹掉效率优势——团队给专家偏置装了个 PID 控制器,持续微调它,让每 token 激活量稳稳钉在 270 亿附近。这是一个用控制工程解决机器学习记账问题的办法。
把速度做成产品特性
效率只有在用户能感知的地方显现才算数。美团报告了两个运营层面的说法:模型 30 天训完,单用户在单张 H800 上每秒得到 100+ token。公司把这两者都归因于架构加上自研底层优化,包括跨层通道,让混合架构的通信与计算大体并行,而非互相等待。
对美团具体而言,回报在于智能体工作——模型循环调用工具、调用 API、跨多步推理的任务。这类任务正是一个均匀重型模型会变贵变慢的地方,因为账单随每一步复利增长。一个能按 token 升降算力的模型,原则上更贴合这种负载。
一个送外卖的公司为何在意智能体
美团的策略建立在它所称的三条腿上:「AI at work」「AI in products」与「Building LLM」。前两条已经落地:NoCode 做代码生成、一个运营决策助手、以及一个酒店垂直智能体。LongCat-Flash 是第三条腿的首次公开亮相,而它对智能体的强调绝非偶然——公司自建了一套智能体评测集来指导数据策略,并用多智能体方法在训练中生成多样化、高质量的轨迹数据。
战略层面的解读是:美团并不打算登顶通用聊天机器人榜单。它在打造一个为自身业务所跑的那种多步、用工具自动化而调优的模型,然后开源它,好让外部开发者在同一基石上构建。据脑机网(BrainNet)首席科学家 Li An 的看法,对非前沿实验室而言,更聪明的做法是为某个行业真正在跑的任务去优化模型,而不是追逐巨头已经占有的通用能力。
Li An 的评论仅代表其个人观点,不代表 NeuroAI 的编辑立场或脑机网(BrainNet)的背书。
诚实的局限
- 5600 亿总量 / 270 亿平均活跃的 figures,以及 100+ tok/s、30 天训练的说法,都是美团在自己渠道上发布的;对开源权重的独立基准尚未产生竞争性的数字集合。
- 「强智能体能力」由美团内部的智能体评测集支撑,那不同于被广泛接受的公开智能体基准,所以这个说法比一个标准数学分更难验证。
- 作为一个非思考型基础模型,LongCat-Flash 并未为思考模型所用的长链思维推理风格做优化;它的强项被框定在速度与工具使用,而非逐步推敲。
- 零计算专家与 PID 控制器的设计在发布中仅是高层描述;团队尚未公布确认第三方条件下效率说法所需的细粒度吞吐与时延测量。
- 一个 5600 亿模型,哪怕只激活 270 亿,与真正的小模型相比自托管仍显沉重;效率故事是相对于它自己的参数量,而非相对于可边缘部署的模型。
普通人现在能做什么
- 如果你构建智能体流水线,从 Hugging Face 拉取 LongCat-Flash 权重,把多步工具使用任务与一个活跃规模相近的稠密模型做对比基准——每 token 的灵活性才是值得测的变量。
- 如果你训练自己的 MoE,把零计算专家加 PID 控制器这套技巧当成封顶平均激活量的办法来研究;它是让训练与推理成本可预测的一个具体抓手。
- 如果你做大规模推理,把那句「单张 H800 上 100+ tok/s」当作需要复现的厂商数字,而非保证,并在自己硬件上测过再下决定。