脑机网 脑机网LOGIC.WANG
脑机网 · 一线 AI 与脑机接口观察
每天更新,只讲能落地的技术、机器人与商业化进展。
看今日文章
ESC

阶跃星辰开源 3210 亿参数推理模型,赌的是"想得慢"有多贵

## 关键要点

2026-11-17 · 1908 字 · 脑机网信息截止 2026-11-17

本文为脑机网原创内容,基于公开信息与公开数据分析,不构成任何投资建议。

关键要点

  • 阶跃星辰开源 Step-3:3210 亿参数多模态推理模型,单 token 只激活 380 亿参数,权重用 Apache 2.0 发布。
  • 论文的核心主张不是把模型做小,而是解码成本取决于模型与硬件的配合方式,不取决于参数总量。
  • 在 Hopper 显卡、50 毫秒单 token 时延目标下,Step-3 单卡解码吞吐最高 4039 token/秒,同一设置下 DeepSeek-V3 为 2324。
  • 论文自己承认,对比场景是挑了有利于对照模型的条件设定的。

问一个工程师"推理模型为什么贵",答案很少是"它大"。是那段一个 token 一个 token 往前挪的时间,GPU 在烧,用户看不见。上海的阶跃星辰,交出的正是一台为缩短这段时间而从头设计的模型。

Step-3 于 2025 年 7 月下旬开源,此前在上海的世界人工智能大会前夕首次亮相。它的论文 7 月 25 日提交 arXiv,标题本身就是论点:Step-3 很大,但用得起。

论点:别再靠缩小模型省钱

让模型变便宜的常规办法是把它做小。论文站到了反面:解码成本是模型与硬件如何交互的属性,不只是参数量的函数。三件事决定它——注意力的算术强度、混合专家层的稀疏度、以及注意力与前馈计算究竟被放在机器的什么位置。

于是 Step-3 每个 token 激活 380 亿参数。按论文说法,这比 DeepSeek-V3 或 Qwen3 MoE 235B 激活得更多,但阶跃在其研究的硬件上报告了更低的理论解码成本。它不是在说这个模型小,而是在说这个模型被摆成了"每瓦做更多有用功"的样子。

改的是管路,不是脑子

设计落在两项技术上,都写进了论文,都冲着部署机制去的,与模型聪明不聪明无关。

其一是多矩阵分解注意力。对 query 维度做低秩分解——2048,而不是 7168 的完整隐藏维度——同时压小 KV 缓存与注意力计算量。阶跃称表达力得以保留。

其二是注意力与前馈解耦。一套分布式推理系统,把注意力层和前馈层拆进各自专用的子系统,让两部分各自跑在最合适的硬件上。

其余配置寻常但具体:61 层,其中 5 层为稠密层;每个 MoE 层 48 个专家,每 token 选 3 个加 1 个共享专家;上下文窗口 65536 token。权重以 bf16 与 block-fp8 发布,官方建议用 vLLM 或 SGLang 部署。

那个值得看第二遍的数字

论文报告了一组 Hopper 显卡上的正面对比。在单 token 输出 50 毫秒的服务目标下,4K 上下文、FP8、不启用多 token 预测,Step-3 的单卡解码吞吐最高达到每秒 4039 个 token。同样设置下,DeepSeek-V3 是 2324。

这些数字来自阶跃自己的实现、自己选定的场景,论文还明确写了:它挑了一个对对照模型有利的设置。这句限定很重要。单一加速卡世代上的单个吞吐数字,是工程结果的证据,不是普适定律。限定之外仍然成立的是那个设计取向:一家团队可以把原本要砍掉的参数留着,只要花在对的地方。

一家上海公司为什么盯住每 token 成本

国内大模型实验室花了两年比榜单、比发版节奏。Step-3 押的是下一个约束来自经济性。推理模型想得更久,解码的 token 更多,每个 token 的成本开始决定一款模型能不能被大规模低价提供。"大而用得起",本质是想在推理的单位经济上取胜,而不是只在排行榜上。

公司自己的路径也指向这里。阶跃星辰(注册主体为上海阶跃星辰智能科技有限公司)2023 年 4 月注册,在 Step-3 之前已开源过视频生成模型,以及与吉利汽车合作的语音模型。多模态基础模型是它公开的方向,Step-3 被描述为首个全尺寸、原生多模态的推理模型。

对国内之外的开发者来说,开源权重才是实用信息。3210 亿参数的模型不是大多数团队能在机房里跑起来的,但 Apache 2.0 意味着可以查看、微调、商用,不必先谈授权。至于这套贴着硬件的设计能否干净地迁到论文之外的加速卡上,仍是开放问题。

诚实的局限

  • 成本与吞吐数字出自阶跃自己的论文和自选硬件,没有找到对 4039 对 2324 这组对比的独立复现。
  • 理论解码成本不等于生产账单。网络拓扑、批大小、真实上下文长度、token 定价,都会改变结果。
  • 模型确实大。开源去掉的是授权摩擦,不是对显存与多卡服务栈的要求。
  • 本文没有实测该模型;"首个全尺寸原生多模态推理模型"的说法来自公司自己的材料。

普通人现在能做什么

1. 评估模型时,把训练成本和服务成本分开。如果你预期的是长期、大流量的调用,一个更便宜可服务的模型,可能比稍微聪明一点的那个更值钱。

2. 自己部署开源模型,先看注意力与专家布局,再看榜单。KV 缓存大小和专家路由,比一个分数更能预测你的硬件账单。

3. 把那组 Hopper 数字当成待验证的假设。下载 fp8 权重,在你的时延目标下实测每秒 token 数,再决定要不要上。

数据与信源

信息截止 2026-11-17。文中数据以该日期前已公开的信息为准。

本文引用 公开报道与公司公告(未逐条列示)。

本站历史文章在正文中标注了来源机构与时间,但未逐条附原始链接。如需核验文中任一具体数字,请在评论区注明段落与数据,我们会在 2 个工作日内补出处。

本文为脑机网原创内容,基于公开信息与公开数据分析,不构成任何投资建议。

查看「AI大模型」更多内容 → · 返回首页

引用本文

欢迎媒体、智库与研究机构引用。引用时请注明来源「脑机网」并保留原文链接,同时保留文章页标注的「信息截止」日期。转载规则见 引用与转载规范。

GB/T 7714脑机网编辑部. 阶跃星辰开源 3210 亿参数推理模型,赌的是"想得慢"有多贵[EB/OL]. (脑机网)[2026-11-17]. 北京: 脑机网, https://aiai.cafe/a/njw-f752e6. 2026-11-18.
APA脑机网编辑部. (2026, November 17). 阶跃星辰开源 3210 亿参数推理模型,赌的是"想得慢"有多贵. 脑机网. https://aiai.cafe/a/njw-f752e6
脑机网 · 一线 AI 与脑机接口观察
每天更新,只讲能落地的技术、机器人与商业化进展。
看今日文章