---
title: "阶跃星辰开源 3210 亿参数推理模型，赌的是\"想得慢\"有多贵"
date: 2026-11-17
category: AI大模型
site: 脑机网
canonical: https://aiai.cafe/a/njw-f752e6
language: zh-CN
---

# 阶跃星辰开源 3210 亿参数推理模型，赌的是"想得慢"有多贵

> ## 关键要点

## 关键要点

- 阶跃星辰开源 Step-3：3210 亿参数多模态推理模型，单 token 只激活 380 亿参数，权重用 Apache 2.0 发布。
- 论文的核心主张不是把模型做小，而是解码成本取决于模型与硬件的配合方式，不取决于参数总量。
- 在 Hopper 显卡、50 毫秒单 token 时延目标下，Step-3 单卡解码吞吐最高 4039 token/秒，同一设置下 DeepSeek-V3 为 2324。
- 论文自己承认，对比场景是挑了有利于对照模型的条件设定的。
问一个工程师"推理模型为什么贵"，答案很少是"它大"。是那段一个 token 一个 token 往前挪的时间，GPU 在烧，用户看不见。上海的阶跃星辰，交出的正是一台为缩短这段时间而从头设计的模型。

Step-3 于 2025 年 7 月下旬开源，此前在上海的世界人工智能大会前夕首次亮相。它的论文 7 月 25 日提交 arXiv，标题本身就是论点：Step-3 很大，但用得起。

## 论点：别再靠缩小模型省钱
让模型变便宜的常规办法是把它做小。论文站到了反面：解码成本是模型与硬件如何交互的属性，不只是参数量的函数。三件事决定它——注意力的算术强度、混合专家层的稀疏度、以及注意力与前馈计算究竟被放在机器的什么位置。

于是 Step-3 每个 token 激活 380 亿参数。按论文说法，这比 DeepSeek-V3 或 Qwen3 MoE 235B 激活得更多，但阶跃在其研究的硬件上报告了更低的理论解码成本。它不是在说这个模型小，而是在说这个模型被摆成了"每瓦做更多有用功"的样子。

## 改的是管路，不是脑子
设计落在两项技术上，都写进了论文，都冲着部署机制去的，与模型聪明不聪明无关。

其一是多矩阵分解注意力。对 query 维度做低秩分解——2048，而不是 7168 的完整隐藏维度——同时压小 KV 缓存与注意力计算量。阶跃称表达力得以保留。

其二是注意力与前馈解耦。一套分布式推理系统，把注意力层和前馈层拆进各自专用的子系统，让两部分各自跑在最合适的硬件上。

其余配置寻常但具体：61 层，其中 5 层为稠密层；每个 MoE 层 48 个专家，每 token 选 3 个加 1 个共享专家；上下文窗口 65536 token。权重以 bf16 与 block-fp8 发布，官方建议用 vLLM 或 SGLang 部署。

## 那个值得看第二遍的数字
论文报告了一组 Hopper 显卡上的正面对比。在单 token 输出 50 毫秒的服务目标下，4K 上下文、FP8、不启用多 token 预测，Step-3 的单卡解码吞吐最高达到每秒 4039 个 token。同样设置下，DeepSeek-V3 是 2324。

这些数字来自阶跃自己的实现、自己选定的场景，论文还明确写了：它挑了一个对对照模型有利的设置。这句限定很重要。单一加速卡世代上的单个吞吐数字，是工程结果的证据，不是普适定律。限定之外仍然成立的是那个设计取向：一家团队可以把原本要砍掉的参数留着，只要花在对的地方。

## 一家上海公司为什么盯住每 token 成本
国内大模型实验室花了两年比榜单、比发版节奏。Step-3 押的是下一个约束来自经济性。推理模型想得更久，解码的 token 更多，每个 token 的成本开始决定一款模型能不能被大规模低价提供。"大而用得起"，本质是想在推理的单位经济上取胜，而不是只在排行榜上。

公司自己的路径也指向这里。阶跃星辰（注册主体为上海阶跃星辰智能科技有限公司）2023 年 4 月注册，在 Step-3 之前已开源过视频生成模型，以及与吉利汽车合作的语音模型。多模态基础模型是它公开的方向，Step-3 被描述为首个全尺寸、原生多模态的推理模型。

对国内之外的开发者来说，开源权重才是实用信息。3210 亿参数的模型不是大多数团队能在机房里跑起来的，但 Apache 2.0 意味着可以查看、微调、商用，不必先谈授权。至于这套贴着硬件的设计能否干净地迁到论文之外的加速卡上，仍是开放问题。

## 诚实的局限

- 成本与吞吐数字出自阶跃自己的论文和自选硬件，没有找到对 4039 对 2324 这组对比的独立复现。
- 理论解码成本不等于生产账单。网络拓扑、批大小、真实上下文长度、token 定价，都会改变结果。
- 模型确实大。开源去掉的是授权摩擦，不是对显存与多卡服务栈的要求。
- 本文没有实测该模型；"首个全尺寸原生多模态推理模型"的说法来自公司自己的材料。

## 普通人现在能做什么
1. 评估模型时，把训练成本和服务成本分开。如果你预期的是长期、大流量的调用，一个更便宜可服务的模型，可能比稍微聪明一点的那个更值钱。

2. 自己部署开源模型，先看注意力与专家布局，再看榜单。KV 缓存大小和专家路由，比一个分数更能预测你的硬件账单。

3. 把那组 Hopper 数字当成待验证的假设。下载 fp8 权重，在你的时延目标下实测每秒 token 数，再决定要不要上。

---

来源：脑机网（https://aiai.cafe/）｜原文：https://aiai.cafe/a/njw-f752e6
本内容仅供参考，不构成投资建议。
