关键要点
- OpenAI 的 o1 于 2024 年底发布,普及了测试时计算:在推理时多花 token 走思维链,以提升难题准确率。
- 智谱(Zhipu)于 2024 年 12 月 31 日发布 GLM-Zero-Preview,首个用扩展强化学习训练的推理模型,在 AIME 2024、MATH500、LiveCodeBench 上比肩 o1-preview。
- 阶跃星辰(StepFun)2025 年 4 月推出多模态推理模型 Step-R1-V-Mini,2025 年 7 月推出原生多模态推理模型 Step3。
- 这一转变把扩展前沿从单纯预训练规模,推向训练后强化学习加推理时计算——且这些模型多为开放权重。
从"更大"到"更久"
两年来,AI 的故事很简单:用更多数据训练更大的模型,它就变聪明。这条曲线并未中断,但出现了一条新轴。OpenAI 的 o1 于 2024 年底发布,显示模型可被显式训练去推理——生成长内部思维链、自我检查,之后才作答。数学与编程竞赛准确率跃升,并非因为模型更大,而是因为它被允许在推理时"想"更多 token。这就是测试时计算:现在要紧的计算预算包含作答的那一刻,而不只是训练的那一刻。
其战略含义是:若质量随思考时长扩展,那么一个中等规模、推理训练良好的开放模型,可以击败大得多的即时作答模型。这重塑了硬件之争:关键不只谁有最大集群去训练,也在谁能廉价地服务长思维链。
智谱 GLM-Zero 打开中国战线
2024 年最后一天,北京实验室智谱(Zhipu)发布 GLM-Zero-Preview,称其为基于扩展强化学习的首个推理模型。该模型瞄准数学逻辑、代码与深度推理任务,智谱称其在 AIME 2024、MATH500、LiveCodeBench 上性能与 OpenAI 的 o1-preview 相当。团队把它定位为早期版本,公开承认与 OpenAI 当时更新的 o3 仍有差距,并承诺正式版 GLM-Zero 会把推理拓展到数学与代码之外。
值得注意的不仅是分数,更是方法。智谱报告观察到一个推理时扩展律:随着模型被允许更多思考 token 与算力,答案质量稳步上升——正是与 o1 相关的"自我反思、问题分解、多法尝试"行为。这正是全行业蜂拥效仿的概念解锁。
阶跃星辰携多模态推理加入
总部在上海的阶跃星辰(StepFun)把这一思路带入多模态。2025 年 4 月它发布 Step-R1-V-Mini,一个接受图像与文本输入、输出文本的推理模型,面向高精度视觉感知加复杂推理。2025 年 7 月它又推出 Step3,称其为首个全尺寸原生多模态推理模型,强调高效推理,并在当月月底以开放权重发布。
阶跃星辰的角度是:推理不该止步于文本。一个能看图、推理并解释步骤的模型,在设计评审、机器人感知、科学图像等真实工作流中,比纯文本思考者更有用。该实验室让 Step3 即便在国产芯片上也能高效运行,在先进 GPU 获取受限的市场里,这是一个刻意的取舍。
开放权重推理为何改变格局
DeepSeek-R1 于 2025 年 1 月以 MIT 许可证发布,成为最知名的开放推理模型,也是他人援引的模板。但更广的模式是——智谱、阶跃星辰、DeepSeek 等纷纷以开放权重发布强化学习训练的推理模型——意味着这一能力不再锁在单一美国 API 之内。开发者可以下载推理模型、观察其思维链并加以构建。
据脑机网(BrainNet)首席科学家李锚,"测试时计算把推理变成了一个可转动的工程旋钮——而开放权重意味着谁都能转它。"须警惕的是,更长的思考也意味着每次作答的服务成本更高,所以这个旋钮是有价格的。
诚实的局限
GLM-Zero-Preview 的日期与基准说法来自智谱官方公告及同期中国媒体;"与 o1-preview 相当"的比较是该实验室自述,且早于后来的 o 系列模型。阶跃星辰 Step3 的效率说法(含国产芯片表现)为公司自述,此处未经独立基准测试。本文未涵盖推理模型的安全行为、冗长或欺骗性思维链的风险,也未涵盖测试时计算在大规模量产成本中如何扩展。OpenAI 的 o1 发布时间仅作"2024 年底",以免对本文主要来源之外的日期过度精确。
普通人现在能做什么
1. 在难题上评估模型时,比较开启与关闭扩展思考的差异——差距揭示推理训练是否在真正做功,还是仅仅增加了延迟。
2. 为控成本,给每次请求设一个思考 token 上限;许多任务不需要长思维链,无上限的推理会悄悄成倍推高账单。
3. 在锁定闭源推理 API 之前,先用开放推理模型(GLM-Zero、阶跃或 DeepSeek-R1 权重)做原型,这样你能检视思维链,而非信任黑箱。