---
title: "AI大模型｜大模型换赛道了？扩散式生成跑到每秒上千标记，写代码快到离谱！"
date: 2026-10-21
category: AI大模型
site: 脑机网
canonical: https://aiai.cafe/a/njw-5799a2
language: zh-CN
---

# AI大模型｜大模型换赛道了？扩散式生成跑到每秒上千标记，写代码快到离谱！

> 用大模型写过长文的人都知道那种煎熬：文字一个一个往外蹦，急事等不起。现在有一批公司换了个思路——不一个一个写了，而是"整块整块地生成"。

用大模型写过长文的人都知道那种煎熬：文字一个一个往外蹦，急事等不起。现在有一批公司换了个思路——不一个一个写了，而是"整块整块地生成"。

## 扩散式语言模型的路线之争
据多家海外科技媒体报道，Inception Labs近日发布扩散式语言模型Mercury 3，官方宣称生成速度达到每秒1068个标记，上下文窗口100万，定价为每百万标记输入0.10美元、输出0.35美元，能力对标主流轻量级模型。

它用的是与主流自回归模型完全不同的技术路线。传统大模型像人写字，一个词接一个词往外吐；扩散模型则像先打出一张模糊的草稿，再整块整块地并行细化。官方称Mercury 3的规模比上一代Mercury 1大了40倍，并以此验证扩散路线也遵循与大模型类似的规模定律——简单说，这条路线能一路长大，不是玩具。

社区的真实反馈也在跟进。有开发者在技术论坛上报告实测速度约每秒三百到四百个token，虽然低于官方数字，但仍远快于常规模型；也有声音追问：去年谷歌演示过类似的扩散模型，为何迟迟没有产品化？

## 快，到底值多少钱
速度在哪些场景是真金白银？一是高频交互：客服、语音助手，用户对延迟极其敏感；二是批量任务：代码补全、文档批处理，吞吐量直接决定成本；三是智能体工作流：一个智能体任务动辄几十轮工具调用，每轮省一秒，全程就是质变。

更微妙的是价格。扩散路线理论上可以用更少的计算步骤产出同样内容，如果速度与成本优势能持续保持，它可能改写推理市场的定价基准——这对每年在推理费用上花掉数亿美元的大厂，和按标记付费的独立开发者，都是切身利益。

当然，冷静的一面也要看到：新模型的实际质量还需第三方长周期检验，"跑分快"与"用着好"之间的距离，行业里被验证过太多次。

## 这场路线之争对行业的意义
自回归路线统治了大模型三年，但"统治"不等于"终结"。历史上，技术路线的更替往往发生在主流路线边际收益递减的时刻：当继续堆大模型带来的提升越来越贵，替代路线的窗口就打开了。扩散语言模型的提速，正是这样一次窗口试探。

对国产大模型团队来说，这同样是值得研究的机会——新路线意味着新起跑线，专利、算力和数据的既有优势在新范式下都需要重新校准。

## 普通人现在能做什么
一是开发者可以关注扩散模型的API，拿自己的真实任务测一测速度与质量的平衡点；二是企业在采购推理服务时，把"响应延迟"单独立项评估，不同任务对速度的敏感度差别巨大；三是普通用户无需焦虑，你用的产品后台换什么引擎，体验更快更便宜才是终点。

写字快慢是表象，算力账单才是本质。

---

来源：脑机网（https://aiai.cafe/）｜原文：https://aiai.cafe/a/njw-5799a2
本内容仅供参考，不构成投资建议。