十月十三日,路透社拿到一份IDC的报告。报告里有一组数字,讲的是今年上半年中国数据中心的加速器出货。其中两个数字交叉了,次序第一次调了过来。
一个是九十九点一万颗,这是GPU的出货量,比去年同期少了百分之二十六。另一个是一百零一点六万颗,这是非GPU加速器的出货量,同比增长近百分之八十。
后者超过了前者。据IDC统计,这是非GPU加速器的出货规模第一次超过GPU。在此之前,这两个数字的次序从来没有变过,今年上半年,这个次序被打乱了。
总量是二百点八万颗。也就是说,中国上半年卖出去的AI加速器里,有一半多一点,已经不是我们最熟悉的那种通用图形处理器,而是另一种架构。
需要说明的是,这些数字都按颗数统计,不是按金额。通用芯片单价高,专用芯片单价低,如果换成销售额来排,次序未必相同,这是两种不同的尺子。
两个数字交叉了
这件事的意义不在名次,在结构上的一次换位。GPU是通用的,什么活都能干;非GPU加速器是专用的,只干某一类活,比如推理,比如特定模型的矩阵计算。
这里说的非GPU,包括ASIC、FPGA、NPU这些架构。名字不同,共同点是都为某一类计算专门设计,不像GPU那样什么都能接,也不像它那样费电,真正的门槛在软件生态。
专用芯片的优势是省电、省钱、时延低。缺点是它不够灵活,模型一变,芯片可能就跟不上。过去大家宁愿要通用,就是因为模型变得太快,谁也不敢押注。
现在情况反过来了。模型架构逐渐稳定,推理需求大涨,专用芯片的性价比开始显出来。这不是技术突然进步了一大步,是需求变了形状。
少掉的那部分
GPU少掉的部分,主要来自英伟达。上半年它在中国出货六十七点八万颗,比去年同期少百分之四十四,市场份额降到百分之三十四,仍然是第一。
这个份额排第一,但和身后的距离只剩六个百分点。一年前,两家还不在一张桌子上。数字不会说话,趋势却很明显,差距是被一年时间磨掉的。
原因不复杂。最先进的型号进不来,能进来的型号又常常要看审批。买家下单的时候,先要问的不是性能有多强,而是能不能按时到货,先看交期稳不稳。
供应不稳,采购就会转向。这不是情绪,是采购部门的本能:一条产线不能建在“也许能到”的承诺上,模型训练也不能等一个没有日期的排期。
为什么是专用芯片
推理和训练是两种活。训练要把海量数据来回倒,讲究通用和带宽;推理是把已经学好的模型跑起来,讲究单位成本、耗电和响应速度,几乎相反。
当一个模型开始服务几亿人,推理的账本会比训练的账本更厚。这时候,少花一点电、少用几张卡,乘以一年的天数,都是实打实的钱,这是规模效应。
专用架构就是在这个位置上发力。它不追求什么都能做,只追求把那一件事做得更便宜。对买家来说,够用就好,便宜才是硬道理,这笔账谁都会算。
IDC的调研说,这类非GPU加速器主要被政府机构、互联网公司和几家主要电信运营商采用。这三个买家有个共同点:采购量大,而且对成本极其敏感。
差六个百分点
排在英伟达后面的是华为。上半年出货五十七点二万颗,去年同期是三十万颗出头,接近翻倍,市场份额达到百分之二十八,位置往前挪了一大截。
两家之间的差距,现在只剩六个百分点,这是IDC的数字,缩得很快。这个变化只用了半年,速度比很多行业里的人预想的要快一些,也更难被忽略。
再往后是几家中国厂商:平头哥占百分之七,寒武纪占百分之五,昆仑芯占百分之四,海光占百分之三。份额都不大,合计近两成,但都稳稳地在榜上。
IDC追踪的十一家中国半导体企业里,有九家上半年出货同比增长。这个数字比任何一家的份额都更能说明问题:增长不是单点,而是一片。
不只是华为
值得注意的是,非GPU这一块并不是华为一家吃下。按前面这几家的份额算,华为、平头哥、昆仑芯、寒武纪四家合计占近九成,剩下的一成多由其他厂商分,四家之外几乎没有声音。
四家分走近九成,说明这个市场的门槛不低。芯片、软件栈、集群组网,缺一样都交不出货,门槛不是一天垒起来的。能进来的,都是埋头做了好几年的公司。
但门槛高也意味着格局稳。一旦某家进了某家运营商的采购名单,换供应商的成本很高,下一次招标往往还是这几家,新面孔很难挤进来。
一颗芯片好不好用,还取决于它能不能和几万颗一起工作。集群里的网络、存储、调度,任何一环拖后腿,单卡的性能都发挥不出来,这一环最容易被忽略。
这也是为什么份额的变化总是慢,然后突然快。慢的时候在适配,在改软件、调算子;快的时候是适配完成了,订单一起来,数字就跳一格,这是硬件行业常见的节奏。
换的是结构
回到那两个交叉的数字。一百零一点六万对九十九点一万,差距只有两万五千颗,不到总量的百分之二,放在二百万里很不起眼,像一个统计误差。
但方向变了。过去十年,AI算力几乎等于GPU;今年上半年,中国卖出去的加速器里,不是GPU的那种第一次比GPU多,这是结构上的换位,这个等号写了整整十年。
IDC对全年的判断是,中国AI加速器总出货量增长百分之十九,而GPU出货量下降百分之九。也就是说,这个交叉不是一次性的,它还会继续,全年的数字会把这个方向写下去。
结构变了,竞争的方式也会变。IDC说,焦点正从单颗芯片的峰值性能,转向大规模集群的整体效率。谁能让一万张卡像一张卡那样工作,谁就更值钱。
对普通人来说,这些数字离得很远。但你手机里那个越来越会说话的助手,背后就是这些机器在算。它们换了一种,你大概感觉不到,只是账单涨得慢一点。
免责声明:本文基于公开信息撰写,仅供读者参考,不构成任何投资建议。